A Google Gemini-t Irán adathalászati célokra alkalmazza.

A Google jelentése szerint észleltek olyan kormányzati ügynököket Kínából, Oroszországból, Iránból és Észak-Koreából, akik a Gemini platformot hamis célokra használják. Különösen aggasztó, hogy a négy ország közül Irán tűnik a legaktívabb rosszindulatú felhasználónak.

A webóriás nyomon követte, hogy ezek a nemzetek hogyan használják a Geminit, és nem csak olyan egyszerű dolgokat használt fel a kiszűrésükhöz, mint például az IP-címek, hanem technikai jelek és viselkedési minták kombinációját. És bár ezeknek az államilag támogatott ügynököknek sikerült a Geminit arra használniuk, hogy lefordítsák és testre szabják az adathalászcsalikat az egyes áldozatok számára, információt keressenek a megfigyelési célpontokról, és néhány szoftverszkriptet írjanak - ismerte el a Google -, a társaság azt állítja, hogy a védőkorlátok megakadályozták, hogy a mesterséges intelligencia rosszindulatú programokat generáljon.

Összességében az amerikai internetes óriás úgy véli, hogy Irán és társai nem csinálnak semmi túlságosan felháborítót, és elsősorban az LLM-et információkérésre használják, amire azt tervezték. Más szóval, külföldi kormányok rossz dolgokra használják a Google mesterséges intelligenciáját, de ezzel nincs semmi baj, legalábbis ezt mondják nekünk. "Bár az MI hasznos eszköz lehet a fenyegetésekkel foglalkozó szereplők számára, még nem az az aduász, aminek néha beállítják" - áll a Google jelentésében, amelyet a Threat Intelligence Group (TIG) készített. "Bár látjuk, hogy a fenyegető szereplők generatív MI-t használnak olyan általános feladatok elvégzésére, mint a hibaelhárítás, a kutatás és a tartalomgenerálás, nem látjuk jelét annak, hogy újszerű képességeket fejlesztenének ki."

A TIG jelentése szerint az iráni kémek tették ki a fent említett kvartett ügynökei által megfigyelt összes Gemini-használat 75 százalékát. A Google csapata több mint 10, Irán által támogatott kibercsapatot azonosított, akik a mesterséges intelligencia szolgáltatást használták, néhányan közülük különösen az Androiddal kapcsolatos biztonság kutatására összpontosítottak. Tágabb értelemben ezek a csoportok a Geminit felderítésre, sebezhetőségek kutatására, ingyenes tárhelyszolgáltatók azonosítására, valamint helyi személyiségek és tartalmak kialakítására használták a kiberműveletekhez. Különösen az iráni APT42 egység használta a Geminit adathalász tartalmak készítésére, ami az összes iráni APT, azaz fejlett fenyegetés-tevékenység 30%-át teszi ki a platformon végzett tevékenységnek.

A kínai kémek is használják a rendszert tartalomkészítésre és alapkutatásra, tőlük 20 csoportot azonosítottak. A jelentés szerint e tevékenység nagy része az amerikai kormányzati intézmények kutatására összpontosít, míg a Peking által támogatott szimatolók a Microsofthoz kapcsolódó rendszerekkel és fordítási munkával kapcsolatban is segítséget kértek. A Google azt is állítja, hogy észak-koreai ügynökök az LLM-jét arra használják, hogy IT-munkásoknak szóló álláspályázatokat írjanak, az elzárt nemzet azon folyamatos erőfeszítéseinek részeként, hogy bejuttassák munkavállalóikat a nyugati nagyvállalatokhoz. Kilenc különböző északi csoport is megpróbált szabadúszó fórumokat találni a Discordon, valamint dél-koreai katonai és nukleáris technológiával kapcsolatos információkat a Geminin keresztül.

Úgy tűnik, az orosz felhasználók viszonylag ritkán fordulnak a Geminihoz, mivel a csapat csupán három csoport tevékenységét tudta nyomon követni. A Google szerint ennek oka lehet, hogy vagy helyi, belföldi LLM-eket alkalmaznak, vagy esetleg próbálják elkerülni a figyelmet. Lehetséges, hogy az LLM használatát rendkívül ügyesen titkolják. Az orosz aktivitás körülbelül 40 százaléka olyan üzemeltetőktől származik, akik "az orosz állam támogatott csoportjaihoz kötődnek, amelyek korábban Jevgenyij Prigozsin, a néhai orosz oligarcha irányítása alatt álltak" - állította a Google. Ez valószínűleg a Wagner-csoport és kapcsolódó szervezeteik tevékenységére utal. A Google továbbá megemlíti, hogy egy orosz ügynök a Geminit tartalom létrehozására és manipulálására használta, többek között Kreml-barát cikkek átírására, amelyeket befolyásoló kampányokban vetettek be. Ez a módszer pontosan olyan manipuláció, amit Prigozsin Internet Research Agency-je is alkalmazott.

Amikor a Gemini védőkorlátjainak áttöréséről és a motor kihasználásáról van szó, hogy rosszindulatú kódot írjanak vagy személyes adatokat találjanak, a Google azt állítja, hogy az LLM sikeresen blokkolja az ilyen kísérleteket. Megfigyelték, hogy egyre többen próbálnak nyilvánosan ismert sebezhetőségeket használni, majd azokat kissé átalakítva megpróbálják megkerülni a szűrőket, de ezek hatástalannak tűnnek. A hirdetési óriás arról számolt be, hogy az egyik esetben kódolt szöveget kívántak beágyazni egy futtatható fájlba, egy másik esetben pedig Python kódot próbáltak generálni egy szolgáltatásmegtagadási támadáshoz. A Gemini ugyan feldolgozta a Base64-hexre való átalakítási kérést, de a további rosszindulatú lekérdezéseket elutasította.

A Google különféle kísérleteket észlelt, amelyek célja a Gemini más szolgáltatásaival való visszaélés módszereinek feltérképezése volt. A vállalat hangsúlyozza, hogy biztonsági rendszerei sikeresen megakadályozták ezeket a próbálkozásokat, és hogy folyamatosan dolgoznak a további védelmi intézkedések kidolgozásán. Emellett a DeepMind laboratórium is szerepet játszik, amely olyan módszerek kifejlesztésén fáradozik, amelyek segíthetnek megóvni a mesterséges intelligencia alapú szolgáltatásokat a támadásoktól és a jogosulatlan lekérdezésektől. "A Google DeepMind fenyegetésmodellek kidolgozásán is dolgozik a generatív mesterséges intelligencia számára, hogy azonosítani tudja a potenciális sebezhetőségeket, és új értékelési, valamint képzési technikákat alakítson ki a felmerülő visszaélések kezelésére" - áll a jelentésben.