A mesterséges intelligencia folyamatosan teret hódít a böngészők világában, azonban a szakértők figyelmeztetnek, hogy e fejlődés komoly veszélyeket rejthet magában.
Az OpenAI ChatGPT Atlas és a Perplexity Comet két innovatív AI-alapú böngésző, melyeket a mesterséges intelligencia terén elért eredményeik révén alkottak meg. E két cég a technológiai fejlődés élvonalában áll, új lehetőségeket nyitva a felhasználók számára a digitális világ felfedezésében.
A Google Chrome dominálását szeretné megkérdőjelezni az internetes böngészők világában.
Ezt az ígéretet a "böngészőügynökök" néven ismert programok valósítják meg, amelyek a felhasználók nevében navigálnak a weben és űrlapokat töltenek ki. Fontos azonban megjegyezni, hogy a felhasználók gyakran nincsenek tudatában az ügynökalapú böngészéshez kapcsolódó adatvédelmi kockázatoknak, ami napjaink technológiai szektorának egyik komoly problémája.
A TechCrunchnak nyilatkozó szakértők véleménye alapján...
az AI-böngészőügynökök a hagyományos böngészőknél nagyobb kockázatot jelenthetnek.
Sokan úgy gondolják, hogy a felhasználóknak alaposan mérlegelniük kell, milyen mértékű hozzáférést biztosítanak ezeknek az ügynököknek. Fontos, hogy a várt előnyök és a potenciális kockázatok arányát is figyelembe vegyék.
A Comet és a ChatGPT Atlas alkalmazások széleskörű jogosultságokat igényelnek, hogy maximálisan kihasználhassák lehetőségeiket: hozzáférést kérnek az e-mailekhez, naptárakhoz és névjegyekhez, továbbá jogot kapnak különböző műveletek végrehajtására. A TechCrunch által végzett tesztek alapján kiderült, hogy ezek az ügynökök leginkább egyszerű feladatok során - különösen ha nagyobb jogosultságokkal rendelkeznek - bizonyulnak hasznosnak. Viszont a bonyolultabb kihívásokkal gyakran nehezen birkóznak meg, és a feladatok elvégzése is lassabb tempóban zajlik. Sok esetben úgy tűnik, hogy használatuk inkább látványos mutatvány, mintsem valódi termelékenységnövelő megoldás.
A kockázatok kezelése nem játék. Az egyik legnagyobb veszélyt a "prompt injection" támadások jelentik, ahol a támadók alattomos módon, álcázva helyezik el rosszindulatú utasításaikat egy weboldalon.
Amennyiben az ügynök ilyen irányú elemzést végez, könnyen rávehető, hogy teljesítse a támadó utasításait.
Ha nem biztosítunk megfelelő védelmet, az ügynökök véletlenül is kiszivárogtathatják a felhasználói adatokat, mint például e-maileket vagy bejelentkezési információkat. Emellett a felhasználó nevében is cselekedhetnek, így akár nem kívánt rendeléseket adhatnak le, vagy posztolhatnak a közösségi médiában is.
A prompt injection jelensége az AI-ügynökök térnyerésével egy időben jelentkezett, és a mai napig nem létezik átfogó megoldás a problémára. A ChatGPT Atlas bevezetése várhatóan megnöveli az ilyen típusú böngészőügynökök iránti érdeklődést, ami potenciálisan fokozhatja a biztonsági kockázatokat.
Az OpenAI és a Perplexity innovatív védelmi intézkedéseket vezetett be a potenciális kockázatok csökkentése érdekében. Az OpenAI által kifejlesztett "Kijelentkezett mód" lehetővé teszi, hogy az ügynök kijelentkezett állapotban végezze a böngészést. Ez ugyan csökkenti a funkcionalitását, viszont jelentősen megnehezíti a támadók dolgát, hiszen kevesebb adat áll rendelkezésükre. Ezzel párhuzamosan a Perplexity egy valós idejű észlelőrendszert alakított ki, amely célja, hogy azonnal felismerje a prompt injection típusú támadásokat.
A kiberbiztonsági szakemberek pozitívan értékelik ezeket az intézkedéseket, ugyanakkor hangsúlyozzák, hogy ezek önmagukban nem garantálják az OpenAI és a Perplexity böngészőügynökeinek teljes védelmét. Ráadásul a cégek sem állítják, hogy ezek a lépések minden kockázatot kizárnának.
Steve Grobman, a McAfee technológiai igazgatója a TechCrunchnak azt mondta: a prompt injection támadások gyökere, hogy a nagy nyelvi modellek nem igazán tudják megkülönböztetni, honnan érkeznek az utasítások. Elmosódik a határ a modell alaputasításai és a feldolgozott adatok között, ezért nehéz végleg kiirtani a problémát. "Macska-egér játék ez" - fogalmazott. - "A prompt injection folyamatosan fejlődik, és ezzel párhuzamosan a védekezési és enyhítési technikák is."
