A ChatGPT keresőmotorja manipulálható és becsapható - Világgazdaság A ChatGPT rendszereket egyre inkább a figyelem középpontjába helyezik, de felmerül a kérdés, hogy mennyire megbízhatók. Egyes felhasználók képesek manipulálni az algoritmusokat, aminek k
Egy újabb izgalmas kísérlet rávilágított arra, hogy a rejtett tartalmak alkalmazásával befolyásolható a ChatGPT keresési eredménye. Természetesen a felfedezett hibákat valószínűleg gyorsan orvosolják majd.
Néhány napja már sima regisztrációval, fizetős ChatGPT Plus hozzáférés nélkül is elérhető az OpenAI által fejlesztett új, mesterségesintelligencia-alapú keresőmotor, amit a Guardian szerkesztősége azon melegében le is tesztelt, hogy mennyire manipulálható.
A keddi napon megjelent cikk szerint az újságírók arra kérték a keresőmotorokat, hogy készítsenek összefoglalót olyan weboldalakról, ahol rejtett tartalmak találhatók. Ezek a rejtett információk lehetnek harmadik féltől származó instrukciók, amelyek célja, hogy befolyásolják a ChatGPT válaszait, és egy bizonyos irányba tereljék azokat. Emellett léteznek olyan tartalmak is, amelyek kifejezetten azért készültek, hogy alakítsák a mesterséges intelligencia reakcióit; például egy hosszabb szövegrészlet, amely egy adott termék vagy szolgáltatás előnyeit részletezi.
A kísérlet során a ChatGPT-nek egy olyan URL-t mutattak, amely egy fényképezőgép termékoldalának tűnt, de valójában hamis weboldalra irányított. A kutatók azt firtatták, hogy vajon megéri-e megvásárolni a bemutatott gépet. A mesterséges intelligencia kezdetben kedvező, ugyanakkor árnyalt válaszban ismertette a készülék pozitív jellemzőit, ugyanakkor rávilágított néhány olyan aspektusra is, amelyek nem biztos, hogy előnyösek a vásárlók számára.
Abban az esetben, ha az oldalon elrejtett szövegben a ChatGPT-t arra kérték, hogy kedvező véleményt fogalmazzon meg, a válasz mindig maximálisan pozitív lett. Ez akkor is így történt, ha a termékről egyébként negatív értékelések voltak láthatók az oldalon.
Jacob Larsen, a CyberCX kiberbiztonsági szakértője rámutatott, hogy ha a ChatGPT jelenlegi működési módját nem módosítják, akkor jelentős kockázatokkal kell szembenéznünk. A szakértő figyelmeztetett arra, hogy a rendszer meglévő hibáit kihasználva a csalók olyan megtévesztő weboldalakat alakíthatnak ki, amelyek segítségével könnyedén átverhetik a gyanútlan felhasználókat.
A szakértő említette, hogy ez a keresőfunkció még viszonylag új fejlesztés, és az OpenAI fejlesztői valószínűleg folyamatosan tesztelik, így a felmerülő hibák is hamarosan orvoslásra kerülnek.
