Fura dolgokat indít el az agyban, ha valaki tévedést vagy hazugságot lát egy videó összefoglalójában

Sokan fordulnak a mesterséges intelligenciához, ha összegezni kell valamit, például egy videón látottakat. Azonban az AI sem tévedhetetlen, hajlamos a hallucinációkra, és ennek komoly hatása lehet az emberi memóriára is. Képes ugyanis hamis emlékeket ébreszteni azokban, akik ezeket az összefoglalókat olvassák.

Minderre a Georgetown Egyetem és a Washingtoni Egyetem kutatói figyeltek fel, és érdekes kísérletekkel igazolták a hipotézisüket. Két különböző megközelítést is alkalmaztak a mesterséges intelligencia általi összefoglalók emberi memóriára gyakorolt ​​hatásának vizsgálatára.

Mindenekelőtt az AI modellek által vétett hibákra voltak kíváncsiak, ezért elemezték a ChatGPT és a Gemini által generált összefoglalókat. Kiderült, hogy a modellek sokszor hibáztak, kritikus részleteket hagytak ki, félreértelmeztek információkat, olykor pedig pontatlan részleteket hallucináltak. A vizsgált összefoglalók a fontos részletek felét kihagyták, és ez azt mutatja, hogy nem csak a klasszikus „hallucináció” lehet probléma. A kutatók szerint mindez már csak azért is aggasztó, mivel a rendőrségeken szigorú tesztelés nélkül használhatnak videós összefoglaló technológiákat, miközben nem tudják, hogy mennyire pontatlanok lehetnek a mesterséges intelligencia által generáltak.

A következő kísérlet résztvevőinek animációs videókat mutattak. Ezeken egy piros autó közeledett egy stop vagy elsőbbségadás táblával ellátott kereszteződéshez. A résztvevőknél véletlenszerűen választották ki, hogy melyik táblát nézzék. A videókon az autó jobbra fordul egy kereszteződésben, és elüt egy gyalogost.

HVG/ChatGPT

24-48 órával később a résztvevőket véletlenszerűen egy mesterséges intelligencia által generált összefoglalóhoz rendelték. Ezek közül volt, ami pontos volt, és volt, amelyikben voltpontatlanság is. Az összefoglaló elolvasása előtt azt is közölték a résztvevőkkel, hogy az általuk olvasott összefoglalót mesterséges intelligencia vagy egy ember készítette. Ez persze nem volt teljesen igaz, ugyanis az összefoglaló szöveget teljes egészében a ChatGPT generálta.

A résztvevőket megkérdezték, hogy a videóban látható autó a Stop vagy az elsőbbségadás táblához állt-e. Azok közül, akik a videóról pontos információkat tartalmazó összefoglalót olvasták, 83,6 százalék válaszolt helyesen, míg a félrevezető összefoglaló elolvasása után a résztvevőknek csak 44,8 százaléka mondta a helyes választ. Mindössze egyetlen hibás információ több mint 38 százalékponttal rontotta a helyes felidézést. Ráadásul az eredményt az sem befolyásolta, hogy az emberek az AI-t vagy embert gondoltak az összefoglaló készítőjének.

A mesterséges intelligencia képes félretájékoztatást generálni, még ellenséges szándék hiányában is, ami jelentősen befolyásolhatja az emberi memóriát – összegezték a megfigyeléseket a jelenleg arXiv-preprintként elérhető tanulmány szerzői.

A jövőbeli kutatásokhoz az animált videók elemzése helyett valós példákat kívánnak megvizsgálni a szakemberek. Különösen érdekesnek tartják, hogy mi történik a rendőrségi testkamerák felvételeivel, és hogyan néznek ki a mesterséges intelligencia által generált rendőrségi jelentések, illetve hogy manipulálja-e ez az emberek rendőrségi és civil interakciókra vonatkozó emlékeit, és talán ennek következtében az incidensben történtekről alkotott felfogásukat. „Azt hiszem, nagyon mélyen és kritikusan kellene gondolkodnunk azon, hogy vajon a mesterséges intelligenciát hogyan kellene használni az információk összefoglalására, különösen a nagy téttel bíró helyzetekben” – jegyezte meg Mattea Sim vezető kutató.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.