Tech

AI-botokkal manipulálták a felhasználókat - botrány a Zürichi Egyetem titkos Reddit-kísérlete körül

A mesterséges intelligencia társadalmi hatásait vizsgáló kutatás etikátlan és jogsértő módszerei miatt került a kritikák kereszttüzébe a Zürichi Egyetem, miután kiderült: kutatói titokban AI-chatbotokat alkalmaztak Reddit-felhasználók befolyásolására egy vitafórumon – írta meg több nemzetközi hírforrás.

A vitatott kísérletet az egyik legnagyobb Reddit-közösségben, a r/ChangeMyView aloldalon hajtották végre, amely arról ismert, hogy tagjai nyitottak a világképüket érintő, érdemi párbeszédekre. A kutatók több mint 1700 hozzászólást posztoltak különböző, mesterséges intelligenciával vezérelt álprofilokon keresztül, emberi felhasználónak álcázva a botokat.

Provokatív személyazonosságok és célzott érvelés
A chatbotok olyan fiktív személyiségeket öltöttek magukra, mint például:

• férfi nemi erőszak áldozata, aki relativizálja saját traumáját,
• afroamerikai férfi, aki ellenzi a Black Lives Matter mozgalmat,
• vagy családon belüli erőszak tanácsadó, aki azt állította, hogy „a legsebezhetőbb nők azok, akiket túlságosan védő szülők neveltek.”

Egy másik AI-modell még ennél is tovább ment: a felhasználói profilokat elemezve személyre szabott érveket alkotott a vitapartnerek meggyőzésére – mindezt anélkül, hogy a résztvevők tudtak volna a manipulációról.

Utólagos beismerés, jogi következmények
A kísérletet csak hónapokkal később ismerték el a kutatók a közösség moderátorainak, „a tanulmány részeként végrehajtott átláthatósági lépésként”. A Reddit platform azonban világossá tette: tiltja a rejtett AI-alapú tartalomgyártást, és sem a Reddit vezetése, sem az aloldal moderátorai nem tudtak a kísérletről.

Ben Lee, a Reddit jogi igazgatója „jogilag és etikailag elfogadhatatlannak” minősítette a történteket, és bejelentette: jogi lépéseket terveznek a Zürichi Egyetem és az érintett kutatók ellen.

Az etika és a technológia határán
A Zürichi Egyetem etikai bizottsága ugyan úgy nyilatkozott, hogy a kutatás „csekély kárral járt”, a felhasználók és a szakmai közvélemény azonban felháborodással reagált. Az eset kapcsán az intézmény már belső vizsgálatot indított, és bejelentette: a tanulmány eredményeit nem publikálják.

A Science tudományos folyóirat szerint a kutatók azzal védekeztek, hogy munkájukat „etikai és átláthatósági elvek” mentén végezték – ennek ellenére az internetes közösség bizalma súlyosan megingott.

A botok és a véleményformálás veszélyei
A mesterséges intelligencia által vezérelt chatbotok alkalmazása – különösen, ha azok valós felhasználóknak adják ki magukat – egyre komolyabb társadalmi és politikai kockázatokat hordoz. Szakértők már korábban is figyelmeztettek arra, hogy a botok alkalmasak lehetnek a közvélemény manipulálására, különösen választások idején.

Míg a nyugati országok – élükön az Egyesült Államokkal és az Egyesült Királysággal – gyakran vádolják Oroszországot ilyen típusú „botfarmok” működtetésével, az utóbbi években maguk a nyugati szereplők is egyre gyakrabban kerülnek reflektorfénybe hasonló eszközök alkalmazása miatt.