Tech

AI-hallucinációk - technológiai fejlődés vagy globális blamázs?

Az AI nem váltja ki a gondolkodást - csak azt szimulálja. És ez az, amit sosem szabad elfelejtenünk.

2025.06.14 18:36ma.hu
nyomtatásKinyomtatom
+Nagyobb betűméret-Kisebb betűméretbetűméret

Egy figyelmetlen szerkesztőségi baklövés rávilágít arra, hogyan olvadnak össze a mesterséges intelligencia hibái és az újságírás hanyatló normái. Nemrég több vezető amerikai napilap – köztük a Chicago Sun-Times és a Philadelphia Inquirer – közölt egy nyári olvasmánylistát, amely tele volt nem létező, a mesterséges intelligencia által kitalált könyvcímekkel. Az anyag – amelyet a King Features Syndicate (a Hearst médiakonszern alá tartozó cég) terjesztett – kritikátlanul vette át a ChatGPT által generált tartalmat, és ezzel komoly kérdéseket vetett fel a szerkesztői ellenőrzés, a tényellenőrzés és az AI-újságírás jövője kapcsán.

A botrányos cikket Marco Buscaglia jegyezte, aki minden jel szerint egy az egyben bemásolta a ChatGPT által generált szöveget – beleértve a kitalált könyveket és szerzőket is. Az eset gyorsan elhíresült, miután több olvasó és szakértő is észrevette, hogy a listán szereplő művek egyszerűen nem léteznek.

A legaggasztóbb azonban nem is az AI hibája volt, hanem az, hogy egyetlen szerkesztő sem ellenőrizte a tartalom valódiságát. A Sun-Times például épp nemrég bocsátotta el szerkesztői gárdájának 20%-át – nem csoda, hogy az efféle hibák átsiklanak a rostán.

A mesterséges intelligencia – például a ChatGPT – úgynevezett hallucinációi olyan válaszokat jelentenek, amelyek látszólag hitelesek, de valójában teljesen kitaláltak. Ezek nem tudatos hazugságok, hanem a statisztikai valószínűségek alapján generált, de tényszerű alap nélküli állítások.

Az AI több okból is hallucinálhat

- Hiányos vagy hibás tréningadatok: Az AI modellek hatalmas mennyiségű, gyakran ellentmondásos vagy pontatlan forrásból tanulnak.

- Túlzott optimalizálás a nyelvi „valószínűségre”: Ha nincs konkrét adat, a rendszer „kitölti a hiányt” egy statisztikailag lehetséges, ám téves válasszal.

- Valóságérzékelés hiánya: Az AI nem tapasztalja meg a világot. Egy kérdésre, mint például „Mi a legbiztonságosabb autó 2025-ben?”, teljesen kitalált modellel is válaszolhat.

- Homályos promptok: A felhasználók gyakran pontatlanul fogalmaznak, ami növeli a hibák esélyét.

- Tényellenőrzés helyett találgatás: Az AI a nyelvi folyékonyságot részesíti előnyben az igazsággal szemben. Ha nem tudja a választ, inkább improvizál, mint hogy "ne tudja".

Etikai felelősség és kollektív mulasztás

Buscaglia mellett a legnagyobb felelősség a King Features és a cikket közlő lapok szerkesztőségeit terheli. Ezek a médiumok rendre etikai elvekre hivatkoznak, miközben önellenőrzés nélkül publikálnak generált tartalmakat, sőt, gyakran automatizálják a teljes tartalomgyártást.

Az irónia csúcsa: akár magát a ChatGPT-t is használhatták volna az írás tényszerűségének ellenőrzésére – ez legfeljebb 30 másodpercet vett volna igénybe.

Veszélyes precedens a jövőre nézve

A mostani eset „csak” egy kulturális ajánló volt, ám a probléma mélyebb, különösen, ha belegondolunk: AI-modellek már ma is jelen vannak pénzügyi, légi közlekedési, vegyi és nukleáris rendszerekben. Egy rossz döntés – egy AI-hallucináció alapján – súlyos következményekkel járhat.

Ez a történet tehát több mint kínos baki: figyelmeztetés arra, hogy az AI nem gondolkodik, nem tudja, mi igaz és mi hamis, csupán valószínűségeket számol. Ha ezt a korlátot nem ismeri fel a média, az olvasók, vagy a politikai döntéshozók, a következmények katasztrofálisak lehetnek.

A mesterséges intelligencia óriási lehetőségeket rejt, de csak akkor, ha felelősen használjuk. A technológia nem váltja ki az emberi ítélőképességet – épp ellenkezőleg: annak kiegészítésére és finomhangolására alkalmas. Aki pedig ezt nem érti meg időben, annak nem egy cikk, hanem egész rendszerek omolhatnak össze a keze alatt.

Figyelem! A cikkhez hozzáfűzött hozzászólások nem a ma.hu network nézeteit tükrözik. A szerkesztőség mindössze a hírek publikációjával foglalkozik, a kommenteket nem tudja befolyásolni - azok az olvasók személyes véleményét tartalmazzák.

Kérjük, kulturáltan, mások személyiségi jogainak és jó hírnevének tiszteletben tartásával kommenteljenek!

Amennyiben a Könyjelző eszköztárába szeretné felvenni az oldalt, akkor a hozzáadásnál a Könyvjelző eszköztár mappát válassza ki. A Könyvjelző eszköztárat a Nézet / Eszköztárak / Könyvjelző eszköztár menüpontban kapcsolhatja be.