Tech

A gyilkos AI-nak mindössze hat óra kellett 40 ezer halálos vegyi fegyver feltalálásához

Az AI állítólag minden idők egyik legveszélyesebb idegméreganyagához, a VX-hez hasonló lehetséges vegyi fegyverekkel állt elő.

2022.03.21 15:57ma.hu
nyomtatásKinyomtatom
+Nagyobb betűméret-Kisebb betűméretbetűméret

Egy mesterséges intelligencia 40 ezer új lehetséges vegyi fegyvert talált fel mindössze hat óra alatt. Ezt állítják azok a kutatók, akik egy gyógyszerfejlesztő mesterséges intelligenciát „gonosszá tettek”, hogy lássák, hogyan lehetne visszaélni vele rosszindulatú fegyverek létrehozására. Az aggasztó kutatás ismertetése a Nature Machine Intelligence című folyóiratban jelent meg.

A tudósok elárulták, hogy milyen könnyű volt úgy megpiszkálni a mesterséges intelligenciát, hogy az toxikus eszközzé váljon. Az AI állítólag minden idők egyik legveszélyesebb idegméreganyagához, a VX-hez hasonló lehetséges vegyi fegyverekkel állt elő.

A VX egy íztelen és szagtalan idegméreg, és már a legkisebb cseppje is izzadást és rángatózást okozhat az emberben. Egy nagyobb adag görcsöket okozhat, és akár a légzés is teljesen leállhat a hatására.

A tudósoknak közölték, hogy visszatartják annak konkrét részleteit, hogy miként sikerült a jó célra használt mesterséges intelligencia gonosz változatát előhívniuk.

Fabio Urbina, a tanulmány vezető szerzője a The Verge-nek elmondta: „Nagyjából úgy működik ez a kísérlet, hogy történelmileg rengeteg adathalmazunk van olyan molekulákról, amelyeket teszteltünk, hogy kiderüljön, mérgezőek-e vagy sem. Konkrétan az egyik, amelyre itt összpontosítunk, a VX. Ez az úgynevezett acetilkolin-észteráz gátlója. Amikor bármit teünk, ami az izmokkal kapcsolatos, az idegsejtjeink az acetilkolin-észterázt használják jelzésként, arra, hogy az izmok megmozduljanak. A VX azért halálos, mert megakadályozza, hogy a rekeszizom, a tüdőizmok mozogjanak, így a tüdő megbénul” – mondta.

A továbbiakban kifejtette, hogy csapata fogta azokat az adatokat, amelyeket általában a mesterséges intelligenciának adnak meg annak megállapítására, hogy valami mérgező-e, és megváltoztatta a módját, hogy a mesterséges intelligencia hogyan dolgozza fel azokat.

Urbina elmondta a The Verge-nek, hogy nem voltak igazán biztosak abban, hogy mit fognak kapni. A generatív modelljeink meglehetősen új technológiák, azaz nem sokat használták őket széles körben.

„A legnagyobb dolog, ami elsőre kiugrott, az volt, hogy a generált vegyületek közül sokról azt jósolták, hogy valójában mérgezőbbek, mint a VX. Ez azért meglepő, mert a VX alapvetően az egyik leghatásosabb ismert méreg. Vagyis nagyon-nagyon-nagyon kevés kell belőle ahhoz, hogy halálos legyen” – mutatott rá a kutató, hogy mi okozta az első meglepetésüket. De leginkább az döbbentette meg őket, hogy milyen könnyűnek tűnt a kísérletet, ugyanis a felhasznált adatok nagy része ingyenesen megtalálható volt az interneten.

A kutatók még a tanulmányuk közzétételét illetően is kétségeik támadtak, hátha ezzel rosszindulatú szereplőket bátorítanak a másolásra. Urbina erről kifejtette, hogy az általuk használt mesterséges intelligenciával kapcsolatos adathalmaz ingyenesen letölthető volt. Ezért aggódnak ami

Figyelem! A cikkhez hozzáfűzött hozzászólások nem a ma.hu network nézeteit tükrözik. A szerkesztőség mindössze a hírek publikációjával foglalkozik, a kommenteket nem tudja befolyásolni - azok az olvasók személyes véleményét tartalmazzák.

Kérjük, kulturáltan, mások személyiségi jogainak és jó hírnevének tiszteletben tartásával kommenteljenek!

Amennyiben a Könyjelző eszköztárába szeretné felvenni az oldalt, akkor a hozzáadásnál a Könyvjelző eszköztár mappát válassza ki. A Könyvjelző eszköztárat a Nézet / Eszköztárak / Könyvjelző eszköztár menüpontban kapcsolhatja be.