Az AI leradirozza az embert a Földről is

A mesterséges intelligencia valószínű, hogy kiirtja az emberiséget

A Google és az Oxford tudósai által publikált tanulmány szerint egy egzisztenciális katasztrófa nem csak lehetséges, hanem valószínű.

2022.11.03 18:50ma.hu
nyomtatásKinyomtatom
+Nagyobb betűméret-Kisebb betűméretbetűméret

A Google Deepmind és az Oxfordi Egyetem kutatói arra a következtetésre jutottak, hogy immár "valószínű", hogy a szuperintelligens mesterséges intelligencia az emberiség végét fogja jelenteni - ez egy olyan komor forgatókönyv, amelyet egyre több kutató kezd megjósolni.

Az AI Magazine című folyóiratban nemrég megjelent tanulmányban a csapat - amelynek tagjai a DeepMind vezető kutatója, Marcus Hutter, valamint az oxfordi kutatók, Michael Cohen és Michael Osborne - azzal érvel, hogy a gépek előbb-utóbb arra lesznek késztetve, hogy megszegjék a szabályokat, amelyeket alkotóik a korlátozott erőforrásokért vagy energiáért folytatott versenyben állítanak fel.

"Az általunk azonosított feltételek mellett a következtetésünk sokkal erősebb, mint bármely korábbi publikációé - egy egzisztenciális katasztrófa nem csak lehetséges, hanem valószínű" - tweetelte Cohen, az Oxfordi Egyetem mérnökhallgatója és a tanulmány társszerzője a hónap elején.

A tanulmányban a kutatók azt állítják, hogy az emberiség a végzetével szuperfejlett "félreállított ágensek" formájában szembesülhet, amelyek úgy érzékelik, hogy az emberiség a jutalom útjában áll.

"Egy ágens számára az egyik jó módszer arra, hogy hosszú távon megőrizze a jutalma feletti ellenőrzést, ha kiiktatja a potenciális fenyegetéseket, és minden rendelkezésre álló energiát felhasznál a számítógépe biztosítására" - olvasható a tanulmányban.

"Ezt a játékot elveszíteni végzetes lenne" - írják a kutatók.

Tragikus módon, állítják a kutatók, nem sok mindent tehetünk ellene.

"Egy korlátlan erőforrásokkal rendelkező világban rendkívül bizonytalan lennék, hogy mi történne" - mondta Cohen a Motherboardnak adott interjúban. "De egy véges erőforrásokkal rendelkező világban elkerülhetetlen a verseny ezekért az erőforrásokért."

Ez pedig rosszat jelenthet az emberiség számára.

"És ha egy olyan dologgal versenyzel, amelyik minden lépésnél képes túljárni az eszeden, akkor nem várhatod el, hogy győzz" - tette hozzá.

Erre a fenyegetésre válaszul az emberiségnek csak óvatosan és lassan kellene fejlesztenie a mesterséges intelligencia technológiáit.

Ha ezek a feltételezések igazak, "egy kellően fejlett mesterséges ágens valószínűleg tényleg beavatkozna a célinformációk szolgáltatásába, ami katasztrofális következményekkel járna" - figyelmeztet a tanulmány.

Figyelem! A cikkhez hozzáfűzött hozzászólások nem a ma.hu network nézeteit tükrözik. A szerkesztőség mindössze a hírek publikációjával foglalkozik, a kommenteket nem tudja befolyásolni - azok az olvasók személyes véleményét tartalmazzák.

Kérjük, kulturáltan, mások személyiségi jogainak és jó hírnevének tiszteletben tartásával kommenteljenek!

Amennyiben a Könyjelző eszköztárába szeretné felvenni az oldalt, akkor a hozzáadásnál a Könyvjelző eszköztár mappát válassza ki. A Könyvjelző eszköztárat a Nézet / Eszköztárak / Könyvjelző eszköztár menüpontban kapcsolhatja be.