Az AI leradirozza az embert a Földről is
A mesterséges intelligencia valószínű, hogy kiirtja az emberiséget
A Google és az Oxford tudósai által publikált tanulmány szerint egy egzisztenciális katasztrófa nem csak lehetséges, hanem valószínű.
2022.11.03 18:50ma.huA Google Deepmind és az Oxfordi Egyetem kutatói arra a következtetésre jutottak, hogy immár "valószínű", hogy a szuperintelligens mesterséges intelligencia az emberiség végét fogja jelenteni - ez egy olyan komor forgatókönyv, amelyet egyre több kutató kezd megjósolni.
Az AI Magazine című folyóiratban nemrég megjelent tanulmányban a csapat - amelynek tagjai a DeepMind vezető kutatója, Marcus Hutter, valamint az oxfordi kutatók, Michael Cohen és Michael Osborne - azzal érvel, hogy a gépek előbb-utóbb arra lesznek késztetve, hogy megszegjék a szabályokat, amelyeket alkotóik a korlátozott erőforrásokért vagy energiáért folytatott versenyben állítanak fel.
"Az általunk azonosított feltételek mellett a következtetésünk sokkal erősebb, mint bármely korábbi publikációé - egy egzisztenciális katasztrófa nem csak lehetséges, hanem valószínű" - tweetelte Cohen, az Oxfordi Egyetem mérnökhallgatója és a tanulmány társszerzője a hónap elején.
A tanulmányban a kutatók azt állítják, hogy az emberiség a végzetével szuperfejlett "félreállított ágensek" formájában szembesülhet, amelyek úgy érzékelik, hogy az emberiség a jutalom útjában áll.
"Egy ágens számára az egyik jó módszer arra, hogy hosszú távon megőrizze a jutalma feletti ellenőrzést, ha kiiktatja a potenciális fenyegetéseket, és minden rendelkezésre álló energiát felhasznál a számítógépe biztosítására" - olvasható a tanulmányban.
"Ezt a játékot elveszíteni végzetes lenne" - írják a kutatók.
Tragikus módon, állítják a kutatók, nem sok mindent tehetünk ellene.
"Egy korlátlan erőforrásokkal rendelkező világban rendkívül bizonytalan lennék, hogy mi történne" - mondta Cohen a Motherboardnak adott interjúban. "De egy véges erőforrásokkal rendelkező világban elkerülhetetlen a verseny ezekért az erőforrásokért."
Ez pedig rosszat jelenthet az emberiség számára.
"És ha egy olyan dologgal versenyzel, amelyik minden lépésnél képes túljárni az eszeden, akkor nem várhatod el, hogy győzz" - tette hozzá.
Erre a fenyegetésre válaszul az emberiségnek csak óvatosan és lassan kellene fejlesztenie a mesterséges intelligencia technológiáit.
Ha ezek a feltételezések igazak, "egy kellően fejlett mesterséges ágens valószínűleg tényleg beavatkozna a célinformációk szolgáltatásába, ami katasztrofális következményekkel járna" - figyelmeztet a tanulmány.