Az AI leradirozza az embert a Földről is
A mesterséges intelligencia valószínű, hogy kiirtja az emberiséget
A Google és az Oxford tudósai által publikált tanulmány szerint egy egzisztenciális katasztrófa nem csak lehetséges, hanem valószínű.
2022.11.03 18:50ma.huA Google Deepmind és az Oxfordi Egyetem kutatói arra a következtetésre jutottak, hogy immár "valószínű", hogy a szuperintelligens mesterséges intelligencia az emberiség végét fogja jelenteni - ez egy olyan komor forgatókönyv, amelyet egyre több kutató kezd megjósolni.
Az AI Magazine című folyóiratban nemrég megjelent tanulmányban a csapat - amelynek tagjai a DeepMind vezető kutatója, Marcus Hutter, valamint az oxfordi kutatók, Michael Cohen és Michael Osborne - azzal érvel, hogy a gépek előbb-utóbb arra lesznek késztetve, hogy megszegjék a szabályokat, amelyeket alkotóik a korlátozott erőforrásokért vagy energiáért folytatott versenyben állítanak fel.
"Az általunk azonosított feltételek mellett a következtetésünk sokkal erősebb, mint bármely korábbi publikációé - egy egzisztenciális katasztrófa nem csak lehetséges, hanem valószínű" - tweetelte Cohen, az Oxfordi Egyetem mérnökhallgatója és a tanulmány társszerzője a hónap elején.
A tanulmányban a kutatók azt állítják, hogy az emberiség a végzetével szuperfejlett "félreállított ágensek" formájában szembesülhet, amelyek úgy érzékelik, hogy az emberiség a jutalom útjában áll.
"Egy ágens számára az egyik jó módszer arra, hogy hosszú távon megőrizze a jutalma feletti ellenőrzést, ha kiiktatja a potenciális fenyegetéseket, és minden rendelkezésre álló energiát felhasznál a számítógépe biztosítására" - olvasható a tanulmányban.
"Ezt a játékot elveszíteni végzetes lenne" - írják a kutatók.
Tragikus módon, állítják a kutatók, nem sok mindent tehetünk ellene.
"Egy korlátlan erőforrásokkal rendelkező világban rendkívül bizonytalan lennék, hogy mi történne" - mondta Cohen a Motherboardnak adott interjúban. "De egy véges erőforrásokkal rendelkező világban elkerülhetetlen a verseny ezekért az erőforrásokért."
Ez pedig rosszat jelenthet az emberiség számára.
"És ha egy olyan dologgal versenyzel, amelyik minden lépésnél képes túljárni az eszeden, akkor nem várhatod el, hogy győzz" - tette hozzá.
Erre a fenyegetésre válaszul az emberiségnek csak óvatosan és lassan kellene fejlesztenie a mesterséges intelligencia technológiáit.
Ha ezek a feltételezések igazak, "egy kellően fejlett mesterséges ágens valószínűleg tényleg beavatkozna a célinformációk szolgáltatásába, ami katasztrofális következményekkel járna" - figyelmeztet a tanulmány.
Figyelem! A cikkhez hozzáfűzött hozzászólások nem a ma.hu network nézeteit tükrözik. A szerkesztőség mindössze a hírek publikációjával foglalkozik, a kommenteket nem tudja befolyásolni - azok az olvasók személyes véleményét tartalmazzák.
Kérjük, kulturáltan, mások személyiségi jogainak és jó hírnevének tiszteletben tartásával kommenteljenek!
ma.hu legfrissebb hírei:
- 10:27 Vitézy Dávid indul a főpolgármester-választáson
- 10:23 A Forma-1-es pilóták bírálják a sűrű versenynaptárt
- 10:19 Mérkőzés közben összeesett a pályán, mentőautóval vitték el a válogatott labdarúgót - videó
- 9:13 Nem tudtak ellátni egy fuldokló kisfiút, mert késett az asszisztens
- 9:08 Roadpol-akció: több mint tízezer autóvezető nem kapcsolta be a biztonsági övet
- 9:00 Szijjártó: ősszel közvetlen légijárat indul Bangkok és Budapest között
- 8:42 Svájcban adta fel magát egy magyar drogkereskedő, aki Európa legkeresettebb bűnözőinek listáján is szerepelt
top fórum témák:
- Tanár Úr gyere, mindjárt lesz Lillád!2022.05.10 21:11
- AZ IGAZSÁG SOHA NEM KÉSŐ2022.05.10 21:07
- JólVanna2022.05.10 20:31
- Porvihar2022.03.29 16:11
- Mit szólsz? Ide minden baromságot...2022.03.29 16:06