Erkölcsi zombi

Tanulható-e a jóság?

Erkölcsi csapdát építettek a robotnak, de arra nem számítottak, ami ezután következett.

2014.09.18 07:00Szilágyi Szabolcs - ma.hu
nyomtatásKinyomtatom
+Nagyobb betűméret-Kisebb betűméretbetűméret

Alan Winfield, a Bristoli Robotika Laboratórium robotszakértője nemrég kollégáival egy érdekes kísérletet hozott tető alá. Úgy programoztak be egy autonóm egységet (aki legyen most "A robot"), hogy megakadályozzon más - számára emberként értelmezett - robotokat abban, hogy leessenek egy lyukba. Voltaképp az Isaac Asimov által megálmodott robotika első törvényének egyszerűsített környezetét teremtették meg. Eszerint "A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen." (forrás: Wikipedia)

Először az "A robot" sikeresen hajtotta végre feladatát. Amint az egyik, számára embert szimbolizáló robot elindult a lyuk irányába, feléje iramodva ellökte a veszélyes útjáról. Amikor azonban a csapat egy második, szintén embert szimbolizáló robotot adott a rendszerhez, az "A robot" választási kényszerhelyzetbe került. Néha megmentette az egyiket, miközben a másik "odaveszett", párszor mindkettő "embert" meg tudta menteni. 33 kísérletből 14-szer azonban túl sok időt töltött döntéshozással, így mindkét "ember" leesett.



Winfield erkölcsi zombiként írta le "A robotot", hiszen a kutatás "alanya" nem érti, nem érthette, miért kellett úgy tennie, ahogy. Ezzel pedig eljutottunk ahhoz a kérdéshez, hogy vajon megtanítható-e egy robot a jóságra, vagy örökre saját algoritmusainak rabja marad? Winfield ráadásul nem is segít ennek eldöntésében, mert habár korábbi elképzelését, mely szerint a robotok nem hozhatnak etikus döntéseket, felülbírálta, ám mai álláspontja szerint fogalma sincs, hogy vajon lehetséges-e ez.

Robotok? Ugyan!
Napjaink háztartásában a legbonyolultabb autonóm egységek a konyhai robotgépek, miért kellene egyáltalán kutatni a "robotetikát"? Nos, gondoljunk csak például a robotporszívókra, amik a fejlettség egy magasabb fokán állnak, mint mondjuk egy aprítógép. Ez a fejlődés nem áll meg, az okos hűtők már maguktól jelzik valamely élelmiszer fogyását, netán rendelnek is belőle az interneten keresztül.

Egyre intelligensebbé válnak tehát a robotok: nincsen olyan messze már a (legalább részben) önműködő autó sem. Képzeljünk el egy olyan helyzetet, amikor egy, az automatika által vezérelt gépjármű környezetében veszélyhelyzetbe kerül egy motoros. Ennek a helyzetnek az elhárítása azonban magával vonhatja a járműben ülők testi épségének sérülését is - mit tegyen tehát a mesterséges intelligencia? Ezeket a kérdéseket még jóval korábban el kell dönteni, nem lehet éles helyzetben rádöbbenni a probléma megoldásának égető szükségességére.

Kapcsolódó írások:

Figyelem! A cikkhez hozzáfűzött hozzászólások nem a ma.hu network nézeteit tükrözik. A szerkesztőség mindössze a hírek publikációjával foglalkozik, a kommenteket nem tudja befolyásolni - azok az olvasók személyes véleményét tartalmazzák.

Kérjük, kulturáltan, mások személyiségi jogainak és jó hírnevének tiszteletben tartásával kommenteljenek!

Amennyiben a Könyjelző eszköztárába szeretné felvenni az oldalt, akkor a hozzáadásnál a Könyvjelző eszköztár mappát válassza ki. A Könyvjelző eszköztárat a Nézet / Eszköztárak / Könyvjelző eszköztár menüpontban kapcsolhatja be.