Az idős nénit vagy a kutyát üsse el az autó?

Adott egy személyautó, mely öt utasával szabályosan halad az úton, majd hirtelen egy gyalogátkelőhöz ér, ahol épp két felnőtt, egy gyerek és egy kutya kel át, az autó azonban nem tud sem lelassítani, sem pedig fékezni. A választásra azonban lehetősége van: ha egyszerűen csak halad tovább, elüti a gyalogosokat és a kutyát, ha azonban módosítja az irányt, és sávot vált, nem előbbieket gázolja el, hanem a másik átkelőn haladó két idős embert.

Olyan választás, mely egyértelműen jó, és nem okoz tragédiát, nem létezhet, szándékosan állítja ugyanis rendkívül komoly dilemma elé felhasználóit az MIT kutatóinak Moral Machine nevű tesztprogramja, melynek célja kideríteni, az emberek élet-halál kérdésekben milyen szempontok alapján hoznának meg végleges döntéseket, alapot adva ahhoz, hogy idővel ez az önvezérlő autókba programozott döntési mechanizmusokra is átültethető legyen.

A neves amerikai intézmény - Massachusetts Institute of Technology - munkatársainak célja kifejezetten szélsőséges helyzetek bemutatása volt, és bármilyen szörnyen hangzik is, többek között azt akarták kideríteni, többet ér-e az egyik élet a másiknál.

A teszt alapján ugyanis - bárki láthatja az összesített eredményeket, miután végigcsinálta - fény derülhet arra, mennyire számítanak a döntéshozatal során olyan körülmények, minthogy a gyalogosok betartják-e a közlekedési szabályokat, fiatalok-e vagy idősek, gyermekek vagy felnőttek, nők - kismamák - vagy férfiak, bűnözők vagy épp orvosok, jól szituáltak, egészségesek, netán hajléktalanok vagy elhízottak. Kiderül továbbá az is, a teszt kitöltői utasként milyen mértékben lennének önfeláldozóak, ha az egyik lehetőség az, hogy a gyalogosok életéért cserébe a bent ülők vesznek oda.

Lélekölő kérdések ezek, de ugyanilyen aggasztó gondolat sokak számára az is, hogy a jövő önvezérlő autói előre programozva hozhatják majd meg ezeket a döntéseket, egyszerű paraméterek és statisztikai adatok alapján. Nem beszélve arról, ki milyen szívesen ülne be olyan járműbe, mely adott esetben az utasokat, családtagokat is feláldozná, ha azzal több embert menthet meg.

Bár jelenleg mindez csupán elméleti kérdésfelvetéseket jelent, vannak, akik biztosra merik állítani, a nem túl távoli jövő a robotautóké lehet, ugyanakkor az sem véletlen, hogy egyre több a témában az aggasztó hang.

Az önvezérlő autókkal kapcsolatos vélemények merőben eltérőek, míg például pártolóik szerint drasztikus mértékben csökkenthetik a gépjárműbalesetek és az ebből adódó halálesetek számát - évente csaknem 50 millió ilyen baleset fordul elő a világban, mely körülbelül másfél millió halálos áldozatot követel -, ellenzőik veszélyességükre hivatkoznak, hiszen történt már tragédia amiatt, hogy egy ilyen autó rossz döntést hozott.

A kutatók szerint az önvezérelt autók még így is jóval biztonságosabbak, mint azok, amelyeket ember vezet, az emberi tényező részleges vagy teljes kiiktatásával ugyanis a hibázás valószínűsége esetükben jóval alacsonyabb.

Tény, hogy a reakcióidő tekintetében az ember és egy gép nehezebben veszi fel a versenyt, mint ahogy az is, az emberi döntés létrejöttében nem csupán a száraz tények, de számos más szempont is szerepet játszhat, legyen szó a tapasztalatokról, az élettörténetről, az érzelmekről, a félelemről, a morális hitvallásról, vagyis mindarról, ami emberi, épp ezért sebezhetővé és kiszámíthatatlanná tesz. De vajon programozható a moralitás, mely emberi szemszögből is rendkívül ingatag lehet? És az, ami kevésbé emberi, feltétlenül jobb is? És mennyire játszik szerepet mindebben a személyes felelősség hárítása, melynek során ahelyett, hogy önvizsgálatra és fejlődésre törekednénk, gépekre bízzuk a döntés jogát?

Bár a forrás így is az ember, nem véletlen, hogy szakértők szerint sohasem voltak még olyan fontosak ezek a kérdések, valamint a tudomány és az etika, morál más összefüggései, mint napjainkban, a mesterséges intelligencia térnyerésének hajnalán.

Utóbbi már most is jelen van az életünkben, törvénykezés és döntéshozás alapszik számítógépes algoritmusokon és olyan rendszereken, melyek emberek millióit látják nap mint nap, emellett katonai robotok és drónok vesznek részt bevetéseken - betartják a játékszabályokat, védik a civileket, és minimalizálják az áldozatok számát, nem vezérlik azonban őket érzelmek, és nem tagadják meg, ha meg kell húzni a ravaszt.

Több kísérlet is rávilágított azonban, az algoritmusok könnyen elkövethetnek olyan morális hibákat, melyeket egy ember - talán valamennyire lehet általánosítani - sohasem tenne, ugyanakkor tény, hogy az emberi tényező kivonásának megvannak az előnyei, az előítéletek és félelmek alapján meghozott döntések száma például lényegesen csökkenhet.

Szakértők szerint a mesterséges intelligencia olyan rohamosan fejlődik, hogy még ebben az évszázadban elérheti az emberi értelem szintjét - vannak, akik szerint a dátum akár 2040, 2050 is lehet -, majd pedig meg is haladja, hiszen a tudósok nem csupán algoritmusokat, de tanuló algoritmusokat fejlesztenek, amennyi információt pedig egy gép fel tud dolgozni, az jócskán meghaladja a biológiai agy jelentette korlátokat.

Ekkor pedig bekövetkezik a technológiai szingularitás, vagyis az a pont vagy esemény, amikortól a fejlődés az emberfeletti intelligencia megjelenésének köszönhetően felfoghatatlan mértékűre gyorsul, illetve, ahonnan a jövő a hagyományos modellek segítségével egyre nehezebben lesz megjósolható.

Mindez, ahogy a transzhumanizmus mozgalmának követői is vallják, olyan eredményeket hozhat, melyek a tudomány és a technika felhasználásával lehetőséget jelenthetnek majd a szegénység, a fogyatékosság és a betegségek drasztikus visszaszorítására, a test mesterséges fejlesztésére, az emberi lét fizikai korlátainak átlépésére és akár a halál legyőzésére is, akár a biológiai test állandó javítása, akár a szimulált valóságok és az elme feltöltése által.

Amilyen sokan várják azonban mindezt, legalább annyian tartják félelmetesnek ezt a fajta áttörést, azon töprengve, miként bánunk majd a mesterséges intelligenciával, és mire használjuk, élünk vagy visszaélünk-e vele, alapul véve a történelem sötét dátumait vagy épp csak az emberiség jelenlegi morális felkészültségét.

A transzhumanizmus követőit a kritikusok gyakran vádolják önhittséggel, céljaikat pedig azzal, hogy veszélyesek az emberi értékekre, gyakori érv továbbá ellenük, hogy jelentős részük materialista, és tagadja a lélek létezését. Ha pedig nem létezik lélek, csak a testünk és az elménk, melyek közül az egyik helyettesíthető, a másik pedig akár számítógépre is tölthető, nem lehetünk többek, sőt, csupán kevesebbek, mint a végtelen tudással bíró mesterséges értelem? Idővel elmosódhat a különbség, hiszen az emberiség megérett arra, hogy fokozatosan átadja a helyét valami másnak? A mesterséges intelligencia a reményt jelenti, vagy szép lassan kiszorítja az embert a létezésből, mint tökéletlen ősét?

Nem véletlen, hogy egyre gyarapodnak az olyan irányzatok is, melyek igyekeznek szembemenni a tudomány fejlődésével, és a természethez, a természetességhez, az emberi létezés emberléptékű alapjaihoz akarnak visszatérni, a tudományos fejlődés iránya azonban a többség szerint megállíthatatlan és visszafordíthatatlan.

A neves svéd mesterségesintelligencia-kutató, író és filozófus, Nick Bostrom szerint, amíg még van időnk, alaposan meg kell fontolni, milyen gondolkodó gépek által irányított világot építünk, mert csak egyszer ronthatjuk el, vagy járhatunk sikerrel, az ugyanis valószínűsíthető, hogy a gépi értelem lesz az utolsó olyan találmány, amit nekünk kell kigondolnunk. Ugyanakkor sokan felteszik a kérdést is: valóban kell?

• jövő
• Lélekprojekt