A robokalipszisre még várnunk kell, de az autonóm fegyverek már itt vannak

A robokalipszisre még várnunk kell, de az autonóm fegyverek már itt vannak

A mesterséges intelligencia és a robotok által okozott kataklizma nem csupán a science fiction írók kedvelt toposza. Hogy ez milyen formában következhet be, arról is számos elképzelés született már. De a nanovírusokat, az emberiséget rabigába hajtó, vagy üzemanyagként használó gépeket, a szexrobotok miatt abbamaradó szaporodást, és a virtuális valóság-függőség miatti hanyatlást is megelőzve a gyilkos robotok szerepelnek a világvége-forgatókönyvek egyik legesélyesebb indulójaként. Ha így is lesz, a szakértők abban egyetértenek, hogy csak jó sokára következhet be, mert a jelenleg ismert technológiák még nem elég fejlettek az önállóan gondolkodó gyilkológépek létrejöttéhez. A precíz önálló működésre képes fegyverek léte azonban már korántsem fantazmagória.

Laki Péter | 2020. május 04. |

Egy oxfordi kutatás szerint az amerikaiak jelentős hányada gondolja úgy, hogy nagy eséllyel a mesterséges intelligencia hozza majd el az emberiség pusztulását. Ezzel megelőzi még a klímaváltozással járó katasztrófákat is. Ha észrevétlenül is, de a mesterséges intelligenciák és mélytanuló algoritmusok már mindennapjaink részévé váltak. A fényképezést segítik okostelefonunkban, megtanítják a lakásunkban tájékozódni a robotporszívót, szenzorok segítségével önállóan vezérlik a klímát, vagy éppen műsorokat ajánlanak nekünk a streaming platformokon. Hogy ezeket akkor vajon miért is nem tekintjük a fenyegetőnek, arra Shelly Fan és Paul Scharre közelmúltban magyarul is megjelent könyvei szolgálhatnak válaszul. Vagy ahogy Scharre a könyvében röviden összefoglalja és idézi Stuart Armstrongot, az oxfordi Emberiség Jövője Intézet kutatóját:

“Amint egy számítógép képessé válik valaminek a megcsinálására, már nem MI-ként definiáljuk őket.” 

Aki az alapoktól, történelmi összefüggéseiben is szeretné megismerni a mesterséges intelligencia és automatizáció kialakulását, annak érdemes Shelly Fan Lecserél-e minket a mesterséges intelligencia? című ismeretterjesztő kötetével kezdeni. Shelly Fan a Kaliforniai Egyetem idegtudósa, a Singularity Hub online kiadvány szerkesztője, és olyan lapokban publikált, mint a Scientific American Mind vagy a Discover. Ahogy a könyv alcíme is jelzi (Bevezetés a XXI. századhoz), Fan megkísérli dióhéjban összefoglalni napjaink meghatározó technológiai trendjeit, ezen belül is a mesterséges intelligenciákat. Miként fejlődtek az embert segítő szerkezetek, hogyan váltak képessé egyre összetettebb feladatok ellátására, milyen hatással vannak mindennapjainkra és a társadalom egészére, de kitér a jelen és jövő kihívásaira, valamint lehetséges jövőképekre, fejlődési irányokra is. Az időbeli tájékozódást a hátsó borítót kihajtva egy idővonal is jelzi, ami egészen az ókori önműködő játékoktól indul és jut el az AlphaGo nevű programig, ami a rendkívül bonyolult go játékban az emberi képességeket túlszárnyalva tud nyerni. Fan érvelésében visszamegy filozófiai és matematikai alapfogalmak tisztázásáig, így mielőtt rákanyarodna az informatikai technológiákra, az is képbe kerülhet a szillogizmusok, a bináris számrendszer vagy éppen a Bayes-tétel mibenlétével, aki eddig nem találkozott velük. Az átláthatóságot és a gondolatmenet hangsúlyosabb részeit pedig egy egészen különleges szövegstruktúra kialakításával segítik az oldalképek. Különböző betűméretek jelzik az adott szövegrész fontosságát, így az olvasó ideje függvényében dönthet, hogy csak a leglényegesebb részeket olvassa-e el, vagy elmélyedjen a részletekben, a további tisztázásra szoruló fogalmakat pedig kiemelés mutatja.

Shelly Fan
Lecserél-e minket a mesterséges intelligencia?
Scolar Kiadó, 2020, 144 oldal
-

A könyv nagyobbik részét teszik ki az MI napjainkban is alkalmazott felhasználási módjai, képességei és természetesen a gép-ember kölcsönhatásokra is nagy hangsúly helyeződik. Megvillantja olyan nyilvánvaló előnyeit, mint az orvostudományban alkalmazott MI-k példátlan hatékonysága, vagy olyan árnyoldalaira és veszélyeire is kitér, mint a gépi tanulással ötvözött képmanipuláció, az algoritmusok választásokat befolyásoló ereje, vagy a félelmetes megfigyelési rendszerek alkalmazása, de a halálos kimenetelű balesetekről is szó esik. Sokan éppen az ilyen szerencsétlenségek miatt gondolhatják úgy, hogy az emberi civilizációnak majd a gépek uralma vet véget. A mélytanulásra képes autonóm járművek és fegyverek halálos potenciált rejtenek, az emberi kontroll hiánya pedig növeli a bizalmatlanságot és a félreértéseket. Az sem javít a megítélésen, hogy ezek a technológiák sokszor még a szakértők által sem visszafejthető vagy ismert hibajelenségeket produkálnak. Így a társadalom egy része képes sokkal jobban aggódni a gépek miatt, mint felismerni hasznosságukat. Fan szerint ez pedig megfojtja a vitákat és két okból is veszélyes: 

“Az MI egzisztenciális fenyegetésének túlhangsúlyozása értékes figyelmet von el a sürgetőbb ügyekről, amilyen például az előítéletesség mérséklése. Másrészt az MI képességeinek félreértése felerősítheti az ellenállást olyan technológiákkal szemben, amelyek a társadalom hasznára lehetnének, és így befullaszthatja az innovációt.”

A leggyakoribb félelmek és félreértések pedig természetesen az MI hadiipari alkalmazásával kapcsolatban kerülnek felszínre – és sajnos nem teljesen alaptalanul.

Paul Scharre könyve, A Terminátor eljövetele – Autonóm fegyverek és a jövő háborúi már címében is remekül vázolja fel, hogy mire számíthat az olvasó. Fan írásától eltérően nem általános igényű bevezető, hanem a mesterséges intelligencia és a mélytanulás egy nagyon is speciális részterületével foglalkozó kötet. Scharre maga is háborús veterán, aki leszerelése után a Védelmi Minisztériumban katonai és védelmi elemzőként töltött ideje alatt a háborúk lehetséges jövőképeivel foglalkozott. Jelenleg pedig az önműködő fegyverek és autonóm fegyverrendszerek egyik vezető szakértője, aki sok állami és civil szervezetnek nyújtott már segítséget. Scharre hihetetlenül precízen, alapos és aprólékos módon térképezi fel választott témájának számos problematikus pontját, miközben rengeteg apró finomságra is kitér a fegyverbetiltásokat, mélytanulást, vagy éppen a kiberbiztonságot illetően. Katonai szereplőként sem elfogult, a téma rendkívül komplex jellege miatt nem is lehet. Mert azzal ő is egyetért, hogy nyilvánvaló veszélyeket rejtenek a szabadjára engedett, öntanuló és önjáró fegyverek, de sok ponton, további szakértők segítségével képes árnyalni a túlzottan negatívnak látott képet.

Paul Scharre
A terminátor eljövetele
Alexandra Könyveshéz Kft., 2019, 510 oldal
-

Érvelésében fontos szerepet játszik az emberi felügyelet, ami nélkül szerinte nem működhetnek, nem szabad, hogy működjenek autonóm fegyverrendszerek. Az önműködő gépek érzékelés-döntés-cselekvés ciklusában jelen kell lennie valamilyen formában az emberi kontrollnak, mert a tapasztalatok szerint így érhető el az a maximálisan elvárható teljesítmény, amiben a hasonló rendszerek eredményesen tudnak működni. Ezek a “kentaur harcosok” ötvözik legjobban az emberi és gépi intelligencia legelőnyösebb tulajdonságait. Mind a maximálisan szabadon engedett gép, mind az ember rendelkeznek olyan korlátokkal, amelyek csökkentik a hatékonyságot.

Az autonóm fegyverek szinte bármire beprogramozhatók és nincs lelkiismeretük, ami példátlanul hatékony gyilkológépekké tenné őket – már ha ez valaha is kívánatos célként lebegne bárki szemei előtt. Szerencsére, a könyvben is hozott példák szerint, a hasonló fegyvereket nem a minél nagyobb pusztítás, sokkal inkább a járulékos veszteségek minimalizálása és a saját katonák védelme érdekében alkalmazzák. Ugyanakkor Scharre nem ódzkodik rávilágítani, hogy mégiscsak gyilkos fegyverekről van szó, amikor olyan éles bevetéseken bekövetkezett, tragikus balesetekről ír, amelyeket ilyen fegyverek okoztak. A baráti tűzben elesett katonák azonban mindig valamilyen emberi mulasztásból fakadó hiba áldozatai lettek. És pontosan a hasonló helyzetek elkerülése miatt van szükség valamilyen ellenőrzésre, a beavatkozási lehetőség fenntartására.

Scharre és a megszólaltatott szakértők egyöntetűen azon az állásponton vannak, hogy a teljes mértékben autonóm fegyverek ideje el fog jönni – de ez még nem mostanában lesz. Sem a jelenlegi mélytanuló algoritmusok, sem az általános mesterséges intelligenciák nem állnak még azon a szinten, hogy képesek legyenek érzékelni az emberek számára természetes dolgokat, a kontextust, valamint a helyes és helytelen döntéseket. Míg egy gép mechanikusan, az előre betáplált készletek alapján indít támadást vagy marad passzív, addig az ember képes olyan értékítéletet hozni, amivel elkerülhető a további vérontás, vagy éppen a törvényes és morálisan elfogadható döntés közti különbségtétel. Scharre egy saját példát hoz, amikor utóbbiról beszél. A hadijog törvényes lehetőséget biztosított volna, hogy megöljenek egy felderítőt – aki történetesen egy kecskéket hajtó kislány volt. Ám az alakulatból senkinek meg sem fordult a fejében.

“A kontextus jelent mindent. Mit tett volna egy gép a helyünkben? Amennyiben arra lett volna programozva, hogy megölje a törvény szerint hadviselő félnek számító személyeket, úgy megtámadta volna a kislányt. Vajon egy robot tudná, hogy mikor törvényes, ám egyben helytelen dolog ölni?”

Mindemellett azonban rávilágít arra is, hogy egy érzelemmentes gép nem képes a bosszúra, így düh által fűtött felesleges kegyetlenkedésre sem, ami sajnos nagyon is a háborúk velejárója. Mert a háború mindig az emberiség legsötétebb oldalát hozza elő, de egyben a pusztítással, a borzalmakkal való szembesülés is elkerülhetetlen. A pszichológiai sérülések pedig bizonyítják, hogy a szörnyűségek végrehajtása mögött is ott az emberi tényező, és ez mégis nagy visszatartó erővel bír. Paradox módon, az önmagukból kivetkőzött katonák cselekedetei nélkül, a robotok alkalmazásával még inkább dehumanizálódnának a fegyveres konfliktusok. Mert a fegyver másik végén nem állna ott az összeomlásra, szánalomra, kegyelemre képes ember.

“Mivé válna a háború, ha senki se érezné ezt a fájdalmat? Mi óvna minket a háború legnagyobb szörnyűségeitől, ha senki sem hallaná a sérültek nyögéseit és sikolyait? (...) Az autonóm célzás akár jó, akár rossz módokon is megváltoztathatja az ember gyilkoláshoz fűződő viszonyát. De túl sokat kérnénk a technológiától, ha attól várnánk megmentésünket.”

Scharre tényleg elképesztő részletességgel képes feltárni a téma összetettségét, miközben a hasonló fegyverek betiltásáért küzdőknek is teret ad, hogy még árnyaltabb legyen az amúgy sem fekete-fehér kép. Annyi biztos, hogy a mesterséges intelligencia alkalmazása már megkezdte az életünk átalakítását, de a végkimenetelével kapcsolatban még rengeteg a kérdőjel. Csak rajtunk múlik, melyik irányt választjuk.

Kapcsolódó cikkek
...
Hírek

Lehet, hogy jövőre már egy robot írja a legjobb sci-fit

...
Beleolvasó

A boldogságra automatizált világban már ciki lesz analóg ismerkedni

Európa legjobb, legszuperebb, legminőségibb államában játszódik Marc-Uwe Kling QualityLand című regénye, amelynek főhőse Munkanélküli Péter és ahol még a szerelem is MI-vezérelt. Olvassatok bele a könyvbe, és nézzétek meg, milyen is lesz egy igazi digitális párkapcsolat a jövőben.

...
Nagy

Ted Chiang: A mesterséges intelligenciák nem akarnak munkahelyeket ellopni

Egy kiállítás képe
...
Egy kiállítás képe

Selyem Zsuzsa: Ne fázz! [Egy kiállítás képe]

...
Egy kiállítás képe

Finy Petra: Szerintem [Egy kiállítás képe]

...
Egy kiállítás képe

Tóth Krisztina: Taki [Egy kiállítás képe]

A hét könyve
Kritika
Szöllősi még sosem írt annyira filmszerűen, mint az Illegálban
...
Kritika

A Lovecraft földjén a horror és a rasszizmus határait mossa össze

A Lovecraft földjén címének többszörös áthallása egyszerre utal a népszerű horroríró, H. P. Lovecraft szülőföldjére, rasszizmusára és műveinek mítoszteremtő szörnyuniverzumára. Matt Ruff e két utóbbit mosta össze, megadva történetének sava-borsát.