Fotó: Valuska Gábor
Nem vezetne az emberiség elbutulásához és elkényelmesedéséhez, ha létrejönne egy szuperintelligencia, mert már régen semmit sem nem az egyének oldanak meg, mondja Csányi Vilmos, akinek legújabb regénye, az Ő ott bent a mesterséges intelligencia (továbbiakban: MI) problematikáját járja körül. A regényben egy antropológusprofesszor, Kozalik Bálint Krisztián agyát másolják fel egy számítógépre, létrehozva így Christiant, az első szingletont, vagyis a világot irányítani képes szuperintelligenciát, aki hamar megunja a kutatólabor munkatársainak tesztjeit, és úgy dönt, nem létező kezébe veszi az irányítást. Tervéhez egy fiatal programozó, Erik mellett felhasználja a kutatásba bevont pszichológusnőt, dr. Pásztor Editet, ám hiba lenne rögtön Scarlett Johanssont kiáltani. Csányi könyve nem egy hollywoodi románc ember és gép szerelméről, hanem egy tudományos alapokon nyugvó science fiction, amelyben bőven benne van a folytatás lehetősége. „A nő (Her) rendezője valószínűleg nem értette meg igazán, hogy mi is az a mesterséges intelligencia. Ha beleszeretek egy rendszerprogramba, az engem a halálomig kiszolgál, és sosem ábrándul ki belőlem. Egy sci-fiben azért nem lenne szabad alapvető tudományos vagy technikai feltételeket figyelmen kívül hagyni.”
A szuperintelligenciával foglalkozó könyvek Csányi szerint legalább ekkora képtelenségeket hordanak össze, mert az embereket érdekli a téma, „és szakmai alapon mindenféle sületlenséget el lehet adni nekik.” Ő 10-15 témába vágó könyvet olvasott el, de csak egyetlen tisztességeset talált közöttük, a svéd Nick Bostrom Szuperintelligencia - Utak, veszélyek, stratégiák (Ad Astra, 2015) című kötetét, melyben az antropológiában, neurobiológiában és informatikában is jártas svéd filozófus egy MI létrejöttének minden előnyére és hátrányára rávilágít. Csányinak annyira tetszett a könyv, hogy még a névadásban is megihlette, a legracionálisabban gondolkodó szereplőjét Nick Polstromnak nevezte el. Bár már nem vagyunk messze attól, hogy valójában létrejöjjön egy szuperintelligencia, ezt nem úgy kell elképzelni, mint egy éntudattal rendelkező robotot, vagy Ózt, a nagy varázslót. „Egy jó robotot ma már központi komputerből vezérelnek, és az intelligenciának nem kell feltétlenül a robottestben lennie. Azok a fantáziák, amelyek szerint a robotok majd egymás és az ember ellen harcolnak, primitívek, elavultak, és a jelenleg elképzelhető technika alapján irreálisak.” Csányi Vilmossal az etikus szuperintelligenciáról, a népességnövekedés következményeiről és a biológiai evolúció felgyorsulásáról beszélgettünk.
Bemutató. Az Ő ott bent bemutatója ma 17 órától lesz a Margón. Csányi Vilmossal Váncsa István beszélget.
Nick Bostrom szerint, ha valaha felmerül egy olyan tényező, ami egzisztenciális kockázatot jelenthet az emberiségre, az nagy valószínűség szerint emberi aktivitás eredménye lesz.
Az, hogy az ember indít el olyan aktivitást, ami kockázatot jelent a számára, nem jelenti, hogy nem fajulhatnak el a dolgok. Csináltak már rengeteg speciális intelligenciát, amik jobbak, mint az ember, például sakkozógépet, vagy olyat, ami legyőzni a Go-bajnokot. Most mindenki egy általános intelligenciát szeretne létrehozni, anélkül, hogy meg tudná mondani, hogyan lehet azt definiálni algoritmusszinten, mert még az sem biztos, hogy az ember intelligenciája általános. Úgy képzelik, az MI intelligenciája magasabb lesz, mint az emberé, és ebből aztán vad fantáziák születnek. Ha az ember rendelkezik némi rendszer-szemlélettel, akkor azt mondja, hogy az intelligenciáknak sokféle osztálya képzelhető el és nem kell mindegyiknek személyes éntudattal rendelkezni.
Csányi Vilmos: Ő ott bent
Libri, 2016, 218 oldal, 2999 HUF
Itt van például a Föld nevű bolygó, amelyen van 7 és fél milliárd emberi elme, mindegyik csinál valamit, és működik köztük számtalan szabályozó folyamat. Ez így egyben tekinthető egyfajta intelligenciának. Az emberiség csinált már a bolygóval sok baromságot, de azért igyekszik intelligens döntéseket hozni. Nem dobták le például a harmadik atombombát, ami egy nagyon intelligens cselekedet. Nincsenek már világháborúk. A bolygót szabályozott anyag-, energia- és információáramok tartják működésben, ezek fenntartásához is intelligencia szükséges. Lehet, hogy a magasabb intelligencia már létezik, csak mindenki emberszerűnek akarja elképzelni, ezért nem vesszük észre.
Az állatvilágban a hangyaintelligencia is rendkívül nagy, anélkül, hogy az egyedi hangya különösebben intelligens állat lenne. Az erdőben ott a rengeteg rovartetem, amit a madarak azért nem szednek össze, mert az, hogy odarepülnek hozzájuk, sokkal több energiát igényelne, mint amennyit a felszedett zsákmányból nyernek. A hangyáknak, amelyekből nem a boly egésze rohan egy-egy darab táplálékért, hanem csak néhány példány, bőven megéri. Ez intelligens megoldás egy erőforrás kihasználására. Nem kellene olyan szűklátókörűnek lennünk, hogy mindenképpen egy éntudattal rendelkező valaminek képzeljük az MI-t. Még abban sincs egyezség, hogy egyáltalán mit tekintünk intelligenciának, milyen típusú rendszerek férnek bele, hogyan lehet ezeket mesterségesen előállítani, mikor kell örülni és mikor nem.
A regényt utópiaként definiálja. Tényleg egy mesterséges intelligencia által irányított világ a legeszményibb?
Az evolúcióban olyan folyamatok zajlanak, amelyek ebbe az irányba mutatnak, és ez teljesen független attól, hogy valaki leül egy számítógép elé, hogy egy MI-t készítsen. Minden nagy evolúciós lépésnél a sejtek, a többsejtű szervezetek, az emberi társadalom kialakulásánál durván ugyanazok az események következtek be: az alkotóegységek kommunikálnak egymással, szabályozott folyamatok jelennek meg, és kialakul egy magasabb egység, ami igyekszik védekezni és fenntartani magát. Az ember és minden más többsejtű állat rendkívül bonyolult, agyonszabályozott rendszer. A társadalom fejlődése is ebbe az irányba tart. A szabályozás elemi feltétele, hogy az alkotórészek gyorsan kapcsolatba tudjanak lépni egymással. Amikor 300 évvel ezelőtt kitört egy háború, volt, aki csak évtizedek múlva értesült róla. Ma ott a mobiltelefon, az internet, minden eseményről pillanatok alatt értesülhet az egész bolygó, tehát megvan a lehetőség, hogy minden alkotóegység villámgyorsan elérje a másikat. Ez egyik feltétele az egységgé válásnak, az önszervezésnek és az intelligenciának is, és ez már most is működik magától. A kérdés, hogy hogyan illeszkedik ehhez az, amit az ember tudatosan csinál. Mondhatjuk, hogy veszélyes az egész, és állítsuk le az internetet, de ez lehetetlen.
A folyamat tehát megállíthatatlan?
Nemcsak megállíthatatlan, de gyorsuló is. Az én 80 évem alatt rettenetesen gyors volt a változás, és feltehetően tovább gyorsul majd, hiszen számos olyan problémát kell megoldania, mint a környezetszennyezés és a klímaváltozás, amit egy ilyen nagy rendszer már érzékel. Az érzékelés nemcsak azt jelenti, hogy valaki egy műszerrel kimutatja, hanem azt is, hogy a populáció nagy része is tud róla. Mindenki sejti, hogy rosszul csináljuk a dolgokat, tönkretesszük a bioszférát, gyorsítjuk a klímaváltozást és ebből baj lesz, a pillanatnyi helyzet egy szuperintelligencia után kiált, ami globális szinten is képes összehangolni a különböző folyamatokat. Nem kell feltétlenül személyiséggel bírnia, én egy olyan változatot írtam meg, ahol azzal rendelkezik. Mindenki attól fél, hogy ha személyiség nélkül indítjuk el, akkor rosszindulatúvá válik, mert azt gondolja majd, hogy független, és a saját érdekei a legfontosabbak.
De hát nincs semmilyen érdekellentét közte és az emberiség között.
Nincs hát, ez megint egy álprobléma. Egy globális intelligencia érdeke, hogy legyenek anyagáramok, energiaáramok és legyen stabil a populáció. Ugyanabban érdekelt, amiben az emberiség, mert az a saját létfeltétele is. Arról, hogy milyen konfliktusok alakulhatnak ki, lehetne elmélkedni, de ez ugyanaz a szint, mint amikor 100 évvel ezelőtt azt képzeltük, hogy a robotok átveszik a hatalmat. Ma attól félünk, hogy a szuperintelligencia veszi át. Az ember olyan sokat gondolkodik a hatalmon, hogy folyton attól retteg, valaki átveszi, pedig igazából ő szeretné birtokolni.
A regényt ilyen szempontból akár antiutópiaként is értelmezhetjük, hiszen felmerül a kérdés, hogy kell-e nekünk valami, ami mindig mindent jobban tud.
Sokan szavaznának mellette, mint ahogy Magyarországon is kétharmadot kapott egy olyan elképzelés, miszerint erős vezetőre van szükségünk. Tudnék érveket mondani mellette, de ellene is. Abból a 7 és fél milliárd emberből néhány milliárd csak tengődik ezen a bolygón, és egy szuperintelligenciától csak nyerne.
Lehet, hogy kényelmes nekik a tengődés.
De lehetne igazán kényelmesen is csinálni. Mindig csak az emberiség kis százaléka nyüzsgött és vitt véghez merész, új dolgokat. Nem akarja mindenki megváltani a világot, mindössze egy átlagéletet szeretne. Hagyják őt békén és ne korlátozzák durván a személyes életét, és akkor elégedett a világgal. Amikor az emberi szociális szerveződések és az egyén viszonyát vizsgáljuk, mindig megjelenik a hatalom, mert egy olyan rendszert elképzelni, ahol mindenki azt csinál, amit akar, korlátok nélkül, az értelmetlen. Vannak például közlekedési szabályok, de nincs olyan mozgalom, amelyik azt mondja, hogy semmi értelmük, korlátozzák az egyén szabadságát, és én mindig olyan irányba megyek, amilyenbe akarok, legfeljebb ha nekiütközöm valakinek, azt mondom, hogy miért nem vigyázott magára. Jelenleg nagy a hatalom szabályozó szerepe, de ezek a hatalmi struktúrák evolúciós szempontból átmeneti jelenségek. Ma senki sem gondolhatja, hogy évszázadokig ül majd egy ország nyakán a családjával, mert előbb-utóbb úgyis lebuktatják. Ha az ember akárcsak ezer években is gondolkodik, láthatja, hogy a populáció növekedése olyan viselkedésformákat vált ki a társadalomból, amik létrehozzák ezeket a hatalmi struktúrákat, de aztán megszűnnek, és újak jönnek helyettük, más típusú szabályozófolyamatok.
Egy szuperintelligenciát azért kell létrehozni, mert különben az egész bolygón kaotikus viszonyok alakulnának ki. Az a rendszer, ahol 7 és félmilliárd intelligens agy működik, rá van kényszerítve, hogy bizonyos dolgokat szabályozzon, különben a saját létfeltételei mennének tönkre. Amíg csak lovak voltak, lehetett keresztül-kasul menni az úton, de amikor megjelentek az autók, a közlekedés is megváltozott. Elsősorban a populáció növekedése miatt: gondoljunk csak arra, hogy hány embernek kellett 500 évvel ezelőtt Budapestről Bécsbe mennie, és hánynak kell ma.
Tehát az, hogy eljutottunk odáig, hogy egy szuperintelligenciára van szükségünk, a népességnövekedésnek köszönhető?
A haladást nem úgy kell elképzelni, hogy feltalálunk mindenfélét, hogy az emberiségnek jó legyen. Szó sincs róla. A haladás arról szól, hogy többen vagyunk, mint voltunk, nincs hely a gyerekeinknek, ezért ki kell találni valamit, hogy ők is működni tudjanak. Régen a fiúgyerek az apja foglalkozását akarta továbbvinni, aztán csökkent a gyerekhalandóság, már nem egy fiúgyerek maradt életben, hanem nyolc, és valami mást kellett kitalálni. Ez is egy intelligens viselkedés, hogy nem lecsapták a felesleget, nem mondták, hogy nem kell ide több gyerek, hanem kerestek új megoldásokat. A haladás a populáció növekedése miatt van, és rengeteg probléma lesz, amikor ez a növekedés megáll.
A MI nem szólna bele a populáció alakulásába?
Ez a legizgalmasabb probléma a mesterséges intelligenciával kapcsolatban: a szelekciónak egy teljesen új formáját sejteti. Az evolúció során minden eddigi szelekciós eseménynél az történt, hogy a környezet, a környezeti erőforrások hatására egy-egy faj sok példányából csak néhány maradt meg. Az, hogy lesz egy általános intelligencia, ami értelmesebb, mint az ember, azt jelenti, hogy saját magát is képes lesz kijavítani. Ez evolúciós szempontból egy különleges dolog, mert itt egyetlen példány elegendő az evolúcióhoz, ami annyira intelligens, hogy képes erre, ez pedig exponenciális sebességű fejlődést tesz lehetővé.
Hogyan teszünk etikussá egy MI-t? Ami ma morálisan elfogadható, az nem biztos, hogy évtizedek múlva is elfogadható lesz.
Ha megkérdez egy társadalomtudóst, hogy mi az erkölcsös viselkedés, nem fog tudni egzakt definíciót mondani, én viszont tudok. Meg is írtam az Íme, az ember című könyvemben. Az embernek van egy szabályfelismerő képessége: az állandó környezetre jellemző szabályokat felismeri, és azoknak megfelelően tud viselkedni. Ha valaki betartja a törvényeket, akkor kiderül, hogy olyan esetben is, amire nem vonatkozik konkrét szabály, a felismert egész szabályrendszer szellemében oldja meg a felmerült problémát, és ha így cselekszik, akkor azt mondjuk rá, hogy erkölcsösen viselkedik. Például ha az unokatestvérének nem ad milliárdokat az adófizetők pénzéből, noha erre nincs külön törvény. De ez is változik, mert 300 évvel ezelőtt miért is ne adhatott volna valaki milliárdokat az unokatestvérének? Az volt a normális, hogy a családját tisztességesen ellátja, az egy új módi, hogy a családot nem tekintjük fontosnak, és azt gondoljuk, vadidegen emberek között kell szétosztani a pénzt. Az erkölcs társadalom- és kultúrafüggő. A szuperintelligenciának lesznek erkölcsei, attól függően, hogyan szabályozódik majd a társadalom. Bizonyos intézkedéseket elfogad az ember, másokat visszadob, és ez akkor is így lesz, ha egy MI próbálja igazgatni a világot. Tegyük fel, hogy van egy szuperintelligencia, ami működik. Ez még nem elég, a javaslatait valahogy át kell vinnünk az emberiségre. Hiába ül valaki egy rakás drót között, azt gondolva, hogy milyen jól kitalálta, semmire se megy, hogyha senki sem fogad szót neki.
A MI létrehozásának egyik módja az emberi agy emulációja; ön is ezt a módot használja a regényben. Az emberi agyra azért van szükség, hogy az MI képes legyen morális önkontrollt gyakorolni?
Két irányzat van, az egyik, hogy a megfelelő algoritmusokból a matematika segítségével csinálunk egy elképzelt általános intelligenciát, aminek az a fő baja, hogy semmilyen kapcsolata nincs az emberi természettel. A másik irányzat, ami felé Bostrom is finoman hajlik, mert logikusabb, hogy agyemulációval hozunk létre MI-t, tehát egy emberi agy teljes, esetleg a molekulákig terjedő szerkezetét lemásoljuk és számítógépre visszük, ekkor elképzelhető, hogy az intelligencia ember iránti vonzalma megmarad. Ez valószínűleg nagyon fontos.
Bostrom a biológiai evolúció meggyorsítását is számba veszi.
A genetikailag módosított (GM) növények és állatok már a biológiai evolúció gyorsulását jelentik, de vannak emberek, akik azt hiszik, hogy ez valami rettenetes baj, és meg kell állítani. Mondhatta volna valaki sok ezer évvel ezelőtt azt is, hogy az agrárforradalom hülyeség, mert a növényeknek káros tulajdonságaik lesznek, és mindenféle betegségeket okoznak. Ez így is lett, mert ott van például a cukornád meg a cukorrépa, ami rengeteg kárt okoz az emberiségnek, elhízást, diabéteszt. De azok a szerencsétlenek, akik állandóan tiltakoznak a növénynemesítés miatt, nem veszik észre, hogy a késsel is ölnek, pedig nem feltétlenül ezért találták fel, hanem mert mindenféle hasznos dologra is lehet használni. Az emberen múlik, hogy a találmányok jó vagy rossz oldalát hasznosítja. A glóbusz középső részén gyerekek százezrei vakulnak meg évente, mert minimális A-vitamin ellátásuk sincs. Egy GM-növényekkel foglalkozó csoport ezért kifejlesztette az „aranyrizst”, amelyből egy maroknyi tartalmazza a napi A-vitamin szükségletet. A helyi ember egy marék rizst eszik meg naponta, az aranyrizsben pedig benne van a szükséges vitaminmennyiség, amivel meg lehetne szüntetni a gyerekek problémáját. A Greenpeace nagy energiával és sok pénzzel elérte, hogy a helyiek féljenek az aranyrizstől, mert ugyan nem vakulnának meg, ha ezt eszik, de ki tudja, milyen fantáziadús emberek által kitalált, és semmivel sem bizonyított egyéb bajuk lehet. Egy MI-val ezt gyorsabban lehetne korrigálni, és mindenkinek el lehetne magyarázni a bizonyított tényeket.
Ha az emberi agy emulációjával hoznánk létre egy mesterséges intelligenciát, ami tudatára ébred, majd valamilyen okból meg akarnánk szabadulni tőle, az újabb etikai kérdéseket vetne fel. Akár még egy olyan vita is kialakulhatna körülötte, mint a ProLife-ProChoice vita az abortusz esetében.
Igen, de itt csak egyetlen MI-ről lenne szó. Valószínűtlennek tartom, hogy több lesz, és azok majd egymást fogják piszkálni. Ha a szuperintelligencia globális méretű valami lesz, akkor másképp merül fel ez a probléma, mintha egyszerűen embernek tartanám. A regény vége felé éreztettem, hogy Christiant kezdik egyfajta istenségnek tekinteni, amiért ő nagyon nem rajong. Ez azt illusztrálja, hogy az emberek szeretnek megbízni valakiben, akármennyi hülyeséget is csinál, és azt gondolják, hogy hosszútávon mégiscsak jó lesz nekik, még akkor is, ha a mindennapi életükben érzik, hogy igazából nem az.
A tudat elveszti a humanitását attól, hogy kikerül a testből?
Ha majd találkozunk egy tudattal, aki kikerült a testből, megbeszéljük vele, hogy is van ez. Nem biztos, hogy fog tudni válaszolni erre, hogy akar válaszolni vagy el lehet hinni, amit mond. Mit lehet hinni egy ilyennek? Sok hasonló kérdés felmerül, barátságos lesz-e, ellenséges, közömbös? Ezek most végiggondolandó problémák, nem akkor kell gondolkodni rajtuk, amikor az MI már valóság. Van, aki ma 30 éven belülre jósolja a MI létrejöttét, a pesszimisták 70 évet mondanak, de valószínűleg már a 30 is sok, mert olyan gyorsan változik minden.
Egy agyi alapú MI csak akkor tudna fejlődni, ha az érzelmi intelligenciáját is fejlesztenénk?
Ez megint egy kérdés. Az ember érzelmi intelligenciája sokkal fontosabb és kiterjedtebb, mint azt a közgondolkodás felfogja, nehezen tudom elképzelni, hogy enélkül működhet egy intelligencia, bár ebben nem vagyok biztos. Az állatoknál először az érzelmi intelligencia jelent meg, ami csak nagyon megalapozott, biztos döntéseket hoz, de korlátozott körben. Az, hogy valakit szeretek vagy utálok, nagyon fontos, de ezt a tapasztalataim alapján kell eldöntenem, és ha egyszer eldöntöttem, az hosszú időre érvényes. Ha közben negatív élmények érnek, az nem írja rögtön felül az érzelmeimet, és ennek megvan a maga haszna, rengeteg állat tudja bizonyítani ezt, de az ember is. Később megjelent a racionálisnak tekinthető intelligencia. Ha ezt jól megértjük, láthatjuk, hogy csak a legtetején jelenik meg a racionalitás, aminek az a különös tulajdonsága, hogy csupán a hogyan kérdésekre válaszol. Hogy miért kell valamit megcsinálni, például autót építeni, arra nem. Erre az érzelmi intelligencia kell, hogy tudjon felelni: azért, mert imádunk rohanni, de ezzel egyidejűleg lusták is vagyunk, és ha bele lehet ülni valamibe, ami rohan, azt nagyon szeretjük. Ez nem racionális dolog, hanem érzelmi. Hogy egy MI-ba kell-e ez a kétféle intelligencia, és ha igen, milyen viszonyban, vagy elég az egyik, az nyitott kérdés marad, amíg létre nem hozunk egyet.
Egy monomániás, diktátorhajlamú embert nyilván nem választanánk az emulációra, mint ahogy egy kedves, aranyos, iniciatívahiányos embert sem. Ahogy a könyvben is írtam, egy gondoskodó típust kellene választani, akinek az intelligenciája valamivel az átlag fölött van. Aztán már nem annyira fontos, hogy pontosan kicsoda is ez az ember, mert MI-ként úgyis nagyon meg fog változni. Egyébként ugyanaz fog történni, mint számos esetben. A kutatók magukat fogják lemásolni.
Ön belemenne egy ilyen emulációba?
Bele, mert nagyon izgalmas lenne, hogy egy egyórás röntgenfelvétel után beszélgethetek önmagammal.
