A történetek hoztak össze bennünket. A könyvek terjesztették el eszméinket és hiedelmeinket. Az internet végtelen tudást ígért. Az algoritmus kiismerte titkainkat, és egymás ellen fordított bennünket. Mit tesz majd a mesterséges intelligencia? Napjainkban zajlik az emberiség történetének legnagyobb információs forradalma. Ha meg akarjuk érteni, minek is vagyunk a részesei, előbb azt kell megértenünk, hogyan jutottunk el idáig – új kötetében Yuval Noah Harari történész erre tesz kísérletet.
Homo sapiensnek, bölcs embernek neveztük el a fajunkat – de ha annyira bölcsek vagyunk, miért pusztítjuk önmagunkat? Hogyan sodródtunk az ökológiai és technológiai öngyilkosság peremére? Az emberiség ereje abban áll, hogy képes a világméretű együttműködésre. Csakhogy az együttműködés szövevényes hálózatát a legkönnyebben fikciók, fantáziák és hazugságok tömeges terjesztésével lehet létrehozni és fenntartani.
A 21. században a mesterséges intelligencia válhat a hazugságok új hálózatának középpontjává, és azt is megakadályozhatja, hogy a jövő nemzedékei akár csak megkíséreljék leleplezni hazugságait és fikcióit. A történelem azonban nincs előre megírva, és a technológia fejlődése is tőlünk függ: ha tájékozottak vagyunk, és jól döntünk, elkerülhetjük a legrosszabb végkifejleteket. Ha ugyanis nem tudnánk változtatni a jövőn, akkor mi értelme volna egyáltalán beszélni róla?
Yuval Noah Harari: Nexus (részlet)
Fordította Torma Péter
Prológus
Homo sapiensnek, bölcs embernek neveztük el saját fajunkat. Ám kérdéses, hogy mennyire vagyunk méltók erre a névre.
Annyi biztos, hogy az utóbbi százezer évben mi, sapiensek óriási hatalomra tettünk szert. Felfedezéseinknek, találmányainknak és hódításainknak már csak a felsorolása is köteteket töltene meg. A hatalom azonban nem bölcsesség, és százezer évnyi felfedezés, feltalálás és hódítás után az emberiség egzisztenciális válságba juttatta magát.
A saját hatalmunk helytelen használata okozta ökológiai összeomlás szélén állunk.
Eközben továbbra is szorgalmasan gyártjuk az olyan új technológiákat, mint a mesterséges intelligencia (MI), amelyekben megvan a potenciál arra, hogy kiszabaduljanak az irányításunk alól, és rabszolgasorba taszítsanak vagy megsemmisítsenek bennünket. Ahelyett azonban, hogy fajunk összefogna ezeknek az egzisztenciális fenyegetéseknek az elhárításáért, egyre erősödnek a nemzetközi feszültségek, egyre nehezebbé válik a globális együttműködés, az országok tömegpusztító fegyvereket halmoznak fel, és egy új világháború sem tűnik lehetetlennek.
Ha mi, sapiensek annyira bölcsek vagyunk, miért vagyunk ennyire önpusztítóak?
Közelebbről megvizsgálva, noha a DNS-molekulától a távoli galaxisokig rengeteg információt gyűjtöttünk össze mindenről, nem úgy tűnik, mintha mindezek az ismeretek választ adtak volna az élet nagy kérdéseire: Kik vagyunk mi? Mire kell törekednünk? Milyen a jó élet, és hogyan kell úgy élnünk? A rendelkezésünkre álló roppant mennyiségű információ ellenére ugyanolyan fogékonyak vagyunk a fantáziálásra és a téveszmékre, mint távoli őseink. A nácizmus és a sztálinizmus csupán két példa a tömeges őrületre, amely olykor még a modern társadalmakat is magával ragadja. Senki sem vitatja, hogy az emberek ma jóval több információval és hatalommal rendelkeznek, mint a kőkorszakban, ám
az messze nem egyértelmű, hogy magunkat és a világmindenségben játszott szerepünket is jobban értjük.
Miért van az, hogy ennyire értünk az információszerzéshez és a hatalom halmozásához, ugyanakkor ennyire kevéssé ahhoz, hogy bölcsességre tegyünk szert? A történelem során számos hagyomány tartotta úgy, hogy természetünk végzetes fogyatékossága miatt kísértést érzünk olyan erők hajszolására, amelyeket nem tudunk kezelni. Phaethón görög mítosza egy fiúról szól, aki megtudja, hogy ő Héliosz, a napisten gyermeke. Az isteni származását bizonyítani akaró Phaethón követeli magának a jogot, hogy hajthassa a nap szekerét. Héliosz figyelmezteti őt, hogy ember nem képes irányítani a szekeret húzó égi lovakat. Phaethón azonban addig makacskodik, amíg a napisten végül is enged neki. A büszkén az égre nyargaló Phaethón ezután valóban elveszíti uralmát a szekér fölött. A nap letér pályájáról, felperzseli a növényzetet, számos élőlénnyel végez, és az a veszély fenyeget, hogy felégeti magát a földet. Zeusz közbelép, és villámával sújtja Phaethónt. Az önhitt ember hullócsillagként, lángolva zuhan alá a mennyből. Az istenek visszanyerik az irányítást az ég fölött, és megmentik a világot.
Kétezer évvel később, amikor épp csak kezdetét vette az ipari forradalom, és több munkakörben elkezdték leváltani az embereket a gépek, Johann Wolfgang Goethe hasonló tanmesét jelentetett meg A bűvészinas címmel. Goethe versében (amelyet később egy Walt Disney-rajzfilm tett népszerűvé Miki egérrel a főszerepben) az öreg varázsló ifjú inasára bízza a műhelyét, és meghagyja neki, hogy amíg ő távol van, végezzen el néhány feladatot, például hozzon vizet a folyóról. Az inas elhatározza, hogy megkönnyíti a dolgot, és mestere egyik varázsigéjével megbűvöli a seprűt, hogy az hozzon vizet helyette. Csakhogy nem tudja leállítani, a seprű pedig egyre csak hordja a vizet, amely mármár elárasztja a műhelyt. A pánikba esett inas baltával kettévágja a seprűt, ám annak mind a két feléből egy-egy új seprű lesz. Most már két varázsseprű ontja a vizet a házba. Mikor a varázsló visszatér, az inas a segítségéért könyörög: „Szellemet idéztem s nem birok vele!” A varázsló rögvest megtöri a bűbájt, és véget vet az árvíznek.
Az inas – és az emberiség – számára a tanulság világos: ne idézz meg olyan erőket, amelyeket nem bírsz uralni!
Mit tanulhatunk az inas és Phaethón történetéből a 21. században? Mi, emberek nyilvánvalóan nem hallgattunk az intésekre. Máris kibillentettük egyensúlyából a Föld klímáját, és milliárdnyi varázsseprűt, drónt, chatbotot és egyéb algoritmikus szellemet idéztünk meg, amelyek kiszabadulhatnak az ellenőrzésünk alól, előre nem látott következmények áradatát zúdítva ránk.
Mi hát a teendő? A tanmesék erre csupán azt a választ adják, hogy várjunk valamilyen isten vagy varázsló közbelépésére. Ez persze rendkívül veszélyes üzenet. Arra biztatja az embereket, hogy bízzák a felelősséget istenekre és varázslókra. Sőt, ami még rosszabb: nem ismeri el, hogy az isteneket és a varázslókat az emberek találták ki – csakúgy, mint a seprűt, a szekeret vagy az algoritmust. A tendencia, hogy nagy erejű dolgokat hozunk létre, és ez előre nem látott következményekkel jár, nem a gőzgép vagy az MI feltalálásával kezdődött, hanem a valláséval. A próféták és teológusok hatalmas szellemeket hívtak életre, amelyeknek szeretetet és örömöt kellett volna hozniuk, ám időnként vérözönnel árasztották el a világot.
Sem Phaethón mítosza, sem Goethe verse nem ad használható tanácsot, mivel egyaránt félreértelmezik azt, hogy miként jut az ember hatalomhoz. Mindkét történetben egyetlen ember kap óriási hatalmat a kezébe, majd megrontja őt a gőg és a mohóság. Ez a kezdetleges elemzés nem érti meg, hogy az emberi hatalom sohasem egyéni kezdeményezés eredménye. Mindig nagyszámú ember együttműködéséből fakad.
Ennek megfelelően annak sem egyéni pszichológiánk az oka, ha visszaélünk a hatalommal.
Elvégre az emberek a gőg, a mohóság és a kegyetlenség mellett képesek szeretetre, együttérzésre, alázatra és örömre is. Igaz, fajunk legalávalóbb egyedein a mohóság és kegyetlenség uralkodik, a hatalommal való visszaélésre késztetve őket. De miért a legalantasabb tagjaikat ruházzák fel hatalommal az emberi társadalmak? 1933-ban például a legtöbb német nem volt pszichopata. De akkor miért szavaztak Hitlerre?
Hajlamunk arra, hogy olyan erőket idézzünk meg, amelyeket nem bírunk uralni, nem egyéni pszichológiánkból fakad, hanem fajunk egyedi képességéből a tömeges együttműködésre. E könyv alaptétele az, hogy az emberek nagy együttműködési rendszerek kiépítésével óriási hatalomra tesznek szert, ám ezeknek a hálózatoknak a felépítése eleve hajlamossá teszi őket arra, hogy balgán használják ezt a hatalmat. A problémánk tehát hálózati probléma.
Még specifikusabban: információs probléma. Az információ a ragasztóanyag, amely összetartja a hálózatokat. Csakhogy a sapiensek évezredeken át úgy építettek és tartottak fenn nagy hálózatokat, hogy fikciókat, fantáziákat és tömeges téveszméket találtak ki, illetve terjesztettek – istenekről, elvarázsolt seprűkről, MI-kről és még rengeteg mindenről. Míg az egyes emberek jellemzően szeretnék megtudni az igazságot magukról és a világról, a nagy hálózatok fikciókra és fantáziákra támaszkodva kötik magukhoz tagjaikat, és teremtenek közöttük rendet. Így jutottunk el például a nácizmusig és a sztálinizmusig is. Ezek kivételesen erős hálózatok voltak, amelyeket kivételesen eltévelyedett eszmék tartottak össze.
George Orwell elhíresült megfogalmazásával élve: a tudatlanság erő.
A tény, hogy a náci és sztálinista rezsimek kegyetlen agyszüleményeken és szégyentelen hazugságokon alapultak, nem tette őket kivételessé a történelemben, és nem is ítélte eleve összeomlásra őket. A nácizmus és a sztálinizmus az emberek által valaha létrehozott legerősebb hálózatok közé tartoztak. 1941 és 1942 fordulóján a tengelyhatalmak közel kerültek ahhoz, hogy megnyerjék a második világháborút. A győzelmet azonban végül Sztálin szerezte meg, majd az 50-es és 60-as években neki és örököseinek szintén komoly esélyük volt a hidegháború megnyerésére. A 90-es évekre a liberális demokráciák kerekedtek felül, de ma már ez a győzelem is csupán átmenetinek látszik. A 21. században egy új totalitárius rezsim sikeres lehet ott, ahol Hitler és Sztálin elbukott, és létrehozhat egy mindenható hálózatot, amely képes megakadályozni, hogy jövő nemzedékek egyáltalán megkíséreljék leleplezni hazugságait és fikcióit. Nem szabad azt feltételeznünk, hogy a téveszméken alapuló hálózatok eleve kudarcra vannak ítélve. Ha meg akarjuk akadályozni, hogy diadalmaskodjanak, ahhoz nekünk magunknak is kemény munkát kell végeznünk.
Fotó: Animus Kiadó
