Legújabb, Nexus című könyvében Yuval Noah Harari az információs hálózatok történetét mutatja be az őskortól a mesterséges intelligencia térnyeréséig. Az angolul szeptember 10-én megjelenő kötetben a történész-író az őskortól indul, érinti a Biblia kanonizálását, a kora újkori boszorkányüldözéseket, a sztálinizmust és a nácizmust, és elér napjaink feltámadó populizmusáig valamint a mesterséges intelligenciáig (AI). A kiadó szerint „Harari arra kér, hogy gondoljuk végig, mennyire összetett a kapcsolat információ és igazság, bürokrácia és mitológia, bölcsesség és hatalom között.”
Ezt írja Harari az AI-ról a Nexusban
Az alábbiakban a Guardianen megjelent részletet szemlézzük:
- Harari mitológiai és irodalmi példákkal indít, amikkel azt illusztrálja, hogy az ember hajlamos olyan erőkkel játszani, amiket nem tud kezelni: említi a napisten szekerét hajtani kívánó Phaethont és Goethe bűvészinasát is. Szerinte ezek a történetek abban ugyanakkor tévednek, hogy az egyén felelősségévé teszik, mihez kezd-e a hatalommal.
„A hatalom mindig nagyszámú ember együttműködéséből ered.”
- „A hajlamunk arra, hogy olyan erőket hívunk segítségül, amelyeket nem tudunk irányítani, nem az egyéni pszichológiából fakad, hanem abból az egyedülálló módból, ahogyan fajunk nagy számban együttműködik” – véli Harari. Szerinte azzal van probléma, ahogyan hálózatokat építünk, ezeket ugyanis fikciókkal és tömeges téveszmék terjesztésével hozzuk létre és tartjuk fenn. Ezen belül is kifejezetten az információ a gyenge láncszem, hiszen „ha az embereket rossz információkkal etetik, akkor valószínűleg rossz döntéseket hoznak, függetlenül attól, hogy személy szerint mennyire bölcsek és kedvesek”.
- A mesterséges intelligencia segítségével még több információhoz jutunk, ám ez Harari szerint egyáltalán nem biztos, hogy jót tesz nekünk. Az AI vezető fejlesztői között persze találunk optimistákat, akik úgy vélik, az AI megmenti a világot. Mások viszont szkeptikusabbak, mint például Elon Musk és Mustafa Suleyman (utóbbi magyarul is megjelent könyvéről itt írtunk). A történész idéz egy 2023-as, 2778 AI-kutató körében végzett felmérést is, amiben
több mint egyharmaduk legalább 10 százalékos esélyt látott arra, hogy a fejlett AI olyan rossz eredményekhez vezet, mint az emberiség kihalása.
- A mesterséges intelligencia nem eszköz – hanem ágens, azaz cselekvő, és ebben rejlik Harari szerint az egyik nagy veszélye. Ez az első olyan technológia a történelemben, amely képes döntéseket hozni és új ötleteket létrehozni. „Az atombombák nem maguk döntenek arról, hogy kit öljenek meg, és nem is képesek önmagukat fejleszteni vagy még erősebb bombákat feltalálni. Ezzel szemben az autonóm drónok maguk dönthetnek arról, hogy kit öljenek meg, a mesterséges intelligenciák pedig újszerű bombaterveket, eddig nem látott katonai stratégiákat és jobb mesterséges intelligenciákat hozhatnak létre. Sőt, a következő évtizedekben valószínű, hogy az AI képes lesz akár új életformák létrehozására is.”
- Harari azt javasolja, hogy az AI betűszóban az A-t az angolul mesterségest jelentő ‘artificial’ helyett inkább ‘alien’-re, azaz idegenre cseréljük. Az AI a fejlődésével ugyanis nem egyre emberszerűbb lesz, mint amitől sokan tartanak (vagy remélik), hanem ellenkezőleg, egyre idegenebbé válik.
- Suleyman könyvét idézve Harari kifejti, hogyan fenyegeti az AI a demokráciát, a pénzügyi rendszereinket. Emellett abban is egyetért a fejlesztővel, hogy már most szükségünk van az AI-t szabályozó intézményekre – valamint egységes fellépésre. „Sajnos az emberiség soha nem volt egységes. Mindig ártottak nekünk a rossz szereplők, valamint a jó szereplők közötti nézeteltérések. A mesterséges intelligencia felemelkedése egzisztenciális veszélyt jelent az emberiségre, de nem a számítógépek rosszindulata, hanem a saját hiányosságaink miatt.”
- Az AI Harari szerint a társadalmi és az országok/régiók közti egyenlőtlenségeket is növelheti: „A mesterséges intelligencia által vezérelt globális gazdaságban a digitális vezetők igényt tartanak a nyereség nagy részére.
Eközben a lemaradó országokban a szakképzetlen munkaerő értéke csökkenni fog.”
- A részlet zárásában arról olvashatunk, hogy a történész szerint az új, el- és leválasztó függöny már nem vasból, hanem szilíciumból készült. „Az okostelefonodon lévő kód határozza meg, hogy a szilíciumfüggöny melyik oldalán élsz, milyen algoritmusok irányítják az életedet, ki irányítja a figyelmedet és hová áramlanak az adataid.”
- Harari egy adat- és algoritmusalapú, globális háború rémképét is megfesti. Majd arról ír: „Még ha az emberiség el is kerüli a globális háború legrosszabb forgatókönyvét, az új digitális birodalmak felemelkedése akkor is veszélyeztetheti emberek milliárdjainak szabadságát és jólétét. A 19. és 20. századi ipari birodalmak kizsákmányolták és elnyomták gyarmataikat, és vakmerőség lenne elvárni, hogy az új digitális birodalmak sokkal jobban viselkedjenek. Ráadásul, ha a világ rivális birodalmakra oszlik, az emberiség valószínűleg nem fog együttműködni az ökológiai válság leküzdésében vagy a mesterséges intelligencia és más bomlasztó technológiák, például a biotechnológia szabályozásában.”
A teljes részletet itt tudod elolvasni angolul.