„Őszintén úgy gondolom, hogy a közeledő technológiai hullám válaszút elé állítja az emberiséget. Amennyiben ugyanis nem tudjuk kordában tartani, úgy drámai vagy akár végzetes hatással is lehet fajunkra. Másrészről viszont a gyümölcsei nélkül kiszolgáltatottabbak és sebezhetőbbek lennénk” – írja Mustafa Suleyman A következő hullám című könyvében (itt beleolvashatsz). Érdemes megfontolni a szempontjait és a mondandóját, hiszen egyike a mesterséges intelligencia fejlesztésében résztvevő legfontosabb szakembereknek. A Deep Mind társalapítója a Michael Bhaskarral közösen jegyzett könyvében körüljárja a következő technológiai hullám közvetlen, akár már napjainkban tapasztalható következményeit. A felvetett problémák és kilátások nem egyszer a science fictiont vagy a konteókat idézik, Suleyman viszont alaposan adatolja állításait, így veszi számba a következő technológiai hullám fő vonásait, hatásait az államra és az egyén életére, majd az olvasót végül konkrét javaslatokkal engedi útjára.
Mesterséges intelligencia (MI) és szintetikus biológia – Suleyman szerint ez a két alapvető, tehát a további ipari, gazdasági, kulturális és politikai fejlődést fundamentálisan befolyásoló technológia határozza meg a 21. századot. A könyv címe is erre a civilizációformáló változásra utal, ez lesz a következő hullám alapja, hasonlóan olyan vívmányokhoz, mint a kerék, a könyvnyomtatás feltalálása vagy a számítógép és az internet elterjedése – ám ezeknél jóval rohamosabban következik be.
Fontos, hogy Suleyman kiegyensúlyozottan gondolkodik: az MI és a szintetikus biológia (azaz „új organizmusok megtervezésének és létrehozásának képessége, a meglévő biológiai rendszerek átalakítása”) együttesen soha nem látott bőséget és életminőség-javulást eredményezhet, de egyre szélesebb körű elérhetőségük miatt helyi és globális mértékű katasztrófákhoz és zavarokhoz is vezethet.
Nem spoiler, mert Suleyman a kötet legelején tisztázza, hogy a megoldást egyedül a kordában tartásban látja, azaz
„a technológiák monitorozásának és potenciálisan akár teljes leállításának” képességében.
A szerző nem pesszimista és nem is optimista, józan és tájékozott kalauzként vezet végig a pozitív lehetőségek és a reális fenyegetések során, mindvégig hangsúlyozva, hogy nem science fictionről beszél, hanem már meglévő, működő, általunk is használt, valamint tesztelési, illetve kutatási szakaszban lévő technológiákról.
Óva int viszont a „pesszimizmuskerüléstől”, amit a kötet számos pontján veszélyként azonosít az emberek, pláne a döntéshozók viselkedésében. Ez alatt arra a tendenciára gondol, amikor egyfajta hárításként lebecsüljük, elutasítjuk vagy figyelmen kívül hagyjuk azokat a forgatókönyveket, melyeket túl negatívnak találunk:
ez a kognitív torzítás egyik formája.
Az általa felvetett és ismertetett dilemmákra szerinte azért muszáj megoldást találnunk, mert a fenyegetések miatt nem opció a technológia teljes szabadon engedése, a fejlődést felpörgető hatása miatt pedig a totális elzárkózás sem, hiszen a technológiai fejlődés hullámainak ellenálló, azok előtt megtorpanó társadalmak hajlamosak instabillá válni, összeomlani.
Kicsoda Mustafa Suleyman?
Az 1984-es születésű, brit Suleyman a Deep Mind társalapítója volt, a startup az MI fejlesztésére szakosodott akkor, amikor mai szemmel meglepő módon még kifejezetten sokan röhögték körbe a területet (2010-ről beszélünk), ám hamarosan fordulópontot jelentő eredményekkel álltak elő. Addig-addig tanítgatták az MI-t a különböző játékokra és az önálló tanulásra, míg az AlphaGo nevű algoritmusuk végül megverte a sakknál jóval bonyolultabb, go nevű játék tizennyolcszoros dél-koreai világbajnokát, Li Szedolt. A Deep Mindot megvette a Google, Suleyman pedig megalapította a Pi nevű nagy nyelvi modell fejlesztésével foglalkozó Inflection AI-t, emellett alelnök a Google MI-re vonatkozó termékmenedzsment és szabályozás részlegénél.
Ez a jövő már közelebb van, mint gondoljuk. Marcus du Sautoy matematikus A kreativitás kódja - Hogyan tanul a mesterséges intelligencia írni, festeni, gondolkodni című könyvében azt vizsgáltja, hogyan tanítható a gép arra, hogy önállóan kreatívvá váljon.
Tovább olvasokA feladat, ami ránk vár
„A könyv a kudarccal való szembenézésről szól”, írja Suleyman arra utalva, hogy a technológiák nemcsak hétköznapi értelemben hagyhatnak cserben minket (vagyis elromlanak), hanem képesek lerontani az életminőségünket, és rosszindulatúan is felhasználhatók. Így a kudarc szerinte a technológia óhatatlan velejárója, hiszen nem biztos, hogy beteljesíti a saját ígéreteit, elég csak azokra az időkre emlékezni, amikor az internetet vagy a közösségi médiát a demokratizálás potenciális eszközeként emlegették. A vázolt katasztrófák elsőre leginkább a konteókból és a disztópiákból lehetnek ismerősek – például emberi tervezéssel létrehozott járványok és mérgek, az önkényuralom totalitása és a magánélet hatékony megsértése, sőt, felszámolása –, ám Suleyman kutatási eredmények és megtörtént incidensek, napjainkban is folyó gyakorlatok sorával támasztja alá, hogy nem a fantázia birodalmában barangolunk.
A helyzet tehát az, hogy miközben létre tudtuk hozni és használjuk is a technológia új generációját, a kontroll alatt tartásának képessége nem egyértelmű.
Nem arról van szó, hogy ezek a technológiák eredendően rosszak lennének, hiszen például egy kés esetében is tőlünk függ, hogyan használjuk: embert ölünk vele vagy felvágjuk és megkenjük a kenyerünket. Az eddigiekhez képest a különbség viszont az, hogy olyan léptékű hatás- és kövekezménysorozattal az emberiség még soha nem szembesült, mint ami éveken belül megérkezik.
A technológiai hullámok alapja ugyanis az a továbbgyűrűzés, amikor a nagy felfedezések megteremtik az alapot az újabb és újabb kísérletekhez és fejlesztésekhez, és ezzel további kutatási területek, iparágak, ágazatok születnek. Suleyman itt a kvantummechanika vagy a magfúzió mellett példának hozza a robotika nagykorúsodását is. Ha ennél maradunk, ezt nem az androidok forradalmaként kell elképzelni, hanem olyan módon, hogy a robotika az emberi munkaerővel elérhetetlen haszon- és terménymaximalizálással alakítja át például a komplett mezőgazdaságot, és hamarosan nem csupán a raktárakban és gyárakban, hanem a helyi patikákban, éttermekben, bárokban, szociális intézményekben és iskolákban is találkozunk robotokkal. Az emberi közreműködés ezekben az esetekben sokkal inkább a felügyeletre és ellenőrzésre irányul majd, ami szükségszerűen drasztikusan kihat a foglalkoztatottságra is.
A következő hullám négy fő vonása
Suleyman szerint a közeledő hullámnak négy olyan elidegeníthetetlen tulajdonsága van, ami érinti a kordában tartás problémáját:
- Az aszimmetria, azaz a „kolosszális hatalomátrendeződés”: a fejlettség legyőzi a mennyiséget, vagyis olcsón és könnyen hozzáférhetőek a célzott és méretezhető módszerek – gondoljunk a játékszerekből hadmozdulatokat eldöntő eszközökké váló drónokra.
- Hiperevolúció: a technológia olyan sebességgel fejlődik és hat további szektorokra, amit a gyorsasággal nem vádolható szabályozások és törvényhozás vagy akár a hatások felmérése alig vagy nagy lemaradással képes csak követni.
- Rendkívül sokoldalú felhasználhatóság: Suleyman a „sokélű” jelzővel írja le az új technológiák generikus mivoltát. Itt röviden arról van szó, hogy ha például egy nukleáris robbanófejet készítünk, tudjuk, mire fogjuk használni – egy deep learning rendszer ellenben játékokban és bombázó repülőgépek flottájának irányításában is hatékony.
- Autonómia a korábbi technológiákhoz képest: régi toposz az irodalomban, hogy a teremtmény kicsúszik a teremtő kezei közül. Suleyman szerint ennek a lehetősége már nem csupán fantázia. Itt megint nem egy Mátrix-típusú jövőképről beszél, hanem olyan praktikus kérdésekről, mint hogy nehéz megjósolni, hogyan fognak viselkedni hosszú távon az egyedi tervezésű genomok. Ennél a példánál maradva, ha megváltoztatjuk egy faj genetikáját, hogyan fejlődik tovább?
A nemzetállamok kihívásai – a technológia mint politikai kérdés
A technodiktatúrák születése és/vagy az állam kiüresedése is valószerű verzió Sulayman szerint, ha az állam jövőjét vizsgáljuk (az előbbire már működő példát is hoz, az arcfelismerő programokkal és a rájuk épülő adatbázisokkal totális kontrollt építő Kínát). Az, hogy a technológia és az állam fejlődése szoros kapcsolatban áll, valójában egyáltalán nem újdonság. Az írás, az óra, a nyomda, a rádió és a tévé mind hozzájárult az adminisztráció és a nemzeti öntudat kialakulásához, illetve megerősödéséhez. A fegyverek, írja Suleyman, szintén létfontosságúak a nemzetállami hatalom szempontjából.
Szerinte veszedelmesen idealista az a hozzáállás, hogy a technológia önmagában megoldhatja a társadalmi, politikai problémáinkat. Ám az is téves elképzelés, hogy ezeket a technológia nélkül meg tudnánk oldani vagy akár csak kezelni. Mindeközben ma már tudjuk, hogy egyértelmű kapcsolat áll fenn az egyre növekvő közösségimédia-használat és az erősödő politikai bizalmatlanság, populista mozgalmak, gyűlölet és polarizáció között. Az elemzések pedig bizonyítékokat találtak „a demokráciák komoly fenyegetettségére” az új technológiák miatt (erről a témáról itt podcastoltunk). A technológia tehát hatással van a politikára, ám ezt Suleyman szerint jelenleg a döntéshozók és a fejlesztők is figyelmen kívül hagyják.
Az olvasók országa választási mellékletben Pető Péterrel beszélgetünk a Facebookról, a fake newsról és a média szerkezetének változásáról. Podcast.
A 20. század folyamán az iparosodott, modern demokratikus állam olyan alapvető funkciókat kezdett biztosítani, amiket mára magától értetődőnek veszünk: az állampolgár biztonsága, a legitim hatalom központi koncentrációja és ezzel együtt a hatalmi ágak szétválasztása, valamint a fékek és ellensúlyok rendszere. (Ezen a ponton egyértelműen látszik, hogy brit-amerikai szerző írta a könyvet, hiszen Európának ezen a fertályán ez utóbbiak sem a 20., sem a 21. században nem tűnnek olyan magától értetődőnek.) Ehhez képest Suleyman szerint a technológia következő hulláma az államra kétféle módon hathat, ám mindkettő a káosz felé mutat:
- bizonyos államok egyre jobban leromlanak belülről és „zombirendszerekké” válhatnak, azaz a külsőségeik megmaradnak, de a funkcióik és a szolgáltatásaik kiüresednek;
- vagy az új technológia megnyithatja az utat az önkényuralmi rendszerek előtt.
Az utóbbival kezdve: a kínai, már működő gyakorlathoz hasonlóan tehát könnyen ráléphet az állam arra az útra is, amikor a közeledő hullámra válaszul, azt felhasználva megpróbálja még szorosabban megragadni a hatalmat. A korábbi totalitárius rezsimek szükségszerű kudarcra voltak kárhoztatva, írja Suleyman, mert az emberiség túl széthúzó és impulzív, így soha nem váltak a tömegek teljesen „olvashatóvá” az állam számára. Jelenleg viszont önként adjuk át a legérzékenyebb adatainkat is: az egészségügyi állapotunkról (okosórák), az érdeklődési körünkről (streaming, keresések, reklámokra kattintás), a kapcsolatainkról (közösségi média és e-mailek), továbbá a céges gépünkre telepített szoftverekből kinyerhető a produktivitásunk, a boltok hűségkártyája számon tartja a vásárlásainkat, és míg az utcán járunk vagy közlekedünk, biztonsági kamerák tömege készít rólunk felvételeket. A világ körülbelül egymilliárd köztéri kamerájának fele Kínában van, a céljuk pedig bevallottan „az emberek kontrollálása és irányítása” a kinyert adatok segítségével. A helyzetet jól illusztráló adalék, hogy csak az Egyesült Államokban több száz város szerzett be (egyébként szövetségi törvényi tiltás ellenére) olyan kínai gyártású kamerákat, amiket eredetileg az ujgurok ellenőrzésére fejlesztettek ki.
Jamie Susskind Politika a jövőben című könyvében a digitális kor egyre gyorsabb, megállíthatatlan és már most érzékelhető dilemmáit tárgyalja többek között a demokrácia, igazságosság mentén. A kötet bemutatóján Filippov Gábor történész-politológus, Rab Árpád kulturális antropológus, szociológus és Nagy Zsolt politológus beszélgetett.
Tovább olvasokA hatalom útja: koncentrálódás és szétszóródás egyszerre
A változások egyszerre jelentik majd a hatalom egy kézben/csoportban történő koncentrálódását és a szóródását. Erre a látszólagos ellentmondásra hozza Suleyman példának az olyan, állam-az-államban-szerű képződményeket, mint amilyen a Brit Kelet-India Társaság volt, tehát egy vállalkozás, ami egy Európánál nagyobb terület és a kontinensünk lakosságánál több ember felett gyakorolt ellenőrzést, 200 ezer fős hadserege volt és Nagy-Britannia külkereskedelmének mintegy felét bonyolította. De hasonló jelleggel működik a Hezbollah, a dél-olasz és a dél-amerikai maffia is, melyek nemcsak terrorcselekményeket követnek el, illetve bűnszervezeteket tartanak fenn, hanem infrastruktúrát (egészségügyet, oktatást, segélyhez hasonló pénzbeli juttatást stb.) is biztosítanak az általuk kontrollált területeken. Suleyman azt állítja, hogy valójában már az emberi csoportok hálózatát – nagyvállalatok, hadseregek, intézmények – is felfoghatjuk egyfajta mesterséges intelligenciaként, amely az egyének képességeinek összesítésével befolyásol széles rétegeket és számos területet. Ehhez képest jelent majd további elmozdulást az új technológia: az MI-rendszerek már most részt vesznek a döntéshozásban, például arról, hogy ki kaphat hitelt, helyet az egyetemen vagy munkahelyen – a szerző szerint pedig egy évtizeden belül eldönthetik, mire megy a közpénz, hol vetik be a hadsereget és mit tanuljanak a diákok.
Az elérhető eszközökkel (MI, olcsó robotika, fejlett biotechnológia, plusz tiszta energiaforrások) megvalósulhat a társadalmon kívüli élet is, tehát miközben a hatalmi központok igyekeznek minél nagyobb kontrollt gyakorolni, ugyanezek az eszközök az egyéneknek és az államtól, vállalatoktól független csoportoknak is lehetőséget biztosítanak a kísérletezésre és befolyásgyakorlásra.
Suleyman úgy látja, hogy
az egyenlőtlenség következő frontvonala egyébként a biológia/orvostudomány területén húzódik majd.
A kisebb egységekre töredezett világban nem zárható ki, hogy bizonyos (politikai, vallási, vállalati, hacker stb.) csoportok megengedőbbek lesznek az emberkísérletekkel, a DNS-szintű önmódosítással, amivel belépünk a mentális és fizikai szempontból felfejlesztett vagy átalakított poszthumánok korába.
"Az ember feljavítása többé nem fikció" - áll a jogi végzettséggel rendelkező, nagyszerű amerikai gondolkodó, Jamie Susskind könyvében. Olvass bele!
Tovább olvasokA kordában tartás feltételei
A vázolt problémák után a szerző szerencsére nem hagy megoldási, illetve inkább kezelési javaslatok nélkül – tulajdonképpen a teljes könyv egy nagyon alapos, de felvezető érvelés annak alátámasztására, hogy miért elengedhetetlen a kordában tartás. Önmagában a szabályozást azért nem tartja elégségesnek, mert a technológia és a használhatósága túl szerteágazó, bonyolult és változékony, emiatt pedig az aktuális szövegezésben mindig maradnak kiskapuk, hiányosságok. Ráadásul a hatékony szabályozás-ellenőrzés felállításához időre van szükség – ami most nincs.
A közeledő hullámot Suleyman szerint magabiztos, agilis, egészséges államok tudnák jól kezelni, amelyekben sok a hozzáértő szakember, működik a számonkérhetőség, továbbá az érdekek és ösztönzők kiegyensúlyozása, illetve a törvényhozás képes gyorsan reagálni. A kordában tartáshoz tíz tényezőt, illetve ötletet sorol fel a kötet végén:
- Technikai biztonság: ez kódszinten kezdődik a fejlesztőkkel, példaként az olyan etikai problémákat említi, mint az első nagy nyelvi modellek rasszizmusa, amit tanítással a szakemberek kiküszöböltek.
- Ellenőrzés – és a hozzá kapcsolódó transzparencia: a biztonságtechnikai fejlesztések és a szabályozások sem működnek anélkül, ha nem tudjuk ellenőrizni, hogy mi történik. Ez egyszerre technológiai és társadalmi kihívás.
- Időnyerés: a hiperevolúció korában egyszerűen időt kell nyernünk, hogy ki tudjuk dolgozni az óvintézkedéseket, ki tudjuk próbálni a kikapcsolási gombot, a védelmi technikákat. Ez részben nemzetközi politikai feladat is.
- Az alkotók és a kritikus szellemek bevonása: Suleyman szerint az új technológia létrehozói (saját magát is beleértve) felelősek a találmányaikért, ezért elsősorban nekik kell keresniük a megoldást a vázolt problémákra.
- Profit és céltudatosság: olyan elszámoltatható és inkluzív kereskedelmi modellek kitalálása, amik a profitszerzést és a biztonság kialakítását is ösztönzik. Suleyman egyébként ilyesmin is dolgozik, egyelőre vegyes eredményekkel.
- Politikai és állami elköteleződés: szükség van az állami támogatásra a technológia gyártásához, szabályozásához és az óvintézkedések működtetéséhez.
- Szövetségek: Suleyman nem naiv, tisztában van az ellentétes érdekek realitásával nemzetközi viszonylatban. Viszont számos példát felsorol (az atomsorompó-szerződéstől a gyermekbénulás elleni vakcina feltalálásán és a ózonréteget lebontó anyagokról szóló montréali jegyzőkönyvön át az azbeszthasználat beszüntetéséig), amikor a nemzetközi közösség, azaz az emberiség képes volt megegyezésre jutni egy nagyobb cél érdekében.
- A kudarc elfogadása: a kudarc elismerésének társadalmi büntetése (még a leghétköznapibb helyzetekben is) valójában aláássa az átláthatóságot, a megoldás elérését. Suleyman úgy véli, ahogy a tudást, úgy a kudarcot is meg kell osztani, mert ez elősegíti a gyors reakciókat abban a helyzetben, amikor az idő a szűk keresztmetszet.
- Mozgalmak: szükséges, hogy képesek legyünk a felelősségvállalás szempontjából „mi” viszonylatban gondolkodni az emberiségről. A kordában tartáshoz ugyanis közösségi támogatás és elszámoltathatóság kell minden szinten (beleértve a nyomásgyakorlást is).
- Kohézió: a fenti javaslatok egyike sem elég önmagában, ezek csak együttesen képesek a kordában tartás elérésére, hogy a „homo technologicust” ne elsöpörje a következő technológiai hullám cunamija, hanem gyarapodhasson általa.