Mustafa Suleyman egy úttörő MI-fejlesztő vállalkozás, az immár a Google alá tartozó DeepMind egyik alapítójaként közvetlen közelről láthatja a mesterséges intelligencia forradalmát. Ő úgy gondolja, hogy az előttünk álló évszázadot ezeknek a nagy erejű, exponenciálisan terjedő új technológiáknak a hulláma fogja meghatározni. Olvass bele a könyvébe!
Fajunk történelmének kritikus fordulópontja felé közeledünk. Most minden a változásról szól. Hamarosan MI-k fognak körülvenni minket. Azok fogják megszervezni az életünket, működésben tartani a vállalkozásunkat és biztosítani az alapvető állami szolgáltatásokat. Nemsokára a DNS-nyomtatók és kvantumszámítógépek, mesterséges kórokozók és autonóm fegyverek, robotasszisztensek és a korlátlan energia világában fogjuk találni magunkat. De egyikünk sincs felkészülve erre.
A következő hullámban Suleyman azt mutatja be, hogyan teremtenek majd ezek az erők elképesztő jómódot, ugyanakkor hogyan sodorják veszélybe ezzel egy időben a nemzetállamot, ami eddig világrendünk alapját jelentette. Miközben az eleve ingatag helyzetben lévő kormányaink alvajáróként andalognak a katasztrófa felé, minket egyik oldalról korábban nem tapasztalt ártalmak fenyegetnek, a másikról az önkényuralmi kontroll. Képesek leszünk megmaradni azon a keskeny ösvényen, ami a katasztrófa és a disztópia között kanyarog? Az MI egyik legbennfentesebb ismerőjének könyve úgy mutatja be a "kordában tartás problémáját" - a rendkívül hatékony technológiák feletti irányítás fenntartását -, mint korunk legalapvetőbb kihívását.
Mustafa Suleyman, Michael Bhaskar: A következő hullám - Mesterséges intelligencia, technológia, hatalom és a 21. század legnagyobb kihívása (részlet)
Fordította Farkas Veronika
1. fejezet
A kordában tartás reménytelen
A hullám
Szinte az összes kultúrának van valamilyen árvízlegendája.
Az ősi hindu szövegekben az univerzumunk első emberét, Manut figyelmeztetik a közeledő áradatra, aminek végül ő lesz az egyetlen túlélője. A Gilgames-eposz szerint az Enlil nevű isten az egész világot elpusztította egy nagy árvízzel; ez a toposz valószínűleg mindenkinek ismerősnek fog tűnni, aki olvasta Noé bárkájának történetét az Ótestamentumban. Platón Atlantisz elveszett városáról mesélt nekünk, amit elmosott egy hatalmas víztömeg. Az emberiség szájhagyománnyal terjedő mítoszaiban és ősi írásaiban újra és újra felbukkan a hatalmas hullám, ami mindent elpusztít, ami az útjába kerül, majd egy megváltozott, újjászülető világot hagy maga mögött.
Árvizek a legkonkrétabb módon is fel-felbukkannak a történelmünkben – ilyen a világ nagy folyóinak rendszeres áradása, a tengerszint megemelkedése a jégkorszak végén, vagy a cunami ritka jelensége, ami figyelmeztetés nélkül támad. Az aszteroida, ami kipusztította a dinoszauruszokat, kilométeres magasságú hullámot hozott létre, és teljesen megváltoztatta az evolúció menetét. Ezeknek az árvizeknek a mindent lebíró ereje beégett a kollektív tudattalanunkba: a megállíthatatlan, fékezhetetlen, kordában tarthatatlan vízfalakat bolygónk legkomolyabb erői közé soroljuk. Földrészeket formálnak át, vizet biztosítanak a világ mezőgazdaságának és elősegítik a civilizációs fejlődést.
Másfajta hullámok azonban éppen ilyen nagy hatással tudnak lenni ránk.
Tekintsük át ismét a történelmünket, és átvitt értelemben is egy sor hullámot láthatunk benne; birodalmak és vallások felemelkedését és bukását, gazdasági robbanásokat. Gondoljunk csak a kereszténységre vagy az iszlámra, azokra a vallásokra, amelyek apró fodrozódásokként kezdték, hogy végül megnőve hatalmas területeket temessenek maguk alá. Az ilyen hullámok visszatérő motívumok a világunkban; ezek teremtik meg történelmünk, komolyabb hatalmi villongásaink és gazdasági fellendüléseink és mélypontjaink árapályritmusát.
A technológiai újítások megjelenése és elterjedése is tekinthető világot megváltoztató hullámok sorának. Fajunk első technológiai fejleményei, a tűz felfedezése és a kőszerszámok feltalálása óta egyetlen közös motívum köti össze ezeket. Szinte az összes alapvető technológia, amit valaha is feltaláltak a csákánytól az ekéig, a korongozástól a fényképezésig, a telefonoktól a repülőgépekig, minden egyébbel együtt, ami ezek között előfordult, egyetlen megrendíthetetlennek tűnő törvényt követ: idővel olcsóbbá és könnyebben használhatóvá válik, és végül széles körben elterjed.
A technológiai újítások hullámokban terjedése a homo technologicus – a technológiai állat – történetének lényege. Az emberiség szinte küldetésének tekinti a fejlesztést – önmagunkét, a társainkét, a képességeinkét és a környezetünk felett gyakorolt befolyásunkét –, és ez hajtja az ötletek és az alkotás soha meg nem álló evolúcióját. A feltalálás szakadatlan, burjánzó, emergens folyamat, ami önszerveződés útján jön létre rendkívül kompetitív feltalálók, akadémikusok, vállalkozók és vezetők körében, akik mindegyikét a saját egyéni motivációi hajtják. A fejlesztéseknek ez az ökoszisztémája óhatatlanul is tágul. Ezt a technológia elidegeníthetetlen részének tekinthetjük.
Csak az a kérdés, hogy mi történik ezután. A következő oldalakon elmesélem a történelem legújabb nagy hullámának történetét.
Nézzünk körül.
Mit látunk? Bútorokat? Épületeket? Telefonokat? Ételeket? Egy gondozott parkot? Nagy valószínűséggel szinte az összes olyan dolgot, ami a látókörünkben van, az emberi intelligencia hozta létre vagy alakította át. A nyelv – társadalmi interakcióink, kultúránk, politikai szerveződéseink és talán a puszta emberi mivoltunk alapja – is az intelligenciánk terméke, egyben motorja. Az összes elvet és absztrakt koncepciónkat, minden apró kreatív művünket és megnyilvánulásunkat, életünk összes találkozását fajunk egyedi és végtelenül összetett képzeletereje, kreativitása és logikai képessége tette lehetővé.
Az emberi találékonyság elképesztő jelenség.
Ezenkívül csak egy hajtóerőről lehet elmondani, hogy ugyanilyen mértékben áthat mindent: magáról a biológiai életről. A modern idők előtt néhány követ és ásványt leszámítva a legtöbb emberi műtermék – a faházaktól kezdve a pamutszöveteken át egészen az éghető szénig – olyan dolgokból származott, amelyek valamikor éltek. Minden, ami azóta megjelent a világban, belőlünk fakad, abból a tényből, hogy biológiai lények vagyunk.
Nem tartom túlzásnak kijelenteni, hogy az emberi világ egésze vagy eleven dolgoktól, vagy az intelligenciánktól függ. Most azonban mindkettőt érinti az exponenciális fejlődés és felfordulás precedens nélküli pillanata, amikor a korábban nem látott ugrások következtében semmi nem maradhat a régi. A technológia új hulláma készül lecsapni ránk, ami ráadásul képes lesz módosítani ezt a két univerzális alapot: magának az intelligenciának és az életnek a hulláma.
A közeledő hullámot két alapvető technológia határozza meg: a mesterséges intelligencia (MI) és a szintetikus biológia. Ezek együttesen elősegíthetik az emberiség új hajnalának felvirradását, és soha nem látott gazdagságot és bőséget teremthetnek. Gyors terjedésük ugyanakkor azzal is fenyegethet minket, hogy eszközöket biztosít egy sor rosszindulatú szereplőnek, akik elképzelhetetlen mértékű zavarokat, instabilitást, sőt katasztrófákat okozhatnak. Ez a hullám hatalmas kihívást jelent, ami az egész huszonegyedik századot meg fogja határozni:
a jövőnk függ ezektől a technológiáktól, amelyek azonban fenyegetik is ezt a jövőt.
Pillanatnyi helyzetünkből nézve úgy tűnik, ezt a hullámot nem lehet kordában tartani – vagyis irányítani, potenciálisan másfelé terelni vagy akár megállítani. Ez a könyv felteszi a kérdést, hogy vajon miért van így, és mit jelent, ha tényleg így van. Ezeknek a kérdéseknek a következményei az összes eleven lényre és a miénket követő nemzedékekre hatással lesznek.
Őszintén úgy gondolom, hogy a közeledő technológiai hullám válaszút elé állítja az emberiséget. Amennyiben ugyanis nem tudjuk kordában tartani, úgy drámai vagy akár végzetes hatással is lehet a fajunkra. Másrészről viszont a gyümölcsei nélkül kiszolgáltatottabbak és sebezhetőbbek lennénk. Ezeket az érveket már sokszor elmondtam zárt ajtók mögött, de ahogy egyre kevésbé tudjuk figyelmen kívül hagyni a következményeket, úgy érzem, ideje nyilvánosan is megtennem.
A dilemma
Az emberi intelligencia rendkívüli erejével kapcsolatos elmélkedéseim során felmerült bennem egy kérdés, ami azóta sem hagy nyugodni: mi lenne, ha képesek lennénk lepárolni mindannak a lényegét, ami minket, embereket olyan produktívvá és kompetenssé tesz egy szoftverbe, egy algoritmusba? A válasz talán elképzelhetetlenül hatékony eszközöket adhat a kezünkbe a legsúlyosabb problémáink megoldásához. A klímaváltozástól a népességek elöregedéséig és a fenntartható élelmezésig mindenre megoldást nyújthat, lehetetlennek tűnő, de rendkívüli megoldást, ami átsegíthet minket az előttünk álló évtizedek elképesztő kihívásain.
Ezt szem előtt tartva alapítottam meg a londoni Russell Square-re néző empire stílusú irodában két barátommal, Demis Hassabisszal és Shane Legg-gel 2010 nyarán a DeepMind nevű céget. A fő célunk ma is ugyanolyan ambiciózusnak, eszelősnek és reményteljesnek tűnik, mint akkoriban: azt a valamit akartuk lemásolni, ami egyedivé teszi a fajunkat – vagyis az emberi intelligenciát.
Hogy sikerüljön elérnünk ezt a célt, olyan rendszert kell létrehoznunk, ami képes utánozni, majd idővel akár felül is múlni az összes emberi kognitív képességet a látástól és a beszédtől kezdve a tervezésen és a képzelőerőn át egészen az empátiáig és a kreativitásig. Mivel egy ilyen rendszer működését nagyban elő tudják segíteni a szuperszámítógépek elképesztő párhuzamos feldolgozási képességei és a hatalmas új adatforrások robbanásszerű megjelenése a weben, tudtuk, hogy
már a körbeírt cél felé tett szerény lépések is komoly társadalmi következményekkel járhatnak.
A kezdetek kezdetén elég nagyravágyónak tűnt ez a terv. Akkoriban a mesterséges intelligencia még csak vágyálmokban létezett, inkább fantazmagóriának számított, mint létező dolognak, amivel inkább csak néhány elefántcsonttoronyban élő akadémikus és űzött tekintetű sci-fi-rajongó foglalkozik. Mégis, miközben ezt írom, és felidézem az elmúlt egy évtizedet, az MI terén elért fejlődés döbbenetesnek mondható. A DeepMind a világ egyik vezető MI-cégévé vált, és egy sor áttörést elért. Ennek az új forradalomnak a sebessége és ereje még azokat is meglepte, akik hozzánk hasonlóan az élvonalban jártak. Az MI ennek a könyvnek a megírása alatt is lélegzetelállító tempóban fejlődött: volt, hogy naponta jelentek meg új modellek és termékek. Egyértelmű, hogy ennek a hullámnak a sebessége egyre gyorsul.
Manapság az MI-rendszerek már tökéletesen felismerik az arcokat és tárgyakat. Most már természetesnek vesszük, hogy rendelkezésre állnak diktálóprogramok és instant fordítóprogramok. Az MI elég jól eligazodik az utakon és a forgalomban ahhoz, hogy bizonyos környezetekben autonóm vezetésre is képes legyen. Az MI-modellek legújabb nemzedéke pár egyszerű paraméter megadásával is képes új grafikákat gyártani vagy rendkívül részletes, koherens szövegeket alkotni. Az MI-rendszerek kísértetiesen valósághű szintetikus hangokat generálnak, és lenyűgözően szép zenéket komponálnak. De még a legnagyobb kihívást jelentő területeken is hatalmas ugrásokat tesznek – amelyekről korábban azt hittük, hogy mindenképpen emberi képességek kellenek hozzájuk.
Ilyen például a hosszú távú tervezés, a képzelőerő és a komplex gondolatok szimulációja.
Az MI már évtizedek óta egyre feljebb jut a kognitív képességek létráján, és most úgy tűnik, hogy a következő három év során a feladatok nagyon széles körében fogja elérni az emberi teljesítmény szintjét. Ezek nagy szavak, de ha akár csak a közelében járok is az igazságnak, akkor ennek beláthatatlan következményei lehetnek. Ami a DeepMind megalapításakor még irreálisan idealisztikus elképzelésnek tűnt, mostanra nemcsak hihetővé, hanem egyenesen elkerülhetetlenné is vált.
Számomra már az elejétől fogja egyértelmű volt, hogy az MI nemcsak a kivételesen jó célok hasznos eszköze lehet, hanem a legtöbb hatékony eszközhöz hasonlóan rendkívül veszélyes és etikai dilemmákkal terhes jelenség is. Nemcsak a rohamosan fejlődő MI következményei keltenek bennem azonban régóta aggodalmat, hanem az is, hogy merre tart a teljes technológiai ökoszisztéma. Az MI-n túlmenően szélesebb körű forradalom is zajlik, amelyen belül az MI a géntechnológia és a robotika hatékony, megszületőben lévő új nemzedékét segíti. Bármelyik terület fejlődése a többiét is támogatja – kaotikus és egymást katalizáló szövevényben, amit senki nem képes tudatosan befolyásolni. Egyértelmű volt számomra, hogy ha nekünk vagy másoknak sikerül lemásolnunk az emberi intelligenciát, az nemcsak anyagilag bizonyulhat jövedelmezőnek, hanem az emberiség számára is földrengésszerű változásokat hozhat, egy olyan korszakot, amikor a soha nem tapasztalt lehetőségek soha nem tapasztalt kockázatokat hordoznak majd magukban.
Miközben ez a technológia egyre fejlődött az elmúlt évek során, az én aggodalmaim is egyre nőttek. Mi lesz, ha ez a hullám valójában cunami?
2010-ben szinte senki nem vette komolyan az MI-t. Ugyanakkor ami egykor csak maroknyi kutató és vállalkozó sajátos hobbiküldetésének tűnt, mostanra hatalmas világméretű törekvéssé vált. Az MI mindenütt ott van, a híradóban, az okostelefonunkban, a tőzsdéken és a weboldalkészítésnél. A világ legnagyobb vállalatainak és leggazdagabb országainak nagy része több tízmilliárd dollárt költ élvonalbeli MI-modellek és génmanipulációs technikák fejlesztésére.
Miután beérnek, ezek az újonnan megjelenő technikák gyorsan el tudnak terjedni: olcsóbbá és könnyebben elérhetővé válnak, továbbá széles körben használatba kerülnek a társadalom különböző rétegein belül. Rendkívüli új egészségügyi fejlesztéseket és a tiszta energia terén végrehajtott áttöréseket segíthetnek elő, amivel nemcsak új vállalkozásokat, hanem
teljesen új iparágakat is létrehozhatnak, továbbá szignifikánsan javíthatják az életminőségünket szinte az összes elképzelhető területen.
Az előnyök mellett az MI, a szintetikus biológia és a technológia további új eredményei egyúttal rendkívül aggasztó kockázatokat is magukban hordoznak. Egzisztenciális fenyegetést jelenthetnek a nemzetállamokra nézve – akár még a jelenlegi geopolitikai világrendet is felboríthatják vagy bedönthetik. Utat nyithatnak nagy erejű, MI-vel végrehajtott kibertámadásoknak, országokat tönkretevő, automatizált háborúknak, mesterséges járványoknak és egy megmagyarázhatatlan, ugyanakkor mindenhatónak tűnő erőknek kitett világnak. Ezek bármelyikének kicsi a valószínűsége, a lehetséges következmények viszont hatalmasak. Úgyhogy a fentiekhez hasonló lehetőségeknek még a legkisebb esélye is komoly figyelmet érdemel.
Egyes országok a technológián alapuló önkényuralom bizonyos formáival is reagálhatnak ezekre a lehetőségekre, hogy lelassítsák az ilyen fejlesztések elterjedését. Ehhez rendkívül magas szintű megfigyelésre lenne szükség, ami együtt járna a magánéletünk durva megsértésével. Ha rövid pórázon akarnánk tartani a technológiát, akkor akár abba is belecsúszhatnánk, hogy mindig mindenkinek folyamatosan megfigyelés alatt kellene állnia egy disztópikus, globális megfigyelőrendszer keretén belül, amelynek bevezetését az a vágy indokolná, hogy a lehető legszélsőségesebb kimenetelek ellen is védettek maradjunk.
De pont ennyire valószínű a luddita reakció is, amikor egymást érik a betiltások, bojkottok és moratóriumok. Lehetséges volna egyáltalán visszalépni az új technológiák fejlesztése terén, és bevezetni egy sor moratóriumot? Valószínűtlennek tartom. Nem igazán látom magam előtt, mivel lehetne meggyőzni a hatalmas geostratégiai és kereskedelmi értéket képviselő nemzetállamokat vagy vállalatokat arról, hogy egyoldalúan lemondjanak az előnyökről, amelyekkel az ilyen áttörések kecsegtetik őket. Sőt az új fejlesztések betiltására tett próbálkozások önmagukban is kockázatot jelentenének:
a technológiailag megtorpanó társadalmak a történelem tanúsága szerint instabillá válnak, és hajlamosak összeomlani.
Idővel elveszítik problémamegoldó képességüket, és nem tudnak előrelépni.
Innen nézve kockázatosnak tűnik mind az új technológiák kiaknázása, mind a kiaknázásuk elkerülése. Ahogy a technológia egyre olcsóbbá, hatékonyabbá és elterjedtebbé válik, idővel egyre csökken az esélyünk rá, hogy képesek leszünk megmaradni az arany középúton, és elkerülni az egyik vagy másik szélsőséget – az egyik oldalon a technológiai önkényuralom disztópiáját, a másikon a túlzott nyitottságból fakadó katasztrófát. Mindazonáltal a hátralépés sem opció. Bármennyire aggódunk is a veszélyeik miatt, most nagyobb szükségünk van a közeledő hullám elképesztő technológiai fejlesztéseinek segítségére, mint valaha. Ez a dilemmánk lényege: előbb vagy utóbb a technológiai fejlesztések valamelyik jelentősebb nemzedéke katasztrofális vagy disztópikus jövőbe sodorja az emberiséget. Véleményem szerint ez a huszonegyedik század nagy metaproblémája.
Könyvem körvonalazza, hogy miért válik ez a rettenetes veszély elkerülhetetlenné, és felülvizsgálja, hogyan nézhetünk szembe ezzel. A technológiai etikáról és óvintézkedésekről szóló diskurzus pillanatnyilag nem elég kimerítő. A technológiával kapcsolatos számtalan könyv, vita, blogposzt és Twitter-vihar ellenére nagyon ritkán hallunk a kordában tartásáról. Én úgy tekintek erre mint szakmai, társadalmi és jogi mechanizmusok összességére, ami minden lehető szinten keretek közé szorítja a technológiát; másképp fogalmazva, mint elméleti eszközre, ami segít elkerülni a dilemmát. Ennek dacára még a technológia legkeményebb kritikusai is hajlamosak megfeledkezni a szigorú keretek közé szorítás témájáról.
Ennek meg kell változnia; abban reménykedem, hogy ez a könyv bemutatja, miért, és ötleteket ad a hogyanra is.