Cory Doctorow kanadai újságíró, emberjogi aktivista és sci-fi író, a mára világszerte ismertté vált ’enshittification’, vagyis elszaródás kifejezés megalkotója. A fogalom, amit az Amerikai Nyelvészeti Társaság 2023-ban az év szavának választott, az online tér folyamatos, profitvezérelt minőségromlására utal. A nagy elszaródás című kötetében arról írt, miért lett pocsék hely az internet az elmúlt években (a könyvbe itt beleolvashatsz). Új, A nagy összeomlás című könyvében azt vizsgálja, mire képes valójában az AI, mire használják a vállalatok, és mi történik, amikor már nem a technológia segíti az embert, hanem az ember válik a technológia kiszolgálójává.
Cory Doctorow nemrég Budapesten járt a Brain Bar vendégeként, ekkor beszélgettünk vele.
Mikor kezdett érdeklődni a technológia és a science fiction iránt?
Torontóban nőttem fel, ahol Judith Merrilnek köszönhetően nagyon jó science fiction közösség működött – és működik most is. Egészen briliáns szerkesztő, író és kritikus volt. Tízéves voltam, amikor az iskolával meglátogattuk a könyvtárát. Azt mondta: ha írsz egy történetet, elhozhatod nekem, és segítek jobbá tenni. Így minden hétvégén elmentem hozzá, hogy megmutassam neki az írásaimat.
A karrierem valójában az ő hihetetlen energiájából indult.
A technológiával kapcsolatos első élményem hatéves koromból származik, amikor apukám, aki számítógéptechnikus volt, hazahozott egy géptávíró terminált.
A legújabb könyve, A nagy összeomlás címe angolul The Reverse Centaur and Centaur's Guide to Life after AI. Kik a fordított kentaurok, és észrevesszük-e, ha mi magunk is ilyenekké válunk?
Azt nevezzük kentaurnak, akit egy gép segít: amikor helyesírás-ellenőrzőt használsz, kentaur vagy, ha biciklizel, még úgy is nézel ki, mint egy kentaur. A lényeg, hogy az ember rendelkezik az ítélőképességgel, amely irányítja a működést, a „ló” teste pedig rendelkezik az erővel, az állóképességgel, a gyorsasággal, de nem ő mondja meg, mit kell tenni. Azért van ott, hogy téged szolgáljon.
A fordított kentaur olyan ember, akit besoroznak egy gép szolgálatára.
Ha a főnököd kirúgja tíz kollégádat, aztán elvárja, hogy az AI segítségével átvedd a munkájukat, akkor fordított kentaur vagy. A gép valószínűleg gyorsabb nálad, és nagyon nehéz dolgod lesz, ha a tempódat a gép szabja meg. Ilyenkor a képességeid határán dolgozol: a gép nemcsak használ téged, hanem fel is emészt.
Például az Amazon üzemelteti a világ leginkább automatizált raktárait, és a sérülési arány itt mégis háromszorosa az országos átlagnak. Olyan gyorsan működtetik a folyamatokat, amilyen gyorsan csak lehet, és az emberek hibáznak. Ez egy raktárban azt jelenti, hogy néha elüti a dolgozókat egy targonca.
A fő különbség az, hogy a kentaur maga választja meg, hogyan használja az AI-eszközt, és olyan tempóban használja, amely lehetővé teszi, hogy sietség és nyomás nélkül javítson a teljesítményen és minőségen. És hogy tudod-e, mikor válsz fordított kentaurrá? Mindannyian átéltük már azt, hogy a gép miatt felgyorsul a munkánk. És ennek nem muszáj így lennie.
Az Anthropic vezérigazgatója nemrég arra figyelmeztetett, hogy a nagy teljesítményű AI-rendszerek kicsúszhatnak az emberi kontroll alól. Ön arról ír, hogy teljesen megalapozatlan az az elképzelés, hogy az AI olyan hatalomra tehet szert, amivel elpusztíthatja az emberiséget. Ez is a techcégek által terjesztett mítoszok közé tartozik, vagy van létjogosultsága a félelemnek?
Ezek autoriter, technofasiszta fickók, néhánynak közülük teljesen kisült az agya.
A cinikusabbak ezt gondolják: „Felépítettük a világ leghatékonyabb pénzégető kemencéjét. Olyan ütemben dobjuk tűzre a pénzt, amilyet az emberiség még soha nem látott. Szükségünk van az emberekre, hogy továbbra is pénzt adhassanak nekünk”. Ezer milliárd dollárt költöttek el az idén, nem beszélve a korábban elköltött 700 milliárdról és a következőre tervezett újabb ezer milliárdokról.
Ezért a techcégek úgy vannak vele, hogy
„mi van, ha egyszerűen meggyőzzük az embereket arról, hogy istent teremtünk?”
Egy másik széles körben elterjedt narratíva, hogy az AI előbb-utóbb leváltja az emberi munkaerőt. Ez is csak mítosz?
Egyre nyilvánvalóbbá válik, hogy az AI valójában nem tud igazán jó munkát végezni. Nem lehet embereket kirúgni és AI-ra cserélni őket – legfeljebb még több pénzt költhetsz arra, hogy az emberek jobb dolgokat hozzanak létre az AI segítségével.
A jelenlegi MI-buborékot a nagy techcégek azon kényszere hajtja, hogy valamilyen növekedésről szóló történetet meséljenek a befektetőknek.
Vagyis a mesterséges intelligenciát úgy kell bevetni, hogy csökkentse a béreket: mert ez az egyetlen dolog, amiért az ügyfelek hajlandók annyit fizetni, hogy a befektetők pénze visszajöjjön, sőt, még annál több is.
A mostani AI-generáció nem a szimbolikus AI-t használja, ahol, ha azt akarod, hogy egy számítógép sakkozzon, írsz egy szoftvert, amely szimbolikusan szimulálja a sakktáblát, tartalmazza a sakk összes szabályát, a számítógép lekérdezi a szabályokat, megnézi az összes betanító adatát, megpróbálja a legjobb lépést megtenni, és így tovább. Ehelyett ma egyszerűen odaadjuk neki az összes valaha lejátszott sakkjátszmát, és azt mondjuk: csak tippeld meg, mi legyen a következő lépésed az összes valaha játszott parti alapján!
Nem tudja, mi az a sakktábla, mi az a sakkfigura, és azt sem, hogy vannak mezők. Csak arról van ismerete, hogy van ez a kvintilliónyi sakklépést tartalmazó gyűjtemény, és azt, hogy sikeresek voltak-e ezek a lépések, vagy sem. Így is elég jól boldogul, kivéve, hogy néha rátesz egy figurát egy olyan mezőre, ahol már van egy bábu. Mert valójában nem tud sakkozni, csak statisztikai extrapolációt végez (ismeretlen dolgokra következtet a meglévő ismeretek alapján).
Kell-e ma tartania egy írónak attól, hogy az MI valóban „elveszi” a munkáját?
A nagy kiadóknak óriási piaci erejük van, és tényleg azt hiszik, hogy el tudnak adni a közönségnek valami rosszabbat ugyanannyi vagy kevesebb pénzért. Szerintem emiatt aggódnunk kell. Nem gondolom, hogy a közönségnek tetszeni fognak ezek a könyvek, mert ezek szemetek. De szerintem
ez nagyon sok szerzőt elszegényíthet, amíg a kiadók rá nem jönnek, hogy ez egy rossz ötlet.
Ha tenni akarunk valamit ez ellen, meg kell néznünk, mi volt sikeres az AI elleni harcban: a sztrájkba lépő hollywoodi forgatókönyvírók például megnyerték az AI elleni harcot. Van olyan szakszervezetük, amely képes az ágazati bértárgyalásra. Kivívták maguknak a jogot, hogy saját belátásuk szerint használhassák az AI-t, a bérük csökkentése nélkül. Más szóval:
a főnökeik fordított kentaurrá akarták változtatni őket, ők viszont kiharcolták, hogy inkább kentaurok legyenek.
Ha öt év múlva visszatekintünk erre az időszakra, mit fogunk másképp látni az MI-vel kapcsolatban?
Aktivistaként tudom, hogy a legfontosabb dolog nem az eleve elrendelt jövő, hanem az a jövő, amit megteremtünk. Abban a jövőben, amit öt év múlva szeretnék megteremteni, megragadjuk a lehetőséget és szolidaritást építünk. Hogy amikor a gazdaság összeomlik, ne megszorításokat alkalmazzunk, mert azok a fasiszták karjaiba taszítják az embereket, ahogy ezt a világ minden táján láttuk.
Amikor kipukkad a buborék, értékeljük újra, hogy milyen mértékben használjuk az állami kapacitást a magánkapacitással szemben az innováció ösztönzésére; és Európának és más térségeknek fel kell ismerniük, hogy ha megengedik Amerikának, hogy az internetes infrastruktúrájukat működtesse, az súlyos geopolitikai kockázatot jelent, és a saját technológiai iparukat is gúzsba köti.
Remélem, hogy öt év múlva elmondhatjuk, hogy felépítettünk egy valódi, Amerika utáni internetet,
olyat, amely szuverén, nyílt, auditálható, digitális, nemzetközi közjavakra épül, és inkább úgy működik, mint a tudomány, nem pedig mint egy termék.
Végül egy kicsit más téma: a blogját saját készítésű kollázsokkal illusztrálja. Mikor és hogyan talált rá erre a műfajra, és mit ad hozzá a kollázs a szövegekhez?
Egy korábbi weboldalnak kezdtem el nagyon kezdetleges kollázsokat készíteni, mert a web korai időszakában nagyon drága és nehéz volt képeket felhasználni. Ezek a kollázsok afféle vizuális poénok voltak. Két dolgot összeragasztasz, és kész a vicc. Aztán egyszer csak átkattant bennem valami, és arra gondoltam, hogy valójában
a kollázs készítése közben jobb ötleteim támadnak arra, hogyan írjam meg, amit akarok.
Van ebben valami meditatív, olyan, mint amikor sétálni mész, kitisztulnak a gondolataid. Ha vizuális metaforaként közelítesz a problémához, az arra késztet, hogy újragondold az egész problémát. Elképesztően absztrakt blogbejegyzéseket írok a szimbolikus AI-ról, a növekedési részvényekről. Amikor ezt megpróbálom képpé sűríteni, más belépési pontokat találok a témához azok számára, akik nem annyira jártasak benne, mint én.
Elég jó író vagyok, 17 éves koromban kezdtem történeteket eladni, most meg 55 vagyok. Amikor megírok egy teljes regényt, egy kicsivel leszek jobb az írásban. Viszont minden nap egyre jobb tudok lenni a vizuális művészetben, mert abban még nem vagyok olyan jó. És ez annyira kielégítő!
Ma reggel is készítettem egy kollázst, ez a mesterséges intelligenciáról és a fasizmusról szól: van benne egy vesszőnyaláb és egy robotkéz, mögötte pedig egy agy. A kollázskészítés függőséget okoz, és nagyon boldog leszek tőle. Amikor befejezek egyet, mindig elküldöm a feleségemnek, aztán 20 percenként zaklatom, hogy na, tetszik? Olyan vagyok, mint egy gyerek.
