Nem az AI az első találmány, ami arra kényszerít, hogy megkérdőjelezzük a magunkról alkotott képet – írja cikkében Daniel Kehlmann. „Az emberiség legnagyobb felfedezései újra és újra világossá tették, hogy milyen véges a hatalmunk: Kopernikusz eltávolította a Földet a kozmosz középpontjából, Darwin összezúzta az isteni teremtésről alkotott elképzeléseinket, Freud pedig megmutatta, hogy milyen kevéssé ismerjük saját vágyainkat.”
Talán elsőre furcsának tűnhet összehasonlítani a ChatGPT megjelenését ezekkel a korszakalkotó felfedezésekkel – pedig, ha közelebbről szemügyre vesszük, kiderül, hogy a finomra hangolt chatbot milyen megalázó helyzetet állított elő: kiderült, hogy sok intellektuális tevékenység, mellyel meghatároztuk emberi voltunkat, valójában nélkülünk is működik. „A »fecsegésnek«, Heidegger kifejezésével élve, nincs szüksége ránk, ahhoz, hogy értelmes, szellemes, felületes és megértő legyen.”
Ugrásszerű fejlődés
Mikor Daniel Kehlmann négy évvel ezelőtt megpróbált együttműködni egy nagy nyelvi modellel, az eredmény teljes kudarc volt; „az AI akkoriban egy dadogó, zavarodott, egyenesen szánalomkeltő jelenség volt” – írja.
A tapasztalatról Mein Algorithmus und Ich (Az algritmusom és én) című tanulmányában írt, amely mostanra – a technológia szélsebes fejlődésének következtében – teljesen elavulttá vált. Hogy ezt illusztrálja, Kehlmann beszámol egy Los Angeles-i forgatókönyvíró barátjáról, aki nemrég kipróbálhatott egy fejlesztés alatt álló AI-programot.
A program a megadott paraméterek alapján pár perc alatt képes volt megírni egy komplett sorozat forgatókönyvét
– sőt, a második körben javításokat is javasolt a megírt szöveggel kapcsolatban. „Három évem maradt, mielőtt új munkát kell találnom” – összegezte a látottakat Kehlmann barátja. (Az AI használatával kapcsolatos átláthatóságról korábban itt írtunk.)
„Ha a fejlődés ebben a tempóban halad – márpedig valószínűbb, hogy csak még inkább fel fog gyorsulni –, valami olyasminek nézünk elébe, amihez nem rendelkezünk megfelelő ösztönnel. Ezt pedig mi sem bizonyítja jobban, mint hogy jelenleg sem pánikolunk.”
A nyelv sötét oldala
Mielőtt bárki is morális pánikkal gyanúsítaná, Kehlmann világossá teszi, hogy nem áll szándékában a mesterséges intelligencia démonizálása. Az AI forradalmát élete legelképesztőbb történetének tartja; mint a nyelv ismerője, nem tudja eléggé hangsúlyozni, milyen lenyűgöző, hogy lehetővé tettük, hogy „maga a nyelv beszéljen”.
Ugyanakkor, hangsúlyozza, nem szabad elfelejtkeznünk a nyelv sötét oldaláról sem.
Az OpenAI ezekben a pillanatokban is munkások százaival kontrollálja nagy nyelvi modelljét, hogy elejét vegye a bármiféle mocskos, sértő, lázító tartalomnak. A chatbotok udvarias hangja nem természetes – ahogy Jacques Lacan pszichoanalitikus mondta, a nyelvünk mélyén sötétség és ocsmányság lakozik.
A jövőbeli legjobb barátod
Ezt követően Kehlmann a mesterséges társakra témájára tereli a szót. A mesterséges intelligencián alapuló barátok és partnerek elterjedése sokak szerint a jövő egyik legfontosabb újítása lesz –
hiszen ki ne vágyna a tökéletes társra?
Valakire, aki ismer, aki támogat, aki felvidít; aki képes megnevetteti, aki bármikor elérhető, bármikor hanyagolható – és aki mindennek tetejébe semmilyen elvárást nem támaszt felénk.
Na de ki fog ezért fizetni? Mi tartaná vissza a legnagyobb AI-cégeket attól, hogy reklámbevételekből tartsák fenn magukat? Miért ne ajánlhatna hűséges AI-barátunk egy gyógyszert, egy boltot, egy bort… vagy akár politikust, akire a legközelebbi választáskor szavaznunk kell?
Az elmúlt években világossá vált, hogy semminek sincs olyan értéke, mint azoknak a tartalmaknak, melyek az érzelmeinkre hatnak. Gondoljunk csak a YouTube-ra, melynek algoritmusáról bebizonyították, hogy egyre szélsőségesebb tartalmakat ajánl a nézőknek!
Mi lenne, ha ezúttal videók helyett egy hozzánk közel álló „személytől” kapnánk ezeket a szenzációs, dühítő – és sokszor teljes mértékben hamis – híreket?
És nem csak mi; az egész országunk.
Ehhez nem kell, hogy orosz trollok álljanak a háttérben – bár róluk sem szabad megfeledkeznünk –; egyszerűen a piac szabályai diktálják, hogy a gondosan ellenőrzött, politikailag korrekt válaszokat idővel felváltsák a kevésbé megbízható, ugyanakkor érzelmi szempontból sokkal érdekesebb tartalmak.
Nincs sok időnk
Az AI fejlődése ellenére Kahlemann továbbra sem tartja valószínűnek, hogy a mesterséges intelligencia valaha is helyettesítheti az emberi szellem magasabb rendű működését;
egyedi meglátásokra, eredeti művekre továbbra is csak mi leszünk képesek.
(Korábban itt írtunk arról, hogy lecserélheti-e az irodalomban az AI az embert.)
Ugyanígy kételkedik abban a rémképben is, hogy egy nap a mesterséges intelligencia elég fejletté válik ahhoz, hogy kiirtsa az emberiséget. Azt viszont több mint valószínűnek tartja, hogy határozott beavatkozás nélkül „a dezinformáció olyan léptékben jelenik meg majd az életünkben, hogy ahhoz képest minden eddigi tapasztalatunk baráti beszélgetésnek fog tűnni”.
Követendő példaként az Európai Uniót hozza fel,
amely a világ legnagyobb közös piacaként képes volt megálljt parancsolni az adatkezelő cégek korlátlan hatalmának.
„Ha a kormányaink hajlandóak az együttműködésre, rendkívüli erővel rendelkeznek. Még mindig tehetnek valamit, hogy megzabolázzák a mesterséges intelligenciát és megvédjék az általunk ismert életet – de már nem soká” – zárja Kehlmann a cikket.
Nyitókép: Valuska Gábor; Flickr
(Guardian)