Rasszista kommentárokat generált az AI

Rasszista kommentárokat generált az AI

A Fable elnevezésű könyves alkalmazás AI-generálta év végi összefoglalói nemcsak a feketékre, hanem a fogyatékkal élőkre is erősen kifogásolható megjegyzéseket tettek.

bs | 2025. január 10. |

Íme egy újabb bizonyíték, hogy mégsem kéne túlzottan megbízni az AI-ban. A „könyvmolyok és sorozatfalók közösségi appjaként” reklámozott Fable a Spotify Wrapped összefoglalóihoz hasonlóan év végén elkészíti a felhasználók olvasási szokásairól szóló áttekintést. Úgy tűnik azonban, némi hiba csúszott a gépezetbe – számol be a Literary Hub.

„Néha fehéreket is olvass, jó?”

Az elképzeléssel alapvetően nincs gond: az app a könyvek és a filmek szerelmeseinek kíván felületet teremteni tapasztalataik megvitatására, de lehet listákat létrehozni vagy éppen olvasási célokat beállítani is. A személyes kapcsolatokat támogató kezdeményezés azonban pont itt csúszott igencsak félre, az olvasmányélmények kommentálására ugyanis OpenAI-szoftert kezdtek alkalmazni – katasztrofális eredménnyel.

A könnyed és szórakoztató visszatekintések helyett ehhez hasonló mondatokkal találkoztak a könyves közösség tagjai: „utad a fekete narratívák és a szemléletformáló történetek szívébe vezet, míg a mainstream sztorik levegő után kapkodnak”,

a végére még odaszúrva, hogy néha azért jó lenne fehér szerzőket is fogyasztani.

Egy másik felhasználó választásai elgondolkodtatták a cinikus hangulatban lévő mesterséges intelligenciát, hogy hajlandó-e az illető egyáltalán „ciszhetero, fehér férfiak perspektívájáról” is olvasni.

Nemcsak az anti-woke megnyilvánulások repkedtek: a fogyatékkal élőkről szóló könyvek is kapták az ívet, ami nem meglepő módon tovább fokozta a felháborodást. A New York Times cikke szerint a Fable igyekszik javítani a hibákat, és felhagy az AI-használatával.

Talán mégis maradni kéne az emberi munkaerőnél?

Nem ez az első eset, hogy hasonló hibát eredményez az MI használata: az OpenAI korábban kizárólag nem fehér embereket hozott létre, amikor foglyok generálására szólították fel, és csak fehéreket, amikor CEO-król volt szó – arról nem is beszélve, hogy a rendőrség által alkalmazott arcfelismerő technológia nem működik a feketék esetében.

(Literary Hub, New York Times)

Fotó: Tara Winstead (Pexels)

 

Olvass minket e-mailben is!

  • Könyves hetilap a postaládádban
  • Kézzel válogatott tartalmak
  • A legérdekesebb, legfontosabb könyves anyagok egy helyen
  • Nem spammelünk, heti 1-2 levelet küldünk.

Könyves Magazin Hírlevél

Kapcsolódó cikkek
...

AI-jal adna ki 8000 könyvet egy amerikai kiadó

Az AI egyre nagyobb teret kap a könyvkiadásban, most egy egész platformot szánnak neki, ahol az AI végez minden emberi feladatot. Olyan emberekre számítanak, akik gyorsan akarják kiadatni a könyveiket.

...

Beveti az AI-t a legnagyobb holland kiadó: nem örülnek a fordítók

A legnagyobb holland kiadó azzal kísérletezik, hogy az AI segítségével fordít le könyveket angol nyelvre.

...

19 ezer művész közt Paula Hawkins és Kazuo Ishiguro is tiltakozik az AI ellen

Az állásfoglalás szerint az AI-programok tréningezése során kizsákmányolják a művészeket.

Hírek
...

Ian Fleming annyira gyűlölt a magyar származású építészt, hogy James Bonddal megölette

...

A kutyával való kapcsolat a gyerek-szülő és a legjobb baráti kapcsolat keverékeként írható le

...

150 ezren látták a Véletlenül írtam egy könyvet című magyar filmet

...

Elkészült a világ első összehajtható ebook-olvasója

...

Spiró Táncsics feleségéről írta új regényét, júniusban érkezik

...

Bruck Edith: Ferenc pápa szeretetteljes, barátságos és egyszerű ember volt

Kiemeltek
...

A Föld napja: 7+1 könyvújdonság, amivel visszatalálhatunk a természethez és az egyszerűbb élethez

A bolygónk csodálatos hely: ha egy kicsit túllátnánk a saját kis valóságunkon, észrevehetnénk, milyen intelligens növényekkel és állatokkal vagyunk körülvéve. 

...

Önmagunkba zárva élni nem azt jelenti, hogy magányosak vagyunk

A mai világban már nem arról beszélünk, hogy hogyan tudunk egymással kapcsolódni, hanem hogy egyáltalán tudunk-e. Szaniszló Judit A másik ember című kötete a hét könyve.

...

Meghalt Ferenc pápa, aki Dosztojevszkijt és A Gyűrűk Urát is szerette

Meghalt Ferenc pápa, akinek egyszerűsége és emberszeretete még a nem hívőket is inspirálta. Szenvedélyes olvasó volt, aki az irodalmat a mindennapjai és a hivatása szerves részének tekintette.

...

Puskás Panni: Muszáj lenne olyan szövegeket mutatni a fiataloknak, amihez tudnak kapcsolódni

...

Rosszabb a levegőminőség egy magyar faluban, mint egy nagyvárosban?

...

A Föld jövője a tét, de az óriáscégek máig elbagatellizálják a klímaválságot