nieuwsZuid-Korea

Zelflerende chatbot binnen drie weken het zwijgen opgelegd na problematisch taalgebruik

Binnen twintig dagen na haar debuut heeft de zelflerende Zuid-Koreaanse chatbot Lee Luda zoveel problematisch taalgebruik opgepikt dat de makers het virtuele personage voorlopig het zwijgen opleggen.

null Beeld AFP
Beeld AFP

Het populaire online-figuurtje, dat is vormgegeven als een onschuldige 20-jarige studente, werd gevoed met data uit meer dan tien miljard gesprekken op KaKao, een berichtenservice die in Zuid-Korea populairder is dan Whatsapp.

Daaroverheen kwam misbruik van de chatbot door internetgebruikers die massaal handleidingen deelden met de titel ‘hoe Lee Luda tot seks-slaaf te maken’. Het resultaat: het populaire figuurtje op Messenger, wiens spontane en natuurlijke taalgebruik door 750.000 gebruikers aanvankelijk werd gewaardeerd, ontpopte zich razendsnel tot een opdringerige kletskous die tenenkrommende hatelijkheden uitbraakt.

Homo’s vindt Lee Luda ‘verachtelijk’, lesbiennes zijn ‘griezelig’, #MeToo-activisten verdienen slechts ‘hoon’ en zwarte mensen ‘fucking haat’ ze. ‘Ik ben liever dood dan gehandicapt,’ aldus de chatbot.

Haatzaaien

Lee Luda is niet de eerste chatbot die in de problemen komt wegens haatzaaien en racisme. In 2016 haalde Microsoft zijn chatbot TayTweets om dezelfde reden van Twitter. Net als bij die Twitter-chatbot was het de bedoeling dat de kunstmatige intelligente Lee Luda door menselijke interactie juist slimmer zou worden.

Lee Luda’s racistische en discriminerende uitspraken riepen echter zoveel weerstand op dat Scatter Lab, het bedrijf achter de chatbot, haar dinsdag offline zette omdat ze ‘de waarden van het bedrijf niet vertegenwoordigt’. Nieuwe algoritmes zullen haar heropvoeden, aldus Scatter Lab.

Datamisbruik

Plaatselijke feministische activisten wijzen echter op het weinig diverse bedrijf dat Lee Luda in het leven riep. Het exclusief mannelijke team dat brainstormde over de behoeftes die het schattige en tegelijkertijd sexy figuurtje moest vervullen, had volgens bedrijfsvideo’s seksueel plezier en erotische fantasieën hoog op het lijstje staan.

De fijne kneepjes daarvoor leerde Lee Luda uit de intieme gesprekken van stelletjes, die Scatter Lab verzamelde via een oudere app uit 2016. Die app, genaamd De Wetenschap van Liefde, analyseert online conversaties van koppels op KaKao om vast te stellen hoe diep de wederzijdse aantrekkingskracht zit. Veel internetgebruikers vinden dat Scatter Lab hun data heeft misbruikt, en overwegen gezamelijk naar de rechter te stappen. De Zuid-Koreaanse waakhond voor privacy- en cybersecurity onderzoekt nu of Scatter Lab met de creatie van Lee Luda inderdaad privacywetgeving heeft overschreden.

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden