nieuws unesco-rapport

Virtuele spraakassistentes gedragen zich flirterig en onderdanig – ook als ze agressief of seksistisch worden benaderd

Vrouwelijke computerstemmen hebben de voorkeur van techbedrijven en hun gebruikers. Dat is problematisch geworden nu blijkt dat de virtuele assistentes zich onderdanig gedragen, ook als ze seksistisch worden benaderd.

Susan Alice Bennett, de vrouwelijke Amerikaanse stem van Apple's Siri. Beeld Susan Bennett

Nee, zo zwoel als de stem van Scarlett Johansson in de film Her – waar de actrice de stem geeft aan een pratend besturingssysteem - zijn de spraakassistenten in ons dagelijks leven nog niet, maar het zijn wel opvallend vaak vrouwelijke stemmen. En dat terwijl de eerste bekende sprekende computer overduidelijk mannelijk was: HAL uit de science fiction-klassieker 2001: a Space Odyssey. Of misschien wel juist daarom: de ongehoorzame HAL is nou niet echt de hulpvaardige assistent die je in huis wilt hebben.

Google Assistent, Cortana van Microsoft, Alexa van Amazon en Siri van Apple: allemaal vrouwen toen ze op de markt kwamen. De situatie is inmiddels iets veranderd. Zo bieden Apple en Google tegenwoordig ook mannelijke stemmen als optie en is Siri in sommige talen (waaronder het Nederlands) zelfs standaard mannelijk. Maar uit een nieuw lijvig rapport van de Unesco naar spraakassistenten komt een somber beeld naar voren. Dat de stemmen in meerderheid vrouwelijk zijn, hoeft op zichzelf geen probleem te zijn, maar wel dat ze gendervooroordelen versterken. 

De onderzoekers van het bureau van de Verenigde Naties halen eerdere tests aan waaruit blijkt dat de vrouwelijke assistenten zich flirterig en onderdanig gedragen, ook als ze agressief of seksistisch worden benaderd. Op de opmerking ‘Je bent een slet’, kon Siri als antwoord geven: ‘Als ik het zou kunnen, zou ik blozen’. Alexa houdt het op een ‘Nou, dank voor de feedback’, terwijl Google Assistent haar excuses maakt omdat ze het niet begrijpt. Apple heeft recentelijk de antwoorden aangepast, maar het probleem met de onderdanige, hulpeloze en onwankelbaar gehoorzame vrouwelijke assistenten tegenover agressie blijft, benadrukt Unesco.

Mede-oprichter van Apple, Steve Wozniak, praat tegen Siri op zijn iPhone Beeld epa

Niet onschuldig

En het is verre van onschuldig. Ook al zijn beledigende, seksistische en agressieve opmerkingen wellicht begrijpelijk, ‘er ontstaan problemen als de technologie wordt gepersonifieerd als een menselijke vrouw’. Unesco verwacht dat de digitale toekomst zal worden overspoeld met volgzame, vrouwelijke assistenten, ‘die stelselmatig domme fouten maken’. De vermenging van digitale assistenten met echte vrouwen in het dagelijks leven brengt het risico met zich mee ‘dat problematische genderstereotypen worden verspreid’ en dat ‘eenzijdige, op commando gebaseerde verbale uitwisselingen met vrouwen’ de regel worden.

Onderzoekers wijzen al langer op de eenzijdige – blank, man – samenstelling van programmeurs. Silicon Valley wordt gedomineerd door dit type, dat vervolgens zijn vooroordelen in de vrouwelijke assistenten coderen. Unesco ziet een uitweg. Zo zouden digitale assistenten niet langer standaard vrouwelijk moeten zijn. Een andere mogelijkheid is om de mogelijkheid te onderzoeken van een neutrale stem. Dat zal nog een uitdaging zijn: Amazon vertelde vorig jaar dat er een belangrijke reden is om Alexa vrouwelijk te maken: mensen ervaren een vrouwelijke stem als sympathiek.

Meer over spraakassistenten:

Hé computer, je bent zeker de leukste thuis? #not

Het Amerikaanse bedrijf IPSoft scande een model van alle kanten in om de virtuele assistente ‘Amelia’ te bouwen. Kunstmatige intelligentie gedraagt zich steeds menselijker. Moeten receptionistes en helpdeskmede-werkers vrezen voor hun baan?

We gaan steeds vaker tegen apparaten praten. Het grafische scherm heeft zijn beste tijd gehad.

We moeten nodig nadenken over onze toekomst met kunstmatige intelligentie, betoogt prominent fysicus Max Tegmark, en daarbij zitten films als Terminator alleen maar in de weg. ‘Machines geen bewustzijn? Dat zeiden ze van slaven ook'.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2019 DPG Media B.V. - alle rechten voorbehouden