Nieuws

Onrust bij Google: twee kritische onderzoekers weg die wezen op vooroordelen kunstmatige intelligentie

In korte tijd zijn allebei de onderzoekers vertrokken die zich bij Google bezighielden met de ethiek van kunstmatige intelligenties. Wat is er aan de hand?

Margaret Mitchell was de oprichter van de afdeling die toe moest zien op de ontwikkeling van kunstmatige intelligentie binnen Google. Beeld Youtube
Margaret Mitchell was de oprichter van de afdeling die toe moest zien op de ontwikkeling van kunstmatige intelligentie binnen Google.Beeld Youtube

Margaret Mitchell was de oprichter van de afdeling die toe moest zien op de ontwikkeling van kunstmatige intelligentie binnen Google. Ze is ontslagen omdat ze volgens het bedrijf vertrouwelijke documenten en informatie over werknemers heeft meegenomen en daarmee de gedragscode heeft overtreden.

In december vertrok het andere hoofd van de afdeling. Onderzoeker Timnit Gebru publiceerde een paper over racistische vooroordelen in een kunstmatige intelligentie die door Google werd gebruikt. Na kritiek op de manier waarop Google met die paper omging, en op het beleid om mensen aan te nemen uit minderheidsgroepen, vertrok ze. Volgens Google nam ze ontslag, volgens Gebru is ze ontslagen. Mitchell, die haar ontslag op Twitter bekendmaakte, publiceerde eerder een kritische brief over het vertrek van Gebru. 

Zowel Mitchell als Gebru waarschuwden binnen en buiten Google voor het gebruik van zelflerende algoritmen. Die worden gebruikt om computersystemen beter te maken in het herkennen, voorspellen en imiteren van menselijk gedrag. Dat moet geleerd worden door kunstmatige intelligentie een dataset te ‘voeden’.

Maar die dataset kan allerlei vooroordelen bevatten; van onhandig tot ronduit seksistisch en racistisch. Mitchell en Gebru wezen er op dat die vooroordelen niet altijd opvallen als datasets worden beoordeeld door witte mannen. Google krijgt al langer kritiek over het gebrek aan diversiteit binnen het bedrijf.

Vakbond

Die onvrede leeft ook binnen Google zelf. Begin dit jaar richtte een groep werknemers een vakbond op. Niet om te kunnen onderhandelen over werkomstandigheden, maar om een orgaan te hebben dat met de leiding van het bedrijf kan praten over ethische kwesties en de bedrijfsvoering.

 Werknemers protesteerden eerder tegen de manier waarop Google om ging met meldingen van seksuele intimidatie, en tegen activiteiten die de werknemers onethisch vinden. Zo werkte Google samen met het Amerikaanse ministerie van Defensie om kunstmatige intelligentie in te kunnen zetten bij aanvallen met drones. Na protest van werknemers stopte Google die samenwerking.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden