Werden de zelfdenkende robots van Facebook te slim? Nou nee

Hoogleraar kunstmatige intelligentie Catholijn Jonker: 'Bij cruciale beslissingen kan het wél mislopen'

Berichten verspreiden zich vaak razendsnel, of ze nu kloppen of niet. Wij proberen de zin van de onzin te scheiden. Deze week: zelfdenkende robots worden te slim.

Van wie komt die claim?

Ongemerkt voltrok zich afgelopen maand bijna hét doemscenario uit sciencefictionfilms: robots zouden op het punt hebben gestaan de wereld over te nemen. De aanleiding: twee zelflerende computers begonnen een onderonsje in geheimtaal op de tech-afdeling van Facebook. 'Ik kan ik ik alle andere dingen', zei bot Bob. Het antwoord van bot Alice: 'Ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.'

Geen van de computerbeheerders wist wat dat betekende en dus trok Facebook uit veiligheidsoverwegingen de stekker er maar uit, meldden AD, Quote en veel Engelstalige media. RTL sprak van robots die 'te slim' waren geworden, De Telegraaf kopte dat een Facebook-robot 'op hol' sloeg. Het nieuws volgt kort na waarschuwingen van tech-pionier Elon Musk en natuurkundehoogleraar Stephen Hawking over de gevaren van kunstmatige intelligentie.

Klopt het?

Ze veranderden gewoon de instellingen van de bots

Gaan we naar de bron achter het nieuws, dan valt er niets te vinden over geheimtaal en onoverwinnelijke, slimme robots. De Facebookonderzoekers publiceerden in juni een nogal droge tekst over hun botprogramma. Daarin leggen ze uit hoe ze de bots leren om via tekstberichten te onderhandelen met mensen. Een journalist van het blad Fast Company publiceerde naar aanleiding daarvan een genuanceerd verhaal over het rare taaltje dat de chatbots zichzelf aanleren zodra ze met elkaar praten in plaats van met mensen en de vraag of het nuttig is zo'n 'nieuwe' taal proberen te begrijpen. De Facebookonderzoekers vonden van niet en besloten het gekwebbel te beëindigen.

Dat is niet hetzelfde als 'de stekker eruit trekken', vertelt hoofdonderzoeker Michael Lewis aan factcheckwebsite Snopes.com. Ze veranderden gewoon de instellingen van de bots, zoals mensen thuis ook de instellingen op hun iPad aanpassen.

Zodra je ze cruciale beslissingen laat nemen, kan het wél mislopen

En was het een geheimtaal? Juist niet: de chatbots bleken niet in staat om over andere dingen te praten dan handel in ballen, boeken en petten, allemaal zaken waarvoor ze geprogrammeerd waren. Verder bleken ze te lui of dom om Engelse grammaticaregels toe te passen.

Hoogleraar kunstmatige intelligentie Catholijn Jonker aan de TU Delft vindt de paniek eveneens onterecht. Wel blijkt hieruit volgens haar dat je bots niet zomaar in het wild kunt loslaten. 'Zodra je ze cruciale beslissingen laat nemen, kan het wél mislopen. Automatische handelbots veroorzaakten een paar jaar geleden een crash op de aandelenbeurs. Je moet altijd grenzen stellen aan wat ze kunnen.'

Eindoordeel

Totale onzin: Facebookrobots stonden niet op het punt de wereld over te nemen.