Twee computers bedenken eigen geheime taal - en niemand weet hoe
© AFP

Twee computers bedenken eigen geheime taal - en niemand weet hoe

Computers werden al getraind om te schaken, kunstwerken te maken en auto's te besturen. Maar nu komt Google Brain met een opvallender toepassing van kunstmatige intelligentie (AI). Onderzoekers zijn erin geslaagd twee AI-systemen met elkaar te laten praten in een zelf gecodeerde taal.

Op diverse blogs en websites wordt dat al uitgelegd als teken van een naderende robotopstand: de computers kunnen geheimen met elkaar bespreken! Maar volgens experts is dat onzin. De taal waarom het gaat is immers gemakkelijk te kraken. Alleen het type kunstmatige intelligentie waarmee de wetenschappers werkten kan er slecht mee uit de voeten, benadrukken ook de informatici zelf.

Minder opmerkelijk is het experiment van Google's afdeling voor kunstmatige intelligentie er niet om. Onderzoekers Martín Abadi en David G. Andersen van Google Brain slaagden erin om twee AI-systemen met elkaar een geheimtaal te laten bedenken, zonder menselijke tussenkomst. Een derde AI, die moest proberen de code te kraken, slaagde daar niet in. Abadi en Andersen postten hun experiment vorige maand op de wetenschappelijke site ArXiv.

Decoderen

Lees ook: Kan de mens worden uitgeroeid door machines?

Dat de mensheid kan worden uitgeroeid door superintelligente machines is volgens Oxford-filosoof Nick Bostrom geen sciencefiction. Sterker, het kan nog deze eeuw gebeuren. Lees dit interview dat Maarten Keulemans in mei vorig jaar met Bostrom had. (+)

Het team werkte met drie AI's, die Alice, Bob en Eve genoemd werden. Elke AI kreeg een duidelijke taak: Alice moest een geheime boodschap versturen naar Bob, Bob moest die boodschap decoderen, en Eve moest de twee proberen 'af te luisteren'.  Alice en Bob kregen vooraf overeengekomen sleutel voor de code, waartoe Eve geen toegang had.

Aanvankelijk lukte het Eve om de geheime boodschappen te ontcijferen. Maar gaandeweg maakte Alice de sleutel ingewikkelder. Ruim 7000 boodschappen later kon Bob Alices gecodeerde boodschap wél nog begrijpen, maar Eve niet meer. 

Volgens de onderzoekers wijst hun studie erop dat kunstmatige intelligenties in de toekomst in staat zullen zijn om zelf versleutelingen te bedenken. Én het laat zien dat het type AI's waarmee ze werkten niet goed zijn in het ontcijferen ervan, schrijven ze.

Gevaren

De ontwikkelingen in de artificiële intelligentie gaan zodanig snel dat vooraanstaande wetenschappers en ondernemers zoals Stephen Hawking, Elon Musk en Bill Gates al meermaals waarschuwden voor de potentiële gevaren. Volgens fysicus Stephen Hawking kan AI zelfs het einde van de mensheid betekenen.

Volgens de onderzoekers was het experiment voorlopig niet meer dan 'een speelse, verkennende benadering', zoals ze schrijven. Ook al omdat de onderzoekers niet weten welk soort encryptiemethode Alice gebruikte, zal de praktische toepassing in de technologie beperkt zijn. Bovendien zijn er geen garanties dat deze encryptiemethode goed beveiligd is.