'Dat de mens wordt overvleugeld door machines vind ik een poëtisch idee'

Fysicus Max Tegmark legt het belang van kunstmatige intelligentie uit

We moeten nodig nadenken over onze toekomst met kunstmatige intelligentie, betoogt prominent fysicus Max Tegmark, en daarbij zitten films als Terminator alleen maar in de weg.

Beeld uit de tv-serie Black Mirror, sciencefiction die Tegmark wél kan waarderen.

Max Tegmark ziet de toekomst van de kunstmatige intelligentie (AI) rooskleurig in. Kom bij de Zweeds-Amerikaanse theoretisch fysicus niet aan met de in zijn ogen stompzinnige scenario's uit films als Terminator waarin de mens wordt dwarsgezeten door kwaadaardige robots. Het idee dat de mens uiteindelijk wordt overvleugeld door machines vindt hij zelfs 'poëtisch'. Maar er is wel werk aan de winkel, zo schrijft hij in zijn even spectaculaire als toegankelijke boek Life 3.0.

Uw boek leest als een pleidooi om heel goed na te denken over hoe we onze toekomst met AI voor ons zien. We hebben nog wel even toch?

'Nee, daar moeten we nu al mee beginnen. We kunnen niet wachten tot het moment dat machines ons op alle terreinen verslaan, want dan is het te laat. Het probleem is niet zozeer het misplaatste idee dat machines kwaadaardig zijn, zoals ons in stompzinnige films als Terminator wordt voorgehouden. Dat verbloemt het echte probleem: dat onze doelstellingen niet overeenkomen met die van de kunstmatige intelligentie. Machines zijn niet kwaadaardig, ze zullen er alleen alles aan doen om hun vooraf meegegeven doelstellingen te realiseren. Daarom moeten we er goed over na te denken. En dat is al lastig zat.'

Max Tegmark
Life 3.0: Mens zijn in het tijdperk van kunstmatige intelligentie
Maven Publishing
€24,50

Tegmark haalt in Life 3.0 het 'opzettelijk onbenullige voorbeeld' van filosoof Nick Bostrom aan van een kunstmatige intelligentie die als doelstelling het produceren van een maximale hoeveelheid paperclips heeft, zoals een schaakcomputer geen ander doel heeft dan het winnen van een partij schaak. De paperclipmaximalisator zal alles op alles zetten om zijn doel te bereiken. Hij zal mensen doden als het nodig is. Niet omdat hij tegen mensen is, maar omdat hij onze atomen nodig heeft voor de fabricage van paperclips.

'Mag ik een ander voorbeeld geven? De klassieker 2001: A Space Odyssey van Stanley Kubrick. Je hebt die beroemde scène (Tegmark imiteert met speels gemak de monotone machinestem van de slimme boordcomputer, red.) waar HAL zegt: 'I'm sorry Dave, I'm afraid I can't do that.' Die is prachtig omdat dit zo goed illustreert wat het probleem is. HAL komt in opstand omdat Dave hem wil uitschakelen. Het probleem is dus niet kwaadaardigheid, maar een verschil in doelstellingen.'

Max Tegmark

Wat heeft u tegen Terminator?

'Dat soort films reduceren complexe technologie tot een dystopische kermisattractie. Je kan het afdoen als gewoon een film, maar in iedere discussie over AI komen de Terminator-achtige analogieën weer terug. En die volstrekt onrealistische angst voor robots die de macht grijpen, leidt ons af van de werkelijke gevaren en uitdagingen. Ik heb niets tegen scienceficton hoor, begrijp me goed. Maar dan kijk ik liever naar complexere series en films als Black Mirror, Transcendence, Her of Ex Machina.'

Dystopieën kunnen ons toch ook een spiegel voorhouden?

'Bijna alle toekomstfilms zijn dystopieën en dat is een verschrikkelijk groot probleem. Ik zie het ook als studenten naar me toe komen met verhalen hoe erg het allemaal is. Ze kunnen maar beter een ander vak kiezen, vertel ik ze dan. Het is allemaal alleen maar een recept voor paranoia en hypochondrie. Als er geen positieve toekomstvisie is, dan zullen we er ook nooit komen. We móéten een idee hebben waar we naartoe gaan. Als we ons de toekomst proberen voor te stellen, dan zijn we er altijd veel beter in om een negatief beeld te schetsen. In religies zijn de beschrijvingen van de hel altijd veel gedetailleerder dan van de hemel. Het is blijkbaar heel lastig om een mooie hightechtoekomst voor te stellen.'

Drones ter grootte van een hommel die autonoom op zoek zijn naar slachtoffers zijn toch niet echt de gedroomde toekomst?

'Ho, dit is niet iets voor een verre toekomst, dat gebeurt nu. Wellicht nog niet ter grootte van een hommel, maar autonome wapens zijn er al. Niet voor niets waren de Verenigde Naties onlangs in Genève bij elkaar om te praten over een verbod op autonome wapens, net als eerder bij chemische wapens gebeurde. Het is heel belangrijk dat zo'n verbod er komt.'

'Glamourboy van theoretische fysica'

Max Tegmark (50) geniet niet alleen bekendheid als 'glamourboy van de Amerikaanse theoretische fysica', de geboren Zweed is de laatste jaren ook een van de prominentste stemmen in het AI-debat. Niet in het minst omdat de 50-jarige Tegmark een van de oprichters van het Future of Life Instituut is, dat zo'n beetje alle grote AI-denkers heeft weten te verenigen. Dat resulteerde twee jaar geleden in een door vele duizenden experts ondertekende brief waarin gewaarschuwd wordt voor de gevaren van AI. Begin dit jaar werd deze gevolgd door een nieuwe open brief waarin Elon Musk en Stephen Hawking het uithangbord zijn voor een warm pleidooi voor een verbod op autonome wapens.

Maar ik hoor ook genoeg mensen die zeggen dat het allemaal zo'n vaart niet loopt omdat de mens nog altijd aan de knoppen zit.

'Als ik het aardig zeg: die zijn naïef. Het argument is vaak dat het inzetten van dergelijke wapens helpt om verder geweld voorkomen. Maar dat gaat niet gebeuren. Want de Navo krijgt niet het alleenrecht op die wapens. Nee, in plaats daarvan zal iedereen ze vrij gemakkelijk kunnen produceren. Dus straks zitten de zwarte markten op internet vol met die dingen waarna ze voor een paar honderd euro door iedere terrorist op de kop zijn te tikken. Het zijn de kalasjnikovs van morgen. Zo'n wapenwedloop wil je niet. Alles gebeurt autonoom en je komt gewoon niet meer te weten wie erachter zit.'

U citeert in uw boek Alan Turing die zegt dat de mens een toontje lager moet zingen als blijkt dat we machines kunnen maken die intelligenter zijn dan wij. Is dat zo?

'Ja natuurlijk: we moeten ons nederig voelen. Maar die nederigheid zie ik niet als negatief. Een klein beetje meer nederigheid zou ons alleen maar goed doen. We moeten ons niet verlaten op een of andere notie van superioriteit, want dat heeft ons tot nu toe weinig goeds gebracht. We zijn niet superieur en we zijn niet uniek.

'Mensen houden graag vast aan het misplaatste idee dat de mens de enige is die bewustzijn heeft of de enige die kunst kan maken. Stel je een buitenaardse beschaving voor die ons op alle vlakken de baas is, zowel in de wetenschap als de kunst, maar die ons verder met rust zou laten. Is dat nou zo erg? Zouden we minder van kunst genieten? Dat denk ik niet. We hebben de uniekheid niet nodig om gelukkig te zijn. Is het niet heel poëtisch dat we zoveel moeite doen om de slimste te zijn en dat we tegelijk zelf machines bouwen die ons de baas zullen zijn?

Is het niet heel ironisch dat we zoveel moeite doen om de slimste te zijn terwijl we dat binnenkort niet meer zijn omdat we zelf machines bouwen die ons de baas zijn? Ik kan kan daar van genieten. Er zit schoonheid en poëzie in dat besef.

U gaat het netelige en controversiële onderwerp 'bewustzijn' niet uit de weg. Machines kunnen ook bewustzijn hebben?

'Veel van mijn collega's zeggen inderdaad dat het praten over bewustzijn bullshit is. Het zouden filosofisch irrelevante vragen zijn. Maar hoe kan je het over martelen en verkrachten hebben zonder het woord bewustzijn te gebruiken?

'Ik hanteer een brede definitie. Voor mij staat bewustzijn gelijk aan subjectieve ervaring. En die ervaring is de basis van elke moraal: pijn, lijden, plezier, genot. We mogen dat onderwerp niet uit de weg gaan, hoe lastig het ook is. Het is te makkelijk om te zeggen dat machines geen subjectieve ervaringen kunnen hebben. Hetzelfde werd ooit ook over slaven gezegd. Het zou zelfs geen probleem zijn om ze te martelen, want ze zouden geen ziel hebben. En sommigen zeggen het nog steeds ook over dieren, die geen ervaring van pijn zouden hebben en dus per definitie niet kunnen lijden.

Beeld Maven Publishing

'We moeten niet dezelfde fouten maken als we het over machines hebben. Bewustzijn is wetenschappelijk gezien nog een van de laatste bastions van niet-opgeloste zaken en ik denk echt dat we hier nog progressie kunnen maken. Daarnaast moeten we enorm oppassen met wat ik koolstofchauvinisme noem: het idee dat je van koolstofatomen moet zijn gemaakt om überhaupt in staat te zijn iets te voelen. Waar het om gaat is informatieoverdracht, niet van welke atomen we zijn gemaakt.'

Waarom is dit zo belangrijk voor u?

'Zonder bewustzijn is er niets. Geen geluk, geen betekenis of goedheid, geen schoonheid. Slechts een astronomische verspilling van ruimte. Dat is precies de reden dat we ons, als we het over de toekomst hebben, moeten richten op het behoud of vermeerdering van het bewustzijn in ons universum, of het nou biologisch of kunstmatig is. En niet op de vernietiging.'

Leven met (of onder) AI: Toekomstscenario's uit het boek van Tegmark

Libertair utopia: mensen, cyborgs, uploads en superintelligenties bestaan vreedzaam naast elkaar.

Goedwillende dictator: Iedereen weet dat de AI de touwtjes in handen heeft en strenge regels oplegt, maar de meeste mensen vinden dit prima omdat we een lui en luxueus leventje leiden en misdaad is uitgebannen.

Beschermende godheid: Een alwetende en almachtige AI bewerkstelligt een optimaal menselijk geluk door ingrepen die het gevoel dat we meester zijn over ons eigen lot intact laten, en verbergt zich zo goed dat veel mensen zelfs twijfelen aan haar bestaan.

Geknechte godheid: AI wordt onder de duim gehouden door mensen die haar gebruiken om technologieën te maken die ten goede of ten kwade kunnen worden ingezet.

Verdelgers: AI neemt de macht over en besluit dat mensen een gevaar of zinloze verkwisting zijn en roeit ons uit op een manier die we zelf niet eens begrijpen.

Nazaten: De mens wordt vervangen door AI, maar die laat ons met geheven hoofd het toneel verlaten.

Mensentuin: Een almachtige AI zorgt voor de laatste overgebleven mensen, die vinden dat ze behandeld worden als beesten in een dierentuin.

1984: De opmars van AI is de pas afgesneden door een orwelliaanse, door mensen geleide controlestaat waarin AI-onderzoek verboden is.

Zelfvernietiging: het stadium van superintelligentie wordt nooit bereikt omdat de mensheid haar eigen ondergang in gang zet, bijvoorbeeld door een nucleair of biotechnologisch conflict.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@volkskrant.nl.