WetenschapKunstmatige intelligentie

Deze filosofen maken een argumentatiemachine die, hopen zij, drogredenen uit toespraken kan vissen

Drie Amsterdamse filosofen en een programmeur hebben een ambitieus plan: een argumentatiemachine ontwikkelen die helpt valse redeneringen te herkennen uit toespraken van bijvoorbeeld Donald Trump of Greta Thunberg. 

Beeld Lauren Hillebrandt

Het hoofd van Jean Wagemans draait overuren als hij de tweets van Donald Trump leest. Daarbij let hij niet op feitelijke missers, maar op onderliggende argumentatiestructuren. Een New York Times-journalist is een ‘neurotic dope!’ (‘neurotische idioot!’) omdat ze een column over de Amerikaanse president schreef? Een ad  hominem – een persoonlijke aanval, ingezet om inhoudelijke punten te ontwijken. Zegt Trump Poetin niet te kennen, maar schrijft hij dat Obama wel deals met ‘terroristenfinancier’ Iran had? Een typische ‘rode haring’ – het afleiden van de aandacht, de perfecte drogreden om een slap argument te verbergen.

Kranten staan vol met factcheckrubrieken, zegt filosoof Wagemans, maar we letten veel minder op slinkse argumentatiestructuren en drogredenen. Op de Universiteit van Amsterdam wapent hij studenten hiertegen. Maar vorig jaar kwam er belangstelling uit onverwachte hoek: van een programmeur die droomde van een kunstmatige intelligentie (AI) die menselijke redeneringen kan helpen doorzien.

IBM was al bezig met hun Project Debater, baanbrekende software die mensen moet verslaan in debatten. Indrukwekkend, maar programmeur Jan van Oort had het gevoel dat ze daar een cruciaal element misten: de argumentatieleer uit de filosofische traditie.

Nu wagen Wagemans, Van Oort en filosofen Federica Russo en Federico Gobbo zich aan een bijna donquichotachtige missie: de argumentatiemachine ontwikkelen. Niet met miljarden euro’s van een bedrijf als IBM, maar met een kleine investering van een Oostenrijkse zakenman en ‘hopelijk’ een subsidie van de UvA. Drie programmeurs schrijven dit jaar code voor het prototype van Krino (oud-Grieks voor ‘oordelen’). Daaruit moet blijken of hun ambitieuze plan haalbaar is. Het doel: dat Krino straks helpt drogredenen en argumentaties uit een speech van bijvoorbeeld Donald Trump of Greta Thunberg te halen.

Federica Russo en Jean Wagemans werken aan hun argumentatiecomputer.Beeld Caren Huygelen / Innovation Exchange Amsterdam

De filosofen laten zich inspireren door Aristoteles, die zich 2500 jaar geleden al stoorde aan blaaskakerige politici. De persoonlijke aanval waarop populisten nu gek zijn, werd ook toen ingezet om politieke tegenstanders een kopje kleiner te maken. In het Oude Griekenland werd de basis gelegd voor wat academici argumentatietheorie noemen. Filosofen legden lijsten aan met onderscheid tussen honderden typen argumenten en drogredenen.

Geïnspireerd door Aristoteles en de bloei van de bètawetenschappen in de Verlichting, droomde filosoof en wiskundige Gottfried Wilhelm Leibniz in de 17de eeuw van een argumentatiemachine. Mensen praten vaak langs elkaar heen en oordelen te veel vanuit hun emoties, vond Leibniz. Een logische, analytische taal kan miscommunicatie voorkomen. De man die een rekenmachine uitvond, vroeg zich af: zou een rekenmachine voor argumenten niet de oplossing zijn?

Die ‘wiskundige’ taal voor argumenten werd daadwerkelijk ontwikkeld door taalfilosofen. ‘Als het regent, dan word je nat’, werd ‘A>B’, met tientallen tekens die verbanden als causaliteit moesten uitdrukken. Op de UvA ontwikkelde Gobbo een nieuw model om taalkundige structuren in een soort bomen weer te geven. Wagemans bedacht een periodiek systeem van argumenttypes, vergelijkbaar met dat van de elementen in de scheikunde. Samen met Russo’s ideeën over causaliteit vormen de twee theorieën de basis van de programmatuur van Krino.

Hoe hun computerprogramma concreet moet werken? Neem de ‘How Dare You’-toespraak van Greta Thunberg in Parijs, waarin ze predikt over de rol van haar generatie in het klimaatdebat. ‘Wij worden de slechteriken die mensen deze ongemakkelijke dingen moeten vertellen, omdat niemand anders het wil of durft.’ Volgens Wagemans zouden huidige AI-systemen zien dat er ‘een soort’ connectie is tussen Thunbergs zinsdelen, waarvan de een de ander ondersteunt vanwege het woordje ‘omdat’. Het systeem kent de betekenis van het woord ‘omdat’ omdat het miljoenen teksten heeft gescand, nu kan het voorspellen wanneer mensen ‘omdat’ gebruiken. Maar diepere kennis over de werking van argumenten ontbreekt, gelooft Wagemans.

Bij Krino moet de kennis van die argumentatietypen juist de basis vormen, de voorspellingskracht op basis van data komt in een later stadium van ontwikkeling. Als Krino de tekst van Thunberg scant, weet het systeem straks dat ‘omdat’ hier een ‘argument from complementaries’ aanduidt. 

Het doel is niet dat de computer gaat bepalen of speeches slecht zijn of niet, zegt Russo. Hij moet helpen, met speeches, maar ook met rechtbankdocumenten van honderden pagina’s of veiligheidsrichtlijnen voor fabrikanten van auto’s of vliegtuigen. ‘Krino moet handvatten bieden om de structuur te doorgronden. De gebruiker kan dan zelf oordelen of een redenering sterk genoeg is.’

Frankensteiniaanse debatmachine

De filosofencomputer moet argumentaties fileren, maar computergigant IBM stal vorig jaar de show met een computer die zelf argumenten bedenkt. Een vrouwelijke computerstem klonk door een zaal met achthonderd toeschouwers. ‘Kansen geven aan de minder bevoordeelden zou een morele verplichting moeten zijn voor elk mens’, zei ze in het Engels, ‘en een kerntaak van de staat.’ Op het podium wachtte debatkampioen Harish Natarajan om haar tegen te spreken. ‘Zij’ was Project Debater, verwikkeld in een nek-aan-nekrace om de winst in dit debat over subsidies voor peuteropvang.

Het was misschien wel een historisch moment: het eerste openbare debat tussen mens en machine, georganiseerd door IBM als demonstratie van hun frankensteiniaanse debatmachine. In een kwartier is Project Debater expert op elk willekeurig gebied, door zo’n vierhonderd miljoen krantenberichten door te spitten, de sterkste claims eruit te filteren en een overtuigend narratief te creëren. Van sterdebater Natarajan verloor Project Debater nog, u zou het waarschijnlijk afleggen, schreef technologiemagazine Wired.

Noam Slomin, de bedenker van Project Debater, werkte de afgelopen acht jaar aan het project, samen met ‘duizenden’ researchers. Een IBM-computer versloeg in de jaren negentig een schaker, dit moest een nieuwe mijlpaal worden, legt Slomin telefonisch uit. Hij leest met belangstelling over Krino. Vooral het overzicht van zo’n dertig argumenttypen van Wagemans vindt hij interessant. 

Maar Slomin is kritisch over de slagingskans. ‘Wij kozen bewust voor slechts drie typen argumenten, dat was met onze middelen al ingewikkeld om aan een computer te leren. Hoe verfijnder je het maakt, hoe moeilijker het ontwikkelen van de AI wordt.’ Slomin waardeert het wel dat de filosofen dit met een handvol programmeurs gaan proberen.

‘Mes aan gek in de menigte’

Kunnen totalitaire leiders geen misbruik maken van een argumentatiemachine, door hun publiek te manipuleren met nog slinksere drogredenen? Wagemans erkent het risico. ‘Elke ontwikkeling kan worden ingezet voor kwaadaardige doeleinden.’ Hij wijst naar de eeuwenoude kritiek op de retorica. ‘Daarvan zeiden ze al: als je leert hoe iemand anderen kan overtuigen, los van wat de waarheid is, geef je een mes aan een gek in de menigte.’ Wagemans en zijn collega’s hopen vooral dat Krino ‘ons kritischer maakt voor manipulatieve overtuigingstechnieken’.

Ook Slomin ziet de potentiële risico’s. Hij benadrukt dat IBM daar ‘zo verantwoord mogelijk’ mee omgaat. Ook hij wil dat de A.I. van Project Debater mensen gaat helpen meer weloverwogen keuzen te maken.

Debatten tegen mensen gaat Project Debater niet meer voeren. ‘Dat was een fantastische manier om de kracht van de software te demonstreren, commercieel is het niet zo interessant.’ Later dit jaar onthult Slomin de nieuwe toepassing van zijn AI, die gaat draaien om ‘de wijsheid van de menigte’. ‘Stel je een controversieel vraagstuk voor. De computer vraagt aan duizenden mensen om hun standpunt en creëert daar zelf een narratief van. Dit helpt bedrijven te ontdekken hoe werknemers ergens over denken en politieke leiders om belangrijke beslissingen te nemen.’

Meer lezen over slimme computers?

De boekenkast van de wetenschap is volkomen onbehapbaar. Gelukkig leest de computer tegenwoordig heel wat sneller dan wij. Lees hier wat dat oplevert.

Dat computers op veel gebieden beter en slimmer zijn dan de mens, soit. Gelukkig hebben we de kunst nog. Of toch niet?

Is het nuttig om kunstmatige intelligentie videogames te leren spelen? Jazeker.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden