Blog: als een robot 'nee' zegt bedoelt hij/zij dan 'nee'?

Tijdens het diner na de lange donderdag van onze masterclass eHealth strategie gaat het doorgaans over wat luchtiger onderwerpen dan agile processen, gegevensbeveiliging of innovatiebekostiging. Nou ja, luchtig, vorige week ging het bij mij aan tafel opeens over de vraag of je een seks-robot ooit seksueel zou kunnen misbruiken (als een robot nee zegt bedoelt hij/zij nee). Of algemener: of een robot of kunstmatig intelligente computers ooit bewustzijn zullen krijgen.

Zo’n vraag trekt diepe scheidslijnen aan tafel. Het lijkt mij evident dat ergens in de komende twintig tot veertig jaar kunstmatig intelligente systemen gedrag zullen vertonen dat wij als bewustzijn zullen kenmerken. Wanneer je- zoals ik - gelooft dat bewustzijn een evolutionair bijeffect is van een voldoende complex informatie verwerkend systeem, dan is het onlogisch om te geloven dat alleen biologische systemen als dieren of mensen het alleenrecht hebben op een besef van zowel de omgeving als een ‘zelf’.

Een religieuze discussie?

Natuurlijk zal het bewustzijn van robots anders zijn dan dat van mensen met benen, bloed en twee ogen en oren. Maar enkele van mijn tafelgenoten waren met stomheid geslagen dat ik de mogelijkheid van bewuste digitale wezens sowieso serieus nam. In de discussies die volgden, ging het vaak helemaal niet meer om feiten, maar om diepgewortelde, bijna religieuze geloofsovertuigingen over wat mensen uniek maakt.

“Computers hebben geen gevoel.”

“Mensen zijn niet geprogrammeerd.’

“Creativiteit maakt mensen uniek.”

Of eenvoudigweg:

“Ik geloof er geen snars van.”

Het is dan ook een moeilijk vraagstuk. De rij eminente filosofen die worstelden met de essentie van het menselijke bewustzijn is enorm. En niet de minsten onder hen kwamen tot de conclusie dat we die vraag maar beter onbeantwoord kunnen laten. Met het onder tafel snel op Wikipedia kijken bij de definitie van bewustzijn kom je in zo’n tafelgesprek niet veel verder.

Computers hebben geen compassie en wijsheid

In 1985 was ik voor De Volkskrant in Los Angeles op de 9e International Joint Conference on Articial Intelligence. Geloof het of niet, maar kunstmatige intelligentie (Artificial Intelligence, AI) was toen een enorme hype, er werd bijna net zoveel in geïnvesteerd als nu in digital health, en de Japanners waren op dit gebied volgens de Amerikaanse president Ronald Reagan al veel verder dan de VS.

Stanford AI-pionier Terry Winograd

Hoewel de meeste lezingen technisch waren, kon je AI-kopstukken als Terry Winograd, John McCarthy of Joseph Weizenbaum bij diverse algemene panel-discussies aantreffen. En ook toen ging het al om dezelfde filosofische en morele vragen. Weizenbaum had in 1976 een boek geschreven, waarin hij beargumenteerde dat computers nooit belangrijke beslissingen zouden mogen nemen, omdat ze medeleven en wijsheid ontberen.

In het zoeken naar antwoorden op die filosofische en morele vragen zijn we niet veel opgeschoten in de afgelopen dertig jaar. Maar het grote verschil met 1985 is dat ze opeens veel minder filosofisch zijn geworden. De smartphone in je broekzak is krachtiger dan de supercomputer van IBM die in 1997 wereldkampioen Gary Kasparov versloeg met schaak.  Miljarden smartphones, laptops en pc’s zijn met elkaar verbonden, en een zee van teksten, afbeeldingen en video's is online beschikbaar.

Wanneer je het zo bekijkt was het net alsof die AI-onderzoekers uit de vorig eeuw met een crossmotor naar de maan wilden vliegen. Ideeën genoeg, maar het ontbrak aan de middelen om ze uit te voeren. Rekenkracht, opslag en netwerken hebben we nu in overvloed.

Gary Kasparov speelt tegen IBM's Deep Blue

Het idee dat computers simpele, en later ingewikkelde cognitieve taken zouden kunnen uitvoeren stuitte ooit ook op ongeloof en wantrouwen. Optellen en aftrekken, dat zou nog wel gaan, maar schaken, een route plannen, of een fabriek besturen zouden ze nooit kunnen. Die grens hebben we moeten opschuiven. Iedereen accepteert dat computers veel cognitieve taken beter uitvoeren dan mensen, zoals een bulldozer efficiënter is dan een arbeider met een schop en een houweel.

Wanneer zal de discussie landen bij het grote publiek?

Het besef dat software steeds slimmer wordt is bij de meesten van ons niet op basis van een theoretische discussie of introspectie tot stand gekomen (tenzij je Alan Turing heet), maar omdat we het in enkele generaties voor onze neus zagen gebeuren.

Realbotix Systems

Ik vermoed dat het ook zo zal gaan met de maatschappelijke, ethische en filosofische discussies over het bewustzijn (of het ontbreken ervan) bij robots en computers. Natuurlijk is het lovenswaardig dat de Raad voor Volksgezondheid en Samenleving thema’s als deze agendeert voor een publieke discussie, en dat de EU werkt aan wetgeving rond robots en kunstmatig intelligente systemen.

Maar er zal een onmiskenbaar zelfbewuste robot voor nodig zijn om de nu academische discussie écht te laten landen bij het grote publiek. En dat bewustzijn moet dan niet worden vastgesteld op basis van een wetenschappelijk formalisme, maar evident zijn voor gewone mensen. Of dat ooit gebeurt? Voorlopig kun je alleen maar vaststellen dat er believers en non-believers zijn, en tegelijk dat de kwaliteit van de argumentatie in beide kampen - laten we zeggen - nogal wisselt. Maar dat maakt de discussies niet minder leuk.