Een chatbot die vraagt of je bij bewustzijn bent?

Chatbots zijn oud nieuws, maar met kunstmatig intelligente chatbots kun je tegenwoordig weer aankomen bij investeerders. HealthTap, de Amerikaanse medische dienst om artsen te consulteren, introduceerde eerder deze maand Dr. A.I. De naam zegt het al: een kunstmatig intelligente symptomenchecker. En in Londen gaan een miljoen mensen deze maand gebruik maken van een app in plaats van het 111-alarmnummer voor spoedhulp. Het idee erachter is dat de slimme software van Babylon Health, met kennis van miljoenen eerdere intake-gesprekken en diagnoses, de zogeheten triage beter, goedkoper en efficiënter uitvoert dan menselijke operators. Oude wijn in nieuwe zakken? Of is hier echt wat aan de hand?

Clippy

Chatbots, programma’s waarmee je in gewone taal kunt communiceren, bestaan al decennia. Neem Clippy, de (tamelijk irritante) digitale assistent in tekstverwerkingsprogramma Word, uit 1996. Of chatbot Yvette van de Rabobank: jongeren konden via MSN aan Yvette geldvragen stellen of hun laatste bankstransacties of saldo opvragen. Op MSN waren chatbots begin 2000 sowieso in trek. In Nederland had een virtuele Marco Borsato 50.000 ‘vrienden’ en had KPN’s Chatman ruim 600.000 contactpersonen in zijn lijst staan. Gesprekken met deze virtuele bots liepen regelmatig uit op niets, maar het hoge aantal gebruikers geeft wel aan dat er destijds veel animo voor was.

Return of the chatbot

Na een tijd was de lol eraf en verdwenen deze relatief eenvoudige chatbots weer. Tot pakweg twee jaar geleden. Toen werden chatbots ineens in één zin genoemd met buzzwords als artficial intelligence (AI) en deep learning, en voorspelde data-analist Gartner dat we in 2020 – al dan niet onopgemerkt - meer gesprekken met chatbots dan met onze partner voeren.

Inmiddels worden chatbots weer ingezet bij enkele grote bedrijven in Nederland. ANWB heeft chatbot Iris, bij Inshared beantwoordt Fleur de vragen, Nienke is de chatbot van de Nationale-Nederlanden en bij Essent ‘werkt’ Heleen. Bol.com heeft de welbekende virtuele Billie en bij Eneco kun je aan een Facebook Messenger chatbot je meterstanden doorgeven.

Virtuele helpdeskmedewerker van Bol.com

Net een mens

Door grote vooruitgang op het gebied van taalverwerking door computers worden conversaties met chatbots steeds geloofwaardiger en daarmee waardevoller. Aan de Georgia Institute of Technology werden studenten – zonder dat zij het doorhadden – maandenlang geholpen door een chatbot. Een professor van de cursus Knowledge Based Artificial Intelligence zette de chatbot in om vragen van studenten te beantwoorden. Tijdens de cursus konden de ruim driehonderd deelnemende studenten aan de professor en zijn acht student-assistenten vragen stellen. De professor besloot een negende assistent aan te stellen: chatbot Jill Watson. Jill Watson gebruikt, zoals de naam al doet vermoeden, technologie van IBM’s Watson platform.

Siri

Sterker nog: iedere iPhone bezitter heeft ook een virtuele assistent tot zijn of haar dienst. Van grappen (how much wood could a woodchuck chuck if a woodchuck could chuck wood?), tot het maken van afspraken, bellen van contacten of het stellen van vragen (Siri, tot hoe laat is de Albert Heijn open?).

Siri als virtuele assistent

Android gebruikers kunnen op hun beurt de weg vragen, hun agenda bijwerken of op de hoogte blijven van het nieuws met Google’s spraakassistent Google Now. Minder bekend is de virtuele assistent van Microsoft: Cortana. Cortana helpt bij het zoeken naar bestanden op je computer of informeert over afspraken.

Chatbots in de zorg

Chatbots in de zorg zijn evenmin nieuw. In 2015 lanceerde Your.MD hun eerste virtuele (dokters)assistent. Gebruikers kunnen aan de chatbot symptomen voorleggen. Deze geeft vervolgens op basis van informatie als geslacht en leeftijd van een gebruiker mogelijke aandoeningen en informatie hierover. De chatbot van Your.MD heeft eigen iOs of Android apps, maar er kan ook contact worden gelegd via Facebook Messenger, Telegram of Slack.

Sensely ontwikkelde de virtuele verpleegkundige Molly. Volgens de ontwikkelaars kunnen mensen met diabetes, hartziekten of geestelijke aandoeningen veel baat hebben bij regelmatig contact met een virtuele assistent. Molly moet aan de hand van de gesprekken met patiënten op eigen houtje kunnen bepalen of het nodig is door te verbinden met een ‘echte’ specialist.

Virtuele verpleegkundige Molly

Het New Yorkse AI-bedrijf Koko lanceerde afgelopen jaar KokoBot, een chatbot die beschikbaar is op onder andere Facebook Messenger en Telegram. De KokoBot is gericht op jonge gebruikers die kampen met klachten als stress, angst of depressie. Een gebruiker vertelt aan KokoBot waar hij of zij stress door heeft of wat voor angstgevoelens zorgt, en de chatbot koppelt de gebruiker aan een andere peer in het Koko-netwerk. Daarnaast geeft Kokobot wat algemene tips en adviezen aan de gebruiker.

Denken als mensen

Maar wat betekent het nu wanneer aanbieders zeggen dat hun chatbots kunstmatig intelligent zijn? Die term is zo breed dat de betekenis ervan inmiddels bijna verloren is gegaan. AI-research ging gelijk op met de opkomst van de computer in de jaren zestig en zeventig. In eerste instantie had het vakgebied een theoretische en vooral filosofische achtergrond met als kernvraag: kunnen computers ooit net zo goed denken als mensen?

De AI-research breidde zich in de afgelopen decennia uit tot gebieden als patroon- en beeldherkenning, simulaties, spellen (computers die winnen van de wereldkampioen schaak en Go), automatisch vertalen en zelflerende systemen, bijvoorbeeld voor zelfrijdende auto’s. Door de beschikbaarheid van goedkope krachtige computers, smartphones en Internet groeit het vakgebied spectaculair.

Kennis van taal is nog geen domeinkennis

AI-technologie is onmisbaar voor systemen die taal verwerken, zoals chatbots en Siri. Maar dat betekent nog niet dat die chatbot ook iets zinnigs kan zeggen over een bepaald probleemgebied. Vergelijk het met mensen. Die kunnen perfect overweg met taal (nou ja, perfect). Maar dat betekent niet dat je aan een willekeurig iemand iets kunt vragen over de beste diabetes behandeling. Daarvoor heb je gespecialiseerde kennis nodig.

Er zijn talloze chatbots die AI-technologie gebruiken om te kunnen converseren, maar die voor hun inhoudelijke kennis gebruik maken van niet erg intelligente starre beslisbomen en stroomdiagrammen. Dit soort beslis-systemen worden ook gebruikt door menselijke operators van spoedposten en 06-nummers. Daardoor kon het gebeuren dat een Brits parlementslid enkele jaren geleden tijdens een noodtelefoontje naar het alarmnummer van de NHS na enkele minuten de vraag kreeg: “Bent u bij bewustzijn?” De kennelijk niet erg oplettende medewerker volgde een star protocol dat tot een onzinnige vraag leidde.

DeepMind versloeg vorig jaar de menselijke wereldkampioen Go.

Miljoenen diagnoses

De belofte van de nieuwe medische chatbots is dat AI niet alleen wordt ingezet om intelligent met mensen te kunnen converseren, maar ook om inhoudelijk betere medische informatie te kunnen verstrekken. Dat doen die systemen bijvoorbeeld door eerdere diagnoses te analyseren, databases met medicijnen en symptomen te analyseren en zelfs anoniem gemaakte medische dossiers door te spitten. Vergelijk het met een schaak (of Go) programma dat alle miljoenen ooit gespeelde schaakpartijen van mensen kan gebruiken om zelf intelligente keuzen te kunnen maken in nieuwe partijen.

HealthTap zegt in een persbericht bijvoorbeeld dat zijn AI dokter de data van tienduizenden Amerikaanse artsen heeft verzameld die samen in hun loopbaan miljoenen patiënten hebben getriageerd. Die dataverzameling is gebruikt als trainingsset voor de app.

Geen vervanging voor menselijke arts?

Babylon en de Engelse NHS zijn voorzichtig, en claimen niet dat de chatbot een arts kan vervangen. Maar daar is in het geval van het landelijke 111-alarmnummer ook geen sprake van. Dat wordt nu namelijk ook niet bemand door medisch gekwalificeerd personeel, maar door helpdesk-medewerkers. De operators gebruiken speciale software (Pathways) die hen door een gestructureerde vragenlijst heen leidt. Er is in de afgelopen jaren veel kritiek geweest op de Engelse 111-service die in 2013 startte. Vóór die tijd werd het hulpnummer bediend door medische professionals, maar dat werd te duur. In Nederland kennen we overigens ook dergelijke protocollen op huisartsposten. Het bekendste protocol is die van de Nederlandse Triage Standaard. In Nederland is de landelijk vastgestelde prijs van een telefonisch consult met een spoedpost overigens 25 euro.

NHS: een app als triagist

Kostenbesparing is belangrijke drijfveer

Het zou dus zo maar mogelijk zijn dat de inzet van slimme AI-technologie in dit geval tot minstens net zo’n goede of wellicht betere resultaten kan leiden. Dat is de vraag die de pilot in Londen moet beantwoorden. Daarmee zou volgens de NHS en Babylon Health in ieder geval een grote besparing kunnen worden gerealiseerd. Een telefoontje naar de NHS kost volgens de Financial Times nu 14 tot 18 euro (nog los van de kosten van onnodige ambulances en doorverwijzingen). De Britten zijn nog niet overtuigd, zo blijkt uit de reacties op fora en in kranten, maar dat de kwaliteit van het landelijke 111-nummer omhoog moet, daar zijn vriend en vijand het in veel gevallen over eens.

Ook in China

Medische chatbots zijn overigens geen exclusief Europese of Amerikaanse aangelegenheid. Eind 2016 maakte Baidu, een van de grootste zoekmachines van China, bekend dat het bedrijf een chatbot speciaal voor medische vragen en advies ontwikkelt. De chatbot krijgt de naam Melody en is vooralsnog alleen in China beschikbaar. Melody werkt ook op basis van AI en wordt een nieuwe functie in de Baidu Doctor app.  Patiënten kunnen medische vragen stellen aan de chatbot en een afspraak maken met hun dokter.

Daarnaast hopen de makers dat de AI-toepassing ook tijdswinst op kan leveren, doordat basisinformatie over medische aandoeningen al uitgevraagd en doorgestuurd wordt door Melody. In vergelijking met de NHS-pilot gaat het hier om enorme gebruikersaantallen. En data is goud voor AI-toepassingen.

"Artsen zijn ook black boxes"

In een recente podcast van Amerikaanse durfinvesteerder Andreessen Horowitz kwam de vraag aan de orde of we cruciale medische beslissingen wel kunnen overlaten aan AI-systemen. Dat zijn immers black boxes. In tegenstelling tot klassieke software kun je de logica van de genomen beslissing niet eenvoudig terugvolgen wanneer je de programmacode kent. "Let’s face it", zei een vooraanstaande AI-onderzoeker, “Artsen zijn eigenlijk ook black boxes, en maken regelmatig fouten.”

Het is een discussie die (hoewel niet helemaal vergelijkbaar) ook bij zelfrijdende auto’s speelt. Soms rijdt een Tesla tegen een vrachtwagen omdat een lage zon de software in de war brengt. En we kunnen nooit garanderen dat de software altijd goed zal werken. Maar menselijke rijders blijken tot nog veel dommere en onnodiger ongelukken in staat te zijn. Naarmate zelfrijdende auto’s slimmer worden, wordt de afweging tussen collectieve veiligheid en individuele keuzes waarschijnlijk steeds lastiger.

Meer lezen? AI: terug van nooit weggeweest