AI in de zorg: ‘Het verschil maak je met je eigen data’

GenAI en taalmodellen zijn laagdrempelige tools die, ook in de zorg, een bijdrage kunnen leveren aan bijvoorbeeld het verlagen van administratielast. Van de zorg echt een lerend systeem maken waar nieuwe kennis gecreëerd wordt en waar iedere patiënt passende en persoonlijke zorg krijgt, vraagt echter om zorgvuldig gebruik van alle eigen data van het ziekenhuis. Dat betoogt Wouter Kroese, mede-oprichter van het AI-bedrijf Pacmed.

De opbrengst van AI gaan we pas op lange termijn zien. Dat zei AI- en data-expert Job van den Berg onlangs is Het Financiële Dagblad (FD). In een uitstekend artikel geeft hij uitleg:

“Er is op korte termijn winst te behalen door genAI te gebruiken als hulp bij taken als het schrijven van e-mails of het opstellen van rapporten. Maar het gaat nog lang duren voor bedrijven AI op grote schaal inzetten in hun bedrijfsprocessen.
Hoeveel data je hebt en van welke kwaliteit die zijn, gaat volgens Van den Berg het verschil maken tussen organisaties die AI wel en niet succesvol weten toe te passen. Iedereen kan een abonnement nemen op een van de vele varianten op taalmodellen, zoals ChatGPT. Maar dan heb je allemaal hetzelfde basisproduct. Het verschil maak je met je eigen data. Het zijn de ingrediënten die je het model geven om mee te werken. Goede data zijn goud geld waard.”

In de zorg is het punt van Job van den Berg zelfs extra belangrijk. Om medisch valide, betrouwbare en certificeerbare inzichten te bieden is het cruciaal om precies te begrijpen welke data gebruikt is en hoe AI van data tot inzicht komt.

Klinische situatie vertalen naar data

Dit vraagt heel veel tijd en werk: in 2017 zijn wij begonnen op de Intensive Care en hebben wij samen met onze partner Amsterdam UMC jarenlang gewerkt aan het ontwikkelen van een CE-gecertificeerd medisch hulpmiddel dat op (o.a.) alle data uit het PDMS helpt bij het tijdig en gezond ontslaan van de IC-patiënten. Zeker 80% van het jarenlange werk ging naar het goed begrijpen hoe de klinische situatie zich vertaalt naar de data.

Bij AI in de zorg gaat het om patiënten en zorgverleners in en aan het bed beter helpen, niet om het goed kunnen doen van voorspellingen in een dataset. De data die (zelfs op de zeer datarijke IC) wordt gegenereerd wordt niet vastgelegd om onderzoek op te doen of AI op te ontwikkelen. Deze data is slechts een schaduw van een afspiegeling van de patiënt. En deze spiegel is niet kaarsrecht en niet vrij van vlekken. Het is ontzettend veel werk om deze schaduw zo goed, betrouwbaar en volledig mogelijk uit te tekenen en te begrijpen waarbij daar nog beperkingen zitten.

In COVID-tijden hebben wij samen met o.a. de Nederlandse Vereniging voor Intensive Care (NVIC) en Amsterdam UMC data verwerkt van alle met COVID op de IC opgenomen patiënten van zo'n veertig ziekenhuizen. Met tientallen data scientists, data engineers, specialisten over medische data, onderzoekers, artsen en geneeskundestudenten hebben wij toen al deze data verwerkt. De duizenden parameters, met alle fouten, gaten en verandering in registratie, en alle data van de verschillende EPDs/PDMSsen (die in elk ziekenhuis verschillend zijn geconfigureerd) zijn toen allemaal tot een uniform en medisch verrijkt datamodel gebracht.

Data verantwoord inzetten aan het bed

Om onze software ook aan het bed in te kunnen zetten, hebben wij ook alle ‘live’ data naar dit datamodel moeten verwerken. Veel van de initatieven omtrent data beperken zich nu slechts tot historische data. Ook hebben we alle technologie ontwikkeld om alle datastromen die over de IC gaan, continu te monitoren. Want allerlei factoren (denk aan veranderingen in beleid, bijvoorbeeld fusies van IC’s zoals we die in het Zuyderland en Amsterdam UMC zien, maar ook pandemieën of de continue veranderingen in beleid en dataregistratie op IC’s) maken dat het onverantwoord en onmogelijk is om een eenmalig op een historische dataset getraind algoritme verantwoord aan het bed in te zetten.

In onze samenwerking met Santeon en zorgverzekeraars omtrent verantwoorde en schaalbare inzet van AI hebben wij de stappen gezet om in de drie grote EPD/PDMS -systemen via FHIR te kunnen integreren. En hebben wij alle datamodellen omgeschreven naar standaarden als LOINC, Snomed en OMOP. Dit maakt de data betrouwbaarder; zo kan de gebruikte technologie ook voor andere initiatieven door ziekenhuizen ingezet worden en wordt lock-in van ons als leverancier voorkomen.

Het is niet zo dat wij niet geloven in Generative AI, LLM’s en speech to text. Sterker nog: Ook Pacmed voegt het toe aan haar AI-beslissingsondersteuning om waardevolle overzichten en samenvattingen te maken en om beter en gemakkelijker met de IC als lerend systeem te kunnen interacteren. Zo kan het intuïtieve, en soms zelfs magisch lijkende, van Generative AI worden benut, maar kunnen de risico's en nadelen van hallucinaties en niet weten hoe en waarop een model getraind is ondervangen worden.

Geen binnenbochten

Voor AI in de zorg zijn er geen binnenbochten. Omdat de IC de meest datarijke afdeling is met de hoogste eisen aan de kwaliteit en de directheid van de koppeling en omdat wij datastandaarden gebruiken, kunnen wij gemakkelijk onze technologie en expertise tot ziekenhuisbrede technologie doorontwikkelen. Ziekenhuizen hebben de tijd, noch de middelen en expertise om opnieuw het werk te doen dat wij de afgelopen jaren hebben gedaan. Daarom zullen wij onze datatechnologie breder in gaan zetten om de nodige transformatie naar datagedreven ziekenhuiszorg te versnellen.

Wouter Kroese is medeoprichter van AI-onderneming Pacmed. Hij blogt voor Smarthealth over trends en ontwikkelingen op het vlak van AI in de zorg.