Het voornemen van de Britse nationale gezondheidsdienst NHS om met de slimme luidspreker van cloudgigant Amazon te gaan samenwerken heeft in het Verenigd Koninkrijk de discussie over medische gegevens en de cloud weer op scherp gezet. De digitale divisie van de NHS wil de Alexa spraaktechnologie van Amazon inzetten om de medische informatie van de NHS website (de Engelse thuisarts.nl) eenvoudiger toegankelijk te maken, met name ook voor ouderen, slechtzienden en anderen voor wie gewone internettoegang lastiger is.
In het persbericht van de NHS geeft men voorbeelden van het type vragen dat de Amazon luidspreker in de Britse huiskamer zou moeten beantwoord: hoe behandel ik migraine, wat zijn de symptomen van griep, en wat zijn de symptomen van pokken. De NHS ziet de spraaktechnologie als mogelijk deeloplossing voor de capaciteitstekorten in de Engelse zorg, specifiek bij huisartsen. De dienst wijst erop dat marktonderzoeken laten zien dat eind volgend jaar de helft van alle zoekopdrachten naar verwachting via de spraaktechnologie van Google, Apple of Amazon zal plaatsvinden.
De timing van het NHS persbericht is minder gelukkig, want op dezelfde dag verscheen een artikel op de Bloomberg website over de duizenden Amazon werknemers die naar fragmenten van Alexa opnamen luisteren om de stemherkenning beter te maken. Dat gebeurt volgens Bloomberg in landen als Costa Rica, India en Roemenië, door werknemers die negen uur per dag werken en per dienst zo'n duizend Alexa audioclips beluisteren.
Normaal gesproken neemt een slimme luidspreker alleen wat op wanneer je expliciet “Hey Google” of “Alexa” zegt om hem te activeren. Maar dat proces is niet foutloos, dus de Amazon medewerkers beluisteren regelmatig audioclips die niet zijn bedoeld om te delen, volgens Bloomberg soms zelfs over mishandeling of seksueel misbruik. Hoewel Amazon benadrukt dat het om een uiterst klein deel van alle Alexa opnamen gaat, en dat de stemfragmenten niet meer te herleiden zijn naar personen, raakt het Bloomberg artikel een open zenuw in Engeland.
Google Home
NHS en DeepMind
De NHS kwam eerder in het nauw door een samenwerking met Google’s AI dochter DeepMind. DeepMind werkte met het Royal Free Hospital in Londen (onderdeel van de NHS) samen aan een app die medische beelden en patiëntgegevens verzamelt en analyseert, om dokters te helpen om acuut nierfalen te identificeren. Britse artsen waarschuwden over een gebrek aan helderheid en transparantie bij de DeepMind-Royal Free samenwerking, en zeiden dat DeepMind ‘data van miljoenen patiënten van Royal Free en voormalige patiënten sinds november 2015’ heeft gebruikt, zonder toestemming van de betreffende patiënten en zonder goedkeuring om die data te gebruiken voor wetenschappelijk onderzoek.
De privacy-zorgen gaan dus niet alleen over het feit dat Amazon-medewerkers mogelijk luisteren naar met medisch gevoelige informatie van Britse onderdanen, maar ook over de wenselijkheid om gevoelige zorginformatie op te slaan of te verwerken bij de grote Amerikaanse cloudproviders: Amazon, Google en Microsoft.
Patiëntgegevens in de cloud?
Ook in Nederland is die discussie actueel. Minister Bruins liet naar aanleiding van kamervragen over de opslag van medische gegevens van ziekenhuizen bij Google weten dat medische gegevens enorm gevoelige data zijn. Daarom wil de minister weten, zo gaf hij aan bij de kamer, aan welke technische en juridische eisen voldaan moet worden. Daarnaast wil hij ook graag weten welke risico’s er zijn in de opslag in clouds in Nederland, de Europese Unie, de Verenigde Staten en de rest van de wereld. Kortom, de minister wil zeker weten dat de medische gegevens veilig zijn opgeslagen bij Amazon, Google of Microsoft, en daarmee impliciet ook hun spraak-assistenten.
Die vraag speelt ook in andere Europese landen. Het Zweedse nationale inkoopbureau kwam bijvoorbeeld tot de conclusie dat het gebruik van cloud-kantoordiensten als Microsoft Office 365 en Google Office in hun optiek strijdig is met de Europese privacy-regelgeving, mede als gevolg van nieuwe wetgeving in Amerika, de zogeheten Cloud Act. De Nederlandse Autoriteit Persoonsgegevens hierover nog geen specifiek standpunt ingenomen, en laat weten op korte termijn ook geen plannen te hebben om naar deze Amerikaanse wetgeving te kijken. De Autoriteit verwijst naar zijn Praktijkgids Patiëntgegevens in de cloud, die is echter al een aantal jaren geleden uitgegeven, voor de tijd waarin slimme luidsprekers gemeengoed aan het worden waren.
Minister Bruno Bruins (VWS): medische gegevens zijn enorm gevoelige data
Vragen over data
In Engeland gaat de discussie ook over de vraag of Amazon zijn medische AI algoritme gaat trainen met behulp van medische informatie van Britse onderdanen. Maar dat is niet de enige vraag. De Britse huisarts David Wrigley verwoordde de vraagtekens rond de samenwerking in een korte tweet:
I very much favor the use of IT in health but....
How is the data encrypted?
Who has access to the data?
Where is the data stored?
Will the data be used for marketing?
Will the data be sold?
What happens if a serious diagnosis is possible from the patients query?
Het is ondenkbaar dat de NHS en Amazon geen uitgebreide antwoorden hebben op deze en andere vragen. Het zal er nu meer om gaan om die antwoorden op een begrijpelijke manier aan te Britse burgers uit te leggen.
wellicht ook interessant
Plaats een Reactie
Meepraten?Draag gerust bij!