Welke invloed mag AI hebben in de zorg?
We hadden het vanmorgen bij de presentatie van Liesbeth Smit nu juist afgeleerd: een datum op een slide van een presentatie. Maar in dit geval is het wel toepasselijk. Want ja, het is immers 2024… En in deze tijd is er één buzzword dat rondzingt in de zorg: AI. Artificial Intelligence. Daar gaan Sima Ipakchian Askari en Dirk Lukkien (senior onderzoekers bij Vilans) ons over vertellen.
Verantwoord omgaan met AI
Want aan die aanstormende AI zitten naast mooie kansen ook heel wat haken en ogen, vooral bij toepassingen in de langdurige zorg, vertelt Lukkien. Denk aan allerhande ethische en sociale implicaties, privacy, eerlijkheid, vertrouwen en verantwoordelijkheden. “Wat kun je als zorgprofessional doen om op verantwoorde manier met AI om te gaan?” vraagt Dirk Lukkien bij het begin van de workshop aan de ongeveer 40 deelnemers. Het gaat de onderzoekers vandaag met name om het vergroten van het bewustzijn van de deelnemers, rondom het verantwoord omgaan met AI.
Veel verschillende toepassingen
Een groot aantal deelnemers kennen bijvoorbeeld ChatGPT. Dit taalmodel is eigenlijk al heel lang beschikbaar in de zorg, bijvoorbeeld bij het spraakgestuurd rapporteren of woordvoorspelling. Slimmer registreren en rapporteren kan veel tijd schelen, de cliënt kan meekijken en de kwaliteit van de rapportages verbetert daardoor. Digitale wondzorg is ook een AI-toepassing: maak een foto van een wond en krijg tips voor de behandeling via triage-op-afstand. Andere voorbeelden zijn sentimentanalyse in rapportages, vertelt Dirk, en leefpatroonmonitoring en alarmering. Ook zorgondersteunende robots kunnen niet zonder AI. Sociale robots of fysiek ondersteunende robots als de doucherobot worden steeds meer ingezet in de langdurige zorg en de ouderenzorg.
Zorgassistent Ellie: wat mag ze doen?
Dan legt Sima een scenario aan ons voor, om enkele van de dilemma’s van werken met AI duidelijk te maken. Ze stelt ons voor aan AI ‘Ellie’, een fictieve (toekomstige) digitale zorgassistent die de zorgprofessionals kan ondersteunen bij allerhande taken. Maar welke taken moet de toepassing met AI doen en welke taken moet je aan de zorgprofessional zelf overlaten? Een drukke discussie barst los. We horen ‘menselijkheid’ en ‘contact’. En ‘zorgen om’, ‘zorgen voor’ en ‘zorgen over’. “Ik vind dat er altijd een menselijke interventie nodig is. Wij als zorgverleners blijven verantwoordelijk. In het geven van een opdracht, maar ook achteraf, in controle…” zegt een van de deelnemers.“ Er moet ruimte blijven voor bijvoorbeeld een verspreking in een gesprek die je niet in een rapport wil hebben.”
Er zijn steeds vaker personeelstekorten waarbij robots en AI kunnen helpen, merkt iemand anders op. Zeker als we langer zelfstandig thuis willen blijven wonen: “Ik heb liever een zorgrobot om mijn steunkous aan te doen dan telkens iemand anders in huis…” zegt iemand. Maar: “Er blijft altijd een stukje eigen regie van de cliënt. Ellie mag advies geven, maar kan niet voorschrijven wat bijvoorbeeld de daginvulling van een cliënt wordt.”
Blijf vooral zelf nadenken, al is de AI nog zo nuttig.
Schijnveiligheid
Dirk neemt het weer over en loodst ons langs de kansen en de risico’s van het bredere gebruik van data en AI. Ze hebben daarvoor in een breed onderzoek met veel mensen in het veld gesproken. Een kans is bijvoorbeeld snelle en vroege zorgvraagherkenning, maar een risico daarbij is het creëren van schijnveiligheid bij het té veel vertrouwen op de uitkomsten van AI. Kansen en risico’s zijn twee kanten van dezelfde medaille, zegt Dirk, het komt aan op het slim gebruiken van AI en het zoeken van een goede balans. “Blijf vooral zelf nadenken, al is de AI nog zo nuttig.”
Hoe creëren we een rechtvaardige en warme Ellie?
Warme arm om iemand heen
En nadenken, dat doen de zorgprofessionals in de workshopruimte. Er volgt weer een geanimeerd gesprek tussen de deelnemers. “In hoeverre houd je Ellie neutraal? Hoe selecteer je de informatie en de data waarmee je Ellie ‘vult’?” vraagt een van de deelnemers zich af. “Wij als zorgverleners hebben daar een verantwoordelijkheid bij.” En, zegt dezelfde deelnemer, Ellie zal niet de huidhonger van onze cliënten stillen. “Hoe creëren we een rechtvaardige en warme Ellie?” Een van de grote uitdagingen is met name het vertrouwen in AI toepassingen. “Een gedeelte van ons werk wordt vervangen door systemen, er zijn geen echte mensen meer die in de nacht bij iemand kunnen waken bijvoorbeeld. Laten we de warme arm om iemand heen niet vervangen door een systeem. Dat zie ik als een van de grote uitdagingen van werken met AI." sluit iemand deze gespreksronde af.
We moeten op zoek naar een goed evenwicht tussen mens en AI. Blijf daarbij vooral iedereen wijzen op de eigen verantwoordelijkheid bij het gebruik van AI. “Frame de output van een AI als advies, en niet als dwingende informatie” sluit Dirk deze workshop af.