Innovatiecafé ‘AI in de zorg’: waar ligt de verantwoordelijkheid?
Een enthousiast grote opkomst, sprekers die uitdagende aspecten van kunstmatige intelligentie belichtten en volop vragen en discussie. Het InnovatiecafĆ© op 10 oktober in de Social Impact Factory, Utrecht zette het succes van deze serie bijeenkomsten voort. Het leverde een mooi inkijkje op wat AI in de zorg kan opleveren, maar ook waar de risicoās liggen.
Dagvoorzitter Suzanne Verheijden (Buro StrakZ) stelde bij wijze van opening Madelein Sleijster van Zorg voor innoveren en Pauline van Marwijk Kooy van Zorginnovatie.nl voor. Zij lichtten kort de activiteiten van de twee organiserende instellingen toe. Daarna daagde Suzanne het aanwezige publiek uit met de vraag wie een zo simpel mogelijke definitie van kunstmatige intelligentie kon geven.
De potentie van AI in de zorg
De eerste spreker, Robin van Stokkum, is Onderzoeker Digitale Gezondheid bij TNO en mede-auteur van het rapport āGeneratieve AI in de Nederlandse zorgā. Generatieve AI is een type kunstmatige intelligentie dat in staat is nieuwe inhoud te creĆ«ren.
Robin belichtte de rol die AI kan spelen: die kan misschien ooit wonderen verrichten, maar is nu vooral een leuke tool om administratie te vereenvoudigen. Zoals het maken van concept-antwoorden op patiƫntvragen, het samenvatten van teksten en helpen bij administratie. Nu nog goed voor 40% van het werk van zorgprofessionals.
AI zou ook kunnen ondersteunen bij zelfmanagement als een digitale consultant voor chronisch zieken. Maar daar komen risicoās naar voren doordat de arts niet meer in de loop zit. Dan volgt de vraag hoe goed een model moet zijn, wat is goed genoeg?
Voor AI blijkt ook te gelden dat wat in het ene ziekenhuis goed werkt, niet zomaar naar een ander kan worden gekopieerd. Daarnaast leiden onduidelijkheden in wetgeving tot onterechte boetes. Het is dus nog niet zonder risico nu al met AI-technologie aan de slag te gaan.
QuickConsult: een AI spraakmodel
Thomas Kluiters van Juvoly presenteerde een goed praktijkvoorbeeld van AI met QuickConsult. Dat is een toepassing die meeluistert met het gesprek tussen huisarts en patiĆ«nt. Dat gesprek wordt via generatieve AI automatisch samengevat in een gestructureerd verslag, wat de administratieve last voor huisartsen flink vermindert. Inmiddels werken 500 huisartsen met het systeem, goed voor 2.000 consulten per dag. QuickConsult analyseert gesprekken en legt live SNOMED-codes vast. Niettemin moet een arts alles nog controleren. En alleen gesproken gegevens komen in de samenvatting terecht. Thomas benadrukte dat Jovaly de audio niet bewaart, vanuit privacyoverwegingen: ze willen liever geen patiĆ«ntdata āaanrakenā.
Juvoly heeft als doel het beste Nederlandse spraakherkenningsmodel te ontwikkelen zodat we in dit land de regie kunnen nemen over spraakherkenning. Dat is nodig omdat de kosten van het gebruik van open AI gebruik via de Cloud te hoog zijn.
Het systeem blijkt tijdwinst op te leveren, door de artsen vooral gebruikt om de patiƫnt vaker aan te kijken en persoonlijke aandacht te kunnen geven.
Juvoly wil QuickConsult blijven verbeteren; de kwaliteit van de samenvatting moet nog beter en voor specifieke aandoeningen moet er een uitbreiding van coderingen komen. Dat maakt directe integratie in EPDās realistischer. De adoptie onder huisartsen gaat makkelijk en is simpel, verklaarde Thomas. Maar voor ziekenhuizen is het ingewikkelder omdat het in hun gespecialiseerde software Chipsoft geĆÆntegreerd moet worden.
Belangen van patiƫnten en burgers
Namens de PatiĆ«ntenfederatie Nederland sprak IldikĆ³ Vajda, Senior Adviseur Digitale Zorg over de belangen van patiĆ«nten en burgers rondom AI in de zorg. Ze schetste wat het gebruik van AI voor patiĆ«nten kan betekenen, zoals eerdere opsporing en monitoring ter vertraging van ziekteontwikkeling en eerdere en nauwkeuriger diagnose. Maar ook effectievere behandeling, snellere revalidatie en betere monitoring.
Bij 63% van ziekenhuizen wordt AI gebruikt bij de diagnose. Dat dat percentage niet hoger is, ligt aan te weinig beschikbare trainingsdata, veel en complexe wet- en regelgeving, onvoldoende kwaliteit van modellen, een gebrek aan expertise bij zorgprofessionals en moeilijkheden bij de implementatie.
Volgens IldikĆ³ brengt de introductie van AI in de zorg naast kansen ook uitdagingen met zich mee. Zo zijn privacy en veiligheid grote themaās; wat gebeurt er met patiĆ«ntdata en is een AI-systeem volledig te vertrouwen? Daarom willen patiĆ«nten vooraf zeggenschap over wat er met data gebeurt en informatie over risicoās. Ze willen hun zorgverlener kunnen vertrouwen maar ook kunnen begrijpen wat de output van een AI-systeem betekent in de persoonlijke situatie en of het in lijn is met wat zorgverlener adviseert.
Als volgende stappen in de implementatie van AI in de zorg noemde IldikĆ³; de co-creatie vanaf begin met alle belanghebbenden, het adresseren van ethische, juridische en sociale aspecten en het bevorderen van kennis. Maar het belangrijkste vond ze het op gang brengen van meer maatschappelijke dialoog over wat we wel en niet van AI willen accepteren.
Stellingen panel
Onder leiding van dagvoorzitter Suzanne kwamen de drie sprekers samen in een panel om enkele stellingen te bespreken. EĆ©n daarvan was: Als AI bewezen accurater is dan een zorgprofessional, accepteer ik dat die autonoom wordt ingezet in mijn zorgproces.
De reacties waren: āNee, want hoeĀ nauwkeurig een systeem in het algemeen is, zegt niets over een specifiek gevalā, maar ook āJa; zodat we niet uit ethische overwegingen zorg weigeren, en daarmee een mogelijk zorginfarct kunnen voorkomen. Maar het meest stof tot nadenken was: āWaar ligt de verantwoordelijkheid van een beslissing die AI neemt?ā
Netwerken
Niet gestructureerd, maar minstens even belangrijk als de bijdrage van de sprekers was de afsluitende netwerkborrel. Traditioneel werden hier nieuwe contacten gelegd, die wellicht in de toekomst zorgen voor de oplossingen waarnaar we nu zo op zoek zijn.
Volgende InnovatiecafƩ
Wil je ook meer weten over innoveren in de zorg en met praktijkgenoten in contact komen? In het voorjaar van 2025 staat het volgende InnovatiecafƩ gepland. Houd onze website in de gaten voor de aankondiging.
