Betrouwbaarheid AI sleutel tot gebruik in medische praktijk

De Nederlandse Universiteit van Amsterdam stelt dat de sleutel ligt in de betrouwbaarheid van AI en in het betrekken van alle relevante belanghebbenden bij elke fase van het productieproces.

Trefwoorden: #AI, #artificiële intelligentie, #medisch, #universiteit

Lees verder

research

( Foto: González-Gonzalo et al., 2020 )

ENGINEERINGNET.BE - Artificiële intelligentie (AI) dringt langzaam door in de medische praktijk. Ondanks het feit dat de prestaties dicht bij die van deskundigen liggen (of zelfs beter zijn) gaapt er een kloof tussen de ontwikkeling en integratie van AI-systemen in de praktijk.

Onderzoekers van de UvA keken naar de belemmeringen die het gebruik in de weg staan en hoe deze zijn weg te nemen. Zij kwamen tot de conclusie dat voor grootschalige toepassing in de medische praktijk de grootste uitdaging het garanderen van de betrouwbaarheid was.

Daarvoor moeten de systemen aan bepaalde essentiële aspecten voldoen: ze moeten deugdelijk, robuust en duurzaam in de tijd zijn.

Bij de productie van AI-systemen voor bijvoorbeeld de oogheelkunde zijn er ook tal van belanghebbenden. Denk daarbij aan AI-ontwikkelaars, leescentra, zorgverleners, zorginstellingen, oogheelkundige genootschappen en werkgroepen/commissies, patiënten, regelgevende instanties en betalers.

Daarom creëerden de onderzoekers een 'AI-ontwerppijplijn' om een zo goed mogelijk overzicht te krijgen van de betrokkenheid van elke groep bij het proces.

De pijplijn identificeert mogelijke belemmeringen in de verschillende stadia van de AI-productie en toont de noodzakelijke mechanismen om deze aan te pakken.

Het team realiseerde zich dat 'uitlegbaarheid' een van de belangrijkste elementen is om vertrouwen te wekken. Aan de ene kant krijgen systemen data en aan de andere kant levert het output op, maar wat er tussenin gebeurt is niet duidelijk.

Onderzoekster Cristina González Gonzalo: ‘Een systeem dat bijvoorbeeld een binair antwoord geeft - 'Ja, het is een cyste' of 'Nee, het is geen cyste' - wordt door clinici niet snel vertrouwd.'

'Als we hen zinvol inzicht geven in hoe de beslissing tot stand is gekomen, kunnen ze samenwerken met de AI en bevindingen ervan meenemen in hun diagnose.’

González Gonzalo: ‘De technologie die nodig is om deze systemen te laten werken, hebben we al in huis. We moeten alleen nog uitzoeken hoe we die het beste kunnen laten werken voor degenen die er gebruik van gaan maken. Ons onderzoek is een volgende stap in die richting en ik denk dat we de resultaten binnen niet al te lange tijd in klinische settings gebruikt zien gaan worden.'