ENGINEERINGNET.BE - ‘In allerlei analyse processen binnen de overheid, bijvoorbeeld bij intelligence ten aanzien van veiligheidsdreigingen, werken mensen en AI vaak samen in een hybride proces om informatie te verkrijgen,' aldus hoogleraar Bram Klievink van de Nederlandse Universiteit Leiden.
'Dit gaat gepaard met onzekerheden en vertekeningen. Denk aan modellen die niet perfect zijn of dat er om operationele redenen bepaalde data niet wordt gedeeld, of dat er onbewust misleidende bronnen in zitten.’
Professionals, zoals analisten, zijn zich bewust van die onzekerheden en vertekeningen, maar missen een werkbare weergave van die onzekerheden en wat dat betekent voor hun werk.
Klievink: ‘Bij ieder van die stappen zit een stukje machine verwerking en een stukje menselijke verwerking en expertise; dat is het hybride karakter. En bij iedere schakel, verlies je ook informatie over keuzes, beperkingen en onzekerheden.'
'In dit project werken wij vanuit The Hague Centre for Digital Governance samen met computerwetenschappers aan die ‘metadata van onzekerheid’. Dit stelt je in staat om in intelligence werk expliciet te redeneren over afweging tussen onder meer nauwkeurigheid, proportionaliteit, uitlegbaarheid, privacy en kosteneffectiviteit.’
Klievink: ‘Binnen dat multidisciplinaire werk zijn wij als sociale wetenschappers geïnteresseerd in wat dit soort innovaties betekenen op de werkvloer. Wat is de impact op de intelligence professional en het proces waarin die intelligence professionals werken?'
'En wat het vraagt van de aansturing en wat nu effectieve organisatie-inrichtings-keuzes zijn ten aanzien van data science en AI, ook in relatie tot allerhande primaire processen.'
'Het organiseren van die leerprocessen en de daarvoor benodigde feedback mechanismen wordt complexer als je binnen zo'n hybride keten wilt leren. Over de grenzen tussen mens en machine en over de grenzen van organisaties heen, is de feedback keten vaak langer.’
Volgens Klievink draagt de combinatie van die twee facetten, het formaliseren van de meta-data die mee moet reizen in hybride intelligence ketens en het begrijpen en ondersteunen van die formalisatie in het proces, bij aan een verantwoorde toepassing van kunstmatige intelligentie voor een veiligere samenleving.
Partners in dit project zijn verder de Vrije Universiteit, TU Delft, TNO en Thales. Budget: bijna 1,5 miljoen euro.
