ENGINEERINGNET.BE - Als een AI-model goed werkt, lijkt alles moeiteloos te gaan: de auto bereikt zijn bestemming, de drone vliegt zonder te botsen door de lucht, en de economische voorspellingen zijn correct.
Maar in de praktijk lopen systemen aangestuurd door AI tegen tal van onzekerheden aan. Hoe zorg je dat dan toch alles goed blijft gaan?
'Daarom ontwikkelde ik met collega's methodes om de correctheid en betrouwbaarheid van complexe systemen met veel onzekerheid te garanderen', aldus promovendus Thom Badings. ‘Veel bestaande methodes kunnen slecht omgaan met die onzekerheid.'
'Er zijn veel berekeningen nodig, of ze moeten vanuit bepaalde aannames werken waardoor je de onzekerheid niet goed meeneemt. Onze methode maakt een wiskundig model van die onzekerheid, bijvoorbeeld op basis van historische data, zodat er sneller een accurate voorspelling gemaakt kan worden.’
De methode van Badings is gebaseerd op het modelleren van systemen in de vorm van Markov modellen, een bestaande categorie van modellen die vaak gebruikt wordt in de regeltechniek, AI en besliskunde.
‘In een Markov model kunnen we onzekerheid expliciet meenemen in bepaalde parameters, bijvoorbeeld voor de windsnelheid of het gewicht van een drone. Vervolgens plaatsen we het model van de onzekerheid, zoals een kansverdeling over deze parameters, in het Markov model.
Met behulp van technieken uit de regeltechniek en de informatica kunnen we vervolgens bewijzen of dit model zich veilig gedraagt, ondanks de zekerheid in het model.
Zo kun je een exact antwoord krijgen op bijvoorbeeld de vraag wat de kans is dat je drone tegen een obstakel botst, zonder dat je elk scenario apart moet simuleren.’
‘Door het op deze wijze te modelleren, maak je onzekerheid tot deel van je analyse. De uitkomsten die je krijgt, houden dus rekening met die onzekerheid op een manier die veel vollediger tot stand komt dan met bestaande methodes.’
Badings: ‘Heb je een situatie met veel parameters, dan blijft het kostbaar om alle onzekerheid mee te nemen. Die onzekerheid neem je nooit volledig weg, daarom zul je toch bepaalde aannames moeten doen om betekenisvolle uitkomsten te krijgen. Ga er niet vanuit dat je met één model je drone elk gebied ter wereld kan laten doorkruisen, maar beperk je model in eerste instantie tot de meest waarschijnlijke omgevingen.’
Ook is het zaak om bij het analyseren van systemen met AI gebruik te maken van technieken uit diverse onderzoeksgebieden. ‘Gebruik inzichten uit de regeltechniek, de informatica en uit AI om tot een robuuste en veilige oplossing te komen.’
