ENGINEERINGNET.BE - Om de opmars van AI in goede banen te leiden en de klant wiens gegevens gebruikt worden te beschermen, hameren nieuwe richtlijnen op de controleerbaarheid van voorspellingen door AI-modellen.
Wanneer bijvoorbeeld een bankmedewerker met behulp van AI een kredietwaardigheidscheck uitvoert, stelt zijn computerprogramma de vraag aan een AI-model dat antwoordt met een inschatting. Door nieuwe richtlijnen kan de potentiële klant in zekere mate eisen dat deze berekening wordt gecontroleerd en transparant gemaakt.
Hieraan voldoen is echter een grote uitdaging omdat er weinig tot geen standaarden bestaan rond hoe er met AI-modellen wordt gecommuniceerd, hoe performance doorheen de tijd opgevolgd moet worden, hoe een AI-model audit moet worden gedaan of hoe een model uitlegbaar gemaakt moet worden.
“Daar brengt dploy.ai nu verandering in”, vertelt Bart Smeets, CEO van dploy.ai. “Het platform is uniek in z’n soort omdat het een transparante connectie legt tussen het AI-model en de gebruiker."
"Alles wordt traceerbaar: de voorspellingen die werden gemaakt, door wie, met welke versie van welk AI-model en met welke performantie. Compliance & risk-afdelingen zijn zo helemaal in orde op vlak van auditability. Bovendien wordt het model uitgerold in een productieomgeving dat robuust, schaalbaar en beveiligd is.”
Daarnaast hebben veel bedrijven die investeren in AI-modellen, moeite om deze modellen te integreren in hun IT-systemen, waardoor hun return on investment uitblijft. dploy.ai kan de infrastructuur, follow-up en het compliancygegeven voor hen realiseren.
Het platform is gekoppeld aan een intuïtief dashboard dat alle inzichten verschaft in de werking van het AI-model. Dit gebeurt aan de hand van modules die naar wens zijn toe te voegen, zoals performance monitoring, een ROI monitor, een GDPR Module, een SLA dashboard en een A/B testing module.
Op de foto (vlnr.): Jonas Tundo - Bart Smeets
