ENGINEERINGNET.BE - Grote taalmodellen hebben vaak moeite met zelfs de kleinste aanpassingen in logische redeneerproblemen.
Martha Lewis, universitair docent aan de Universiteit van Amsterdam: 'AI-modellen worden getraind op een grote hoeveelheid data met behulp van machine learning, waardoor ze zo goed presteren. Dit betekent echter dat ze slechter presteren op nieuwe data die ze nog niet eerder hebben gezien.'
Om een AI-model te ontwikkelen dat menselijker is en de prestaties ervan te verbeteren, werkt Lewis aan de integratie van menselijke logica en structuren in AI, een vakgebied dat bekend staat als symbolische AI.
‘We willen symbolische AI en machine learning AI combineren en modellen creëren met een verklaarbare interne werking die theoretisch onderbouwd is. Hierdoor kunnen we precies begrijpen hoe het model intern werkt en wordt het menselijker.’
Voor de huidige AI-modellen is het onbekend hoe ze intern precies werken. Lewis: ‘Deze AI-modellen zijn zeer succesvol en nuttig. Theoretisch gezien weten we echter niet hoe ze tot hun antwoorden komen. Het is erg belangrijk om te weten hoe de modellen werken om te begrijpen waarom ze een bepaald antwoord geven.’
Lewis en haar collega's ontwikkelen daarom methoden om de zwarte dozen in AI-modellen te ontrafelen. De uitdagingen in dit onderzoek komen vooral voort uit het feit dat deze methoden zich nog in een vroeg stadium bevinden en dat de AI-modellen zelf erg groot zijn, met complexe en wijdverspreide structuren.
Voor haar onderzoek werkt Lewis samen met wetenschappers uit verschillende disciplines, zoals de psychologie, en uit andere landen, zoals het Verenigd Koninkrijk.
Zij hoopt in de toekomst nieuwe modellen te ontwikkelen die een meer menselijk redeneervermogen hebben. ‘Ik vind het leuk om zowel de interne mechanismen van een AI-model te ontwikkelen, als te begrijpen wat er zich afspeelt in de black box van de huidige AI-modellen.’
