Download het artikel in PDF
ENGINEERINGNET.BE - In tegenstelling tot de artificiële neurale netwerken (ANN’s) die vandaag onder meer gebruikt worden in robotperceptiesystemen, bootsen spiking recurrent neuraal netwerken (SNN's) de manier na waarop groepen biologische neuronen werken: het grootste deel van de tijd zijn zij inactief, met af en toe een korte puls (of spike) die wordt getriggerd wanneer een combinatie van inkomende spikes in een bepaalde tijdsspanne de drempelwaarde overschrijdt. Die aanpak biedt belangrijke voordelen. Zo bleek imecs SNN chip tot honderd keer minder energie te verbruiken dan traditionele implementaties, en dat terwijl de signaalvertraging (of latency) met een factor tien werd gereduceerd, waardoor het neurale netwerk veel sneller beslissingen kan nemen.
De originele SNN chip: geoptimaliseerd en opgeschaald
Het afgelopen jaar hebben imec onderzoekers de originele SNN chip, waarvan de details onlangs beschreven werden in 'Frontiers in Neuroscience', geoptimaliseerd en opgeschaald, zodat hij een hele waaier aan (IoT en autonome robotica) cases kan ondersteunen. De chip maakt gebruik van een volledig event-gebaseerde digitale architectuur en werd gebouwd met kostefficiënte 40 nm-standaardchiptechnologie.
Eén van de best presterende systemen op vlak van (inferentie)nauwkeurigheid
Een uitgebreide studie uitgevoerd door imec en het Nederlandse Centrum Wiskunde & Informatica (CWI) vergeleek imecs SNN met zes andere neurale netwerken. Acht datasets werden voor de evaluatie gebruikt, waaronder de Google radar (SoLi) en Google speech datasets. De studie bevestigt enerzijds dat het spiking neurale netwerk van imec uitblinkt in termen van energie-efficiëntie. Anderzijds toont het onderzoek echter ook aan dat zo’n laag energieverbruik niet ten koste hoeft te gaan van de (inferentie)nauwkeurigheid. Integendeel zelfs: voor elk van de belangrijkste datasets die in de studie gebruikt werden, behoorde imecs SNN tot de best presterende systemen.
Evenwicht vinden
SNN technologie zal haar weg vinden in een heel aantal toepassingen: van slimme, zelflerende Internet of Things (IoT)-apparaten, zoals wearables tot autonome drones en robots. Elk van die cases heeft zijn specifieke vereisten. Zo moeten spiking neurale netwerken voor IoT-toepassingen vooral uitblinken in energie-efficiëntie, terwijl autonome drones in de eerste plaats nood hebben aan een beperkte signaalvertraging, zodat ze snel obstakels kunnen ontwijken. Het ontwikkelen van één SNN architectuur die al die vereisten afdekt is een enorme uitdaging. Het komt erop aan een delicaat evenwicht te vinden tussen energieverbruik, signaalvertraging, nauwkeurigheid, kost en schaalbaarheid. Zo resulteert een SNN met een laag energieverbruik en een beperkte signaalvertraging vaak in een groter chipoppervlak – en omgekeerd. Het vinden van dat evenwicht is één van de speerpunten van imecs SNN onderzoek.
De toekomst: een end-to-end spikingaanpak
Laten we nog even terugkomen op de drone-case. Drones worden in steeds meer toepassingsdomeinen ingezet. Om hun autonomie te verbeteren en hen toe te laten om ook in meer uit-dagende omgevingen te functioneren (zoals in slechte weersomstandigheden), hebben hun detectiecapaciteiten echter nog een serieuze boost nodig. Een end-to-end spikingaanpak biedt een uitweg; een aanpak die gebruikmaakt van neuromorfische radar- en camera-inputs. Zo kunnen we een systeem bouwen dat erg energie-efficiënt is, en toch een heel beperkte signaalvertraging heeft. Het probleem is echter dat, om dit soort camera’s te connecteren met de onderliggende AI-systemen, hun feeds vandaag eerst nog steeds moeten worden omgezet in frames, wat de efficiëntiewinst grotendeels teniet doet. Daarom onderzoekt imec hoe een end-to-end spikingaanpak, van de camera’s en sensoren tot de onderliggende AI, hier soelaas zou kunnen bieden. Imec is eigenlijk de eerste die dat doet, met tot dusver veelbelovende resultaten. Het zoekt daarom bedrijven uit de drone-industrie (zoals droneproducenten) om het programma te vervoegen en met deze technologie te experimenteren.
