ENGINEERINGNET.BE - “We wilden een efficiënte chip ontwerpen en bouwen voor edge-computing”, aldus hoofdonderzoeker Manil Dev Gomony van TU Eindhoven.
“Dit betekent dat een gebruiker die aan AI een vraag stelt, het model lokaal kan uitvoeren, op zijn apparaat aan de 'rand' van de cloud, in plaats van dit commando naar een extern datacenter ergens op aarde te sturen en een antwoord te ontvangen dat de halve wereld is overgegaan.”
“Daarnaast krijgen we steeds meer slimme apparaten in onze huizen die snel moeten bepalen wat de beste manier van werken is, gezien netcongestie, energieprijzen en andere variabelen. We hebben ook snelle en efficiënte rekenkracht nodig voor deze hubs in onze woningen.”
Daarom ontwikkelden en produceerden Gomony en zijn collega's een krachtige chip om geselecteerde AI-berekeningen dicht bij de gebruiker uit te voeren: in het eigen apparaat én met een lager energieverbruik.
“De chips die nu nog in cloud-datacenters worden gebruikt, zijn groot en worden extreem heet. Ze zijn daardoor veel te groot om in een laptop, smartphone of domotica-apparaat te passen. Ook vereisen deze datacenters krachtige ventilatoren en koelwater, wat een zware druk legt op lokale gemeenschappen en ecosystemen. Als we berekeningen juist op een apparaat uitvoeren, verbruiken we veel minder energie dan wanneer alle verzoeken naar deze centrale supercomputers in de cloud worden gestuurd.”
Een van de dingen die het door de EU gefinancierde en door TU/e geleide CONVOLVE-team heeft veranderd, was de methode om chips te ontwerpen.
Ze ontwikkelden hun methodologie specifiek om energiezuinige chips te maken. Met onderzoekspartners in Leuven, Delft, Zürich en industriële partners slaagden ze erin de chip te ontwerpen en te bouwen die ze voor ogen hadden. Hun metingen bewijzen dat ze geslaagd zijn.
Gomony: “Binnen CONVOLVE gebruikten we een cross-layer ontwerpbenadering. Dat betekent dat het team het AI-algoritme, de processorarchitectuur, het geheugensysteem en de schakelingen samen heeft geoptimaliseerd, in plaats van los van elkaar te ontwikkelen."
"Dit stelde ons in staat om belangrijke aspecten van de eigenschappen van de chip, zoals nauwkeurigheid, programmeerbaarheid, verwerkingssnelheid, siliciumoppervlak en energieverbruik, vanaf het begin van het ontwerpproces in balans te brengen.”
“We combineerden programmeerbare RISC-V-processors met gespecialiseerde AI-versnellers, zoals geheugengerichte en neuromorfe computertechnieken. Zo verminderden we de overdracht van data tussen het geheugen en de verwerkingsunits en bespaarden we energie.”
“Daarna produceerden we prototypechips en evalueerden we hun werking. Ons team paste realistische AI-workloads toe, zodat we konden zien hoe goed de chip presteerde. Onderzoekers maten energie-efficiëntie, doorvoer, latency, siliciumoppervlak en applicatienauwkeurigheid en vergeleken de resultaten met relevante bestaande ontwerpen, wat ons gelijk bevestigde.”
