ENGINEERINGNET.BE - La première entreprise à l’évoquer est Altair qui développe des logiciels d’ingénierie utilisant l’apprentissage automatique pour tester des simulations et des ‘prototypes virtuels’.
Avec l’IA, on parle désormais en secondes au lieu d’heures ou de jours. Il y a aussi Sepp Hochreiter, le fondateur de NXAI et développeur de l’architecture xLSTM qui apparaît plus légère et rapide dans diverses applications, comme le contrôle de robots, que GPT et consorts. Nous étions à peine remis de la nouvelle concernant les performances du Deepseek chinois qu’on nous annonce que l’on peut passer à l’européen.
« L’intelligence artificielle a un impact sur le développement des produits et sur nos vies », déclare Fatma Kocer-Poyraz, vice-president Engineering Science chez Altair, dont le siège est établi dans le Michigan depuis 40 ans. Altair emploie 3.500 scientifiques en informatique et ingénierie qui développent des logiciels pour 16.000 utilisateurs dans le monde, allant du secteur automobile à l’aérospatiale, l’électronique, le secteur bancaire et les assurances.
« Pratiquement tout ce que nous touchons a été conçu à un moment donné » déclare Fatma Kocer-Poyraz. Chaque jour, on prend des décisions sur des concepts pour améliorer les produits, réduire la consommation d’énergie, …, des téléphones portables aux voitures. Cela concerne la forme mais aussi la fonctionnalité, et touche l’emballage de produits. Dans le passé, des produits étaient conçus puis les prototypes étaient soumis à des tests physiques. Un processus long et coûteux : il fallait des semaines voire des mois pour développer un nouveau produit.
« Les sciences computationnelles rendent les tests virtuels – les simulations – possibles. Le processus de développement est limité à quelques heures ou jours, il est donc possible de réaliser plus de concepts. Le temps de développement d’un nouveau modèle de voiture est réduit de plus de la moitié. Aujourd’hui, avec l’IA, le temps entre le moment où l’on a une idée et celui où l’on vérifie ou teste si c’est une bonne idée est réduit à quelques minutes ou secondes. Il ne s’agit pas vraiment de grands modèles de langage ou de génération 3D.
« Les ingénieurs ne sont pas intéressés par la génération d’un modèle 3D aléatoire, ils recherchent plutôt une représentation détaillée des pièces qu’ils conçoivent, les performances spécifiques, pour pouvoir prendre des décisions. La génération 3D peut vous aider à concevoir un satellite mais elle ne vous aide pas pour l’ingénierie. » Les modèles génératifs ne connaissent pas les détails, les matériaux, le câblage, les forces, etc., que doit supporter un concept. Finalement, il s’agit de générer des nouveaux concepts ‘faisables’.
Altair possède une solide expertise dans l’ingénierie et les données. L’entreprise fournit des logiciels aux ingénieurs. Fatma Kocer-Poyraz avance deux cas d’utilisation. Le premier concerne Continental, le fabricant de pneus et d’airbags. L’IA réduit la durée d’une simulation d’un nouveau concept d’airbag – la sécurité est-elle augmentée ? – de quelques heures à moins de 30 secondes.
« Il faut moins d’une minute pour savoir si votre idée est bonne. » Un autre cas d’utilisation est CNH qui se demande comment rendre la conduite d’un tracteur avec une charrue plus confortable. « Travailler avec une charrue ne doit pas être confortable, mais au bout de huit heures, un certain confort s’impose. » Il y a plusieurs variables : la vitesse du tracteur, la profondeur du labour, … Il faut tester/simuler plusieurs combinaisons de vitesse et la profondeur du labour. Chaque simulation peut prendre jusqu’à une demi-journée. Avec la technologie geometric machine learning d’Altairs, trois secondes suffisent. « C’est du temps réel. C’est notre technologie. »
Fatma Kocer-Poyraz donne un autre exemple dans le secteur automobile. La conception de la plaque se trouvant sous le capot d’une voiture. En tenant compte des fonctionnalités qu’elle doit avoir – sécurité en cas de collision, charge éventuelle – on arrive facilement à 10.000 configurations possibles. C’est le cas pour d’autres éléments, comme la température dans la voiture et l’aérodynamisme de la carrosserie. « Avec l’IA, la simulation ne prend plus des heures ou des jours mais quelques secondes ou minutes. »
L’aube de l’IA industrielle: de plus grand à plus intelligent
« Nous sommes à l’aube de l’industrialisation de l’IA. C’est la troisième phase de l’IA moderne après le développement basique et la mise à l’échelle », déclare Sepp Hochreiter, fondateur de NXAI et directeur de l’Institute for Machine Learning à l’Université Johannes Kepler de Linz (Autriche). Il décrit l’évolution des modèles de langage connus. GPT-1 - General Pretrained Transformer d’OpenAI – est arrivé en juin 2018 avec 1,3 milliard de jetons (tokens) et une taille de modèle de 117 millions de paramètres. Huit mois plus tard, GPT-2 fait passer ce chiffre à 10 milliards de jetons et 1,5 milliard de paramètres. Avec GPT-3, en mai 2020, 15 mois plus tard, on est à 175 milliards de paramètres. Plus on utilise de données, plus les modèles deviennent grands …
« Cela conduit à des modèles ridiculement volumineux, avec des trillions de paramètres nécessitant toujours plus de données. Entretemps, toutes les données ont été utilisées sur internet et dans les textes », explique Sepp Hochreiter. « Donc, ça coince. La mise à l’échelle ne sera pas possible. L’ensemble de la communauté doit passer du ‘toujours plus grand’ à un ‘travail plus intelligent’. Les grands modèles sont utilisés pour des applications dans l’industrie et la nouvelle phase de l’industrialisation de l’IA a finalement déjà commencé.
« C’est important car cela va stimuler la productivité. Donc, si vous voulez continuer à vous développer, utilisez l’IA. » Mais comme déjà mentionné, il y a des problèmes pour maintenir la croissance de la productivité de l’IA. « La technologie de transformation actuelle est trop lente et inefficiente en termes de mémoire pour l’industrie. » Pour Sepp Hochreiter, l’OpenAI dans l’industrie est un non-sens. « C’est trop lent. »
Sepp Hochreiter est l’inventeur de ‘la mémoire à long et à court terme’. Il a inventé la LSTM (Long Short Term Memory). Elle n’était pas aussi puissante à l’époque, mais assez rapide et utilisée dans des industries pour prédire des séries chronologiques. Une entreprise comme Apple l’utilise encore pour les traductions, ajoute-t-il avec fierté. Précisément parce que c’est rapide. « Nous avons étendu l’ancienne méthode LSTM avec xLSTM. Les problèmes au sein de LSTM sont résolus et des nouvelles idées ont été intégrées. »
xLSTM est ultra-rapide, a une petite empreinte mémoire et consomme moins d’énergie. Elle a été développée par l’entreprise NXAI à Linz. « xLSTM est bien plus rapide que la technologie Transformer pour l’inférence, et tirer des conclusions. Elle est parfaitement adaptée aux applications embarquées et périphériques. Pensez à la robotique mais aussi aux voitures autonomes, aux drones, aux systèmes de production autonomes. » Elle est utilisée par certaines entreprises, ajoute Sepp Hochreiter. Il mentionne Festo et Spleenlab qui l’utilisent pour les drones.
Il compare le modèle 7B à LIama de Meta et à ce que produit Google. « Il est dans la même catégorie mais tellement plus rapide, en jetons par seconde. » Il montre un graphique. À mesure que la longue de séquence augmente, la vitesse de Llama, Gemini, Chat GPT,…, bref des technologies Transformers, diminue. « Ils ne produisent pas dans un délai raisonnable et ne conviennent pas à la robotique. » La méthode xLSTM semble être plus rapide dans les applications de vision, dans les sciences de la vie (la modélisation des protéines, par exemple) et la robotique.
« Nous sommes plus rapides et nous obtenons des meilleurs résultats. » Ce qui soulève la question de savoir pourquoi l’ancienne technologie, trop lente pour les applications industrielles, est encore utilisée. « Nous avons une solution européenne. xLSTM est plus rapide que Transformer en temps d’inférence, vous pouvez l’utiliser pour les robots, la mémoire est constante, elle est entraînée plus rapidement, demande moins de CPU, moins d’énergie, … Pour les applications industrielles, c’est un super potentiel. »
Sepp Hochreiter ne cache pas sa déception sur le manque d’enthousiasme en Europe d’utiliser de telles technologies. « Nous devrions faire plus en Europe, investir davantage. » Il dit avoir été approché par une startup de Saudi Aramco, le plus grand producteur de pétrole au monde, qui souhaite collaborer avec lui. Le Chinois Huawei reconnaît également ses talents, et des entreprises américaines frappent à sa porte. Apple, par exemple, qui veut intégrer la technologie dans les téléphones portables, …
« Mais nous voulons garder notre technologie en Europe. Nous voulons développer un écosystème européen de l’IA, introduire la technologie dans les entreprises européennes. Voilà pourquoi nous visitons notamment la Foire de Hanovre. Nous sommes bien connus dans le milieu de la recherche, mais il est temps d’inspirer l’industrie européenne. »
Lisez aussi: Hannover Messe 2025: De l’incertitude à la clarté (1)
