Une équipe d'ingénieurs de la société de technologie d'IA BitEnergy affirme avoir développé une méthode qui peut réduire la consommation d'énergie des applications d'IA de 95 %. Le groupe a publié un article dans la revue en ligne arXiv décrivant la nouvelle technique.
À mesure que les applications d’IA font désormais partie de la vie quotidienne, leur utilisation a considérablement augmenté, entraînant une augmentation notable de la consommation et des coûts énergétiques. Les grands modèles de langage (LLM), tels que ChatGPT ou Google Gemini, nécessitent une puissance de calcul importante, ce qui signifie qu'ils ont besoin de grandes quantités d'électricité pour fonctionner.
Par exemple, ChatGPT consomme environ 564 MWh par jour, soit suffisamment pour alimenter environ 18 000 foyers. À mesure que la technologie progresse et que ces applications deviennent encore plus populaires, certains critiques suggèrent que les applications d’IA pourraient bientôt utiliser environ 100 TWh par an, comparable aux opérations minières de Bitcoin.
Grâce à cette initiative récente, l'équipe de BitEnergy AI affirme avoir découvert un moyen de réduire considérablement la quantité de calcul requise pour exécuter des applications d'IA sans compromettre les performances.
Comment fonctionne l'algorithme
La technique est simple : au lieu d'utiliser la multiplication à virgule flottante (FPM), la méthode est basée sur l'addition d'entiers. Les applications utilisent FPM pour gérer des nombres extrêmement grands ou petits avec une grande précision, mais c'est aussi le plus gourmand en énergie dans le traitement des données d'IA.
Les tests effectués jusqu'à présent auraient montré que la nouvelle approche réduisait la demande d'électricité de 95 %.
La réaction de Nvidia pourrait influencer l'adoption de la nouvelle technologie
Un inconvénient de cette méthode est qu’elle nécessite un matériel différent de celui actuellement utilisé. Cependant, l'équipe de recherche note que le nouveau type de matériel a déjà été conçu, construit et testé.
Cependant, la manière dont ce matériel sera concédé sous licence reste floue – le fabricant de GPU Nvidia domine actuellement le marché du matériel d'IA. La façon dont Nvidia réagit à cette nouvelle technologie pourrait avoir un impact majeur sur le rythme de son adoption, si les affirmations de l'entreprise se vérifient.