L'intelligence artificielle consomme plus d'énergie que les autres formes d'informatique. La formation d'un seul modèle consomme plus d'électricité qu'environ 130 foyers américains n'en consomment en une année entière,
« Ces grands modèles linguistiques sont tellement gourmands en énergie qu'il n'y en a tout simplement pas assez pour le moment », a déclaré le PDG d'Amazon, Andy Jassy, lors du Forum économique mondial de Davos, en Suisse, en janvier. « Nous allons donc devoir relever un double défi en tant que groupe : trouver beaucoup plus d'énergie pour satisfaire ce que les gens veulent faire et ce que nous pouvons faire pour la société grâce à l'IA générative. Mais nous devons le faire de manière renouvelable. » d'une manière neutre ou nulle en carbone. Il ne peut pas s'agir de revenir au charbon.
Si cela inquiète les banquiers, ils n’en parlent pas, même si beaucoup utilisent l’IA traditionnelle et certains expérimentent de grands modèles de langage. Toutes les plus grandes banques américaines ont refusé de commenter ce sujet dans le cadre de cette histoire. Certaines banques plus petites et régionales ont également refusé ou n'ont pas répondu aux demandes.
Ben Wallace, associé chez Summit Technology Consulting Group, n'a entendu aucun dirigeant de banque s'inquiéter de la consommation d'énergie de l'IA, car les banques communautaires régionales avec lesquelles son entreprise travaille en sont aux tout premiers stades de l'utilisation de la technologie de pointe, a-t-il déclaré. En outre, ils considèrent que cela n’est pas leur problème mais la responsabilité des fournisseurs de cloud qui hébergent leurs modèles d’IA d’entreprise, comme Microsoft, Google et Amazon.
« Ces hyperscalers sont de toute façon d'énormes consommateurs d'énergie », a déclaré Wallace dans une interview. » Leur empreinte va donc de X à Y, mais X était vraiment important avant. Je n'ai pas vu beaucoup d'inquiétude, du moins de la part du monde bancaire que nous servons, concernant leur empreinte carbone, car tout le monde est encore en train d'évaluer comment la rendre pratique. « . Ces banquiers sont bien plus préoccupés par la gouvernance des modèles et par l’alimentation des modèles en données précises que par la consommation d’énergie de l’IA, a-t-il déclaré.
Mais certains estiment que le secteur financier devrait s’inquiéter de l’impact plus large de l’adoption de l’IA.
« Mon point de vue à ce sujet est que nous devrions nous inquiéter maintenant, et que ce problème ne fera qu'empirer », a déclaré Ken LaRoe, fondateur et PDG de Climate First Bank à Eustis, en Floride. « Dans quelques années, toutes les entreprises adopteront un certain type d'IA, ce qui entraînera une augmentation exponentielle de la consommation d'énergie dans le monde. »
On peut soutenir que la consommation d’énergie deviendra un facteur dans les décisions technologiques en matière d’IA à l’avenir. Non seulement l’augmentation de la consommation d’énergie pourrait entrer en conflit avec les objectifs de développement durable d’une entreprise, mais les fournisseurs de technologies cloud et d’IA sont susceptibles de répercuter les coûts liés à l’exploitation de modèles énergivores. De telles augmentations de prix pourraient aller à l’encontre de la raison même pour laquelle de nombreuses banques se tournent vers l’IA avancée : réduire les coûts et faire plus avec moins.
« Les réalités commerciales inciteront probablement les banques à évaluer la manière dont elles exploitent cette technologie », a déclaré Wallace.
Portée du problème
Il est difficile de mesurer précisément la quantité d'énergie consommée par l'IA, car les entreprises qui connaissent ces chiffres les gardent proches, a noté Steve Rubinow, professeur au Département de technologie de l'information et de gestion du College of Computing de l'Illinois Institute of Technology. Le problème ne vient pas seulement des émissions de carbone, mais aussi des grandes quantités d’eau utilisées pour refroidir les serveurs utilisés pour alimenter les modèles d’IA avancés, a observé Rubinow, qui était également directeur de l’information de la Bourse de New York.
La complexité du modèle et la quantité de données qu'il doit traiter sont également des facteurs.
« Les banques, les institutions de services financiers, tous ceux qui utilisent l'IA essaient de déterminer le rapport coût/bénéfice pour leur situation particulière et leur opportunité », a déclaré Rubinow dans une interview. « Et parmi ces coûts, il y a les coûts énergétiques, qu'ils soient directs ou indirects, car même s'ils ne reçoivent pas de facture d'énergie, ils paient l'énergie grâce au fournisseur du modèle. »
Les grands modèles de langage sont souvent exécutés sur des processeurs graphiques Nvidia hautes performances.
« Cela prend beaucoup de jetons, beaucoup de temps et beaucoup d'énergie », a déclaré Rubinow. « Quel est le coût total de cela et quel est l'avantage compensatoire ? Je pense que les gens essaient encore de comprendre cela. »
Microsoft et Google n'ont pas répondu aux demandes d'interview. Un représentant d'Amazon Web Services a déclaré que des études réalisées par 451 Research, qui fait partie de S&P Global, montrent que l'infrastructure d'AWS est plus efficace que l'exécution des mêmes charges de travail dans des centres de données sur site.
Même si la formation de grands modèles de langage comme le GPT-4 d'OpenAI demande de l'énergie et peut être très coûteuse, une fois la formation terminée, les modèles ne nécessitent pas autant de puissance, selon Wallace.
Ces modèles deviendront banalisés au fil du temps, a déclaré Wallace. Lorsque des entreprises comme les banques souhaitent utiliser des modèles formés, elles pourront utiliser des modèles moins coûteux, plus rapides et optimisés comme le chatbot Grok de xAI, qui pourrait coûter environ un dixième du prix d'un grand modèle de langage d'un fournisseur majeur comme OpenAI ou Meta. , selon Wallace.
Chez Apple, qui a pour mission de devenir neutre en carbone, les chercheurs affirment qu'ils peuvent déployer de grands modèles de langage sur les iPhones et autres appareils Apple dotés d'une mémoire limitée grâce à l'utilisation de la mémoire flash.
« Je pense que leur jeu va être le suivant: nous allons transférer le LLM sur votre téléphone, que vous utilisez déjà », a déclaré Wallace. « L'empreinte carbone est donc sans doute neutre. »
Ce que les banques peuvent faire
« Les banques sont des monopoles, non seulement en raison du pouvoir qu'elles utilisent pour leurs propres opérations, mais également en ce qui concerne leurs portefeuilles de prêts et de dépôts », a déclaré LaRoe. « Si les grandes banques y consacraient une petite partie de leur budget, elles pourraient résoudre le problème pour toutes les banques. Cela devrait absolument être quelque chose d'open source pour toutes les institutions financières. »
LaRoe aimerait également voir les entreprises être plus transparentes et responsables de leurs émissions de carbone. La Climate First Bank, dotée d'un actif de 540 millions de dollars, est actuellement profondément plongée dans la détermination de ses émissions totales de portée 1, 2 et 3, telles que définies par
« Ce n'est pas facile », a-t-il déclaré.
LaRoe espère que l’adoption croissante de l’IA obligera les organisations à investir davantage dans l’innovation alternative en matière d’énergie verte, non seulement pour permettre le déploiement de l’IA à grande échelle, mais également pour rendre les énergies renouvelables abordables et facilement accessibles.
L'UBS dispose d'une équipe qui travaille au financement d'installations de stockage d'énergies renouvelables qui rendent la production d'énergie solaire et éolienne plus réalisable. La banque estime que l’IA et l’utilisation croissante des données font augmenter la demande d’énergie, y compris d’énergies renouvelables.
« Comme le vent ne souffle pas cent pour cent du temps et que le soleil brille de huit à 16 heures par jour selon l'endroit où vous vous trouvez, le stockage d'énergie a un rôle important à jouer pour contribuer aux objectifs renouvelables des centres de données et pour fournir une énergie renouvelable à une époque où d'autres énergies renouvelables ne sont pas disponibles », a déclaré Ken-Ichi Hino, gestionnaire de portefeuille pour le stockage d'énergie chez UBS, dans une interview. « Nous voulons être à l'avant-garde du déploiement économique du stockage d'énergie, comprendre cette transition et saisir certaines des premières opportunités qui y sont associées. »
UBS travaille avec l'assureur USQRisk et Ascend Analytics, qui ont lancé conjointement un produit offrant une protection des revenus aux institutions cherchant à investir dans des projets de stockage d'énergie à l'échelle des services publics.
Les entreprises devront peut-être repenser la taille des modèles d’IA qu’elles utilisent, a déclaré Rubinow.
« Pourquoi ai-je besoin d'avoir les œuvres de Shakespeare et Chaucer dans mon modèle d'IA générative pour rédiger un rapport d'analyste actions ? » il a dit. « Je ne le fais probablement pas. » D'un autre côté, certains modèles formés uniquement sur des données propriétaires, moins coûteuses à développer et à exécuter, n'ont pas été aussi performants que des modèles comme le GPT-4 d'OpenAI qui ont été formés sur la plupart des informations disponibles sur Internet.
« Alors peut-être avez-vous besoin de beaucoup de Shakespeare dans vos magasins de données, je ne sais pas », a déclaré Rubinow. « Toutes ces informations, tout ce contenu qu'elles ont absorbé, leur ont certainement donné quelque chose que l'ingestion seule d'une collection de rapports de recherche sur les actions ne leur apportera pas. »