Hackathon Boavizta #9: Intelligence Artificielle PDF

HACKATHON #9 15 Novembre 2024 Intelligence Artificielle : Quels enjeux économiques ? Quelles tensions énergétiques ? Quels impacts environnementaux ? Avec la participation de : Alexis BONNERAT - Adeline AGUT - Alexandre D’ORGEVAL Esteban ARAUJO-LELEU - Loïc SAUVAGE - Alice DRAHON Elise MARTIN - M...

HACKATHON #9 15 Novembre 2024 Intelligence Artificielle : Quels enjeux économiques ? Quelles tensions énergétiques ? Quels impacts environnementaux ? Avec la participation de : Alexis BONNERAT - Adeline AGUT - Alexandre D’ORGEVAL Esteban ARAUJO-LELEU - Loïc SAUVAGE - Alice DRAHON Elise MARTIN - Mathieu TOUCHARD - Arié TIBI boavizta.org Intelligence Artificielle : quelle croissance attendue ? Pour quels impacts Objectif du Hackathon environnementaux ? Exploiter différentes ressources pour en L'empreinte environnementale de l'IA est encore extraire les chiffres clés selon 3 dimensions : difficilement estimable. Data For Good indique qu'elle pourrait doubler les émissions de gaz à effet de serre Économique : quelles sont les tendances en (GES) du secteur du numérique. Microsoft annonce ne matière de croissance de l'IA ? pas tenir ses objectifs de réduction des émissions de GES, notamment suite à ses investissements dans IA. Énergétique : quelle est la croissance (et les L'International Energy Agency indique que la limites ?) de la demande énergétique consommation électrique des data centers pourrait mondiale liée à l’IA ? doubler entre 2022 et 2026, tirée par les usages du cloud Environnementale : quelles émissions de et de l'IA... GES des GAFAM sont imputables au Un numérique croissant à l'impact invisible au quotidien. développement de l'IA ? Quels en sont les A l'heure où les usages de l'IA se multiplient, où la autres impacts environnementaux ? réglementation environnementale se renforce, et où la L’exercice du Hackathon se prêtant à une limite physique matérialité énergétique de nos usages numériques freine de temps / participants, ce document peut contenir des certains investissements, nous souhaitons dans cette erreurs. Toutes les sources exploitées sont donc listées session croiser plusieurs infos macroscopiques. pour permettre au lecteur de s’y référer. 2  Les gains de productivité attendus Un nombre de data centers croissant Les enjeux Une limite hardware pour entraîner des modèles d’IA générative ? économiques de l’IA IA générative vs Google Search IA for good Trump & investissements dans l’IA 3 Productivité et IA : l’exemple du Crédit Mutuel Cas d’usages de l’IA au Crédit Mutuel 900 000 heures libérées grâce à l’IA en 2023 39,7 Millions d’emails clients (35% des 2,57 millions d’heures pré-analysés par IA libérées grâce à la technologie) 19,5 Millions de recommandations personnalisées à l’aide d’assistants équivalent à +/- 500 ETP virtuels sur 77 000 salariés (0,7% de l’effectif) - base 35h 75 Millions de documents clients analysés, sécurisés et intégrés par l’IA Source : Une info de Suricats Consulting > Crédit Mutuel - Communiqué de presse 7 Février 2024 4 7378 data centers worldwide, and counting… Source : DCByte - Map of data centers worldwide 5 Les limites hardware à l'entraînement de l’IA En 2027 les plus gros modèles d’IA pourraient atteindre 10^28 FLOPS (ChatGPT4 = 10^26 FLOPS) 10^31 FLOPS L’architecture des GPU A100 et H100 Barrière absolue pour être actuelle sera un goulet d’ capable d'entraîner des étranglement pour entraîner ces modèles IA sur les GPU modèles à cause de la latence GPU actuels (A100 et H100) Il faudra multiplier (par combien ?) les Atteinte d’ici 7 ans capacités hardware actuelles pour entraîner ces nouveaux modèles Source : Erdil & Schneider Joseph, DATA MOVEMENT LIMITS TO FRONTIER MODEL TRAINING 6  La fin de Google Search ? 84,9 milliards de visites Les utilisateurs passent en moyenne Google en octobre 2024 dans le ~10min sur Google, vs ~1min sur ChatGPT monde Combien de recherches Google seraient qui génèrent 173 milliards de remplacées par un seul prompt ChatGPT ? dollars par an, soit 57% du CA Combien de visites de site seraient Google en 2024 “évitées” ? L’usage de ChatGPT pour rechercher une information va-t-il devenir la norme ? 133 millions de visites Faut-il s’attendre à multiplier les requêtes ChatGPT par mois en octobre ChatGPT par 100 ? 2024 dans le monde source CA - rapport financier 2024 - https://abc.xyz/investor/; source trafic : Similarweb https://www.similarweb.com/fr/website/chat.openai.com/#overview 7 Shein : IA for Good ? -90% Au delà de l’optimisation du de stock par rapport aux stock, les émissions carbone de concurrents grâce aux Shein correspondent prédictions des tendances par principalement à son scope 3 : machine learning 38% pour le transport des x2 produits de ses installations le ratio de l’augmentation des aux clients émissions carbones de Shein 61% pour les achats pour sa par rapport à l’augmentation chaîne de production et les de ses revenus services de données (ex : H&M réduit de 22% en 3 ans) Sources : - Grist : https://grist.org/technology/as-fast-fashion-giant-shein-embraces-ai-its-emissions-are-soaring/ - Shein group : 2023 Sustainability and Social Impact Report | SHEIN Group - H&M Groupe : H&M Group Sustainability Disclosure 2023 8 IA for good 78% des entreprises remontent une incapacité à obtenir un support suffisant à l’utilisation de l’IA - ou des solutions IA - pour adresser la stratégie climat de l’entreprise Source : https://www.sciencedirect.com/science/article/abs/pii/S0019850123002547#preview-section-references 9 Investissements dans l’IA à l’ère Trump OpenAI a de son côté levé 6,6 xAI a réalisé en mai 2024 une milliards de dollars en octobre levée de fonds de 6 milliards 2024 (ce qui la valorise à 157 de dollars sur une valorisation milliards) auprès notamment de 18 milliards (source : de Thrive Capital, lead investor Courrier International) et serait ayant injecté 1,3 milliards dans en discussion pour réaliser sa la levée (source : NY Times). prochaine levée de fonds sur Thrive Capital est dirigé par une valorisation de 40 milliards Josh Kushner, frère du gendre de dollars (source : WSJ). de Donald Trump, Jared Kushner. 10  Ce que dit Goldman Sachs Les GAFAM investissent dans l’ énergie Les enjeux La consommation des datacenters énergétiques de l’IA Une réglementation qui se durcit L’énergie, goulet d’étranglement de l’IA IA Gen vs Requête web 11 Goldman Sachs analyse l’impact de l’IA +160 % De nouvelles contraintes sur le réseau augmentation de la électrique demande en électricité pour USA en 2030: les data centers d’ici 2030 8% de la consommation électrique viendrait des (Worldwide - par rapport à 2022) data centers, contre 3% aujourd’hui $50Mds doivent être investis d’ici 2030 pour x2 générer l’électricité additionnelle nécessaire augmentation des émissions de carbone des data centers Europe en 2030: d’ici 2030 Consommation des data centers = Pays-Bas + Grèce + Portugal 19 % Infrastructure électrique la plus vieille au monde des workloads des data (50 ans) : plus de €800Mds à investir pour centers seront liés à l’IA en remettre à niveau le réseau 2030 Source : AI is poised to drive 160% increase in data center power demand | Goldman Sachs, Goldman Sachs, 2024 12 Les nouveaux investissements énergétiques des GAFAM En 2022, la consommation d’ 850 MW électricité de plusieurs de puissance énergétique fournie en 2028 par le GAFAM était supérieure à réacteur nucléaire racheté par Microsoft, soit l’ équivalent de la consommation de 800 000 celle de la Slovénie foyers américains Si la production d’énergie consommée par Google en 2019 avait été 100% décarbonée (ex : solaire), elle aurait quand même émis 530 000 tCO2e de GES (soit les émissions des Seychelles en 2016), du fait notamment des infrastructures nécessaires Carbone 4 : Analyse de l'empreinte carbone du cloud Bloomberg 2024 : Microsoft’s ai investment imperils climate goal as emissions jump 30% Le monde 2024 : Les géants du numérique se convertissent au nucléaire 13 Evolution de la consommation électrique des data centers 2022 : 350 TWh (équivalent de la Plus de 75% des consommation de l’Arabie Saoudite ou émissions de carbone de 1,3% de la consommation mondiale des data centers sur d’électricité) l’intégralité de leur Projection 2030 : 970 TWh (x2,7) cycle de vie provient Projection 2035 : 1975 TWh (x5,6) en 10 de l’électricité utilisée ans en phase d’utilisation. Projection 2050 : 3550 TWh (x10) Source : Powering artificial intelligence, Deloitte, Novembre 2024 14 Une réglementation de plus en plus contraignante Réglementations environnementales clés en vigueur PUE: Par ailleurs, les data centers doivent faire face à de nouvelles contraintes externes : - Allemagne : les data centers déployés à partir de 2026 doivent atteindre un - Irlande : 2022 – EirGrid a suspendu le niveau de PUE < 1.2 développement de 30 data centers - Chine : data centers nouveaux / rénovés - Singapour : 2019 – Moratoire de 4 doivent avoir un PUE de 1.5, et 1.2 pour les déploiements à large échelle ans - Pays-Bas : 2022 – Moratoire de 9 Electricité mois sur les nouveaux permis pour - Les data centers en Allemagne doivent les data centers hyperscale fournir 50% de leur électricité avec du renouvelable, et 100% d’ici 2027 Source : Powering artificial intelligence, Deloitte, Novembre 2024 Balancing the trade-off between data center development and its environmental impacts: A comparative analysis of Data Center Policymaking in Singapore, Netherlands, Ireland, Germany, USA, and the UK, Soares et al. 2024 15  L’énergie, goulet d’étranglement de l’IA Les politiques publiques ont limité la puissance fournie au DC Amazon de Susquehanna à 1/3 de celle exploitable par le data center Des arbitrages de politiques publiques (300MW au lieu de 960 MW) commencent à limiter les capacités La demande d’augmentation en énergie aurait des data centers amené le data center à consommer construits. 38% de la puissance potentielle de la centrale nucléaire attenante (la 6e du pays : potentiel de 2 475 MW) Sources : IBT - US Regulators Reject Plan To Increase Nuclear Energy Flow To Amazon Data Center Les Échos - L'énergie, l'autre goulet d'étranglement des champions de l'IA 16 Recherche et requête La consommation d’énergie d’une requête chat GPT est estimée à x6 à x10 celle d’une recherche traditionnelle web Source : Hugging Face - The Environmental Impacts of AI - Primer 17  De l’eau pour l’IA ? Les objectifs environnementaux de Les impacts Microsoft déraillent avec l’IA environnementaux de IA et déchets électroniques l’IA xAI un colosse qui consomme Construction des datacenters, le poids du béton 18 De l’eau pour l’IA ? 700 000 L d’eau fraîche évaporée Stress hydrique et data centers uniquement pour l’entraînement de chat GPT-3 En plein sécheresse en 2022, les datacenters de Microsoft consomment 4 fois plus d’eau que 4.2 - 6.6 Mds de M3 prévu d’eau seront à prélever pour la Meta veut implanter un datacenter demande de l’ensemble de l’IA en Espagne (2023), dans une zone en 2027 soumise à stress hydrique (soit l’équivalent de l’eau prélevée par le Danemark) Source : https://arxiv.org/abs/2304.03271 | article Grist | article IOPScience | Article OECD 19 L’IA fait dérailler les objectifs environnementaux de Microsoft +30% Après Microsoft, Google voit ses émissions de CO2 bondir d’émissions de GES en 2023 par rapport à à cause de l’IA 2020 (et +21% par rapport à 2022 - accroissement équivalent à celle de sa consommation d’eau) Le Financial Times met en 2030 lumière en août 2024 la campagne de lobbying des était l’objectif de Microsoft pour atteindre géants de la tech pour revoir la neutralité carbone, avant l’IA les règles de calcul du GHG Ce bilan dégradé ne tient pas compte des finalités Protocol d’utilisation de l’IA Microsoft chez ses clients. Sources : article LMI | Article Bloomberg 20 IA et Déchets électroniques Une nette augmentation entre 2020 et 2023 des DEEE. Période durant laquelle les IA “Le développement de l’IA génératives ont commencés à émerger pourrait engendrer l’ équivalent de 10 milliards En 2023, de smartphones jetés d’ici L’IA générative était responsable de la 2030” production de 2600 tonnes de DEEE Sources : https://www.bfmtv.com/tech/intelligence-artificielle/l-ia-engendrera-autant-de-pollution-que-10-milliards-d-i-phone-jetes-d-ici-2030-selon-une-etu de_AV-202410290688.html & https://www.nature.com/articles/s43588-024-00712-6 21 xAI - Un colosse qui consomme Un accord de puissance de 122 jours 150 MW Pour monter un super provenant du système électrique accélérateur de local (Memphis) 100 000 GPU H100 Dans une région avec un service Juste pour le refroidissement, xAI d’électricité à risque pour les nécessite particuliers et un approvisionnement en eau 4,9 millions de litres d'eau uniquement via prélèvement. par jour Sources : Article comptoir Hardware | Article Le monde Informatique | Memphis rapport sur la qualité de l’eau 22 Construction des data centers : le poids du béton 26,5 millions de m2 de data centers construits d’ici à 2029 (source) Des partenariats se mettent en place entre les grands cloud 8% des émissions de CO2 providers et des fabricants de mondiales sont liées au ciment béton / organismes de recherche (source : Nature) pour créer du béton “vert” générant moins d’émissions de Le poste “Capital goods” du bilan CO2 : AWS et ARP (source), carbone 2023 de Microsoft, poste Microsoft/AWS et CarbonCure qui inclut notamment la (source), AWS et Brimstone construction des data centers, est (source) passé de 4 à 5,9 millions de tCO2eq entre 2022 et 2023 23  Cette étude, comme tous les Notre site web communs créés par l’association Consultez nos analyses Boavizta, sont du domaine public www.boavizta.org sous la licence Creative Commons 4.0. Suivez nous sur LinkedIn Vous pouvez donc partager et adapter ces contenus même commercialement. Cependant, pour tous vos usages, 🚨 Boavizta est une association qui vous devez citer Boavizta et fonctionne grâce à ses membres mentionner les modifications apportées. Vous souhaitez nous rejoindre ? 󰗔 http://boavizta.org/contact Licence de ce document Creative Commons 4.0 Association Boavizta