Carbon footprint monitoring in real time
Introduction
The environmental impacts of artificial intelligence (AI) can vary significantly. Many deep learning methods have a significant carbon footprint and water consumption[1].
carbon footprint
Contenido
La IA tiene una importante huella de carbono debido al creciente consumo de energía, especialmente debido al entrenamiento y el uso.[2][3] Los investigadores han argumentado que la huella de carbono de los modelos de IA durante el entrenamiento debe tenerse en cuenta al intentar comprender el impacto de la IA.[4] Un estudio sugirió que para 2027, los costos de energía para IA podrían aumentar a 85-134 Twh, casi el 0,5% de todo el uso de energía actual.[1][5] El entrenamiento de un modelo de aprendizaje profundo puede utilizar hasta la misma huella de carbono que las emisiones de la vida útil de cinco automóviles.[2] El entrenamiento de un modelo de lenguaje grande (LLM) y otras IA generativas generalmente requiere mucha más energía en comparación con la ejecución de una única predicción en el modelo entrenado.[6] Sin embargo, el uso repetido de un modelo entrenado puede fácilmente multiplicar los costos energéticos de las predicciones.[6] El cálculo necesario para entrenar los modelos de IA más avanzados se duplica cada 3,4 meses en promedio, lo que genera un uso exponencial de energía y la consiguiente huella de carbono.[7].
BERT "BERT (modelo de lenguaje)"), un modelo de IA generativa entrenado en 2019, consumió «la energía de un vuelo transcontinental de ida y vuelta».[8] El GPT-3 liberó 552 toneladas métricas de dióxido de carbono a la atmósfera durante el entrenamiento, «el equivalente a 123 vehículos propulsados por gasolina conducidos durante un año».[8][9][10] Gran parte del coste energético se debe a arquitecturas de modelos y procesadores ineficientes.[8] Un modelo llamado BLOOM, de Hugging Face, entrenó con chips más eficientes y, por lo tanto, solo liberó 25 toneladas métricas de CO.[9] Si se tiene en cuenta el coste energético de la fabricación de los chips para el sistema, se duplicó la huella de carbono, hasta «el equivalente a unos 60 vuelos entre Londres y Nueva York».[9] Se calcula que operar BLOOM a diario libera una huella de carbono equivalente a conducir 54 millas.[9].
Los algoritmos que tienen menores costos de energía pero se ejecutan millones de veces al día también pueden tener huellas de carbono significativas.[9] La integración de la IA en los motores de búsqueda podría multiplicar significativamente los costos de energía[8][11] y algunas estimaciones sugieren que los costos de energía aumentarían a casi 30 mil millones de kWh por año, una huella energética mayor que la de muchos países.[12] Otra estimación determinó que integrar ChatGPT en cada consulta del buscador de Google consumiría 10 tWh cada año, el equivalente al consumo energético anual de 1,5 millones de residentes de la Unión Europea.[11].