El creciente interés en los sistemas de inteligencia artificial agregará más tensión a las redes eléctricas globales con el potencial de rivalizar con el consumo masivo de energía de Bitcoin. Afortunadamente, la principal criptomoneda nos ha mostrado una manera de mitigar el impacto.
La duplicación de los ingresos del centro de datos de Nvidia Corp. el último trimestre muestra que la demanda de aplicaciones generativas como ChatGPT aún no ha alcanzado su punto máximo. El fabricante de chips estadounidense es el proveedor clave de palas en esta fiebre del oro de la IA, pero esos procesadores no son ni baratos ni eficientes. Su último buque insignia, el GH200 Grace Hopper Superchip, que tiene el tamaño de una postal, consume hasta 1.000 vatios, el equivalente a un calentador portátil.
Aunque la mayoría de los clientes optarán por algo menos sofisticado que el Superchip, los compran al por mayor para conectarlos en un servidor de IA masivo y ahí es donde realmente surge el hambre de electricidad. Un estudio publicado el año pasado analizó el consumo de energía requerido. para entrenar un único modelo de lenguaje grande utilizado para generar texto en múltiples idiomas.
BLOOM de la startup HuggingFace utilizó 176 mil millones de parámetros de 1,6 terabytes de datos. Según los autores del estudio, un grupo de 384 procesadores gráficos Nvidia A100 (GPU) tardó más de 118 días en funcionar. Estimaron que el consumo de electricidad derivado del funcionamiento de tantas GPU durante tanto tiempo probablemente generó 24,7 toneladas métricas (54.000 libras) de dióxido de carbono. Pero el costo real se duplica a 50,5 toneladas si se tienen en cuenta las conexiones de red y el tiempo de inactividad de todo el sistema.
Incluso entonces, entrenar un modelo es sólo el comienzo. Según una estimación de Amazon.com Inc., que administra sus propios servidores de inteligencia artificial, el 90% del gasto generado por la ejecución de inteligencia artificial se produce en la siguiente fase, cuando los usuarios consultan el modelo para obtener resultados, como pedirle a ChatGPT recetas de pastel de chocolate. . El gasto de energía necesario para implementar los datos, llamado inferencia, es difícil de calcular, pero se cree que es aproximadamente 10 veces mayor que el requerido en la primera fase de entrenamiento, lo que significa 500 toneladas de CO2. Y una sola consulta de IA generativa puede tener una huella de carbono cuatro veces mayor que una búsqueda en Google, según una estimación.
El procesamiento de números por fuerza bruta está integrado en el diseño de Bitcoin y ayuda a explicar por qué se implementó una ola de semiconductores y servidores en todo el mundo con la esperanza de extraer oro digital. Un estudio en curso en la Universidad de Cambridge estima que Bitcoin es responsable de 72,5 millones de toneladas de dióxido de carbono. Esa cifra podría ser tan baja como 3 millones de toneladas si todas las minas de Bitcoin funcionaran con energía hidroeléctrica. En comparación con el despilfarro de las criptomonedas, 500 toneladas de dióxido de carbono de una sola ronda de entrenamiento y despliegue parecen nada. Sin embargo, sigue siendo equivalente a conducir un millón de millas en un automóvil de gasolina o 500 vuelos de Nueva York a Frankfurt.
Y todavía es pronto. Al menos una docena de importantes empresas de tecnología se están apresurando a construir e implementar productos de IA generativa, incluidas Amazon.com, Alphabet Inc., Microsoft Corp., OpenAI, Meta Platforms Inc., Baidu Inc., Tencent Holdings Ltd. y Alibaba Group Holding. Ltd. Dado que todos están en una carrera para superarse unos a otros, no se quedarán quietos una vez que se haya entrenado a un modelo; Seguirán comprando procesadores que consumen mucha energía para analizar cantidades cada vez mayores de datos. Una vez hecho esto, competirán entre sí para ofrecer los resultados a los consumidores en forma de ensayos universitarios, videos deepfake y versiones sintéticas de la música de Pink Floyd.
Para colmo de males está el hecho de que, en la actualidad, la mayor parte del entrenamiento de IA funciona con combustibles fósiles. Estas granjas de servidores se han expandido rápidamente en ubicaciones existentes, a menudo a miles de kilómetros de distancia de represas hidroeléctricas o paneles de energía solar. Dado que la latencia de la red es un problema al responder a las solicitudes de Internet, deben estar cerca del usuario final y no a miles de kilómetros de distancia.
Pero Bitcoin ya ha abierto un camino a seguir por la industria de la IA. Los climas fríos con abundante energía renovable se convirtieron en el lugar perfecto para instalar una mina de criptomonedas hambrienta de energía, y el aire ártico y la abundante energía térmica de Islandia hacen del país una opción ideal. China también puede encontrar un nuevo uso para las numerosas centrales hidroeléctricas que atrajeron plataformas mineras, pero que perdieron negocio después de que Beijing tomó medidas enérgicas contra la moneda digital. Los proveedores extranjeros de IA no podrán acceder, naturalmente, pero los gigantes tecnológicos chinos saben que tienen ese recurso cerca a medida que aumentan sus necesidades de energía.
Hay otra ventaja de cambiar Bitcoin por IA en estas granjas de servidores. Si bien la criptomoneda atrajo a numerosos especuladores y miles de millones de dólares en inversiones, aún así no logró agregar mucho valor al mundo. La inteligencia artificial generativa no tiene ese problema; solo pregúntale a ChatGPT.
Esta nota no refleja necesariamente la opinión del consejo editorial o de Bloomberg lp y sus propietarios.