¿Cuál es el problema de los centros de datos de IA?

Se trata de una cifra tan grande que resulta difícil de imaginar. A nivel mundial, se gastarán alrededor de 3 billones de dólares (2,2 billones de libras esterlinas) en centros de datos que admitan la IA de aquí a 2029.

Esa estimación proviene del banco de inversión Morgan Stanley, que dice que la mitad de esa cantidad se gastará en costos de construcción y la otra mitad en el costoso hardware que respaldará la revolución de la IA.

Para poner ese número en perspectiva, es aprox. ¿Cuál es la economía francesa en general? Valioso en 2024.

Sólo en el Reino Unido, se estima Otros 100 centros de datos La IA se desarrollará en los próximos años para satisfacer la demanda de procesamiento.

Algunos de ellos se construirán para Microsoft. Fue a principios de este mes Anuncia una inversión de 30.000 millones de dólares (22.000 millones de libras esterlinas) en el sector de la IA del Reino Unido

¿Qué pasa con los centros de datos de IA que son diferentes del edificio tradicional que alberga una serie de servidores informáticos que albergan nuestras fotos personales, cuentas de redes sociales y aplicaciones de trabajo?

¿Y valen la pena este increíble gasto?

Los centros de datos han ido creciendo a lo largo de los años. Antes de que los gigavatios, mil veces más grandes que los megavatios, aparecieran en escena, la industria tecnológica acuñó un nuevo término llamado hiperescala para describir sitios con necesidades de energía de decenas de megavatios.

Pero la IA ha potenciado este juego. La mayoría de los modelos de IA dependen de costosos chips informáticos de Nvidia para procesar tareas.

Los chips Nvidia cuestan 4 millones de dólares cada uno en gabinetes grandes. Y estos gabinetes contienen la clave de por qué los centros de datos de IA son diferentes.

Los modelos de lenguaje grande (LLM) que entrenan el software de inteligencia artificial deben dividir el lenguaje en todos los subcomponentes posibles para comprenderlo. Eso sólo es posible con una red de ordenadores trabajando de forma integrada y muy próxima.

¿Por qué es tan importante la proximidad? Cada metro de distancia entre dos chips añade un nanosegundo, una milmillonésima de segundo, al tiempo de procesamiento.

Puede que no parezca mucho tiempo, pero cuando se revisa un almacén lleno de computadoras, estos retrasos microscópicos se acumulan y diluyen el rendimiento que necesita la IA.

Los gabinetes de procesamiento de IA están apiñados para eliminar este elemento de latencia y actuar como una enorme computadora en lo que el sector tecnológico llama procesamiento paralelo. Una palabra mágica en los círculos de la arquitectura de IA es que transmite densidad.

Density elimina los cuellos de botella de procesamiento que se observan en los típicos centros de datos al no trabajar con procesadores a varios metros de distancia.

Sin embargo, esos densos gabinetes consumen gigavatios de energía, y la formación de LLM abre ese apetito por la electricidad.

Estos picos equivalen a que miles de hogares enciendan y apaguen sus teteras simultáneamente cada pocos segundos.

Este tipo de demanda irregular en la red local debe gestionarse con cuidado.

Daniel Bizo, de la consultora de ingeniería de centros de datos The Uptime Institute, se gana la vida analizando los centros de datos.

“Los centros de datos típicos permanecen estáticos en segundo plano en comparación con las demandas que las cargas de trabajo de IA imponen a la red”.

Al igual que esas calderas sincronizadas, hay aumentos repentinos de IA que Bizo llama el problema de la singularidad.

“Nadie ha conocido nunca una carga de trabajo singular de esta escala”, dijo Bizzo, “y es un desafío de ingeniería muy serio, como el programa Apollo”.

Los operadores de centros de datos afrontan el problema energético de diferentes maneras.

En declaraciones a la BBC a principios de este mes, el director ejecutivo de Nvidia, Jensen Huang, dijo que esperaba implementar más turbinas de gas en el Reino Unido en el corto plazo “fuera de la red, sin que supongamos una carga para la gente en la red”.

La propia IA fabricará mejores turbinas de gas, paneles solares, turbinas eólicas y energía de fusión para producir energía sostenible más rentable, afirma.

Microsoft está invirtiendo miles de millones de dólares en proyectos energéticos, incluido un acuerdo con Constellation Energy. La energía nuclear es renovable En la isla de Tres Millas.

Google, propiedad de Alphabet, También está invirtiendo en energía nuclear. Como parte de la estrategia para implementar Energía libre de carbono para 2030.

Mientras tanto, Amazon Web Services (AWS), parte del gigante minorista Amazon, ya ha dicho El mayor comprador corporativo Energías renovables en el mundo.

La industria de los centros de datos es muy consciente de que los legisladores están atentos a las desventajas de las fábricas de IA con su intenso consumo de energía y su posible impacto en la infraestructura local y el medio ambiente.

Uno de estos impactos ambientales implica el suministro de agua para enfriar los chips de relaves.

En el estado estadounidense de Virginia, donde se está expandiendo la población de centros de datos que mantienen en funcionamiento a gigantes tecnológicos como Amazon y Google, se está considerando un proyecto de ley que vincularía la aprobación de nuevos sitios a las estadísticas de uso de agua.

Mientras tanto, una planta de IA propuesta en el norte de Lincolnshire, en el Reino Unido, ha enfrentado objeciones de Anglian Water, que es responsable de colocar grifos en el área del sitio propuesto.

Anglian Water señala que no necesita suministrar agua para uso no doméstico y se refiere al agua reciclada de la etapa final de circulación como refrigerante en lugar de agua potable.

Dados los problemas prácticos y los enormes costos que enfrentan los centros de datos de IA, ¿es realmente todo el movimiento solo una gran burbuja?

Un orador en una reciente conferencia sobre centros de datos utilizó el término “fanfarrones” para describir cómo la industria habla de la escala de los sitios de IA propuestos.

Jahl Limbuwala es especialista en centros de datos en Tech Investment Advisors DTCP. Reconoció grandes interrogantes sobre el futuro del gasto en centros de datos de IA.

“Es difícil creer el ritmo actual. Ciertamente ha habido muchos alardes, pero la inversión tiene que regresar o el mercado corregirá”.

Con estas advertencias en mente, todavía cree que la IA tiene un lugar único en términos de inversión. “La IA tendrá más impacto que las tecnologías anteriores, incluida Internet. Por eso necesitamos todos esos gigavatios”.

Jactanciosamente señala que los centros de datos de IA son “los bienes inmuebles del mundo tecnológico”. Las burbujas tecnológicas especulativas como el boom de las puntocom de la década de 1990 no tenían una base física. Los centros de datos de IA son muy sólidos. Pero el auge del gasto detrás de ellos no durará para siempre.