diciembre 5, 2024
Bogotá D.C
IA Generativa velocidad y redes ICT Summit 2024
Infraestructura TI Inteligencia artificial TIC

Velocidad y redes, dos compromisos para seguir impulsando la IA generativa

Frente a la demanda de recursos que la IA generativa tendrá en un futuro inmediato, participantes del juego como InfiniBand y Ethernet serán decisivos.

Por Mauro Vargas

Los recursos que demandarán las redes de IA generativa será el gran reto del futuro cercano. No solo se requerirán anchos de banda muy altos, de hasta 800G en el servidor, sino un consumo de energía dramáticamente aumentado.

Así lo explicó Christian Ramírez Montilla , gerente de recursos técnicos para LATAM The Siemon Company, en su ponencia «La revolución de la Inteligencia Artificial está aquí», que se realizó en el primer día del ICT Summit 2024 de BICSI, que se llevó a cabo en Ágora Bogotá, 

«Vamos a necesitar arquitecturas más poderosas para gestionar el tráfico, y el panorama anuncia varias transformaciones que lo harán posible», señaló el experto. «Para 2024 se espera sea liberada la última velocidad de Ethernet, mientras los demás actores toman partido ejecutando sus acciones correspondientes, y conforme el 5G cubre más territorios, lo que facilita que se desbloquee la factibilidad técnica y económica en territorios más allá de EE.UU.».

No te pierdas: Infraestructura y consumo, dos preocupaciones del auge de la IA Generativa

Uno de esos actores destacados es InfiniBand, que podrá ofrecer múltiples niveles de rendimiento de enlace, que actualmente alcanza velocidades de hasta 800 Gb/s. Cada una de estas velocidades de enlace también proporciona comunicación de baja latencia dentro de la estructura, lo que permite un mayor rendimiento agregado que otros protocolos. Esto posiciona de manera única a InfiniBand como la interconexión de E/S ideal para centros de datos.

En cuanto a las velocidades de la red de IA, que son cada vez más rápidas, también se expusieron proyecciones cercanas. 

Por un lado, para las Front-End Networks, cuya totalidad de puertos con Ethernet, se estima que para 2027 dos de cada tres puertos serán de 800G+. Por otro lado, para las Back-End Networks (AI Fabrics), Ethernet coexistirá con InfiniBand, y casi la totalidad de puertos serán de 800+G para ese mismo año.

El experto también recomendó que para quienes deseen embarcarse en esta revolución de la IA, es importante que consideren cuatro redes fundamentales: Compute Fabric, que es donde reside la carga de trabajo de la IA, articulada con Storage Fabric; In band, que es una red primaria e independiente que cuenta con clusters de administración y de gestión; y Out of-Band, de categoría 6, que brinda características como acceso remoto, regulador de acceso y sensores de temperatura de los equipos, que funcionan incluso cuando los equipos están apagados.

«La optimización en esta ola de la IA no es solo lograr la reducción en la huella de carbono, sino también la optimización del espacio físico», señaló el experto de Siemon Company. «El cableado es esencial para hacer parte de esta transformación de la IA».