Red Hat presenta su nueva plataforma de software e IA co diseñada con NVIDIA
El proveedor de soluciones de código abierto Red Hat anunciaba recientemente Red Hat AI Factory con NVIDIA.
Se trata de una plataforma de software co-diseñada que combina Red Hat AI Enterprise y NVIDIA AI Enterprise para proporcionar una solución de IA de extremo a extremo optimizada para organizaciones que despliegan IA a escala. Red Hat AI Factory con NVIDIA es otro paso importante en la estrecha colaboración entre ambas empresas, acelerando la entrega de las últimas innovaciones de inteligencia artificiaal a los clientes empresariales desde hoy mismo, a la vez que proporciona soporte desde el Día 0 para las arquitecturas de hardware de NVIDIA.
Con un gasto en IA empresarial que se espera supere el billón de dólares para 2029, impulsado en gran parte por las aplicaciones de IA agéntica, las organizaciones buscan orientar sus estrategias hacia flujos de trabajo agénticos de alta densidad y abordar las demandas resultantes en la inferencia de IA y la infraestructura. Para ayudar a las organizaciones a mantener el ritmo, la Red Hat AI Factory con NVIDIA permite a los equipos de operaciones de TI optimizar la gestión tanto de la infraestructura tradicional como de las demandas cambiantes del stack de IA.
Red Hat AI Factory con NVIDIA acelera el camino hacia la IA de producción y ofrece la plataforma de software para fábricas de IA, ejecutándose en una infraestructura de computación acelerada que potencia un mayor rendimiento para los modelos y las GPU de NVIDIA que impulsan el stack de inferencia. La plataforma es compatible con la infraestructura de fábrica de IA de los principales fabricantes de sistemas, incluyendo Cisco, Dell Technologies, Lenovo y Supermicro. Esto permite a los administradores de TI y a los equipos de operaciones escalar y mantener los despliegues de IA con el mismo rigor operativo y la misma previsibilidad que cualquier carga de trabajo empresarial.
Esta plataforma de software co-diseñada integra la experiencia en colaboración de código abierto, ingeniería y soporte tanto de Red Hat como de NVIDIA para ofrecer una solución empresarial fiable. Red Hat AI Factory con NVIDIA proporciona una base altamente escalable para los despliegues de IA en cualquier entorno, ya sea en on-premises, en la nube o en el edge. Incluye capacidades esenciales para la inferencia de IA de alto rendimiento, el ajuste de modelos, la personalización y el despliegue y la gestión de agentes, con un enfoque en la seguridad. Esto permite a las organizaciones mantener el control arquitectónico desde el centro de datos hasta la nube pública, lo que se traduce en:
● Acortamiento del tiempo para obtener valor: esta solución facilita el avance hacia la IA de producción con flujos de trabajo optimizados y acceso instantáneo a modelos preconfigurados, incluyendo la familia IBM Granite con respaldo legal, NVIDIA Nemotron, y los modelos abiertos NVIDIA Cosmos, que se entregan como NVIDIA NIM microservices. Además, permite a las organizaciones una mayor alineación de los modelos con los datos empresariales utilizando NVIDIA NeMo, reduciendo el tiempo y el costo de ajuste.
● Rendimiento y coste optimizados: optimiza el uso de la infraestructura y se potencia el rendimiento de la inferencia con un stack de servicio unificado y de alto rendimiento. Red Hat AI Factory con NVIDIA ofrece capacidades de observabilidad integradas y aprovecha las capacidades de inferencia de Red Hat AI impulsadas por vLLM, NVIDIA TensorRT-LLM, y NVIDIA Dynamo para cumplir con estrictos objetivos de nivel de servicio de IA. De esta forma, se ayuda a las organizaciones a reducir el coste total de propiedad (TCO) para la IA optimizando la conexión entre los modelos y las GPU de NVIDIA.
● Orquestación inteligente de GPU: habilita el acceso bajo demanda a los recursos de GPU a través de la orquestación inteligente y la infraestructura agrupada, con puntos de control automáticos para proteger los trabajos de larga duración y mantener costes de cómputo más predecibles en entornos dinámicos.
● Seguridad empresarial reforzada: Aprovechando la base flexible y estable de Red Hat Enterprise Linux, las organizaciones se benefician de capacidades avanzadas de seguridad y cumplimiento integradas desde el principio, lo que contribuyen a reducir el riesgo, ahorrar tiempo y mitigar el tiempo de inactividad. Esto proporciona una base reforzada en seguridad para cargas de trabajo de IA de misión crítica que requieren aislamiento y verificación continua. Los microservicios NVIDIA DOCA se basan en esta base, creando una arquitectura de confianza cero y brindando seguridad de tiempo de ejecución de IA en toda la infraestructura.
Chris Wright, chief technology officer and senior vice president, Global Engineering, Red Hat: "El paso de la experimentación de IA a la producción a escala industrial y en toda la empresa requiere un cambio fundamental en cómo gestionamos el stack de computación de IA. Estamos acelerando el camino para desplegar IA y pasar rápidamente a la producción utilizando Red Hat AI Factory con NVIDIA. Con una base estable y de alto rendimiento impulsada por nuestra reconocida propuesta de nube híbrida, estamos permitiendo a nuestros clientes tomar las riendas de su estrategia de IA y escalar con el mismo rigor que aplican a sus plataformas de core IT".
Justin Boitano, vice president, Enterprise AI Platforms, NVIDIA: "Las empresas están construyendo fábricas de IA que convierten los datos en inteligencia a escala durante la inferencia, lo que requiere infraestructura y software de nivel de producción que abarquen la nube híbrida. Red Hat AI Factory con NVIDIA proporciona la base de software que ayuda a las organizaciones a mantener el ritmo de la rápida innovación en infraestructura mientras construyen y despliegan de forma fiable la próxima generación de aplicaciones de IA agéntica".
