Red Hat presenta el proyecto comunitario de código abierto asago para gobernar la inteligencia artificial

El proveedor de tecnología de código abierto Red Hat ha dado a conocer la creación y lanzamiento, junto a otros líderes tecnológicos como IBM Research, Microsoft o NVIDIA, de la comunidad asago.

Se trata de un proyecto comunitario de código abierto destinado a automatizar la forma en que las políticas de gobernanza de la inteligencia artificial se convierten en sistemas de IA seguros y listos para producción. asago conecta los pasos, herramientas y requisitos fragmentados de los equipos de ingeniería y de cumplimiento normativo, para crear un flujo de trabajo automatizado, auditable y trazable. El objetivo es ayudar a ofrecer sistemas de IA más seguros y listos para producción que impulsen la innovación en días, no en meses o años.

¿Qué es asago?

asago (AI Safety And Governance Orchestration / Orquestación de Gobernanza y Seguridad de IA) planea utilizar una plataforma estandarizada de código abierto y un flujo de trabajo automatizado para traducir políticas corporativas y regulatorias complejas de gobernanza de IA en controles operacionales reales. Se basa en el trabajo de Red Hat y NVIDIA como miembros de la Open Secure AI Alliance, y alinea la flexibilidad de los desarrolladores con la gobernanza de los operadores a través de cuatro etapas principales: 

•   Mapeo de riesgos: El marco lee e interpreta automáticamente las políticas de gobernanza de IA cargadas, mapeando los requisitos específicos de una organización directamente a marcos, ontologías y estándares de riesgo de IA establecidos, como el NIST AI RMF, OWASP LLM Top 10, y la Ley de IA de la UE a través del IBM AI Risk Atlas, convirtiendo el lenguaje de las políticas en planes de riesgo ejecutables.

•   Evaluación de riesgos: asago genera y ejecuta escenarios específicos de casos de uso para pruebas de seguridad automatizadas adaptadas a los riesgos identificados, buscando comportamientos perjudiciales en lugar de depender únicamente de evaluaciones comparativas genéricas.

•   Mitigación de riesgos: A continuación, el proyecto recomienda mitigaciones, incluyendo barreras de seguridad basadas en pruebas, creando una justificación clara y un historial de auditoría listo para revisión.

•   Despliegue en producción: asago orquesta los controles recomendados en configuraciones listas para el despliegue en distintas plataformas, incluidas la nube híbrida y Kubernetes, eliminando la codificación manual de infraestructura.

Cada uno de estos pasos estará diseñado para producir un historial de auditoría continuo, vinculando las cláusulas individuales de las políticas directamente con las pruebas y los controles en tiempo de ejecución, lo que permite a los revisores ver exactamente qué riesgo aborda cada acción. Esto ayuda a transformar la seguridad de la IA en un servicio empresarial más predecible y gobernado.

¿Por qué es importante asago?

Traducir las directrices de políticas abstractas en configuraciones de software funcionales ralentiza la innovación en IA e introduce riesgos adicionales derivados de errores de comunicación y malentendidos humanos. Los responsables de cumplimiento normativo exigen evaluaciones de riesgo rigurosas y pruebas verificables, mientras que los ingenieros de plataformas necesitan configuraciones estructuradas que puedan mantenerse dentro de los flujos de trabajo estándar de DevOps y GitOps. A medida que entran en vigor regulaciones de amplio alcance como la Ley de IA de la UE, las organizaciones no pueden correr el riesgo de paralizar la innovación durante meses de revisiones manuales ni de crear despliegues de IA en la sombra (shadow AI) sin supervisión y sin las barreras de seguridad adecuadas.

asago pretende resolver esta fricción proporcionando un estándar único y abierto en el que puedan converger los equipos de cumplimiento normativo, los científicos de datos y los administradores de infraestructura. Al tratar a cada actor como un usuario de primer nivel, la plataforma creará controles de seguridad para agentes autónomos de IA y modelos de lenguaje de gran tamaño (LLM) empresariales, sin introducir las inconsistencias de la traducción manual.

“A medida que las organizaciones pasan de pilotos experimentales de IA a agentes autónomos de larga duración, el establecimiento de límites operativos claros se convierte en un requisito crítico de infraestructura”, afirma Steven Huels, AI Engineering, Red Hat. “A través de iniciativas como Lightwell, estamos trabajando para proteger la cadena de suministro de código abierto de las vulnerabilidades impulsadas por la IA. asago complementa este esfuerzo y da el siguiente paso lógico para la IA empresarial al automatizar el enlace entre las definiciones de políticas corporativas y los agentes de producción en vivo. Esto brinda a las empresas la confianza operativa de extremo a extremo que necesitan para escalar una IA confiable en toda la nube híbrida”.

“El proyecto asago es un verdadero esfuerzo colaborativo de código abierto que reúne a actores del sector tecnológico, del ámbito académico y del gobierno”, señala Stuart Battersby, AI safety and model evaluation architect, Red Hat. “Animamos a más colaboradores a unirse a este esfuerzo impulsado por la comunidad, particularmente desde jurisdicciones globales, para garantizar la máxima cobertura de los puntos de vista sobre la seguridad de la IA”.

El proyecto Asago reúne a líderes del sector y a instituciones académicas, entre las que se incluyen Red Hat, Brave Software, la coalición EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, la Universidad Estatal de Carolina del Norte, NVIDIA y el Instituto Alan Turing, en el marco de una iniciativa en la que participan múltiples organizaciones con el objetivo de integrar diversos conocimientos especializados en los ámbitos de la investigación sobre seguridad de la IA, la ingeniería de software empresarial, adversarial machine learning y el cumplimiento normativo.

El proyecto se integrará con las mejores herramientas abiertas y se centrará específicamente en resolver los problemas de integración entre ellas. Su objetivo será proporcionar capacidades de trazabilidad completa y distribuida que registren las bases de evidencia requeridas por los auditores para demostrar el cumplimiento. Esto permite vincular cada control activo en un entorno de producción real directamente con la norma específica que lo justifica, garantizando así una verificación continua en todo el catálogo de IA de la empresa.

El proyecto asago se encuentra actualmente en su fase de creación. Los desarrolladores, investigadores académicos y primeros adoptantes empresariales pueden ver el repositorio y participar en la gobernanza del proyecto a través de GitHub.