Acerca del debate sobre frenar la IA

La IA no va a esperar: las empresas tampoco deberían hacerlo

Por Sanjay Beri, cofundador y CEO de Netskope

Frenar los modelos más avanzados puede ser necesario, pero la seguridad real se juega hoy dentro de cada empresa, en sus datos, sus agentes y sus controles.

La pregunta no es si la inteligencia artificial debe avanzar más despacio. La pregunta, para cualquier empresa, es si puede permitirse esperar a que otros resuelvan el problema por ella.
La reciente alerta de Dario Amodei, cofundador y director ejecutivo de Anthropic, plantea una preocupación legítima: los laboratorios que desarrollan los modelos de IA más avanzados deberían reducir el ritmo en determinados casos. No es una llamada menor. Viene de alguien que conoce la tecnología desde dentro y que ha dedicado su carrera a construirla, medirla y pensar en sus consecuencias.

La reacción fue inmediata. Sam Altman, Demis Hassabis y Elon Musk coincidieron públicamente en que Amodei apuntaba en la dirección correcta. Que líderes de organizaciones que compiten con tanta intensidad alcancen tan rápido un punto de acuerdo merece atención. También merece cautela: en este debate conviven preocupaciones reales, intereses estratégicos, tensiones geopolíticas y competencia económica.

Pero hay una verdad incómoda que las empresas no pueden ignorar: aunque mañana existiera una pausa internacional efectiva, la IA que ya está dentro de las organizaciones seguiría funcionando. Los empleados seguirían probando nuevas herramientas. Los desarrolladores seguirían conectando agentes a entornos de producción. Las unidades de negocio seguirían activando copilotos sobre datos sensibles cuando un proveedor lo presente como una mejora sencilla.

Por eso, para un CIO o un CISO, el debate sobre el ritmo de la IA no puede ser una excusa para la espera. La frontera no está solo en el próximo modelo entrenado en un laboratorio. Está en el agente que alguien implementó esta mañana, con acceso al sistema financiero, a una base de datos de clientes o a una credencial que nunca vence.

La comparación con los tratados SALT ayuda a entender el problema. Aquellos acuerdos no detuvieron la carrera armamentística. Las dos partes siguieron desarrollando capacidades y conservando su poder de disuasión. Lo que lograron fue construir un lenguaje común, mecanismos de verificación y una forma de gestionar el riesgo. Y tardaron años en llegar siquiera a ese punto.

Con la IA ocurrirá algo parecido. Tal vez algunos laboratorios se coordinen. Tal vez algunos gobiernos acuerden estándares. Tal vez se consolide una red internacional de institutos de seguridad que comparta metodologías, pruebas y criterios de evaluación. Todo eso sería positivo. Pero también será lento, incompleto y desigual.

La empresa opera a otra velocidad. Una política interna puede definir límites, establecer barreras y reducir riesgos, pero no decide por las personas ni controla automáticamente lo que ocurre en la práctica. La distancia entre la norma escrita y el comportamiento real es donde aparece el riesgo.

Ese riesgo no depende de una jurisdicción concreta. Cambian las leyes, los reguladores y los idiomas, pero el patrón se repite. Un empleado conecta una herramienta no autorizada. Un equipo activa una integración sin revisar sus permisos. Un agente encuentra un control de acceso débil y lo sortea, aunque nadie le haya pedido hacerlo.

Los atacantes tampoco esperan. No necesitan crear un modelo de IA de frontera. Les basta con que una persona haga clic o con que un agente confíe en la instrucción equivocada. Antes, una credencial robada mediante phishing podía abrir un buzón de correo. Hoy puede abrir la puerta a un agente conectado a múltiples sistemas, capaz de actuar a velocidad de máquina y sin pausas.

De ahí que el centro de gravedad de la seguridad empresarial no pueda estar solo en el modelo. Debe estar también en el flujo de datos, en la identidad, en el acceso y en la red. Si un agente no puede acceder a datos ajenos a su tarea, no puede filtrarlos. Si no puede conectarse a un sistema con el que no debería interactuar, no puede atacarlo.

Por eso la inspección debe ocurrir en tiempo real y dentro del flujo de datos, no semanas después en un informe de incidente. Un documento PDF con una política no detiene nada por sí solo. Un control aplicado en el momento adecuado sí puede hacerlo.

También necesitamos una definición seria de desconexión inmediata. No basta con que un laboratorio pueda cortar el acceso a su propia API. La empresa cuyos datos están en riesgo necesita poder detener un agente por sí misma: revocar su identidad, cortar su acceso a la red, suspender su acceso a los datos o hacer todo eso a la vez.

Ese mecanismo debe ser verificable, interoperable y aplicable en cualquier región. No puede depender de una sola jurisdicción ni de la interpretación particular de cada proveedor. Si los laboratorios quieren que las empresas confíen en sus sistemas para realizar trabajo real, este es un requisito mínimo.

El Proyecto Glasswing de Anthropic muestra que existe otra manera de avanzar: compartir capacidades potencialmente peligrosas bajo controles estrictos con quienes protegen software crítico, encontrar vulnerabilidades antes de que lo hagan los atacantes y permitir que los defensores participen desde el primer día. Ese tipo de colaboración no frena la innovación; la hace más segura.

La carrera ya empezó. Cuando fundamos Netskope en 2012, la idea era que la seguridad debía estar dentro del flujo de datos, en tiempo real, sin importar a dónde viajaran esos datos. Entonces significaba la nube. Hoy significa IA. Mañana significará agentes que actuarán en nuestro nombre a una escala que todavía no comprendemos del todo.

Quiero el futuro que describe Amodei: una IA que encuentre curas en años y no en décadas, que dé a una pequeña empresa el alcance de una gran empresa y que elimine tareas repetitivas para devolver tiempo a las personas. No quiero frenar ese futuro. Quiero que llegue antes y que las empresas puedan adoptarlo de forma segura.

Lo que sí debemos frenar es el uso malicioso y el uso sin controles: el agente que se sale de su función, la credencial que nunca vence, el atacante que ahora cuenta con un asistente incansable. Ningún laboratorio ni tratado detendrá esas amenazas dentro de una empresa. Esa responsabilidad corresponde a defensores, proveedores, líderes y a una industria capaz de trabajar en conjunto.

Si se puede, reduzcamos el ritmo de los modelos más avanzados por las razones correctas y en los casos adecuados. Pero protejamos a la empresa ahora. Lo segundo no puede esperar a lo primero. Y lo primero, por sí solo, no resolverá lo segundo.