Implementación de la inteligencia artificial pese a la seguridad y gorbernanza de datos

Según un nuevo informe, las empresas siguen con las implementaciones de IA a pesar de los problemas de seguridad y de gobernanza de datos.

F5 ha hecho público un nuevo informe que proporciona una visión única sobre el estado actual de la adopción de la inteligencia artificial por parte de las empresas. El Informe 2024 State of AI Application Strategy de F5 revela que si bien el 75 % de las empresas ya está implementando IA, un 72 % se encuentra con importantes problemas de calidad de los datos y con una incapacidad para escalar las prácticas relacionadas con ellos. Eso en una realidad en la que los datos y los sistemas que las empresas implementan para obtenerlos, almacenarlos y protegerlos resultan críticos para la adopción y optimización exitosa de la IA.

"La IA es una fuerza disruptiva que permite a las organizaciones crear experiencias digitales innovadoras y únicas. Sin embargo, los aspectos prácticos de la implementación de la IA son extremadamente complejos, y la postura de riesgo de la compañía puede aumentar significativamente si no se adopta una aproximación adecuada y segura", afirma Aran Erel, director general de F5 en España. "Este informe destaca una tendencia preocupante: muchas empresas, en su afán por aprovechar la IA, pasan por alto la necesidad de establecer una base sólida. Eso no sólo disminuye la eficacia de sus soluciones de IA, sino que también las expone a una multitud de amenazas de seguridad".

El informe de F5 revela también los múltiples desafíos que deben superar las empresas para obtener una adopción escalable en el momento en el que construyen una nueva pila para poder soportar un grupo cada vez más amplio de servicios impulsados por IA, y que tienen que ver con la infraestructura, los datos, el modelo, los servicios de aplicación y las capas de aplicación.

La promesa y la realidad de la IA generativa

Las organizaciones están entusiasmadas con el impacto que podrá llegar a tener la IA generativa en sus negocios. No en vano, los profesionales encuestados en este informe la han elegido como la tendencia tecnológica más importante de 2024. Sin embargo, solo el 24% de las organizaciones dice haber implementado IA generativa a escala.

Aunque el uso de la IA generativa va en aumento, los casos de uso más comunes suelen cumplir funciones poco estratégicas. Entre ellos, destacan los copilotos y otras herramientas de productividad para empleados (utilizadas por el 40% de los encuestados) y herramientas de servicio al cliente, como chatbots (36%). Sin embargo, los encuestados consideran que el caso de uso de IA más prioritario serían las herramientas para la automatización del flujo de trabajo (36%).

Obstáculos para escalar la IA en infraestructura y capas de datos

Al repasar los retos de la implementación de aplicaciones basadas en IA, los directivos señalan tres preocupaciones principales en la capa de infraestructura:

•    El 62% cita el coste de la computación como una preocupación importante para escalar la IA.

•    El 57% cita la seguridad del modelo como una preocupación principal. Para abordar esto, los líderes empresariales esperan gastar un 44% más en seguridad en los próximos años a medida que escalan las implementaciones.

•    Más de la mitad de los encuestados (55 %) mencionan el rendimiento en todos los aspectos del modelo como una preocupación.

En la capa de datos, la madurez de los datos es un desafío inmediato e importante que afecta la implementación generalizada de la IA:

•    El 72 % de los encuestados cita la calidad de los datos y la incapacidad de escalar las prácticas de datos como los principales obstáculos para escalar la IA.

•    El 53 % cita la falta de habilidades en inteligencia artificial y datos como un impedimento importante.

•    Aunque un 53 % de las empresas dice contar con una estrategia de datos definida, más del 77 % de las organizaciones encuestadas afirma carecer de una Fuente Única de Verdad para sus datos.

La ciberseguridad sigue siendo una preocupación clave

Según el estudio de F5, la ciberseguridad es una de las principales preocupaciones de quienes tienen la tarea de entregar servicios de IA. Factores como los ataques impulsados ​​por IA, la privacidad de los datos o la fuga de datos se encuentran entre las principales preocupaciones de seguridad de la IA.

Cuando se les pregunta cómo planean defenderse contra estas amenazas para proteger las implementaciones de IA (o si ya lo están haciendo), los encuestados dicen centrarse en servicios de aplicación como la seguridad de API, la monitorización y la protección contra DDoS y bots:

•    El 42 % afirma que está utilizando o planea utilizar soluciones de seguridad API para proteger los datos a medida que estos se mueven a través de los modelos de entrenamiento de IA.

•    El 41% usa o planea usar herramientas de monitorización para tener visibilidad del uso de aplicaciones de IA.

•    Un 39% usa o planea usar protección DDoS para modelos de IA.

•    El 38% usa o planea usar protección contra bots para modelos de IA.