Ciberriesgos por el uso de apps de IA y ML
La inteligencia artificial sigue alternando informaciones positivas con otras menos.
Zscaler, empresa líder en seguridad en la nube, ha lanzado su Informe de Seguridad de IA 2024, que se basa en el análisis más de 18 mil millones de transacciones de IA a través de la plataforma de seguridad en la nube Zscaler Zero Trust Exchange desde abril de 2023 hasta enero de 2024. Los investigadores de Zscaler ThreatLabz han analizado cómo las empresas usan las herramientas de IA/ML para descubrir las tendencias en todos los sectores y geografías, en un momento en el que las compañías están adaptándose al cambiante panorama de la Inteligencia Artificial y gestionando la seguridad alrededor del uso de herramientas de IA.
Las organizaciones de hoy en día deben asegurar una transformación impulsada por la IA generativa (GenAI) de una manera bidireccional: adoptar de forma segura las herramientas GenAI en la empresa con Zero Trust, y aprovecharlas para defenderse contra el nuevo entorno de amenazas impulsado por la IA.
La IA es ya parte del negocio. Las empresas aprovechan e integran nuevas funciones y herramientas en sus flujos de trabajo cotidianos, lo que permite multiplicar el volumen de transacciones y datos generados. De hecho, este volumen se refleja en el aumento de casi un 600% de las transacciones y en los 569 terabytes de datos empresariales enviados a las herramientas de IA que ThreatLabz ha analizado entre septiembre de 2023 y enero de 2024.
Las transacciones de IA crecen exponencialmente
De abril de 2023 a enero de 2024, ThreatLabz ha visto cómo las transacciones de IA/ML han crecido casi un 600%, aumentando a más de 3 mil millones mensuales en toda la plataforma Zero Trust Exchange en enero. A pesar del creciente riesgo de seguridad y el aumento del número de incidentes de protección de datos, las empresas están adoptando herramientas de IA.
Los fabricantes son responsables de más del 20% de las transacciones empresariales de IA/ML
La industria manufacturera es líder en transacciones de IA en la plataforma Zero Trust Exchange, con más del 20% del volumen total. Desde el análisis de grandes cantidades de datos de maquinaria y sensores para detectar de forma preventiva fallos en los equipos hasta la optimización de la gestión de la cadena de suministro, el inventario y las operaciones logísticas, la IA está resultando fundamental para los fabricantes. Los otros verticales destacados que componen los cinco primeros puestos son finanzas y seguros (20%), sectores de servicios (17%), tecnología (15%) y comercio minorista/mayorista (5%).
ChatGPT es la aplicación de IA Generativa más popular
Según ha revelado la investigación, ChatGPT representa más de la mitad de todas las transacciones de IA empresarial (52%), mientras que la propia aplicación OpenAI ocupa el tercer lugar (8%). Drift, el popular chatbot impulsado por IA, ha generado casi el 20% del tráfico empresarial, mientras que LivePerson y BoldChat se han hecho con un hueco en la lista. Writer es la herramienta GenAI favorita para crear contenido empresarial escrito.
Estados Unidos lidera el uso de herramientas de IA en las empresas
Las tendencias de adopción de la IA son distintas y varían según la ubicación. Las normativas, los requisitos, la infraestructura tecnológica, las consideraciones culturales y otros factores desempeñan un papel clave. Con un 40%, Estados Unidos produce el mayor porcentaje de transacciones de IA empresarial en todo el mundo. India ocupa el segundo lugar con un 16%, impulsada por el compromiso acelerado del país para impulsar la innovación.
Aunque la cuota del Reino Unido en las transacciones globales de IA empresarial es sólo del 5,5%, lidera el tráfico de IA empresarial en EMEA con más del 20%. Francia (13%) y Alemania (12%) le siguen de cerca en el segundo y tercer puesto de tráfico de IA empresarial en EMEA. Sin embargo, los Emiratos Árabes Unidos son un innovador tecnológico de rápido crecimiento en la región que también ha surgido como un destacado adoptador de IA. Aparece en sexto lugar España, con un 5,3%.
En la región APAC, ThreatLabz ha desvelado un aumento de casi 1.300 millones (135%) más de transacciones de IA empresarial en comparación con EMEA. Este aumento puede atribuirse probablemente al amplio uso y adopción de herramientas de IA en la India para llevar a cabo negocios en el sector tecnológico, y puede sugerir una mayor concentración de puestos de trabajo en tecnología, una mayor disposición a adoptar nuevas innovaciones y menos barreras para el uso.
Las amenazas potenciadas por la IA aumentan el riesgo empresarial y los retos de seguridad
A medida que avanza el poder de la IA, se ha convertido en un arma de doble filo para las empresas. Aunque la IA ofrece un inmenso potencial para la innovación y la eficiencia, también trae consigo un nuevo conjunto de riesgos que las organizaciones deben afrontar ante los riesgos asociados con el aprovechamiento de las herramientas GenAI dentro de la empresa y el panorama cambiante de amenazas asistidas por IA.
La utilización de herramientas GenAI dentro de las empresas introduce riesgos significativos que pueden clasificarse en tres áreas principales:
1. Protección de la propiedad intelectual y de la información no pública: riesgo de fuga de datos.
2. Riesgos para la privacidad y la seguridad de los datos de las aplicaciones de IA: incluyendo una superficie de ataque ampliada, nuevos vectores de entrega de amenazas y un mayor riesgo para la cadena de suministro.
3. Preocupación por la calidad de los datos: el concepto de "basura entrante, basura saliente" y el potencial de envenenamiento de los datos.
Al mismo tiempo, las empresas están constantemente expuestas a un aluvión de ciberamenazas. Y algunas de ellas están impulsadas por la IA. Las posibilidades de las amenazas asistidas por IA son prácticamente ilimitadas, ya que los atacantes pueden aprovechar la Inteligencia Artificial para orquestar campañas de phishing e ingeniería social, desarrollar malware y ransomware altamente evasivo, explotar vulnerabilidades en las superficies de ataque de las empresas y amplificar la velocidad, escala y diversidad de los ataques. Para afrontar este reto, las empresas y los líderes de ciberseguridad deben navegar eficientemente por un panorama de la IA en rápida evolución para aprovechar su potencial revolucionario y, a la vez, mitigar los riesgos y defenderse contra los ataques impulsados por la IA.
