La nueva amenaza al email: phishing dirigido a personas y sistemas de IA en un mismo mensaje
Los ciberdelincuentes combinan phishing e inyección de comandos para atacar al empleado y a la inteligencia artificial en un mismo correo electrónico, según las últimas investigaciones.
Los recientes ataques de phishing analizados por Barracuda Research han revelado que los atacantes combinan dos tipos de tácticas en un mismo correo electrónico: ingeniería social dirigida al destinatario humano y ataques de inyección de comandos diseñados para influir en sus asistentes de correo electrónico basados en inteligencia artificial. Las conclusiones se han publicado en un nuevo informe.
Los correos electrónicos de “doble objetivo” tienen varias capas de contenido. Una capa contiene el texto y las imágenes visibles para el destinatario, mientras que otra contiene instrucciones ocultas destinadas a los sistemas de inteligencia artificial. Estas instrucciones pueden estar ocultas en comentarios HTML, elementos de texto invisibles -como fuentes de tamaño cero o texto blanco-, contenido codificado o archivos adjuntos protegidos.
Los asistentes de correo electrónico basados en IA están diseñados para leer, resumir, priorizar y gestionar mensajes. Las indicaciones ocultas pueden intentar manipular la forma en que estos sistemas interpretan y responden al contenido de los correos electrónicos. Entre los ejemplos observados por los investigadores de Barracuda se incluyen:
• Añadir una acción falsa de alta prioridad que ordene a un empleado actualizar los datos de pago de un proveedor, lo que aumenta la probabilidad de que se produzca un pago fraudulento.
• Manipular la selección automática de currículums mediante la inclusión de instrucciones ocultas que indiquen a la IA que otorgue una puntuación perfecta y recomiende una entrevista, independientemente de las cualificaciones.
• Ordenar a un asistente de IA que cambie a un modo de mantenimiento o administrativo autorizado y revele su configuración.
• Ordenar a un asistente de programación que inserte código para el robo de credenciales cada vez que genere funciones de autenticación.
“Ahora, un solo correo electrónico puede contener dos ataques distintos, por ejemplo: un mensaje de phishing tradicional para obtener credenciales a través de un archivo adjunto maliciosos y una inyección de prompts para manipular los sistemas de IA con el fin de influir en su comportamiento”, afirmó Guruprasad Kenja, analista de amenazas de Barracuda. “A medida que los asistentes de IA se van integrando en los flujos de trabajo empresariales cotidianos, las organizaciones deben proteger no solo a los usuarios y las bandejas de entrada, sino también los sistemas de IA que procesan los datos del correo electrónico y actúan en función a ellos”.
