La última versión de Chat GPT trae más ciberamenazas
La inteligencia artificial sigue copando titulares con los nuevos desarrollos de sus aplicaciones más populares. La más reciente ha sido Chat GPT 4, y de nuevo surgen dudas en relación a la ciberseguridad.
La compañía de investigación de inteligencia artificial OpenAI anunció la semana pasada la última versión de ChatGPT, GPT-4, que consigue ser más rápida, precisa y humana. ChatGPT es un chatbot que sorprendió al mundo a finales del año pasado por su capacidad para mantener una conversación y contestar preguntas como lo haría una persona.
Este sistema con inteligencia artificial (IA) se ha hecho viral gracias a la manera tan natural en la que se expresa y a sus respuestas acertadas, lo que hace muy difícil identificar que el texto no haya sido escrito por un humano. A raíz de su popularidad, se están ideando muchos nuevos usos para ChatGPT, como solicitar trabajo o escribir artículos, y esto no ha pasado desapercibido para los ciberdelincuentes.
Correos electrónicos de phishing escritos por IA
Como suele ocurrir cuando hay un nuevo desarrollo de la tecnología, los atacantes buscan rápidamente la forma de aprovecharse de ello. Con la introducción de ChatGPT, una de las principales preocupaciones estaba en su uso para ataques de phishing.
“Ahora mismo, con sus capacidades actuales, esta preocupación es una exageración”, aclara Ryan Kalember, vicepresidente ejecutivo de estrategia de ciberseguridad de Proofpoint. “Muchos correos electrónicos de ingeniería social no están diseñados para ser perfectos, sino que están deliberadamente mal escritos para que sea más probable que la gente los abra. Además, esto solo es una parte del ataque, ya que su éxito no depende únicamente de esto”.
Un chatbot de este tipo sólo podría ayudar a crear un asunto o cuerpo de texto convincente; aun así, cualquier sistema de detección antiphishing está preparado para analizar tanto el mensaje de un email como sus archivos adjuntos y enlaces. Incluso en casos en los que la víctima abriese el correo, hay mucha más información a la que el ciberdelincuente necesita acceder. Por lo tanto, el uso de ChatGPT no marcaría una gran diferencia.
Malware cifrado por un chatbot
“El malware escrito por ChatGPT no evade sistemas EDR (Endpoint Detection Response) de protección de equipos o infraestructuras, ni infecta una máquina de forma más eficaz que otras herramientas ya existentes. Un hacker necesita algo que funcione una y otra vez; y esta tecnología no puede rotar constantemente su infraestructura, dominios y elementos para evitar ser captada por expertos en ciberseguridad”, comenta Kalember.
Un operador de malware no solo tiene que distribuirlo, sino que también tiene que vender el acceso al mismo. Un chatbot no puede automatizar ese trabajo, porque no está creado con ese fin. Para tener un impacto real en este ámbito, ChatGPT tendría que evolucionar hasta superar a las herramientas existentes que sí han sido desarrolladas durante años para ello. Aunque avanza muy rápido, de momento no es útil para cifrar o distribuir malware de manera exitosa.
“Dado que ChatGPT es gratuito y fácilmente accesible, no es raro que haya llamado la atención de ciberdelincuentes, pero su importancia es cuestionable. En el futuro, los atacantes podrían utilizar este sistema de chat para mejorar la gramática o llevar a cabo ataques de ingeniería social en los que haya una conversación prolongada con la víctima, pero esto no les daría ninguna ventaja frente a los sistemas de detección de ciberataques. ChatGPT no sustituye ni mejora considerablemente las herramientas desarrolladas hasta ahora, ni cambia la naturaleza de los ataques”, concluye el experto.
ChatGPT4 presenta un escenario potencial para el aceleramiento del cibercrimen
Check Point Research, la división de Inteligencia de Amenazas Check Point Software Technologies, un proveedor líder especializado en ciberseguridad a nivel mundial, ha publicado los resultados de su análisis preliminar de ChatGPT4, la nueva versión de la popular herramienta de Inteligencia Artificial, resaltando la presencia de varios escenarios que permiten a los ciberatacantes agilizar sus esfuerzos y preparativos maliciosos, lo que resulta en resultados más rápidos y precisos para acelerar el cibercrimen.
En ciertos casos, estos escenarios permiten a las personas sin conocimientos técnicos crear herramientas dañinas, como si el proceso de codificación, construcción y empaquetado fuera una receta sencilla. A pesar de la presencia de salvaguardas en ChatGPT4, algunas restricciones se pueden eludir fácilmente, lo que permite a los ciberdelincuentes alcanzar sus objetivos sin muchos obstáculos.
Tras la identificación de estos métodos en los que se puede llegar a usar ChatGPT4, así como los casos reales anteriores en los que los atacantes han explotado esta herramienta, los expertos de Check Point Research han empleado las últimas 24 horas para analizar con más detenimiento la versión más reciente de ChatGPT.
“Si bien la nueva plataforma claramente mejoró en muchos niveles, podemos informar que existen escenarios potenciales en los que los ciberdelincuentes pueden usar ChatGPT4 para acelerar sus actividades”, asegura Eusebio Nieva, director técnico de Check Point Software para España y Portugal. “Esta herramienta puede empoderar a los ciberatacantes, incluso aquellos con perfiles no técnicos o de bajo conocimiento. La IA desempeña un papel importante y creciente tanto en el ámbito de la ciberseguridad, tanto en el lado de la defensa como en los ciberataques".
Concretamente, los investigadores han podido identificar hasta cinco escenarios de uso potencialmente malicioso en esta versión de ChatGPT4, con suplantaciones de identidad de bancos y correos de phishing a empleados, PHP reverse shells, y malware basados en C++ y Java.
