La nueva era de la Inteligencia Artificial se manifiesta en la popularidad de ChatGPT
La Inteligencia Artificial ya no es cosa de aficionados a la ciencia ficción o las nuevas tecnologías.
ChatGPT es un software basado en algoritmos desarrollado por la compañía OpenAI, entre cuyos fundadores figura el famoso empresario Elon Musk. Se trata de un prototipo de chatbot lanzado a finales de 2022 y que permite mantener diálogos con una inteligencia artificial, basada en un gran modelo de lenguaje ajustado con técnicas de aprendizaje, y apoyada por el procesamiento de bases de datos y conocimientos de múltiples disciplinas.
Su notoriedad a través de televisión, prensa, Internet y demás medios ha llevado no solo a un masivo uso lúdico por parte de usuarios particulares, sino a situaciones como que en las universidades se esté aprovechando para resolver exámenes. Por otra parte, grandes compañías tecnológicas han empezado a mostrar interés en la plataforma, según algunos medios. Es el caso de Microsoft, de la que se dice que podría estar interesada en invertir 10.000 millones de dólares en ChatGPT.
ChatGPT es solo un ejemplo más del grado de desarrollo alcanzado por la IA. Los humanos digitales, avatares dotados de capacidad de aprendizaje, movimiento y simulación de sentimientos permiten a las empresas interactuar de una manera más humana y eficiente, fortalecer y personalizar su vínculo con sus usuarios, diferenciarse y ser más competitivos. Bajo este contexto, Emergen Research ha estimado que el tamaño del mercado mundial de avatares humanos digitales alcance los 527.580M de dólares en 2030 y que registre una tasa de crecimiento anual compuesta (CAGR) del 46,4% durante este periodo.
En palabras de María Pardo de Santayana, directora comercial de marketing y comunicación de Wehumans: “Los humanos digitales pueden conectarse fácilmente a otro "cerebro" para compartir conocimientos, ya sea un chatbot, una plataforma conversacional o incluso un ser humano que supervise directamente su aprendizaje, ya que están diseñados para integrarse con cualquier base de datos de conocimiento o soluciones PLN (Procesamiento de Lenguaje Natural). Nunca olvidan lo aprendido y se convierten en un súper cerebro con acceso a infinitas respuestas que pueden contestar a miles de usuarios a la vez", declara.
Los ciberdelincuentes ya utilizan ChatGPT para crear herramientas maliciosas
Check Point Research, la división de Inteligencia de Amenazas Check Point Software Technologies, un proveedor líder especializado en ciberseguridad a nivel mundial, ya está detectando los primeros casos de ciberdelincuentes que utilizan ChatGPT para desarrollar herramientas maliciosas. En foros clandestinos de la Dark Web, los ciberdelincuentes están creando Infostealer, herramientas de cifrado y facilitando la actividad fraudulenta. Los investigadores quieren alertar del creciente interés de los atacantes por ChatGPT.
Se ha debatido mucho sobre la inteligencia artificial (IA), una tecnología disruptiva con el potencial de mejorar drásticamente nuestras vidas a través de la medicina personalizada, un transporte más seguro , entre otros usos. Tiene un gran potencial para ayudar al sector de la ciberseguridad a acelerar el desarrollo de nuevas herramientas de protección y validar algunos aspectos de la codificación segura. Sin embargo, la introducción de esta nueva tecnología también conlleva un potencial riesgo que hay que tener en cuenta.
Ciberdelincuente mostrando cómo creó Infostealer utilizando ChatGPT
El mundo experimentó un aumento del 38% en los ciberataques en 2022 (en comparación con 2021). Las empresas de media fueron atacadas 1.168 veces por semana. La educación y la sanidad fueron dos de los sectores más atacados, que han visto cómo se paralizaban hospitales y escuelas. Es posible que ahora veamos un aumento exponencial de los ciberataques debido a ChatGPT y otros modelos de IA.
Check Point Research explica tres casos de recientes que muestran este peligro y el creciente interés de los ciberdelincuentes en ChatGPT para escalar y enseñar actividades maliciosas:
• Creación de Infostealer: el 29 de diciembre de 2022, apareció un hilo llamado "ChatGPT - Beneficios del malware" en un popular foro clandestino de hacking. El editor del hilo reveló que estaba experimentando con ChatGPT para recrear cepas de malware y técnicas descritas en publicaciones de investigación y escritos sobre malware común. Estos mensajes parecían estar enseñando a otros atacantes menos capacitados técnicamente cómo utilizar ChatGPT con fines maliciosos, con ejemplos reales que podían aplicar inmediatamente.
• Creación de una herramienta de cifrado multicapa: el 21 de diciembre de 2022, un ciberdelincuente apodado USDoD publicó un script en Python al que se refirió como "primer script que había creado". Cuando otro ciberdelincuente comentó que el estilo del código se parecía al código de OpenAI, USDoD confirmó que OpenAI le echó una "buena [mano] para terminar el script con un buen alcance". Esto podría significar que los ciberdelincuentes potenciales que tienen poca o ninguna habilidad de desarrollo, podrían aprovechar ChatGPT para desarrollar herramientas maliciosas y convertirse en atacantes con capacidades técnicas. Por supuesto, todo el código mencionado puede utilizarse de forma benigna. Sin embargo, este script puede modificarse para cifrar un equipo sin ninguna interacción del usuario. Por ejemplo, podría convertir el código en ransomware.
• Facilitar ChatGPT para actividades fraudulentas: en este caso, un ciberdelincuente muestra cómo crear un mercado de scripts en la Dark Web utilizando ChatGPT. El papel principal del mercado en la economía clandestina ilícita es proporcionar una plataforma para el comercio automatizado de bienes ilegales o robados como cuentas o tarjetas de pago robadas, malware, o incluso drogas y municiones, con todos los pagos en criptomonedas.
“Los ciberdelincuentes están considerando atractivo ChatGPT. En las últimas semanas estamos viendo pruebas de cómo los ciberdelincuentes empiezan a utilizarlo escribiendo código malicioso. ChatGPT tiene el potencial de acelerar el proceso puesto que les ofrece un buen punto de partida. ChatGPT puede utilizarse de forma positiva como ayuda a los desarrolladores a escribir código, pero también con fines maliciosos. Aunque las herramientas que analizamos en este informe son bastante básicas, es sólo cuestión de tiempo que los ciberdelincuentes más sofisticados mejoren la forma en que utilizan las herramientas basadas en IA. CPR seguirá investigando la ciberdelincuencia relacionada con ChatGPT en las próximas semanas”, alerta Eusebio Nieva, director técnico de Check Point Software para España y Portugal.
