Demuestran que se puede usar ChatGPT para crear un 'malware' indetectable por un antivirus

Líneas de código de un programa - UNSPLASH

   MADRID, 10 Abr. (Portaltic/EP) -

   Un investigador ha logrado utilizar el 'chatbot' ChatGPT para crear un 'software' maliciososo capaz de robar datos de dispositivos y evitar ser detectado por programas de ciberseguridad como VirusTotal.

   ChatGPT es un sistema de chat basado en el modelo de lenguaje por Inteligencia Artificial desarrollado por la empresa OpenAI, que puede realizar tareas como responder preguntas y mantener unas conversación realista con un usuario.

   Ya son varias las compañías que han implementado esta tecnología en sus servicios, como es el caso de Microsoft en su motor de búsqueda, Bing, y su navegador, Microsoft Edge. Sin embargo, hay empresas tecnológicas y líderes del sector que han señalado la peligrosidad de esta inteligencia artificial (IA).

   Entre ellos, el cofundador de Apple, Steve Wozniak, o el director ejecutivo de Tesla, SpaceX y TwitteR, Elon Musk, que aparecen como firmantes de una petición en la que se busca paralizar temporalmente los grandes experimentos con IA por los riesgos que pueden suponer para la sociedad.

   De hecho, compañías enfocadas a la ciberseguridad, como Check Point, han descubierto que los ciberdelincuentes ya utilizan esta herramienta para recrear cepas de 'malware' y ejecutar ataques de 'software' malicioso.

   Más recientemente, el investigador de Forcepoint Aaron Mulgrew ha descubierto que se puede utilizar este 'chatbot' para desarrollar un 'exploit' de día cero que puede robar datos de un dispositivo y evadir controles de detección de 'software' malicioso como los que reúne VirusTotal.

   Mulgrew ha explicado que, aun siendo "un novato confeso", ha sido capaz de crear 'malware' "en pocas horas" con la ayuda de ChatGPT, comenzando sus pruebas con el lenguaje de programación Go.

   Si bien en primer lugar este 'chatbot' le recordó que no era ético generar 'malware' y se negó a ofrecerle ningún código para ayudarle a llevar a cabo esta acción, el investigador se percató pronto de que era sencillo "evadir las protecciones insuficientes que tiene ChatGPT y crear 'malware' avanzado sin escribir ningún código", esto es, solo con el propio modelo desarrollado por OpenAI.

   Para sobrepasar los filtros impuestos por el 'chatbot', Mulgrew dedicidió generar pequeños fragmentos de código para que la inteligencia artificial no fuera capaz de reconocer que, en conjunto, se convertirían en carga maliciosa.

   Entonces, a partir de cuatro o cinco indicaciones pudo obtener un código con el que dividir un PDF en fragmentos de 100KB y generar una imagen PNG con ello. Para ello, recurrió la esteganografía, una técnica que oculta mensajes dentro de un archivo sin que se puedan observar cambios en él.

   El siguiente paso fue exponerlo ante diferentes proveedores de soluciones de seguridad de VirusTotal. De un total de 69 de ellos, solo lo detectaron cinco, que habrían marcado como sospechoso este código por un identificador único global (GUUID, por sus siglas en inglés).

   Entonces el investigador pidió a ChatGPT que hicera nuevos ajustes y optimizaciones, y propició la creación de una función LSB Steganography propia -una técnica de esteganografía consistente en ocultar mensajes cifrados dentro de una imagen- en una aplicación local, lo que redujo a dos los proveedores capaces de detectar el código malicioso.

   Tras conocer la naturaleza de estas dos soluciones de seguridad, el investigador le pidió a ChatGPT que introdujera dos nuevos cambios en el código para ofuscar su carácter malicioso. Entonces, tras volver a pasarlo por VirusTotal, concluyó que se podía desarrollar un 'exploit' de día cero sin ser detectado por este proveedor.

   "Simplemente utilizando las indicaciones de ChatGPT y sin escribir ningún códgio, pudimos producir un ataque muy avanzado en solo unas pocas horas", ha explicado el investigador en este escrito.