Actualmente estamos participando en una nueva y gran tendencia basada en nuevas herramientas para inteligencia artificial con un gran protagonista en el centro: ChatGPT. Sin embargo, con él ha nacido otra novedad, el uso de la IA como herramienta de desarrollo de malware.
Y es que, la inteligencia artificial se puede utilizar para crear, modificar o incluso mejorar la malware. También se puede usar para convertir código malicioso de un lenguaje de programación a otro, lo que ayuda a la compatibilidad entre plataformas, e incluso se puede usar para escribir un correo electrónico de phishing.
Eso sí, aclara antes que nada que si preguntas ChatGPT escribir un correo electrónico de phishing haciéndose pasar por un banco o crear malware no lo generará. Sin embargo, aquí estamos hablando del uso de la versión actual de la API de OpenAI por parte de piratas informáticos desde tiene muy pocas medidas para prevenir estos casos (por ejemplo, la integración del modelo OpenAI GPT-3 a los canales de Telegram).
El gran problema subyacente es que el código generado por IA podría tener un efecto muy negativo en la ciberseguridad, ya que el software defensivo escrito por humanos podría no ser suficiente para protegerse contra él. Echemos un vistazo a cómo ChatGPT ya se está utilizando para crear malware y estafar a los usuarios.
El abuso de ChatGPT como herramienta de desarrollo de malware
El no tan nuevo chatbot de OpenAI, ChatGPT, podría usarse para generar malware, han advertido algunos analistas y muchos otros han logrado identificar.
Específicamente, los investigadores de Check Point Software descubrieron que ChatGPT podría usarse para crear correos electrónicos desde suplantación de identidad. Combinado con Codex, un sistema de conversión de lenguaje natural a código también de OpenAI, ChatGPT podría usarse para desarrollar e inyectar código malicioso.
“Este es un código bastante básico, pero puede ser explotado”algunos expertos explican. “Una de las cosas para las que la IA es buena es la automatización. Si los piratas informáticos pueden entrenar un chatbot para crear de esta manera, seguirá aprendiendo, por lo que es posible que los piratas informáticos tengan una herramienta basada en el aprendizaje para piratear”. “agregan.
Por otro lado, y para que veáis cómo se puede exprimir al máximo esta herramienta, los investigadores de Counterpoint han encontrado recientemente otro caso de ciberdelincuentes. usó ChatGPT para “mejorar” el código de un malware básico de 2019. Aunque el código no es complicado ni difícil de crear, ChatGPT logró mejorarlo con poco esfuerzo.
Malware, Phishing y desinformación
En un nuevo informe, los investigadores de Recorded Future escriben: “La capacidad de ChatGPT para imitar de manera convincente el lenguaje humano le da el potencial de convertirse en una poderosa herramienta de phishing e ingeniería social”.
Y es que, este tipo de empresas están explotando de manera positiva estas debilidades de ChatGPT en su API para ver hasta dónde podía llegar. En este caso, probaron el chatbot para este tipo de ataques Advirtieron de la falta de errores gramaticales, que son un gran indicador en estos casos.
“En ausencia de tales indicadores, es mucho más probable que los usuarios sean víctimas de correos electrónicos de phishing compuestos por chatbots e influyan en ellos para que envíen información de identificación personal”.ellos explican
Por otro lado, una segunda amenaza que poco a poco vamos viendo es la de desinformación. Y es que estos ciberdelincuentes también se dedican a difundir información errónea de forma fácil y engañosa.
Sabiendo esto, los investigadores advierten de su posible uso por parte de países o instituciones gubernamentales para emular con precisión el lenguaje humano y transmitir mensajes falsos de una forma muy sencilla.
“Lo mismo ocurre con temas como los desastres naturales, la seguridad nacional (como los ataques terroristas, la violencia contra los políticos o la guerra), la desinformación relacionada con la pandemia, etc.”, subrayaron los investigadores.
¿Cómo puedes solucionar este problema con ChatGPT?
Ante todo esto, surge la siguiente pregunta: ¿Se puede rediseñar ChatGPT u otras herramientas de IA para evitar la creación de malware? Desafortunadamente, la respuesta parece no ser tan fácil como podría pensarse.
Es difícil para una IA determinar si es una buena o mala intención. En primer lugar, el código informático solo es verdaderamente malicioso cuando se utiliza con fines poco éticos. Como cualquier herramienta, la IA puede usarse para bien o para mal, y lo mismo ocurre con el código en sí.
Por ejemplo, podría usar el resultado de un correo electrónico de phishing para entrenar la herramienta para identificarlo o incluso enseñar a las personas cómo evitar el phishing. Sin embargo, ese mismo resultado también podría usarse en una campaña de phishing real para estafar a las víctimas.
ChatGPT y herramientas similares simplemente no pueden predecir cómo se usará realmente cualquier solicitud, ese es el gran problema. Para este tipo de casos, OpenAI está trabajando en un método para colocar una “marca de agua” en los resultados de los modelos GPT, que luego se pueden usar para demostrar que fueron creados por IA y no por humanos.
Desafortunadamente, parece insuficiente. Eso sí, tampoco seamos demasiado alarmantes, ya que, si bien ChatGPT es fácil de usar en un nivel básico, manipularlo para que sea capaz de generar malware puede requerir una habilidad técnica superior a la de muchos piratas informáticos. Tomemos las cosas con cierta preocupación pero sin dramatizar y Esperemos que empresas como OpenAI solucionen estos problemas a tiempo.
