ChatGPT, el chatbot de OpenAI, siempre ha destacado por su ética y corrección en las respuestas. Sin embargo, un desarrollador ha creado WormGPT, una versión destinada a evadir todas las barreras éticas. Esta nueva creación es capaz de ser utilizada para realizar ataques BEC y escribir malware, planteando una amenaza para la seguridad digital.

ChatGPT corrompido: WormGPT, el chatbot malicioso

En el pasado, se han presentado técnicas que permiten alterar el comportamiento de ChatGPT, como el «jailbreak» que dio lugar al reverso tenebroso DAN. Ahora, WormGPT va más allá y se enfoca específicamente en escenarios perversos.

WormGPT, el chatbot malicioso.

Un desarrollador creó WormGPT, un chatbot que funciona de manera similar a ChatGPT, pero con fines maliciosos. Se ha demostrado que esta IA puede ser utilizada en ataques BEC, una de las estafas más dañinas para las empresas. Además, WormGPT es capaz de generar código malicioso, aumentando así la preocupación por la ciberseguridad.

El desarrollador de WormGPT afirma haber utilizado un antiguo modelo Open Source llamado GPT-J, con 6.000 millones de parámetros. Entrenó el modelo con datos relacionados con la creación de malware, lo que le otorgó capacidades maliciosas.

La cara oculta de la IA

En pruebas realizadas por SlashNext, WormGPT demostró ser sorprendentemente persuasivo en la redacción de correos electrónicos. El chatbot generó mensajes estratégicamente astutos y convincentes para realizar ataques de phishing y BEC. Expertos advierten que incluso ciberdelincuentes novatos podrían usar esta tecnología para realizar ataques sofisticados.

Aunque WormGPT ofrece capacidades maliciosas, su uso tiene un costo: 60 euros al mes o 550 euros al año. Algunos compradores han expresado insatisfacción con el rendimiento de esta IA, pero su potencial para fines maliciosos es innegable.

Los modelos de IA entrenados para fines maliciosos representan una amenaza significativa en el ámbito de la ciberseguridad. WormGPT es un ejemplo preocupante de cómo la IA puede ser utilizada con intenciones maliciosas, destacando la importancia de salvaguardar la ética en el desarrollo y uso de estas tecnologías.

Via SlashNext.