La inteligencia artificial (IA) avanza a pasos agigantados, con ChatGPT y Microsoft Copilot liderando el camino. Sin embargo, según expertos de la Universidad de Cornell, este progreso también trae consigo desafíos de ciberseguridad. En este contexto, surge Morris II, el primer gusano diseñado para atacar sistemas GenAI, generando un nuevo paradigma que demanda atención.
Morris II: desafiando a la ciberseguridad de GenAI
Bill Gates anticipa un futuro donde la IA transformará radicalmente nuestra forma de vida. Este futuro prometedor, sin embargo, no está exento de riesgos. Investigadores de la Universidad de Cornell han dado un paso audaz al crear Morris II
, un gusano diseñado para alertar sobre las posibles amenazas emergentes en los ecosistemas GenAI.
Morris II, bautizado en honor al primer gusano de Internet de 1988, se despliega en pruebas contra un servicio de correo electrónico impulsado por IA. Este malware de laboratorio demuestra ataques de día cero, autorreplicación y robo de información. ¿La víctima? Dos gigantes de la IA: Gemini Pro de Google y GPT-4 de OpenAI.
Utilizando la técnica Adversarial Self-Replicating Prompt, Morris II engaña a la IA generativa adyacente mediante prompts incluidos en mensajes o incrustados en imágenes. Este ataque no solo compromete la seguridad del sistema de correo electrónico, sino que tiene el potencial de infectar otros sistemas, propagando contenido personalizado.
Morris II va más allá al comprometer la funcionalidad RAG, utilizada por algunas aplicaciones de IA para mejorar respuestas extrayendo información externa. Este gusano logra manipular la base de datos de la aplicación simulada de correo electrónico
, incorporando datos confidenciales del usuario y replicándose con éxito.Alerta a gigantes de la IA: Google y OpenAI
Los investigadores informan sus hallazgos a Google y OpenAI, destacando que Morris II explota un mal diseño en la arquitectura de ecosistemas GenAI. Este gusano se basa en la vulnerabilidad de su propio programa de correo, subrayando la importancia de diseñar sistemas resistentes frente a amenazas cibernéticas.
Morris II no solo es un gusano, es un llamado de atención. Este artículo destaca cómo la inteligencia artificial, mientras avanza, debe equilibrar la innovación con la seguridad. La investigación pública proporciona detalles cruciales sobre este desafiante encuentro entre la IA y Morris II, marcando un hito en la conciencia cibernética.