La inteligencia artificial (IA) ha transformado muchas áreas de nuestra vida, ofreciendo innovaciones que facilitan nuestro día a día. Sin embargo, esta tecnología también ha sido mal utilizada, especialmente por depredadores que usan la IA para crear y distribuir imágenes sexuales de menores.

Peligro de depredadores: uso de IA para crear imágenes explícitas de menores

Los depredadores están explotando las capacidades de la IA para generar imágenes sexualmente explícitas de menores, centrándose en víctimas conocidas dentro de sus comunidades, a las que se refieren como «estrellas».

ia-sarcasmo
Fuente: Pexels

Estas víctimas son niños cuyas imágenes han ganado notoriedad entre los depredadores, quienes ahora pueden crear nuevo contenido a partir de material de abuso antiguo gracias a la tecnología de IA. Esta herramienta ha permitido a los criminales producir y compartir nuevas imágenes sin necesidad de involucrar a más niños en actos reales de abuso.

El impacto de la IA en sobrevivientes de abuso

Para los sobrevivientes de abuso infantil, el uso de IA para manipular imágenes trae consigo un nuevo nivel de trauma. Muchos de estos sobrevivientes son ahora adultos que enfrentan la posibilidad de que las imágenes de su abuso infantil sean redistribuidas en forma de contenido manipulado por IA.

Esta situación no solo prolonga su sufrimiento emocional, sino que también puede perjudicar sus vidas profesionales y personales, ya que estas imágenes pueden circular de nuevo, afectando su reputación y estabilidad emocional.

Los depredadores utilizan la IA en la Dark Web

Los foros en la Dark Web revelan cómo los depredadores colaboran y comparten técnicas para mejorar la creación de imágenes generadas por IA. En estos espacios, los miembros discuten abiertamente y se animan mutuamente a producir y compartir nuevo contenido.

La IA ha permitido que las imágenes sean más realistas, lo que aumenta su circulación y perpetúa la explotación de las víctimas. Esta colaboración entre criminales refuerza la necesidad de una intervención efectiva y coordinada.

Dentro de estas comunidades de la Dark Web, ciertas víctimas son tratadas como «estrellas», con una obsesión casi celebratoria por parte de los depredadores. Estos criminales catalogan y siguen a sus víctimas favoritas, utilizando IA para crear nuevas imágenes cuando el material existente se agota.

Expansión del abuso de menores generado por IA

El uso de IA para crear material de abuso infantil ha crecido rápidamente desde finales de 2022. El uso de bases de datos como LAION-5B para entrenar modelos de IA incrementa el riesgo para las víctimas, ya que permite la creación de nuevo contenido de abuso a partir de imágenes antiguas.

El mal uso de la tecnología añade un nuevo nivel de sufrimiento a los sobrevivientes, ya que ven cómo sus imágenes se reutilizan sin su consentimiento para generar nuevo material de abuso.

¿Cómo se está frenando este enorme peligro?

Las implicaciones del material de abuso infantil generado por IA son profundas y preocupantes. La visualización de este contenido puede llevar a algunos depredadores a cometer delitos de contacto. Otros justifican su comportamiento al considerar que estas imágenes son menos dañinas.

Sin embargo, las leyes en muchos países ya criminalizan cualquier representación indecente de niños, incluyendo las generadas por IA, y se han realizado arrestos en casos recientes. Sin embargo, se necesita una combinación de reformas legislativas y cambios culturales para abordar plenamente este problema.

El uso de IA por depredadores para crear y difundir imágenes sexuales de menores representa un desafío significativo y urgente. Es esencial que las autoridades fortalezcan las leyes existentes y desarrollen nuevas regulaciones para abordar las capacidades avanzadas de la IA.

Vía The Guardian