Los deepfakes son un ejemplo de como la inteligencia artificial (IA) puede ser utilizada para crear contenido falso y engañoso. A medida que la tecnología de la IA sigue avanzando, es posible que se produzcan más deepfakes y otros tipos de contenido falso.
Esto plantea preocupaciones sobre el impacto de la IA en la sociedad y la necesidad de desarrollar formas de detectar y prevenir el contenido falso. Algunas empresas y organizaciones están trabajando en tecnologías de detección de deepfakes y otras formas de contenido irreal, pero aún queda mucho por hacer.
El falso arresto de Trump
Un set de varias imágenes del ex presidente norteamericano Donald Trump siendo arrestado se hicieron virales en las redes sociales. En todas las imágenes se ve a la figura de Donald Trump forcejeando con supuestos policías que intentan detenerlo.
Las imágenes forman parte de un set de aproximadamente 50 fotografías que Elliot Higgins, fundador del colectivo de OSINT Bellingcat, generó usando Midjourney V5 con base en un posible hecho real, ya que esta semana se esperaba que Trump fuera acusado por el fiscal de distrito de Manhattan.
¿Cómo saber si una imagen fue generada por IA?
Estos son los detalles en los que poner atención para detectar si una imagen fue hecha por una IA, tanto si es un rostro o un paisaje:
- Textura de la piel
- Cantidad de dientes
- Rostros asimétricos
- Manos y pies desproporcionados y extraños
- Fondos desenfocados
- Objetos con formas extrañas en los fondos
- Accesorios como aretes o lentes que faltan o se funden con la piel
- Textos en la imagen como marca de agua
El avance acelerado de la tecnología basada en Inteligencia Artificial hará que estos errores poco a poco sean arreglados y las imágenes sean cada vez más realistas. Como respuesta, han surgido herramientas que detectan los patrones en los que se basa las IA para producir sus ilustraciones.
Un ejemplo es GAN Detector, desarrollado por Mayachitra Inc. Esta aplicación, actualmente en fase demo, analiza las imágenes y las contrasta con la base de datos de la que se alimentan las IA. Así, predice si una imagen fue generada artificialmente o no.
