En un reciente incidente, TikTok se encontró en el centro de la controversia por un error técnico en su IA. Se permitió a los usuarios crear contenido inapropiado. Este evento subraya las preocupaciones sobre la capacidad de las plataformas tecnológicas para controlar el uso indebido de sus innovaciones.
TikTok y su error: falla en la herramienta de IA
La situación surgió cuando TikTok publicó por error un enlace a una versión interna de su herramienta de avatares digitales AI, sin las restricciones necesarias para evitar abusos.
Esta versión defectuosa permitía a los usuarios generar videos en los que los avatares recitaban cualquier texto, incluyendo frases altamente inapropiadas y peligrosas. CNN fue el primer medio en descubrir esta falla, logrando crear videos con citas de figuras históricas controvertidas y mensajes peligrosos, lo que generó una alarma inmediata.
Características de Avatares Digitales Symphony
La herramienta de Avatares Digitales Symphony de TikTok, lanzada recientemente, está diseñada para que las empresas puedan crear anuncios utilizando la imagen de actores pagados.
Esta tecnología emplea doblaje impulsado por inteligencia artificial. Esta permite que los avatares digitales pronuncien cualquier guion ingresado por los anunciantes, siempre y cuando cumpla con las directrices de TikTok.
Aunque el acceso a esta herramienta está restringido a los usuarios con cuentas de TikTok Ads Manager, la versión que CNN encontró accidentalmente estaba disponible para cualquier usuario con una cuenta personal, lo que facilitó su explotación.
Respuesta de TikTok al error de la IA
En respuesta a este problema, Laura Perez, portavoz de TikTok, declaró en The Verge. Dijo que la empresa había resuelto el «error técnico». La falla que permitió a un número muy reducido de usuarios crear contenido utilizando la versión interna de prueba de la herramienta durante unos días.
Este incidente resaltó la necesidad de una vigilancia constante y rigurosa de las nuevas tecnologías para prevenir su uso indebido y garantizar la seguridad de los usuarios y del contenido en la plataforma.
Contenido generado por CNN: Hitler y Osama bin Laden
CNN, al descubrir la herramienta interna, creó videos que incluían citas de Hitler, la recitación de la «Carta a América» de Osama bin Laden, eslóganes de supremacía blanca y un video que incitaba a votar en un día incorrecto.
Estos videos no incluían ninguna marca de agua. No indicaba que el contenido había sido generado por inteligencia artificial. Una característica que la versión oficial de los Avatares Digitales Symphony de TikTok sí posee.
Aunque CNN no publicó estos videos en TikTok, la portavoz Perez aseguró que, de haberlo hecho, el contenido habría sido rechazado por violar las políticas de la plataforma.
El error técnico en la IA de avatares digitales de TikTok ha puesto de manifiesto los riesgos asociados con las tecnologías avanzadas de inteligencia artificial. Aunque la plataforma ha tomado medidas para corregir el problema, el incidente sirve como un recordatorio de la necesidad de un control y supervisión constante.
Vía The Verge
