Los generadores de arte IA son herramientas útiles para crear contenido original. Ofrecen funciones tan amplias y divertidas como convertir a cualquiera en un Pokémon sin mucho esfuerzo. Estas herramientas pueden traer ciertos problemas, lo que motivó a Google a no realizar el lanzamiento de su generador IA de texto a video.

El generador IA de texto a video de Google necesita más ajustes

La creación de contenido inapropiado es una de las mayores preocupaciones de las personas cuando de generadores IA se trata. La posibilidad de crear contenido gore, pornográfico o racista inquieta a muchos usuarios. Sin embargo, estos programas cuentan con potentes programaciones de seguridad para filtrar el contenido.

El perfeccionamiento de estas configuraciones puede llevar mucho tiempo, ya que existen formas muy sutiles de evadirlas. Este hecho llevó a que Google no realizara el lanzamiento de Imagen Video, su generador IA de texto a video. Durante las pruebas se crearon resultados con tendencia al gore, la pornografía y el racismo.

Generador IA de texto a video de Google.

La compañía describió estos errores como desafíos éticos y de seguridad muy importantes. El contenido problemático tiende a verse como falso, dañino, odioso y explícito según palabras de Google. Este tipo de contenido se genera por sesgos sociales y estereotipos sutiles que son muy difíciles de filtrar.

Este tipo de problemas ya se ha observado en otros generadores de arte IA anteriormente. Sin embargo, al tratarse de un generador IA de texto a video, el resultado podría ser aún más explícito que el obtenido de simples imágenes. En este sentido, la decisión de Google de no lanzar el generador IA de texto a video es astuta.

Esta nueva herramienta de Google pudo haber generado gran impacto de haber llegado al público. El generador era capaz de crear videos de gran calidad. Por los momentos, solo nos queda esperar y ver si la compañía perfecciona esta nueva herramienta y la lanza de forma oficial en algún momento cercano.

Vía Futurism.