La privacidad se está convirtiendo en un factor importante para la empresa de Mark Zuckerberg. Ahora se está lanzando una nueva herramienta de inteligencia artificial para detectar las imágenes y vídeos íntimos, es decir, combatir la pornografía.

La nueva herramienta está siendo implementada tanto en Facebook como Instagram. La inteligencia artificial promete aprender, a diferencia de los filtros actuales. De esta forma, será cada vez más preciso para encontrar y marcar contenido «casi desnudo» para enviarlo a revisión manual.

Facebook se centra en la privacidad de los usuarios

La manera de encontrar la gran mayoría de este tipo de contenido, es mediante acción de los usuarios reportando el mismo en las plataformas de Facebook e Instragram. También se busca facilitar la eliminación de contenido pornográfico por parte de la víctima.

«A menudo, las víctimas temen las represalias, por lo que se muestran renuentes a informar el contenido por sí mismas o desconocen que el contenido haya sido compartido» – Antigone Davis, responsable global de seguridad de Facebook.

De este modo, se busca que la herramienta de inteligencia artificial sea capaz de encontrar dichas imágenes que serán enviadas a revisión sin que un usuario tenga que reportarlas.

El error informático afecta a casi 7 millones de usuarios
Fuente: derstandard.at

La inteligencia artificial siempre se ha presentado como una solución eficaz contra este tipo de contenido y otras muchas funciones. Aunque es difícil saber su rendimiento real. Muchas veces cometerá fallos, por eso todo el contenido filtrado se somete a revisión manual.

Facebook no deja claro cómo funciona el nuevo algoritmo de «detección de imágenes íntimas sin consentimiento», que es el nombre con el que la empresa lo ha bautizado. Un informe de The Associated Press afirma que el sistema no solo mira las imágenes, también observa la descripción. De esta manera se intenta comprobar si el contenido es vergonzoso y por tanto, es necesario reportarlo.

Además, la compañía ha anunciado que la herramienta se mejorará permitiendo a los usuarios incluir imágenes sospechosas a sufrir este tipo de contenido vergonzoso. De este modo, la herramienta se adelantará eliminando la imagen antes de que otros usuarios puedan seguir difundiéndola.

La inteligencia artificial es mucho más precisa que un filtro automático, Facebook se ha centrado en solucionar todos los problemas que existen contra él en el pasado. Ahora debemos saber cómo funciona y qué tan eficaz es.