El Ministerio del Interior de Reino Unido ha anunciado recientemente el desarrollo de una tecnología capaz de detectar y bloquear contenido potencialmente extremista antes de ser publicado. El gobierno británico quiere usar inteligencia artificial contra el Daesh y otras organizaciones.
Inteligencia Artificial contra el Daesh
No se le escapa a nadie: las redes sociales son el caldo de cultivo perfecto para la difusión de cualquier idea. En nuestros días, la información es libre e inmediata. Y aunque poner puertas al campo es difícil y controvertido, los gobiernos están comenzando a usar la tecnología a su favor. Uno de los más beligerantes es el ejecutivo de Theresa May, que ahora se ha centrado en limitar la difusión de propaganda terrorista.
El Ministerio del Interior británico y la compañía de big data ASI Data Science, han desarrollado una tecnología capaz de detectar esta propaganda. Se trata de una inteligencia artificial multiplataforma, capaz de analizar audio e imagen justo cuando es subida por el usuario. Será posible detectar el contenido extremista y de promoción del terrorismo antes de ser subido.
Para entrenarla, la inteligencia artificial ha sido expuesta a miles de horas de contenido multimedia del Daesh. Al testarla en una situación real, reconoció qué videos eran de Daesh y cuáles no con una precisión del 99,995%, según el gobierno británico.
Gobierno vs industria: esta IA no convence a todos
El objetivo del gobierno es presionar a la industria para que implemente este tipo de tecnologías. Sin embargo, compañías como Google, Twitter o Facebook se muestran reacias a estos filtros. Prefieren abrir sus plataformas a todo tipo de contenido, y que sean sus algoritmos los que prioricen el “contenido positivo” o «counterspeech».
El gobierno espera la cooperación de estos gigantes para llegar a un punto común. Aunque evitarán en lo posible legislar para que el uso de este tipo de sistemas sea obligatorio, no lo descartan.
Pondrán también esta tecnología a disposición de compañías más pequeñas, que son una preocupación creciente. De hecho, en 2017 seguidores de Daesh publicaron propaganda en más de 400 plataformas, muchas sin los sistemas necesarios para frenar la difusión. Además, entre julio y finales de 2017 apareció material extremista en 150 plataformas que nunca antes habían sido usadas para esos fines.
La encargada de presentarlo en sociedad fue Amber Rudd, secretaria de Estado de Interior. Ella estará esta semana en Silicon Valley debatiendo sobre la regulación de contenidos online para combatir el extremismo.
Libertad vs seguridad: ¿La inteligencia artificial que censura?
Dos son los cuestionamientos que tienen habitualmente este tipo de tecnologías. Por un lado, quienes defienden una red más abierta y la libre circulación de información lo consideran una «censura automática» que coarta los derechos civiles.Existe además un fervoroso debate sobre qué consideramos extremista y qué no, o quién establece las líneas rojas. Por otro lado, las compañías son reticentes a implementar cualquier tecnología que limite el tráfico que reciben sus plataformas, ya que podría suponer pérdidas económicas para ellas.
A pesar de todo, tanto compañías como gobiernos declaran que se hace necesario un aumento de la colaboración. Para ello fue creado el «Foro Global de Internet para Combatir el Terrorismo». Un espacio creado Facebook, Twitter, Microsoft y Google para acercar posturas y desarrollar tecnologías útiles que frenen el extremismo en Internet. Ante este foro será presentada la nueva tecnología británica.
Más allá de Reino Unido
Dado que la Comisión Europea se ha mostrado también muy favorable a esta clase de sistemas, cabe esperar la exportación de modelos similares a otros países de la unión en los próximos años. ¿Qué opinas sobre esta tecnología?, ¿Será la inteligencia artificial contra el Daesh capaz de filtrar correctamente?, ¿Crees que es la mejor manera de luchar contra la propaganda? ¿Más libertad o más seguridad?
Si quieres seguir leyendo sobre tecnología relacionada, conoce la cámara de seguridad de Somfy.
Vía: TechCrunch.
