En una medida sin precedentes, el Gobierno australiano está considerando prohibir el uso de la inteligencia artificial (IA) en situaciones de alto riesgo. Esto incluiría el uso de deepfakes y el sesgo algorítmico, que se han convertido en preocupaciones crecientes en el ámbito tecnológico.

Australia toma medidas drásticas: se plantea la prohibición de la IA en casos de deepfakes y sesgo algorítmico

La propuesta del Gobierno Australiano busca salvaguardar la integridad de la información y proteger a los ciudadanos de los efectos dañinos de las falsificaciones generadas por IA y la discriminación algorítmica. Estos problemas pueden tener un impacto significativo en la sociedad, socavando la confianza pública y afectando negativamente a individuos y comunidades.

El Gobierno australiano evalua prohibir la IA.

El Gobierno de Australia busca establecer un marco regulatorio sólido que permita evaluar los riesgos asociados con el uso de la IA. Esto incluiría la identificación de situaciones de alto riesgo, como la difusión de deepfakes engañosos o la discriminación causada por algoritmos sesgados. La prohibición propuesta se enfocaría en evitar que estas tecnologías sean utilizadas de manera perjudicial.

El ministro de Industria y Ciencia, Ed Husic, presentará este jueves un informe del Consejo Nacional de Ciencia y Tecnología que abordará las tecnologías emergentes, así como un documento de debate enfocado en alcanzar una inteligencia artificial (IA) «segura y responsable».

Impulsar la transparencia y la responsabilidad

Otro objetivo clave de la propuesta es fomentar la transparencia y la responsabilidad en el desarrollo y despliegue de sistemas de IA. Esto implica la necesidad de que las organizaciones y los proveedores de tecnología sean más claros en cuanto a cómo funcionan sus algoritmos y en cómo abordan los posibles sesgos y manipulaciones.

Según el informe del NSTC, se identificó que «la concentración de recursos de inteligencia artificial generativa en un reducido número de grandes empresas tecnológicas multinacionales, principalmente con sede en EE. UU., plantea riesgos potenciales para Australia».

El Gobierno australiano reconoce la importancia de la colaboración internacional en la regulación de la IA. Dado que la IA no conoce fronteras, es esencial que los países trabajen juntos para establecer estándares comunes y compartir conocimientos sobre los riesgos y desafíos asociados con esta tecnología.

De esta forma, el Gobierno australiano está evaluando la posibilidad de prohibir el uso de la inteligencia artificial en casos de alto riesgo, como los deepfakes y el sesgo algorítmico. Esta medida busca proteger la integridad y la confianza en el uso de la IA, y fomentar la transparencia y la responsabilidad en su desarrollo y despliegue.

Vía The Guardian.