Shane Jones, un ingeniero con seis años de experiencia en Microsoft, ha expresado su profunda preocupación por los peligros potenciales asociados con el uso de Copilot Designer, una herramienta de inteligencia artificial de la empresa. Aunque no trabaja directamente en el desarrollo de soluciones de IA, Jones se ha dedicado a analizar los riesgos que estas tecnologías pueden plantear.
Peligro emergente en Copilot Designer
Jones ha identificado múltiples problemas con Copilot Designer, incluyendo la generación de imágenes inapropiadas y contenidos sensibles. Su análisis reveló la presencia de imágenes relacionadas con violencia, consumo de drogas, y temas controvertidos
, lo que plantea serias dudas sobre la seguridad y la ética de esta herramienta de IA.A pesar de sus advertencias, Microsoft no ha tomado medidas para desactivar Copilot Designer. Jones ha tratado de alertar a la empresa y a otras autoridades pertinentes sobre los riesgos asociados con esta herramienta. Sin embargo, sus esfuerzos no han dado lugar a acciones significativas por parte de la empresa.
Jones ha enviado cartas tanto al consejo de administración de Microsoft como a la FTC para destacar los problemas de seguridad planteados por Copilot Designer.
«nos comprometemos a responder a todas y cada una de las preocupaciones de los empleados de acuerdo con las políticas de nuestra empresa, y apreciamos los esfuerzos de los empleados por estudiar y probar nuestra última tecnología para seguir mejorando su seguridad»
Micosoft.
Sin embargo, la empresa no ha tomado medidas concretas para abordar estas preocupaciones, lo que plantea interrogantes sobre la responsabilidad corporativa en el desarrollo y uso de la inteligencia artificial.
El caso de Copilot Designer subraya los desafíos éticos y prácticos que enfrentan las empresas que desarrollan tecnologías de IA. La forma en que se maneje esta situación tendrá consecuencias cruciales para el futuro de la inteligencia artificial y su impacto en la sociedad en general.
Vía CNBC.