Este artículo es una especie de seguimiento. Hace seis meses, publiqué informes de que Microsoft estaba trabajando para arreglar su software de reconocimiento facial, que se consideraba racista. Ahora la misma empresa exige que se regule el reconocimiento facial para evitar sesgos. Así que los atraparon con software sesgado, y ahora quieren que se regule toda la industria para evitar que alguien tenga software parcialmente racista.

El problema inicial

Como informamos en junio, la API de Microsoft Face basada en Azure fue criticada en un artículo de investigación. El software tuvo problemas para reconocer a las personas de color y a las mujeres. La tasa de error fue tan alta como el 20,8%, pero con «rostros masculinos más claros» hubo una tasa de error del cero por ciento.

El razonamiento detrás de esta diferencia en el reconocimiento es que la inteligencia artificial tuvo que ser programada por humanos. Los resultados serán tan buenos como los de las personas que concertaron una cita. Los programadores de Microsoft no han utilizado suficientes personas con tonos de piel más oscuros ni suficientes mujeres.

Microsoft ha trabajado para abordar este problema mediante la diversificación de los datos de capacitación y ha comenzado a probar sus sistemas internamente antes de implementarlos. Pudieron reducir la tasa de error para las personas con piel más oscura hasta veinte veces la tasa de error para las mujeres y nueve veces la tasa de error.

Cabildeo por la legislación

Son seis meses después y Microsoft insta a los gobiernos a aprobar legislación Solicitar que la tecnología de reconocimiento facial se pruebe de forma independiente para garantizar la corrección, evitar sesgos y proteger los derechos de los usuarios.

«El genio del reconocimiento facial, por así decirlo, está emergiendo del cristal», dijo Brad Smith, asesor en jefe de Microsoft, en una publicación de blog.

“Si no actuamos, corremos el riesgo de despertarnos en cinco años y descubrir que los servicios de reconocimiento facial se han extendido de maneras que exacerban los problemas sociales. Hasta entonces, estos desafíos serán mucho más difíciles de resolver. «

La compañía solicita que las personas examinen los resultados del reconocimiento facial, en lugar de dejar la tarea en las computadoras.

«Esto incluye casos donde las decisiones pueden crear un riesgo de daño físico o emocional a un consumidor, donde puede haber implicaciones para los derechos humanos o fundamentales, o donde la libertad personal o la privacidad de un consumidor pueden verse afectadas», dijo.

Además, Smith sugirió que quienes usan el reconocimiento facial deben «reconocer que no están exentos de su obligación de cumplir con las leyes que prohíben la discriminación contra consumidores individuales o grupos de consumidores».

También quería asegurarse de que el uso del reconocimiento facial por parte del gobierno no violara las libertades democráticas y los derechos humanos.

“Tenemos que asegurarnos de que 2024 no se vea como una página de la novela de 1984”, concluyó.

además

Microsoft tiene razón, por supuesto. Es interesante que hace seis meses no reconocieron la necesidad de prestar atención a que su software no discriminara, y ahora no solo lo reconocen, sino que también quieren asegurarse de que nadie más lo haga. . puede cometer los mismos errores que ellos cometieron.

Cualquiera que sea su situación anterior, ¿tiene razón Microsoft al exigir legislación y regular el reconocimiento facial? Háganos saber lo que piensa de la solicitud de Microsoft en la sección de comentarios a continuación.