“Los sistemas de inteligencia artificial, disponibles en el mercado, se venden como precisos y neutrales, pero se hacen pocos esfuerzos para que sean éticos, inclusivos o para que respeten los derechos humanos y la igualdad de género antes de ser utilizados por agencias policiales o corporaciones, lo cual puede tener un impacto negativo en la vida de la gente. Algunos sistemas de análisis facial no eran capaces de detectar mi rostro de piel oscura hasta que me puse una máscara blanca. La tecnología no me veía. Me pregunté: ¿Dónde están las mujeres de color?”.
Joy Adowaa Buolamwini, nacida en Canadá en 1989 es una informática y activista digital ghanesa-estadounidense que trabaja en el MIT Media Lab. Creció en Misisipi y a los nueve años aprendió de forma autodidacta XHTML, JavaScript y PHP. Estudió Informática en el Instituto de Tecnología de Georgia e investigó en Informática Biomédica; se graduó en 2012. Fue saltadora con pértiga en su adolescencia. Ha vivido en Ghana, Barcelona, Memphis y Atlanta. Es jefa de Tecnología en Techturized Inc., una compañía tecnológica biomédica.
La inteligencia artificial discrimina a las personas de raza negra y piel oscura. Esta es la conclusión a la que ha llegado Joy Buolamwini. Sus estudios demuestran que los sistemas informáticos que facilitan el reconocimiento facial consiguen acertar hasta un 99% con los individuos de raza blanca y tan sólo un 35% con los de raza negra. Esta científica alerta sobre las consecuencias de este agravio comparativo para millones de personas en los ámbitos más dispares, desde investigaciones policiales hasta la concesión de créditos bancarios.
Joy Buolamwini es la fundadora de la Liga de Justicia Algorítmica, una iniciativa para desvelar las preferencias y sesgos de raza y género, y para desarrollar nuevas prácticas para la responsabilidad tecnológica. Buolamwini aspira a concienciar a la sociedad sobre los peligros de una inteligencia artificial alimentada exclusivamente con datos de personas de cierto género, color de piel y edad.
La Liga de Justicia Algorítmica y el Centro de Privacidad y Tecnología de la Facultad de Derecho de Georgetown lanzaron el compromiso de rostro seguro en diciembre de 2018. Consiste en una serie de medidas que las empresas pueden tomar para garantizar que la tecnología de análisis no perjudique a las personas. Un grupo de empresas ha suscrito el compromiso y varias investigadoras e investigadores de IA destacados han confirmado su apoyo. Esta es una de las muchas iniciativas con las que Buolamwini y sus colegas están experimentando para generar un cambio de las grandes empresas de tecnología. Hasta ahora, ha descubierto que llamar la atención del público sobre los sesgos del reconocimiento facial ha llevado a reducciones perceptibles en las inexactitudes. Después de que Amazon intentase desacreditar sus hallazgos, grupos expertos destacados de la IA respondieron y pidieron a la empresa que dejase de vender su tecnología de reconocimiento facial a agencias policiales.
Para informar al público y promover el cambio, ha prestado testimonio ante la Comisión Federal de Comercio en Estados Unidos, ha participado en el Global Tech Panel de la Unión Europea, ha escrito editoriales para importantes publicaciones de noticias y ha sido oradora de apertura en numerosos eventos académicos, industriales y de medios. En varios sitios web y en diferentes videos comparte su experiencia vivida y su poesía, y ha tocado un tema que se trata más comúnmente en términos estrictamente técnicos (o que simplemente no se trata).
Su investigación se ha estudiado en más de cuarenta países y ha defendido la necesidad de la justicia algorítmica en el Foro Económico Mundial y en la ONU. Forma parte del Global Tech Panel, convocado por el vicepresidente de la Comisión Europea para asesorar a las y los líderes mundiales y a las empresas de tecnología sobre las formas de reducir los daños de la IA.
Esta investigadora afroamericana lucha contra el prejuicio arraigado en el ámbito de la tecnología digital con determinación y una pizca de humor. Armada con una máscara blanca que es reconocida por los mismos programas informáticos que, sin embargo, no detectan su fisonomía, Joy denuncia la invisibilidad de los negros e invita a reflexionar sobre la importancia de crear códigos más inclusivos y más justos para todos.
Suyas son las frases que se reproducen a continuación:
“Con un número cada vez mayor de sectores que dependen de la IA de reconocimiento facial —las fuerzas y cuerpos de seguridad la utilizan para la vigilancia predictiva, las y los jueces la están utilizando para determinar si es probable la reincidencia en delitos y las empresas la usan para selección de personal—, las interpretaciones injustas resultan aterradoras”.
“Hemos entrado en la era de la automatización, confiamos en la tecnología, pero no tenemos preparación. Los sistemas comerciales de reconocimiento facial no logran reconocer el género de una de cada tres mujeres de color. Cuanto más oscura la piel, peores son los resultados”.
“Es la clase de sesgo que preocupa, ahora que la IA se usa para determinar cosas como a quién se le
concede un préstamo, quién tiene más probabilidades de obtener un empleo y a quién se le muestra qué en internet”.
“Tenemos un rol que cumplir para darle forma al futuro de la IA, pero debemos actuar ahora para que se incline hacia la justicia y la inclusión”.
Premios y reconocimientos
- En 2017 obtuvo el gran premio en la categoría profesional en la competición The Search for Hidden Figure que buscaba “dar visibilidad a la próxima generación de mujeres lideresas en ciencia, tecnología, ingeniería y matemáticas”.
- En 2018 apareció en la Hora Radiofónica TED y dio una charla TEDx en Beacon Street titulada “Cómo lucho contra el sesgo en los algoritmos”.
- En 2018 fue incluida en la lista Amy Poehler ‘s Smart Girls. La revista Fast Company la nombró una de las cuatro “heroínas del diseño defensoras de la democracia en línea”.
- Ha sido una de las 100 Mujeres de la BBC (2018)
- Ha sido incluida entre las cincuenta mujeres más importantes de América en tecnología por la revista Forbes.
Fuentes
- Precursoras de la sustentabilidad y agenda 2030. Diputación de Pontevedra.
Reto Joy Boulamwini
Seguimos con nuestro reto mensual. Animaos a investigar sobre nuestra protagonista y participad en el reto de este mes. Recordad que habrá un gran premio para los ganadores a final del curso.
1ª Pregunta:
La Inteligencia Artificial (IA) de reconocimiento facial se puede usar para:…
2ª Pregunta:
Los estudios de Joy Buolamwini alertan que la IA de reconocimiento facial:…
3ª Pregunta:
Joy Buolamwini es la fundadora de:…
Contesta a las preguntas en el siguiente formulario.
¡Ánimo!