Joy Buolamwini expone los sesgos de la IA, hace llamado a los jóvenes a mantener una mirada crítica: “No limiten sus sueños”
Joy Buolamwini, la fundadora de la “Liga de la Justicia Algorítmica” (Algorithmic Justice League), compartió que existen sesgos en la inteligencia artificial (IA) que pueden llevar a la exclusión tecnológica, e hizo un llamado a los 10 mil becarios de la Fundación Telmex Telcel, que se reunieron este viernes durante su evento anual, México Siglo XXI, para mantener una mirada crítica.
La también investigadora del Instituto de Tecnología de Massachusetts (MIT, por sus siglas en inglés) relató que se enfrentó a la discriminación algorítmica mientras desarrollaba un proyecto artístico en la Universidad de Oxford, Inglaterra, luego de darse cuenta que los sistemas de reconocimiento facial no detectaban “su rostro oscuro”.
“Ahí me pregunté si las computadoras eran tan neutrales como esperaba. Fue un momento revelador, la máquina no me veía”.
Joy Buolamwini, fundadora de la “Liga de la Justicia Algorítmica”
Desde el Auditorio Nacional, Buolamwini reflexionó cómo estos riesgos de la inteligencia artificial llevan a la exclusión. Sin embargo, compartió la necesidad de crear espacios de debate comunitario e hizo un llamado a los jóvenes de mantenerse siempre críticos: “No limiten sus sueños”.
“Mi frase es ‘nunca dejes de soñar’ y lo digo no como un sueño nada más. Para mí, cuando las personas dudaban de mi capacidad de entender y aprender IA, yo creía en mí misma, y creí en el sueño de que yo tenía la capacidad de hacerlo, que podía hacer una contribución real”.
Joy Buolamwini, científica
“Tener un sistema de inteligencia artificial más consciente”
Buolamwini contó a los becarios de Fundación Telmex Telcel cómo, tras haber descubierto que los sistemas de reconocimiento facial no reconocían a las personas de tez negra, logró convertirse en “una de las voces más fuertes en la lucha contra el sesgo digital”.
“Cuando nosotros hablamos de la justicia algorítmica estamos viendo sesgos. Las máquinas pueden estar sesgadas, pero hay problemas de sesgo también en la gente, así que las máquinas solamente son un reflejo de la sociedad”.
Joy Buolamwini, científica
Por ello, gran parte de su carrera ha luchado por tener un “sistema de inteligencia artificial más consciente” que incluya a todas las personas, sin importar su tono de piel, género o cultura.
“Por favor no dejen el arte, no dejen la poesía, no se enfoquen nada más en lo técnico, no limiten sus sueños”, dijo la experta.
¿Quién es Joy Buolamwini?
Joy Adowaa Buolamwini es una informática y activista digital ghanesa-estadounidense que trabaja para en el MIT Media Lab. Fundó la Algorithmic Justice League, una organización que busca desafiar el sesgo del software en la toma de decisiones.
De acuerdo con Buolamwini, su interés en estos temas surgió en la universidad, cuando descubrió que algunos sistemas de análisis facial no eran capaces de detectar su rostro de piel oscura hasta que se puso una máscara blanca. Esa fue la base de su tesis de posgrado en el Instituto Tecnológico de Massachusetts.
Esta joven mujer descubrió que los conjuntos de datos existentes para los sistemas de análisis facial estaban compuestos mayoritariamente por caras de hombres blancos. Por tal motivo, decidió crear un conjunto equilibrado con más de un millar de políticos de África y Europa.
Cuando lo usó para probar los sistemas de inteligencia artificial (IA) de IBM, Microsoft y Facebook, descubrió que su precisión variaba mucho en función del género y el color de la piel. Al determinar el sexo, las tasas de error de estos sistemas eran inferiores al 1% para los hombres de piel más clara. Pero para las mujeres de rostro más oscuro, las tasas de error llegaban al 35%.
Buolamwini también es autora de “Unmasking AI: My Mission to Protect What Is Human in a World of Machines”, un libro ampliamente aclamado que profundiza en las implicaciones éticas de la inteligencia artificial y la lucha por la justicia algorítmica.
México Siglo XXI
México Siglo XXI es un evento organizado por la Fundación Telmex Telcel en el que cada año se presentan grandes personalidades del mundo del arte, la ciencia, la cultura, el deporte y más, para compartir con los 10 mil becarios Telmex de diferentes partes del país, sus más grandes experiencias y consejos.
Un año más, México Siglo XXI se lleva a cabo este viernes 5 de septiembre en el Auditorio Nacional en la Ciudad de México. Entre los invitados de esta edición se encuentran: el actor Kevin Costner, la extenista Serena Williams y la ganadora del Premio Nobel de la Paz, Rigoberta Menchú, entre otros.
La transmisión en vivo de México Siglo XXI puede verse a través de YouTube y redes sociales.
Te recomendamos:
Ciencia y Tecnología
Torre Eiffel sumará nombres de 72 mujeres científicas y académicas en homenaje histórico
Ciencia y Tecnología
Lorena se reduce a tormenta pero hay que mantenerse alertas, UNAM emite recomendaciones
Ciencia y Tecnología
¿Cómo evitar las llamadas o mensajes no deseados?, Profeco lo dice
