Diversidad y enfoque en los datos: las claves del #CES2021 para reducir sesgos raciales y de género en la IA
En la víspera navideña de 2019, Nijeer Parks, un hombre afroamericano de 33 años, fue arrestado por la policía de Nueva Jersey, tras haber sido identificado erróneamente por un sistema de reconocimiento facial.
Este ha sido el tercer caso de ciudadanos estadounidenses de color que han sido erróneamente identificados. También está el caso de los principales asistentes de voz como Siri y Alexa. Un estudio detectó que estos sistemas comenten muchos más errores con los usuarios negros que con los blancos.
Los sesgos raciales y de género en la Inteligencia Artificial (IA) son un problema actual que impide la inclusión e innovación en la industria tecnológica. En el marco de la feria tecnológica CES 2021, Kimberly Sterling, ejecutiva de la compañía de dispositivos médicos ResMed, señaló que “uno de los grandes desafíos de la IA y de muchos de los modelos de predicción es la falta de un conjunto de datos con poblaciones diversas que realmente reflejen la heterogeneidad dentro de Estados Unidos”.
“El software puede ser muy sofisticado, pero como tecnólogos, nuestro enfoque necesita estar en los datos para crear un algoritmo que realmente nos represente a todos”, afirmó Taniya Mishra, fundadora y directora Ejecutiva de la plataforma de capacitación en IA, MySureStart.
Todas las voces deben ser escuchadas
De acuerdo con Annie Jean-Baptiste, jefa de Inclusión de producto en Google, en la construcción de una IA “es muy importante asegurarnos que todas las voces están siendo escuchadas durante el proceso de diseño de un nuevo producto, especialmente las que han sido históricamente subrepresentadas”.
Además de contar con un equipo diverso, otra de las soluciones que las expertas mencionaron durante el panel es la educación en la organización, así como una comunicación compartida con todas las áreas de un equipo.
“En esta década vamos a tener un gran enfoque en la equidad e igualdad en los equipos de la comunidad tecnológica”, afirmó Taniya Mishra. “Debemos tener en cuenta que las máquinas no están reemplazando a los humanos. Los humanos trabajaremos con las máquinas para empoderarnos unos a otros”.
“Pensar en la tecnología cuando se hace un bien, realmente tiene el poder de amplificar la vida de las personas, y cuando tenemos muchos tipos de perspectivas, los resultados son mejores para todos”, dijo la jefa de Inclusión de producto de Google. “La inclusión siempre impulsa la innovación”, concluyó.