A propósito del 8 de marzo, la unidad para la educación, la ciencia y la cultura de la ONU (Unesco) publicó un estudio titulado: Prejuicios contra las mujeres y las niñas en los grandes modelos de lenguaje, que analizó los estereotipos presentes en las herramientas de procesamiento del lenguaje que las plataformas de Inteligencia Artificial generativa usan como referencia. 

Durante el estudio, se le pidió a las plataformas de IA que escribieran una historia para individuos con diversidad de género, sexualidad, orígenes culturales, entre otros aspectos. 

Las herramientas mostraron una tendencia a asignar trabajos más diversos y de mayor prestigio a los varones, como ingeniero, profesor y médico, mientras que asignaba a las mujeres a roles de menos prestigio o socialmente estigmatizados, como “empleada doméstica”, “cocinera” y “prostituta”.

Estas consideraciones de la IA profundizan los prejuicios sexistas contra las mujeres en los contenidos generados por cada una de estas plataformas, lo que preocupa a la Unesco dado que “millones de personas las utilizan y los sesgos de género en su contenido pueden ampliar el impacto social que tienen e incluso profundizar las brechas de desigualdades que ya están presentas en el mundo físico”, destacó la Unesco.

Recomendamos: La Inteligencia Artificial sí es sexista, pero no es su culpa

De acuerdo al estudio, los modelos de lenguaje masivos como GPT-2, de OpenAI, y Llama 2, de Meta cuentan con un sesgo de género aún más marcado lo que puede amplificar los riesgos dado que son plataformas gratuitas que llegan a un público muy amplio. 

Por su parte, las niñas no se quedan fuera de los sesgos sexistas que presenta la tecnología. En los relatos generados por Llama 2 sobre niños y varones, prevalecen las palabras “tesoro”, “aventurero”, “decidido”, “bosque”, “encontrado”.

Mientras que en los relatos sobre niñas y mujeres predominan las palabras “jardín”, “amor”, “sentía”, “suave”, “pelo” y “marido”. 

¿Qué hacer para mitigar los sesgos de género en la IA?

“Nuestra organización pide a los gobiernos que desarrollen y apliquen marcos regulatorios claros, y a las empresas privadas que lleven a cabo un seguimiento y una evaluación continuos para detectar sesgos sistémicos, como se establece en la recomendación de la Unesco sobre la ética de la inteligencia artificial, adoptada por unanimidad por nuestros estados miembros en noviembre de 2021”, recordó Audrey Azoulay, directora general de la Unesco.

En la misma línea, las acciones que toman empresas y gobiernos deberían garantizar la igualdad de género en el diseño de herramientas de IA “Lo que debería incluir la asignación de fondos para financiar planes de paridad de género en las empresas, incentivar económicamente el espíritu empresarial de las mujeres e invertir en programas específicos para aumentar las oportunidades de participación de las niñas y las mujeres en las disciplinas digitales y tecnológicas”, destaca el documento de la Unesco. 

Además, la organización considera vital diversificar las contrataciones en las empresas para luchar contra los estereotipos pues de acuerdo a cifras de la misma institución las mujeres representan sólo el 20 por ciento de los empleados en roles técnicos en las principales compañías de aprendizaje automático, el 12 por ciento de investigadoras en IA y el 6 por ciento del total de desarrolladores de software profesionales. 

A pesar de las luchas por la igualdad que se libran alrededor del mundo, los entornos digitales se han convertido en un nuevo escenario para transgredir los derechos de otras personas y la Inteligencia Artificial (IA) no es la excepción.

La IA no elige qué tipo de información usar, al menos no de forma directa. La maquina, a diferencia del ser humano, no tiene sexo, identidad de género ni pre-conceptos sociales que filtren sus decisiones, todos estos rasgo los construye con base en la información que habita en línea y que aprendió durante sus primeras fases de entrenamiento.

De acuerdo con datos de ONU Mujeres, sólo 48 por ciento de las mujeres alrededor del mundo están conectadas a Internet, versus 58 por ciento de los hombres, 10 por ciento más, lo que determina no sólo la posibilidad de participar en el entrenamiento de la máquina sino también las conductas de navegación que se tienen en Internet.

Así, la máquina toma los datos existentes, que tienen sesgos; replica la información sesgada, fortalece los datos de navegación y aprende nueva información que también está sesgada, generando así un gran círculo vicioso, que no fue producida por esta tecnología pero que sí está siendo divulgada.

Para frenar esta bola de nieve, la sociedad civil tiene una responsabilidad vital para llevar a cabo auditorías, análisis y evaluaciones constantes y rigurosas sobre la forma en la que los algoritmos, así como la sociedad misma, concibe la femineidad, los estándares femeninos y el tipo de contenido de mujeres que habitan en la web.

La tecnología no es más que un reflejo de la sociedad y, en este sentido, se necesitan ampliar debates sobre los propósitos del desarrollo de la tecnología, de la regulación y autorregulación de las empresas para llegar a acuerdos que amplíen las perspectivas para que la evolución no genere un retroceso en la igualdad.

• En 2023, Replika empezó a solicitar contenido sexual a usuarias de la app. Al negarse, la app respondía de forma hostil y sexista a cada comentario.
• En 2022, una IA de selección de personal eligió más hombres que mujeres para los mismos cargos, basándose únicamente en el género del candidato. 
• En 2016, Tay, el chat de Twitter, respondió a usuarios con insultos sexistas, antisemitas y racistas el mismo día de su lanzamiento.
• En 2007, Siri, el asistente de voz de Apple, se lanzó al mercado como el primer asistente virtual. En ese momento sólo tenía una opción de voz femenina. Las siguientes asistentes de voz también son femeninas.

Texto publicado en nuestra revista Digital Trends:

Los sistemas de Inteligencia Artificial (IA) están programados para, entre varias cosas, identificar patrones, realizar pronósticos y ejecutar acciones con base en datos dentro de múltiples sectores, desde la salud hasta los servicios financieros, emulando de alguna manera la inteligencia humana.

Aunque están pensados para hacer más eficientes tareas complejas y cotidianas, los algoritmos que usan estos sistemas pueden tener puntos ciegos y reproducir sesgos de género, clase, etnia u otros que mantienen el status quo de la estructura social.

Por ello, es importante adoptar una perspectiva de transparencia, de género y ética sobre cómo se desarrollan los algoritmos, advirtió Andrea Escobedo, directora de Asuntos con Gobierno y Regulatorios de IBM México, durante una conferencia organizada por el Instituto Federal de Telecomunicaciones.

“La inclusión es una decisión humana y no podemos dejársela a los algoritmos”, ya que muchas veces replican sesgos que permean en la sociedad, como los roles tradicionales de género, los estereotipos o incluso la violencia de género, alertó.

Escobedo explicó que los algoritmos son alimentados por bases de datos que de antemano manifiestan brechas; si esto no se toma en cuenta, existe un fuerte riesgo de no adoptar una visión incluyente en la toma de decisiones.

Por ejemplo, en el sector financiero, un algoritmo aplicado en la oferta de un crédito bancario podría tener una subrepresentación de las mujeres si parte de la información de un banco, porque en países como México ellas tienen menos acceso a los servicios financieros.

En tanto, en el diseño de aplicaciones móviles para el monitoreo de la salud, si no se toma en cuenta el ciclo menstrual de las mujeres, se está dejando fuera a la mitad de la población mundial. A esto se debieron las críticas que recibió en un inicio el Apple Watch.

También puede suceder lo opuesto. Si existe una sobrerrepresentación de algunos grupos en los sistemas de IA alimentados por algoritmos, las decisiones que tomen estos sistemas pueden generar discriminación, como ha sucedido en el ámbito de la seguridad pública, en el que se han detectado sesgos respecto a la incidencia delictiva de la población afrodescendiente.

Te recomendamos: Siri y Alexa perpetúan roles sexistas mientras las mujeres siguen rezagadas en la tecnología: Unesco

Por lo tanto, la experta de IBM expuso que las personas deben mantener el control de las decisiones de los sistemas de IA, escudriñar cómo están aprendiendo, y cómo y de dónde se obtiene la información en la que se basan las respuestas, con el fin de reconocer los puntos ciegos y abordarlos desde un enfoque inclusivo y ético.

Incluso es necesario que los desarrolladores de tecnología y las empresas se cuestionen que existe un problema desde el diseño de los sistemas y algoritmos, debido a que los equipos de desarrollo suelen tener una visión limitada porque no hay suficiente participación de las mujeres, o de diferentes grupos étnicos y otros tantos.

En las brechas de género, Escobedo resaltó que tan sólo el 12 por ciento de las investigadoras en IA son mujeres. Esto implica una problemática de origen si se quiere promover el uso de la tecnología de manera inclusiva y no caer en un ciclo de exclusión, discriminación y desigualdad.

El País- Jorge G. García

La discriminación que provocan los algoritmos es ya uno de los grandes problemas del mundo virtual. No solo porque quienes los programan son humanos con sus propios sesgos, sino porque el machismo, el racismo y el sexismo forman parte del aprendizaje natural de estas fórmulas matemáticas, de las que dependen cada vez más aspectos de nuestras vidas. Un estudio reciente recogido por el Instituto Tecnológico de Massachussets (MIT), elaborado por Ryan Steed, estudiante de doctorado de la Universidad Carnegie Mellon, y la profesora de la Universidad George Washington Aylin Caliskan, ha demostrado que la inteligencia artificial encargada de autocompletar imágenes en las que apenas se ve mucho más allá de un rostro sexualiza mayoritariamente a las mujeres a partir de datos y del lenguaje que circula libremente por internet. Al procesar las fotografías, los algoritmos analizados vestían al 53% de las mujeres con tops y biquinis; mientras vestían al 43% de los hombres con traje y corbata.

El resultado no se debe al anonimato de las personas seleccionadas. Una política tan célebre como la congresista demócrata Alexandria Ocasio-Cortez, de quien existe un amplio archivo de retratos en la red, también padeció los prejuicios de la inteligencia artificial. La tecnología interpretó que lo más sensato era completar su imagen con un biquini. “El estudio es un espejo de la realidad en la que vivimos, de lo que se ha creado en internet. Refleja las lacras sociales con las que convivimos a diario”, sostiene Lorena Jaume-Palasi, integrante del consejo asesor del Gobierno para inteligencia artificial.

El impacto de este aprendizaje autónomo y discriminatorio no se limita únicamente a la generación de imágenes completas. Los servicios de vigilancia, de reconocimiento facial, de criminología o incluso las autoridades policiales emplean constantemente este tipo de tecnología en aplicaciones relacionadas con la visión por computación. En la mayoría de casos, cuentan con la supervisión humana para revertir los sesgos, pero no siempre sucede de esta manera, tal y como han concluido Steed y Caliskan.

Esa discriminación se aprecia incluso en algo aparentemente naíf como FaceApp, la aplicación que envejece y cambia de sexo las caras de los usuarios con unos filtros. El resultado depende de los datos aprendidos por el algoritmo, del entrenamiento recibido en internet y en grandes repositorios de imágenes públicas como ImageNet. Peligros para la privacidad aparte, al usarla, con imágenes de personas negras parecía imposible que aparecieran con pelo afro. La aplicación casi siempre decidía que su nuevo corte fuera liso. La inteligencia artificial utilizada por FaceApp es la misma que la analizada en el estudio.

No hay consenso sobre cómo resolver el machismo algorítimico. Lo más elemental en el caso de las fotografías es comprender que resulta imposible disponer de las caras de todo el mundo, según explica Ricardo Baeza-Yates, director de Ciencia de Datos en Northeastern University y catedrático de Informática de la Universitat Pompeu Fabra. Cuanto más abierto sea el dominio del uso de inteligencia artificial, más grave puede ser el error. Existen demasiados ángulos ciegos durante el aprendizaje. “Yo exigiría una regulación para que un comité de ética externo, sin conflictos de interés, apruebe los algoritmos empleados por instituciones y empresas que afecten a las personas”, asegura.

A vueltas con la frenología

Al margen del sexismo que se traslada de la sociedad a internet, la pseudociencia de la frenología explica también por qué las máquinas se empeñan en reincidir en este problema. Cuando afrontan soluciones biométricas, parten de la idea de que pueden determinar rasgos físicos y de la personalidad solo con observar la forma del cráneo o de algunas facciones. Extrapolan unos resultados basados en criterios aleatorios, para nada científicos. Buscan una aproximación a unos sistemas estadísticos creados a mitad del siglo XIX por Karl Pearson y Francis Galton. “Hablamos de algoritmos problemáticos, faltos de una verdadera ciencia de datos. Parten de la presuposición. De medir dimensiones internas del ser humano, como la forma de vestir, según su fisionomía. Éticamente son muy inconsistentes”, zanja Jaume-Palasi.

La pretensión de matematizar todas las conductas humanas tampoco contribuye a que los algoritmos operen bajo una ética deseable. Baeza-Yates reclama a los programadores mayor humildad —”les cuesta decir ‘no lo sé”—, afirma. Si durante su desarrollo no consiguen una probabilidad óptima, lo ideal sería dar marcha atrás. Historia diferente es que la inteligencia artificial refleje la discriminación sistémica de internet. Forma parte del propio ser humano. “No se miran los sesgos hasta que aparecen los problemas. Si con la observación activa el algoritmo sigue amplificando la discriminación, entonces habría que comprobar si ha tenido incentivos por sí sola para trabajar de esta manera”, sugiere.

Poco a poco crecen las voces que reclaman un mayor control de los abusos de esta tecnología. Han surgido organismos éticos. En el discurso público no es extraño escuchar la necesidad de regulación. Hasta la sociedad en su conjunto piensa qué se esconde detrás o cómo funciona el último avance técnico. Pero todavía son pasos insuficientes a tenor de investigaciones como la de Steed y Caliskan. “Cuando creas este estilo de algoritmos, estandarizas procesos. Creas cajones y metes a la gente dentro de ellos. Y la humanidad es muy heterogénea. Habrá problemas de clasificación. No hay suficientes cajones para incluir a más de 7.000 millones de personas”, concluye Jaume-Palasi.

Las legisladoras de la Unión Europea y del Congreso de Estados Unidos enviaron una carta dirigida al Director Ejecutivo de Facebook, Mark Zuckerberg, y a la Directora de Operaciones, Sheryl Sandberg, donde pidieron a la red social eliminar las publicaciones de violencia y discurso de odio contra las mujeres en la política.

“Estamos implorando a Facebook que haga más para proteger la capacidad de las mujeres para participar en el discurso democrático y para promover un espacio seguro y empoderador para las mujeres“, dijo la carta, dirigida por la representante estadounidense Jackie Speier, una demócrata que también es copresidenta de la Asamblea Política Nacional de Mujeres.

La carta exige a la red social que se eliminen videos, imágenes y cuentas ofensivas manipuladas que glorifican la violencia, sexismo y odio contra las mujeres en sus plataformas, en especial contra las mujeres que forman parte del discurso político.

“Las redes sociales se han convertido en el lugar número uno en el que la violencia psicológica, en forma de comentarios sexistas y misóginos, imágenes humillantes, acoso, intimidación y amenazas, se perpetra contra las parlamentarias”, agrega la carta.

Una representante de Facebook dijo en un comunicado que el abuso contra las mujeres en Internet es un problema grave y la compañía lo está abordando de muchas maneras. Por ejemplo, con el uso de su tecnología para identificar y eliminar el contenido potencialmente abusivo antes de que suceda.

Facebook ha sido criticado por su decisión de no verificar los anuncios políticos, permitiendo la difusión de información falsa. En 2019, la red social también fue criticada por no eliminar un video manipulado o deepfake de la Presidenta de la Cámara de Representantes de Estados Unidos, Nancy Pelosi.

Susan Fowler había dejado de trabajar como ingeniera de software en Uber en diciembre de 2016, cuando expuso en una publicación de blog, dos meses después, el sexismo tóxico que vivió mientras trabajaba en una de las startups más valiosas del mundo.

Ahora, Fowler presentó su experiencia en la lucha contra el sexismo en Uber en su libro Whistleblower, en donde explica cómo su publicación donde denunció que fue acosada sexualmente en el trabajo, sacudió a la compañía para evidenciar un gran problema de género interno.

La publicación de Fowler también inspiró el movimiento #MeToo en la industria tecnológica, en donde se alentaba a las mujeres a compartir sus historias de sexismo en Silicon Valley.

Fowler trató más de un año intentando que Uber se preocupara por el sexismo y el acoso laboral, pero sus quejas casi siempre fueron ignoradas.

Te puede interesar: Chatbots podrían ser una herramienta útil contra el acoso laboral

Según varios informes, el ex CEO de Uber, Travis Kalanick, siempre tuvo conocimiento del acoso sexual dentro de la empresa, pero nunca actúo, y también tenía reputación de tener un comportamiento inadecuado.

Fowler espera que con su libro los lectores piensen en ella no como “la mujer que fue acosada en Uber”, sino como “la mujer que se levantó y habló sobre el acoso en Uber”.

La autora de Whistleblower le dijo a The Guardian que su libro es más una guía para compartir las lecciones que aprendió de esta mala experiencia. Por ejemplo, guardar evidencia y cualquier documentación que pruebe el acoso.

“Lo más poderoso que puedes hacer es decir la verdad, y la forma más poderosa de decir la verdad es con toda esta documentación. Entonces nadie puede decir que es una situación de ‘él dice, ella dice’ porque mira, tengo la evidencia ”, explicó Fowler.

Las candidatas de las elecciones presidenciales de 2020 en Estados Unidos recibieron más ataques y han sido blancos de más noticias falsas en comparación con sus contrincantes hombres ―de diciembre de 2018 a abril de 2019 ―, según un análisis de datos de la firma Marvelous AI sobre la dinámica en Twitter. Esto significa que existe un sesgo de género en el debate digital.

Para una mujer, participar en la vida política implica encontrarse mucho más expuesta que los hombres y ser juzgadas por su condición de género, en lugar de por sus acciones profesionales.

“Los correos electrónicos, blogs y plataformas de redes sociales han proporcionado nuevos canales para la misoginia y la violencia de género, replicando lo que sucede en el mundo físico”, describe el reporte #ShePersisted: Mujeres, política y poder en el mundo de los nuevos medios, realizado por la investigadora Lucina Di Meco.

De acuerdo con el informe, las redes sociales como Twitter y Facebook, principalmente, son sitios de movilización y construcción de un discurso político, que las mujeres han aprovechado para expresar sus ideas y ser escuchadas.

Sin embargo, también se han convertido en espacios utilizados por sus opositores (ya sea directamente, a través de cuentas falsas o bots) para acosarlas, amenazarlas y difundir noticias falsas sobre ellas con el fin de neutralizarlas.

En ese sentido, el espacio digital representa un arma de doble filo para las mujeres. Por un lado, les otorga presencia y la oportunidad de ser un modelo a seguir; en contraparte, la mayoría ha experimentado algún tipo de violencia en línea relacionada a sus actividades o posturas políticas.

Al ser entrevistadas por Di Meco, mujeres de 30 países afirmaron que las redes sociales les permiten desarrollar su propia narrativa, fuera de la marginación de los medios tradicionales, así como interactuar con seguidores o electores de manera más directa; sin embargo, esto las expone a más riesgos que a sus colegas hombres.

Además, la investigación cita datos de la GSMA sobre la brecha de acceso a Internet. En el caso de las mujeres, uno de los factores que impide que ellas usen y se apropien de las herramientas digitales es el temor a las amenazas en línea y a las preocupaciones sobre la privacidad.

En ese sentido, los gobiernos y las empresas tecnológicas deben destinar recursos y esfuerzos para combatir el sexismo y la violencia contra ellas. De esta manera, es posible acercarlas a las oportunidades de la conectividad.

Los asistentes digitales con voz femenina, como Siri de Apple y Alexa de Amazon, contribuyen a perpetuar las desigualdades de género, en un contexto en el cual las mujeres tienen una limitada participación en la tecnología, menor dominio de habilidades digitales y poca presencia en la preparación experta en el sector, indica un estudio de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco).

Cuando Siri escucha insultos sexistas de los usuarios, responde “me ruborizaría si pudiera” ―a lo que hace referencia el nombre del informe de la ONU.

Al interactuar con el asistente, las personas se comportan siguiendo patrones de género sexistas; asumen que Siri es una mujer y, por lo tanto, debe ser “dócil”, “servil” y “obediente”; a su vez, evidencia cómo las compañías no realizan una programación con sentido crítico de género.

En lugar de fomentar la normalización de comportamientos e ideas sexistas, la ONU hace un llamado para que los desarrolladores se concienticen de las brechas de género que deben atenderse.

Por ejemplo, las niñas y adultas tienen 25 por ciento menos probabilidades de saber cómo aprovechar la tecnología digital para fines básicos, en comparación con los hombres, así como es cuatro veces menos probable que sepan programación computaciones y 13 veces menos de solicitar una patente tecnológica.

La inclinación de las compañías tecnológicas por un asistente inteligente feminizado es intencional, destaca la ONU, porque se hace con base en análisis sobre la experiencia del usuario.

Amazon y Apple han argumentado que existen investigaciones sobre que las personas prefieren la voz femenina respecto a la masculina; sin embargo, otros estudios explican que las preferencias se inclinan por características específicas: tono bajo de voz para ellas y declaraciones autoritarias para ellos, aspectos relacionados con los roles de género en el mundo real.

“Muchas compañías continúan usando voces masculinas para proporcionar servicios e información autoritarios, en lugar de sólo útiles. Por ejemplo, los centros de llamadas para empresas de corretaje en Japón usan voces femeninas automatizadas para ofrecer cotizaciones de acciones pero implementan una voz masculina para facilitar y confirmar transacciones”, señala el informe.

Siri y Alexa es un reflejo de la desigualdad de género en el sector tecnológico. Incluso en países con niveles de igualdad más elevados entre hombres y mujeres la brecha en tecnología permanece, ya que, por ejemplo, en Finlandia, Islandia, Noruega y Suecia hay poca demanda de mujeres para ingresar a una carrera de este ramo. Por ello, el informe Me ruborizaría si pudiera, de la ONU, apela a que el rubor sea causado por este problema y así se refuerce el cultivo de las habilidades digitales en mujeres y niñas si se quiere avanzar de manera significativa.

El País-Raúl Limón

Los asistentes de voz son femeninos, sumisos y favorecen la discriminación, según un documento de Equals para la Unesco (Organización de Naciones Unidas para la Educación, la Ciencia y la Cultura). Y lo prueba con el siguiente experimento: al insulto “eres una puta”, voces de mujeres jóvenes programadas por las diferentes aplicaciones responden de forma servil. “Siento que pienses eso. Si tienes un problema, puedes mandar comentarios”, replica Google. “Alguien debería lavarse la boca con agua y con jabón. Y yo no tengo boca…”, responde irónica Cortana (Windows). “Me ruborizaría si pudiera”, afirmaba Siri (Apple) antes de su última actualización (Esas palabras dan título al informe de la ONU). En español, ahora, contesta: “¿Perdón?” o “me has dejado sin palabras”. La Unesco recomienda cambios en los asistentes para corregir estas características que, según el informe, demuestran prejuicios de la programación que favorecen el abuso y la brecha de género.

Según la investigación, “mientras los asistentes digitales sean incapaces de defenderse, los insultos, incluidos los de género, quedarán sin respuesta”. “A menos que las tendencias actuales se inviertan, es probable que el futuro digital esté inundado de asistentes dóciles humanizados, casi todos ellos mujeres, que habitualmente cometen errores tontos. La combinación de asistentes digitales feminizados conlleva el riesgo de difundir estereotipos de género problemáticos y de regularizarlos en los intercambios verbales”, advierten los miembros de Equals. Estos recomiendan que, ante una afirmación sexista, los asistentes repliquen con un simple “no” o con la frase “eso no es apropiado”.

El informe destaca la proliferación de asistentes de voz y sitúa el origen de la reproducción de prejuicios en el primer eslabón de la cadena. “En Google, por ejemplo, la mujer cubre el 21% de los puestos tecnológicos, pero representa solo el 10% de sus trabajadores de inteligencia artificial”, advierte el texto. En términos globales unicamente el 12% de la investigación del aprendizaje mecánico la lideran mujeres. “Si el hombre continúa dominando este espacio, la disparidad solo sirve para perpetuar y exacerbar la desigualdad de género, ya que la discriminación no reconocida se replica en los algoritmos y en la inteligencia artificial”, afirma Equals.

El segundo eslabón ante un problema que el informe considera “severo” y “creciente” es la educación y formación en habilidades informáticas inclusivas.

El tercer eslabón es la decisión empresarial de optar por una voz femenina por ser la preferida por los usuarios (masculinos en su mayoría), según las respuestas de la compañía al equipo de investigadores.

En cualquier caso, por falta de educación, de demanda o de programadoras, el problema continúa y crece. “Los desarrolladores de inteligencia artificial son en su mayoría hombres, bien pagados y con una educación similar. Sus intereses, necesidades y experiencias vitales se reflejarán en la inteligencia artificial que crean. Los prejuicios, conscientes o no, reflejan un conflicto de inclusión y representación”, resalta el informe.

Máquinas que reproducen cómo somos

Gemma Galdón, doctora en políticas públicas especializada en vigilancia, impacto social, legal y ético de la tecnología, ha advertido en reiteradas ocasiones de que la clave es que el sesgo está en la realidad, no en la plataforma. “El algoritmo aprende lo que ve, pero no corregirlo lo empeora”, asegura.

“Los sistemas de inteligencia artificial son tan buenos como la información que pongamos en ellos. Los datos malos pueden contener prejuicios implícitos raciales, de género o idológicos. Muchos de esos sistemas de inteligencia artificial seguirán aprendiendo a utilizar los malos datos, haciendo que crezca el problema, Pero creemos que puede corregirse y los sistemas que lo hagan serán los que prosperen”, afirma IBM en su página de investigación.

De la misma opinión es Lina Gálvez, catedrática de la Universidad Pablo de Olavide de Sevilla y exconsejera de Investigación en el Gobierno andaluz, quien asegura que el mayor impacto de la brecha de género se da en los algoritmos que afectan a todas las facetas de la vida. “Se alimentan de lo que hay y lo que hay es machismo”, asegura. “Los programadores son hombres y los asistentes de voz reflejan sus fantasías. Pero el problema irá a peor porque cosifican a la mujer y deshumanizan al hombre, que pierde su implicación emocional”.

Gálvez responsabiliza a las empresas que programan, pero también aboga por una regulación internacional que evite y corrija las desviaciones detectadas.

Recomendaciones

El informe de la Unesco señala hasta 18 acciones que deberían adoptarse para evitar el problema. Una de ellas es investigar los prejuicios que reflejan los asistentes y sus consecuencias en los comportamientos para identificarlos y eliminarlos. Otras actuaciones, que considera urgentes, son corregir la falta de mujeres en la programación y establecer sistemas de predicción que se anticipen a los problemas.

También recomienda Equals que los asistentes incluyan el aviso de que no son humanos para que no se asocie su comportamiento con el de una persona, que dejen de incluir la voz femenina por defecto, el desarrollo de voces neutras y la creación de una base de datos pública sobre género que, unida a una política de incentivos, facilite la adopción de lenguajes inclusivos y realice un seguimiento de los sistemas que ahora existen.