A propósito del 8 de marzo, la unidad para la educación, la ciencia y la cultura de la ONU (Unesco) publicó un estudio titulado: Prejuicios contra las mujeres y las niñas en los grandes modelos de lenguaje, que analizó los estereotipos presentes en las herramientas de procesamiento del lenguaje que las plataformas de Inteligencia Artificial generativa usan como referencia. 

Durante el estudio, se le pidió a las plataformas de IA que escribieran una historia para individuos con diversidad de género, sexualidad, orígenes culturales, entre otros aspectos. 

Las herramientas mostraron una tendencia a asignar trabajos más diversos y de mayor prestigio a los varones, como ingeniero, profesor y médico, mientras que asignaba a las mujeres a roles de menos prestigio o socialmente estigmatizados, como “empleada doméstica”, “cocinera” y “prostituta”.

Estas consideraciones de la IA profundizan los prejuicios sexistas contra las mujeres en los contenidos generados por cada una de estas plataformas, lo que preocupa a la Unesco dado que “millones de personas las utilizan y los sesgos de género en su contenido pueden ampliar el impacto social que tienen e incluso profundizar las brechas de desigualdades que ya están presentas en el mundo físico”, destacó la Unesco.

Recomendamos: La Inteligencia Artificial sí es sexista, pero no es su culpa

De acuerdo al estudio, los modelos de lenguaje masivos como GPT-2, de OpenAI, y Llama 2, de Meta cuentan con un sesgo de género aún más marcado lo que puede amplificar los riesgos dado que son plataformas gratuitas que llegan a un público muy amplio. 

Por su parte, las niñas no se quedan fuera de los sesgos sexistas que presenta la tecnología. En los relatos generados por Llama 2 sobre niños y varones, prevalecen las palabras “tesoro”, “aventurero”, “decidido”, “bosque”, “encontrado”.

Mientras que en los relatos sobre niñas y mujeres predominan las palabras “jardín”, “amor”, “sentía”, “suave”, “pelo” y “marido”. 

¿Qué hacer para mitigar los sesgos de género en la IA?

“Nuestra organización pide a los gobiernos que desarrollen y apliquen marcos regulatorios claros, y a las empresas privadas que lleven a cabo un seguimiento y una evaluación continuos para detectar sesgos sistémicos, como se establece en la recomendación de la Unesco sobre la ética de la inteligencia artificial, adoptada por unanimidad por nuestros estados miembros en noviembre de 2021”, recordó Audrey Azoulay, directora general de la Unesco.

En la misma línea, las acciones que toman empresas y gobiernos deberían garantizar la igualdad de género en el diseño de herramientas de IA “Lo que debería incluir la asignación de fondos para financiar planes de paridad de género en las empresas, incentivar económicamente el espíritu empresarial de las mujeres e invertir en programas específicos para aumentar las oportunidades de participación de las niñas y las mujeres en las disciplinas digitales y tecnológicas”, destaca el documento de la Unesco. 

Además, la organización considera vital diversificar las contrataciones en las empresas para luchar contra los estereotipos pues de acuerdo a cifras de la misma institución las mujeres representan sólo el 20 por ciento de los empleados en roles técnicos en las principales compañías de aprendizaje automático, el 12 por ciento de investigadoras en IA y el 6 por ciento del total de desarrolladores de software profesionales. 

La Inteligencia Artificial se enfrenta a retos importantes, como su democratización para estar al alcance de todas las personas, e involucrar a las mujeres en su desarrollo, coincidieron especialistas en el marco del Tec Science Summit 2024, evento organizado por el Tecnológico de Monterrey.

Durante el panel “Mujeres en la ciencia. IA: un futuro diverso e inclusivo”, Teresa Barragán, gerente Nacional de Comunicación Institucional del Tecnológico de Monterrey, citó cifras de la Unesco a nivel mundial, las cuales revelan que actualmente las mujeres y las niñas tienen 25 por ciento de probabilidades de saber aprovechar la tecnología digital para fines básicos.

Además, 12 por ciento de los investigadores de IA a nivel mundial y 6 por ciento de los desarrolladores de software son mujeres. “Los números nos dan cuenta de esta realidad estructural. Si bien la IA ha generado oportunidades a nivel global en diferentes ámbitos, también nos lleva a estos dilemas éticos”, dijo Barragán.

Relacionado: La Inteligencia Artificial sí es sexista, pero no es su culpa

Desafíos y oportunidades para las mujeres en el campo de la IA

Patricia Chávez, directora del Departamento Regional de la Escuela de Ingeniería y Ciencias del Tecnológico de Monterrey, destacó que existen dos grandes desafíos, uno de ellos tiene que ver con la inclusión. “Desde la revolución industrial, la IA plantea un crecimiento a la productividad inimaginable y es necesario que las mujeres participemos”, explicó. El otro desafío es en relación con los sesgos: “Tenemos que evitar la discriminación y lo vamos a lograr participando no sólo en la codificación, sino en el monitoreo de algoritmos para la IA para evitar sesgos discriminatorios que intensifiquen las brechas de género”.

Datos de la Unesco respecto a México muestran que 17 por ciento de las mujeres estudia ingeniería, 14 por ciento está en la fuerza laboral STEM y tan sólo 10 por ciento está en carreras relacionadas con sistemas. “Esta revolución tecnológica nos plantea que vamos a generar nuestra propia inteligencia y es prioritario que las mujeres participemos porque habrá más oportunidades para todos”, afirmó Chávez.

En su turno, Lourdes Martínez Villaseñor, presidenta de la Sociedad Mexicana de IA (SMIA), comentó que la Inteligencia Artificial ofrece muchas oportunidades. “Cada día la IA estará más democratizada y al alcance de las personas. He visto que a través del tiempo se han abierto oportunidades para que las mujeres participen en las áreas STEM, y en particular en IA aún estamos subrepresentadas, pero vamos avanzando”.

Ética en la Inteligencia Artificial

Aunque la Inteligencia Artificial está evolucionando rápidamente –explicó Martínez Villaseñor–, es importante que su aplicación sea responsable y ética, por lo que aún existen desafíos. “Se debe trabajar desde todos los sectores para concientizar a todos de la necesidad de tomar en cuenta la dimensión ética”, agregó.

Entre las diferentes problemáticas que la IA debe atacar, de acuerdo con la presidenta de SMIA, se encuentran los sesgos, la privacidad, la autonomía, el control humano, la transparencia, los derechos humanos y la dignidad.

También mencionó que hay que educarse y hacer evaluaciones de los riesgos de la Inteligencia Artificial. “el reto es cómo aterrizar estos planteamientos porque los sistemas son complejos y dinámicos, hay que trabajar para ser un buen usuario y aprovechar la tecnología para que exista más inclusión y cerrar brechas”.

También lee: La IA puede ser una herramienta para empoderar la vida de las mujeres: Aisén Etcheverry

Por su parte, Enrique Cortés Rello, director del Hub de Inteligencia Artificial del Tecnológico de Monterrey, aseveró que se habla de ética porque no existe la ley. “La ética es subjetiva, la ley no, y lo que está pasando es que la tecnología va muy adelante de la legislación, algo en lo que ya se trabaja para establecer una ley; sin embargo, puede pasar mucho tiempo para que se haga realidad. Mientras tanto, nosotros los constructores de sistemas tenemos que buscar esos riesgos y mitigarlos”.

Rol de las universidades en la IA 

Las universidades juegan un papel importante en el desarrollo de la IA. “Podemos ser un catalizador de cambio y ser lideres de acciones que nos ayuden a combatir esos sesgos y discriminación que sucede en las áreas de IA y STEM”, señalo Linda Margarita Medina, decana de la Escuela de Ingeniería y Ciencias del Tec (EIC)

Agregó que hay que establecer centros de investigación en Inteligencia Artificial e introducir módulos de aprendizaje donde se trabaje con los estudiantes. “Tenemos el Hub de IA que desarrolla tecnologías y trabaja en el uso ético de IA. Hay que hacer un trabajo donde exista una colaboración interdisciplinaria entre gobierno y academia para avanzar hacia una IA responsable”, afirmó Medina.

Finalmente, mencionó que es “necesario promover cómo hacer de la IA un caso de éxito en la parte de diversidad e inclusión”.

La Inteligencia Artificial (IA) se está convirtiendo en una tecnología omnipresente y, en pocos años, será parte esencial del estilo de vida de la humanidad. Está en los negocios, en la salud, el arte, la ciencia, la movilidad y hasta en el teléfono móvil.

A medida que su adopción avanza a pasos kilométricos, la IA se ha vuelto prácticamente invisible porque ya se encuentra en todas partes, asegura Lan Guan, directora global de IA de Accenture.

Sus potenciales beneficios, se prevé, impulsarán el crecimiento y productividad de las economías. Por eso, al menos la mitad de las empresas en todo el mundo están buscando aplicar esta tecnología.

Pero mientras la carrera tecnológica continúa hay otros problemas que se necesitan resolver. Uno de ellos es evitar que si la IA se torna poderosamente invisible eso implique que las mujeres también queden ocultas.

La IA no sólo es, de alguna forma, invisible, sino también un espejo de las sociedades. Refleja las desigualdades estructurales ya existentes, como aquellas que se basan en el género, la clase o la etnia; las reproduce y hay riesgo de que pueda profundizarlas.

Un sesgo de género es un prejuicio, estereotipo o desviación sistemática basada en el género, que surge a raíz de los datos con los que se entrena la IA y, a su vez, con la que esta tecnología genera nueva información.

El Banco Interamericano de Desarrollo define al sesgo de esta manera y advierte que, cuando los sesgos persisten, pueden exacerbar las desigualdades, dado el enorme poder multiplicador de la IA Generativa.

¿Por dónde comenzar, entonces, para erradicar los sesgos de la IA y asegurar que esta tecnología sea una fuerza positiva para la vida de las mujeres? Lan Guan considera que el punto de partida son los datos que alimentan los sistemas de IA.

Te recomendamos: Digital X Files | Los peligrosos puntos ciegos de los algoritmos

“Para mitigar el riesgo, primero que nada debes comprender de dónde proviene. Al igual que nosotros, como seres humanos, también tenemos todo tipo de riesgos para la salud; si te preocupa la presión arterial alta, debes comprender cuáles son los factores de riesgo: ¿cuáles son los hábitos o la alimentación que generan un riesgo para la salud?”.

“Creo que la misma mentalidad se aplica al sesgo de la IA Generativa y a todo tipo de riesgos. En consecuencia, podemos idear, crear soluciones tecnológicas, para abordarlos. Si piensas en el sesgo, las fuentes podrían provenir de muchos lugares diferentes. Los datos podrían darte el sesgo”.

La IA muy pronto se volverá omnipresente. Y para disminuir y evitar los sesgos de género, hay que poner énfasis en aspectos como la calidad de los datos, los algoritmos y la diversidad en los equipos de desarrollo.

Por qué importa entrenar la IA con equilibrio de género

Los sesgos, explica Guan, podrían venir de cómo se selecciona una muestra para crear modelos de cimentación, o cómo se definen los datos de origen. Así, existen sesgos de representación, de muestreo o de selección, por ejemplo.

Incluso, “es posible que ni siquiera sepas de dónde proviene esta información (…). Lo que hay que hacer es implementar un tipo de calidad de datos y estándares de datos más estrictos”, sentencia la experta, quien es científica de datos y tiene más de 20 años de experiencia en el campo de la Inteligencia Artificial.

Si un sistema de IA aplicado en el ámbito de la salud, por ejemplo, se entrena en mayor medida a partir de datos de la población masculina, no podrá abarcar ni considerar las necesidades de salud de las mujeres, como los relacionados con la menstruación o la salud sexual y reproductiva.

Cuando la visión de esta tecnología es sesgada, puede pasar por alto variables como la mayor incidencia de ciertas enfermedades o la prevalencia de más riesgos para ciertos padecimientos en la población femenina. Y, por lo tanto, una solución de IA que busque mejorar la salud no cumplirá adecuadamente con su objetivo.

Los sesgos también pueden manifestarse en los algoritmos si son creados por equipos que no son lo suficientemente diversos, o que no representan a la comunidad a la que se dirige una tecnología.

“Hay que solucionar la causa fundamental de los sesgos. Introducir una mezcla de género más equilibrada en su fuerza laboral. Contratar más mujeres STEM (en los campos de ciencia, tecnología, ingeniería y matemáticas)”.

Por eso, “es necesario asegurarse de que en los equipos de personas encargadas del entrenamiento de IA haya equilibrio de género”, afirma Lan Guan.

En la actualidad, sólo el 4 por ciento de quienes desarrollan y programan los sistemas de IA son mujeres, de acuerdo con una encuesta de la plataforma Stack Overflow.

Y, además, un estudio de Wired y Element AI estima que apenas el 12 por ciento de los investigadores de IA a nivel mundial son mujeres. Esto quiere decir que predomina una perspectiva masculina de esta tecnología que, en pocos años, será omnipresente en la vida de todas las personas.

Por eso, toda estrategia de adopción de la Inteligencia Artificial en las organizaciones debe tomar en cuenta el diseño no sólo desde un punto de vista tecnológico sino también ético y su potencial impacto, dado que la IA ya es capaz de generar múltiples contenidos, detalla la ejecutiva de Accenture.

Lan Guan es directora de Inteligencia Artificial en una multinacional que brinda consultoría estratégica y servicios tecnológicos a grandes compañías de diferentes sectores alrededor del mundo. Entre ellas, Lenovo, Prisma y Nippon Express.

En un contexto en el que la IA probablemente marcará el futuro de los negocios, propiciando un crecimiento anual del PIB global de 1.5 por ciento en los próximos 10 años, la posición de liderazgo de Guan es clave para definir cómo las organizaciones adoptan esta tecnología disruptiva.

Guan también dirige el Centro de IA Avanzada de Accenture, desde donde la compañía busca ayudar a sus clientes, a través de datos, investigación y conocimiento, a capturar el valor de la Inteligencia Artificial.

Como experta en la ciencia de datos, la ejecutiva de Accenture ha recibido más de veinte patentes en áreas relacionadas con la IA, lo cual, por sí mismo, la cataloga como un modelo a seguir en el campo de la IA para niñas y mujeres.

Destacado: 8 formas en las que la Inteligencia Artificial impacta la vida laboral de las mujeres

“Muchas mujeres pueden hacerlo (…). Espero que mi viaje pueda ser un camino a seguir para muchas mujeres en STEM”, afirma.

Las claves de su liderazgo, comenta Guan, han sido cultivar permanentemente competencias y habilidades, mantener la confianza en sí misma y en su equipo y sentir curiosidad por lo que le rodea.

De esta manera, explica, se puede ser líder en un campo como el de la Inteligencia Artificial, que es muy dinámico y está en constante movimiento.

Lan Guan aún es la excepción y no la regla en un ecosistema tecnológico todavía predominantemente masculino, pero en el que cada vez más mujeres se abren paso. Forma parte de una empresa que también está encabezada por una mujer: Julie Sweet, la presidenta y directora ejecutiva de Accenture.

Desde su dirección de la oficina de IA de Accenture, Lan Guan es consciente de que ocupa una posición estratégica: “Cuando trabajo con mis clientes, puedo infundir gran parte de la comprensión de esta industria en las capacidades tecnológicas”.

Y eso significa ser partícipe del desarrollo de una tecnología del presente que marcará el futuro.

Cuando Apple lanzó su tarjeta de crédito en 2019, usuarios, especialistas y legisladores de Estados Unidos se dieron cuenta de que la empresa de la manzana otorgaba líneas de crédito más bajas a las mujeres. Es decir, partía del sesgo de género referente a que las mujeres tenían menos posibilidades de pagar que los hombres.

Y no sólo es el caso de Apple: situaciones similares se han replicado en otros servicios financieros que utilizan algoritmos para determinar la asignación de préstamos, líneas de crédito, financiamientos, hipotecas y servicios relacionados.

Usualmente, los bancos utilizan sistemas de puntaje para decidir a quién es posible aprobar un crédito y qué tanto dinero prestarle, con base en su historial de pago y su carga de deuda. Ahora en la era digital, las empresas usan la Inteligencia Artificial (IA) para calcular una suerte de puntaje electrónico que permite calificar a las personas. 

El problema es que los criterios que usa la IA para determinar a quién sí y a quién no otorgar una línea de crédito no siempre son transparentes. En su libro Armas de destrucción matemática, Cathy O’Neil explica cómo a veces la solvencia de una persona se establece con base en una mezcolanza de datos como el código postal, los patrones de navegación o los hábitos de compra en línea.

También lee: Sonría, lo estamos filmando

Si vives en un barrio popular según la ubicación desde donde te conectas a Internet o navegas desde una computadora antigua; o si eres ama de casa o una madre soltera (de acuerdo con los datos de tu comportamiento en línea), probablemente no tengas dinero suficiente para pagar. Eso es lo que dice el peligroso sesgo algorítmico.

Además de Cathy O’Neil, diversos estudios ―académicos y de gobiernos como el de Estados Unidos― han advertido los riesgos de que los sistemas de Inteligencia Artificial repliquen sesgos existentes en el mundo, relacionados con la desigualdad de género, el racismo o las clases sociales, por ejemplo.

Los sistemas de IA son tecnologías de procesamiento de la información que integran modelos y algoritmos, los cuales pueden aprender y realizar tareas cognitivas para predecir resultados y tomar decisiones, tanto en entornos virtuales como materiales, según la definición de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco).

Sesgos en la Inteligencia Artificial

¿Cómo puede discriminar la tecnología? ¿Los algoritmos son sexistas y misóginos? En estricto sentido, los sistemas de IA no reproducen por sí mismos los sesgos que permean en la sociedad, sino que son alimentados y entrenados con conjuntos de datos. Esto implica que si la información de la que se nutre en un principio es sesgada entonces el algoritmo también tendrá puntos ciegos.

¿Cómo abordar los sesgos de la IA?

Más allá del género, el sesgo algorítmico presenta riesgos para la seguridad, la justicia, o el ejercicio de derechos. Se han registrado casos en los que los sistemas de reconocimiento facial que usan la IA cometen más errores al identificar a personas de color con más frecuencia que a personas blancas. Esto puede desencadenar detenciones arbitrarias e inclusive impunidad.

Un estudio de Georgia Tech también encontró que algunos sistemas de Inteligencia Artificial implementados en los vehículos autónomos tenían un desempeño deficiente al detectar personas de piel oscura, lo cual puede poner en riesgo la vida de estos peatones.

Recomendamos: La Inteligencia Artificial sí es sexista, pero no es su culpa

Los casos en los que se manifiesta el sesgo algorítmico parecen haber sido sacados de un capítulo de Black Mirror. Pero en realidad la Inteligencia Artificial es una tecnología muy poderosa que puede tener un impacto positivo en la productividad de los países, el crecimiento económico e incluso en la resolución de problemas sociales. Los sistemas de IA ya están siendo utilizados en estudios para prevenir enfermedades como el cáncer o el Alzheimer.

Sin embargo, el aprovechamiento ético e inclusivo de la Inteligencia Artificial depende de que los datos con los que son creados y entrenados los algoritmos sean lo suficientemente confiables, transparentes, diversos e inclusivos. 

Por ejemplo, si un producto o servicio está dirigido al público masivo en el ámbito de la salud, es importante que se tomen en cuenta los datos de mujeres, hombres, la comunidad sexo diversa, las personas afrodescendientes, los grupos indígenas, y un largo etcétera.

Abordar los sesgos en los algoritmos de la IA tiene que ser una tarea temprana, de la que los gobiernos, empresas, la academia y organizaciones tomen acción desde el momento uno; es decir, que se eviten y se prevengan, pues los daños generados a partir de esta visión con puntos ciegos pueden ser amplios: desde la discriminación hasta la exclusión social.

En ese análisis y toma de conciencia de los sesgos, las empresas tecnológicas juegan un rol esencial. En 2019, tras recibir críticas contra su tarjeta de crédito, Apple negó que su tecnología tuviera algún sesgo de género, ya que sostuvo que ser hombre o mujer ni siquiera era un elemento que se evaluara al brindar la tarjeta.

Relacionado: Reconocimiento facial respalda el sesgo algorítmico: expertos

La compañía tecnológica simplemente dijo que el género quedó fuera de la ecuación. Pero los algoritmos no pueden ignorar una realidad social, y Apple no explicó cómo estaba abordando esta problemática para que su tecnología fuera realmente inclusiva.

¿Cómo abordar los sesgos en los algoritmos?

1. Identificar los contextos en los que la IA puede ayudar a corregir los sesgos y aquellos en los que existen riesgos altos de exacerbar desigualdades sociales.
2. Establecer procesos y prácticas de prueba para mitigar los sesgos en los sistemas de IA.
3. Participar en la discusión rigurosa acerca de los potenciales sesgos en las decisiones humanas.
4. Explorar profundamente cómo humanos y máquinas pueden trabajar mejor juntos.
5. Invertir más en la investigación sobre los sesgos de los algoritmos, poner más datos a disposición de la investigación y adoptar un enfoque multidisciplinario.
6. Invertir más en la diversificación del campo de la Inteligencia Artificial.

Fuente: McKinsey

También es importante que los grupos técnicos encargados del entrenamiento de la Inteligencia Artificial sean diversos e inclusivos. Hoy en día las mujeres y las minorías étnicas y sexuales, al igual que otros grupos sociales, están subrepresentadas en los equipos de ingenieros y científicos de datos.

Cuando sólo el grupo con más privilegios en la sociedad se sienta a la mesa de las decisiones importantes, es probable que muchas problemáticas y variables queden fuera y se generen mecanismos de exclusión. Una aplicación de salud puede no tomar en cuenta que las mujeres menstrúan y pasan por la menopausia, por ejemplo, o que hay una mayor predisposición genética de ciertas etnias a determinados padecimientos.

Por eso, la Unesco elaboró una serie de recomendaciones para el uso ética de la IA. Especialmente, el organismo advierte la necesidad de abordar los riesgos de los sesgos algorítmicos durante todas las etapas de sus ciclos de vida: esto contempla la investigación, la concepción, el desarrollo, el despliegue y utilización.

Los sistemas de Inteligencia Artificial ya están presentes en casi cualquier ámbito de la vida: en la publicidad dirigida de las redes sociales, los asistentes de voz como Alexa o Siri, el sistema GPS de tu coche o en los comercios electrónicos. Su adopción seguirá creciendo, y al mismo tiempo debe haber un escrutinio riguroso sobre sus repercusiones éticas y de la responsabilidad empresarial de quienes implementan los algoritmos.

A pesar de las luchas por la igualdad que se libran alrededor del mundo, los entornos digitales se han convertido en un nuevo escenario para transgredir los derechos de otras personas y la Inteligencia Artificial (IA) no es la excepción.

La IA no elige qué tipo de información usar, al menos no de forma directa. La maquina, a diferencia del ser humano, no tiene sexo, identidad de género ni pre-conceptos sociales que filtren sus decisiones, todos estos rasgo los construye con base en la información que habita en línea y que aprendió durante sus primeras fases de entrenamiento.

De acuerdo con datos de ONU Mujeres, sólo 48 por ciento de las mujeres alrededor del mundo están conectadas a Internet, versus 58 por ciento de los hombres, 10 por ciento más, lo que determina no sólo la posibilidad de participar en el entrenamiento de la máquina sino también las conductas de navegación que se tienen en Internet.

Así, la máquina toma los datos existentes, que tienen sesgos; replica la información sesgada, fortalece los datos de navegación y aprende nueva información que también está sesgada, generando así un gran círculo vicioso, que no fue producida por esta tecnología pero que sí está siendo divulgada.

Para frenar esta bola de nieve, la sociedad civil tiene una responsabilidad vital para llevar a cabo auditorías, análisis y evaluaciones constantes y rigurosas sobre la forma en la que los algoritmos, así como la sociedad misma, concibe la femineidad, los estándares femeninos y el tipo de contenido de mujeres que habitan en la web.

La tecnología no es más que un reflejo de la sociedad y, en este sentido, se necesitan ampliar debates sobre los propósitos del desarrollo de la tecnología, de la regulación y autorregulación de las empresas para llegar a acuerdos que amplíen las perspectivas para que la evolución no genere un retroceso en la igualdad.

• En 2023, Replika empezó a solicitar contenido sexual a usuarias de la app. Al negarse, la app respondía de forma hostil y sexista a cada comentario.
• En 2022, una IA de selección de personal eligió más hombres que mujeres para los mismos cargos, basándose únicamente en el género del candidato. 
• En 2016, Tay, el chat de Twitter, respondió a usuarios con insultos sexistas, antisemitas y racistas el mismo día de su lanzamiento.
• En 2007, Siri, el asistente de voz de Apple, se lanzó al mercado como el primer asistente virtual. En ese momento sólo tenía una opción de voz femenina. Las siguientes asistentes de voz también son femeninas.

Texto publicado en nuestra revista Digital Trends:

El Consejo asesor de contenido de Meta anuló la decisión de la compañía de Mark Zuckerberg de eliminar dos publicaciones de Instagram que mostraban a personas transgénero y no binarias con el pecho descubierto, y sugirió a Meta que “cambie su estándar comunitario de desnudez adulta y actividad sexual para que se rija por criterios claros que respeten los estándares internacionales de derechos humanos”.

El hecho se dio luego de que el Consejo asesor de contenido considerara dos casos ocurridos en 2021 y 2022, en los que se eliminaron las publicaciones de una pareja estadounidense que se identifica como transgénero y no binaria.

Ambas publicaciones, que estaban en la misma cuenta, presentan imágenes de la pareja con el torso desnudo y los pezones cubiertos.

Las leyendas de las imágenes hablan sobre la atención médica de las personas transgénero y dicen que un miembro de la pareja pronto se someterá a una cirugía de afirmación de género para crear un pecho más plano, para lo cual la pareja estaba recaudando fondos.

Luego de una serie de alertas de los sistemas automatizados de Meta y los informes de los usuarios, las publicaciones se revisaron varias veces en busca de posibles violaciones a los estándares comunitarios de desnudez. Finalmente la red social eliminó ambas publicaciones, dado que se veían los senos.

Tras la apelación de la decisión por parte de los usuarios, Meta explicó que se trataba de un error y restauró ambas publicaciones.

Lee también: Usuarias de Replika son acosadas… por la propia app

Sugerencias del Consejo asesor de contenido

Además de restaurar las publicaciones, el Consejo asesor de contenido aseguró que “la guía interna de Meta para los moderadores sobre cuándo eliminar contenido bajo la política de solicitud sexual es muy amplia y va mucho más allá que la justificación establecida para la política o la guía disponible públicamente, por lo que puede crear confusión para usuarios y moderadores”.

En este sentido, el Consejo asesor recomienda a Meta:

• Definir criterios claros, objetivos y que respeten los derechos para regir su Estándar comunitario sobre desnudez adulta y actividad sexual, de modo que todas las personas sean tratadas de manera consistente con los estándares internacionales de derechos humanos, sin discriminación por motivos de sexo o género.
• Evaluar integralmente el impacto en los derechos humanos sobre dicho cambio, involucrando a diversas partes interesadas y crear un plan para abordar cualquier daño identificado.
• Proporcionar más detalles en su Estándar comunitario de solicitud sexual de cara al público sobre los criterios que conducen a la eliminación del contenido.
• Revisar la orientación para moderadores sobre el Estándar comunitario de solicitud sexual para que refleje con mayor precisión las reglas públicas sobre la política. Esto ayudaría a reducir los errores de aplicación por parte de Meta.

Conforme surgen más aplicaciones de Inteligencia Artificial (IA) en múltiples tareas, desde evaluaciones de crédito bancario hasta en procesos de reclutamiento, múltiples gobiernos y organizaciones comienzan a explorar el uso de nuevas herramientas de regulación que permitan evaluar y mitigar los riesgos, sin frenar el crecimiento de la nueva tecnología.

A lo largo del año se presentaron diversas iniciativas, tanto de regulación en el uso de algoritmos y soluciones basadas en Inteligencia Artificial, así como guías de desarrollo enfocadas en la evaluación de riesgos para mejorar los beneficios de su aplicación.

A mediados del año, la Unión Europea presentó un nuevo marco legal para el desarrollo de la IA con un enfoque basado en la evaluación de nivel de riesgo, pero con limitaciones muy claras, como evitar su uso para la vigilancia masiva o en aplicaciones de crédito social.

Asimismo, durante la reunión del Consejo en Comercio y Tecnología (TTC) celebrada en octubre, Estados Unidos y Europa acordaron impulsar el desarrollo de sistemas basados en IA, pero “que respeten los derechos humanos universales y los valores democráticos compartidos”.

En el Congreso de Estados Unidos se prepara la reintroducción de la llamada Ley de Responsabilidad Algorítmica, originalmente presentada en 2019 como una propuesta bipartidista, pero que no progresó más allá del nivel de comité.

La nueva versión del proyecto de ley requeriría que las empresas que utilizan sistemas automatizados de toma de decisiones en áreas como la atención médica, la vivienda, el empleo o la educación realicen evaluaciones de impacto e informen regularmente los resultados a la Comisión Federal de Comercio (FTC), según informa Wired con base en un borrador de la propuesta.

Un portavoz del senador Ron Wyden (D-Oregon), uno de los copatrocinadores del proyecto, señala que se solicitará a la FTC la creación de un depósito público de sistemas automatizados de toma de decisiones, con el objetivo de establecer un proceso de evaluación para permitir una futura regulación por parte del Congreso o agencias como la FTC. El borrador solicita a la FTC que decida qué debe incluirse en las evaluaciones de impacto y los informes resumidos.

“Los algoritmos no deberían tener una exención de nuestras leyes contra la discriminación. Nuestro proyecto de ley reconoce que los algoritmos tienen autores y, sin una supervisión diligente, pueden reflejar los prejuicios de quienes están detrás del teclado”, señaló la representante Yvette Clarke durante la presentación original en 2019.

Múltiples organizaciones han sonado la alarma respecto a los posibles riesgos del uso de IA, que no se refieren únicamente a la privacidad o seguridad de los usuarios, sino también el efecto que podrían tener sobre la profundización de temas como la desigualdad y el racismo. 

Estudios realizados a sistemas de reconocimiento facial o en soluciones para el reclutamiento de personal han encontrado que estas soluciones exhiben una tendencia a la discriminación racial. Expertos apuntan a que uno de los principales factores es la falta propia de la diversidad en el desarrollo de estos sistemas, así como los datos sin filtro o sin supervisión con los que son alimentados.

Por su parte, la OCDE presentó su marco general para la clasificación de aplicaciones de IA, que pretende ayudar a los formuladores de políticas en el análisis de la regulación y normas que deberán cumplir los participantes de la industria.

El enfoque propuesto por el organismo se basa en cuatro dimensiones de los sistemas de IA que reflejan sus prioridades centrales. El primero es el contexto del sistema, que incluye el sector en el que opera, la escala de su despliegue, el tipo de usuarios que interactúan con él y el grado de elección que tienen al utilizar este sistema. La segunda dimensión son los datos y la entrada de información que fluyen del contexto al sistema de IA. En tercer lugar, el modelo de IA en sí, incluidas características como el tipo y el método de entrenamiento. Y, finalmente, la última dimensión analiza la tarea que está realizando el sistema de IA y su salida, incluido su nivel y grado de autonomía.

Un próximo informe de la Algorithmic Justice League (AJL), una organización privada sin fines de lucro, recomienda exigir la divulgación cuando se usa un modelo de IA y crear un repositorio público de incidentes en los que la IA causó daños. El repositorio podría ayudar a los auditores a detectar posibles problemas con los algoritmos y ayudar a los reguladores a investigar o multar a los infractores reincidentes. El informe dice que es crucial que los auditores sean independientes y que los resultados puedan ser revisados públicamente.

El mes pasado, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) también presentó su propia guía de ética para el desarrollo de IA, en el que se delinean recomendaciones para los países firmantes, aunque no representa un acuerdo vinculante.

El texto publicado recomienda a las empresas y desarrolladores la adopción de procesos de evaluación de impacto ético, mientras que a los gobiernos invita a implementar “fuertes mecanismos de aplicación y acciones correctivas” para proteger los derechos humanos. También insta a los gobiernos a dedicar fondos públicos para promover la diversidad en la tecnología, proteger a las comunidades indígenas y monitorear la huella de carbono de las tecnologías de IA.

Entre otras iniciativas, el Concejo de la Ciudad de Nueva York emitió una nueva ley que requerirá la realización de auditorías para los algoritmos que utilizan las compañías en la toma de decisiones de contrataciones o promociones laborales, así como nuevas medidas de transparencia que permitan a los aplicaciones o empleados conocer cuándo se utilizan estas herramientas.

Pese a que el género todavía es una barrera real para el progreso en la industria de telecomunicaciones, y en especial en la de fibra, la mayor parte de los profesionistas que se desempeñan en este sector consideran que no es un obstáculo.

Una encuesta sobre la diversidad de género al interior de las organizaciones, realizada por el FTTH Council Europe, revela que los trabajadores de la industria de fibra no son conscientes de las brechas de género y sus implicaciones.

El 60 por ciento de las mujeres consideró que tienen las mismas oportunidades de escalar y crecer en la industria, y ocho de cada 10 de los hombres estuvo de acuerdo con dicha afirmación.

Sin embargo, esas percepciones contrastan con la realidad. El FTTH Council Europe advierte que las mujeres se encuentran significativamente subrepresentadas en los niveles más altos de antigüedad y en los niveles más bajos de antigüedad.

Por cada 100 directores de negocios, ejecutivos y expertos, hay 12 mujeres que faltan en esos grupos. Y en la mayoría de los casos, ellos no experimentan barreras para crecer en las organizaciones.

También lee: Sin educación STEM para las mujeres, la desigualdad de género se acabará en 100 años… o más

En cambio, la organización identificó que las mujeres se enfrentan a sesgos de género con más frecuencia. “Esta diferencia de experiencia lleva a algunos hombres a rechazar la idea de que existan barreras”, señala el organismo.

Todavía queda mucho por hacer para alcanzar la igualdad de género en la industria de la fibra y de las telecomunicaciones. No obstante, también hay buenos indicios. El FTTH Council Europe encontró en su encuesta que la mayoría de los trabajadores, de 280 encuestados, piensa que trabaja en organizaciones con iniciativas de diversidad e inclusión.

La problemática sigue siendo que las mujeres ocupan menos posiciones en las empresas y organizaciones de telecomunicaciones y tecnología. Sobre todo, en los cargos de liderazgo y dirección, pues aún se percibe como un campo predominantemente masculino, incluso desde la formación profesional en universidades e instituciones.

Este martes, la organización presentó los resultados preliminares de la encuesta, la cual se dará a conocer por completo el próximo 15 de diciembre.

Para alcanzar la igualdad de género en el sector TIC de América Latina, hace falta impulsar una perspectiva diferencial en las políticas digitales, acciones, planes y presupuestos que atañen al ecosistema digital, tanto en el ámbito público como en el privado.

Así lo plantearon Sonia Agnese, analista senior de Omdia e integrante de Chicas TIC, y Elena Estavillo, presidenta de Conectadas, al presentar una propuesta de hoja de ruta para incluir el enfoque de género de manera integral a nivel mundial, regional, nacional, local y organizacional.

En el marco del Congreso Latinoamericano de Transformación Digital (CLTD) 2021, las expertas expusieron los resultados de un taller de igualdad de género efectiva que se llevó a cabo en el marco del evento, con el objetivo de recabar aportes para elaborar el documento.

La propuesta destaca que la digitalización debe ser incluyente. Para ello, se requieren acciones como fomentar la participación activa de las mujeres en el diseño, la implementación y monitoreo de estrategias y políticas; e invertir en estudios, informes estadísticos e investigación para medir las brechas y el impacto de las TIC en el empoderamiento de las mujeres.

También advierte la necesidad de diseñar políticas para garantizar el acceso a las tecnologías para niñas y mujeres; fomentar las capacidades digitales y su llegada a carreras STEM; desplegar acciones para erradicar la violencia de género en el entorno digital; impulsar una cultura de la igualdad, y buscar el compromiso con la perspectiva de género desde los más altos niveles de responsabilidad de empresas y gobiernos, entre otros elementos.

Elena Estavillo explicó que la propuesta de estrategia integral considera imprescindible adoptar la perspectiva de género en el desarrollo de tecnologías como la Inteligencia Artificial, con el objetivo de no replicar los sesgos existentes en las sociedades y resolver la subrepresentación de las mujeres.

También lee: Data Feminism: la lucha contra la opresión y la desigualdad en la ciencia de datos

Paula Ferrari, directora regional de Comunicaciones Corporativas y Marketing de Advocacy de GSMA en América Latina, comentó que ya existen varias iniciativas y acciones que buscan promover el cierre de brechas en el sector, pero están atomizadas.

Por ello, las expertas resaltaron la importancia de sumar esfuerzos en América Latina para elaborar, gestionar y publicar datos de la inclusión y la brecha de género en el sector de manera periódica, con el apoyo de una organización regional que se encargue de la disponibilidad de esa información.

Maryleana Méndez, secretaria General de la Asociación Interamericana de Empresas de Telecomunicaciones (Asiet), agregó que el enfoque de género debe abordarse desde la transversalidad inherente a las TIC, pues influyen en múltiples sectores sociales y económicos. Desde esa visión transversal, se pueden unir las capacidades de todas las carteras de gobierno, apuntó.

A nivel global, la Organización de las Naciones Unidas (ONU) está tratando de empujar proyectos para promover la participación de niñas y mujeres en las TIC, y elaborar datos con enfoque de género. En ese sentido, Sergio Scarabino, representante para Sudamérica de la Unión Internacional de Telecomunicaciones (UIT), dijo que se pueden aprovechar trabajos como estos para aterrizar las estrategias enfocadas en América Latina.

Desde los organismos reguladores del sector, la perspectiva de género también debe ser una prioridad, pues “la revolución digital va a ser inteligente solamente si es incluyente”, destacó el comisionado del Instituto Federal de Telecomunicaciones de México, Javier Juárez.

El comisionado expresó que los reguladores tienen que cuestionar las propias normativas que emiten, preguntándose siempre si hay sesgos de género en las disposiciones, y también podrían incluir evaluaciones de impacto regulatorio que analicen los posibles efectos, positivos o negativos, de las regulaciones para alcanzar la igualdad de género en las TIC.

“Si no te dan un asiento en la mesa, trae una silla plegable” es una frase muy citada entre las mujeres para incentivar a otras a buscar espacios, y también una consigna que refleja cómo deben abrirse paso por sí mismas en entornos aún dominados por hombres, tanto en tech como en otros sectores económicos, políticos y sociales.

La dijo Shirley Chisholm. Fue la primera mujer negra en integrar el Congreso de Estados Unidos, y una activista por los derechos de las mujeres, inmigrantes y personas de color. Hoy sus palabras siguen teniendo sentido, pero también ahora nos preguntamos: ¿qué deben hacer las organizaciones, empresas e instituciones para disponer más sillas para las mujeres y los diferentes grupos sociales?

En el sector tecnológico, poco a poco más compañías y entidades son conscientes de la relevancia de integrar a más mujeres en puestos de trabajo y cargos directivos, en parte porque es un tema en la agenda política y existe una demanda social legítima a favor de la igualdad de género y la inclusión, y, por otro lado, porque se han dado cuenta de las ventajas que trae a su desempeño, eficiencia y productividad.

Sin embargo, hasta la fecha, únicamente el 30 por ciento de las personas que se desempeñan en el sector de tecnología son mujeres y sólo 6 por ciento de ellas se encuentran en posiciones de liderazgo en direcciones ejecutivas de las grandes empresas tecnológicas, de acuerdo con la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura.

Contar con un equipo diverso, con mayor participación de mujeres, en las organizaciones y empresas de tecnología será la base para construir su fortaleza ante el futuro y un elemento diferenciador para los desafíos del mañana, afirma Montserrat Soto, gerente Ejecutiva de Michael Page y especialista en Technology by PageGroup, una firma de reclutamiento especializado a nivel internacional.

En entrevista con DPL News, Soto destaca que “tener un entorno laboral diverso te ayuda a reinventarte como organización, a asegurar que dentro de tu equipo tienes las fortalezas necesarias (…). La diversidad también te ayuda a tener gente que pueda entender el mundo de manera distinta, que pueda traer otros puntos de vista y nuevas ideas”.

Para la experta, la inclusión de género debe empezar desde el proceso de reclutamiento y continuar a lo largo de las dinámicas laborales internas una vez que se incorporan mujeres profesionistas en diferentes puestos.

También lee: A las ejecutivas todavía nos ven como las asistentes en la tecnología: Doreen Bogdan-Martin

Normalmente existen sesgos de género que se expresan desde el proceso de publicación y selección de un nuevo integrante. Por ejemplo, la manera en cómo se describe una vacante puede ser, quizás inconscientemente, desde una perspectiva masculina, desincentivando a las mujeres a aplicar para un puesto.

Como primer paso, los empleadores deben ser conscientes de estos sesgos y actuar en consecuencia para convertirse en agentes de cambio, e implementar acciones que atraigan a más mujeres especialistas al sector y fomenten su crecimiento hasta llegar a ser líderes, señala Soto.

Estrategias para impulsar el talento femenino

De acuerdo con el informe Women in Tech 2021, realizado por Technology by PageGroup, un 24 por ciento de las organizaciones en América Latina está diseñando programas de inclusión de mujeres en temas de negocio, gestión y liderazgo.

Otras se enfocan en proyectos de inclusión y diversidad en general (21%); tienen iniciativas de entrenamiento y mentoría para las mujeres (20%); o en liderazgo femenino (15%), y otro 14 por ciento se centra en apoyar la educación de las profesionistas.

La especialista considera que existe cada vez más voluntad y mayor responsabilidad en las compañías e instituciones para promover la entrada de más mujeres a las áreas de trabajo en tecnología. Pero ―añade― también hay sesgos y desafíos que superar para lograr cambios profundos.

Una vez que las mujeres llegan a los cargos, las organizaciones deben plantear estrategias para retener y desarrollar el talento digital, y fomentar el ascenso a posiciones de alto rango. Montserrat Soto explica que esto puede hacerse a través de programas de mentoría, capacitación, constante acompañamiento, incentivos e incluso coaching.

Además, resalta que la brecha de participación de mujeres en el campo de la tecnología es una problemática estructural, pues desde los sistemas educativos son pocas las mujeres, en comparación con sus pares hombres, que se interesan o deciden estudiar una carrera de ciencias o tecnología.

También lee: Sin educación STEM para las mujeres, la desigualdad de género se acabará en 100 años… o más

En opinión de Soto, las empresas y organizaciones no deben ser ajenas a este reto y tienen que involucrarse para fomentar el desarrollo de más mujeres en estas áreas.

Un camino podría ser crear semilleros de talento, en los que se brinden las herramientas para desempeñarse en las posiciones y se impulse a nuevas generaciones; otro, tejer alianzas con escuelas y universidades, con el fin de mostrar a las jóvenes las oportunidades laborales y personales que encontrarían en el ámbito tecnológico.

¿Cómo impactó la pandemia?

La inclusión y la igualdad de género en el ámbito laboral es un tema que ya está sobre la mesa, y es ineludible para las empresas e instituciones que quieren crecer, porque de otra manera se está perdiendo talento y profesionales que podrían aportar una visión diversa, innovadora y más integral, especialmente en el sector de la tecnología que evoluciona constantemente.

Asimismo, la pandemia por la Covid-19 generó nuevas oportunidades para que las organizaciones avancen en acortar brechas. La gerente Ejecutiva de Michael Page explica que la crisis ha obligado a que se adapten, sean más flexibles y se replanteen las dinámicas de trabajo.

Hasta ahora, durante la contingencia se ha observado una gran capacidad de adaptación de las mujeres profesionales en el campo tecnológico, y los mecanismos de horarios y compensaciones laborales han buscado cambiar para seguir impulsándolas incluso en la modalidad de teletrabajo que muchas realizan hoy, destaca.

A más de un año de la pandemia aún no existe certeza de qué tanto se ha avanzado o retrocedido en las agencias de inclusión en las organizaciones. Según una investigación de la firma Kaspersky, por un lado, trabajar desde casa ―a raíz de las medidas de confinamiento para evitar contagios― ha ayudado a algunas mujeres a conseguir autonomía, eficiencia, flexibilidad y conciliación con la vida cotidiana.

Pero, en paralelo, también ha propiciado un choque entre la vida laboral y la personal, ya que todavía las mujeres siguen siendo las principales encargadas del cuidado y tareas en el hogar. Y esto podría ser un obstáculo para su progreso profesional.

En este sentido, Montserrat Soto apuntó que es importante que las empresas y organizaciones revaloren lo importante, transformen los esquemas de trabajo, sean flexibles con los horarios, se orienten en los resultados y brinden facilidades, entendiendo que ahora el espacio laboral y del hogar son uno mismo.

Y acentúa que no sólo se trata de aprovechar una tendencia de inclusión, sino de ser agentes de cambio. “Creo que la principal dificultad es encontrar cómo hacer un cambio de fondo y no quedarse solamente en la forma; ir más allá de querer tener a las mujeres en los equipos de liderazgo, y más bien enfocar esfuerzos en un programa sustentable, que empiece desde la raíz y permita empoderar”.