Las protestas que iniciaron en Estados Unidos para combatir la discriminación y desigualdad racial se han extendido más allá de las calles. La Internet es un espacio donde no existen las fronteras y todos deberíamos poder ser libres, para ello, los gigantes tecnológicos como Facebook, han decidido comenzar a contribuir con la libertad en línea dentro de sus plataformas.

Instagram, filial de Facebook, anunció la revisión de sus políticas para identificar cómo son tratadas las personas de color en la plataforma. 

“Hemos trabajado mucho para entender mejor el impacto que nuestra plataforma tiene en diferentes grupos, y eso nos ha ayudado a llegar a donde estamos hoy. Pero aún hay más por hacer en ciertas áreas clave a través de acciones que se ciñen a nuestros compromisos más generales como compañía”, compartió la plataforma en un comunicado.

En concreto, se hará una revisión en torno a cuatro principales tópicos como son: 

1. Acoso: las desigualdades comienzan con los problemas de seguridad, por lo que se abordarán posibles déficits en los productos de Instagram y sus políticas, para proteger a la comunidad negra.
2. Verificación de cuentas: se analizarán los criterios para verificación de cuentas actuales, realizando los cambios necesarios para ser más inclusivos.
3. Distribución: se revisará la filtración de contenido de los apartados Explorar y Hashtags para comprender dónde podría existir una vulnerabilidad que genere sesgo.
4. Sesgo algorítmico: dado que los humanos son quienes entrenan a las inteligencia artificiales, existen sesgos propios de los prejuicios y costumbres de las sociedades, para ello, Instagram dijo que analizaría detenidamente los sistemas subyacentes para evitar el sesgo.

La compañía agregó que las revisiones llevarán tiempo; sin embargo, compartirán los avances en los siguientes meses. Asimismo, señaló que los esfuerzos no sólo abordarán a la comunidad negra, sino que además se atenderán las necesidades de otros grupos como el LGBTTTQ+, activistas de amor propio (body positive), entre otros.

Por medio de una carta, más de 140 científicos financiados por la fundación Chan Zuckerberg (CZI) ―una iniciativa filantrópica fundada por el CEO de Facebook, Mark Zuckerberg, y su esposa, la pediatra Priscilla Chan― hicieron un llamado a los magnates para reformar la aplicación de políticas laxas de la red social, en torno al lenguaje que incita al odio o glorifica la violencia, informó el Washington Post.

La lista de signatarios incluye a profesores de más de 60 instituciones de investigación líderes, incluidas la Universidad de Harvard, la Universidad de Stanford y la Universidad de California en San Francisco.

En la carta, los científicos señalan que su misión es “investigar formas de mejorar nuestro mundo”, por lo cual se han sentido “profundamente preocupados” por la postura que Facebook ha tomado ante los recientes acontecimientos, así como la difusión de información errónea y el lenguaje divisivo y antiético.

Anteriormente, Facebook tomó la decisión de no participar como “árbitro” ante la situación social que se vive en Estados Unidos luego de la muerte de George Floyd, un ciudadano de la comunidad afroamericana que falleció por brutalidad policiaca a manos de un expolicía blanco.

La respuesta del Presidente Donald Trump ante las movilizaciones que pedían justicia y respeto para las vidas de los afroamericanos fue contundente: “Cuando comience el saqueo, comenzará el tiroteo”, publicó en su cuenta oficial de Facebook, por lo que los científicos argumentan que el mensaje ignora las reglas de la compañía contra la incitación a la violencia.

Trump lanzó el mismo mensaje en su cuenta de Twitter; sin embargo, la plataforma del pájaro azul restringió el tuit para así limitar su alcance.

CZI extendió un comunicado por el cual señaló que la fundación es una organización filantrópica que no compartía oficinas, personal e incluso su misión es distinta: “construir un futuro más inclusivo, justo y saludable para todos a través de nuestro trabajo en ciencia, educación y en temas relacionados con la justicia y las oportunidades.”, asentaron en su comunicado.

En una carta privada a los empleados de CZI, Chan, quien comparte el rol de CEO junto con su esposo, prometió apoyo para el movimiento Black Lives Matter, al tiempo que reconoció que los empleados y beneficiarios de CZI podrían sentir tensión derivadas de las políticas de Facebook.

“Sé que muchos de ustedes también están luchando con las políticas de Facebook a la luz de su lugar en este momento. También es frustrante sentir que su trabajo está retrasado por algo sobre lo que no tiene control. Es un peso difícil de cargar, especialmente ahora, y lo siento”, escribió Chan al equipo de CZI.

“Aunque somos organizaciones separadas con diferentes valores, misiones y equipos, la realidad es que compartimos el mismo líder y no estaríamos aquí sin el éxito de Facebook”, continuó Chan.

“Creo que estamos impulsando un progreso real y un cambio en la ciencia, la educación, la reforma de la justicia penal, la vivienda, la inmigración, en nuestra comunidad local y más allá”, recalcó.

ABC Tecnología-Francesco Rodella

¿Google aplica realmente las políticas de igualdad por las que asegura apostar? Algunas decisiones tomadas recientemente por la compañía con respecto a unas aplicaciones dirigidas a la comunidad LGTB+ han despertado en los últimos dos meses las quejas de una parte de este colectivo. Pero el gigante tecnológico no parece dispuesto, al menos de momento, a despejar las dudas. Ante una campaña online de protesta a la que se han sumado más de 130.000 usuarios y las peticiones de aclaración de algunos políticos estadounidenses, activistas y desarrolladores, Google mantiene la ambigüedad sobre si quiere o no evitar discriminaciones en la gestión de sus servicios.

“Claves para recuperarse de las atracciones hacia el mismo sexo”: así se titula uno de los apartados de la app Living Hope Ministries, actualmente disponible en la tienda digital de Google. Este y otros contenidos del mismo tipo, ofrecidos por una congregación religiosa de Arlington, Texas (EE UU), que propone estrategias supuestamente útiles para cambiar orientación sexual, desencadenaron el pasado diciembre la indignación de la asociación Truth Wins Out (TWO), una ONG que declara entre sus objetivos extirpar “mentiras” y “falsos” mitos acerca de las personas LGTB+.

En ese momento, la app se podía descargar también en las plataformas de Apple, Microsoft y Amazon. TWO lanzó una serie de peticiones para pedir que estas compañías la eliminaran. “Los programas exgay [teorías que sostienen que la orientación sexual de una persona se puede cambiar] no funcionan, destruyen vidas, y están condenadas por cualquier organización sanitaria respetable del mundo”, escribía el director ejecutivo de la ONG, Wayne Basen, en una de ellas.

A los pocos días, tanto Apple como Amazon y Microsoft retiraron la polémica aplicación de sus propias tiendas digitales. Google, en cambio, no tomó la misma decisión. Entre enero y febrero, TWO lanzó entonces una campaña de protesta en Change.org (apoyada, al día de hoy, por más de 137.000 usuarios) y en las redes sociales y también obtuvo el respaldo, en las últimas semanas, de los representantes del Partido Demócrata Brad Hoylman y Brian Sims. Ambos recordaron que las terapias de conversión del orientamento sexual están prohibidas por ley en 15 estados del país norteamericano. El pasado lunes, también se sumó a estas apelaciones Sean Strub, alcalde de Milford (Pennysilvania) y activista.

Google mantiene la app disponible en su store y, hasta el momento, no ha tomado cartas en el asunto públicamente. Este periódico le ha preguntado si los contenidos de Living Hope Ministries pueden violar las políticas de uso de Play Store y en qué se basa la diferencia de evaluación del caso con respecto a sus competidores directos, pero no ha recibido declaraciones al respecto. “Nos sentimos estupefactos e indignados ante la actitud arrogante y sin tacto de Google”, asegura Besen. “Se creen demasiado grandes y especiales como para tener que contestar a las manifestaciones de preocupación de miles de personas”, añade.

Ricky Chaelett, líder de Living Hope Ministries, ha afirmado que no se siente “un terapeuta” ni que considera la homosexualidad como una enfermedad, y que simplemente él y sus compañeros han dedicado sus vidas “a querer a las personas en conflicto con su identidad de género”. Su organización “se adhiere a una visión tradicional, ortodoxa, de la expresión sexual, abrazada durante miles de años por cristianos y judíos”, pero “no obliga a nadie” a descargar la app, ha dicho también.

Suspensiones de apps dirigidas al público homosexual

Wapo y u4bear son dos aplicaciones de encuentros enfocadas al público homosexual. Ambas denuncian que Google en los últimos meses les ha reservado un trato poco transparente y posiblemente discriminatorio a la hora de revisar lo que comparten sus usuarios. Sendas aplicaciones declaran tener altos estándares de moderación de sus propios contenidos, tanto a través de software como de manera manual.

Andrei Pop de Wapo cuenta que, el pasado diciembre, la app desapareció de Play Store en todo el mundo después de que un revisor de Google Malasia accediera a ella y detectara la foto pública de un hombre en ropa interior. Según Pop, la compañía explicó a los responsable de la app que el contenido fue considerado “sexualmente explícito”, y por lo tanto inadmisible. Wapo volvió a estar disponible al día siguiente, pero sus responsables mandaron a la compañía una carta de protesta.

En el escrito, recuerdan que en Malasia la homosexualidad es ilegal y preguntan si esto ha influido en la decisión del revisor sobre la foto considerada inadmisible. También afirman que en apps utilizadas por el público hetero y descargables en Play Store, como Instagram o Twitter, el mismo tipo de contenidos circula libremente sin que se le considere pornográfico. “¿Para las apps hetero hay unas normas y para las apps gay otra? Google no ha sido justo con nosotros”, clama Pop. El representante de Wapo agrega que la compañía no ha contestado a la carta.

Damián Ramírez de u4bear asegura que dos de las tres apps que administra, dirigidas al público gay, han sido eliminadas temporalmente de Play Store en repetidas ocasiones y que solo en un caso se les ilustró explícitamente el motivo (según afirma, el mismo que determinó la suspensión de Wapo). Ramírez afirma que las cesaciones provisionales han durado, según el caso, “entre cuatro y 15 días”. También mantiene que estos problemas, que asegura no haber tenido en otras plataformas digitales, suponen un daño económico y la necesidad de revisar continuamente los términos y condiciones de los servicios que ofrece.

A finales de enero, otra app LGTB+, llamada Scruff, prohibió a los usuarios que cuelguen como foto de perfil imágenes de personas en ropa interior, bañador o bikini. Eric Silverberg, su CEO, explica que la decisión se debe a que Scruff ha sufrido repetidamente suspensiones temporales en algunas plataformas digitales y quiere evitar que el problema se repita por posibles disconformidades con las políticas de servicio de los stores. “Una eliminación definitiva sería devastadora para nuestra compañía y nuestra comunidad”, remarca. Scruff no indica qué tiendas digitales en concreto suspendieron la app, pero la BBC y otros medios británicos reportaron que eso ocurrió en enero en Play Store.

¿Cómo se revisan los contenidos de Play Store?

Google no ha respondido a una petición de aclaración de este periódico sobre cómo se ha llevado a cabo la revisión de los contenidos de las apps en esos casos, cómo se realiza generalmente y si se trata de procesos estandarizados pese al país en el que se produzca. Tampoco ha comentado las demás valoraciones de estas empresas.

En la web de Play Store, se indican entre los contenidos inadecuados los que tienen como objetivo “provocar placer sexual”, así como los que “incitan al odio” hacia personas o grupos “por motivos de orientación sexual” e “identidad de género”. También se dice que la compañía puede rechazar, suspender o retirar las apps si determina, “según su propio criterio”, que no cumplen con el acuerdo de desarrolladores, las “políticas aplicables” u otras “condiciones de servicio”.