En un nuevo capítulo de la polémica serie de documentos de Facebook filtrados por el diario estadounidense The Wall Street Journal (WSJ), se destaca lo difícil que es para la red social crear sistemas de Inteligencia Artificial (IA) que detecten de forma confiable el contenido que infringe sus reglas.

De acuerdo con el informe, los algoritmos de Facebook tienen problemas para identificar contenido como videos de disparos grabados en primera persona, discursos racistas, accidentes automovilísticos con “desmembramiento y entrañas visibles”, amenazas a niños transgénero e incluso peleas de gallos.

Un ejemplo es el tiroteo de Christchurch, en Nueva Zelanda, que fue grabado en directo por el perpetrador en primera persona y se mantuvo en línea durante varias horas.

Algunos ingenieros de Facebook estiman que el uso de esta tecnología apenas logra borrar de la red entre el 3 y el 5 por ciento del contenido violento o de odio. Y pronostican que, a menos que haya un cambio de estrategia, “será muy difícil que la empresa logre subir estas cifras más allá del 10 al 20 por ciento en el corto o mediano plazo”.

También aseguran que Facebook está haciendo un mal uso de las herramientas de Aprendizaje Automático, dado que estas apenas funcionan relativamente bien en áreas como el spam, pero se quedan cortos en otras más sensibles y controvertidas que requieren la atención humana con el mismo contexto cultural.

La respuesta de Facebook

Guy Rosen, vicepresidente de Integridad de Facebook, respondió al informe diciendo que los documentos están desactualizados y confirmó que casi un 50 por ciento del contenido problemático en la red social ha sido eliminado por la IA, incluso antes de que los usuarios lo denunciaran.

Destaca que su estrategia de moderación se basa en la “prevalencia”, la cantidad de contenido de odio que las personas visualizan en la plataforma, más que en la eliminación como tal.

“La prevalencia es la métrica más importante y no representa lo que detectamos, sino lo que nos perdimos y lo que la gente vio, y es la métrica principal de la que somos responsables”, dijo Rosen. “Hemos tenido éxito en moverlo hacia abajo, y es en lo que realmente nos enfocamos”.

Es decir, que cuando los algoritmos de Facebook no están completamente seguros de que un contenido infringe las reglas, el material sospechoso se muestra con menos frecuencia a los usuarios. Pero las cuentas que lo publican quedan impunes.

El WSJ también denuncia que debido a que la compañía apoya ampliamente el uso de su tecnología de IA desde 2019, prescindió de parte del equipo humano que se encargaba de revisar el contenido para ahorrar costos. La revisión humana costaba 2 millones de dólares a la semana ó 104 millones al año, según el documento interno.

ACTUALIZACIÓN: Luego de que Twitter restaurara la cuenta del presidente de Estados Unidos, Donald Trump, éste volvió a compartir publicaciones que infringieron la política de glorificación de la violencia de la red social, por lo que fue suspendido su perfil de forma permanente.

“Después de una revisión detallada de los tuits recientes de la cuenta @realDonaldTrump y el contexto que los rodea, específicamente cómo se reciben e interpretan dentro y fuera de Twitter, hemos suspendido permanentemente la cuenta debido al riesgo de una mayor incitación a la violencia”, explicó la compañía en un comunicado.

—————

Luego del bloqueo de la cuenta de Twitter del aún presidente de Estados Unidos, Donald Trump, debido a tres publicaciones que infringen con sus políticas, la compañía informó que el bloqueo persistiría hasta la eliminación de los tres tuits del ejecutivo, los cuales fueron eliminados recientemente.

Twitter señaló que, aunque restableció la cuenta, ésta permanecería inactiva 12 horas después de la eliminación del contenido.

Uno de los tuits publicados por Trump incluía un video que pedía el fin de la violencia suscitada en Capitol Hill, aunque también decía: “Te amamos, eres muy especial”, lo cual mandaba dobles señales para los violentos protestantes.

Los otros dos tuits incluían declaraciones que sugerían falsamente que los resultados legítimos de las elecciones presidenciales eran fraudulentas y que las acciones ocurridas en Washington estaban de alguna forma justificadas.

Anteriormente, Trump disfrutó del beneficio que Twitter otorga para políticos, que permite la extensión especial para el contenido que normalmente violaría sus términos y condiciones de servicio. Dicha extensión permite que el contenido permanezca exento en interés de la opinión pública, pero con limitaciones para su difusión.

Aunque de momento Trump no tiene acceso a su cuenta oficial de Twitter, su subjefe de gabinete, Dan scavino, publicó un comunicado la madrugada del jueves acerca del proceso de certificación del voto electoral. La declaración nuevamente incluyó lenguaje que incitaba a la disputa y rechazo de los resultados electorales. Hasta el momento permanece disponible y sin alertas por parte de Twitter.

Si bien Twitter ha planteado regresar el control de la cuenta a Trump, Facebook ha tomado una acción opuesta y prohibió por completo a Trump de su plataforma, por al menos las siguientes dos semanas, tiempo en el que su mandato concluye.

Nuevo año, imagen nueva. Facebook anunció una serie de cambios en la imagen de su red social principal, la cual permitirá una mejor experiencia de navegación para el usuario. Las modificaciones incluyen un feed dedicado, mejoras a la navegación, los controles de administración, notificaciones relevantes y funciones mejoradas de seguridad.

En cuanto al nuevo diseño, la compañía señaló que se diferenciará a los perfiles personales de los públicos, para que el usuario navegue más ágilmente; y las noticias dedicadas del news feed podrán seguir tendencias y unirse a conversaciones, además de sugerir nuevas páginas, perfiles de figuras públicas, grupos y contenido popular. La compañía también señaló que está agregando un nuevo formato de preguntas y respuestas basado en texto.

Para las páginas públicas, Facebook ahora eliminará los “Me gusta”, para centrarse en los seguidores y simplificar la forma en que las personas se conectan con sus páginas favoritas.

Sobre las funciones de seguridad, la compañía con sede en Menlo Park, California, aseguró que detectará actividad que no esté permitida en la plataforma, lo que incluye el discurso de odio, contenido violento, sexual o spam, además de la suplantación de identidad, para volver su plataforma un lugar seguro para todos.

El grupo de teorías conspirativas QAnon se ha vuelto tristemente célebre, pero luego de que Facebook, Twitter y otras plataformas emprendieran acciones en su contra, YouTube se unió a la causa y anunció que eliminaría el contenido relacionado a QAnon.

La plataforma de Alphabet señaló que ha eliminado decenas de miles de videos de QAnon y cancelado cientos de canales bajo sus políticas vigentes, particularmente los de aquellos que amenazan explícitamente o niegan la existencia de elementos violentos importantes.

“Todo este trabajo ha sido fundamental para frenar el alcance de las conspiraciones dañinas, pero podemos hacer aún más para abordar ciertas teorías de conspiración que se utilizan para justificar la violencia del mundo real, como QAnon”, escribió YouTube en su blog.

Asimismo, la compañía compartió que está ampliando las políticas contra el odio y el acoso para prohibir el contenido dirigido a un individuo o grupo con teorías de conspiración que se han utilizado para justificar la violencia. Además, se comprometió a continuar adaptando  sus políticas ante la naturaleza cambiante de los grupos conspiracionales.

La red social de videos cortos propiedad de ByteDance, TikTok, eliminó casi dos docenas de cuentas responsables de promover propaganda del Estado Islámico (ISIS).

De acuerdo con informes de The Wall Street Journal, los videos presentaban a los militares armados de ISIS, cadáveres y mujeres que se proclamaban “yihadistas y orgullosos”.

Para la filial china se han presentado una serie de dificultades, pues es acusada por legisladores y competidores estadounidenses de censurar el contenido “incómodo” para los gobernantes en Beijing.

“Prohibimos permanentemente tales cuentas y dispositivos asociados tan pronto como se identifiquen, y desarrollamos continuamente controles cada vez más fuertes para detectar proactivamente actividades sospechosas”, dijo un portavoz de TikTok en un comunicado a CNBC.

TikTok prohíbe a los grupos terroristas hacer uso de la aplicación; sin embargo, la compañía dice que tales pautas representan un problema para las empresas de redes sociales. Asimismo, un portavoz dijo que ninguno de los videos relacionados con ISIS tenía visitas de más de dos dígitos.

El Tiempo

Bianca Devins, de 17 años, acudió en la noche del pasado sábado a un concierto en Nueva York, con Brandon Clark, un chico de 21 al que conocía desde hacía algunos meses.

Al día siguiente fue encontrada muerta en su ciudad natal, Utica, situada a unos 400 kilómetros de la ciudad estadounidense.

Clark le había cortado la garganta y luego había subido fotos del cuerpo a redes sociales, antes de ser detenido mientras se propinaba cuchilladas a sí mismo en el cuello, explicó la policía.

El joven fue ingresado en un hospital y ha sido acusado de asesinato en segundo grado.

Imágenes del cuerpo de Devins aparecieron en la cuenta de Brandon Clark en la app encriptada Discord, así como en 4chan y en su perfil de Instagram, de donde fueron eliminadas, pero no antes de ser copiadas y compartidas por otros usuarios.

Una imagen subida a su cuenta de Instagram el domingo por la mañana mostraba el cadáver de Devins y la leyenda “Lo siento Bianca”, publicaron The New York Times y Buzzfeed.

Según este último medio, la foto seguía en la red el domingo por la noche, aunque había sido puesta tras un filtro de contenido sensible. Instagram eliminó la cuenta de Clark el lunes.

Las imágenes generaron indignación por la distribución de contenido tan violento en redes sociales y puso de manifiesto los problemas que tienen las compañías tecnológicas para evitarlo.

Instagram afirmó el lunes que estaba trabajando con la policía, utilizando tecnología y reportes de usuarios para eliminar todas las cuentas que estaban distribuyendo las imágenes.

“Estamos tomando todas las medidas para remover este contenido de nuestras plataformas”, aseguró un portavoz de Facebook, dueña de Instagram.

“Nuestro objetivo es actuar lo más pronto posible. Siempre hay espacio para mejorar”, añadió.

“Nuestros pensamientos están con los afectados por este trágico evento”.

Según la policía, Clark también se sacó selfies junto con el cadáver, cubierto con una lona, después de que llegara la policía al lugar.Una “joven maravillosa”

La familia de la chica la describió como una “artista talentosa, una hermana querida, hija y prima, y una joven maravillosa”.

En un comunicado subido a Facebook, la policía de Utica explicó que todo indica que la pareja se conoció en Instagram hace dos meses.

Utilizaron esta red social como principal forma de comunicación y su relación “progresó hasta convertirse en íntima personalmente”, según la policía.

“Habían pasado tiempo juntos y conocían las familias de ambos”.

La noche anterior a los hechos, habían estado juntos en un concierto y discutieron cuando volvían del mismo, tras salir del local alrededor de las 10 p. m. y encaminarse hacia Utica, situada a casi 400 kilómetros.

Tras recibir reportes de usuarios de Discord, la policía estaba ya buscando a la pareja cuando Clark llamó a los servicios de emergencia para hacer “afirmaciones incriminatorias”, así como aludir a que iba a “hacerse daño a sí mismo”.Similitudes con Christchurch

“La difusión online de imágenes gráficas tiene similitudes espeluznantes con los tiroteos que ocurrieron en Nueva Zelanda solo hace cuatro meses”, afirmó la reportera de Tecnología de la BBC, Zoe Kleinman.

“En aquella ocasión, el asesino publicó en vivo en Facebook un video durante 17 minutos mientras disparaba a hombres, mujeres y niños en dos mezquitas.

“Facebook fue criticada por no eliminar todos los rastros de las imágenes inmediatamente después de los hechos”, dijo Kleinman.

Los gigantes tecnológicos han explicado que están desarrollando herramientas avanzadas automatizadas para mantener la seguridad de sus plataformas.

“Pero tragedias como esta sugieren que todavía queda un largo camino por recorrer, y que la paciencia tanto de sus usuarios como de las autoridades globales se está agotando”, dice Kleinman.

Ahora puedes recibir notificaciones de BBC News Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.