Meta creó un nuevo sistema de Inteligencia Artificial (IA) que usa el “aprendizaje de pocas oportunidades” en aras de combatir el creciente contenido perjudicial que prolifera en sus plataformas, como el discurso de odio.

La gigante tecnológica estadounidense informó que el contenido dañino continúa evolucionando rápidamente, y ha sido impulsado por acontecimientos recientes o personas que buscan nuevas formas de evadir sus sistemas, por lo que es crucial que los sistemas de IA evolucionen junto con él.

Sin embargo, aclaró que por lo regular se necesitan varios meses para recopilar y etiquetar miles, incluso millones, de ejemplos necesarios para capacitar a cada sistema de IA individual para detectar un nuevo tipo de contenido.

Para abordar este asunto, Meta creó el nuevo sistema Few Shot Learner (FSL), o una tecnología de Inteligencia Artificial que puede adaptarse para tomar medidas sobre tipos nuevos o en evolución de contenido dañino en cuestión de semanas en lugar de meses.

Este nuevo sistema de IA utiliza un método llamado “aprendizaje de pocas oportunidades”, en el que los modelos comienzan con una comprensión general de muchos temas diferentes y luego usan muchos menos ejemplos etiquetados, e incluso ninguno, para aprender nuevas tareas.

FSL puede emplearse en más de 100 idiomas y aprende de diferentes tipos de datos, como imágenes y texto. Meta detalló que la nueva tecnología le ayudará a aumentar los métodos con los que cuenta para combatir el contenido perjudicial.

La compañía detalló que FSL funciona en tres escenarios distintos, cada uno de los cuales requiere de diferentes niveles de ejemplos etiquetados:

1. Zero-shot: descripciones de políticas sin ejemplos. 

2. Few-shot with demonstration: descripciones de políticas con un pequeño conjunto de ejemplos, menor a 50. 

3. Low-shot with fine-tuning: los desarrolladores de Aprendizaje Automático pueden ajustar el modelo base de FSL con un número reducido de ejemplos de entrenamiento.

Meta informó que probó FSL en algunos hechos recientes, como la identificación de contenido que comparte información engañosa o sensacionalista sobre la vacunación contra la Covid-19. Mientras que, en una tarea separada, el nuevo sistema de IA mejoró un clasificador existente que marca el contenido que se aproxima a incitar a la violencia.

Por otro lado, Meta detectó que FSL también ayudó a reducir la prevalencia de otro contenido nocivo como lo es el discurso de odio. Y finalmente advirtió que espera que, con el tiempo, este sistema de IA mejore el rendimiento de todos sus sistemas de Inteligencia Artificial de integridad al permitirles aprovechar una base de conocimiento y una columna vertebral única para hacer frente a muchos tipos diferentes de violaciones.

En un nuevo capítulo de la polémica serie de documentos de Facebook filtrados por el diario estadounidense The Wall Street Journal (WSJ), se destaca lo difícil que es para la red social crear sistemas de Inteligencia Artificial (IA) que detecten de forma confiable el contenido que infringe sus reglas.

De acuerdo con el informe, los algoritmos de Facebook tienen problemas para identificar contenido como videos de disparos grabados en primera persona, discursos racistas, accidentes automovilísticos con “desmembramiento y entrañas visibles”, amenazas a niños transgénero e incluso peleas de gallos.

Un ejemplo es el tiroteo de Christchurch, en Nueva Zelanda, que fue grabado en directo por el perpetrador en primera persona y se mantuvo en línea durante varias horas.

Algunos ingenieros de Facebook estiman que el uso de esta tecnología apenas logra borrar de la red entre el 3 y el 5 por ciento del contenido violento o de odio. Y pronostican que, a menos que haya un cambio de estrategia, “será muy difícil que la empresa logre subir estas cifras más allá del 10 al 20 por ciento en el corto o mediano plazo”.

También aseguran que Facebook está haciendo un mal uso de las herramientas de Aprendizaje Automático, dado que estas apenas funcionan relativamente bien en áreas como el spam, pero se quedan cortos en otras más sensibles y controvertidas que requieren la atención humana con el mismo contexto cultural.

La respuesta de Facebook

Guy Rosen, vicepresidente de Integridad de Facebook, respondió al informe diciendo que los documentos están desactualizados y confirmó que casi un 50 por ciento del contenido problemático en la red social ha sido eliminado por la IA, incluso antes de que los usuarios lo denunciaran.

Destaca que su estrategia de moderación se basa en la “prevalencia”, la cantidad de contenido de odio que las personas visualizan en la plataforma, más que en la eliminación como tal.

“La prevalencia es la métrica más importante y no representa lo que detectamos, sino lo que nos perdimos y lo que la gente vio, y es la métrica principal de la que somos responsables”, dijo Rosen. “Hemos tenido éxito en moverlo hacia abajo, y es en lo que realmente nos enfocamos”.

Es decir, que cuando los algoritmos de Facebook no están completamente seguros de que un contenido infringe las reglas, el material sospechoso se muestra con menos frecuencia a los usuarios. Pero las cuentas que lo publican quedan impunes.

El WSJ también denuncia que debido a que la compañía apoya ampliamente el uso de su tecnología de IA desde 2019, prescindió de parte del equipo humano que se encargaba de revisar el contenido para ahorrar costos. La revisión humana costaba 2 millones de dólares a la semana ó 104 millones al año, según el documento interno.

El regulador de las telecomunicaciones en el Reino Unido, Ofcom, estableció una guía para que las plataformas de video protejan a sus usuarios de contenidos que pudieran resultar dañinos.

De acuerdo con una investigación hecha por Ofcom, un tercio de los usuarios del Reino Unido dijo haber presenciado o experimentado contenido de odio, en tanto que una cuarta parte afirma haber estado expuesta a contenido violento o perturbador.

La misma investigación revela que uno de cada cinco usuarios de Internet que consumen video ha estado expuesto a videos o contenido que fomenta el racismo.

1. Proporcione reglas claras sobre la carga de contenido. Subir contenido relacionado con terrorismo, material de abuso sexual infantil o racismo es un delito. Las plataformas deben tener términos y condiciones claros y visibles que lo prohíban, y hacerlos cumplir de manera efectiva.
2. Tenga procesos sencillos de presentación de informes y quejas. Las empresas deben implementar herramientas que permitan a los usuarios marcar videos dañinos fácilmente.
3. Deben indicar la rapidez con la que responderán y estar abiertos a cualquier acción que se tome.
4. Los proveedores deben ofrecer una ruta para que los usuarios planteen formalmente sus inquietudes con la plataforma y cuestionen sus decisiones. Esto es vital para proteger los derechos e intereses de los usuarios que cargan y comparten contenido.
5. Restrinja el acceso a sitios para adultos. Los proveedores de video que alojan material pornográfico deben contar con una sólida verificación de edad para proteger a los menores de 18 años de acceder a dicho material.

Te puede interesar: ​​“Lo vi en TikTok”: ¿cómo la red social china está cambiando la cultura?

La Ofcom señaló que, de acuerdo con la Internet Watch Foundation, hubo un aumento del 77 por ciento en la cantidad de contenido de abuso “autogenerado” en 2020. Dijo que los proveedores de servicios de video para adultos conllevan un mayor riesgo de material de abuso sexual infantil y un aumento en los sitios de suscripción directa a los fanáticos que se especializan en contenido generado por el usuario.

“El contenido para adultos potencialmente ha hecho que este riesgo sea más pronunciado. Dado este mayor riesgo, esperamos que los procesos de registro de creadores de video y las comprobaciones posteriores sean lo suficientemente sólidos como para reducir significativamente el riesgo de que se cargue y comparta material de abuso sexual infantil en sus plataformas.

“Durante los próximos 12 meses, también daremos prioridad a abordar el odio y el terror en línea; garantizar una experiencia apropiada para la edad en plataformas populares entre los menores de 18 años; sentar las bases para la verificación de la edad en sitios para adultos; y garantizar que los procesos de los proveedores de video para informar sobre contenido dañino sean efectivos”, señaló la Ofcom.

El gobierno de Rusia anunció que está imponiendo restricciones a la red social Twitter por no eliminar el contenido ilegal de su plataforma. El Servicio Federal de Supervisión de Comunicaciones, Tecnología de la Información y Comunicaciones Masivas, conocido como Roskomnadzor, dijo que está reduciendo la velocidad de Twitter.

El organismo de control de las comunicaciones señaló que estaba tomando medidas para mantener seguros a los ciudadanos de Rusia y que podría terminar bloqueando el servicio por completo si Twitter no responde en consecuencia.

Las velocidades se reducirán en todos los dispositivos móviles y en un 50 por ciento de los dispositivos no móviles, como las computadoras, dijo Roskomnadzor en un comunicado en su sitio web.

Roskomnadzor acusó a Twitter de no eliminar el contenido que alienta a los menores al suicidio, que contenga pornografía infantil, así como información sobre el uso de estupefacientes.

Asimismo, le pidió a Twitter que eliminara enlaces y publicaciones más de 28 mil veces entre 2017 y marzo de 2021. Dijo que otras redes sociales habían sido más cooperativas que Twitter para eliminar contenido.

Recomendado: ¿Ajedrez racista? YouTube eliminó video por supuesta incitación al odio

Las autoridades rusas ya habían anunciado que están demandando a Twitter, Google, Facebook, TikTok y Telegram por supuestamente no eliminar las publicaciones que instaban a los niños a participar en protestas ilegales.

El movimiento de Rusia para desacelerar Twitter sigue a acciones similares de gobiernos en Turquía e India que también han amenazado con encarcelar a los ejecutivos de la plataforma.

Las plataformas de redes sociales están en una batalla para mantener el contenido inapropiado fuera de sus plataformas. Facebook, TikTok, YouTube y Twitter utilizan una combinación de software y moderadores de contenido humano para controlar lo que se comparte en sus plataformas, pero ninguno de ellos ha dominado realmente la moderación de contenido.

La cacería de brujas contra el grupo conspirativo QAnon en las redes sociales sigue en curso. Ahora, TikTok señaló que endurecerá la postura en contra del grupo para evitar que su contenido se propague.

La acción endurece la aplicación previa de TikTok contra QAnon, ya que la compañía ahora podría eliminar de la aplicación las cuentas de usuarios que comparten contenido relacionado con el grupo conspiratorio.

“También hemos tomado medidas importantes para hacer que este contenido sea más difícil de encontrar en búsquedas y hashtags al redirigir los términos asociados a nuestras Normas de la comunidad”, señaló un portavoz de TikTok al medio NPR.

A principios de este mes, Media Matters identificó más de una docena de hashtags que TikTokers usaron para difundir las teorías de conspiración de QAnon sobre la prueba positiva de coronavirus del presidente Trump, creencias falsas sobre el candidato presidencial demócrata Joe Biden y videos que cuestionan la realidad de la pandemia.

TikTok tiene 100 millones de suscriptores activos mensuales en Estados Unidos, por lo cual hizo una prohibición ampliada contra QAnon dándole poca visibilidad.

La red social utiliza una combinación de Inteligencia Artificial y miles de moderadores humanos para tratar de frenar el contenido problemático.

Hany Farid, miembro del comité de expertos externos en moderación de contenido de TikTok, sostuvo que existe tensión dentro de las redes sociales sobre cómo responder a la información errónea sin amplificar otras teorías subyacentes.

De acuerdo con las pautas de la comunidad de TikTok, la información errónea que “causa daño a las personas, a nuestra comunidad o al público en general” está prohibida en el sitio, incluida la información médica errónea, en la que QAnon se ha involucrado al impulsar nociones falsas sobre la Covid-19.

Formar parte de las filas de un gigante tecnológico como Facebook, representa uno de los trabajos más codiciados de los últimos tiempos.

Sin embargo, una reciente investigación de The Guardian revela que la tarea de moderar Facebook continúa afectando psicológicamente a sus empleados, a pesar de los esfuerzos de la compañía por mejorar las condiciones de trabajo.

Un grupo de empleados actuales y anteriores que trabajaron durante años en los centros de revisión de contenido en Facebook, con sede en Berlín, declararon haber sido testigos de cómo sus colegas se volvieron “adictos” al contenido gráfico y atesoraban ejemplos cada vez más extremos para una colección personal.

También dijeron que otros fueron empujados hacia la extrema derecha por la cantidad de discursos de odio y noticias falsas que leían todos los días.

Daños colaterales

Las declaraciones recabadas por The Guardian revelan que entre los eventos post trauma, los empleados han experimentado ansiedad, sentimientos de persecución y constante miedo a la relación con otros humanos.

En un comunicado, Facebook señaló: “Los moderadores de contenido hacen un trabajo vital para mantener segura a nuestra comunidad, y asumimos nuestra responsabilidad de garantizar su bienestar increíblemente en serio. Trabajamos en estrecha colaboración con nuestros socios para garantizar que brinden el apoyo que las personas necesitan, incluida la capacitación, el apoyo psicológico y la tecnología para limitar su exposición al contenido gráfico.

El problema de filtraciones de contenido inapropiado y difusión de noticias falsas subido a YouTube ha sobrepasado a Google. Sundar Pichai, CEO de la compañía, dijo que YouTube es demasiado grande para poder ajustar y bloquear la entrada de contenido ofensivo o perjudicial.

Con la intención de aminorar la difusión de tales eventos, la compañía ha optado por contratar “filtros humanos”; sin embargo, no ha sido suficiente.

Durante una entrevista de la CNN, en la que Pichai estaba abordando otros problemas, le preguntaron si alguna vez habría suficientes operadores humanos para filtrar el contenido prohibido por YouTube, a lo que Pichai respondió: “En cualquier sistema que funcione a gran escala es muy difícil. Piense en el sistema de tarjetas de crédito: siempre hay un cierto porcentaje fisiológico de estafas. En todo lo que funciona a gran escala, tenemos que pensar en términos de porcentajes”.

Pichai dijo que confía en que exista un progreso significativo en la filtración del contenido, mezclando los filtros humanos con los de computadora llegando a menos del 1 por ciento de falsos negativos.

Twitch, la plataforma de transmisión en vivo propiedad de Amazon.com, demandó a los ‘trolls’ anónimos que inundaron el sitio el mes pasado con pornografía, contenido violento y películas y programas de televisión con derechos de autor.

Entre los casos que hacen parte de la demanda se encuentra la transmisión en vivo de las matanzas de marzo en las mezquitas en Christchurch, Nueva Zelanda, que dejó 51 muertos y 49 heridos. El video fue filmado en primera persona y apareció en varias redes sociales, principalmente en Facebook, que fue criticada por el tiempo que tardó en bajar las imágenes.

Twitch suspendió temporalmente la transmisión de nuevos creadores después de un ataque del 25 de mayo. La plataforma indica que si bien es útil y necesario eliminar las publicaciones ofensivas y cerrar las cuentas de los usuarios que las publican, pronto los videos vuelven a aparecer. Aparentemente cuentas bots los republican y se encargan de hacer visible el contenido para otros usuarios.

La compañía dijo que si se entera de las identidades de los usuarios anónimos que han abusado de sus términos de servicio, mencionados en la demanda como “John and Jane Does 1-100”, solicitará a la corte que les prohíba usar la plataforma. Y ordenarles que paguen restitución y daños.

El Vocero

LONDRES — Facebook dijo hoy que abrirá un centro de ingeniería en Londres que construirá herramientas destinadas a sacar el contenido nocivo de la red social.

El anuncio de la empresa estadounidense coincidió con el aumento de la presión de los gobiernos a las grandes empresas tecnológicas para que controlen mejor sus plataformas.

El centro creará más de 500 nuevos empleos tecnológicos, incluyendo 100 en inteligencia artificial, para final de año, explicó Facebook en un comunicado.

“Un número importante” de nuevos empleos estarán en el equipo de integridad de la comunidad de la firma, que trabaja para detener el spam y los abusos y para abordar la violencia y la seguridad personal.

Una de las responsabilidades del equipo es construir software avanzado y sistemas de inteligencia artificial para detectar y erradicar comportamientos dañinos, como contenido malicioso y cuentas falsas.