Bumble presentó una nueva opción que permite a los usuarios denunciar los perfiles si sospechan que alguien podría estar utilizando fotos y vídeos generados por Inteligencia Artificial (IA).

Para denunciar los perfiles aparecerá la opción Perfil falso y luego Uso de fotos o videos generados por IA. La empresa solicitó a sus usuarios contribuir para mantener la app de citas libre de perfiles falsos.

Esta herramienta de denuncia llega a la app ante el auge de perfiles creados con IA y de fotos modificadas con esta tecnología. Para Bumble, estos perfiles pueden ser utilizados para estafar o engañar a otros miembros de la app, por lo que se espera que esta herramienta ayude a disuadir a las personas para que no usen IA para engañar a alguien más.

Lee también: 4 etapas para el desarrollo de una Inteligencia Artificial ética, según AIMX

La herramienta de denuncia se suma a una solución lanzada en febrero llamada: Deception Detector, que utiliza IA y moderación humana para detectar y eliminar perfiles falsos, spammers y estafadores.

De acuerdo con Bumble, desde el lanzamiento de Deception Detector, las cifras de spam, estafas y perfiles falsos disminuyeron en un 45 por ciento.

La app también incorporó la herramienta Private Detector impulsada por IA, que difumina automáticamente las fotos de desnudos.

“Una parte esencial de la creación de un espacio para construir conexiones significativas es eliminar cualquier elemento que sea engañoso o peligroso. Estamos comprometidos a mejorar continuamente nuestra tecnología para garantizar que Bumble sea un entorno de citas seguro y confiable”, aseguró Risa Stein, vicepresidenta de producto de la compañía, al medio TechCrunch.

La aplicación de citas en línea, Bumble, está aprovechando la Inteligencia Artificial (IA) en su plataforma para proteger a sus usuarios de los perfiles falsos, las estafas y el spam.

Bumble anunció que introducirá una nueva función llamada ‘Deception Detector’ o ‘detector de engaños’, la cual emplea machine learning para evaluar la autenticidad de los perfiles. Los resultados de las pruebas indican que esta tecnología ha logrado bloquear automáticamente 95 por ciento de las cuentas identificadas como spam o estafa.

Esta función surge como respuesta a una investigación de Bumble en la que descubrió que la principal preocupación de los usuarios son los perfiles falsos y el riesgo de caer en estafas al utilizar aplicaciones de citas en línea. En los primeros dos meses de implementación, las denuncias de los usuarios sobre estos problemas disminuyeron en 45 por ciento.

Según un informe de la Comisión Federal de Comercio (FTC) de Estados Unidos en 2022, cerca de 70 mil personas denunciaron estafas románticas en apps de citas, con pérdidas económicas que ascendieron a mil 300 millones de dólares.

Recomendado: El amor en tiempos de apps: las plataformas de ligue más populares del mundo

‘Deception Detector’ se suma a otras medidas basadas en Inteligencia Artificial que Bumble ha introducido para fortalecer la seguridad de su aplicación. En 2019, se implementó una función para detectar y difuminar imágenes de desnudos, mientras que en 2023 se añadieron sugerencias de mensajes para romper el hielo en el chat, generadas con Inteligencia Artificial.

Lidiane Jones, directora Ejecutiva de Bumble, destacó en un comunicado que esta última innovación refleja el compromiso continuo de la empresa con la seguridad y autenticidad, protegiendo especialmente a las mujeres de la misoginia y el acoso en línea.

“Reconocemos que en la era de la IA, la confianza es más primordial que nunca. Estamos reflexionando sobre cómo utilizar mejor los nuevos modelos para reducir la ansiedad al establecer conexiones”, agregó Jones.

 La función también llegará a las aplicaciones de Badoo y Bumble For Friends.

Hipertextual-Luis Miranda

Facebook anunció que verificará a las personas detrás de perfiles con grandes audiencias. Según la empresa, quieren asegurarse que el contenido que se comparte en Facebook sea auténtico y provenga de personas reales. Con esta medida, la tecnológica buscará acabar con los bots o personas que se escudan tras un perfil falso.

La empresa de Mark Zuckerberg dice que si alguien decide no verificar su identidad, el contenido tendrá menor alcance para evitar que se viralice. Lo mismo aplicará para las personas que ofrezcan datos que no coincidan con la cuenta de Facebook vinculada al perfil.

“En el futuro, verificaremos la identidad de las personas que tienen un patrón de comportamiento no auténtico en Facebook y cuyas publicaciones comienzan a volverse virales rápidamente en los EE. UU.”

La medida llega en un momento importante para el país norteamericano. No solo 2020 es año de elecciones, sino que Donald Trump ya inició una batalla contra las redes sociales. Tras el incidente de los tuits etiquetados por Twitter, el mandatario firmó una orden ejecutiva para limitar la inmunidad de las plataformas a la hora de moderar el contenido.

Facebook no ha impedido la proliferación de noticias falsas

Luego de que Trump montara en cólera por una supuesta censura, Mark Zuckerberg cargó contra Twitter diciendo que las redes sociales no deberían ser árbitros de la verdad. La decisión de verificar cuentas suena a una especie de control de daños de la compañía. Recordemos que Facebook ha sido criticado severamente por no impedir la proliferación de noticias falsas compartidas por perfiles de grandes audiencias.

En 2018, Facebook comenzó a verificar la identidad de las personas que administran las páginas con grandes audiencias. Ahora toca el turno de los perfiles de usuario con muchos seguidores en EE.UU. En caso que la persona sea también administrador de una página, no podrá publicar en ella hasta que no verifique su identidad.

Para obtener la autorización es necesario activar la verificación en dos pasos en la cuenta de Facebook. Posteriormente deberá confirmarse la ubicación en el móvil o actualizar la ciudad actual del perfil. La red social establecerá un plazo para cumplir con este proceso. En caso de no hacerlo a tiempo, las publicaciones no tendrán el mismo alcance.

Se desconoce si Facebook implementará esta medida en otros países. Con la pandemia del coronavirus se ha vuelto común ver a personas con muchos seguidores compartiendo o viralizando bulos e información cuestionable sobre la COVID-19