domingo, octubre 2, 2022
HomeDPL NEWSMeta pide consejos para mejorar privacidad y seguridad mientras construye metaverso

Meta pide consejos para mejorar privacidad y seguridad mientras construye metaverso

Meta pide a expertos en privacidad, seguridad y moderación de contenido sus comentarios directos sobre cómo debería abordar las “malas experiencias” en sus plataformas, con una mirada puesta en el metaverso.

Meta (Facebook) se encuentra en el inicio del viaje hacia la construcción de su propio metaverso. Pero para lograrlo, el gigante de las redes sociales aún debe de resolver los problemas que tiene en cuanto a moderación de contenido, privacidad y recopilación de datos personales de los usuarios que usan sus servicios diariamente.

En un documento técnico publicado por Meta, la empresa detalla algunos casos sobre cómo utiliza los datos que proporcionan las personas que usan Facebook, Instagram, WhatsApp y Messenger, para “identificar, eliminar y evitar ciertas experiencias en línea” que considera son un peligro para la seguridad y privacidad de su comunidad.

Los datos que utiliza Meta con fines de integridad incluyen metadatos como la ubicación de una foto o la fecha en que se creó un archivo; información sobre el dispositivo o conexión de red, como el sistema operativo, dirección IP o velocidad de conexión; información sobre las personas, las cuentas, los hashtags y los grupos de Facebook, páginas con las que está conectado y cómo interactúa el usuario a través de estas plataformas.

Meta argumenta que su objetivo es ilustrar los escenarios complejos a los que se enfrenta para proteger a las personas, y señala que el uso que hace de los datos personales se basa en el contexto de cada caso para aplicar sus diferentes políticas de moderación y eliminación de contenido.

Por ejemplo, en el caso de la reducción del discurso de odio, menciona que se enfoca en detectar piezas de contenido, ya sea texto o imágenes de odio, previamente confirmado, en lugar de centrarse en detectar a personas, lo que resultaría en un sesgo de precisión y equidad.

Meta dice que entrena a sus modelos de Aprendizaje Automático con el contenido infractor, con el objetivo de limitar la cantidad de datos personales que recopilan estas herramientas sobre las personas que lo publicaron originalmente.

Considera que este enfoque en el diseño promueve una mayor seguridad y confianza a la hora de automatizar la detección de discurso de odio. También señala que cuando el sistema no está seguro a la hora de etiquetar un contenido, Facebook opta por reducir la visibilidad hasta que pueda ser revisado por un moderador humano.

Recomendamos: DPL Cloud | AWS: red, servicios integrales y comunidad

Otros de los casos que aborda en el documento es el procesamiento automatizado de imágenes con desnudez; la verificación de identidad; cómo evita que los infractores graves abran nuevas cuentas; y la protección de las personas que pueden enfrentar amenazas en tiempos de crisis como en los conflictos militares en Afganistán y Ucrania.

Finalmente, Meta menciona en el documento que a medida que construya el metaverso  estos desafíos pueden crecer, escalar e incluso verse muy diferentes con las tecnologías emergentes y avances en Inteligencia Artificial y Realidad Virtual.

Por ejemplo, la venta de animales está prohibida en Facebook e Instagram, pero en el metaverso puede ser que los creadores desarrollen animales virtuales o mascotas virtuales que se puedan vender.

En este sentido, Meta pide a los expertos en privacidad y moderación de contenido, tecnología y organismos reguladores sus “comentarios directos” sobre el enfoque que debe tomar para abordar estos problemas, no sólo en las experiencias en línea actuales, sino también en los mundos virtuales, minimizando la cantidad de datos que usa pero mejorando la privacidad y transparencia.

Valeria Romero
Valeria Romero
Valeria Romero es editora de contenidos multimedia especializada en temas tecnológicos y de cultura digital.

Publicidad

LEER DESPUÉS