Un grupo de abogados de Facebook, Google, TikTok y Snapchat solicitó esta semana ante un tribunal en Los Ángeles, Estados Unidos, que se desestime un pleito que los acusa de haber generado “una crisis sin precedentes de salud mental” y una epidemia de ansiedad, depresión y adicción entre los adolescentes.

Los demandantes corresponden a un grupo de familias de adolescentes y jóvenes quienes, aseguran, sufrieron daños psicológicos derivados del uso prolongado y adictivo de plataformas como Instagram, TikTok, Snapchat y YouTube. Afirman que el tiempo excesivo en estas aplicaciones, así como características específicas como filtros de imagen, envío de fotos sexuales no solicitadas y el “scroll infinito” han contribuido a que adolescentes desarrollen ansiedad, depresión, baja autoestima y trastornos de imagen corporal.

Por su parte, las empresas argumentan dos líneas principales de defensa: la primera es que muchas de las alegaciones se basan en contenido generado por terceros, y por tanto, están protegidas por la Sección 230 de la Ley de Decencia en las Comunicaciones de Estados Unidos, que exime a las plataformas de responsabilidad por lo que publican los usuarios.

El segundo argumento es que los demandantes no han demostrado que una característica específica de algunas de las apps haya sido la causa directa del daño señalado, por lo cual cuestionan que se trate de un tema apto para juicio.

Durante la audiencia llevada a cabo este 28 de octubre, la abogada de Meta, Ashley Simonsen, reprodujo un fragmento de video de la declaración de una demandante de 19 años de edad, identificada por sus iniciales KGM, quien dijo: “He recibido mucho contenido que promueve ese tipo de cosas, como comentarios sobre el cuerpo, publicaciones de lo que como en un día, sólo un pepino, haciendo que la gente se sienta mal si no come así”.

Al respecto, Simonsen argumentó que KGM estaba siendo perjudicada por el contenido generado por terceros en Instagram y que funciones como el “scroll infinito” eran herramientas neutrales de comunicación, no diseñadas para causar adicción.

Al alegato se sumó el abogado de YouTube, Brian Willen, quien dijo: “seamos claros: la exposición a contenido de terceros es la base de estas reclamaciones”.

Lee también: La peligrosa condescendencia de ChatGPT

Los abogados defensores también afirmaron que las demandas no eran aptas para un juicio con jurado, porque los demandantes no habían presentado pruebas de que ciertas características de sus aplicaciones móviles hubieran causado o alimentado directamente diversos problemas de salud mental, incluyendo dismorfia corporal e ideas suicidas.

El abogado de los demandantes, Joseph VanZandt, contrapuso que el uso excesivo de estas apps cambió la infancia de KGM.

“El uso excesivo y problemático de las redes sociales por parte de KGM cambió el rumbo de su infancia”, dijo VanZandt. KGM empezó a ver YouTube a los 6 años de edad. Obtuvo una cuenta de Instagram a los 11, burlando el sistema de verificación de edad. Dos años después empezó a usar Snapchat, y a los 14 empezó a usar TikTok.

Según VanZandt, cada una de las aplicaciones fue un factor importante en su espiral de depresión y ansiedad, alimentada por una baja autoestima y dismorfia corporal. Como prueba, el abogado citó un documento interno de YouTube que decía que “el uso excesivo de pantallas y redes sociales está relacionado con consecuencias negativas para la salud mental en niños, adolescentes y adultos”.

La jueza Carolyn Kuhl aceptó eliminar ciertas reclamaciones basadas en la Sección 230, por ejemplo, las relacionadas con retos virales peligrosos en los que el contenido fue generado por terceros.

Sin embargo, otras reclamaciones que se centran en características diseñadas por las apps y no sólo en el contenido de terceros siguen en pie.

La jueza aún no decide si se acogerá a la moción de juicio sumario que solicita la desestimación del caso sin llegar a juicio. Sin embargo, dado que el primer juicio representativo está programado para el 27 de enero de 2026, se espera que su fallo se produzca en los próximos meses, previo a esa fecha.

Raúl Torrez, procurador general de Nuevo México, presentó una demanda contra Snap Inc., para proteger a los niños de la sextorsión y la explotación sexual, reveló el Departamento de Justicia de dicho estado.

En la demanda, el Departamento de Justicia de Nuevo México describe cómo las políticas de Snapchat, el contenido aparentemente efímero y el algoritmo de recomendación fomentan el intercambio de material de abuso sexual infantil y facilitan la explotación sexual de menores.

“Nuestra investigación encubierta reveló que las características de diseño nocivas de Snapchat crean un entorno en el que los depredadores pueden atacar fácilmente a los niños a través de esquemas de sextorsión y otras formas de abuso sexual.

“Snap ha engañado a los usuarios haciéndoles creer que las fotos y los videos enviados en su plataforma desaparecerán, pero los depredadores pueden capturar este contenido de forma permanente y han creado un anuario virtual de imágenes sexuales de niños, las cuales se comercializan, venden y almacenan indefinidamente”, dijo Raúl Torrez.

Añadió que a través del litigio contra Meta y Snap, el Departamento de Justicia de Nuevo México seguirá responsabilizando a estas plataformas por priorizar las ganancias sobre la seguridad de los niños.

El Departamento de Justicia acusó que Snapchat es una de las principales plataformas de redes sociales para compartir material de abuso sexual infantil, pues los padres informan que sus hijos comparten más imágenes en Snapchat que en cualquier otra plataforma.

Asimismo, reveló que los menores informan que tienen más interacción sexual en línea en Snapchat que en cualquier otra plataforma y se reclutan más víctimas de trata sexual en Snapchat que en cualquier otra red social.

“El Departamento de Justicia de Nuevo México toma esta medida porque Snapchat ha puesto en peligro la salud y la seguridad de los jóvenes de Nuevo México”, añadió el Departamento de Justicia.

Reuters

Snap, propietario de Snapchat, lanzó su última versión de tecnología de Inteligencia Artificial generativa que permitirá a los usuarios ver efectos especiales más realistas cuando usen las cámaras de los teléfonos para filmarse a sí mismos, mientras busca mantenerse por delante de sus rivales en las redes sociales.

Snap ha sido pionero en el campo de la Realidad Aumentada (AR), que superpone efectos computarizados en fotografías o videos del mundo real. Si bien la empresa sigue siendo mucho más pequeña que plataformas rivales como Meta, apuesta a que crear efectos especiales más avanzados llamados lentes, atraerá nuevos usuarios y anunciantes a Snapchat.

Los desarrolladores de AR ahora pueden crear lentes con tecnología de Inteligencia Artificial y los usuarios de Snapchat podrán usarlos en su contenido, dijo la compañía.

Snap, con sede en Santa Mónica, California, también anunció una versión mejorada de su programa para desarrolladores llamado Lens Studio, que los artistas y desarrolladores pueden usar para crear funciones AR para Snapchat u otros sitios web y aplicaciones.

Bobby Murphy, director de tecnología de Snap, dijo que el Lens Studio mejorado reduciría el tiempo necesario para crear efectos AR de semanas a horas y produciría trabajos más complejos.

Leer más.

Sólo en el mes de septiembre, TikTok removió casi 4 millones de videos cortos, en vivos o anuncios considerados como dañinos y que violan las reglas de convivencia de la plataforma digital en la Unión Europea (UE).

Además, la aplicación recibió alrededor de 35 mil reportes de contenido nocivo por parte de las personas usuarias, de los cuales determinó que 28 por ciento sí infringía sus políticas y la Ley de Servicios Digitales (DSA, por sus siglas en inglés).

TikTok fue una de las siete primeras empresas de Internet en publicar su informe de transparencia, siguiendo las nuevas normas de la UE en el marco de la DSA. La ley ahora les ordena brindar reportes semestrales a las plataformas con más de 45 millones de usuarios y profundizar su información sobre la moderación de contenido.

En su reporte, TikTok detalla que también removió 38 mil 626 contenidos por infringir las políticas de privacidad, e igualmente restringió más de 13 millones 975 mil videos cortos o en vivo y 137 mil 881 servicios.

Te puede interesar: Facebook, Google, TikTok y Apple son las primeras en adoptar la ley europea de Servicios Digitales

La plataforma baja de Internet o restringe el contenido cuando traspasan las reglas de la comunidad, referentes a la seguridad, buen comportamiento, civilidad, salud mental, privacidad, bienes regulados y actividades comerciales, religión, contenido sexual, violencia, actividades peligrosas, contenido falso y engañoso, e integridad y autenticidad.

Para llevar a cabo esta tarea, TikTok dijo que cuenta con 6 mil 125 moderadores de contenido enfocados en las diferentes lenguas que se hablan en la Unión Europea (inglés, alemán, italiano, español, francés, etcétera), además de 395 moderadores que revisan perfiles o fotografías.

Aprobada el año pasado, la DSA obliga a las grandes plataformas en línea, redes sociales y mercados digitales, como TikTok, Meta y Amazon, a intensificar sus esfuerzos para proteger a los usuarios e impone nuevas medidas de transparencia sobre los algoritmos.

Snapchat fue otra de las empresas de Internet que ya publicaron su reporte de transparencia conforme la nueva ley. Durante el primer semestre del año, en Europa hubo 4 millones 265 mil reportes por contenido dañino y cuentas que infringían las normas.

La red social detalló que cuenta con 2 mil 198 moderadores de contenido en las lenguas que se hablan en la UE, los cuales se encargan de revisar los incidentes que se observan en una región con un promedio de 102 millones de usuarios registrados que usan la aplicación al menos una vez al mes.

También lee: Europa designa a los 6 guardianes de Internet que deberán cumplir con la Ley de Mercados Digitales

Por otro lado, la gigante de comercio electrónico Amazon dio a conocer que en la primera mitad de 2023 resolvió 283 mil 220 notificaciones de contenido a través de sus mecanismos y herramientas de denuncia. Del total, realizó 810 mil 170 acciones sobre avisos considerados válidos

La plataforma también tomó acciones respecto a 274 millones de contenidos en la Unión Europea en ese periodo, debido a violaciones de políticas o por considerarse ilegales. 84 millones 200 mil de los contenidos fueron removidos y 133 millones fueron desactivados.

Al igual que el resto de plataformas, redes sociales y mercados digitales, Amazon ha automatizado buena parte de su moderación de contenido. La empresa dijo que 73 millones de las acciones tomadas en contra de contenido dañino o ilegal (productos o anuncios) fueron completamente automatizadas y, según sus cálculos, 97 por ciento estuvieron en lo correcto.

LinkedIn, Pinterest, Zalando y Bing también ya dieron a conocer sus informes de transparencia en la Unión Europea bajo la DSA. El resto ―incluida Meta― tienen hasta el 6 de noviembre para hacerlo.

Snapchat presentó cuatro nuevas medidas y funcionalidades para cumplir con la Ley de Servicios Digitales de la Unión Europea: más personalización de contenidos, nuevo proceso de apelación para borrar contenidos o cuentas, actualización de la publicidad y un equipo que revisará el cumplimiento de la normativa europea.

1. Más personalización. El contenido que se muestra en las distintas secciones está personalizado y se seguirá trabajando en mejorar la experiencia al punto que desde ahora los usuarios podrán tener más información de por qué se le muestra determinado contenido y hasta podrán optar por no participar en una experiencia personalizada en distintas secciones.

2. Procesos de notificación y apelación. Se incorporarán herramientas para que sea más sencillo denunciar y proponer la eliminación de contenidos o cuentas. Habrá más información para los usuarios denunciados y se les permitirá apelar la decisión. Esta propuesta estará disponible primero dentro de la Unión Europea y luego se extenderá al resto de operaciones.

3. Actualización de publicidad. Se generaron una serie de actualizaciones en la publicidad que incluye restringir la publicidad personalizada para usuarios de 13 a 17 años, mayor transparencia para los usuarios mayores con la incorporación del botón “¿por qué veo este anuncio” y la creación de una biblioteca para anuncios dirigidos a la Unión Europea.

4. Funcionarios DSA. La compañía designó funcionarios para el cumplimiento de los lineamientos de la Ley de Servicios Digitales de la Unión Europea (DSA, por sus siglas en inglés), que serán responsables de supervisar, monitorear y alertar sobre posibles fallos.

Relacionado: TikTok permitirá decirle ‘adiós’ a personalización del feed en Europa

“Contamos con protecciones para todos los miembros de nuestra comunidad y ofrecemos salvaguardas adicionales para nuestros usuarios adolescentes”, concluyó la compañía en un comunicado.

No es extraño que las personas acepten los términos y condiciones de las plataformas de contenido de video como OnlyFans, Snapchat, Twitch y TikTok aun sin leerlos. Quieres registrarte o abrir una cuenta y lo primero que te aparece es un largo pergamino. 

Los textos extensos con un lenguaje complejo hacen que la mayoría de los términos y condiciones de las plataformas de contenido de video sean muy difíciles de comprender por las personas usuarias. Y, por lo tanto, que prefieran decir que “sí” a todo sin saber de qué se trata.

Un nuevo estudio de Ofcom, el órgano regulador de las plataformas en el Reino Unido, muestra que se requieren habilidades de lectura avanzadas o incluso educación universitaria para poder entender las reglas de estos servicios.

Estas secciones utilizan palabras complejas, términos poco familiares y además suelen ser muy largas. Por ejemplo, leer los términos de OnlyFans toma 64 minutos; en Twitch, 27 minutos; en Snapchat, 20 minutos; en TikTok, 19 minutos; en Brand New Tube, 10 minutos, y en BitChute toma 8 minutos.

Te recomendamos: Estados Unidos propone resumir términos y condiciones de plataformas digitales

El tiempo que toma leer los términos y condiciones es mayor en aquellas plataformas que incorporan un lenguaje más complejo, mientras que las que utilizan un lenguaje más sencillo ofrecen textos más breves a los usuarios.

Ofcom analizó las reglas de estas seis plataformas de contenido de video y encontró que todas, excepto TikTok, tienen términos y condiciones difíciles de leer y que podrían ser comprendidos por personas graduadas de la escuela superior.

Lo anterior significa que el nivel de estudios necesarios para entender las reglas es superior al de los usuarios más jóvenes que utilizan las plataformas, además de que estas secciones deberían ser accesibles para cualquier persona. 

Aunado a ello, la agencia británica señala que Snapchat, TikTok y BitChute usan acuerdos de “enlace de clic”, donde se aceptan los términos de servicio de forma implícita en el acto de registrarse. No se solicita ni anima a los usuarios a acceder a las reglas, por lo que es más fácil aceptarlas sin tener que abrirlas o leerlas.

Por esas razones, 66 por ciento de las personas adultas afirma que ha aceptado los términos y condiciones de las plataformas sin leerlos, y sólo 6 por ciento asegura que siempre lee por completo este contenido.

También lee: TikTok, Instagram y YouTube son cada vez más importantes para las noticias: Reuters

Si las personas no están conscientes acerca de cuáles son las reglas de las plataformas, se vuelve más difícil lograr que estas sean espacios seguros y sanos para todas y todos, especialmente para las infancias que las utilizan.

De acuerdo con Ofcom, la mayoría de los usuarios que rompen las reglas de las plataformas como Snapchat o TikTok lo hacen debido a su desconocimiento de las mismas. Y en general quienes entienden las normativas y a qué se deben las acatan.

La claridad en la definición de los términos y condiciones puede crear comunidades digitales más seguras y con mayor confianza, ya que los recordatorios tempranos de las reglas de la comunidad aumenta el cumplimiento por parte de los recién llegados e impulsa la participación en la discusión dentro de las plataformas.

Sin embargo, el informe advierte que la mayoría de las plataformas no están adoptando técnicas para mejorar la accesibilidad de sus términos y condiciones. Algunas buenas prácticas que podrían aplicar son las de enumerar los contenidos que pueden ser dañinos, explicar de forma sencilla lo que sucede cuando se infringen las reglas y tener métricas para medir el desempeño de sus políticas.

El Universo

En el planeta existen un aproximado de 25 plataformas de las cuales las más utilizadas son: Facebook, Instagram, YouTube, WhatsApp, Twitter, LinkedIn, TikTok, Pinterest, Snapchat y Telegram. La primera semana de julio pasado se sumó una nueva red social creada por Meta cuyo fundador, Mark Zuckerberg, la denominó Threads, esta es similar a Twitter.

Cada una de ellas tiene su característica particular y su frecuencia de uso se efectúa dependiendo del objetivo que se desea alcanzar. Los formatos son variados, en algunas prima el video, en otras la imagen y hay unas específicas en las que el texto es el protagonista.

Consulta más información aquí.

Enter.co

Snapchat anunció que su inteligencial artificial, ‘My AI’ se está desplegándose para todos los usuarios de la plataforma de mensajería instantánea. Además reveló funciones nuevas y mejoradas. ¿Qué trae de nuevo?

Cabe recordar que el chatbot de Snapchat fue lanzado hace dos meses, pero solo era para usuarios de Snapchat+. Desde su presentación la compañía había estado realizando ajustes y mejoras, ya que en ocasiones generaba respuestas inapropiadas.

5  funciones nuevas de ‘My AI’:

• Personalización de My AI: la inteligencia artificial incluye una de los miles de variaciones exclusivas de Bitmoji y se puede personalizar de manera sencilla para que sea realmente tuya. Diseña un Bitmoji personalizado para tu IA, ponle un nombre y empieza a chatear.
• Incorpora a My AI en tus conversaciones con amigos: Es sencillo incluir a ‘My AI’ en cualquier de tus conversaciones con amigos. Solo tienes que mencionar a ‘My AI’ con un @ y hacerle una pregunta en nombre del grupo. Sabrás cuándo una IA ha entrado en el chat mediante un destello junto a su nombre.

• Recomendaciones de Snapchat: ‘My AI’ te ofrece recomendaciones de lugares desde el Mapa de Snaps y te sugiere Lentes relevantes. Por ejemplo, puedes pedirle a ‘My AI’ que te sugiera actividades de fin de semana para tu familia o que te recomiende la Lente perfecta para felicitar a un amigo por su cumpleaños.
• Comparte fotos con Mi IA: Nuestra comunidad puede enviar Snaps a ‘My AI’ y recibir una respuesta por chat.
• Observa cómo responde: Con más de 55 mil Snaps creados en Snapchat cada segundo en promedio, Snapchat es una forma natural para que la comunidad se mantenga en contacto. Pronto, los suscriptores de Snapchat+ podrán enviar un Snap a ‘My A’I y recibir un Snap generativo exclusivo que hará que la conversación visual sea continua. 

Microsoft anunció que ahora los usuarios de Teams podrán escoger entre más de 20 lentes de Snapchat. No será necesario descargar ni agregar ninguna aplicación para hacer uso de las más populares. Así funciona.

Según la compañía, Teams que ahora incluye funciones impulsadas por inteligencia artificial y la utilizan alrededor 280 millones de personas en todo el mundo, quiere hacerle la vida más divertidas a sus usuarios a través del kit de cámara de Snap.

“Los lentes permiten a los usuarios agregar efectos de realidad aumentada (AR) a las videollamadas, brindando una interacción humana más animada a las reuniones», explica la compañía.

Así mismo señala que la AR captura y procesa información sobre nuestro entorno físico y luego la superpone con objetos virtuales e información, «lo que nos permite ver y experimentar el mundo de una manera diferente. Dado que AR usa cámaras, sensores y pantallas, que ya están integrados en las videoconferencias, se adapta perfectamente a Teams”.

¿Cómo usar los lentes Snapchat?

Antes de empezar cada reunión, debes dar clic en ‘Efectos de vídeo’, luego ‘Más efectos de video’. En este punto debes desplazarte hacia abajo en el panel derecho y seleccionar ‘Snapchat’ en la categoría ‘Filtros’.

Finalmente, otra vez desplázate hacia abajo para ver todo y seleccione su lente favorito. Haz clic en ‘Únete ahora’.

Si por alguna razón  no eligiste el filtro antes, y ya estás en la reunión, haz clic en ‘Más’ en la parte superior de la pantalla de tu reunión; después haz clic  en ‘Efectos de vídeo’; desplázate hacia abajo en el panel derecho y seleccione ‘Snapchat’ en la categoría ‘Filtros’. Luego haz clic en ‘Vista previa’ para ver tu Lens seleccionado sin que otros lo vean todavía o ‘Aplicar’ para activar tu Lens favorito.

ChatGPT no sólo ha iniciado una guerra entre Microsoft y Google por demostrar cuál es el mejor buscador de Internet con Inteligencia Artificial. Ahora los gigantes de las redes sociales se unen a esta competencia por crear su propio chatbot que le dé batalla al de OpenAI.

Snapchat

My AI es el nuevo chatbot que acaba de lanzar Snapchat en su aplicación y que está basado en el modelo de lenguaje de ChatGPT, pero fue personalizado para la plataforma de mensajería con Realidad Aumentada.

De acuerdo con Snapchat, el chatbot es capaz de recomendar ideas de regalos de cumpleaños, planear una excursión con amigos o sugerir recetas para cenar. Es decir, funciona como un asistente personal para los usuarios de la red social.

Por ahora, My AI sólo estará disponible para los suscriptores de Snapchat Plus en Estados Unidos, pero los planes de la red social son extender su uso a nivel global.

Algo interesante es que Snapchat advierte que, al igual que todos los chatbots impulsados por Inteligencia Artificial, el suyo también es propenso a “alucinar” y puede ser engañado para que diga cualquier cosa. Por lo tanto, también puede cometer errores a pesar de haber sido diseñado para evitar sesgos o información incorrecta.

Asimismo, Snapchat dice que los usuarios deben tener cuidado de confiar sus secretos a My AI, porque todas las conversaciones establecidas con el chatbot serán revisadas y almacenadas para mejorar la experiencia del producto.

WhatsApp e Instagram

El Director Ejecutivo de Meta, Mark Zuckerberg, también aprovechó para anunciar a través de su perfil de Facebook que acaba de crear un nuevo equipo dedicado completamente al desarrollo de experiencias de IA generativa.

De hecho, la compañía ya está desarrollando su propio modelo de lenguaje de IA bautizado LLaMA (Large Language Model Meta AI) que funciona de forma similar a ChatGPT.

Zuckerberg adelantó que en el futuro planea desarrollar personajes IA que ayuden a los usuarios de diversas formas. Por ejemplo, la empresa está explorando cómo crear experiencias de texto con esta tecnología para chats en WhatsApp y Messenger. Al mismo tiempo, ya han estado explorando con las imágenes generadas por IA en Instagram, pero también buscan usar la IA para filtros creativos, en publicidad y en videos.

Twitter

El nuevo dueño de la red social del pajarito, Elon Musk, es otro de los interesados en crear su propio chatbot, y al igual que sus competidores, su idea podría ser integrarlo a las funcionalidades de Twitter.

Según un reporte de The Information, Musk está interesado en reclutar a Igor Babuschkin, un investigador notable en el campo de la Inteligencia Artificial que hasta hace poco formó parte del proyecto DeepMind de Alphabet (matriz de Google).

El interés de Musk por la IA no es nuevo, ya que el empresario fue uno de los fundadores de OpenAI, la firma creadora de ChatGPT. Sin embargo, tras haber cortado lazos con la empresa en 2018 y al ver su nuevo acuerdo con Microsoft, Musk ha comenzado a criticar al popular chatbot afirmando que tiene muchos sesgos y que hasta podría ser peligroso limitar sus respuestas o entrenar a la IA para ser woke (es decir, para mentir).

Musk es uno de los líderes de la industria tecnológica que han advertido constantemente sobre los peligros de la IA para la civilización humana e incluso ha llamado a acelerar la regulación de esta tecnología.

Por ahora, sólo queda esperar si estos gigantes de las redes sociales podrán desarrollar una IA capaz de quitarle el trono a ChatGPT o si el modelo de Open AI seguirá causando furor en el mundo por más tiempo.