El Departamento de Justicia de Estados Unidos presentó una demanda contra TikTok en representación de la Comisión Federal de Comercio (FTC), alegando que la aplicación china de videos ha estado recopilando datos de niños sin el consentimiento de sus padres.

La demanda, presentada ante el Tribunal de Distrito de California, sostiene que la plataforma está violando la Ley de Protección de la Privacidad Infantil en Internet (COPPA, por sus siglas en inglés) al permitir la creación de cuentas por parte de niños menores de 13 años sin el conocimiento de sus padres.

Esto incumple un acuerdo que TikTok firmó en 2019 con la FTC, en el que la empresa se comprometió a pagar una multa de 5.7 millones de dólares y a implementar medidas de consentimiento parental para evitar el acceso de niños a la plataforma.

Según la demanda, TikTok permitió que usuarios menores de edad crearan cuentas nuevas utilizando registros de terceros como Google e Instagram, sin verificar que fueran mayores de 13 años. Además, la FTC denunció que los revisores humanos de la empresa dedicaban muy poco tiempo a verificar si las cuentas pertenecían a niños y dificultaban que los padres eliminaran dichas cuentas.

“TikTok violó consciente y reiteradamente la privacidad, amenazando la seguridad de millones de niños en todo el país”, dijo en un comunicado la presidenta de la FTC, Lina M. Khan. “La FTC seguirá utilizando todo el alcance de sus autoridades para proteger a los niños en línea, especialmente a medida que las empresas implementan herramientas digitales cada vez más sofisticadas para vigilar a los niños y sacar provecho de sus datos”, agregó.

Por su parte, TikTok ha rechazado las acusaciones, asegurando que ya ha tomado medidas significativas para proteger a los niños y mejorar la plataforma. “Estamos orgullosos de nuestros esfuerzos por proteger a los niños y continuaremos actualizando y mejorando la plataforma”, declaró un portavoz de TikTok a TechCrunch.

Esta demanda se suma a otros desafíos legales que enfrenta TikTok en Estados Unidos, incluyendo el intento de prohibición por parte del presidente Joe Biden, con una ley que busca abordar preocupaciones de seguridad nacional sobre el acceso del gobierno chino a los datos de los ciudadanos estadounidenses.

Este fin de semana, Apple anunció que ha retrasado sus planes de implementar las controvertidas medidas de protección infantil contra depredadores sexuales, debido a las preocupaciones sobre privacidad que tanto expertos como organizaciones e incluso empleados de la empresa han externado.

“Según los comentarios de los clientes, grupos de defensa, investigadores y otros, hemos decidido tomarnos más tiempo durante los próximos meses para recopilar información y realizar mejoras antes de lanzar estas características de seguridad infantil de importancia crítica”, confirmó la compañía en un comunicado.

El mes pasado, Apple anunció una serie de herramientas con las que esperaba hacer más seguras sus plataformas para los niños. Una de estas medidas es la de escanear imágenes almacenadas en iCloud con el objetivo de detectar material de abuso infantil. 

La segunda función se basa en implementar Aprendizaje Automático en su app de mensajería iMessage, para detectar cuando un niño recibe un mensaje con imágenes con contenido sexual explícito. En caso de hacerlo, el menor recibe una advertencia en la que se informa que sus padres serán notificados en caso de abrir la imagen.

Preocupa el impacto en la privacidad del iPhone

Ambas funciones han sido criticadas por expertos como Edward Snowden y grupos defensores de la privacidad, quienes firmaron una carta para pedir a Apple que detenga sus planes, ya que estos cambios podrían funcionar como un puerta trasera para espiar personas.

En concreto, la principal preocupación es que la propuesta de sistema de escaneo de imágenes de Apple pueda ser aprovechada por gobiernos autoritarios y represivos para buscar otro tipo de material que les permita censurar y hacer arrestos injustificados.

Mientras que la tecnología en mensajes preocupa por las repercusiones que podría tener especialmente en los niños y adolescentes que tienen padres o tutores poco comprensivos respecto a sus preferencias sexuales o de identidad de género.

Por su parte, Apple insiste en que las nuevas medidas no suponen un riesgo para la privacidad de los usuarios y ha tratado de demostrar que los riesgos de falsas detecciones son relativamente bajos.

Sin embargo, la compañía se ha visto obligada a dar una serie de aclaraciones e incluso el jefe de Software de Apple, Craig Federighi, admitió durante una entrevista que no comunicaron de forma adecuada su mensaje.

Como resultado de la presión mediática, Apple ha decidido cambiar su línea de tiempo. Por el momento, se desconocen los cambios que realizará a esta nueva tecnología tras su retraso ni cuándo comenzará a implementarlos.

En un documento de seis páginas, llamado “Protecciones ampliadas para niños”, Apple respondió a las preocupaciones externadas en torno a sus próximas actualizaciones de software criptográfico para escanear los dispositivos de las personas, en busca de contenido de abuso sexual infantil.

Si bien varias organizaciones de protección infantil aplaudieron los planes de Apple para detectar la posesión de materiales de abuso sexual infantil (MASI) y cuidar a los niños de los depredadores sexuales, algunos expertos en seguridad y personalidades del sector tecnológico como Electronic Frontier Foundation, Edward Snowden, Tim Sweeney de Epic Games, y el director de WhatsApp, Will Cathcart, criticaron el enfoque de la marca de la manzana.

Las preocupaciones se centran principalmente en los posibles riesgos de que dicha tecnología pueda usarse como un tipo de ‘sistema de vigilancia’ o ‘puerta trasera’ que pueda ser explotada por gobiernos autoritarios o empresas de software espía con el fin de escanear teléfonos en busca de disidentes políticos y reprimir a los ciudadanos.

Apple promete rechazar solicitudes de gobiernos

En la guía de preguntas frecuentes, Apple aclaró que si un gobierno solicita usar su sistema de seguridad infantil para detectar imágenes que no sean MASI, “rechazará tales demandas”.

“Seamos claros: esta tecnología se limita a detectar MASI almacenado en iCloud y no accederemos a la solicitud de ningún gobierno para ampliarla”, dijo Apple.

El gigante tecnológico afirma que el sistema de escaneo automatizado sólo afectará a los usuarios que usan la nube de Fotos de iCloud para almacenar sus imágenes, pero no afecta a los que no usan esta aplicación.

La compañía reiteró que la herramienta no le permite ver o escanear el álbum de fotos de un usuario si este no coincide con la base de datos de “hashes”, un tipo de huella digital o código de imágenes de abuso sexual infantil conocidas y recopiladas por el Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos.

“Estos ‘hashes’ son cadenas de números que representan imágenes de material de abuso sexual infantil conocidas, pero no es posible leer o convertir esos ‘hashes’ en las imágenes del material de abuso sexual infantil en las que se basan”, explica Apple.

El simple hecho de poseer este tipo de imágenes es considerado un delito en la mayoría de los países, incluido Estados Unidos. Por ello, Apple dijo que revisará manualmente cada informe para confirmar si hay una coincidencia en caso de detectar imágenes ilegales. Luego podría deshabilitar la cuenta del usuario en cuestión e informar a las autoridades correspondientes.

El fabricante de iPhone asegura que “la probabilidad de que el sistema marque incorrectamente una cuenta determinada es menos de uno en un billón por año”.

La tecnología implementada en iMessage es diferente a la de iCloud

Otra de las funciones de seguridad que anunció Apple se enfoca en el análisis de la aplicación de mensajería iMessage, para detectar el envío o la recepción de contenido sexualmente explícito en cuentas designadas como propiedad de un menor de edad.

Apple dijo que esta herramienta no utiliza la misma tecnología que se emplea en iCloud. En el caso de iMessage, se usa la Inteligencia Artificial y Aprendizaje Automático para detectar imágenes en donde aparecen desnudos.

“Cuando la cuenta de un niño envía o recibe imágenes sexualmente explícitas, la foto se verá borrosa y el niño será advertido, se le presentarán recursos útiles y se le asegurará que está bien si no quiere ver o enviar la foto”, advierte Apple.

En caso de que el niño sea muy pequeño, como precaución adicional se agrega un control parental para notificar a los padres cuando estas imágenes se envían o reciben en el dispositivo del niño. Esta opción podrá ser activada o desactivada por los tutores del niño.

La manzana también garantizó que la privacidad y cifrado de los mensajes de iMessage no se verá comprometida, ni se compartirán con las agencias de policía.

Por el momento, los cambios de seguridad infantil de Apple estarán disponibles en la próxima actualización de las cuentas familiares de iCloud para iOS 15, iPadOS 15 y macOS Monterey. 

Estados Unidos será el primer país donde se lanzará la actualización, pero la compañía tecnológica dijo que expandirá las herramientas a otros países, dependiendo de las leyes locales.

La empresa matriz de TikTok, ByteDance, llegó a un acuerdo con un grupo de padres en Estados Unidos que acusaron a la empresa de recopilar y compartir datos sensibles de menores, en violación de la ley de privacidad de los niños.

¿De qué va la demanda?

La demanda alega que la aplicación Musical.ly (ahora conocida como TikTok) no pudo proporcionar las garantías adecuadas para evitar que los niños usen la aplicación. Si un menor de 13 años creó una cuenta, la aplicación solicitó que completara información de identificación personal como su nombre, número de teléfono, dirección de correo electrónico, foto y biografía.

Esa información estaría disponible públicamente para que otros usuarios la vieran. La queja también alega que la aplicación recopiló los datos de ubicación de sus usuarios, incluidos los menores de edad, durante casi un año entre diciembre de 2015 y octubre de 2016.

Esta supuesta colección violaría la Ley de protección de la privacidad en línea para niños (COPPA). La ley prohíbe a las empresas de redes sociales como Facebook y TikTok recopilar datos de niños menores de 13 años sin el consentimiento expreso de sus padres o tutores.

El abogado del demandante en el caso, Gary Klinger, declaró a The Verge que se había alcanzado un acuerdo por 1.1 millones de dólares. En un comunicado, un portavoz de TikTok detalló que la compañía no está de acuerdo con muchas de las reclamaciones de la queja, pero que había llegado a una “resolución”.

“TikTok está firmemente comprometido a salvaguardar los datos de sus usuarios, especialmente de nuestros usuarios más jóvenes”, dijo un portavoz de TikTok a The Verge.