La Comisión de Comunicaciones de la Cámara de Diputados de Brasil aprobó un proyecto de ley que obligará a las plataformas digitales a retirar, en un plazo máximo de 24 horas desde la notificación, contenido que promueva retos peligrosos o prácticas dañinas para niños, niñas y adolescentes.

La medida no requiere orden judicial y deberá adoptarse de forma gratuita. Según el dictamen, este tipo de contenidos se compara con la divulgación de imágenes íntimas sin consentimiento, conocida como pornografía vengativa.

La propuesta también determina que los proveedores adopten y difundan medidas para prevenir, identificar y contener prácticas peligrosas; proporcionen canales accesibles para que los usuarios denuncien estas prácticas; informen y justifiquen cualquier restricción de contenido, con posibilidad de impugnación; y dejen de promover, monetizar o recomendar contenido ilegal.

La iniciativa fue presentada originalmente por el diputado Dr. Zacharias Calil como una nueva ley. Sin embargo, el relator Julio César Ribeiro incorporó las modificaciones dentro de marcos ya existentes, como el Marco Civil de Internet, la Política Nacional de Prevención de Autolesiones y Suicidio, y el Sistema Unificado de Seguridad Pública.

El texto será revisado por las comisiones de Seguridad Social, Asistencia Social, Niñez, Adolescencia y Familia, así como por la de Constitución y Justicia y de Ciudadanía, para ser aprobada por la Cámara de Diputados y el Senado.

El Parlamento Europeo y los Estados miembros de la Unión Europea (UE) han llegado a un acuerdo sobre la Ley de Servicios Digitales (DSA), con el objetivo de hacer que las grandes empresas de tecnología rindan cuentas por el contenido que los usuarios encuentran en Internet. La ley fue propuesta originalmente por la Comisión Europea (CE) en diciembre de 2020.

Se espera que la ley tenga un amplio alcance sobre múltiples empresas y servicios de Internet, desde oferentes de computación en la Nube, motores de búsqueda, comercios en línea, hasta plataformas de redes sociales.

Mediante la Ley de Servicios Digitales, la UE espera dar más control a los usuarios de Internet sobre lo que ven en línea: con más información sobre por qué se les recomienda un contenido específico, así como opciones para evitar la creación de perfiles con su información personal o de navegación. Incluye también la prohibición de publicidad dirigida a menores de edad y no se permitirá el uso de datos sensibles como orientación sexual, religión o etnia.

También ayudará a proteger a los usuarios de contenido dañino e ilegal, mejorará significativamente la eliminación de contenido ilegal; abordará el contenido dañino como la desinformación política o relacionada con la salud, e introducirá mejores reglas para la protección de la libertad de expresión.

La Ley de Servicios Digitales es un complemento de la Ley de Mercados Digitales, adoptada a finales de marzo, con el objetivo de imponer una regulación más eficiente sobre las grandes empresas tecnológicas, en especial, sobre aquellas consideradas gatekeepers, que operan grandes plataformas como redes sociales, buscadores o comercio electrónico.

Ambas regulaciones están dirigidas principalmente a plataformas con más del 10 por ciento de alcance de los 450 millones de consumidores de la Unión Europea y que, por lo tanto, se consideran que tienen mayor responsabilidad para frenar el contenido ilegal en línea.

La DSA también contendrá reglas que garanticen que los productos vendidos en línea sean seguros y sigan los estándares más altos establecidos en la UE, incluyendo más información a los consumidores sobre el vendedor.

“La creciente influencia del ambiente en línea en nuestras vidas no es sólo para mejor: los algoritmos desafían nuestras democracias al difundir el odio y la división, los gigantes tecnológicos desafían el acceso a igualdad de condiciones, y los mercados en línea desafían nuestros estándares de protección al consumidor y la seguridad de los productos. Esto tiene que parar. Por esta razón, estamos construyendo un nuevo marco, para que lo que es ilegal fuera de línea también lo sea en línea”, señala Christel Schaldemose, eurodiputado líder en la Ley de Servicios Digitales.

La DSA entrará en vigor en 2024, con la excepción de las plataformas en línea y los motores de búsqueda en línea muy grandes que aún no han sido definidos por las instituciones europeas. Una vez hecho esto, se les aplicará la ley cuatro meses después de su designación.

Margrethe Vestager, vicepresidenta ejecutiva de la Comisión Europea, celebró en un mensaje en Twitter el acuerdo político que se logró firmar en la UE, y afirmó que se trata de una mejora respecto a la propuesta original.

“A medida que la ley se finalice e implemente, los detalles importarán. Esperamos trabajar con los legisladores para obtener los detalles técnicos restantes y garantizar que la ley funcione para todos”, compartió Google en un comunicado con Reuters.

Meta creó un nuevo sistema de Inteligencia Artificial (IA) que usa el “aprendizaje de pocas oportunidades” en aras de combatir el creciente contenido perjudicial que prolifera en sus plataformas, como el discurso de odio.

La gigante tecnológica estadounidense informó que el contenido dañino continúa evolucionando rápidamente, y ha sido impulsado por acontecimientos recientes o personas que buscan nuevas formas de evadir sus sistemas, por lo que es crucial que los sistemas de IA evolucionen junto con él.

Sin embargo, aclaró que por lo regular se necesitan varios meses para recopilar y etiquetar miles, incluso millones, de ejemplos necesarios para capacitar a cada sistema de IA individual para detectar un nuevo tipo de contenido.

Para abordar este asunto, Meta creó el nuevo sistema Few Shot Learner (FSL), o una tecnología de Inteligencia Artificial que puede adaptarse para tomar medidas sobre tipos nuevos o en evolución de contenido dañino en cuestión de semanas en lugar de meses.

Este nuevo sistema de IA utiliza un método llamado “aprendizaje de pocas oportunidades”, en el que los modelos comienzan con una comprensión general de muchos temas diferentes y luego usan muchos menos ejemplos etiquetados, e incluso ninguno, para aprender nuevas tareas.

FSL puede emplearse en más de 100 idiomas y aprende de diferentes tipos de datos, como imágenes y texto. Meta detalló que la nueva tecnología le ayudará a aumentar los métodos con los que cuenta para combatir el contenido perjudicial.

La compañía detalló que FSL funciona en tres escenarios distintos, cada uno de los cuales requiere de diferentes niveles de ejemplos etiquetados:

1. Zero-shot: descripciones de políticas sin ejemplos. 

2. Few-shot with demonstration: descripciones de políticas con un pequeño conjunto de ejemplos, menor a 50. 

3. Low-shot with fine-tuning: los desarrolladores de Aprendizaje Automático pueden ajustar el modelo base de FSL con un número reducido de ejemplos de entrenamiento.

Meta informó que probó FSL en algunos hechos recientes, como la identificación de contenido que comparte información engañosa o sensacionalista sobre la vacunación contra la Covid-19. Mientras que, en una tarea separada, el nuevo sistema de IA mejoró un clasificador existente que marca el contenido que se aproxima a incitar a la violencia.

Por otro lado, Meta detectó que FSL también ayudó a reducir la prevalencia de otro contenido nocivo como lo es el discurso de odio. Y finalmente advirtió que espera que, con el tiempo, este sistema de IA mejore el rendimiento de todos sus sistemas de Inteligencia Artificial de integridad al permitirles aprovechar una base de conocimiento y una columna vertebral única para hacer frente a muchos tipos diferentes de violaciones.

Un estudio de la organización feminista UltraViolet revela que Instagram es la red social más misógina y racista de Internet, pues sus algoritmos promueven contenidos de odio hacia las mujeres, filtros sexistas, vergüenza corporal, ciberacoso, discriminación racial y sexual, y desinformación.

En alianza con el Instituto para el Diálogo Estratégico, el informe señala que Instagram presenta graves fallas en sus políticas de moderación de contenidos, por lo que no aborda con suficiencia problemas específicos centrados en videos o imágenes violentos y discriminatorios.

Instagram tiene un proceso poco claro para eliminar contenidos y usuarios que fomentan la desinformación, los desórdenes alimenticios, la dismorfia corporal, el sexismo y el racismo; así como mensajes dañinos acerca del aborto, el embarazo, las vacunas, el acoso y otros temas relevantes.

La red social falla al garantizar un ambiente seguro y sano para las usuarias y usuarios, pues carece de moderadores de contenidos y algoritmos que respeten la expresión de género y la diversidad racial, sexual y corporal.

En realidad, Instagram sigue casi las mismas políticas que Facebook, su plataforma hermana, lo cual es un problema porque “tienen diferentes medios, juegan diferentes roles y la experiencia del usuario y las marcas son muy diferentes para los consumidores”, advierte el estudio.

Ninguna red social está exenta de la misoginia, la discriminación, el racismo y la desinformación. El informe alerta que todas, en menor o mayor medida, no han logrado crear una experiencia de Internet segura e inclusiva para las diversas mujeres, las personas LGBTQ+ y las personas de color. En el mejor de los casos, las políticas que se dicen estrictas son irregulares.

También lee: Facebook debe detener la violencia en línea contra las mujeres de la política

Después de Instagram, Facebook es la aplicación más dañina. La red social no toma medidas adecuadas contra la misoginia, transfobia, desinformación, el acoso cibernético, la suplantación de identidad y la discriminación racial y de género. Tarda en eliminar las publicaciones dañinas o las ignora, y hace excepciones al tratarse de cuentas de alto perfil.

UltraViolet afirma que Facebook le falla a las víctimas de acoso, pues pone sobre ellas toda la carga de reportar publicaciones y usuarios que las violenten, en lugar de permitir, como otras plataformas, que el informe lo genere cualquier usuario. Además, la empresa no asume cabalmente la responsabilidad de aplicar sus políticas.

YouTube ocupa el siguiente lugar en la lista. Los problemas con su política sobre discriminación son que no menciona a las mujeres ni a las personas no binarias; no prohíbe los contenidos dañinos, incluyendo las imágenes sexuales sin consentimiento; al igual que permite el contenido extremista y la información errónea sobre temas de salud pública.

TikTok también obtuvo una mala calificación en el estudio. A la plataforma de videos cortos le falta comprometerse a eliminar los contenidos dañinos, violentos y discriminatorios. Por el contrario, da un trato preferencial a las personas blancas, sanas, cisgénero y heterosexuales, advierte la organización.

Reddit y Twitter fueron las redes sociales mejor valoradas. Ambas cuentan con una política de discurso de odio sólida, pero aún tienen sesgos. Por ejemplo, el algoritmo de Twitter favorece el contenido conservador; en tanto, Reddit todavía no contempla a profundidad reglas contra la misoginia y la desinformación.

En un nuevo capítulo de la polémica serie de documentos de Facebook filtrados por el diario estadounidense The Wall Street Journal (WSJ), se destaca lo difícil que es para la red social crear sistemas de Inteligencia Artificial (IA) que detecten de forma confiable el contenido que infringe sus reglas.

De acuerdo con el informe, los algoritmos de Facebook tienen problemas para identificar contenido como videos de disparos grabados en primera persona, discursos racistas, accidentes automovilísticos con “desmembramiento y entrañas visibles”, amenazas a niños transgénero e incluso peleas de gallos.

Un ejemplo es el tiroteo de Christchurch, en Nueva Zelanda, que fue grabado en directo por el perpetrador en primera persona y se mantuvo en línea durante varias horas.

Algunos ingenieros de Facebook estiman que el uso de esta tecnología apenas logra borrar de la red entre el 3 y el 5 por ciento del contenido violento o de odio. Y pronostican que, a menos que haya un cambio de estrategia, “será muy difícil que la empresa logre subir estas cifras más allá del 10 al 20 por ciento en el corto o mediano plazo”.

También aseguran que Facebook está haciendo un mal uso de las herramientas de Aprendizaje Automático, dado que estas apenas funcionan relativamente bien en áreas como el spam, pero se quedan cortos en otras más sensibles y controvertidas que requieren la atención humana con el mismo contexto cultural.

La respuesta de Facebook

Guy Rosen, vicepresidente de Integridad de Facebook, respondió al informe diciendo que los documentos están desactualizados y confirmó que casi un 50 por ciento del contenido problemático en la red social ha sido eliminado por la IA, incluso antes de que los usuarios lo denunciaran.

Destaca que su estrategia de moderación se basa en la “prevalencia”, la cantidad de contenido de odio que las personas visualizan en la plataforma, más que en la eliminación como tal.

“La prevalencia es la métrica más importante y no representa lo que detectamos, sino lo que nos perdimos y lo que la gente vio, y es la métrica principal de la que somos responsables”, dijo Rosen. “Hemos tenido éxito en moverlo hacia abajo, y es en lo que realmente nos enfocamos”.

Es decir, que cuando los algoritmos de Facebook no están completamente seguros de que un contenido infringe las reglas, el material sospechoso se muestra con menos frecuencia a los usuarios. Pero las cuentas que lo publican quedan impunes.

El WSJ también denuncia que debido a que la compañía apoya ampliamente el uso de su tecnología de IA desde 2019, prescindió de parte del equipo humano que se encargaba de revisar el contenido para ahorrar costos. La revisión humana costaba 2 millones de dólares a la semana ó 104 millones al año, según el documento interno.

El regulador de las telecomunicaciones en el Reino Unido, Ofcom, estableció una guía para que las plataformas de video protejan a sus usuarios de contenidos que pudieran resultar dañinos.

De acuerdo con una investigación hecha por Ofcom, un tercio de los usuarios del Reino Unido dijo haber presenciado o experimentado contenido de odio, en tanto que una cuarta parte afirma haber estado expuesta a contenido violento o perturbador.

La misma investigación revela que uno de cada cinco usuarios de Internet que consumen video ha estado expuesto a videos o contenido que fomenta el racismo.

1. Proporcione reglas claras sobre la carga de contenido. Subir contenido relacionado con terrorismo, material de abuso sexual infantil o racismo es un delito. Las plataformas deben tener términos y condiciones claros y visibles que lo prohíban, y hacerlos cumplir de manera efectiva.
2. Tenga procesos sencillos de presentación de informes y quejas. Las empresas deben implementar herramientas que permitan a los usuarios marcar videos dañinos fácilmente.
3. Deben indicar la rapidez con la que responderán y estar abiertos a cualquier acción que se tome.
4. Los proveedores deben ofrecer una ruta para que los usuarios planteen formalmente sus inquietudes con la plataforma y cuestionen sus decisiones. Esto es vital para proteger los derechos e intereses de los usuarios que cargan y comparten contenido.
5. Restrinja el acceso a sitios para adultos. Los proveedores de video que alojan material pornográfico deben contar con una sólida verificación de edad para proteger a los menores de 18 años de acceder a dicho material.

Te puede interesar: ​​“Lo vi en TikTok”: ¿cómo la red social china está cambiando la cultura?

La Ofcom señaló que, de acuerdo con la Internet Watch Foundation, hubo un aumento del 77 por ciento en la cantidad de contenido de abuso “autogenerado” en 2020. Dijo que los proveedores de servicios de video para adultos conllevan un mayor riesgo de material de abuso sexual infantil y un aumento en los sitios de suscripción directa a los fanáticos que se especializan en contenido generado por el usuario.

“El contenido para adultos potencialmente ha hecho que este riesgo sea más pronunciado. Dado este mayor riesgo, esperamos que los procesos de registro de creadores de video y las comprobaciones posteriores sean lo suficientemente sólidos como para reducir significativamente el riesgo de que se cargue y comparta material de abuso sexual infantil en sus plataformas.

“Durante los próximos 12 meses, también daremos prioridad a abordar el odio y el terror en línea; garantizar una experiencia apropiada para la edad en plataformas populares entre los menores de 18 años; sentar las bases para la verificación de la edad en sitios para adultos; y garantizar que los procesos de los proveedores de video para informar sobre contenido dañino sean efectivos”, señaló la Ofcom.

En una entrevista con CNN, Nick Clegg, vicepresidente de Asuntos Globales de Facebook, declaró que Instagram introducirá nuevas funciones que permitirán a la red social alejar a los adolescentes de contenido tóxico y “empujarlos” a ver otros temas que mejoren su bienestar emocional.

“Vamos a presentar algo que creo que marcará una diferencia considerable. Cuando nuestros sistemas detecten que un adolescente está mirando el mismo contenido una y otra vez, y es contenido que puede no ser propicio para su bienestar, les daremos un codazo para que miren otro”, aseguró el ejecutivo de Facebook.

Para reducir la adicción a Instagram, Clegg dijo que la red social está desarrollando una función bautizada como “tomar un descanso”, la cual incitará a los adolescentes a dejar de usar la red social por un tiempo.

Asimismo, la compañía introducirá nuevos controles opcionales “para que los adultos puedan supervisar lo que los adolescentes hacen en línea”. 

Sin embargo, Clegg no proporcionó detalles acerca de cómo funcionarán estas medidas y tampoco mencionó una línea de tiempo para su implementación.

Las declaraciones llegan apenas una semana después de que la exempleada de Facebook, Frances Haugen, denunciara que Instagram distorsiona la imagen corporal de las adolescentes y que, en general, todos los productos de la red social “dañan a los niños, avivan la división y debilitan la democracia, ante los medios de comunicación y el Senado de Estados Unidos.

Entre otras medidas que Facebook ha tomado ante estas acusaciones, está el retraso en el lanzamiento de nuevos productos como la versión de Instagram para niños, así como una revisión exhaustiva de su reputación sobre cómo la empresa y sus productos podrían ser criticados en el futuro.

Este domingo en el programa 60 Minutes de CBS News, Frances Haugen reveló su identidad como “Sean”, la extrabajadora de Facebook que filtró la investigación interna sobre los daños que la red social Instagram ha ocasionado en niños y adolescentes.

“Lo que vi en Facebook, una y otra vez, fue que había conflictos de interés entre qué era bueno para el público y qué era bueno para Facebook, y Facebook escogió siempre optimizar su interés y hacer más dinero”, afirmó.

Haugen tenía acceso a miles de documentos que comprueban que la empresa de Internet sabía sobre los efectos tóxicos que su red social propicia entre los niños y adolescentes, relacionados con tener imágenes distorsionadas de su cuerpo, problemas alimenticios e incluso pensamientos suicidas.

Así que decidió reunir suficientes pruebas y divulgar la información entre los medios de comunicación y congresistas. Haugen trabajó como gerente de Producto durante casi dos años en Facebook, donde aseguró haber visto las peores prácticas comerciales, pues antes también estuvo en empresas tecnológicas como Google y Pinterest.

Facebook difunde que está haciendo progresos para combatir la desinformación, los discursos de odio y la violencia de sus redes sociales; sin embargo, le miente al público, en realidad no actúa para proteger a la sociedad y se beneficia del contenido dañino, aseguró Haugen en el programa televisivo.

Cuando decidió denunciar a la compañía, Haugen acudió a Whistleblower Aid, una organización sin fines de lucro que ayuda a exponer posibles infracciones a la ley. The Wall Street Journal fue el primer medio que comenzó a publicar los hallazgos de la filtración, compartiendo historias de adolescentes afectados.

También lee: Facebook ‘congela’ desarrollo de Instagram para niños, pero no piensa cancelarlo

En consecuencia, el Senado de Estados Unidos citó la semana pasada a una representante de Facebook para explicar por qué se ocultó la indagación sobre los daños a la salud mental y emocional. Antigone Davis, jefa de Seguridad Global de la empresa, afirmó que los niños afirman encontrar una experiencia más positiva que negativa en Instagram, y negó que el panorama fuera tan grave como se estaba mostrando en los medios.

Además, Frances Haugen presentó una denuncia contra Facebook, ante la Comisión de Bolsa y Valores, por engaños a sus inversores al hacer declaraciones tergiversadas u omitir información.

Según The New York Times, la Comisión brinda protección a los informantes de corporaciones, e incluso les puede otorgar recompensas económicas si dan pistas que conduzcan a multas millonarias.

La extrabajadora de Facebook se presentará ante el Senado para brindar su testimonio acerca de las acusaciones contra los efectos nocivos de Instagram. También viajará a otros países, como el Reino Unido y Bruselas, a dialogar con los legisladores, ya que los posibles daños no sólo abarcan niños adolescentes de Estados Unidos sino de otras naciones.

El Senado de Estados Unidos acusó a Facebook de causar daños a la salud mental y emocional de niños y adolescentes, estar consciente de ello y ocultar la información. Por eso, este jueves, la jefa de Seguridad Global de la empresa, Antigone Davis, fue llamada a un interrogatorio ante el subcomité de Protección al Consumidor del Senado.

Los legisladores advirtieron que la gigante tecnológica escondió una investigación interna que muestra cómo su red social Instagram afecta a los niños y adolescentes, haciéndolos sentir mal por su imagen o influyendo en que consideraran el suicidio, y no actuó para resolverlo. 

Durante una primera audiencia en el Senado, que el Washington Post transmitió en vivo, los legisladores dijeron que Facebook prefirió el crecimiento de su plataforma aprovechando las vulnerabilidades de los niños, por encima de poner remedios a los estragos que ha estado causando.

También exigieron a la compañía tecnológica que haga transparente todos los resultados de su indagatoria, pues hasta ahora sólo se ha conocido una parte. El Wall Street Journal publicó una serie de historias en septiembre acerca de los daños que estaban sufriendo los niños que usan Instagram, basada en una filtración de la investigación de Facebook. Esto impulsó a los senadores a citar a la empresa.

Los niños y adolescentes asiduos a la red social presentaron problemas de salud mental como distorsiones o preocupación excesiva por su imagen corporal, trastornos de alimentación y pensamientos suicidas, según los datos que se han conocido hasta ahora.

También lee: Instagram es la red social más tóxica para adolescentes

Antigone Davis trató de sortear las duras críticas de los legisladores minimizando los resultados. Afirmó que la investigación interna en realidad se cuestionaba la idea de que Instagram es tóxico para los niños y se hizo para buscar crear experiencias más positivas.

Davis señaló que sólo 0.5 por ciento de los adolescentes había conectado una idea suicida a Instagram, y que ocho de cada 10 afirman tener una experiencia positiva o neutral en la aplicación. La jefa de Seguridad Global de Facebook apuntó que los hallazgos no mostraron un panorama tan grave como el que dibujaban los senadores o los reportes del Wall Street Journal.

En medio de esta polémica, y previo al interrogatorio de Davis, la empresa detuvo el lanzamiento de Instagram Kids para los menores de 13 años. En un blog, el Director de Instagram, Adam Mosseri, escribió que se tomaría más tiempo para generar una experiencia apropiada para los niños

Mosseri aseguró: “Esto nos dará tiempo para trabajar con padres, expertos, legisladores y reguladores, escuchar sus preocupaciones y demostrar el valor y la importancia de este proyecto para los adolescentes más jóvenes en línea hoy”.

Facebook ya había recibido cuestionamientos por su manejo a favor de la protección de los niños, quienes, según la compañía, en teoría no pueden crear una cuenta en la red social.

La idea de lanzar la versión infantil de Instagram sería una supuesta solución. Sin embargo, de nuevo la empresa es blanco de acusaciones por malas prácticas comerciales que afectan la integridad de las personas, la privacidad e incluso fomentan los discursos de odio.

La Comisión Primera de la Cámara de Representantes de Colombia aprobó, en primer debate, un proyecto de ley que busca regular las responsabilidades de los medios de comunicación y los proveedores de servicios de Internet (ISP, por sus siglas en inglés) frente a contenidos que pueden atentar contra los derechos de niños y adolescentes.

Aunque su objetivo es proteger derechos fundamentales, la iniciativa, presentada por la Ministra TIC Karen Abudinen, ha recibido varios cuestionamientos y advertencias sobre que limitaría la libertad de expresión e impondría mecanismos de censura previa.

El proyecto identifica como “medios” responsables de los contenidos que se difunden tanto en la televisión y radio como en Internet a los medios de comunicación y a los ISP, por lo que les ordena una serie de obligaciones para resguardar los derechos de la infancia.

Uno de los elementos más controvertidos de la propuesta es que busca establecer una comisión de expertos formada por peritos jurídicos y técnicos, y expertos en telecomunicaciones, para que elaboren un catálogo de contenidos que puedan atentar contra la integridad de niños y adolescentes. También se encargarían de diseñar medidas para evitar la difusión de contenidos dañinos.

“Hay posibilidad de que el día de mañana un gobierno decida qué contenidos que puedan hablar de educación sexual LGBTI atentan contra la integridad moral de nuestros niños. O si el día de mañana un gobierno decida que un contenido de una red social que llame a la movilización puede atentar contra los niños. Y entonces busquen censurar esos contenidos”, alertó la legisladora Juanita Goebertus.

La iniciativa también contempla que los medios cuenten con un código de buenas prácticas; que el horario de programas con contenido violento o sexual se limite a ser transmitido de 22:00 a 05:00 horas; la difusión de advertencias acerca de la clasificación de programas antes de su emisión, y otras condiciones.

También lee: Los niños pueden estar en peligro: medidas para hacer de Internet un lugar seguro

Para los ISP, el proyecto de ley plantea una serie de prohibiciones: entre ellas, dicta que no podrán “alojar en su propio sitio web imágenes, textos, documentos o archivos audiovisuales que atenten directa o indirectamente contra la integridad moral, psíquica o física de la niñez, la infancia y la adolescencia, que inciten a la violencia, que hagan apología de hechos delictivos o contravencionales, o que contengan mensajes discriminatorios”. Ni tampoco vínculos a sitios web dañinos.

Asimismo, establece que los proveedores de Internet deben denunciar cualquier acto criminal que afecte a los niños; “combatir con todos los medios técnicos a su alcance” la difusión de material dañino o inapropiado, y abstenerse de usar Internet para divulgar contenido de este tipo.

El proyecto de la ministra TIC también propone que los ISP implementen sistemas internos de seguridad para evitar el acceso no autorizado a su red y prevenir actos que vulneren los derechos de los niños; y desplieguen infraestructura y técnicas de control para clasificar los contenidos con el fin de impedir el acceso a los que sean violentos, dañinos o discriminatorios.

Si los “medios” (de comunicación e ISP) no cumplen con las disposiciones, la iniciativa define un régimen sancionatorio que incluye la amonestación, la realización de un programa dedicado a las responsabilidades de los medios respecto a los derechos de la infancia, la suspensión del título habilitante y multas económicas.

Por un lado, la propuesta de ley despertó las alarmas debido a las posibilidades de que amenace la libertad de expresión. La Fundación para la Libertad de Prensa afirmó que el proyecto promueve la censura y restringe la libertad de los medios a definir su propia línea editorial, además de que daría una vía libre a los gobiernos para limitar contenidos sin que realmente sean violentos o dañinos.

Asimismo, al identificarlos como “medios”, a los ISP se les imponen obligaciones de moderación de contenido que no estarían a su alcance. Los proveedores se encargan de prestar un servicio de acceso a Internet, pero no controlan los materiales que se publican o difunden en las páginas web ni en las plataformas digitales.