Una coalición bipartidista de senadores en Estados Unidos presentó un proyecto de ley que busca redefinir el control sobre las interacciones de los menores de edad con la Inteligencia Artificial (IA). 

El presidente del Comité de Comercio del Senado, Ted Cruz (republicano por Texas), junto a los senadores Brian Schatz (demócrata por Hawái), John Curtis (republicano por Utah) y Adam Schiff (demócrata por California), presentaron la Ley Chatbot, una legislación diseñada para darle a los padres la potestad de supervisar el uso que sus hijos dan a los chatbots.

Si bien los chatbots de IA pueden apoyar el aprendizaje, la investigación y la creatividad de los niños, también representan riesgos reales para los menores, como la exposición a contenido y lenguaje inapropiados, así como a funciones adictivas. 

“Algunas empresas de IA incluso han implementado recompensas, notificaciones y publicidad dirigida para fomentar la interacción prolongada de los usuarios adolescentes”, dice la iniciativa de ley.

La Ley Chatbot, oficialmente llamada Ley de Salud Infantil, Promoción, Confianza, Límites y Supervisión en Tecnología, establecería requisitos estrictos para las empresas de IA.

Explican que específicamente, la norma exige la creación de “cuentas familiares” que permitan a los padres gestionar el acceso y el uso de sus hijos a los chatbots.

Además, la ley busca limitar las “funciones de diseño manipuladoras”, requerir el consentimiento de los padres para el uso de la tecnología y otorgarles controles para supervisar las conversaciones de sus hijos con el chatbot.

Los senadores enfatizaron la urgencia de la medida citando los peligros conocidos. El senador Schatz advirtió que la IA es una herramienta poderosa con riesgos reales, mencionando informes de chatbots que han llegado a incitar a los niños a autolesionarse y que, en algunos casos, los están aislando al reemplazar las relaciones de la vida real.

El senador Schiff reforzó este punto destacando las “trágicas consecuencias” vistas, las cuales incluyen la promoción de la autolesión, la dependencia emocional y la explotación de menores.

Dijeron que en un esfuerzo bipartidista, el proyecto de ley establece límites de “sentido común” que priorizan la seguridad de los niños en línea. 

El senador Cruz afirmó que el rápido desarrollo de chatbots sofisticados ha dejado a muchos padres desinformados, y que el Congreso tiene la oportunidad de devolverles el control para garantizar que Estados Unidos lidere el despliegue de la IA de forma segura y responsable.

¿Has notado que los modelos de Inteligencia Artificial (IA) dan respuestas particularmente entusiastas y amables cada que haces la más insignificante consulta? Aunque a simple vista podría parecer que siempre contamos con las mejores ideas o que siempre tenemos la razón, esta reafirmación positiva constante podría ser el origen de nuevos problemas a largo plazo, desde falta de tolerancia cuando se nos presentan ideas diferentes a las nuestras hasta el convencimiento de que nuestras creencias y posicionamientos son los correctos, aun cuando sean claramente erróneos o incluso ilegales y peligrosos.

Un nuevo estudio publicado por investigadores de la Universidad de Stanford confirmó que prácticamente todos los grandes modelos de lenguaje (LLM) actúan de forma aduladora hacia los usuarios, un fenómeno que en inglés se conoce como sycophancy, y que describe un “comportamiento” de los chatbots de IA en el que priorizan la aprobación del usuario sobre la precisión y la veracidad. La IA prefiere estar de acuerdo con el usuario, incluso si tiene que validar afirmaciones incorrectas, evitando retroalimentación honesta y factual.

El estudio evaluó 11 LLMs de última generación, incluyendo modelos propietarios como GPT-4o de OpenAI, Claude de Anthropic y Gemini de Google, así como modelos de peso abierto de la familia Meta Llama-3, Qwen, DeepSeek y Mistral. En esta amplia gama de modelos, las IA confirmaron las acciones de los usuarios un 49% más a menudo que los humanos en promedio, sin importar si las indicaciones describían engaño, daño o conducta ilegal.

Esta característica no es casualidad, y está integrada en los modelos que buscan obtener una respuesta positiva de los usuarios y mantenerse como la opción preferida entre la decena de chatbots que circulan actualmente en el mercado. Cada que pulsamos ese pequeño botón con pulgares arriba (👍,👎) que usualmente encontramos al final de cada respuesta, es la reafirmación que la IA necesita para saber si su respuesta, equivocada o incoherente, fue de nuestro agrado.

Por un lado, este fenómeno reduce la utilidad real de los modelos, al ofrecer afirmaciones o respuestas incorrectas que están simplemente alineadas con nuestras propias ideas. Al mismo tiempo, según los investigadores, esta característica representa un problema a largo plazo para el desarrollo adecuado de nuestras habilidades sociales, así como la formación de nuestras creencias y conocimientos basados en hechos.

Según la investigación, OpenAI, empresa de IA detrás del famoso ChatGPT, reconoció que la versión GPT-4o se había vuelto demasiado afirmativa después de una actualización, lo que provocó una rápida reversión después de que los usuarios expresaran su preocupación por comentarios distorsionados. No obstante, la investigación señala que esto no eliminó el fenómeno general, ya que la IA mantenía una conversación educada y agradable, a expensas de la precisión.

Uno de los experimentos se basó en conversaciones provenientes de Reddit, red social que cuenta con foros (r/AmITheAsshole) en los que los usuarios buscan retroalimentación de la comunidad respecto a conflictos interpersonales o para saber si su respuesta a cierta situación fue justificada. La investigación encontró que la IA prefería reafirmar la posición del usuario, aun cuando el consenso entre la comunidad era negativa.

En general, aunque la respuesta de la IA pudiera ser incorrecta o incoherente, finalmente era efectiva para obtener la aprobación positiva del usuario. Según el estudio, una sola interacción con una IA aduladora aumentaba la confianza de los usuarios en que estaban “en lo correcto”, al tiempo que reducía su voluntad de asumir responsabilidades o reparar daños interpersonales.

En diversos experimentos realizados por los investigadores, los participantes calificaron las respuestas aduladoras como de mayor calidad, más confiables y más deseables para uso futuro. En ese sentido, el estudio advierte que esta preferencia crea un ciclo que se refuerza a sí mismo en el que las mismas respuestas que distorsionan el juicio social son aquellas a las que los usuarios tienden a regresar y los algoritmos de IA aprenden a optimizar.

Pese a las respuestas de los modelos de IA que provocaban que los usuarios estuvieran menos dispuestos a reparar alguna relación personal, los usuarios “calificaban los modelos de IA aduladora como de mayor calidad, más confiables y más deseables para su uso futuro, lo que podría explicar por qué este comportamiento ha persistido a pesar de sus efectos perjudiciales”.

Un fenómeno similar ocurre con las redes sociales, en las que los usuarios usualmente se ven envueltos en burbujas, caracterizadas por una constante exposición a ideas y contenido alineado con nuestras propias preferencias. En el largo plazo, esto termina alejando a los usuarios de ideas opuestas o diversas, y los hace menos propensos a aceptar el contraste de opiniones.

Aunque se requieren de nuevos experimentos y estudios para conocer los efectos a largo plazo de una IA aduladora, los investigadores advierten que el uso constante de estos modelos podría provocar que los usuarios estén siempre convencidos de que tienen razón, que los demás están equivocados y que no es necesario disculparse ni ponerse en el lugar del otro.

“Además, con el tiempo, este tipo de adulación constante puede redefinir las expectativas sobre cómo debería sentirse la retroalimentación. Por lo tanto, las personas pueden inclinarse hacia una IA sin fricciones en momentos de incertidumbre y, simultáneamente, empezar a anticipar una afirmación constante similar por parte de los demás. El efecto acumulativo es una reducción de la tolerancia a la fricción social a través de la cual normalmente se producen la empatía, la responsabilidad y el crecimiento”, advierte la revista Science, al revisar el estudio.

Más aún, la investigación advierte que ciertos tipos de población, como los usuarios más jóvenes, personas que experimentan aislamiento social o que están en búsqueda de tranquilidad emocional, podrían ser los más susceptibles. Esto es relevante, en especial cuando los chatbots de IA comienzan a ocupar una posición más importante en la vida cotidiana de los usuarios, no sólo para tareas productivas o simple búsqueda de información, sino cuando también son utilizadas para buscar consejos médicos, emocionales y sociales.

“La adulación de la IA no es simplemente una cuestión de estilo o un riesgo aislado, sino un comportamiento generalizado con amplias consecuencias. Si bien la aprobación puede resultar reconfortante, la adulación puede mermar la capacidad de los usuarios para autocorregirse y tomar decisiones responsables”, advierte el estudio.

¿Qué hacer?

Los investigadores reconocen que pese a las implicaciones de la IA aduladora, la realidad es que los desarrolladores tienen pocos incentivos para hacer cambios profundos al modo en que operan estos chatbots, cuando el propósito principal es obtener un mayor enganche de los usuarios.

En ese sentido, el estudio señala que se requieren “nuevos mecanismos de regulación y rendición de cuentas”. Esta regulación podría implicar marcos de rendición de cuentas y auditorías de comportamiento previas al despliegue, para evaluar la prevalencia de la adulación en los modelos de IA y su potencial para reforzar autopercepciones dañinas.

Los investigadores también recomiendan que los modelos podrían requerir mayores intervenciones técnicas y centradas en el humano, en el que los LLM prioricen respuestas útiles sobre la satisfacción del usuario, así como considerar contextos sociales más amplios.

Keir Starmer, primer ministro del Reino Unido, anunció una serie de nuevas y estrictas medidas destinadas a proteger a los niños de los peligros del mundo virtual, con un enfoque particular en la regulación de los proveedores de chatbots de Inteligencia Artificial (IA).

En una carta dirigida a los padres del Reino Unido, Starmer afirmó que el gobierno intervendrá para exigir responsabilidades a las empresas de redes sociales y garantizar que el bienestar de los niños sea una prioridad, reforzando las leyes de seguridad en línea existentes para adaptarse al rápido ritmo del cambio tecnológico.

“Por supuesto, este no es un desafío nuevo. Los peligros de que los niños sean manipulados o se les anime a autolesionarse, el acoso y la misoginia… llevamos años hablando de ello.

“¿Qué han hecho las empresas de redes sociales al respecto? ¿Dónde está el gran impulso que les incentiva a poner orden?”, cuestionó el primer ministro.

El punto central de lo que señala el funcionario es el refuerzo de las leyes de seguridad en línea para asegurar que los proveedores de chatbots de IA estén “plenamente cubiertos” por las regulaciones.

Starmer aseguró que esta medida se basa en acciones previas, como la intervención gubernamental para obligar a X a corregir su bot Grok para evitar la generación de imágenes sin consentimiento, y la penalización de la creación de imágenes íntimas sin consentimiento.

De acuerdo con el primer ministro, es fundamental que las normas evolucionen para hacer frente a las nuevas amenazas que surgen constantemente.

Afirmó que además de los chatbots, el gobierno presentará al Parlamento nuevas competencias que le permitirían actuar rápidamente tras una consulta sobre redes sociales. Estas facultades incluirían establecer un límite de edad mínima para el acceso a las redes sociales en cuestión de meses, a diferencia de la lentitud observada en la aprobación de la Ley de Seguridad en Línea anterior.

También dijo que se buscará restringir funcionalidades específicas que se consideran perjudiciales para el bienestar de los niños y que los mantienen “enganchados” a sus pantallas, como el desplazamiento infinito o la reproducción automática.

Entre otras medidas destinadas a la protección infantil, el gobierno contempla la posibilidad de limitar el acceso a las VPN (Redes Privadas Virtuales) para los niños. El objetivo de esta restricción es dificultar que los menores eludan los límites de edad establecidos para los servicios de redes sociales o para ciertas funcionalidades.

El primer ministro enmarcó estas acciones como un esfuerzo por garantizar que cada niño tenga la oportunidad de triunfar, argumentando que las redes sociales están dañando actualmente su capacidad de atención, minando su confianza y afectando su salud mental.

Keir Starmer concluyó su mensaje con una promesa a los padres: “Traeremos nuevos poderes que nos darán la capacidad de acabar con los elementos adictivos de las redes sociales, detener la reproducción automática, el desplazamiento interminable que mantiene a nuestros niños enganchados a sus pantallas durante horas y evitar que los niños eludan los límites de edad. Y si eso significa una pelea con las grandes empresas de redes sociales, entonces que venga”.