España propone ante la ONU una coalición internacional para proteger a los menores frente a la IA
La coalición operaría bajo el marco de la Organización de las Naciones Unidas (ONU) y buscaría que los países acuerden criterios para garantizar que los sistemas de IA respeten los derechos, la seguridad y el desarrollo de los menores.
España presentó una propuesta para crear una coalición internacional que promueva medidas comunes para proteger a niños y adolescentes frente a los riesgos de la Inteligencia Artificial (IA). La iniciativa fue anunciada este 6 de julio por el ministro para la Transformación Digital y de la Función Pública, Óscar López, durante el primer Diálogo Global de las Naciones Unidas sobre Gobernanza de la IA, celebrado en Ginebra.
La coalición operaría bajo el marco de la Organización de las Naciones Unidas (ONU) y buscaría que los países acuerden criterios para garantizar que los sistemas de IA respeten los derechos, la seguridad y el desarrollo de los menores. La propuesta cuenta inicialmente con el apoyo de Francia, la Unión Europea y Kenia.
“España trae una propuesta concreta para proteger a los menores en el uso de la IA, y esperamos sumar apoyos entre los países para que salga adelante esta iniciativa”, afirmó López.
El ministro mencionó que España ha liderado en la Unión Europea la prohibición de las deepfakes sexuales generadas con IA y aseguró que buscan extender ese esfuerzo al ámbito internacional.
Riesgos en el entorno digital
La propuesta surge en un momento en que gobiernos y organismos internacionales debaten cómo responder a riesgos como la manipulación de menores mediante sistemas de IA, la creación de material de abuso sexual infantil con deepfakes y la exposición de niños a contenidos perjudiciales.
El uso acelerado de la Inteligencia Artificial está transformando los entornos digitales donde los menores aprenden, se comunican e interactúan. Si bien estas herramientas abren nuevas oportunidades, también incrementan amenazas como la manipulación, la generación de pornografía y la segmentación algorítmica dirigida específicamente a niños y adolescentes.
Proteger a la infancia de la IA
Durante la inauguración del Diálogo Mundial, el secretario general de la ONU, António Guterres, advirtió que la expansión de la Inteligencia Artificial ha llegado a la vida de los menores sin que existan salvaguardas suficientes.
“La IA ha llegado a nuestros hijos, a su aprendizaje, sus amistades, sus preguntas más íntimas antes de que nadie se planteara qué consecuencias tendría para ellos”, afirmó Guterres.
El secretario general alertó que ya existen casos de niños engañados por sistemas que se hacen pasar por amigos, inducidos a autolesionarse o víctimas de imágenes de abuso generadas por IA. “Ningún niño debería ser conejillo de indias para una IA sin regulación”, aseveró.
Como parte de su intervención, Guterres hizo un llamado a un Compromiso de Seguridad Infantil en la IA basado en tres reglas: que la tecnología sea segura, con pruebas específicas y supervisión independiente antes de llegar a los niños; tolerancia cero frente al abuso sexual, detectando, denunciando y eliminando cualquier imagen sexual infantil generada por IA; y que, ante señales de angustia en un menor, el sistema se detenga y lo conecte con apoyo humano real.
En tanto, el ministro español advirtió que la regulación debe avanzar al ritmo de la tecnología para no repetir los errores cometidos con las redes sociales: “La desregulación absoluta no es un camino. Los múltiples beneficios de la IA serán aplastados por sus riesgos si no la gobernamos de inmediato”. En ese sentido, instó a fortalecer la gobernanza internacional para garantizar que la IA sea “un derecho mayoritario y no un arma exclusiva”.
Óscar López, recordó el papel activo de España en la creación del Diálogo Global, el panel científico de la ONU, el reglamento europeo de IA y la creación de la Agencia Española de Supervisión de la IA (AESIA).
Al cierre de su intervención, defendió una estrategia que combine innovación, competitividad y protección de derechos. “España escucha a la ciencia, promueve la innovación y defiende un Diálogo Global que busca combinar IA y derechos digitales. Hablamos de defender los Derechos Humanos frente al tecnofascismo”, concluyó.