“Hoy la Iglesia ofrece a todos su patrimonio de doctrina social para responder a otra revolución industrial y a los desarrollos de la Inteligencia Artificial, que comportan nuevos desafíos en la defensa de la dignidad humana, de la justicia y el trabajo”, señaló el nuevo papa, León XIV, durante un encuentro con los cardenales presentes en el Vaticano.

El cardenal estadounidense Robert Francis Prevost fue elegido el pasado 8 de mayo, y dos días después habló sobre los motivos que tuvo para elegir su nombre, León XIV, relacionado con León XIII, quien ejerció su pontificado entre 1878 y 1903 y que es autor de una de las encíclicas más famosas, la Rerum novarum, de 1891, una carta abierta en la que se refería a las condiciones de las clases trabajadoras durante la primera gran revolución industrial.

Para el nuevo papa, la situación de 1891, con la revolución industrial, es similar a la revolución digital de la actualidad.

Lee también: “Ningún algoritmo puede decidir sobre la vida o la muerte de un ser humano”: el legado del papa Francisco sobre la IA

Por su parte, durante un encuentro de prensa, el portavoz vaticano, Matteo Bruni, aseguró que la elección del nombre de León XIV es: “claramente una referencia no aleatoria a los hombres y mujeres trabajadores en una época de IA”.

Además de las alusiones iniciales, León XIV aseguró este lunes durante una audiencia con los medios que “la comunicación no es sólo la transmisión de información, sino la creación de una cultura, de entornos humanos y digitales que se convierten en espacios de diálogo y confrontación”.

León XIV aseguró que la tecnología y la IA exigen un “inmenso potencial, responsabilidad y discernimiento para orientar las herramientas al bien de todos, para que puedan producir beneficios para la humanidad”.

La posición del nuevo papa es muy similar a la de Francisco, quien dejó entrever su preocupación por el avance acelerado de tecnologías como la IA sin un marco ético global.

El Papa Francisco compartió que la Inteligencia Artificial y sus riesgos serán el tema central de la próxima Jornada Mundial de la Paz de la Iglesia Católica, la cual se celebra el primer día del año.

En su mensaje, el Papa Francisco pidió un diálogo abierto para reflexionar sobre el significado de esta nueva tecnología, la cual supone un impacto profundo en todo tipo de actividad humana.

Además, advirtió sobre la necesidad de estar alerta para que la violencia y la discriminación no echen raíces en el desarrollo de la Inteligencia Artificial (IA), a costa de los más frágiles y excluidos, “porque la injusticia y la desigualdad alimentan conflictos y antagonismos”.

El Papa también recordó la urgencia de orientar el desarrollo y uso de la IA de forma responsable y ética, para que esté al servicio de la humanidad y de la protección del planeta.

Relacionado: El Vaticano publica su propio manual de ética para la Inteligencia Artificial

El sumo pontífice agregó que la protección a la dignidad de la humanidad es una condición indispensable para que la IA ayude a contribuir en la promoción de la justicia y la paz en el mundo.

A pesar de que el Papa Francisco es un hombre de 86 años de edad que no sabe usar una computadora, la realidad es que no piensa que la tecnología sea mala, de hecho considera que el Internet y las redes sociales son un “regalo de Dios”.

La advertencia sigue los esfuerzos que el Vaticano ha dedicado para promover junto con otras empresas tecnológicas como Microsoft e IBM, el desarrollo ético de la IA y la regulación de tecnologías intrusivas como es el reconocimiento facial.

En vista del auge que ha adquirido la Inteligencia Artificial (IA) en este 2023, 

Tal como han hecho numerosas organizaciones y empresas alrededor del mundo, incluidos organismos de Naciones Unidas, como la Unesco, ahora el Vaticano publicó su propio manual de ética en la IA.

La máxima autoridad católica publicó su hoja de ruta operacional a través del Instituto para Tecnología, Ética y Cultura (ITEC), que creó mediante una alianza con el Centro Markkula para Ética Aplicada de la Universidad de Santa Clara.

Marco ético de gobernanza en IA

El documento, llamado Ética en la era de las tecnologías disruptivas, que está firmado por José Roger Flahaux, Brian Patrick Green y Ann Gregg Skeet, está dividido en siete partes y cuenta con hasta 46 pasos para mejorar las prácticas alrededor de la IA.

Entre las tecnologías enumeradas por el ITEC se encuentran la Inteligencia Artificial, el Aprendizaje Automático, los sistemas autónomos e inteligentes, la encriptación, el trazado y el reconocimiento facial.

El manual proporciona una guía práctica paso a paso para trasladar el compromiso del liderazgo de los negocios en los principios éticos a la acción, lo cual se logrará a  través de la adopción de un Marco Ético de Gobernanza Tecnológica y su implementación en un Sistema de Manejo Responsable de la Tecnología (RTMS, por sus siglas en inglés).

El País

Es una carrera contra el tiempo. La Biblioteca del Vaticano, fundada en 1451, mantiene una lucha contra la fragilidad del pasado para que los miles de documentos que resguarda no sucumban ante los efectos del tiempo, y también contra el presente, pues con la digitalización de su colección como medida de preservación se ha expuesto a redes de ciberdelincuencia al asecho de una de las colecciones históricas más importantes del mundo. La amenaza tiene dos frentes y la Biblioteca está en medio. Un paso en falso podría condenar importantes fragmentos de la historia de la humanidad al olvido, la manipulación o la extinción.

El relato ha cambiado en muy poco tiempo. En 2017, Luciano Ammenti, director de Sistemas de Información de la Biblioteca, dijo a EL PAÍS que la seguridad cibernética de la biblioteca no era algo que les preocupara. “La verdad es que la seguridad no nos preocupa mucho porque nuestros accesos son todos gratuitos. Desde el punto de vista de los hackers, no somos apetecibles: todo lo que uno podría tener, ya lo tiene en línea, no hay nada más. No tenemos documentos secretos”. Tres años después, la narrativa es otra. “No podemos ignorar que nuestra infraestructura digital es de interés para los piratas. Un ataque exitoso podría hacer que la colección sea robada, manipulada o eliminada por completo”, ha reconocido el director de Información de la Biblioteca, Manlio Miceli al diario The Guardian. ¿Qué ha cambiado? El temor a que los ciberdelincuentes se hagan con el contenido que están digitalizando para hurtarlo y pedir un rescate o, peor aún, manipularlo y modificar así documentos históricos de valor incalculable.

El giro les ha pillado en pleno proceso de digitalización: en 2014 la Biblioteca Apostólica del Vaticano apostó por la tecnología para proteger más de 80.000 manuscritos y documentos históricos de las condiciones naturales, del tiempo y de los accidentes físicos. Seis años después tienen un 25% de todo su contenido digitalizado. La batalla de las instituciones contra la ciberdelincuencia es cada vez más frecuente y compleja. Según el informe X-Force 2020 de IBM en 2019 fueron afectados más de 8.500 millones de registros, con un crecimiento del 200% con respecto a 2018.

“Actualmente, cualquier institución es posible víctima de estos ataques, incluso aquellas que por causas políticas, religiosas o de cualquier otra índole proporcionen al atacante una notoriedad o algún tipo de satisfacción personal”, señala Javier Sevillano, director de seguridad de la información de ISMS Forum, la Asociación Española para el Fomento de la Seguridad de la Información. Y la Biblioteca es una de ellas pues conserva alrededor de 1.600.000 libros —entre los que hay 150.000 manuscritos y 100.000 documentos impresos— entre los que están la copia más antigua de la Biblia que se conserva y dibujos y escritos de Miguel Ángel y Galileo, entre otros. “Los atacantes disponen, desafortunadamente, de un amplio arsenal de herramientas para realizar esta labor, como los analizadores de vulnerabilidades para detectar posibles puntos débiles en las defensas, las denominadas ‘puertas traseras’ que se introducen junto con otro software aparentemente legítimo o las herramientas de control remoto”, explica Sevillano. El experto también resalta el auge de la utilización de herramientas y paquetes de ransomware, un tipo específico de virus cuyo cometido es cifrar la información con una clave solo conocida por el atacante para pedir un rescate por su recuperación.

Preservar y confiar; la NASA y Darktrace

Objetivo de más de cien ataques cibernéticos al mes, la de la Biblioteca es ahora una doble misión: preservar el patrimonio y transmitir confianza. Para preservar el patrimonio, el recinto protege la mortalidad de los textos antiguos en la inmortalidad de las máquinas. La meta es que las reliquias que guardan las paredes de la Biblioteca también las guarden las paredes de las nubes de datos en el ciberespacio, en un plazo de 20 años. “No obstante, tener una información digitalizada no garantiza su pervivencia. Cabe recordar la pérdida de programas de la BBC emitidos hasta casi los años ochenta, las transmisiones originales del Apolo 11 desaparecidas para siempre, o la fallida migración de servidores de MySpace que hizo que se perdieran más de 50 millones de canciones”, señala Ángel González Berdasco, experto en ciberseguridad de INCIBE-CERT. Por eso la Biblioteca eligió en 2014 un formato conocido como FITS que fue creado por la NASA en 1981 para archivar imágenes y datos del espacio y que es más seguro que un .jpg o .pdf.

Pero para transmitir confianza, la Biblioteca también necesita asegurarse de que sus lectores puedan fiarse en los registros digitalizados de sus tesoros históricos. Que lo que están leyendo es, en efecto, lo mismo que está escrito en aquel pergamino del siglo XV. “Tenemos que proteger nuestra colección en línea para que los lectores puedan confiar en que los registros son antecedentes precisos e inalterados. En la era de las noticias falsas, estas colecciones juegan un papel importante en la lucha contra la desinformación, por lo que defenderlas contra los ataques de confianza es fundamental”, precisa Miceli a The Guardian. Por eso a principios de noviembre los encargados decidieron contratar a Darktrace Immune System, una empresa de Inteligencia Artificial (IA) cibernética con sedes en San Francisco (Estados Unidos) y Cambridge (Reino Unido).

“Nuestro sistema de IA —que se basa en el sistema inmunológico humano y que es utilizado por más de 4.000 organizaciones— inmediatamente comenzó a aprender el patrón de vida del mundo digital de la Biblioteca, proporcionando a su equipo de seguridad una vista en tiempo real de todo lo que sucede en sus sistemas”, explica a EL PAÍS Emmanuel Meriot, gerente de Darktrace en España y Francia. Dentro de la Biblioteca, la tecnología de Darktrace genera un análisis evolutivo de la actividad normal dentro de los sistemas digitales de la Biblioteca para detectar cambios significativos que puedan indicar si está surgiendo una amenaza cibernética. “La Biblioteca siempre se ha tomado en serio la seguridad cibernética, pero los ataques cibernéticos se están volviendo cada vez más sofisticados y las herramientas de seguridad tradicionales basadas en reglas, firmas y listas negras se están volviendo rápidamente obsoletas a vez más novedosos”, asegura Meriot.

Daño digital versus daño físico

Para los documentos históricos, la humedad y el malware (programa informático malicioso) son amenazas igual de peligrosas. Pero la primera es más conocida, menos compleja y no está en constante actualización como la segunda. “Vivimos en una era de desinformación en la que los piratas informáticos persiguen cada vez más la confianza no solo robando datos, sino también socavando su integridad. Si bien el daño físico a menudo es claro e inmediato, un daño de este tipo [cibernético] no sería tan visiblemente obvio, por lo que tiene el potencial de causar un daño duradero no solo al archivo, sino a la memoria histórica del mundo”, explica Meriot. En la misma línea, Miceli sostiene que la ventaja del daño físico es que “suele ser claro e inmediato” pero que un ataque cibernético tiene el potencial de causar un daño más duradero y potencialmente irreparable, “no solo al archivo en sí, sino a la memoria de la historia mundial”.https://www.youtube.com/embed/eDhV2avt_LE?feature=oembed

Mientras el panorama de las amenazas cibernéticas se mantiene en constante evolución, los expertos coinciden en que las organizaciones necesitan equipar a los seres humanos con máquinas dotadas de tecnología que comprenda los tonos grises dentro de los sistemas complejos de ciberseguridad. “Este tipo de herramientas están en continua evolución, con el lanzamiento constante de nuevas versiones con más y mejores capacidades, incluso estableciendo una industria underground de venta de servicios de malware”, señala Sevillano. Esta es una batalla de máquinas contra máquinas, con los bienes culturales como motín. Y la Biblioteca del Vaticano ha comprendido que para ganarla, además de los rezos, hará falta Inteligencia Artificial.