Perú | Retos y riesgos de la inteligencia artificial generativa

El Peruano Víctor Lozano Alfaro

En los últimos años, el mundo ha sucumbido ante el avance inexorable de la tecnología, situación que se acentuó durante la pandemia, coyuntura que obligó a algunos países a acelerar sus procesos de digitalización, mientras que otros, los más avanzados, trabajaron en el perfeccionamiento de temas estrechamente ligados a la imaginación y la creación, en este caso específico, a la inteligencia artificial generativa (IAG).

De acuerdo con una análisis de la empresa Marsh, la IAG representa un tipo de inteligencia artificial que es capaz de crear contenido nuevo y creíble, como texto altamente técnico, audio realista e imágenes realistas. 

Además, la IAG tiene la capacidad de adaptarse a las preferencias y necesidades específicas de los clientes. Al entrenar los modelos con datos relevantes, la inteligencia artificial puede generar contenido personalizado y relevante para cada usuario, mejorando la experiencia del cliente y aumentando la satisfacción. 

Algunas estimaciones establecen que para el 2025 el 10% de todos los datos serán el resultado de creaciones de IAG. 

No obstante, precisa Marsh, con el auge de la IAG surge una serie de interrogantes para el sector corporativo acerca de los riesgos de la expansión de esta tecnología, así como también preguntas relacionadas con las oportunidades que también estos procesos evolutivos significan.

Las empresas deberán evaluar estratégicamente cómo y cuándo adoptar sistemas de IAG, asociarse con proveedores, implementar protocolos de gestión de riesgo y gobierno.

Perspectiva equilibrada

Según Marsh, si bien se enfocan en los riesgos y en las oportunidades extremas de la IAG, una perspectiva equilibrada es fundamental para tomar decisiones informadas y gestionar los riesgos de manera responsable. 

“Para mantenerse relevantes y competitivas, las empresas deberán aprender cómo y cuándo aprovechar la IAG para alcanzar objetivos de manera óptima, como lograr eficiencias operativas, aumentar la satisfacción del cliente y desarrollar nuevos productos y servicios”, refiere.

Además, las empresas deberán evaluar estratégicamente cómo y cuándo adoptar sistemas de IAG, asociarse con proveedores, implementar protocolos de gestión de riesgo y gobierno apropiados y capacitar a los empleados con nuevos conjuntos de habilidades, como ingeniería rápida. 

Por ello, la IAG facilitará procesos que llevarían mucho tiempo, en especial para las empresas grandes y ayudará a interactuar con el repositorio de documentos, haciendo preguntas en lenguaje natural.

Contenido dañino

Muchos riesgos asociados con la IAG son extensiones de riesgos familiares, como la privacidad de los datos, que fueron una preocupación durante décadas. 

El uso indebido de la tecnología para generar contenido dañino se asoció por mucho tiempo con las redes sociales. La posible infracción de los derechos de propiedad intelectual a partir de la generación de contenido es un riesgo familiar al que se han enfrentado muchas industrias, desde la música y la publicación hasta el desarrollo de ‘softwares’. Los errores tecnológicos existen desde el advenimiento de la tecnología. 

Estos riesgos pueden volverse más concentrados o emerger en nuevas circunstancias a medida que la IAG se aplica a casos de uso creciente, pero continúan siendo extensiones de riesgos familiares existentes que pueden ser abordados por seguros de accidentes, medios, cibernéticos y de primera persona existentes. productos, entre otros.

Datos

– Los modelos de IAG avanzada pueden desarrollar capacidades emergentes, que son capacidades que los creadores del modelo no pretendían ni esperaban originalmente. 

– A medida que los sistemas de IAG interactúan cada vez más con sistemas complejos creados por humanos, como los mercados financieros, los ecosistemas de atención médica y las redes sociales, es posible que nos enfrentemos a riesgos imprevistos, como nuevos tipos de vulnerabilidades y vectores de ataque. 

– A medida que la IAG continúa desarrollándose, sus creadores, proveedores de servicios y usuarios deben determinar cómo y cuándo usar la tecnología, y anticipar y gestionar sus riesgos de manera proactiva.