Una regulación balanceada impulsaría el despliegue de la nueva fase de IA basada en agentes: Salesforce
La Inteligencia Artificial Agéntica, considerada la tercera fase de la Inteligencia Artificial (IA), con nuevas promesas de autonomía y eficiencia, requerirá de nuevos enfoques de regulación que permita ampliar su uso y adopción entre empresas y gobierno con confianza e innovación, señaló en entrevista con DPL News, Teresa Verthein, directora de asuntos con gobierno en México de Salesforce.
La IA Agéntica (Agentic AI) ha surgido como la tercera fase en el desarrollo de IA, la cual se compondría principalmente por el uso de agentes, los cuales podrían llevar a cabo tareas de forma prácticamente autónoma y a través de múltiples plataformas y datos. Las dos primeras fases estarían compuestas por la IA Predictiva, enfocada principalmente en el análisis de datos de negocio (patrones, tendencias, inferencia) y la IA Generativa, basada en Grandes Modelos de Lenguaje (LLM) para generar contenido (texto, video, audio).
En la tercera fase, “los agentes son aplicaciones avanzadas que no sólo responden ciertas preguntas en lenguaje natural, sino que son capaces de, a partir de la comprensión de las necesidades del usuario, poder desarrollar planes de acción y ejecutarlos, sin necesidad de que esté previamente programado, sino a través del aprendizaje propio de la aplicación”, explicó Verthein.
Se espera que el uso de estos agentes permitirá acelerar aún más los beneficios provenientes de la IA, con un impacto positivo en la productividad y la eficiencia de las empresas. Los agentes podrán hacerse cargo de las tareas más repetitivas o mecánicas, por lo que los empleados podrán enfocarse en otras tareas más demandantes como aquellas relacionadas con estrategia, la creatividad o habilidades blandas.
Wiley, conocida editorial estadounidense, ha señalado que el uso de agentes para atención al cliente le han reportado hasta un 213 por ciento como retorno a la inversión. En este caso, los agentes de IA se ponen a cargo de atender solicitudes de servicio cuando más se incrementa su demanda a inicios de cada ciclo escolar, donde son puestos a atender las consultas más comunes, mientras que los agentes humanos se centran en los casos más complejos. Esto ha permitido mantener la velocidad y efectividad de la atención, aún en casos de mayor demanda.
Para Verthein, la adopción masiva de esta nueva fase de la IA dependerá no sólo de la oferta, sino de un marco regulatorio y de políticas públicas que faciliten el despliegue rápido de esta tecnología en los sectores productivos, y al mismo tiempo, se protejan los datos e información de los consumidores. Entre los factores que pueden influir se incluye la creación de confianza en la tecnología, educación, y fuertes marcos de protección de datos.
“Una manera importante es entrenar a las personas en la Inteligencia Artificial, eso va a ser clave porque nosotros consideramos que esta tecnología no va a reemplazar el trabajo humano, sino que lo va a potencializar. Pero para poder hacer eso, los trabajadores presentes necesitan estar entrenados en cómo la IA puede ser aprovechada”, apuntó.
La directiva también destacó la importancia de la seguridad, e incluso de abordar cuestiones éticas en el desarrollo de la IA. Al respecto, recordó que en México se ejecutó el año pasado la Metodología de evaluación del estadio de preparación realizada por el Observatorio Global de Ética y Gobernanza de la Unesco.
Aunque el estudio reconoció la presencia de marcos legales sólidos para protección de los derechos humanos, la protección y privacidad de datos, también advierte de los desafíos ante la falta de un plan nacional de IA y un bajo nivel de investigación científica. Según cifras de la Unesco, el uso de la IA por parte de empresas privadas en México es bajo en comparación con otros países latinoamericanos, obteniendo un puntaje de 12.5 en el Índice, con un promedio regional de 25.
Para atender estos retos, Verthein indicó que la propuesta de Salesforce es que el gobierno “sea un primer adoptador de la tecnología, en la prestación de servicios a los ciudadanos ayudaría mucho a que ellos mismos puedan tener experiencia con las implementaciones de esta tecnología y a partir de eso, incrementar la seguridad y la confianza que los usuarios en el sector productivo y ciudadanos pueden tener sobre la tecnología misma”.
Adicionalmente, la compañía propone que se adopte una política AI First, es decir, que la IA esté integrada en todas las nuevas aplicaciones gubernamentales desde su desarrollo. Por otro lado, Verthein habló sobre la importancia de contar con un “zar de Inteligencia Artificial dentro del gobierno, quien coordine toda la estrategia de Inteligencia Artificial, para que no haya cabezas en agencias o dependencias específicas, sino que haya una coordinación general de todo de todo este esfuerzo”.
Finalmente, respecto al aspecto regulatorio, la directiva se mostró a favor de un enfoque basado en riesgo, para evitar una “regulación monolítica”, y se estudien los posibles impactos en cada uno de los casos de uso donde se ofrece. Esto permitiría adoptar medidas más enfocadas según el sector o aplicación donde una regulación más estricta sea necesaria.
“La innovación puede en ocasiones ser sacrificada cuando el esfuerzo regulatorio es demasiado fuerte o no bien aplicado al objeto de la regulación. Entonces el enfoque basado en riesgo es el que nosotros proponemos y que ofrece un balance entre estos dos acercamientos al tema”, puntualizó.