El Ministerio del Poder Popular para Ciencia y Tecnología (Mincyt) de Venezuela, a través de la Dirección General de Desarrollo y Aplicación de Inteligencia Artificial (DGDAIA), presentó oficialmente el Código de Ética para el Desarrollo y Aplicación Responsable de la Inteligencia Artificial (IA), un documento que fija la hoja de ruta para el uso, investigación y despliegue de sistemas de IA en el país.

Con base en experiencias internacionales, el texto establece 9 principios “fundamentales e ineludibles”. El primero es una IA humanista, que debe estar centrada en el ser humano y prevenir cualquier forma de daño.

Este principio incluye el respeto a la autonomía humana, la prevención del daño físico, mental o social, el respeto a los derechos humanos, la defensa de la democracia y el Estado de derecho, la contribución a la calidad de vida definida por las propias personas, y enfatiza que la IA no debe manipular, coaccionar ni imponer ideologías o estilos de vida.

El segundo principio es la Equidad, igualdad y no discriminación, centrado en que la IA debe ser justa e inclusiva, con especial protección a grupos vulnerables como mujeres, niños, adolescentes y minorías. Exige diversidad en equipos de desarrollo, perspectiva de género, la no homogeneización cultural, la no segmentación de la población en burbujas informativas y el fomento de sociedades pacíficas y justas.

Le sigue en tercer lugar la Responsabilidad ambiental, que ve a la IA como una herramienta que puede ayudar a enfrentar la crisis climática, pero que también genera impactos significativos.

El cuarto principio es la Seguridad, que se aborda en tres niveles: protección de datos, seguridad del modelo frente a manipulación y seguridad de la infraestructura física y digital.

El siguiente principio es la Privacidad, que se define como un derecho fundamental. Al respecto, el Código exige consentimiento informado, transparencia sobre el uso de datos, minimización de datos recolectados, derecho a acceso, rectificación, cancelación y oposición y la protección de datos estructurados y no estructurados, incluidos biométricos y médicos.

Recomendamos: Ecuador presenta su política pública para el desarrollo ético de la IA

El sexto principio establece que los sistemas de IA deben ser comprensibles, explicables y auditables. Se enfatiza la trazabilidad de decisiones, especialmente en sectores críticos como salud y justicia.

Además, se introduce la contraloría social como mecanismo para que la ciudadanía supervise y cuestione el funcionamiento de estos sistemas.

El Código también exige mecanismos claros para identificar y sancionar malas prácticas, y prohíbe que la IA sea utilizada para evadir responsabilidades.

Por otro lado, se inspira en la recomendación sobre Ciencia Abierta de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) para brindar acceso abierto al conocimiento, a través del código abierto y software libre, la colaboración global y la democratización tecnológica.

El noveno principio impulsa la investigación de vanguardia, la formación de talento humano y la colaboración entre academia, industria y gobierno. La excelencia se entiende como calidad científica, ética y compromiso con el desarrollo nacional.

El Código sostiene que estos nueve principios no son meras recomendaciones, sino imperativos prácticos que deben integrarse en cada etapa del desarrollo tecnológico. Su implementación busca alinear la IA con derechos humanos, equidad, transparencia, sostenibilidad y soberanía nacional.

Fuente: Prensa Avaya

En medio de un panorama legal que cambia rápidamente, las empresas deben comprender los posibles obstáculos que podrían enfrentar a medida que implementan proyectos de IA.

A medida que la Inteligencia Artificial (IA) se integra cada vez más en diversos aspectos de las operaciones comerciales, plantea muchos desafíos éticos y legales. Las empresas deben sortear estas complejidades con cuidado para aprovechar el potencial de la IA y, al mismo tiempo, proteger a la organización de posibles riesgos.

Antes de implementar apresuradamente herramientas y tecnologías emergentes de IA, las empresas deben explorar los riesgos éticos y legales asociados con la activación de IA, con un enfoque particular en su impacto en las experiencias de los clientes y empleados, especialmente en los entornos de servicio al cliente y centros de contacto.

La integración de la Inteligencia Artificial en las operaciones comerciales está transformando rápidamente diversas industrias, pero también plantea desafíos importantes. Para las empresas, es crucial abordar los riesgos éticos y legales que trae consigo esta tecnología, especialmente en áreas como el servicio al cliente y los centros de contacto.

Entendiendo los riesgos

Los principales riesgos en la implementación de IA se dividen en tres categorías: legales, éticos y reputacionales.

1. Riesgos Legales: Las empresas deben cumplir con regulaciones que varían según la región. En Europa, la Ley de IA de la UE se basa en el RGPD, clasificando los sistemas de IA según su nivel de riesgo. Por otro lado, en EE.UU., las regulaciones varían a nivel estatal. En Nueva York, por ejemplo, la Ley Local 144 exige auditorías para los sistemas de IA utilizados en la contratación, asegurando que no presenten sesgos.
   
   
2. Riesgos Éticos: La IA puede perpetuar sesgos e inequidades si no se manejan adecuadamente. Un caso famoso es el de Amazon, cuyo sistema de IA para la selección de currículums favoreció a candidatos masculinos debido a sesgos en los datos. Las empresas deben implementar marcos éticos sólidos que incluyan la detección de sesgos y la transparencia en la toma de decisiones.
   
   
3. Riesgos Reputacionales: El mal uso de la IA puede afectar gravemente la reputación de una empresa. Por ejemplo, un error en la gestión de datos con IA podría resultar en la pérdida de confianza de los clientes. Para mitigar estos riesgos, las empresas deben ser transparentes sobre cómo usan la IA y comunicar claramente sus prácticas a clientes y empleados.

Navegando el panorama regulatorio

El panorama legal de la IA evoluciona constantemente. La Ley de IA de la UE impone sanciones a las empresas que no cumplan con las normativas de seguridad, mientras que en EE.UU. las empresas deben adaptarse a las regulaciones estatales. Las compañías que utilicen IA en el servicio al cliente deben asegurarse de que sus sistemas respeten las leyes de privacidad de datos y otras normativas, como el derecho al olvido en la UE.

Marcos éticos y responsabilidad

Las empresas deben adoptar marcos éticos que incluyan la detección de sesgos en los sistemas de IA, transparencia en la toma de decisiones y una distribución equitativa de los beneficios. Esto es especialmente importante en el servicio al cliente, donde la IA debe mejorar la experiencia de todos los clientes, sin importar su origen o demografía.

Gestión de los riesgos reputacionales

La reputación de una empresa puede verse seriamente afectada por el mal uso de la IA. Para evitar esto, las empresas deben implementar prácticas responsables, ser transparentes sobre el uso de la IA y establecer un sólido programa de gobernanza. En Avaya, por ejemplo, hemos creado un Comité de Habilitación de IA para supervisar la implementación ética y legal de esta tecnología.

Los riesgos éticos y legales asociados con la implementación de la IA son significativos, pero manejables con las estrategias y marcos adecuados. Al comprender estos riesgos y tomar medidas proactivas, las empresas pueden aprovechar el poder de la IA para mejorar las experiencias de los clientes y empleados, mientras protegen su negocio contra posibles problemas.

Para obtener más información sobre las capacidades de IA de Avaya en toda su cartera de soluciones, haga clic en https://www.avaya.com/ebook/ai-capabilities/index.html#/

Fuente: Prensa MTC

Con el objetivo de establecer principios y valores de carácter ético, que orienten la conducta del personal en el ejercicio de sus funciones y/o actividades, así como en sus relaciones interpersonales, se aprobó el Código de Ética y Conducta del Programa Nacional de Telecomunicaciones (Pronatel), convirtiéndose en una herramienta importante para reforzar la promoción de una cultura de integridad en la entidad.

Este documento, aprobado con Resolución de Dirección Ejecutiva N° 157-2023-MTC/24, busca además fomentar y fortalecer los valores institucionales en base a la integridad y transparencia pública, conforme a los preceptos recogidos de la Ley del Código de Ética de la Función Pública.

El Código de Ética y Conducta de Pronatel es un documento de naturaleza preventiva, que establece cinco (05) valores institucionales: excelencia, integridad, vocación de servicio, compromiso institucional y personal y colaboración y compañerismo, los cuales son principios, actitudes y conductas que guiarán las decisiones del personal en el cumplimiento de sus acciones en beneficio de la ciudadanía.

Además, ha incluido los principios, deberes y prohibiciones del Código de Ética de la Función Pública, a los cuales se han sumado ejemplos de conductas esperadas en el personal de Pronatel. Entre los i) principios considerados están: respeto, probidad, eficiencia, idoneidad, veracidad, lealtad y obediencia, justicia y equidad, lealtad al estado de derecho; entre los ii) deberes: neutralidad, transparencia, discreción, ejercicio adecuado del cargo, uso adecuado de los bienes del Estado, responsabilidad; mientras que entre las iii) prohibiciones están: mantener intereses de conflicto, obtener ventajas indebidas, realizar actividades de proselitismo político, hacer mal uso de información privilegiada, presionar, amenazar y/o acosar.

De esa manera, se busca: i) lograr que los valores institucionales se reflejen en actitudes, comportamientos, reglas de actuación y prácticas organizacionales, que caracterice al personal de Pronatel, ii) servir como guía de comportamiento para el personal de Pronatel, en el desempeño de sus funciones y/o actividades, así como en sus relaciones interpersonales dentro del ámbito del desempeño de los mismos y iii) promover los principios, deberes y prohibiciones de la Ley del Código de Ética de la Función Pública, así como establecer estímulos para el personal de Pronatel.

De otro lado, en el código, se estipula también que la transgresión de este documento genera responsabilidad administrativa pasible de sanción, lo cual no exime de las responsabilidades civiles y/o penales que podrían surgir.

Finalmente, se recuerda que el personal de Pronatel, así como cualquier persona natural o jurídica, debe denunciar los actos contrarios a lo establecido en el Código de Ética y Conducta ante el/la Oficial de Integridad Institucional o ante la Secretaría Técnica de Procedimientos Administrativos Disciplinarios de Pronatel.