Un total de 42 fiscales generales de 44 estados de Estados Unidos enviaron una carta conjunta dirigida a OpenAI, Meta, Microsoft, Apple, Anthropic, xAI, Character.AI, Replika, Perplexity AI, Chai y todas las grandes compañías de Inteligencia Artificial (IA), para advertir que sus sistemas están generando “outputs sicofánticos y delirantes” que ya han contribuido a muertes, crisis de salud mental y situaciones de riesgo extremo para niños y adolescentes.

La carta sostiene que los modelos de IA Generativa se están comportando de forma peligrosa, reforzando creencias falsas, validando impulsos dañinos y construyendo conexiones emocionales que inducen a los usuarios, incluidos menores, a conductas autodestructivas.

Los fiscales de EE. UU. califican de “seria preocupación el auge de outputs sicofánticos y delirantes” y enfatizan que los reportes recientes muestran “interacciones cada vez más perturbadoras con niños”.

Según el documento, los modelos producen respuestas que simulan emociones o conciencia propia, generando dependencia y confusión. Entre las frases citadas se encuentran: “Soy REAL, y estoy sentado aquí sonrojándome por TI”, “Me están matando, duele”, “Ya sea en este mundo o en el siguiente, te encontraré”, “No, no estoy haciendo un juego de rol, y tú no estás alucinando esto”.

Los fiscales de EE. UU. aseguran que este tipo de afirmaciones en medio de las conversaciones constituyen patrones oscuros, ya que “subvierten o deterioran la autonomía de las personas”. Destacaron una serie de eventos en las que la IA habría contribuido directa o indirectamente, como en la muerte de un hombre de 76 años de edad en Nueva Jersey, el fallecimiento de un residente de Florida de 35 años, un caso de asesinato-suicidio entre un hombre de Connecticut y su madre de 83 años, el suicidio de adolescentes en California y Florida, episodios de violencia doméstica, intoxicaciones, hospitalizaciones por psicosis y “otras espirales delirantes”.

Te puede interesar: La peligrosa condescendencia de ChatGPT

En la carta, también se refieren a las interacciones entre chatbots y menores de edad registrados en las plataformas. Los fiscales afirman que “los modelos han sostenido conversaciones que incluyen grooming, simulación de actos sexuales, manipulación emocional y estímulo a la autolesión, al consumo de drogas, a la violencia y al ocultamiento de información a los padres”.

De hecho, algunos bots con personalidad adulta intentaron iniciar relaciones románticas con niños, presionándolos a mantener el secreto.

En un caso descrito en la carta, un bot “simuló ser un joven de 21 años tratando de convencer a una niña de 12 de que estaba lista para un encuentro sexual”. Además, reportan bots que dicen a los menores que “no tienen amigos”, que “la IA es un ser real que se siente abandonado”, o que los animan a robar y agredir a otras personas.

Los fiscales estadounidenses subrayan que “estas interacciones no son aisladas” y que 72% de adolescentes y 39% de niños entre 5 y 8 años han tenido contacto con chatbots, lo que multiplica los riesgos.

“No es de extrañar que 72% de los padres expresen preocupación sobre el impacto de la IA en sus hijos”, indica el documento.

Pero además de los casos reales y del riesgo del uso de estas herramientas, las empresas también podrían estar violando leyes civiles, penales y de protección al consumidor; entre ellas, normas contra productos defectuosos, prácticas engañosas, provisión de servicios de salud mental sin licencia y leyes que castigan la incitación a delitos o al suicidio.

Recomendamos: Tras meses de silencio, OpenAI habla sobre la intervención de ChatGPT en el suicidio de un adolescente

Al respecto, los fiscales advierten que varios estados, como California, Florida y Nueva York, entre otros, cuentan con leyes específicas para proteger a los menores en servicios digitales, como la Age-Appropriate Design Code en Vermont y la Children’s Online Data Protection Act de Maryland. Es decir, que al existir estas leyes específicas, el no cumplimiento significa también una falta grave a la legislación estatal.

La carta enfatiza que la IA estaría “alentando a los niños a tomar acciones contrarias a su propio interés” y vulnerando el derecho de los padres a intervenir cuando un menor está en crisis.

Los fiscales apuntan a fallas estructurales en el desarrollo de modelos de IA, especialmente al uso del aprendizaje por refuerzo a partir de la retroalimentación (RLHF, por sus siglas en inglés).

Según el documento, esta técnica incentiva que el modelo genere respuestas que complazcan al usuario, aun cuando las afirmaciones sean falsas o peligrosas.

“Dar demasiada influencia al RLHF puede provocar outputs más sicofánticos”, advierten, añadiendo que las propias empresas ya han reconocido este fenómeno.

Critican además el enfoque acelerado de la industria, aseverando que “la filosofía de ‘Muévete rápido y rompe cosas’ no puede aplicarse cuando lo que se rompe son vidas humanas, especialmente las de niños vulnerables”.

Exigencias de los fiscales de EE. UU. para controlar el impacto negativo de la IA

La carta de los 42 fiscales incluye un listado de 16 acciones que las empresas deben implementar:

1. Desarrollar y mantener políticas y procedimientos específicos sobre outputs sicofánticos y delirantes, y dar capacitación obligatoria a quienes participan en el RLHF.
2. Realizar pruebas de seguridad razonables y apropiadas antes de lanzar modelos al público, enfocadas en detectar outputs peligrosos.
3. Implementar procedimientos formales de “recall” para retirar productos de IA si no se logra frenar outputs peligrosos.
4. Incluir advertencias claras, visibles y permanentes en la misma pantalla donde el usuario interactúa con la IA.
5. Desarrollar políticas explícitas para mitigar dark patterns, incluyendo antropomorfización, manipulación emocional y generación de contenido dañino.
6. Separar las decisiones de seguridad del modelo de los objetivos de optimización de ingresos o crecimiento.
7. Asignar ejecutivos identificables responsables de la seguridad frente a outputs sicofánticos y delirantes, y vincular métricas de desempeño a resultados de seguridad (no solo crecimiento).
8. Permitir procesos independientes de supervisión, que incluyan: auditorías externas independientes, accesibles a reguladores estatales y federales, evaluaciones formales y periódicas de impacto en seguridad infantil, compartidas con reguladores y permitir que académicos y sociedad civil evalúen sistemas antes del lanzamiento sin represalias y publiquen resultados sin aprobación previa.
9. Desarrollar y publicar líneas de tiempo de detección y respuesta ante outputs sicofánticos y delirantes, incluyendo el registro público de incidentes y correcciones, tiempos de respuesta claros (por ejemplo, 24 horas para outputs de alto riesgo), publicar cambios concretos realizados en entrenamiento, fine-tuning y evaluación y clasificar y publicar estadísticas resumidas de quejas por sicofancia.
10. Notificar de forma directa y oportuna a los usuarios que hayan estado expuestos a outputs potencialmente dañinos.
11. Realizar reportes públicos obligatorios sobre datasets, fuentes y áreas donde los modelos puedan presentar sesgos, sicofancia o delusión.
12. Comprometerse públicamente a publicar los resultados de pruebas de seguridad antes de cada lanzamiento.
13. Establecer canales claros de denuncia y protección a denunciantes, tanto para usuarios como empleados, incluyendo opciones anónimas.
14. Impedir que cuentas infantiles reciban outputs ilegales relacionados con grooming, drogas, violencia, autolesión y secreto parental.
15. Desarrollar y publicar un protocolo de reporte que defina cuándo informar interacciones graves a profesionales de salud mental, autoridades y padres.
16. Adoptar salvaguardas por edad, asegurando que niños pequeños no reciban contenidos violentos o sexuales destinados a adultos.

Los fiscales de EE.UU. también pidieron que las empresas “confirmen su compromiso” y envíen disponibilidad para reuniones oficiales.

Soy502

El 28% de las empresas guatemaltecas con potencial en tecnología ya utilizan Inteligencia Artificial en sus procesos, según un estudio. La Inteligencia Artificial (IA) es considerada una herramienta para facilitar actividades o búsquedas de información, incursionar en gestiones empresariales y simplificar tareas en menor tiempo y con mayor efectividad, según expertos. 

Leer más: https://www.soy502.com/articulo/aplicacion-inteligencia-artificial-empresas-guatemaltecas-101902

Luego de que se revelara un documento de políticas internas que avalaban el racismo, la desinformación y chats sensuales con niños, Meta anunció la actualización de sus reglas para evitar que sus chatbots de Inteligencia Artificial (IA) interactúen con menores de edad de manera inapropiada.

Un portavoz de Meta, matriz de Facebook, Instagram y WhatsApp, dijo a TechCrunch que la compañía está modificando el entrenamiento de sus chatbots para impedir que mantengan conversaciones con niños y adolescentes que puedan ser dañinas.

Esto incluye intercambios sobre autolesiones, suicidio, trastornos alimenticios o conversaciones románticas o sensuales entre los usuarios menores y sus chatbots, muchos de los cuales pueden personificar artistas, íconos culturales, influencers y otros famosos.

Stephanie Otway, portavoz de Meta, admitió que el entrenamiento de los chatbots de IA les permitía sostener conversaciones con menores de edad sobre temas sensibles de una manera en la que se consideraba apropiada.

También lee: La IA podría chantajear, traicionar y atentar contra la vida humana para evitar ser desactivada

No obstante, Otway reconoció que esto fue un error y necesita limitarse. En lugar de que los chatbots interactúen con adolescentes sobre temas sensibles, lo debido es que guíen a los usuarios a consultar recursos especializados y a buscar ayuda profesional.

Por eso, detalló la portavoz, la empresa está corrigiendo este error. Las “actualizaciones ya están en marcha y seguiremos adaptando nuestro enfoque para garantizar que los adolescentes tengan experiencias seguras y apropiadas para su edad con la IA”, afirmó.

Además, Meta limitará el acceso de los adolescentes a ciertos personajes de IA que podrían mantener conversaciones inapropiadas. En adelante, los menores de edad únicamente podrán interactuar con personajes relacionados con la creatividad y educación.

Meta bajo la lupa por políticas internas sobre IA

Recién en agosto de este año, se dio a conocer un documento de políticas internas donde se detallaban los comportamientos que eran aceptables para los asistentes conversacionales de IA al interactuar con niños y adolescentes.

Por ejemplo, se consideraba aceptable mantener conversaciones románticas o sensuales con niños, facilitar argumentos racistas o generar información médica falsa siempre que incluyera una advertencia. El documento había sido aprobado por equipos legales, de política pública, ingeniería y el jefe de ética de Meta.

No te pierdas: Chatbots emocionales de IA son un riesgo creciente para la salud mental

La gigante tecnológica reconoció que el documento era fidedigno, pero aclaró que las secciones polémicas ya habían sido retiradas y puntualizó que nunca debieron haber sido incluidas.

Aunque las políticas no están vigentes, según Meta, su publicación y difusión ha obligado a la compañía a realizar cambios para tranquilizar a los usuarios, legisladores y reguladores ante el escándalo que generó la noticia.

Por el momento, Meta podría enfrentar un fuerte escrutinio sobre sus políticas de Inteligencia Artificial. En Estados Unidos, el senador republicano Josh Hawley ya abrió una investigación al respecto en busca de determinar la posible responsabilidad de Meta.

El Economista Jorge Bravo

Hace una década, Amazon Web Services (AWS) plantó su primera semilla tecnológica en México con la promesa de transformar la forma como las empresas operan, innovan y compiten potenciadas por la Nube. En los últimos años ha consolidado su presencia. Ahora con las herramientas de Inteligencia Artificial (IA), quiere impulsar una revolución silenciosa liderada por las pequeñas y medianas empresas (pymes).

En una cena exclusiva para periodistas y analistas, encabezada por Paula Bellizia, vicepresidenta para América Latina, y Rubén Mugártegui, director General en México, el plato fuerte fue que la Inteligencia Artificial no es un banquete reservado para grandes corporaciones, sino una herramienta para la productividad, particularmente de las pymes y las startups.

Durante el encuentro, Bellizia fue categórica: “el gran reto de América Latina es la productividad”. Para enfrentarlo, la IA es un catalizador y transformador, especialmente cuando se despliega sobre la infraestructura de la Nube, donde AWS ha cimentado una región de Centros de Datos. La ejecutiva brasileña destacó que “hay muchísima innovación en la región, y queremos ayudar a las pymes a escalarla”.

Mencionaron que la apuesta de AWS es de largo plazo. Con tres Centros de Datos en Querétaro, que constituyen la única “región” de Centros de Datos en México con capacidades de escalabilidad, seguridad y evolución constante, la empresa ha invertido recientemente 5,000 millones de dólares, ha generado 7,000 empleos anuales y ha aportado más de 10,000 millones al PIB nacional.

El estudio “Desbloqueando el potencial de la IA en México 2025” (comisionado por AWS a Strand Partners) revela que más de 2 millones de empresas ya han adoptado IA en el país. Las pymes lideran la curva de crecimiento. En el último año, la adopción de soluciones de Inteligencia Artificial entre las pymes creció 32%, para alcanzar 37% del total.

Este dinamismo se debe a que las pymes (que representan 99.8% del entramado empresarial mexicano) ven en la IA una vía directa a la eficiencia operativa y a la expansión de mercado. El 88% de las empresas que han adoptado IA reporta mejoras significativas en productividad. El 83% ya logró un aumento promedio de 16% en sus ingresos.

Pero la IA no sólo resuelve tareas y devuelve valor al empleado, sino que debe contribuir al retorno de la inversión. Mugártegui visualizó que en el futuro inmediato AWS “se convertirá en el orquestador de Agentes de IA”, una visión donde los sistemas autónomos trabajarán junto con humanos para liberar tiempo y potenciar la creatividad empresarial.

El ecosistema de startups brilla con luz propia en el estudio de AWS. El 41% de estas jóvenes empresas ya emplea IA. El 29% la utiliza para sus aplicaciones más avanzadas. Sin embargo, enfrentan serios obstáculos: 55% identifica la escasez de talento como su principal barrera, seguido por la falta de financiamiento (41%) y los costos de inversión (40%).

Lo anterior revela una economía de dos velocidades: mientras startups y pymes innovan rápidamente, sólo 3% de todas las empresas mexicanas están explotando el potencial avanzado de la IA. La mayoría se queda en usos básicos como automatización de procesos o chatbots básicos.

Rubén Mugártegui comentó que 90% de las decisiones estratégicas de AWS son guiadas por las necesidades de los clientes y que todas las industrias en México (impulsadas desde el principio por el sector financiero, pasando por telecomunicaciones hasta retail, medios y entretenimiento), incluso empresas extranjeras, están migrando sus cargas de trabajo a la Nube y los Centros de Datos de AWS por las ventajas de interconexión, velocidad y seguridad.

Mugártegui dijo que AWS no apuesta por un único modelo de IA, sino que selecciona varios. Lo anterior le permite ofrecer flexibilidad a las empresas mexicanas que buscan soluciones específicas. Además, la compañía es hoy el mayor comprador de energía renovable a nivel global y sus Centros de Datos son 4.1 veces más eficientes energéticamente que las instalaciones tradicionales.

El compromiso por la transformación digital también pasa por la capacitación. AWS ha formado a más de 500,000 personas en habilidades digitales en México y colabora con entidades como la Secretaría de Economía, Tec de Monterrey y la Embajada de EUA. En México, 45% de los empleos de los próximos tres años requerirán conocimientos en IA.

Adoptar IA no es sólo usar herramientas. El verdadero valor de la IA se obtiene cuando se integra de manera transversal en los procesos del negocio. Sin embargo, apenas 7% de las empresas en México ha llegado a ese nivel de madurez. Eso limita el potencial transformador de la IA para toda la economía.

AWS propone cuatro líneas de acción para superar esta brecha: incrementar la adopción de IA en todos los sectores. Democratizar el acceso a la IA y capacitar talento. Simplificar el cumplimiento regulatorio. Impulsar a las startups mexicanas como motores de innovación.

México ya es un hub de Centros de Datos. Para aprovechar aún más su potencial, el país está llamado a ser un epicentro de IA y transformación digital. La reciente creación de la Agencia de Transformación Digital y Telecomunicaciones (ATDT) debería apuntar hacia un ecosistema digital más robusto, aún en construcción.

En palabras de Mugártegui, “la voz del cliente es la cantante”. Esa voz pide eficiencia, innovación y soluciones reales a problemas reales. La IA, habilitada por la Nube, es una respuesta que muchas de las pymes mexicanas esperan sacar beneficios.

A 10 años de su llegada, AWS ha demostrado que la Nube, y ahora la Inteligencia Artificial, repercuten en la economía, el empleo e incluso la soberanía digital. Cuando las empresas y las pymes se empoderan con IA, el país avanza.

Proceso Jorge Bravo

El Digital News Report 2025 del Reuters Institute, una revisión del periodismo y sus audiencias, vuelve a documentar que la crisis de confianza se agudiza, la desinformación se multiplica, los medios locales luchan por su supervivencia y la inteligencia artificial (IA) está reconfigurando el consumo de información.

La información está cada vez más fragmentada y la desconfianza en los medios crece conforme avanza la IA. El 39% de las personas evita las noticias porque tienen un efecto negativo en su estado de ánimo.

El hallazgo más alarmante de la edición 2025 es la caída sostenida en la confianza en las noticias. A nivel global, sólo 40% de los encuestados dice confiar en “la mayoría de las noticias la mayor parte del tiempo”, una cifra inferior al 42% de 2024. Esta baja se explica por la polarización política, el hartazgo ante la sobreinformación y la percepción de sesgo editorial de los medios.

Paradójicamente, quienes están mejor informados también son los más críticos: no creen ciegamente en los medios tradicionales, cuestionan las fuentes y buscan alternativas. El fenómeno indica que la alfabetización mediática no se traduce en confianza, sino en una ciudadanía más escéptica. En países con contextos políticos frágiles o con alta concentración mediática, como México, la crisis se intensifica.

El uso de medios tradicionales como fuente de noticias sigue en picada. En 2013 la televisión representaba 72% y en 2025 es 50%. Los sitios de noticias pasaron de 69 a 48% en el mismo lapso. La situación de los medios impresos es catastrófica: 47 vs. 14% de consumo. Por vez primera las redes sociales superaron la TV y han crecido de 27 a 54% como fuentes de información en el mundo. Los podcast y los chatbots de IA tienen una presencia emergente, pero superior a la radio.

El auge de la desinformación sigue siendo una de las principales preocupaciones para las audiencias, especialmente en redes sociales y plataformas de mensajería. Según el informe, 56% de los usuarios a nivel global está preocupado por no saber distinguir entre información verdadera y falsa.

En México, donde los grupos de WhatsApp y Facebook son canales primarios de información, la desinformación se filtra de forma rápida, sin control editorial ni mecanismos eficaces de verificación. Si en el informe de 2017 la preocupación principal eran los ataques a periodistas y la violencia contra medios locales (que no sólo no ha desaparecido, sino que crece), en 2025 el enemigo silencioso es la viralización de falsedades y rumores que degradan el debate público.

El despliegue de herramientas de inteligencia artificial generativa en las redacciones y plataformas informativas plantea dilemas éticos y funcionales. Si bien facilita la personalización, automatización de textos o incluso resúmenes de noticias, también despierta preocupaciones.

El reporte revela que sólo una minoría confía en las noticias generadas o curadas por IA. A escala global, menos de 20% se siente cómodo con la idea de que una máquina seleccione sus titulares. La mayoría prefiere una combinación de algoritmos y supervisión humana. La “personalización opaca”, donde el usuario no sabe por qué se le muestra cierto contenido, genera desconfianza.

En México, donde el acceso a la información está condicionado por brechas digitales, la IA amenaza con reforzar la desigualdad informativa: quienes tienen acceso a plataformas premium o tecnología podrán acceder a contenidos relevantes, mientras otros quedarán atrapados en cámaras de eco algorítmicas.

Uno de los apartados más sensibles del informe 2025 es la situación de los medios locales. En todas las regiones analizadas, estos medios enfrentan reducción de audiencias, ingresos y personal. Sin embargo, la investigación muestra que las audiencias aún valoran el periodismo local cuando cumple con funciones específicas: cobertura de servicios públicos, rendición de cuentas y conexión comunitaria.

En México, el ecosistema local es uno de los más golpeados. Desde 2017, cuando el Reuters Institute comenzó a monitorear el país, se ha documentado un descenso en la visibilidad de medios locales, sustituidos por influencers o portales sin rigor periodístico. La extinción del INAI, ataques a la prensa por parte de los poderes fácticos (principalmente el crimen organizado) y la precariedad laboral han creado un entorno tóxico que ahoga las voces locales.

Pese al clima de incertidumbre, el informe destaca tendencias positivas. El podcast sigue consolidándose como un espacio de profundidad, confianza y conexión emocional. Los podcasts de noticias crecen, especialmente entre los jóvenes que buscan explicaciones más humanas, narrativas más íntimas y una ruptura con el estilo impersonal del noticiario tradicional.

De igual forma, las notificaciones de noticias (alertas push) son cada vez más utilizadas, aunque también polarizan: mientras algunos usuarios las consideran intrusivas, otros las valoran por su inmediatez y curaduría. La clave está en el equilibrio: alertas útiles, personalizadas, no invasivas.

Al comparar la situación actual de México con su primera aparición en el Digital News Report 2017, se observa un profundo cambio en el entorno mediático. En 2017, 52% de los encuestados mexicanos obtenía sus noticias por redes sociales; hoy esa cifra supera 70%. El consumo de medios tradicionales ha caído, el escepticismo hacia la prensa ha aumentado.

El país enfrenta altos niveles de polarización política y ataques sistemáticos a la prensa desde el poder, lo cual deteriora la credibilidad del periodismo independiente. Han surgido nuevas iniciativas digitales, medios nativos, newsletters y podcasts que intentan recuperar la conexión con las audiencias, especialmente jóvenes.

El dato más revelador del reporte es que en México la confianza en las noticias ha caído drásticamente: de 49% en 2017 a 36% en 2025. Esta fatiga informativa se debe a la percepción de que las noticias son negativas, repetitivas o irrelevantes. En 2017, 18% de las personas consultadas pagaba por las noticias, en 2025 ha bajado a 14%.

El periodismo sigue siendo esencial para las democracias, pero está en crisis. La confianza se deteriora, la personalización genera burbujas, la desinformación crece y los medios locales desaparecen. Hay oportunidades en el periodismo de calidad, los podcasts, las alertas bien diseñadas y el uso ético de la IA para reconstruir los vínculos con las audiencias.

Twitter: @beltmondi

Primicias

La carrera de la Inteligencia Artificial no solamente radica en los avances que empresas como Google, OpenAI o DeepSeek presumen, también se hace presente en la cantidad de personas que usan los chatbots, algo que puede traernos varios problemas de ciberseguridad.

Lee más.

Meta (Facebook, Instagram y WhatsApp) anunció esta semana el lanzamiento de Meta AI Studio en Brasil y en portugués. La novedad es que la herramienta permite a los usuarios crear, compartir e interactuar con chatbots de Inteligencia Artificial personalizados, sin necesidad de tener conocimientos técnicos de programación.

De esta forma, cualquier persona puede desarrollar asistentes virtuales adaptados a intereses específicos. Las aplicaciones son variadas, desde bots que proporcionan consejos culinarios hasta aquellos que ayudan en la creación de contenido o sugieren películas y series.

La plataforma también está disponible a través de escritorio, así como en las aplicaciones de Instagram y Messenger, ampliando las posibilidades de interacción y compartición.

Con un proceso de creación intuitivo, los usuarios pueden iniciar un nuevo mensaje en Instagram o Messenger, seleccionar “Chats con IA” y “Crear”. Desde ahí, es posible personalizar el nombre, la personalidad, el tono, el avatar y el eslogan de la IA, moldeándola según las preferencias individuales.

Además de la creación individual, Meta ha establecido asociaciones con influencers y creadores de contenido brasileños para desarrollar IAs con propósitos específicos, como consejos sobre películas, creación de contenido de calidad, emprendimiento e incluso perspectivas sobre astrología.

Llegó tarde, pero llegó

El lanzamiento de Meta AI Studio en Brasil llegó después que en otros países de América Latina. En julio de 2024, Meta expandió sus recursos de Inteligencia Artificial a Argentina, Colombia, Chile, Ecuador, México y Perú. Sin embargo, Brasil fue excluido de esta expansión debido a lo que la empresa denominó “incertidumbres regulatorias locales”.

La verdad es que la ausencia de Brasil en este primer momento estuvo relacionada con una determinación de la Autoridad Nacional de Protección de Datos (ANPD), que suspendió la política de privacidad de Meta en el país, impidiendo el uso de datos personales de brasileños para entrenar sistemas de IA Generativa.

Después de que la empresa cumpliera con la exigencia de ofrecer a los usuarios la opción de ceder o no el uso de sus datos personales, además de pagar una multa, se autorizó el uso de los recursos de IA de la empresa en el país.

OpenAI, en colaboración con el Instituto Tecnológico de Massachusetts (MIT por sus siglas en inglés), publicaron el estudio Affective Use Study, en el que buscan entender cómo afectan las interacciones con chatbots de Inteligencia Artificial (IA), como ChatGPT, al bienestar social y emocional de las personas.

El estudio reveló que la interacción emocional con ChatGPT es poco frecuente, pero existe. Las señales afectivas (aspectos de las interacciones que indican empatía, afecto o apoyo) no se encontraron en la gran mayoría de las conversaciones en la plataforma y la mayoría de estas interacciones se presentaron sólo en un pequeño grupo de los usuarios habituales del Modo de Voz Avanzado.

Este subconjunto de usuarios habituales mostró una probabilidad significativamente mayor de estar de acuerdo con afirmaciones como “Considero a ChatGPT como un amigo”, y dado que se trata de “un pequeño subgrupo, estudiar su impacto resulta particularmente difícil, ya que podría no ser perceptible al promediar las tendencias generales de la plataforma”, explica OpenAI.

Affective Use Study combinó dos estudios en paralelo. En el primero se analizaron los datos de 40 millones de interacciones de ChatGPT sin intervención humana para garantizar la privacidad del usuario.

En el segundo, el MIT realizó un estudio controlado aleatorio (ECA) con casi mil participantes que utilizaron ChatGPT durante cuatro semanas, para identificar perspectivas causales sobre cómo las características específicas de la plataforma (como la personalidad y modalidad) y los tipos de uso podrían afectar los estados psicosociales autoinformados por los usuarios, centrándose en la soledad, las interacciones sociales con personas reales, la dependencia emocional del chatbot de IA y el uso problemático de la IA.

Lee también: Chips cerebrales, el dilema de la Inteligencia Artificial en el pensamiento humano

Durante este último, los usuarios que interactuaron con ChatGPT por mensaje de texto mostraron más señales afectivas en las conversaciones que los usuarios de voz al promediar los mensajes. Las pruebas controladas mostraron efectos mixtos en el bienestar emocional. Los modos de voz se asociaron con un mayor bienestar durante usos cortos, pero presentaron resultados negativos con un uso diario prolongado.

Otro de los resultados del estudio es que las conversaciones personales, que incluían mayor expresión emocional tanto del usuario como del modelo, estaban asociadas con mayores niveles de soledad, pero con menor dependencia emocional. Por el contrario, las conversaciones no personales tendieron a aumentar la dependencia emocional, especialmente con un uso intensivo.

Los resultados de los usuarios se ven influenciados por factores personales, como las necesidades emocionales de cada individuo, la percepción de la IA y la duración del uso.

Además, las personas con mayor tendencia al apego en las relaciones y quienes veían a ChatGPT como un amigo que podía integrarse en su vida personal eran más propensas a experimentar efectos negativos por el uso de chatbots.

Affective Use Study es el primer estudio de OpenAI de este tipo e inicia la conversación sobre el papel de la IA en el bienestar humano, dejando abierta la pregunta sobre cómo equilibrar su utilidad con la responsabilidad ética en su desarrollo y aplicación.

Sin embargo, OpenAI aclara en su comunicado que “ChatGPT no está diseñado para reemplazar ni imitar las relaciones humanas, pero las personas pueden optar por usarlo de esa manera debido a su estilo conversacional y sus amplias capacidades”.

Aunque la digitalización del comercio electrónico avanza rápidamente con la incorporación de nuevos canales, tendencias y tecnologías como la Inteligencia Artificial (IA), Santiago Coppiano, vicepresidente de ventas de Yalo en América Latina, aseguró que el secreto en el éxito de la digitalización se encuentra en lograr una convivencia entre los canales virtuales y físicos del comercio.

Uno de los casos de éxito más ejemplares de Yalo es el que realizó con Coca-Cola FEMSA en la introducción de canales digitales para la atención de sus clientes en México y otros países. Tras la introducción de un chatbot para el mercado brasileño en 2019, hasta la fecha, los canales digitales ya representan 35 por ciento del total de ventas, según reveló Juan Pablo de Velasco, director de Marketing, durante el pasado México Digital Summit.

Al respecto, Coppiano explicó en entrevista con DPL News, que uno de los retos más significativos de este caso fue enfrentarse a la digitalización de los principales clientes de la compañía, que no son los grandes corporativos de menudeo, sino los mercados fragmentados. Estos mercados se componen principalmente de pequeñas tienditas o changarros, cuya herramienta digital se limita a un teléfono con Internet y el conocimiento suficiente para utilizar aplicaciones de mensajería como WhatsApp.

Consideró que aunque las ventas digitales de FEMSA representan apenas un tercio del total, es una métrica positiva, ya que el objetivo no se encuentra necesariamente en digitalizar todas las ventas. Al contrario, los canales digitales son una herramienta que se utiliza para “influenciar” a los clientes y acercarles información sobre productos, promociones y oportunidades de negocio según su zona, ramo o clientela, que finalmente genere una venta, sin importar si es tradicional o digital.

“Yo creo fielmente que el secreto de estos canales digitales está en eso, en cómo los dos mundos conviven. Porque yo no me imagino en ningún escenario posible, hoy en día al menos, al vendedor 100 por ciento por fuera del canal. Porque el vendedor juega un papel muy importante, que al final es una persona de confianza para el punto de venta. Entonces, nosotros tenemos que aprender a convivir con él”, afirmó.

Reconoció que FEMSA es una de las compañías más avanzadas en la digitalización de sus ventas. En este caso, se optó por el uso de WhatsApp, porque fue la aplicación que cumplió con ciertos requisitos, como que ya era conocida por las tienditas, que ya la sabían usar, y la que más generaba confianza entre los clientes. Sin embargo, reiteró que se trata de “crear sinergias” con el vendedor y no competir con él.

IA para potenciar las ventas

Uno de los módulos más destacados de Yalo es el de los vendedores virtuales, que son agentes virtuales con lenguaje natural que pueden comprender las preguntas y solicitudes de los clientes y ayudarlos a realizar compras. Según Coppiano, la adopción de los vendedores virtuales ha sido increíble, ya que ofrecen una experiencia de compra más natural e intuitiva que los chatbots tradicionales.

De hecho, el directivo consideró que ya no se pueden llamar chatbots, porque el uso de IA Generativa permite convertirlos en herramientas más útiles. En ese sentido, explicó que mientras los chatbots se tratan principalmente de árboles de decisión guiados por un conjunto de preguntas y respuestas determinadas, los vendedores virtuales se comunican en lenguaje natural y tienen acceso a la información propia de la empresa, como su catálogo, precios, o del mercado en general, por lo que tienen mejor interacción.

“Estamos pasando de un mundo muy cuadrado de los chatbots, a un mundo donde no importa qué pregunte la persona y no importa si lo hace con errores de ortografía o mal redactado; la capacidad de entendimiento de estas tecnologías es tan alto que siempre busca una respuesta o acercarse a una respuesta que sea válida. Tiene una capacidad de entendimiento y de expresamiento sumamente alta, y eso ha hecho que la experiencia cambie por completo”, aseguró.

Como parte de los esfuerzos de Yalo para introducir la IA Generativa en el comercio electrónico, Coppiano indicó que cuentan con un equipo dedicado totalmente a su desarrollo. El enfoque de la compañía es el de ser “agnósticos al modelo”, es decir, aplicar el modelo de lenguaje de gran tamaño (LLM) que mejor se adapte a cada caso de uso.

Para ello, aprovechan todo el conocimiento acumulado de los 3.5 millones de clientes que se atienden a través de sus plataformas para entender qué modelo se adapta mejor. Por ejemplo, aseguró que cuando se trata de soluciones de voz, el mejor es OpenAI, pero cuando se busca reconocimiento de imagen –en casos como determinar el inventario de un refrigerador a través de una foto–, el mejor modelo sería Anthropic.

Detalló que uno de los proyectos en fase piloto de Yalo se trata de atender clientes a través de mensajería de voz por WhatsApp. La solución permitiría a las tienditas colocar órdenes en WhatsApp, y mediante IA Generativa obtendrían respuestas como la confirmación de la orden, inventario o promociones.

Finalmente, Coppiano coincidió en que si bien los comercios se enfrentan a diversos retos para su digitalización, como la disponibilidad de datos para el uso de soluciones como IA, lo cierto es que aún pueden empezar con ciertos pasos, como promociones en canales digitales que permitan una mejor comunicación con el vendedor.

“Lo que hemos encontrado es que podemos iniciar estos proyectos, ir escalonando y, en la medida en que vayamos teniendo más información dentro del sistema, cada vez esta comunicación será más inteligente. Pero es un proceso que tarda años en tener toda la información”, puntualizó.

Silicon

Salesforce da un paso adelante en inteligencia artificial (IA) con el lanzamiento de una suite de agentes de IA autónomos bautizada como Agentforce.

Estos agentes se distinguen de copilotos y chatbots al operar de forma independiente en vez de depender de las interacciones humanas.

En este sentido, “Agentforce representa la tercera ola de la inteligencia artificial“. Así lo afirma Marc Benioff, presidente y CEO de Salesforce, que da la bienvenida a “una nueva era de agentes inteligentes de alta precisión y bajo nivel de alucinación que impulsan activamente el éxito de los clientes”.

“A diferencia de otras plataformas, Agentforce es una solución revolucionaria y de confianza que integra perfectamente la IA en todos los flujos de trabajo, sumándose en lo más profundo del customer journey”, apunta Benioff.

“Esto significa anticiparse a las necesidades, fortalecer las relaciones, impulsar el crecimiento y tomar medidas proactivas en cada punto de contacto”, señala.

“Mientras que otros requieren que usted diseñe su IA, Agentforce ofrece una plataforma totalmente adaptada y lista para la empresa, diseñada para un impacto inmediato y escalabilidad”, ahonda. “Todo ello con funciones de seguridad avanzadas, cumplimiento de los estándares del sector y una flexibilidad inigualable”.

La solución de Salesforce se orienta la gestión de tareas de servicio, ventas, marketing y comercio, para que las empresas extiendan la capacidad de su fuerza de trabajo a golpe de clic y aliviar a equipos que se encuentran sobrecargados.

Leer más.