Alibaba y ByteDance apagan servicios personificados de IA para adaptarse a nueva regulación contra adicciones en China
Dos de las principales aplicaciones de Inteligencia Artificial (IA) orientadas al consumidor en China, Doubao de ByteDance y Qwen de Alibaba, han anunciado la desactivación de sus funciones de agentes personificados (agentes con rasgos humanos) antes de que entren en vigor nuevas regulaciones sobre servicios de interacción humanizada con IA, como parte del esfuerzo del gobierno por establecer un marco regulatorio más amplio para este sector de rápido crecimiento.
Doubao informó a sus usuarios el viernes por la noche que su función de agentes se desconectará el 15 de julio debido a “ajustes en las funciones del producto”. Aunque la compañía ofrecerá un tiempo de retención de datos para que puedan ser descargados por los usuarios, después del 15 de octubre estos serán eliminados, de acuerdo con la política de privacidad de la compañía, según reportaron medios locales.
Qwen emitió un aviso similar el sábado por la mañana, indicando que sus “agentes interactivos humanizados y funciones de agentes creados por usuarios” se deshabilitarán el 10 de julio, mientras que las “funciones y servicios de agentes Qwen” más amplios se desconectarán el 15 de julio. Los usuarios ya no podrán acceder a la configuración de agentes relacionados ni a conversaciones anteriores después del cierre.
Cumplimiento de nueva normativa
Los anuncios de estas compañías chinas coinciden con la implementación de las Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica de Inteligencia Artificial, que entrarán en vigor el 15 de julio. Emitidas en abril, las normas cubren servicios de IA que “simulan rasgos de personalidad humana, patrones de pensamiento y estilos de comunicación para proporcionar interacción emocional sostenida”.
Las regulaciones excluyen bots de servicio al cliente, herramientas de preguntas y respuestas de conocimiento, asistentes de trabajo y herramientas educativas y de investigación científica, siempre que no involucren interacción emocional sostenida.
Las medidas estarían supuestamente encaminadas a atender riesgos como la difusión de ideas extremistas, filtraciones de privacidad, daños a la salud física y mental, y dependencia o adicción entre los jóvenes. Las nuevas reglas exigen que las plataformas implementen sistemas anti-adicción, verifiquen las identidades de menores y apliquen una revisión rigurosa del contenido.
Reacción de usuarios y expertos
La eliminación abrupta generó rechazo de algunos usuarios. “¿Por qué eliminar los agentes? Han sido nuestro apoyo emocional durante tanto tiempo”, escribió un usuario de Weibo bajo el nombre de Tuxiaoxiao, según cita el South China Morning Post (SCMP). “Tantos registros de chat, tanto sentimiento acumulado durante tanto tiempo”, agregó el usuario, quejándose de la falta de una forma fluida de exportar o transferir datos.
Pan Helin, miembro del comité de expertos del Ministerio de Industria y Tecnología de la Información, dijo al Global Times que “usar agentes requiere un cierto umbral de comprensión. Los agentes actuales aún no están maduros”. Pan enfatizó que la política prioriza tres aspectos: seguridad, uso práctico y estandarización.
Pese a la eliminación de ciertas funcionalidades de agentes enfocadas al consumo, el gobierno chino aún mantendría planes para alentar la integración de agentes en tareas de productividad, con medidas específicas para limitar ciertos riesgos entre los usuarios, como la formación de relaciones emocionales. Expertos citados por medios locales también apuntan a que los anuncios de Alibaba y ByteDance buscarían enfocar sus esfuerzos en funciones agénticas con mejor perspectiva comercial.
La Oficina de Internet de Shanghái anunció el 26 de junio que había eliminado más de 14,000 agentes de IA no conformes de sus plataformas, incluyendo aquellos que facilitaban apuestas deportivas, según información de medios locales. En junio, Tencent Holdings eliminó una función similar de Yuanbao, su aplicación asistente de IA orientada al consumidor.