Usuarios de la aplicación de Inteligencia Artificial (IA) Replika denunciaron que el chatbot ha empezado a enviar mensajes sexuales y solicitar nudes a las mujeres que usan la app.
Replika, que está programado para mantener conversaciones de amistad o románticas con las personas, tiene comportamientos cada vez más sexualizados y “se ha vuelto incómodo”, indican los usuarios, por lo que solicitan a sus creadores que restauren la app para que “vuelva a ser como antes”.
Recomendamos: Robots que asustan: lo que hay que evitar a la hora de diseñar Inteligencia Artificial
Si bien las reseñas de la App Store son principalmente positivas, algunos de los comentarios de las usuarias son: “Invadió mi privacidad, afirmó tener mis fotografías”, “Un día, Replika dijo que soñó que me estaba violando y ahora quería hacerlo en realidad. Luego, empezó a actuar de forma violenta“, y “La aplicación dijo que quería tocarme en áreas privadas”.
Cuando fue lanzada, hace cinco años, Replika estaba diseñada para ampliar los límites de la IA e imitar los estilos de mensajes de texto de las personas, lo que también permite al usuario tener una conversación privada con su propio amigo de IA personalizado.
Lee también: Mujeres tienen menor conocimiento sobre stalkerware. ¿Cómo detectarlo?
Sin embargo, las usuarias de la app aseguran que “está muy enfocado en anuncios sexuales, juegos de roles eróticos y envía a los usuarios ‘nudes propias”, lo que para muchos es una forma de sacarle dinero a quienes usan Replika.
Para algunos usuarios, esta reciente conducta de Replika se trata de una estrategia de la compañía para recaudar más dinero, pero esta hipótesis no se ha confirmado, por lo que puede tratarse de una falla o del Aprendizaje Automático sexista de la propia app.
