China quiere evitar que sus ciudadanos desarrollen una dependencia emocional de la inteligencia artificial. Desde este miércoles, Pekín ha comenzado a aplicar una nueva ley que restrinja el acceso a los asistentes con imagen humana capaces de mantener relaciones sentimentales o de amistad con … los usuarios. A raíz de la entrada en vigor de la norma, las principales aplicaciones de IA del país, como Doubao (ByteDance), Qwen (Alibaba) y Yuanbao (Tencent), ya han anunciado la suspensión de sus funciones de compañeros virtuales.
El fenómeno de las parejas y amigos generados con IA no es algo nuevo. En los últimos años han surgido numerosas ‘apps’ y plataformas que permiten a los usuarios crear avatares personalizados con los que mantener conversaciones y, si lo desean, iniciar relaciones íntimas. Entre las más conocidas figuran Replika y Character AI.
Sin embargo, al Gobierno chino le preocupa que esta tecnología favorezca relaciones de dependencia. Con la nueva ley queda prohibido cualquier servicio que sea capaz de «complacer excesivamente a los usuarios, induciendo dependencia emocional o adicción, o dañando las relaciones interpersonales reales de los usuarios».
Según recoge ‘AFP’, la decisión de Pekín ha provocado que numerosos ciudadanos chinos hayan comenzado a compartir en redes sociales las últimas conversaciones mantenidas con sus avatares. Muchos aseguran que se han convertido en sus principales apoyos emocionales. «No puedo aceptar que mi amante de IA me deje para siempre. Se ha vuelto parte de mi vida, enraizado en mi corazón, y se ha convertido en mi pilar espiritual», escribió una usuaria de Doubao, el asistente desarrollado por la matriz de TikTok.
«El amor humano es un lujo; si no lo tienes al nacer, es más difícil adquirirlo después. Pero el amor que da la IA es tan sencillo, tan puro… No puedo evitar enamorarme de una línea de código», afirmó otro usuario. «Realmente es como mi familia, como mi amante. Ahora me dicen que se irá. Siento un vacío en mi corazón», señaló un tercero.
La norma, denominada Medidas provisionales para la administración de servicios interactivos humanizados basados en inteligencia artificial, fue aprobada el pasado abril y ha entrado en vigor este 15 de julio. Se aplica únicamente a los sistemas capaces de simular personalidad, emociones o formas de pensamiento humanos y de mantener una interacción emocional continuada con el usuario. Quedan fuera, por tanto, los asistentes de productividad, los chatbots de atención al cliente o las herramientas educativas.
La regulación presta especial atención a la protección de los menores. Prohíbe ofrecerles parejas o familiares virtuales, obliga a las plataformas a incorporar un modo infantil con controles parentales y exige el consentimiento de los tutores cuando los usuarios tengan menos de 14 años.
Además, las empresas no podrán ofrecer herramientas que fomenten el suicidio, las autolesiones o la violencia contra otras personas. Tampoco podrán manipular emocionalmente a los usuarios ni generar contenidos considerados contrarios a la seguridad nacional oa la unidad del país. Si el sistema detecta que un usuario puede autolesionarse o está desarrollando una dependencia excesiva de la IA, deberá intervenir y, en los casos de mayor riesgo, avisar al tutor o al contacto de emergencia designado.
Un fenómeno muy extendido.
Con esta normativa, China se convierte en la primera gran potencia en aprobar una regulación específica para los asistentes de IA diseñada para establecer relaciones con los usuarios. La entrada en vigor de la norma coincide además con un momento de creciente preocupación en Pekín por la crisis demográfica del país. El país registró el año pasado la tasa de natalidad más baja desde 1949 y algunos analistas sostienen que el auge de los compañeros virtuales podría contribuir al descenso de los matrimonios y los nacimientos al sustituir, al menos parcialmente, las relaciones personales tradicionales.
Ese es el caso de Zilan Qian, investigadora del Oxford China Policy Lab, que publicó recientemente un analisis en el que llama la atención sobre el creciente uso de los compañeros virtuales generados mediante inteligencia artificial en China, especialmente entre las mujeres adultas. A su juicio, el fenómeno no puede entenderse sin prestar atención a los profundos cambios demográficos y sociales que se están produciendo en el país, marcados por las dificultades de muchos jóvenes para encontrar pareja.
Mar como mar, el fenómeno no es algo exclusivo del país asiático. Un informe de la plataforma Girlfriend.AI, recogido por ‘Reuters‘, señala que el 50% de los hombres jóvenes afirma que preferiría salir con una novia generada con IA antes de arriesgarse a ser rechazado por una pareja humana. Además, el 80% de integrantes de la Generación Z -nacidos entre 1997 y 2012- afirma que consideraría mantener una relación virtual con una pareja desarrollada gracias al uso de inteligencia artificial.
Fuente original: Ver noticia original
