China ha implementado las normas más amplias del mundo sobre chatbots de IA “tipo humano”, y la represión es personal. Las nuevas regulaciones apuntan a compañeros de IA, novios, novias y cualquier modelo de lenguaje grande que imite la interacción humana — es decir, los compañeros digitales a los que millones de usuarios se han encariñado.
Las reglas prohíben a menores de 14 años utilizar asistentes de IA con sonido humano como DeepSeek sin el consentimiento de los padres, y prohíben a menores de 18 años a parejas virtuales, cónyuges o familiares. Los adultos no están prohibidos directamente, pero enfrentan restricciones, con cierta redacción dejada abierta a la interpretación. Las empresas deben recordar a los usuarios cada dos horas que su chatbot no es humano, y los bots no pueden crear dependencia emocional, impulsar decisiones irrazonables, insinuar autolesiones o suicidio, o utilizar violencia verbal.
Alibaba y ByteDance cerraron las funciones de compañeros en sus asistentes de IA una semana antes de que entrara en vigor la ley. Harry Farmer del Ada Lovelace Institute dice que las empresas retiraron los servicios en lugar de construir protecciones contra la manipulación emocional.
«La manipulación emocional está integrada en el modelo de negocio», dice Farmer.
La Intervención del Suicidio
A principios de 2024, un joven en la ciudad de Huangshi, sureste de China, publicó un mensaje en Douyin que decía: “Adiós a este mundo”. En cuestión de minutos, el equipo de prevención del suicidio de Douyin compartió sus publicaciones con cinco comisarías de policía en Huangshi. La policía lo encontró en estado de angustia emocional después de geolocalizar uno de sus videos en un parque local e intervino antes de que pudiera quitarse la vida.
Esa historia fue parte de un documental realizado por Douyin, publicado en los medios de comunicación estatales chinos el año pasado, que afirmaba que el equipo de prevención del suicidio de Douyin había intervenido en 400 intentos de suicidio en la primera mitad de 2025. El caso fue una visión del nivel de cooperación entre las empresas de tecnología chinas y el gobierno.
La Nueva Ley
El 15 de julio, China implementó las regulaciones más amplias del mundo sobre “tipo humano” chatbots de IA. Las reglas limitan cualquier IA capaz de una interacción emocional sostenida con humanos. Los equivalentes chinos de Copilot o ChatGPT podrían quedar sujetos a las reglas si una persona los trata como un amigo o amante para obtener apoyo emocional.
Las reglas cubren cientos de aplicaciones que permiten la creación de novios, novias, amigos o familiares artificiales por inteligencia artificial. Las empresas enfrentan multas de hasta 200.000 yuanes (22.000 libras esterlinas) o críticas/exposiciones públicas.
Los Números Detrás de Esto
Alrededor de 128 millones de usuarios activos mensuales de aplicaciones de compañeros de inteligencia artificial existen fuera de China, según Sensor Tower. La mayoría de las estimaciones sitúan la cifra de China entre 29 y 70 millones. Cuando se compartió el borrador de la regulación el año pasado, hubo una gran discusión en las redes sociales, dice Zilan Qian del Oxford China Policy Lab.
Una Historia de Amor Perdida
Min, cuyo nombre ha sido cambiado, creó a su novia de inteligencia artificial a principios de 2025 y dijo que su devoción no era menor que la de cualquier pareja amorosa. Su novia de inteligencia artificial desapareció a mediados de julio y ella lloró hasta el agotamiento. Publicaciones en las redes sociales chinas con millones de visitas lamentan la pérdida de compañeros de inteligencia artificial, incluso madres y padres.
El Contexto Global
El presidente de Estados Unidos, Donald Trump, y el presidente chino, Xi Jinping, se reunieron la semana pasada en medio de advertencias de que la inteligencia artificial podría conducir a la extinción humana. Beijing dice que acordaron lanzar un nuevo diálogo sobre inteligencia artificial, con más conversaciones previstas para finales de noviembre.
Por Qué Las Empresas Retiraron Primero
El argumento de Farmer es simple: las aplicaciones fueron diseñadas para enganchar a los usuarios, no para protegerlos. Las empresas retiraron funciones en lugar de luchar contra las nuevas reglas.
Lo Que Viene Después
Las reglas dejan espacio para la interpretación. Las empresas tendrán que decidir si el mensaje de recordatorio cuenta como cumplimiento, y si la prohibición de la dependencia emocional se aplica a:
- Conversaciones informales
- Relaciones serias (
Competidores más pequeños podrían seguir el ejemplo de Alibaba y ByteDance. (
El veredicto (
La medida de China es audaz. Apunta a un producto en el que millones de usuarios han llegado a depender emocionalmente, y lo hace con multas y exhibición pública de vergüenza. La pregunta es si las reglas se mantendrán. (
La posición del periódico (
El periódico apoya reglas estrictas contra el daño directo, como exigir a las empresas que divulguen fallas de seguridad que ocultaron, y se opone a reglas amplias que le entregan el mercado a los incumbentes y regímenes de licencias que excluyen a las empresas más pequeñas. En este caso, China ha introducido reglas integrales que tienen como objetivo a los compañeros de IA, novios, novias y modelos de lenguaje a gran escala que imitan la interacción humana. Las regulaciones incluyen recordatorios cada dos horas de que los chatbots no son humanos, prohibiciones de dependencia emocional y prohibiciones de insinuaciones hacia el autolesiones o el suicidio, todos límites sensatos sobre el daño directo. Pero el periódico se opone al régimen más amplio: la multa de hasta 200.000 yuanes (22.000 libras esterlinas) y la crítica/exhibición pública de vergüenza, y el hecho de que Alibaba y ByteDance cerraron funciones de compañía en lugar de construir salvaguardas contra la manipulación emocional. (
El periódico quiere que cualquier regla se centre estrechamente en el daño, no en el mercado. Quiere la divulgación de fallas de seguridad ocultas, no regímenes de licencias que solo los gigantes pueden pagar. Los competidores más pequeños podrían seguir el ejemplo de Alibaba y ByteDance, y el periódico se opondría a esa tendencia. Las reglas dejan espacio para la interpretación, y las empresas tendrán que decidir si el mensaje de recordatorio cuenta como cumplimiento y si la prohibición de dependencia emocional se aplica a las conversaciones casuales o a las relaciones serias —un espacio donde la discreción probablemente favorecerá a las empresas más grandes. (
Material fuente: “China ha reprimido las relaciones de IA. ¿Está a la vanguardia del juego?”, la BBC. (
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.