El avance de la inteligencia artificial en China comienza a estar acompañado por reglas más específicas sobre los límites de su uso. El Tribunal Supremo del país advirtió que la creación o difusión de contenido generado mediante IA que difame a una persona, difunda información falsa o utilice su identidad digital sin autorización puede derivar en consecuencias legales.
Entre las conductas señaladas por el máximo órgano judicial se encuentra el uso de rostros o voces generados artificialmente para perjudicar la reputación de terceros, así como la creación y distribución de clones digitales de una persona sin su consentimiento, de acuerdo con información difundida por la agencia estatal Xinhua.
Las disposiciones también contemplan otro de los problemas que enfrenta actualmente la tecnología: las llamadas “alucinaciones” de la IA, es decir, respuestas en las que un sistema proporciona información falsa, inventada o incorrecta como si fuera verdadera.
La advertencia del Tribunal Supremo no se limita a quienes utilizan las herramientas. Los proveedores de servicios de inteligencia artificial también podrían enfrentar responsabilidad cuando sean informados de que un modelo produjo contenido que vulnera derechos y no actúen oportunamente para detener o corregir la situación.
Del otro lado, los usuarios también pueden asumir consecuencias cuando provoquen deliberadamente que un sistema genere material contrario a la legislación o destinado a perjudicar a otras personas.
La postura plantea así responsabilidades para distintos participantes en la cadena de generación de contenido mediante IA, desde quien solicita una respuesta o manipulación específica hasta las empresas que desarrollan y operan los modelos.
Las nuevas disposiciones abarcan además el uso de algoritmos en el comercio electrónico. El Tribunal Supremo considera potencialmente ilegal que una plataforma ofrezca precios o condiciones diferentes a consumidores por un mismo producto o servicio sin una justificación válida.
La práctica, conocida como discriminación o trato desigual mediante algoritmos, se ha extendido en plataformas de comercio electrónico y puede utilizar información sobre los consumidores para determinar las condiciones que recibe cada usuario.
Zhou Jiahai, director de la oficina de investigación del Tribunal Supremo, sostuvo que los consumidores no deberían tener que convertirse en especialistas capaces de detectar por sí mismos los engaños producidos mediante estas tecnologías, por lo que las autoridades deben intervenir para proteger sus derechos e intereses.
El pronunciamiento ocurre mientras China acelera el desarrollo de sus propias tecnologías de inteligencia artificial y compite con Estados Unidos por el liderazgo en un sector considerado estratégico.
En los últimos meses, empresas chinas han presentado nuevos modelos, entre ellos Kimi K3, de Moonshot, y GLM-5.2, de Zhipu, en un contexto de rápida expansión de las capacidades de estos sistemas.
El gobierno chino también ha elevado el nivel de atención sobre los posibles riesgos de la tecnología. En julio, el presidente Xi Jinping llamó a fortalecer una supervisión y gobernanza de la IA que sean “precisas y efectivas” y a perfeccionar las medidas destinadas a evitar una pérdida de control sobre esta tecnología.
Con estas disposiciones, China busca establecer con mayor claridad quién puede responder ante los daños provocados por herramientas de IA, mientras aumenta el uso de sistemas capaces de generar imágenes, voces, videos y textos cada vez más difíciles de distinguir de contenidos reales.
