China elimina 5,6 millones de contenidos ilegales generados con inteligencia artificial

Las autoridades chinas también suspendieron más de 49.000 cuentas y cerraron alrededor de 2.400 sitios web y aplicaciones por difundir información falsa, material violento y otros contenidos creados mediante inteligencia artificial.

Por Fabián Pizarro Arcos

China intensificó su campaña contra la utilización ilegal de la inteligencia artificial en internet y eliminó más de 5,61 millones de contenidos considerados ilícitos o inapropiados.

La operación también provocó la suspensión de más de 49.000 cuentas y el cierre de aproximadamente 2.400 sitios web y aplicaciones, informó la Administración del Ciberespacio de China, principal organismo regulador de internet en el país.

La campaña nacional comenzó en julio y está dirigida especialmente contra los contenidos generados mediante inteligencia artificial que difunden información falsa, presentan material violento o vulgar, suplantan la identidad de otras personas o vulneran los derechos de niños y adolescentes.

De acuerdo con China Daily, los reguladores locales recibieron instrucciones para reforzar la supervisión y exigir a las plataformas digitales la eliminación de publicaciones ilegales o perjudiciales producidas con herramientas de inteligencia artificial.

Videos falsos y escenas de desastres

Entre las principales infracciones detectadas se encuentra la creación de videos falsos sobre desastres naturales y operaciones de rescate. Algunos de estos contenidos fueron diseñados para generar conmoción, atraer visitas o provocar alarma entre los usuarios.

Las autoridades sancionaron cuentas en plataformas como Douyin, WeChat, Kuaishou y Xiaohongshu por fabricar escenas inexistentes, crear falsos temas de interés social y publicar contenidos relacionados con supersticiones.

También fueron castigados usuarios que emplearon avatares digitales para realizar campañas comerciales engañosas, dirigidas especialmente a personas mayores.

El regulador chino advirtió que estas prácticas pueden confundir a los usuarios, alterar el debate público y dificultar la identificación de información auténtica en las plataformas digitales.

Suplantación de identidad mediante inteligencia artificial

La campaña también persigue la utilización de tecnologías de intercambio de rostros y clonación de voces para suplantar a figuras públicas u otras personas.

Algunas cuentas recurrieron a estas herramientas para fabricar videos, promocionar productos o producir contenidos vulgares con fines comerciales. Otras difundieron masivamente imágenes violentas, grotescas o aterradoras creadas mediante inteligencia artificial.

Asimismo, fueron sancionadas publicaciones que utilizaban imágenes de menores de edad para producir videos humillantes, ofensivos o sugerentes.

China refuerza la regulación de la inteligencia artificial

La Administración del Ciberespacio pidió a las empresas tecnológicas mejorar sus mecanismos de identificación, revisión y eliminación de contenidos sintéticos. Las plataformas que no cumplan con estas obligaciones pueden enfrentar sanciones o el cierre de sus servicios.

China busca equilibrar el rápido desarrollo de la inteligencia artificial con la protección de los usuarios y la seguridad del entorno digital. Las autoridades señalaron que continuarán observando la evolución de esta tecnología y adoptarán nuevas medidas frente a posibles abusos.

La expansión de las herramientas generativas ha facilitado la creación de imágenes, audios y videos cada vez más realistas. Sin embargo, también ha incrementado los riesgos relacionados con la desinformación, el fraude, la suplantación de identidad y la protección de los menores.