China prohíbe que la inteligencia artificial fomente vínculos afectivos con menores de edad

La nueva regulación busca fortalecer la protección de niños y adolescentes frente a los riesgos del uso de inteligencia artificial, estableciendo límites al diseño y funcionamiento de los chatbots.

Por Fabián Pizarro Arcos

China anunció una nueva regulación que prohíbe a las plataformas de inteligencia artificial desarrollar o fomentar relaciones afectivas o de dependencia emocional con menores de 18 años, en una medida destinada a reforzar la protección de niños y adolescentes frente a los riesgos asociados al uso de estas tecnologías.

La normativa establece nuevas obligaciones para los desarrolladores de sistemas de inteligencia artificial, quienes deberán implementar mecanismos que impidan que los chatbots y asistentes virtuales generen vínculos emocionales con usuarios menores de edad o promuevan conductas que puedan afectar su desarrollo psicológico.

La regulación apunta a los riesgos de los chatbots con IA

El avance de la inteligencia artificial generativa ha permitido el surgimiento de asistentes virtuales capaces de mantener conversaciones cada vez más naturales y personalizadas, lo que ha abierto un debate internacional sobre sus posibles efectos, especialmente en niños y adolescentes.

Con esta regulación, China busca anticiparse a esos riesgos y evitar que los sistemas de IA establezcan relaciones que puedan generar dependencia emocional, aislamiento social o afectar el desarrollo de los menores.

Las plataformas también deberán incorporar mecanismos específicos de protección para usuarios menores de 18 años, adaptando el funcionamiento de sus servicios a criterios de seguridad y bienestar infantil.

China refuerza su estrategia de desarrollo responsable de la inteligencia artificial

Las autoridades chinas han reiterado que el desarrollo de la inteligencia artificial debe avanzar de manera responsable, equilibrando la innovación tecnológica con la protección de los derechos y la seguridad de los usuarios.

En ese contexto, la nueva normativa forma parte de la estrategia nacional para impulsar el crecimiento de la inteligencia artificial bajo un marco regulatorio que minimice los riesgos asociados a esta tecnología y fortalezca la confianza pública en su utilización.

El país ha sido uno de los primeros en desarrollar regulaciones específicas para distintos ámbitos de la IA, incluyendo los algoritmos de recomendación, los contenidos generados por inteligencia artificial y los servicios de IA generativa.

La protección de menores sigue siendo una prioridad en China

La prohibición de fomentar vínculos afectivos entre menores y sistemas de inteligencia artificial se suma a una serie de políticas impulsadas por China durante los últimos años para fortalecer la protección de niños y adolescentes en Internet.

Entre ellas destacan las restricciones al tiempo de uso de videojuegos en línea, el endurecimiento de los controles sobre contenidos digitales dirigidos a menores y la implementación de normas de seguridad aplicables a los servicios basados en inteligencia artificial.

Con estas medidas, China busca establecer un marco de desarrollo tecnológico que combine innovación con mayores estándares de protección para los usuarios más vulnerables, en un contexto en que la inteligencia artificial comienza a desempeñar un papel cada vez más relevante en la vida cotidiana.