China endurece la regulación de servicios de IA que imitan la personalidad y el trato humano – RC Noticias

Pekín, 15 jul (EFE).- Este miércoles, China ha implementado nuevas regulaciones para los proveedores de sistemas de inteligencia artificial (IA) que imitan rasgos de personalidad humana y estilos de comunicación en interacciones emocionales continuas con los usuarios.

La normativa, denominada ‘Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial’, fue publicada en abril por la Administración del Ciberespacio de China (CAC) junto a otros cuatro organismos gubernamentales, buscando “equilibrar la innovación tecnológica con la seguridad y el interés público”.

No todas las ‘chatbots’ están afectadas por estas normas, ya que se excluyen aquellas dedicadas a atención al cliente, sistemas de preguntas y respuestas de conocimiento, asistentes laborales y herramientas educativas y de investigación científica, siempre que no impliquen una interacción emocional sostenida.

Entre las prohibiciones más claras, la norma impide la complacencia excesiva hacia el usuario, la inducción a la dependencia emocional o adicción que afecte las relaciones interpersonales reales, y la manipulación emocional que lleve a decisiones poco razonables o que vulnere derechos legítimos.

También se prohíbe que estos sistemas generen contenidos que promuevan la autolesión o el suicidio, así como que impliquen maltrato verbal que perjudique la salud mental de los usuarios.

Los proveedores de estos servicios tienen la obligación de advertir de manera efectiva a los usuarios que están interactuando con un sistema de inteligencia artificial y no con una persona real.

Similar a los controles aplicados por algunas redes sociales o teléfonos móviles, también deberán avisar al usuario tras dos horas de uso continuo del servicio.

La norma hace especial hincapié en la protección de los menores, prohibiendo ofrecerles servicios de relaciones íntimas virtuales, como “familiares” o “acompañantes” virtuales, y exigiendo el consentimiento de padres o tutores para funciones dirigidas a niños menores de 14 años.

Las medidas ya están en efecto, ya que gigantes digitales como ByteDance y Alibaba anunciaron a principios de mes el cierre de sus funciones de agentes de IA personalizados en Doubao y Qwen, respectivamente.

Ambas aplicaciones ofrecían un catálogo de agentes, creados tanto por las empresas como por los usuarios, que podían modificarse en tareas, habilidades y estilo de conversación.

Pan Helin, miembro del comité de expertos del Ministerio de Industria y Tecnologías de la Información, señaló al diario South China Morning Post que el uso de agentes “requiere cierto nivel de comprensión” por parte del usuario y opinó que los agentes actuales “aún no son maduros”.

Related

creditos de las imagenes de este post: Robertocavada.com