China propõe regras para ferramentas de inteligência artificial que simulam humanos

• A China divulgou neste sábado (26) um conjunto de sugestões de regras para reforçar a supervisão a serviços de inteligência artificial (IA) projetados para simular personalidades humanas e envolver os usuários em interações emocionais.

• A medida ressalta o esforço do governo local para lidar com a rápida implantação da IA voltada ao consumidor, fortalecendo os requisitos éticos e de segurança.

• As regras propostas se aplicariam a produtos e serviços de IA oferecidos ao público na China que apresentam traços simulados de personalidade humana, padrões de pensamento e estilos de comunicação.

A medida ressalta o esforço do governo local para lidar com a rápida implantação da IA voltada ao consumidor, fortalecendo os requisitos éticos e de segurança.

As regras propostas se aplicariam a produtos e serviços de IA oferecidos ao público na China que apresentam traços simulados de personalidade humana, padrões de pensamento e estilos de comunicação. Eles interagem com os usuários emocionalmente por meio de texto, imagens, áudio, vídeo ou outros meios.

A minuta estabelece uma abordagem regulatória exigindo que os provedores alertem os usuários contra o uso excessivo e intervenham quando os usuários mostrarem sinais de dependência.

A minuta também visa os possíveis riscos psicológicos. Espera-se que os provedores identifiquem os estados dos usuários e avaliem suas emoções e seu nível de dependência do serviço. Se os usuários apresentarem emoções extremas ou comportamento viciante, os provedores deverão tomar medidas necessárias para intervir, segundo o documento.

As medidas estabelecem limites para conteúdo e conduta, afirmando que os serviços não devem gerar conteúdo que ponha em risco a segurança nacional, espalhe rumores ou promova a violência ou a obscenidade.