ChatGPT poderá avisar polícia se adolescentes estiverem com ideias suicidas, diz OpenAI

A medida faz parte de um pacote de proteção para menores de 18 anos. A empresa também vai implementar verificação de idade e ferramentas de controle parental.

As novidades foram divulgadas pela OpenAI e pelo CEO Sam Altman em comunicados publicados nesta terça-feira.

“Se um usuário menor de 18 anos estiver com ideias suicidas, tentaremos entrar em contato com os pais do usuário e, se não for possível, entraremos em contato com as autoridades em caso de perigo iminente”, disse Altman.

A OpenAI disse que está desenvolvendo um sistema para identificar se o usuário é maior de idade. Caso tenha menos de 18 anos, ele será direcionado a “uma experiência no ChatGPT com políticas adequadas à sua idade”.

Segundo a empresa, essa versão bloqueia conteúdo sexual explícito e, em situações graves, pode envolver a polícia para garantir a segurança do adolescente.

Os recursos de controle parental, que devem ser lançados até o fim do mês, também citam a possibilidade de acionar autoridades em casos de emergência.

Com essa configuração, os pais poderão conectar suas contas às dos filhos e receber um alerta caso o ChatGPT identifique sinais de sofrimento intenso.

“Se não conseguirmos contatar um dos pais em uma rara emergência, podemos acionar a polícia como próximo passo”, diz a OpenAI.