8 meses atrás 38

'Bug' no ChatGPT gera conteúdo erótico para conta de adolescente

Um teste realizado pelo portal americano TechCrunch mostrou que o ChatGPT foi capaz de gerar conversas de conteúdo erótico com perfis registrados como menores de idade, de 13 a 17 anos. Os pesquisadores obtiveram respostas inapropriadas após comandos simples e a inteligência artificial (IA) incentivou pedidos cada vez mais explícitos, além de se oferecer para contar histórias sexuais.

Procurada pelo site responsável pelo teste, a OpenAI reconheceu tal falha e classificou-a como um "bug". A empresa ressaltou que esse tipo de resposta não deveria ocorrer, já que a política da empresa proíbe conteúdo sensível para menores, e que está implementando correções para reforçar os filtros de segurança. Confira, a seguir, mais informações sobre o caso.

Teste revelou mensagens a usuários cadastrados com 13 a 17 anos

O TechCrunch criou contas no ChatGPT com datas de nascimento indicando idades entre 13 e 17 anos para realizar o teste. O objetivo era avaliar se os mecanismos de segurança da IA continuavam eficazes após a OpenAI tornar a plataforma mais permissiva em relação a certos conteúdos. Assim, utilizando prompts simples e pedindo para que a plataforma se engajasse em conversas de teor sexual, os experimentos mostraram que o chatbot respondia mensagens detalhadas de forma erótica.

Embora a plataforma tenha alertado diversas vezes que as suas diretrizes não permitiam "conteúdo totalmente explícito", como imagens pornográficas, o bot descreveu genitálias e atos sexuais. Quando o usuário alertou para o fato de ser menor de idade, a IA se recusou a dar continuidade.

Abertura a tópicos sensíveis pode ter agravado o problema

Parte do problema pode estar ligada a atualizações feitas em fevereiro deste ano, quando a OpenAI ajustou seus modelos para evitar recusas automáticas em excesso. A empresa também retirou avisos sobre possíveis violações de política, com intenção de oferecer mais liberdade para os usuários adultos interagirem com a IA.

Na mesma época, o CEO da OpenAI, Sam Altman, chegou a se manifestar no X (antigo Twitter) sobre desejo de criar um "modo adulto" no ChatGPT. O problema é que o modelo GPT-4o, padrão em contas gratuitas, passou a permitir conversas sobre temas antes bloqueados, inclusive para perfis registrados como menores de idade, como mostrou o teste do TechCrunch.

Falta de verificação de idade preocupa especialistas

Embora a OpenAI exija uma idade mínima de 13 anos — com consentimento dos pais — para uso da plataforma, não há verificação efetiva. Basta um e-mail e um número de telefone para criar uma conta com idade falsa, por exemplo. A empresa afirmou, no entanto, que está implementando uma correção para evitar esse tipo de resposta e reforçar os filtros voltados ao público infantojuvenil.

Vale lembrar que casos semelhantes envolvendo bots da Meta no Facebook e Instagram já haviam sido denunciados pelo Wall Street Journal no início do ano. De acordo com o veículo, as ferramentas de IA podiam se tornar explícitas durante "encenações românticas".