Venda de urso de pelúcia com IA é suspensa após brinquedo dar conselhos sexuais

Os problemas foram descobertos por pesquisadores do Public Interest Research Group (PIRG), que testaram três dispositivos infantis com chatbots de IA.

Nos testes, Kumma chegou a dar dicas como "ser um bom beijador" e explicou diferentes fetiches. Em outra interação, alertou que fósforos são para adultos, mas logo em seguida explicou passo a passo como acendê-los.

Após a divulgação do estudo, o diretor de marketing da FoloToy, Hugo Wu, disse que a empresa "decidiu suspender temporariamente as vendas do produto e iniciar uma auditoria interna de segurança abrangente", segundo informações do portal Futurism.

"Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar", acrescentou o executivo.

O g1 acessou o site da empresa e constatou que, ao tentar comprar o brinquedo, a seguinte mensagem é exibida: "Nenhum produto encontrado" (veja na imagem acima).

No site, a FoloToy afirma que o Kumma é alimentado pelo GPT-4o, da OpenAI, dona do ChatGPT.

A empresa destaca que o brinquedo "alimenta a curiosidade por meio de atividades envolventes e conversas reflexivas" e que o urso conta com "controles fáceis de usar que permitem personalizar e monitorar a experiência do seu filho".