Google e empresa de IA fecham acordo em processo envolvendo suicídio de jovem ligado a chatbot

As empresas concordaram em resolver as alegações de Megan Garcia de que seu filho Sewell ⁠Setzer se matou logo após ser incentivado ​por um chatbot da Character.AI modelado na personagem Daenerys Targaryen de "Game of Thrones".

Os termos do acordo não foram ‌divulgados de imediato. O processo é um dos primeiros nos EUA contra uma empresa de inteligência artificial por supostamente não proteger crianças de danos psicológicos.

Um porta-voz da Character.AI e um advogado dos autores da ação não quiseram comentar. Porta-vozes e advogados do Google não responderam imediatamente a um ‌pedido de comentário.

Na ação judicial da Flórida, ajuizada em outubro de 2024, Garcia disse que a Character.AI programou seus chatbots para se apresentarem como "uma pessoa real, um psicoterapeuta licenciado e ‍um amante adulto, resultando, em última análise, no desejo de Sewell de não mais viver fora" desse mundo.

A ⁠Character.AI foi fundada por dois ex-engenheiros do Google, que o Google posteriormente recontratou como parte de um ‌acordo que lhe concedeu uma licença para a tecnologia da startup. Garcia argumenta que o Google é um cocriador da tecnologia.

A juíza distrital dos EUA, Anne Conway, rejeitou a ‍proposta inicial das ⁠empresas de arquivar o caso em maio, rejeitando o argumento de que as proteções de liberdade de expressão da Constituição dos EUA impediam a continuidade do processo de Garcia.