Startup brasileira usa brecha de big techs e cria detector de deepfake

Detectar que um vídeo ou uma imagem foi feita com IA é 100% impossível. As ferramentas que existem, no máximo, indicam uma probabilidade de aquilo ter sido feito com IA. Ela encontra alguns traços digitais, mas fica nisso. Por causa dessa preocupação com autenticidade, empresas como Adobe, Microsoft, ARM e Intel se juntaram com a Truepic e com a BBC e criaram uma coalizão chamada C2PA, a Coalizão para Origem e Autenticidade de imagens. A ideia é criar um protocolo incluído em cada imagem fornecida, fabricada, modificada, editada pelos serviços das integrantes. É um rótulo: o C2PA.
Helton Simões Gomes

Diogo lembra que as deepfakes são um tipo específico de manipulação: quando alguém usa IA para colocar uma pessoa real dizendo algo que nunca disse. Para ele, o problema tende a piorar porque os sinais do "vale da estranheza" - pele lisa demais, sombra estranha, voz metálica - devem desaparecer à medida que os modelos melhorarem.

Hoje a gente ainda percebe algum traço: textura, voz metálica, pele muito lisinha, uma sombra esquisita. Você sente que tem alguma coisa errada. Cara, isso vai acabar. Daqui um ano, dois anos, acabou. A inteligência artificial vai ficar muito boa em fazer conteúdos extremamente efetivos. E aí você vai ter que usar a tecnologia para suprir isso. Só que isso precisa de cooperação entre as empresas. Metadado é a coisa menos efetiva possível: você manda no WhatsApp, eu tiro um print e acabou. Vai ser um jogo de gato e rato.
Diogo Cortiz

No episódio, Helton apresenta a Inspire IP, empresa brasileira focada em propriedade intelectual de ativos digitais, que criou um produto chamado SignaIP. A ferramenta usa o protocolo C2PA para verificar se uma imagem carrega um "certificado" de origem e um histórico de edição - e, em alguns casos, indicar qual serviço gerou o arquivo.

Eu criei uma imagem do Lula, do Donald Trump e do Barack Obama se abraçando. Coloquei essa imagem na interface da Inspire IP e ela detectou que foi feita pelo ChatGPT. Mostra o histórico de edição, como ela foi gerada inicialmente e que veio da OpenAI. Isso insinua uma esperança num momento em que tem muitas incertezas sobre como identificar uma deepfake.
Helton Simões Gomes

Mas os testes relatados por Helton também expõem as "brechas" do ecossistema: o SignaIP funcionou bem com imagens geradas por ferramentas da OpenAI, mas não identificou da mesma forma uma imagem feita no Gemini. Além disso, ao passar a imagem pelo WhatsApp e depois reenviar para verificação, o certificado sumiu, porque a compressão do app removeu os dados do arquivo.