IA vai bombar nas eleições: tribunal da Meta cobra ação contra manipulação

Um vídeo manipulado que circulava no ano passado dava a entender que o presidente dos EUA, Joe Biden, tocou o seio de uma garota menor de idade. A legenda o chamava de "pedófilo doente" e dizia que quem votasse nele tinha "problema mental".

No vídeo original, Biden cola um adesivo de "vote" na garota, que é sua neta. Na manipulação, o rosto dela, sorrindo, foi cortado e a aproximação foi usada em looping, insinuando uma aproximação inapropriada.

O vídeo foi mantido no ar mesmo após ser reportado como discurso de ódio várias vezes, porque não feria a então política de mídia manipulada da Meta —que previa a derrubada apenas de conteúdos manipulados por inteligência artificial. Nesse caso, foi só um truque de edição, apelidado de cheapfake (um vídeo falso feito de forma tosca).

Outros pontos do documento para as eleições

Discurso político que incita violência deve ser rapidamente checado para evitar consequências no mundo real e repetidos abusos. Campanhas coordenadas de disseminação de desinformação ou incitação à violência para descreditar processos democráticos devem ser tratadas com prioridade.

Políticas que suprimem a liberdade de expressão devem especificar danos no mundo real que elas estão prevenindo, para assegurar que elas são necessárias e proporcionais aos danos.