Imagem bizarra, dica de turismo errada: o que é AI slop, que tomou as redes

Dar um nome a isso é realmente importante, porque oferece às pessoas uma forma concisa de falar sobre o problema. Antes do termo 'spam' se popularizar, nem todo mundo via as mensagens publicitárias indesejadas como algo errado. Espero que slop tenha o mesmo impacto —que torne claro que gerar e publicar conteúdo de IA sem revisão é um comportamento problemático. Simon Willison, desenvolvedor que apoia uso do termo "slop" ao "The Guardian"

Slops podem parecer inofensivos, mas têm riscos. Ao contrário das deepfakes, em que a mentira é "escancarada", os slops podem produzir "discurso descuidado", como pontuaram pesquisadores em artigo publicado no The Royal Society no ano passado. Segundo eles, os slops têm "imprecisões sutis, simplificações excessivas ou respostas enviesadas que são apresentadas como verdade em um tom confiante". O objetivo não necessariamente está em enganar, mas engajar.

Esses modelos são treinados para serem envolventes, com tom humano, úteis, lucrativos. Se dizem a verdade ou não, isso não é uma preocupação. Tecnicamente, eles não conseguem. Mas são apresentados como se fossem contadores da verdade e é isso que os torna perigosos.
Sandra Wachter à Reuters

Eles reforçam a Teoria da Internet Morta. No final dos anos 2010 e início da década atual, internautas começaram a supor que a internet agora consiste principalmente em atividades de bots (robôs), com conteúdos gerados automaticamente e selecionados por algoritmos, minimizando a atividade humana orgânica para manipular a população.

Um dos exemplos relembrados pelo "Guardian" foi a de um artigo de viagens da Microsoft, gerado por inteligência artificial. Ele sugeria ao leitor que o banco de alimentos de Ottawa, no Canadá, era um ponto turístico —trata-se de uma organização de apoio alimentar emergencial. Outro exemplo é o das imagens de Jesus Cristo —em uma delas a cabeça dele aparece em um frango assado— que inundaram o Facebook com vários compartilhamentos, revivendo a Teoria da Internet Morta.

As redes sociais falharam sua missão original, de que as pessoas se conectem. No TikTok ou Instagram, isso é raramente o que fazemos. Não nos transformamos em comunicadores, mas em pessoas que consomem conteúdos de outras pessoas que conhecemos e também de pessoas que não conhecemos. E, nessa linha, também de pessoas que podem nem existir. Yoshija Walter, professor do Departamento de Negócios, Instituto de Gestão e Digitalização da Universidade Kalaidos de Ciências Aplicadas, na Suíça, em entrevista ao UOL em 2024