Cuidado! IAs podem ignorar dados ao ler muitos textos, diz estudo

A pesquisa da Universidade Hebraica de Jerusalém, intitulada Lost in the Middle (ou “Perdido no Meio”, em português), analisou o desempenho de modelos de IA baseados na técnica Retrieval-Augmented Generation (RAG). Essa abordagem combina um modelo de linguagem com uma base externa de informações, como artigos da Wikipedia ou relatórios técnicos, por exemplo. A partir da consulta aos documentos, a IA gera respostas supostamente mais embasadas. Até então, acreditava-se que quanto mais textos fossem recuperados pelas ferramentas, maiores seriam as chances da IA fornecer respostas certas. No entanto, o estudo comprovou que isso nem sempre é verdade.

Os pesquisadores testaram modelos como o GPT 3.5-Turbo, da OpenAI; o Claude-1.3o, da Anthropics Technology; o LLaMA-3.1 (72B e 8B), da Meta e o Gemma-2 (27B e 9B). Quase todos apresentaram melhor desempenho ao trabalhar com menos fontes, desde que bem selecionadas. A única exceção foi o Qwen-2 72B, que manteve o desempenho mesmo diante de grandes volumes de dados.

O experimento foi feito com base em perguntas reais, acompanhadas de parágrafos da Wikipedia. As questões vinham com 10, 20 ou 30 textos para serem usados como referência, mas só alguns continham as respostas corretas. Quando os sistemas receberam somente dois a quatro documentos relevantes, a precisão aumentou. Em alguns casos, houve 10% mais acertos. Portanto, além de melhorar a qualidade dos resultados, processar menos documentos também torna o sistema mais ágil e econômico, já que cada texto analisado exige mais tempo e recursos computacionais.

Ao eliminar conteúdos desnecessários de suas pesquisas, as IAs trabalham de forma mais eficiente e respondem mais rápido. Com menos distrações, os modelos conseguem focar no que realmente importa. Já ao lidar com muitos textos, o risco de confusão é maior. Nesses casos, as ferramentas podem misturar informações de diferentes fontes, gerar respostas equivocadas e até inventar e mentir, fenômeno conhecido como alucinação.

Outro detalhe curioso do estudo é que textos totalmente descontextualizados ou aleatórios causaram menos impacto negativo do que conteúdos que pareciam úteis, mas não eram. As ferramentas de IA ignoram com facilidade informações irrelevantes, mas tiveram dificuldade em descartar trechos semelhantes ao tema pesquisado, mas que não eram essenciais. Essa “armadilha da semelhança” mostra que o maior desafio não é eliminar o que é obviamente inútil, mas filtrar conteúdos que pareçam pertinentes sem desviar a IA do foco. Nesse cenário, analisar menos documentos aumenta as chances de obter respostas precisas e confiáveis.

A pesquisa israelense, também revelou que os modelos de linguagem têm melhor desempenho quando as informações relevantes estão no início ou no fim do texto analisado. Quando esses dados aparecem no meio do conteúdo, a atuação cai consideravelmente. Esse comportamento está relacionado a dois efeitos conhecidos: o primacy bias (tendência de valorizar mais o que aparece primeiro) e o recency bias (dar mais atenção ao que foi visto por último). Em alguns casos, como no GPT-3.5 Turbo, a precisão em tarefas com 20 ou 30 documentos foi menor até mesmo do que quando o modelo não recebeu nenhum texto externo e confiou apenas na própria memória.

Outro ponto importante do estudo é que modelos com janelas de contexto maiores — ou seja, capazes de ler mais texto de uma só vez — não se saíram necessariamente melhor com grandes volumes de informação. Quando a quantidade de conteúdo cabia dentro do limite dos modelos comparados, o desempenho foi praticamente o mesmo. Isso mostra que apenas aumentar a capacidade de leitura das plataformas não resolve o problema. É preciso ensinar os modelos a identificar e focar no que realmente importa.

Veja também: 3 jeitos de fazer o ChatGPT trabalhar para você — e virar o funcionário do mês