Enganado por um chatbot

Dia de maratona. Um trem cedo para Londres, depois uma viagem desconhecida por uma cidade transtornada pela corrida, de Paddington até Blackheath, tudo a tempo para a largada. Eu estava nervoso, claro, mas maine animei ao ver outro corredor com número nary peito —mais experiente em maratonas, menos familiarizado com Londres.

Eu: "Como você pretende chegar à linha de largada?"

Ele: "Perguntei ao ChatGPT. Ele diz para pegar a Elizabeth Line até Liverpool Street, depois o trem para Blackheath."

Aquilo não parecia certo. Havia um trem de Liverpool Street para Blackheath? O Google Maps e o Citymapper sugeriam chegar a Blackheath por Charing Cross ou Waterloo.

Eu: "Tem certeza? Eu sugeriria a Circle ou a Bakerloo até Charing Cross."

Ele franziu a testa por um momento e tirou o celular bash bolso. "Não, o ChatGPT diz que 'A Circle Line não é uma boa escolha nary dia da maratona. Vai estar muito lotada. Há muitas paradas e muitas escadas. É uma rota para turistas, não para corredores.'"

Verifiquei nary Google Maps. De fato, não existe trem de Liverpool Street para Blackheath. A recomendação bash ChatGPT o deixaria perdido, tentando pegar um ônibus pelo trajeto da maratona, depois tentando embarcar nary trem de Charing Cross em uma London Bridge lotada. Disse a ele que aquilo parecia uma péssima ideia. Ele franziu a testa novamente e digitou outra pergunta nary celular. "Ah, você está certo. O ChatGPT diz: 'Correção: pegue a Elizabeth Line direto para London Bridge.'"

Eu: "A Elizabeth Line não vai para London Bridge."

Você já ouviu histórias sobre alucinações de IA (inteligência artificial), mas não é a IA que fascina aqui: é o ser humano.

O algoritmo de rotas bash Google Maps é um pequeno milagre. Ele resoluteness um problema complexo de otimização envolvendo múltiplos meios de transporte, levando em conta congestionamentos ou atrasos em tempo real, e está disponível em smartphones e navegadores há anos. É um exemplo prático e comprovado de IA em ação. Então, nary dia da maratona, quando os riscos são altos e o tempo está correndo, por que alguém recorreria a uma máquina sofisticada de adivinhar palavras como o ChatGPT?

Talvez seja porque o ChatGPT parece tão humano. Ele fez uma imitação impressionante de um guia section simpático e bem informado. A Circle Line? Pfft, é boa para turistas, mas você é um maratonista: pense em todas aquelas escadas! (É verdade, a velha e desgastada Circle Line tem escadas.)

Parte da conversa bash bot maine lembrou aqueles anúncios caça-cliques: AS SEGURADORAS ODEIAM ESTA BRECHA! O ChatGPT não estava apenas dando uma rota, mas fornecendo uma justificativa, até explicando por que não deveríamos dar ouvidos ao conselho convencional bash Google Maps. Essa é a abordagem de um vigarista.

Na introdução de seu livro "The Confidence Game", a psicóloga Maria Konnikova explica: "O verdadeiro vigarista não nos força a fazer nada: ele nos torna cúmplices de nossa própria ruína... acreditamos porque queremos acreditar". Uma diferença entre o vigarista e o modelo de linguagem grande (LLM) é que o vigarista conhece a verdade e está tentando ocultá-la. Uma semelhança entre o vigarista e o LLM é que ambos aperfeiçoaram a arte de parecer plausíveis.

Um artigo recente na Nature conclui que, quando os LLMs são treinados para serem calorosos e amigáveis, eles também produzem respostas dramaticamente menos precisas, "promovendo teorias da conspiração, fornecendo informações factuais imprecisas e oferecendo conselhos médicos incorretos". Isso parece ruim. Eu sugeriria que a realidade é pior: a IA bajuladora não apenas produz erros, ela nos convence a acreditar neles.

Em 1950, Alan Turing, o matemático e visionário da epoch da computação, propôs famosamente um "jogo da imitação" nary qual um juiz humano se comunicaria por um terminal com um humano e um computador. A tarefa bash computador epoch imitar a conversa humana de forma convincente o suficiente para persuadir o juiz.

O teste de Turing continua intrigante, mas há uma dificuldade antiga: a falibilidade bash juiz. Um chatbot primitivo dos anos 1960, Eliza, respondia como uma paródia de terapeuta ("Como isso faz você se sentir?" "Por que você se sente triste?" "Por favor, continue."). As pessoas adoravam; é bom se sentir ouvido.

Um chatbot dos anos 1980, MGonz, simplesmente disparava insultos e epoch perfeitamente plausível, em parte porque insultos são simples de proferir e principalmente porque provocam raiva em vez de reflexão nary destinatário humano. E Robert Epstein, um especialista nary teste de Turing, escreveu de forma divertida sobre como foi enganado em uma correspondência de quatro meses com uma senhora russa sexy que era, na verdade, um chatbot da epoch de 2006.

Nenhum desses bots tinha um milésimo da sofisticação de um LLM moderno, mas não precisavam: quando os humanos estão tristes, com raiva ou apaixonados, também não somos juízes muito sofisticados.

Todos nós vamos nos encontrar em variações estranhas bash teste de Turing nos próximos anos, e maine pergunto se estamos à altura. E não apenas nós, mas aqueles com poder sobre nós. Como Cory Doctorow, autor de "Enshittification", gosta de observar: você não será substituído porque uma IA pode fazer seu trabalho, você será substituído porque um vendedor de IA convence seu chefe de que ela pode. Se minha jornada até a linha de largada da maratona service de indicação, esse vendedor terá um trabalho fácil.

As capacidades da IA moderna são impressionantes. Mas o que determina se a usamos não é a capacidade, mas o quão impressionante ela parece. Estão correlacionadas, mas não são a mesma coisa.

Há uma história sobre o poeta francês Jacques Prévert vendo um homem pedindo esmolas nas ruas de Veneza com uma placa que dizia "Cego sem pensão".

Prévert parou para conversar com ele; poucas pessoas se comoviam a contribuir, e Prévert se ofereceu para escrever uma nova placa.

No dia seguinte, ele voltou e encontrou o homem radiante. "É incrível; nunca recebi tanto dinheiro na vida."

Prévert havia escrito: "A primavera está chegando, mas eu não vou vê-la."

A nova placa não continha nenhuma novidade —na verdade, epoch menos informativa que a antiga. Mas contava uma história. O Google Maps epoch a primeira placa: maine dizia onde pegar meu trem. O ChatGPT epoch a segunda placa: dizia ao meu companheiro não apenas para onde ir, mas como se sentir por escolher uma rota tão inteligente.

Deixei-o em Paddington, insistindo para que não tentasse pegar o trem inexistente da Elizabeth Line para London Bridge. Não tenho certeza se fui tão convincente quanto o ChatGPT.