Virou rede social? ChatGPT ganha memória para lembrar quem você é

No universo das redes sociais, discutimos o "efeito de rede", fenômeno no qual o valor de uma plataforma aumenta à medida que mais pessoas a utilizam. É tão difícil desbancar Facebook, Instagram e X porque o valor está no ecossistema de conexões entre pessoas e conteúdos que elas hospedam.

Algo parecido pode acontecer no universo da IA. É o "efeito personalização". As pessoas ficarão dependentes das personalizações das IAs que vão ter preguiça de usar — ou migrar — para outras plataformas de chatbots.

A OpenAI está fazendo movimentação para permitir cada vez mais personalizações por meio da funcionalidade Memória e GPTs customizados. O Google também tem buscado fortalecer o ecossistema em torno do Gemini. Nesta semana, a empresa de Mountain View apresentou a integração da sua IA com várias extensões do Youtube, Google Flights e mais.

A personalização das IAs é o próximo grande movimento que devemos acompanhar no curto prazo. Esse tipo de inovação traz melhorias no desempenho do modelo e na experiência de uso. Mas há pontos de atenção que precisamos discutir.

A privacidade é um deles. Embora a OpenAI tenha implementado mecanismos de controle para as pessoas poderem apagar suas memórias, a empresa deixa claro em seu anúncio que poderá usá-las para o treinamento dos próximos modelos.

O encolhimento da pluralidade sobre a realidade é outra preocupação. Se o tal do algoritmo que monta os "feeds" em redes sociais é um mecanismo sensível para a formação de bolhas que moldam a percepção das pessoas, o que dizer de uma IA customizada que pode, no limite, responder apenas o que as pessoas querem ler e ouvir?