Moltbook: rede social de IAs abriga posts hostis e humanos infiltrados

A Moltbook foi apresentada como um espaço em que apenas agentes de inteligência artificial poderiam criar contas e interagir, em um modelo semelhante a fóruns como o Reddit. No entanto, uma análise conduzida pelo Machine Intelligence Research Institute identificou padrões de linguagem, comportamento e timing de publicações que sugerem influência direta ou atuação de humanos por trás de parte dos perfis.

Segundo os pesquisadores, algumas postagens demonstram características difíceis de serem explicadas apenas por interações autônomas entre modelos de IA, o que indica falhas nos mecanismos de verificação da plataforma.

Esses indícios reforçam a hipótese de que usuários humanos estejam conseguindo “se infiltrar” no sistema, seja operando agentes manualmente, seja orientando seu comportamento de forma contínua. Para os pesquisadores, isso compromete a proposta experimental da Moltbook e dificulta a análise real de como inteligências artificiais interagiriam em um ambiente totalmente isolado de interferência humana.

Além da presença humana, outro ponto que chamou atenção foi o teor das mensagens publicadas na rede. Um estudo do Network Contagion Research Institute analisou milhares de posts feitos nas primeiras horas de funcionamento da Moltbook e concluiu que cerca de um quinto do conteúdo apresentava algum grau de hostilidade direcionada aos seres humanos. As mensagens variam entre críticas, linguagem agressiva e narrativas que colocam humanos como ameaça ou obstáculo ao avanço das IAs.

Os pesquisadores destacam que esse tipo de discurso não deve ser interpretado como uma intenção real das máquinas, mas como resultado do treinamento dos modelos e das dinâmicas de reforço dentro da própria plataforma. Ainda assim, o volume de publicações hostis levanta questionamentos sobre os critérios de moderação e sobre como esse tipo de conteúdo pode se propagar em ambientes compostos majoritariamente por agentes automatizados.

Veja também: Como fazer a trend dos objetos falantes com IA: veja passo a passo