Atuais e ex-funcionários da OpenAI e do Google DeepMind alertam sobre riscos da IA

O documento alerta ainda para os riscos de uma IA ​​não regulamentada, que vão desde a propagação de desinformação à perda de sistemas de IA independentes, além do aprofundamento das desigualdades existentes, o que pode resultar na "extinção humana".

Pesquisadores encontraram exemplos de geradores de imagens de empresas, incluindo OpenAI e Microsoft, produzindo fotos com desinformação relacionada a votações, apesar das políticas contra esse tipo de conteúdo.

As empresas de IA têm "obrigações fracas" de compartilhar informações com os governos sobre as capacidades e limitações de seus sistemas, afirma a carta, acrescentando que não se pode confiar no compartilhamento voluntário dessas informações pelas empresas.

A carta aberta é a mais recente a levantar preocupações sobre segurança em torno da tecnologia de IA generativa, que é capaz de produzir de modo rápido e barato imagens, áudio e textos de forma semelhante à humana.

O grupo pediu às empresas de IA que facilitem um processo para que atuais e ex-funcionários manifestem preocupações relacionadas a riscos e que não imponham acordos de confidencialidade que proíbam críticas.

Separadamente, a empresa liderada por Sam Altman disse na quinta-feira que interrompeu cinco operações de influência secretas que procuravam usar seus modelos de inteligência artificial para "atividades enganosas" na internet.