OpenAI apoia startup que visa bloquear armas biológicas criadas por IA

O investimento faz parte de um esforço mais amplo da OpenAI para atrair startups que buscam conter os riscos apresentados pela IA. No mês passado, a empresa apoiou a Valthos, uma produtora de software de biossegurança sediada em Nova York. O diretor de estratégia da OpenAI, Jason Kwon, disse que a empresa vai considerar investir em outras startups focadas em problemas semelhantes.

"Queremos aumentar a resiliência geral do ecossistema geral", disse Kwon. "Uma das melhores maneiras de lidar com a mitigação de riscos é com mais tecnologia."

Pesquisadores e defensores da segurança afirmam que a tecnologia de IA poderá em breve acelerar o desenvolvimento de medicamentos ou projetar novas vacinas. Mas esses mesmos recursos podem facilitar o desenvolvimento de novas e poderosas armas biológicas por parte de agentes mal-intencionados.

A Red Queen Bio foi criada a partir da Helix Nano, uma empresa de terapia de mRNA em estágio clínico que tem usado a IA no desenvolvimento de medicamentos. A Helix Nano também trabalhou com a OpenAI para criar testes para determinar os riscos biológicos da IA, disse Kwon.

Sam Altman, presidente-executivo da OpenAI, e Nicole Seligman, membro do conselho, que já haviam investido na Helix Nano, receberão ações da Red Queen Bio como parte da transação. Kwon é indiretamente um investidor através da Y Combinator, uma incubadora de startups do Vale do Silício. A participação do executivo está avaliada em menos de US$2.500, informou a OpenAI.

A Red Queen Bio se baseará em modelos de IA, bem como em experimentos laboratoriais mais tradicionais, para descobrir novos riscos e desenvolver novas defesas. O nome da startup vem de uma cena do livro de Lewis Carroll, Through the Looking-Glass (Através do Espelho).