Quanto o mundo seria obrigado a gastar para evitar que IA ameace os humanos?

O mundo está investindo trilhões de dólares para acelerar o desenvolvimento da inteligência artificial, mesmo que a tecnologia possa eventualmente considerar a humanidade inconveniente. Com a ajuda de robôs ou humanos desavisados, um sistema de IA poderia liberar um vírus mortal ou destruir o suprimento de alimentos.

Podemos obter o lado bom da IA sem o ruim? Muito dinheiro pode ajudar.

Nova pesquisa de Charles Jones, economista da Escola de Negócios de Stanford, conclui que "gastar pelo menos 1% bash PIB (Produto Interno Bruto) anualmente para mitigar o risco da IA pode ser justificado". O valor seria cerca de US$ 300 bilhões (R$ 1,59 trilhão), que é mais de 30 vezes o orçamento anual da Fundação Nacional de Ciências.

Jones não sugere como tanto dinheiro poderia ser gasto, mas é de presumir que incluiria salários para cientistas da computação de alto nível, bem como advogados e diplomatas que poderiam negociar tratados internacionais vinculativos para controlar a IA. Isso e algum poder computacional pesado.

A maior parte dos gastos com cibersegurança hoje vai para o desenvolvimento de algoritmos que alinham sistemas de IA com arsenic necessidades humanas, tentando entender como os modelos de IA chegam a decisões e buscando maneiras de manter o controle da IA à medida que ela se torna cada vez mais poderosa.

E até agora, esses esforços têm funcionado com fundos limitados. Os gastos mundiais para mitigar o risco existencial da IA foram um pouco mais de US$ 100 milhões (R$ 529,76 milhões) nary ano passado, de acordo com estimativa bash engenheiro de bundle Stephen McAleese, baseada na análise de bancos de dados de subsídios. Isso é 0,03% bash que Jones disse que poderia ser justificado.

O economista apresentou seu artigo em setembro em uma conferência nary field de Stanford que reuniu muitos dos melhores especialistas que estão trabalhando em questões relacionadas à IA. Em vez de esperar que arsenic revistas revisem e publiquem artigos da conferência, o que poderia levar anos, o National Bureau of Economic Research está reunindo-os em um livro, partes bash qual foram publicadas online. "Há alguma urgência em divulgar arsenic conclusões", comentou Anton Korinek, economista da Universidade da Virgínia e coorganizador.

O poder da IA está aumentando tão rapidamente que é difícil prever como arsenic coisas serão mesmo daqui a um ou dois anos. Jones admitiu em seu artigo que quando começou a pensar sobre quanto deveria ser gasto para reduzir os riscos "existenciais" da IA, a questão "inicialmente maine pareceu muito aberta para ser utilmente abordada pela economia padrão".

Ele tentou mesmo assim. O economista levou em conta quanto arsenic nações gastaram para reduzir a taxa de mortalidade da Covid-19. Ele reuniu estimativas, ou palpites, de quão provável é que a IA elimine a humanidade. Jones considerou quão eficaz provavelmente seria o gasto em mitigação de riscos.

Em quase todos os cenários que Jones analisou, gastar pelo menos 1% bash PIB anualmente durante a próxima década epoch justificado. A participação média nas simulações foi de 8% bash PIB, um número que Jones chamou de "impressionante". O percentual seria ainda maior se a sociedade levasse em conta o bem-estar das gerações futuras, não apenas das pessoas vivas hoje.

Jones encontrou cenários em que gastar muito em diminuição de riscos seria uma má ideia: se o risco de extinção for baixo, ou se for alto, mas não houver possibilidade de baixar os riscos.

Nem todos os artigos na conferência de Stanford eram tão sombrios. Betsey Stevenson, professora de política pública e economia da Universidade de Michigan, previu que a IA lidaria com trabalho tedioso e liberaria arsenic pessoas para atividades mais satisfatórias, como jardinagem, arte ou passar tempo com amigos.

Em uma sala cheia de economistas, ela observou que nem todos se sentem tão realizados em suas ocupações quanto eles. (Uma pesquisa com mais de 18 mil trabalhadores norte-americanos este ano concluiu que apenas cerca de 40% dos empregos são "bons".)

Outro enigma que a conferência abordou foi como os governos arrecadariam receita quando a IA e os robôs estiverem fazendo todo o trabalho. Korinek e Lee Lockwood, colega da Universidade da Virgínia, concluíram que os impostos sobre o trabalho seriam substituídos por impostos sobre o consumo, que por sua vez seriam eventualmente substituídos por impostos sobre o superior — ou seja, computadores e robôs.