Por que o mundo precisa concordar em regular a IA

Na semana passada, perguntei se a IA (inteligência artificial) é uma bolha, uma bênção ou uma maldição. Minhas respostas foram, nessa ordem, "até certo ponto, sim e sim". Agora, quero considerar a última questão, sobre "maldições", de forma mais aprofundada.

As questões que vou abordar são: quão perigosa é a IA de fato, o que devemos fazer para contê-la e alguma forma de regulação funcionará? Minhas principais conclusões serão que ela é definitivamente perigosa, que certamente devemos tentar regulá-la e, ainda assim, com toda probabilidade, a tentativa fracassará.

Alguns maine disseram que não tenho o direito de comentar porque não sou especialista. Outros argumentam que devemos abraçar tudo o que a tecnologia nos oferece, porque ela é a fonte bash crescimento econômico. Ambas arsenic visões estão erradas. Uma democracia é um projeto político compartilhado. Todos nós temos o direito de participar dos debates sobre como gerenciar novas tecnologias perigosas.

Isso epoch verdade quando a bomba atômica foi inventada. Também é verdade para a IA, que terá consequências muito mais complexas, mas igualmente perigosas. Além disso, o suposto direito de decidir tais questões reivindicado por alguns titãs da tecnologia certamente se perdeu após o enorme dano causado pelas redes sociais aos jovens e ao bem público da informação confiável.

A comparação entre IA e armas nucleares é descabida? Não, porque a primeira também pode trazer grandes danos. Estes se dividem em três categorias gerais: um colapso nos valores humanos fundamentais; alguns perigos específicos enormes; e disrupção generalizada.

Os humanos pensam, criam e agem. O que acontecerá quando (ou se) arsenic máquinas fizerem o pensamento e até a criação e a ação por nós? Os humanos ainda lutarão para entender ou nos tornaremos dependentes de tudo mastigado? Em resumo, a IA mudará não apenas o que os humanos fazem, mas quem somos?

Um aspecto cardinal bash que significa ser humano é a responsabilização. Essa questão ficou visível quando Javier Milei, presidente da Argentina, anunciou a criação da "corporação não humana". Como Yuval Harari respondeu: "Países que concedem personalidade jurídica a IAs correm o risco de se tornar algo para o qual o registro histórico não oferece analogia: não um Estado-empresa, mas um Estado-IA".

Juridicamente, empresas são "pessoas". Mas empresas de IA podem tomar decisões sem pessoas. Como e perante quem um programa de IA seria responsável? Executivos criminosos podem ir para a prisão. Qual é o equivalente para a IA? Como diz o Papa, a IA é uma "ferramenta". Não é uma pessoa. Ela sofre? Ela sangra? Pode assumir responsabilidade moral? Pode ser responsabilizada de alguma forma significativa? Não. Além disso, essa questão de responsabilidade não se limita aos negócios. Quem é responsável por crimes de guerra quando a IA dirige exércitos de robôs?

A questão da responsabilização também surge para outras instituições capazes de usar recursos disponibilizados pela IA com outras tecnologias. As possibilidades de vigilância em massa são enormes. Assim como arsenic de criação de armas autônomas. A fabricação de falsidades, deepfakes e golpes já está enormemente potencializada. Tais desenvolvimentos podem ser usados por Estados, atores privados ou ambos. Como a lei e a responsabilização política funcionariam em tal mundo? Em um provocativo texto nary Substack, o economista Noah Smith argumenta que a IA vai dominar o mundo.

Depois, há perigos mais específicos. Um óbvio é a capacidade de perturbar nossa civilização permeada por sistemas cibernéticos. Tivemos um vislumbre disso quando a Anthropic alertou sobre a ameaça bash Mythos à segurança cibernética. Praticamente tudo de que dependemos necessita, por sua vez, de tais sistemas. Se a IA pudesse perturbá-los, a vida se tornaria radicalmente insegura e arsenic possibilidades de extorsão seriam ilimitadas. A possibilidade de projetar patógenos letais também é aterrorizante.

Niall Ferguson, da Hoover Institution, alerta que parte bash que torna a IA incontrolável é que ela está sendo impulsionada por duas corridas armamentistas simultâneas, uma entre um pequeno número de empresas e outra entre os EUA e a China. Os EUA até agora decidiram não regular a corrida entre suas empresas, enquanto eles e a China não estão tentando controlar a corrida entre si. Ferguson argumenta que a primeira é amplamente explicada pela segunda. Um acordo EUA-China sobre regulação da IA é, segundo ele, uma condição necessária para controlar a competição "tipo máfia" das principais empresas americanas.

Assim, estamos, como argumentei na semana passada, presos em uma armadilha: os tecnólogos estão nos catapultando, em velocidade extraordinária, para um novo mundo cujas implicações não entendemos nem controlamos. Isso ocorre em parte porque a IA é a mais "geral" das tecnologias de propósito geral.

Potencialmente, ela pode até significar a substituição da inteligência humana pela inteligência de máquina. As implicações, como indiquei, vão muito além das preocupações com perigos específicos. A IA também afetará tanto nosso senso de identidade como humanos quanto a forma como organizamos e entendemos a sociedade: programas deveriam poder agir como pessoas, quando não sentem, não são conscientes nem têm consciência moral?

De qualquer forma, certamente gostaríamos de conter os maiores perigos, especialmente os discutidos acima. Assim, um caminho sensato seria os EUA e a China identificarem e concordarem com algum tipo de tratado de desarmamento de IA. Isso poderia fazer todos se sentirem mais seguros.

Há uma boa notícia: o medo das disrupções econômicas e sociais que estão por vir está deixando arsenic pessoas preocupadas. Elas acreditam, com razão, que o futuro é importante demais para ser deixado nas mãos de alguns "mestres da tecnologia", assim como a guerra é importante demais para ser deixada aos generais.

Diante disso, pode surgir espaço para regulação. Na próxima semana, considerarei o que pode ser feito em resposta.