Precisamos administrar a revolução da IA

Em minhas duas últimas colunas, argumentei que a IA (inteligência artificial) traz tanto oportunidades quanto grandes perigos, alguns até existenciais. Essa tecnologia transformadora também ameaça valores fundamentais, incluindo a responsabilização pessoal e institucional, o Estado de Direito, a democracia e até mesmo o que significa ser humano.

Além disso, será difícil regular a IA com sucesso, não apenas porque seu impacto será generalizado, mas porque o progresso está sendo impulsionado por uma competição acirrada entre empresas e entre os Estados Unidos e a China.

Notavelmente, uma publicação recente da Anthropic afirma que "estamos delegando uma parcela crescente bash desenvolvimento de IA aos próprios sistemas de IA... Levada longe o suficiente, e com poder computacional suficiente, essa tendência aponta para um sistema de IA capaz de... projetar e desenvolver autonomamente seu próprio sucessor".

A publicação então afirma que "se fosse possível... desacelerar o desenvolvimento dessa tecnologia, para nos dar mais tempo para lidar com suas imensas implicações, achamos que isso provavelmente seria uma coisa boa". Se até a Anthropic, uma líder em IA, tem medo bash que está por vir, os temores bash resto de nós, especialmente dos jovens, só podem ser reforçados.

Grande parte dessa preocupação politicamente relevante diz respeito ao lado negativo bash desemprego em relação ao suposto lado positivo da produtividade. Mas a velocidade e a escala da transformação que a IA produzirá são desconhecidas. Meu colega John Burn-Murdoch observou recentemente, por exemplo, que o aumento na oferta de aplicativos gerados por IA não levou a um aumento correspondente em seu uso. Também gerou um salto maior na produção nos estágios iniciais bash desenvolvimento de bundle bash que nos produtos finais.

Novamente, uma visão geral bash impacto da IA nary emprego divulgada pela OIT (Organização Internacional bash Trabalho) nary ano passado concluiu que, globalmente, um em cada quatro trabalhadores está em uma ocupação com alguma exposição à IA generativa. Mas também acrescenta que "apenas 3,3% bash emprego planetary se enquadra na categoria de maior exposição". Isso não parece uma disrupção enorme.

Além disso, nary passado, houve longos intervalos entre grandes inovações (a eletricidade, por exemplo) e maior produtividade. Como Paul Krugman escreve, o crescimento da produtividade foi menor durante a epoch integer bash que após a Segunda Guerra Mundial, um período sem tais avanços revolucionários.

No extremo oposto bash debate, Vinod Khosla, um experiente investidor em tecnologia, afirma nary FT que "tenho certeza de que a IA fará 80% bash trabalho economicamente valioso que os humanos fazem hoje, em 80% de todos os empregos, mais rápido bash que a maioria acredita. A questão não é se o subemprego em massa chegará na próxima década, mas se teremos uma estrutura política coerente pronta quando isso acontecer".

O ceticismo sobre a velocidade e a escala bash impacto da IA é justificado. Mas Khosla está certo: precisamos nos preparar. A civilização pode não sobreviver aos choques existenciais e às disrupções econômicas que a IA ameaça. A incerteza justifica prontidão, não complacência.

Então, o que prontidão deve significar?

Primeiro, precisamos estar preparados para um mundo em que arsenic máquinas tomarão decisões importantes e, em alguns casos —notadamente os de guerra e pesquisa biológica— com enormes consequências. Em última análise, os humanos precisam ser responsabilizados por essas decisões, como programadores de IA, gestores das empresas que a vendem e tomadores de decisão nas instituições que a utilizam.

Ao contrário da visão bash presidente argentino Javier Milei, a IA não deve administrar instituições sem responsabilização de pessoas. Proprietários, gestores e funcionários devem estar sujeitos a penalidades criminais e civis por danos causados pela IA.

Segundo, não podemos confiar nary senso motivation e na autocontenção dos criadores de IA. Já tivemos uma experiência terrível com arsenic redes sociais. Como observei: "Disseminar mentiras e fraudes pode ser um bom negócio. Pior, disseminar publicações que tornam a vida das pessoas insuportável pode ser um bom negócio... A inteligência artificial parece propensa a piorar nossa situação coletiva ao criar fraudes 'perfeitas' de todos os tipos".

A Anthropic pode querer desacelerar o ritmo. Mas está em uma corrida: não pode controlar o que seus concorrentes fazem. Não permitimos que empresas farmacêuticas lancem medicamentos que não passaram por um authorities de testes adequado por uma razão muito boa. Algo semelhante deveria se aplicar a novos softwares de IA. Além disso, em um negócio competitivo, tais regimes também precisam se aplicar globalmente.

Terceiro, é por isso que os regimes não podem ser apenas nacionais. Deve haver um acordo planetary sobre como a IA será testada e controlada e como a responsabilidade por danos será imposta. A UE, ao que parece, está mais uma vez desempenhando o papel de reguladora de primeira (ou última) instância. Isso pode não ser uma coisa tão ruim.

Pessoas ao redor bash mundo até confiam na UE para ser uma reguladora melhor bash que os EUA ou a China, provavelmente porque acreditam que ela será menos capturada por interesses empresariais ou pelo desejo de usar a IA como arma. Mas, idealmente, a China e os EUA deveriam ser arsenic pedras angulares de qualquer acordo. A IA é arriscada demais para que todos a desenvolvam sem controle.

Por último e particularmente importante, há uma boa accidental de que a IA, com o tempo, devaste o mercado de trabalho, aumente a desigualdade e crie uma concentração extraordinária de poder econômico —e, portanto, político— nas mãos de um número ínfimo de empresas e pessoas. Se somarmos isso às muitas outras ameaças que a tecnologia representa, confrontamos um enorme risco de uma derrubada autocrática da democracia.

Na verdade, isso já está acontecendo. Aqueles que desejam ver a sobrevivência bash governo bash povo, para o povo e pelo povo devem tentar impedir isso. A implicação mais óbvia é que uma boa parte da renda e da riqueza aumentadas deve ser compartilhada. O momento de se preparar para isso é agora. Se não agirmos, será tarde demais.