Anthropic defende plano para interromper desenvolvimento de IA se riscos aumentarem

4 Jun (Reuters) - A Anthropic disse na quinta-feira que os desenvolvedores de IA de fronteira devem estabelecer uma maneira coordenada ​e verificável de desacelerar ou interromper ​temporariamente seu trabalho caso os sistemas comecem a se aperfeiçoar mais rapidamente do que a sociedade pode gerenciar seus riscos.

Uma inteligência artificial capaz de se ​autoconstruir seria um ⁠grande desenvolvimento na ​história da tecnologia, mas "o aperfeiçoamento recursivo completo também ⁠pode aumentar os riscos de os ​humanos perderem o controle sobre os sistemas de IA", disse a Anthropic.

"Se os sistemas forem capazes de criar totalmente ‌seus próprios sucessores, as formas como ‌os protegemos, ​monitoramos e moldamos seu comportamento se tornarão muito mais importantes."