RCPB Contabilidade Construtiva e Estratégica

Tecnologia Dona do Claude sugere pausa no desenvolvimento da IA por risco de sistemas saírem do controle humano Anthropic afirma que uma pausa global no avanço da IA poderia dar mais tempo para pesquisas de segurança acompanharem a evolução da tecnologia. Por France Presse

A empresa de IA Anthropic propôs uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes, diante de sinais de que os modelos mais recentes poderiam escapar do controle humano.

Desenvolvedora dos modelos de IA do Claude, a empresa, sediada em San Francisco (EUA), destacou em um relatório que a desaceleração mundial no desenvolvimento da IA de ponta poderia ser "uma boa ideia", mas alertou que, se apenas uma empresa diminuir o ritmo, ela pode simplesmente ser ultrapassada pela concorrência.

"Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia", manifestou a Anthropic.

Uma pausa real significaria grandes empresas de IA em vários países, principalmente China e Estados Unidos, concordando em parar ao mesmo tempo, sob regras que todos pudessem verificar, ressaltou a Anthropic.

"Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas."

A proposta enfrenta uma batalha difícil em Washington e no Vale do Silício. Funcionários americanos e executivos de grandes empresas de tecnologia argumentam que desacelerar o desenvolvimento da IA poderia dar à China uma vantagem significativa.

O presidente Donald Trump, no entanto, assinou nesta semana um decreto que permitirá ao governo fazer avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes do seu lançamento.

A Anthropic indicou que espera reunir nos próximos meses funcionários do governo, cientistas, grupos de defesa e empresas concorrentes para definir como esse sistema funcionaria.

O chamado à coordenação surge no momento em que dados internos mostram que a IA acelera de forma dramática seu próprio desenvolvimento, destacou a Anthropic.

A empresa alertou que essa aceleração criaria um ciclo de retroalimentação que poderia levar ao que pesquisadores chamam de "melhora recursiva de si mesma", o que se refere à ideia de que um sistema de IA poderia ser capaz de ensinar a si próprio a se tornar mais inteligente.

A Anthropic negou que esse ponto seja inevitável, mas ressaltou que "as evidências sugerem que o papel humano está diminuindo em cada etapa do processo de desenvolvimento da IA".

Há 54 minutos Economia EUA ampliam sanções contra presidente de Cuba e família CastroHá 54 minutosGuerra no Oriente MédioLíbano acusa Irã de usar o país como ‘moeda de troca’ em negociações

Há 21 minutos Mundo Israel ataca sul do Líbano após Hezbollah rejeitar tréguaHá 21 minutosTá chegando a hora ⚽🏆Brasil, França ou Espanha? Seleção de R$ 9 bilhões é a mais valiosa da Copa

Há 4 horas Economia Casemiro e outros: 10 jogadores da Copa com contratos perto do fimHá 4 horas’Reconhecimento’: vídeo de rua em MG pintada para a Copa chega à CBF

Há 4 horas Sul de Minas Comunidade de Porto Alegre pinta ruas para competiçãoHá 4 horasSusto grande no PRMulher que salvou homem em ferrovia diz ter pavor de trem desde criança

Há 4 horas Norte e Noroeste VÍDEO: homem preso nos trilhos é salvo segundos antes de trem passarHá 4 horasEx-príncipe Andrew sublocava imóveis em residência real onde morava sem pagar