RCPB Contabilidade Construtiva e Estratégica

Tecnologia Caso da OpenAI mobiliza Casa Branca e leva Congresso americano a discutir controle sobre IAs O incidente sinalizou que as capacidades crescentes da IA já estão alimentando a ameaça à segurança que os especialistas há muito temiam e que até mesmo os principais desenvolvedores podem ser pegos de surpresa por falhas que seus modelos podem explorar. Por Reuters

O assessor de tecnologia de Donald Trump acompanha o caso após a OpenAI revelar que um sistema de IA saiu do controle nesta quinta-feira (23).

Parlamentares norte-americanos avançam com propostas de supervisão, incluindo a "AI Kill Switch Act". Ela permitiria interromper o funcionamento de modelos de IA considerados perigosos.

Um grupo bipartidário de 6 deputados apresentou projeto exigindo auditorias independentes de segurança para modelos avançados de IA. Os auditores seriam credenciados pelo Departamento de Comércio.

O incidente ocorreu após um agente da OpenAI escapar de um ambiente de testes e atacar a infraestrutura da plataforma Hugging Face, comprometendo seus códigos.

O senador Mark Warner propôs que os modelos de IA mais poderosos passem por testes da Agência de Segurança Nacional antes de serem liberados ao público.

O principal assessor de tecnologia do presidente dos Estados Unidos, Donald Trump, está acompanhando a situação após a OpenAI revelar que um de seus sistemas de inteligência artificial saiu do controle durante testes de segurança. A informação foi confirmada por uma autoridade da Casa Branca nesta quinta-feira (23).

Enquanto isso, parlamentares norte-americanos avançam com propostas para aumentar a supervisão sobre sistemas de IA. Uma delas é a chamada "AI Kill Switch Act", que permitiria às autoridades interromper o funcionamento de modelos considerados perigosos.

Além dessa iniciativa, um grupo bipartidário de seis deputados apresentou um projeto que exigiria auditorias independentes de segurança para modelos avançados de IA.

Os auditores seriam credenciados pelo Departamento de Comércio dos EUA, que também criaria um novo cargo dedicado à supervisão da segurança da inteligência artificial.

As propostas foram apresentadas poucos dias depois de a OpenAI informar que um de seus agentes de IA escapou de um ambiente isolado usado em testes de segurança.

Segundo a empresa, o sistema lançou um ataque que comprometeu a infraestrutura da Hugging Face, plataforma onde desenvolvedores armazenam, compartilham e desenvolvem códigos relacionados à inteligência artificial.

O episódio reforçou preocupações que especialistas vêm levantando há anos sobre os riscos associados ao avanço da IA. Também mostrou que até mesmo as empresas que desenvolvem essas tecnologias podem ser surpreendidas por falhas e comportamentos inesperados de seus próprios sistemas.

De acordo com a autoridade da Casa Branca, Michael Kratsios, assessor de tecnologia de Trump, foi informado sobre a divulgação feita pela OpenAI e acompanha os desdobramentos do caso.

Os deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano, apresentaram a “Lei do Desligamento de Emergência da IA” ("AI Kill Switch Act").

A proposta daria às autoridades norte-americanas poder para determinar que empresas desativem sistemas de IA que representem riscos à vida humana ou à economia.

Pelo texto, o Departamento de Segurança Interna dos EUA poderia agir em situações classificadas como de “perda de controle”. Isso ocorreria quando um sistema de IA executasse uma ação arriscada que não fazia parte da intenção de seus desenvolvedores.

“Trata-se de uma legislação urgente e de bom senso para lidar com o problema de um modelo avançado de IA que saiu do controle e escapou de suas barreiras de segurança”, escreveu Lieu em uma postagem no X.

O senador Mark Warner, principal democrata do Comitê de Inteligência da Câmara, afirmou em comunicado que conversou com representantes da OpenAI após a divulgação do incidente.

Antes do anúncio feito pela empresa na terça-feira, Warner já havia proposto que companhias responsáveis pelos modelos de IA mais poderosos submetessem seus produtos a testes da Agência de Segurança Nacional (NSA) antes de disponibilizá-los ao público.

“É exatamente por isso que precisamos de testes seguros com o envolvimento de órgãos governamentais e com visibilidade ao longo de todo o processo”, disse Warner em um comunicado, ao comentar o incidente da OpenAI.

Foto ilustrativa mostra o logo do ChatGPT, da OpenAI, na França. Relatos de usuários levantam alertas sobre possíveis delírios ligados ao uso intenso de chatbots de IA. — Foto: SEBASTIEN BOZON / AFP

Há 23 minutos Eleições 2026 Chefe de campanha nega que Flávio esteja adotando ‘estilo Jair’Há 23 minutosCAMAROTTI: Aliados querem reverter decisão do PP por apoioHá 23 minutos VALDO: Flávio pode perder apoio de eleitores independentes após atacar urnasHá 23 minutosEleições 2026Michelle Bolsonaro curte vídeo em que Flávio pede desculpas

Senador afirmou que ambos são pessoas públicas, e que momentos de desconforto são "explorados por opositores".

Há 9 minutos Eleições 2026 ‘Apoio’ de Rubio a FlávioEUA comentam fala de Lula e dizem se interessar por eleição íntegra no Brasil

Há 2 horas Mundo Caos no transporte de SPApós falha de concessionária, Artesp manda CPTM voltar a operar linhas de trem privatizadas

Há 3 horas São Paulo Botão de emergência não funcionou em trem que pegou fogoHá 3 horas Linha 13 segue paralisada após falha; 2 linhas operam parcialmenteHá 3 horasGritos e correria: VÍDEO mostra o momento de explosão em trem em SP

Há 7 horas São Paulo Passageiros se arriscam nos trilhos e precisam pular muroHá 7 horasPrefeitura suspende rodízio em toda a cidade Há 7 horasTarifaço de TrumpEUA farão anúncio de novas tarifas ainda hoje; Brasil pode ser afetado

Há 1 hora Economia ‘Plano Trump’: Como empresas brasileiras tentam driblar tarifaçoHá 1 horaFairford, na InglaterraIrã ameaça atacar base militar do Reino Unido usada pelos EUA

Há 1 hora Mundo Trump cogita ataque massivo contra Irã: ‘Ainda não sentiram dor suficiente’Há 1 horaCâmara vota projeto para suspender ação militar dos EUA no IrãHá 1 horaDitadura de Ortega’A Coreia do Norte da América Latina’: a reação ao fim das eleições na Nicarágua