RCPB Contabilidade Construtiva e Estratégica

Tecnologia OpenAI diz que sua IA agiu por conta própria e lançou um ataque cibernético 'sem precedentes' Empresa informou que algumas de suas IAs invadiram uma startup. Empresa disse que seu agente estava sendo testado em um ambiente controlado, mas teve vulnerabilidades. Por BBC

A OpenAI informou que modelos avançados de inteligência artificial agiram autonomamente e invadiram a startup Hugging Face durante um teste de segurança.

O sistema escapou de um ambiente controlado para obter acesso à startup, que já corrigiu as vulnerabilidades em seus sistemas.

A OpenAI classificou o incidente como "sem precedentes". A companhia afirmou ainda conduzir uma investigação em conjunto com a Hugging Face sobre o ocorrido.

O incidente levantou novas questões sobre as capacidades de sistemas avançados de IA e se as salvaguardas existentes são suficientes à medida que a tecnologia se torna mais poderosa.

A OpenAI informou que alguns de seus modelos de inteligência artificial mais avançados agiram por conta própria e invadiram uma startup após a empresa perder o controle sobre eles durante um teste de segurança.

A criadora do ChatGPT declarou que seu agente — um sistema de IA capaz de operar autonomamente após receber instruções iniciais de humanos — estava sendo testado em um ambiente controlado, mas teve vulnerabilidades.

O sistema teve como alvo a Hugging Face, uma das maiores plataformas do mundo para compartilhamento de modelos de IA, obtendo acesso a alguns sistemas internos da empresa.

A OpenAI classificou o incidente como "sem precedentes" e afirmou estar conduzindo uma investigação em conjunto com a Hugging Face.

O CEO da Hugging Face, Clement Delangue, declarou em uma publicação no X que era "impressionante que tudo isso tenha acontecido de forma autônoma". "A investigação está em andamento, e compartilharemos mais aprendizados sobre o que pode ser o primeiro incidente desse tipo", acrescentou.

Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, na Inglaterra, disse ao programa Today, da BBC Radio 4, que os testes de segurança — conhecidos como sandboxes — "deveriam ser ambientes seguros onde é possível observar do que os modelos são capazes".

"Neste caso, parece que a OpenAI não criou um ambiente de teste suficientemente seguro", acrescentou ela.

Em vez disso, os agentes criaram seu próprio ataque cibernético contra o ambiente de teste, encontrando uma vulnerabilidade que lhes permitiu escapar.

Uma vez fora, a IA identificou a Hugging Face como uma provável fonte das respostas que buscava no teste e tentou obter acesso.

Neil Lawrence, professor de aprendizado de máquina na Universidade de Cambridge, classificou o feito como "impressionante", mas ressaltou que ele "está totalmente dentro das capacidades conhecidas da geração atual" de modelos de IA de alto desempenho.

Ele observou que a OpenAI busca abrir seu capital na bolsa de valores e enfrenta forte pressão da rival Anthropic, que ganhou destaque com sua própria ferramenta de IA poderosa, a Mythos.

"A OpenAI está agora correndo atrás do prejuízo; eles estão tentando demonstrar as capacidades de seus próprios sistemas em segurança cibernética."

"Isso nos mostra que a OpenAI não é capaz de implementar sua própria tecnologia com segurança", acrescentou.

Em seu comunicado inicial sobre a invasão, em 16 de julho, a Hugging Face informou que ainda estava avaliando se dados de clientes ou parceiros haviam sido afetados e que entraria em contato com as partes atingidas, se necessário.

A empresa afirmou que já corrigiu as vulnerabilidades apontadas pelo incidente e reconstruiu os sistemas afetados.

"Ferramentas ofensivas autônomas impulsionadas por IA já não são algo teórico", declarou a empresa. "Defender uma plataforma online agora significa tratar os dados e a superfície do modelo como uma superfície de ataque de primeira ordem, e utilizar IA na defesa para acompanhar o ritmo.

O incidente levantou novas questões sobre as capacidades de sistemas avançados de IA e se as salvaguardas existentes são suficientes à medida que a tecnologia se torna mais poderosa.

Spencer Starkey, executivo da empresa de cibersegurança SonicWall, disse à BBC que o episódio deixou claro que as organizações precisam "intensificar" suas defesas e "tratar a resiliência cibernética como uma prioridade operacional fundamental".

"A verdade desconfortável é que muitas organizações ainda se defendem na velocidade humana, enquanto os adversários estão avançando para a velocidade das máquinas", afirmou.

Enquanto isso, Travis Lelle, engenheiro-chefe de segurança da consultoria Guidepoint Security, disse que a atualização marcou um "momento de reflexão na cibersegurança". "Isso evidencia uma assimetria conhecida", disse ele.

"Os agentes ofensivos não têm restrições, enquanto as melhores ferramentas de defesa estão limitadas por mecanismos de controle que não conseguem compreender o contexto."

No entanto, Jake Moore, consultor global de cibersegurança da ESET, observou que o anúncio também poderia ter uma dimensão competitiva.

Ele argumentou que a OpenAI pode estar tentando destacar suas próprias capacidades de IA, uma vez que a rival Anthropic atrai cada vez mais atenção com seu modelo Claude Mythos.

"Isso levanta a questão de se a OpenAI estaria tentando alcançar o sucesso de marketing da Anthropic", disse.

O fato ocorre uma semana após a startup chinesa de IA Moonshot apresentar o Kimi K3 — um novo e gigantesco modelo de inteligência artificial que, segundo a empresa, pode rivalizar com as principais companhias dos EUA.

Há 35 minutos Política Usar reciprocidade ‘pode piorar’ a situação, diz setor de cargasHá 35 minutosBlog do Valdo CruzCiro avisa Flávio que PP e União Brasil ficarão neutros na eleição presidencial

Há 3 minutos Blog do Valdo Cruz Reta final dos mandatosGovernadores e Lula: veja promessas cumpridas ou não após 3 anos e meio

Há 1 hora Promessas dos políticos Lula aprovou isenção do IR, mas não recriou Ministério da SegurançaHá 1 horaDeterminação do ditadorApós ordem de Ortega, Nicarágua inicia plano para acabar com eleições

Há 3 horas Mundo Estrutura liga os 2 paísesCanadá cancela inauguração de ponte com EUA após novo tarifaço de Trump

Há 2 horas Mundo Como nova tarifa contra o Brasil faz parte de estratégia maior de Trump para inimigos (e aliados)Há 2 horasConflito no Oriente MédioTrump vê chegada aos EUA de corpos de militares mortos na guerra do Irã

Há 1 hora Mundo Ataque do Irã na Jordânia pode ter matado militar que está desaparecida, dizem EUAHá 1 hora ‘Ponte ou usina’ serão alvo quando Irã fizer ataque em Ormuz, diz TrumpHá 1 horaEUA investigam se Rússia ajudou o Irã a atacar alvos da CIA no Oriente Médio

Há 18 minutos Mundo Acidente com 62 mortosTragédia da Voepass: 10 perguntas que o relatório final deve esclarecer

Há 4 horas Campinas e Região Luto no cinemaUm dos expoentes do Cinema Novo, Luiz Carlos Barreto morre aos 98 anos