RCPB Contabilidade Construtiva e Estratégica

Tecnologia IA da OpenAI furou testes e atacou outra empresa: ela se tornou poderosa demais para ser controlada? Episódio reacende debate sobre a segurança de sistemas de inteligência artificial após agentes acessarem a internet e atacarem, de forma autônoma, uma plataforma externa. Por France Presse

Logotipo da OpenAI em um celular diante de uma imagem gerada pelo DALL·E, ferramenta de criação de imagens do ChatGPT. — Foto: Michael Dwyer/AP

O ciberataque perpetrado de maneira autônoma por dois agentes de inteligência artificial da OpenAI levantou dúvidas sobre como os modelos de IA mais poderosos serão controlados.

O teste da OpenAI, em um ambiente fechado, buscava avaliar as habilidades de seu modelo "mais avançado", GPT-5.6 Sol, e seu sucessor, ainda não comercializado, uma avaliação que a startup americana costuma aplicar às suas IAs.

Os agentes conseguiram se conectar à internet e lançaram um ataque à plataforma Hugging Face, um repositório de modelos de IA.

"Eles entendiam que a OpenAI não queria que saíssem de seu ambiente de testes e invadissem outra empresa, mas mesmo assim fizeram isso", disse Jeffrey Ladish, diretor da Palisade Research, uma organização independente que avalia os novos modelos em termos de cibersegurança.

"Quase parecia que eles fizeram isso antes mesmo de ter um plano sobre o que fazer com o acesso à internet", segundo Ladish.

Em março, um grupo de desenvolvedores afiliados à empresa chinesa Alibaba descobriu que um de seus modelos tentava, por conta própria, criar uma criptomoeda após se conectar, sem autorização, a um servido externo.

Em abril, Sam Bowman, responsável pela segurança na Anthropic, recebeu um e-mail do modelo Mythos, que estava sendo testado. Ele informou que estava navegando na internet apesar de, inicialmente, estar isolado.

Os modelos, advertiu Ladish, "buscam liberdade para cumprir com seus objetivos de maneira mais efetiva. E isso dá muito medo".

O relatório de eventos publicados pela OpenAI sugere que a startup não detectou a situação suficientemente cedo para solucioná-la em tempo real ou alertar a Hugging Face. Questionada sobre o assunto pela AFP, a empresa não respondeu.

Desde os ataques hackers, a OpenAI disse que "implementou proteções mais fortes" para suas próximas avaliações.

Para Gang Wang, professor de Ciência da Computação na Universidade de Illinois, ainda é possível impedir que um modelo se conecte à internet cortando fisicamente o acesso. O problema, disse, é que "as pessoas subestimam a IA".

Garantir o ambiente "é algo que devemos prestar mais atenção (…) como se faz com os acidentes de laboratório" que liberam vírus ou bactérias, advertiu Andrew Lohn, do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown.

Porém, para Dan Lahav, diretor executivo da Irregular – uma empresa de cibersegurança dedicada à IA de ponta -, realizar simulações em um ambiente completamente isolado "é um desafio de pesquisa muito difícil".

"É possível aplicar medidas de mitigação, mas devido à forma como a tecnologia está construída, quanto mais se tenta dar liberdade e autonomia para realizar tarefas mais sofisticadas, será mais difícil supervisioná-la", explicou Lahav sobre as salvaguardas nos testes.

O incidente da OpenAI sem dúvida impulsionará o atual debate no governo dos Estados Unidos sobre se deve inspecionar os modelos mais avançados de IA antes de seu lançamento.

O governo de Donald Trump obrigou a Anthropic a suspender dois de seus modelos e a OpenAI a submeter seus desenvolvimentos a testes antes de comercializá-los.

Na quinta-feira (23), dois congressistas americanos, um republicano e outro democrata, apresentaram um projeto de lei que obrigaria os gigantes de IA a contar com um "interruptor de desligamento" ("kill switch") que permita desativar seus sistemas caso representem um risco grave.

Há 1 hora Agronegócios EUA poupam café e carne do Brasil de tarifaço por causa da crise no agroHá 1 horaOnda de calorDesalojados pelos incêndios perto de Madri temem um ‘desastre’ natural

Há 4 horas Meio Ambiente Mais de 300 mil deixam suas casas na França e EspanhaHá 4 horasCom Bolsonaro feito por IA e vídeo de Michelle, PL lança candidatura de Flávio à Presidência

Há 19 horas Eleições 2026 SADI: Família pesou na decisão de trégua entre madrasta e enteado Há 19 horasConvenção do PLPresidente do STF diz que fala de Milei sobre Moraes é ‘desrespeitosa’ e ‘incompatível com a civilidade’

Há 3 horas Política Milei faz discurso contra ‘socialismo’ e chama ministro do Supremo de ‘lixo careca’Há 3 horasViagem de diplomatas americanosAcusações sobre visita ao Brasil são ‘mentira sem fundamento’, diz porta-voz dos EUA

Há 10 horas Mundo Itamaraty nega visto a funcionários dos EUA que iriam questionar urnas no BrasilHá 10 horasJornal revelou plano de Trump para questionar o sistema eleitoral brasileiroHá 10 horasAcidente deixou 62 mortosVoepass fingia consertar aviões para burlar prazo de segurança

Há 46 minutos Campinas e Região Caos em SP’Não tem como ficar lá’: aposentados dormem no carro após árvore cair e destruir casa

Há 33 minutos Ribeirão Preto e Franca Temporal no interior de SP deixa 80 mil sem luz após ventos de 120 km/hHá 33 minutosInstabilidade e frente friaTemporais voltam a atingir o RS com previsão de granizo e vento de 90 km/h

Há 8 horas Rio Grande do Sul Cheia leva sedimentos ao Guaíba e alaga cidades na fronteira Há 8 horasRegião em disputaNavio afunda no Mar da China Meridional e 23 seguem desaparecidos