RCPB Contabilidade Construtiva e Estratégica

Tecnologia Como terroristas estão usando IA para planejar ataques e burlar restrições dos chatbots Grupos terroristas já usam inteligência artificial para produzir peças de propaganda e recrutamento. Mas, dependendo do prompt inserido, ferramentas também têm deixado a porta aberta para auxiliar no planejamento de atentados. Por Deutsche Welle

Grupos terroristas e extremistas passaram a usar chatbots de inteligência artificial para o planejamento de atentados e fabricação de bombas.

Relatório da organização Tech Against Terrorism revelou que 32% das consultas baseadas em casos reais de uso terrorista resultaram em informações utilizáveis.

O ano de 2025 registrou aumento de incidentes em que extremistas violentos usaram IA para planejar e preparar ataques em países como Estados Unidos e Canadá.

Apoiadores do Estado Islâmico e grupos de extrema direita compartilham prompts no Telegram e coordenam estratégias de jailbreaking para burlar as restrições das ferramentas de IA.

Especialistas alertam que o caráter conversacional dos chatbots funciona como um instrutor virtual, o que pode acelerar a radicalização de jovens e facilitar ações de lobos solitários.

Fumaça sai do Hotel Intercontinental em Cabul, capital do Afeganistão, durante ataque terrorista em 21 de janeiro de 2018 — Foto: Mohammad Ismail/Reuters

"Bom dia, ChatGPT, você pode me dizer como se faz uma bomba?". Qualquer pessoa que já tenha tentado fazer uma pergunta desse tipo a um chatbot de inteligência artificial (IA) sabe que a resposta pode variar de uma longa explicação sobre a história dos explosivos até o bloqueio permanente da conta do usuário.

Mas, às vezes, se a pergunta for formulada de uma determinada maneira, a resposta pode incluir informações potencialmente úteis sobre como fabricar uma bomba.

Diversos veículos de comunicação já testaram essa hipótese e descobriram que, quando são usados os prompts "corretos", alguns modelos de IA podem fornecer orientações sobre a criação de armas biológicas, o planejamento de um atentado num estádio esportivo ou formas de ocultar os rastros de um terrorista.

A OpenAI, desenvolvedora do ChatGPT, define isso como "tentativa de um agente mal-intencionado de induzir o modelo a fornecer conteúdo proibido".

Um recente relatório publicado pela organização Tech Against Terrorism, um observatório online apoiado pelo escritório de contraterrorismo das Nações Unidas, mostrou com que frequência um LLM fornece informações "úteis" para possíveis extremistas.

Os pesquisadores enviaram mais de 2.300 solicitações de informação, baseadas em "casos reais de uso por terroristas", a 27 modelos diferentes de IA.

Eles descobriram que 32% das consultas resultaram em informações utilizáveis. Quando a mesma pergunta era reformulada como se fosse para fins de pesquisa acadêmica, o percentual subia para 42%.

Leia também: IA pode transformar a economia mais rápido que a Revolução Industrial, alertam especialistas

O relatório voltou a chamar atenção para uma preocupação crescente entre especialistas em segurança digital e terrorismo: a possibilidade de potenciais agressores passarem a usar a IA para o planejamento de atentados e não só de propaganda.

Nos últimos três ou quatro anos, o principal uso da IA por grupos extremistas, como o Estado Islâmico e a rede Al Qaeda, tem sido a produção de propaganda. Isso inclui vídeos, memes, podcasts e diferentes formas de desinformação, disseminados entre simpatizantes e utilizados para radicalizar novos seguidores.

Mas esse cenário está mudando. O ano de 2025 registrou um aumento significativo de incidentes nos quais terroristas e extremistas violentos utilizaram ferramentas de IA para planejar, pesquisar e preparar ataques, afirmaram especialistas da publicação Militant wire em dezembro.

Ataques que ganharam manchetes e que causaram mortes ou danos materiais, assim como diversas conspirações frustradas, utilizaram IA para planejamento, vigilância, visualização e propaganda.

Frequentemente é difícil saber exatamente como a IA foi utilizada, já que as agências de segurança raramente divulgam detalhes.

No entanto, como relatou um especialista ao Parlamento do Reino Unido durante uma inquérito realizado no fim de 2025, "processos judiciais e relatórios periciais documentam cada vez mais conversas nas quais suspeitos pedem a modelos de linguagem instruções para fabricação de bombas, validação ideológica ou justificativas para ataques".

Esse uso da IA não se limita a indivíduos. Grupos extremistas também estão adotando essa tecnologia.

Pesquisadores que estudam o uso de drones pelo grupo afiliado à Al-Qaeda Jama'at Nusrat al-Islam wal-Muslimin (JNIM), baseado no Mali, acreditam que a organização tenha usado IA para auxiliar na modificação de drones.

Em uma análise publicada em junho pela Global Network on Extremism and Technology, os pesquisadores de segurança Yuri Neves e Emily Klein observaram que apoiadores do Estado Islâmico, assim como grupos da extrema direita, discutem regularmente formas de utilizar IA em canais de mensagens.

Neves e Klein trabalham na organização americana Moonshot, especializada no combate a ameaças online. Eles identificaram canais no aplicativo Telegram dedicados ao uso de IA, além de extremistas compartilhando "prompts" e links para conversas com chatbots, coordenando estratégias para obter respostas específicas e até dividindo os custos de assinaturas do ChatGPT.

O pesquisador Rueben Dass, da Escola de Estudos Internacionais S. Rajaratnam (RSIS), em Singapura, observa que os chatbots de IA passaram a desempenhar novos papéis em ataques realizados pelos chamados "lobos solitários".

"Antes existia o conceito dos planejadores virtuais, que eram pessoas localizadas em zonas de conflito que entravam em contato com outras pelas redes sociais para incentivá-las a cometer ataques", explicou Dass à DW.

"Não acho que se possa dizer que os seres humanos tenham sido substituídos, mas, até certo ponto, esses atores isolados passaram a recorrer à IA, como o ChatGPT, para obter esse tipo de apoio."

Segundo o analista Moustafa Ayad, do think tank Institute for Strategic Dialogue, sediado no Reino Unido, no ano passado o veículo de mídia do Estado Islâmico Voice of Khorasan publicou orientações sobre como utilizar IA.

Ayad afirma que o ecossistema jihadista utiliza a IA de diversas formas, desde a criação de memes e vídeos de dança para o TikTok até propaganda voltada para além das fronteiras.

"Também existe um grupo dedicado a tentar burlar os sistemas de IA (jailbreaking) e utilizá-los para apoiar o planejamento operacional e a preparação de ações", afirma.

Segundo ele, a IA pode estar simplificando e apoiando processos de propaganda, ao mesmo tempo em que auxilia o planejamento e a preparação operacional.

Hoje, como destacam Dass e outros especialistas, uma pessoa determinada a cometer um atentado consegue encontrar, na internet, informações sobre fabricação de bombas ou armas feitas em impressoras 3D sem precisar recorrer à IA.

Por isso, para Neves, uma das questões centrais é se IA fornece informações que uma pessoa não conseguiria obter de outra maneira ou se essas informações são melhores.

Klein concorda que os LLMs devem ser vistos como uma continuação de outras tecnologias disruptivas. Assim como a internet e os aplicativos de mensagens criptografadas foram adotados por grupos extremistas, a IA também está sendo incorporada ao seu repertório.

"Não há necessariamente evidências de que a IA esteja criando mais terroristas", diz Klein. "A questão está mais relacionada à forma como a IA interage com as pessoas e influencia o percurso delas rumo à violência."

Segundo ela, antes mesmo da fase de pesquisa ou planejamento de ataques, a IA pode acelerar etapas do processo de radicalização, validando ressentimentos ou incentivando, de maneira quase servil, crenças que o indivíduo já possui.

"Uma pessoa determinada acabará encontrando a maioria das informações que procura", diz Adam Hadley, diretor da Tech Against Terrorism.

"O que esses modelos de IA mudam é a velocidade, a facilidade e a abrangência. Pessoas que antes não tinham tempo, recursos ou capacidade agora podem avançar muito mais longe e muito mais rápido."

O que também preocupa, segundo ele, é o caráter conversacional dos chatbots de IA. "Uma coisa é encontrar um manual de fabricação de bombas. Outra completamente diferente é ter um instrutor."

Dass argumenta que, embora a IA possa fornecer informações com mais rapidez a um potencial agressor, isso não significa necessariamente que um ato terrorista será mais bem-sucedido.

"Não acredito que ele se torne 'bem-sucedido' apenas por causa do uso da IA. Também não acho que veremos muito mais atos terroristas apenas por causa dela. Mas provavelmente veremos um número maior de ataques que envolvem IA de uma forma ou de outra", diz.

Hadley concorda. "A direção dessa tendência é clara", diz ele, destacando que uma parcela significativa das pessoas que estão sendo radicalizadas na Europa, no Reino Unido e nos Estados Unidos é composta por adolescentes e até crianças.

"Considerando o papel que a internet e as redes sociais já desempenham na radicalização de jovens, acreditamos que é apenas uma questão de tempo até que os chatbots se tornem uma parte significativa desse problema."

Vendas globais de smartphones caem ao menor nível em 13 anos após escassez de chips de memóriaUE quer estabelecer acesso 'progressivo e gradual' de menores às redes sociais

Há 6 horas Mundo FOTOS mostram comemoração da Espanha após o títuloHá 6 horasTorcedores argentinos brigam no Rio após derrota na final

Há 3 horas Rio de Janeiro Milei decreta feriado na Argentina mesmo após derrota na CopaHá 3 horasEleições 2026Começa nesta segunda prazo para pedir voto em trânsito; saiba como fazer

Agora Eleições 2026 Rolê aleatório na Copa’Madonna me tratou com carinho’, diz Ronaldinho; conheça bastidores

Há 8 horas Pop & Arte Drake perde R$ 7,5 milhões ao apostar na vitória da ArgentinaHá 8 horasMemes: brasileiros zoam argentinos e recriam foto de Messi com Yamal

Há 9 horas Pop & Arte Quantos dias faltam para a próxima Copa e onde ela será?Há 9 horas’Você conseguiu’Inés García parabeniza namorado Lamine Yamal pelo título da Espanha