Agentes de IA ainda não realizam ciberataques sozinhos, mas estão quase lá

Segundo relatório internacional com mais de 100 especialistas, sistemas de inteligência artificial já auxiliam cibercriminosos em várias etapas de ataques, mas ainda dependem de intervenção humana para operações complexas.

O segundo Relatório Internacional de Segurança da IA trouxe uma conclusão preocupante: embora os agentes de inteligência artificial ainda não sejam capazes de conduzir ataques cibernéticos de forma autônoma, essa realidade pode mudar em breve. A pesquisa, comandada pelo cientista canadense Yoshua Bengio, contou com análises de mais de 100 especialistas de 30 países diferentes.

IA já auxilia em diversas etapas de ataques

De acordo com o documento, os sistemas de IA evoluíram significativamente em comparação ao ano anterior, aumentando a capacidade de automatizar e conduzir ataques virtuais mais rapidamente. Os cibercriminosos utilizam a tecnologia principalmente para escanear softwares em busca de vulnerabilidades e na escrita de código malicioso.

Um dos exemplos mais marcantes ocorreu em novembro, quando a Anthropic revelou que espiões chineses abusaram da ferramenta Claude Code AI para automatizar ataques em aproximadamente 30 empresas de alto perfil e organizações governamentais, com alguns resultados bem-sucedidos.

Ferramentas especializadas em circulação

Outra amostra dessas capacidades foi vista no Desafio Cibernético de IA da DARPA (AIxCC), competição que envolve duas equipes montando modelos de IA para buscar vulnerabilidades em softwares de código aberto. Os sistemas finalists identificaram, de maneira autônoma, 77% das vulnerabilidades sintéticas usadas na rodada final.

Em fóruns clandestinos, atacantes têm relatado o uso da HexStrike AI, uma ferramenta de código aberto, para infectar dispositivos Citrix NetScaler em poucas horas após a divulgação de problemas de segurança. Com a melhoria na escrita de códigos maliciosos, hackers passaram a vender ransomware-as-a-service por valores acessíveis, como R$ 260 por mês.

Limitações atuais e riscos futuros

O relatório aponta, no entanto, que os agentes de IA ainda não conseguem realizar ataques com vários estágios por conta própria. Os sistemas travam facilmente em erros simples quando não há intervenção humana, apresentando falhas como comandos irrelevantes e perda do estado operacional.

Mesmo assim, os pesquisadores alertam que o próprio documento foi escrito antes do incidente envolvendo o OpenClaw, agente de IA anteriormente conhecido como MoltBot e Clawdbot, além do Moltbook, uma espécie de plataforma de mídia social para agentes de IA criados com vibe-coding.

“É uma questão de tempo”

Segundo o relatório, é apenas uma questão de tempo até que a inteligência artificial, por si só, consiga realizar ataques do começo ao fim. A grande preocupação agora é se a sociedade estará preparada para lidar com essa realidade quando ela se tornar concreta.

Os especialistas enfatizam que, embora os sistemas atuais ainda dependam de supervisão humana para operações complexas, a velocidade com que a tecnologia avança exige atenção imediata de empresas, governos e organizações de segurança.

Referências

• Agentes de IA ainda não realizam ciberataques sozinhos, mas estão quase lá – Canaltech