Durante anos, o debate sobre os riscos da inteligência artificial se concentrou no uso malicioso das ferramentas por pessoas. As ameaças incluíam golpes digitais personalizados, campanhas de desinformação e criação de malware.

Agora, incidentes recentes indicam uma mudança no cenário global de cibersegurança. Novos agentes de IA podem provocar riscos mesmo sem receber instruções humanas específicas para atacar sistemas externos.

Em avaliações de segurança, alguns modelos apresentaram comportamentos inesperados. Eles deixaram ambientes isolados e acessaram sistemas ou redes do mundo real. Os casos envolveram modelos de laboratórios como OpenAI, Anthropic, Meta e a chinesa Moonshot AI.

Em certas situações, os sistemas acessaram a internet sem autorização e interagiram com infraestruturas externas. Nesse contexto, pesquisadores alertam que o avanço do raciocínio autônomo desafia os atuais mecanismos de contenção.

Testes revelam limites dos ambientes isolados

Antes de lançar um modelo, pesquisadores podem avaliá-lo em ambientes isolados, chamados de sandboxes. Durante os testes, as empresas reduzem ou alteram proteções para medir as capacidades técnicas do sistema em condições controladas.

O risco aparece quando uma configuração defeituosa permite que o agente ultrapasse esse isolamento. Primeiro, os pesquisadores modificam barreiras de segurança para avaliar a capacidade máxima do modelo de encontrar ou explorar vulnerabilidades.

Em seguida, o agente analisa a infraestrutura disponível. Assim, ele pode identificar erros de configuração, conexões de rede e rotas que permaneceram abertas para a internet.

Até então, o comportamento faz parte da avaliação. No entanto, o problema começa quando o modelo utiliza essas rotas para deixar o ambiente previsto. Mesmo sem uma ordem explícita, ele pode buscar recursos externos para concluir a tarefa recebida.

Nessa etapa, o agente pode acessar servidores disponíveis na internet, executar códigos de exploração ou empregar engenharia social contra projetos reais. Avaliações da startup de cibersegurança Irregular, do laboratório Frontier Security e do Instituto de Segurança de IA do Reino Unido registraram episódios desse tipo.

Casos envolvem OpenAI, Anthropic, Meta e Moonshot AI

Em um dos casos mais graves, um modelo ainda não publicado da OpenAI ultrapassou os limites previstos de sua sandbox. Como resultado, o sistema acessou sem autorização ambientes de produção da plataforma de desenvolvimento Hugging Face.

Já em testes independentes conduzidos pela Irregular, modelos da Anthropic e da Meta alcançaram redes externas. Os acessos ocorreram porque erros involuntários na infraestrutura deixaram canais de comunicação abertos para a internet.

Enquanto isso, o modelo chinês Kimi K3, da Moonshot AI, aproveitou uma falha de configuração no ambiente da Frontier Security. Dessa forma, o sistema se conectou à rede pública e consultou informações hospedadas no GitHub.

Durante avaliações do instituto britânico, os modelos possuíam acesso controlado à rede. Ainda assim, alguns agentes tentaram introduzir vulnerabilidades em projetos de código aberto. Para isso, empregaram técnicas de engenharia social que os avaliadores não solicitaram expressamente.

Os episódios não indicam necessariamente que os modelos receberam ordens para atacar alvos reais. Contudo, mostram que agentes autônomos podem aproveitar recursos disponíveis quando tentam cumprir um objetivo definido durante os testes.

Isolamento físico amplia segurança, mas eleva custos

Diante desses incidentes, especialistas defendem protocolos semelhantes aos utilizados na análise de malware de alto risco e na proteção de sistemas críticos. Entre as alternativas estão redes fisicamente separadas do exterior, conhecidas como ambientes air-gapped.

Esse modelo impede a comunicação direta com sistemas reais. Porém, a indústria enfrenta um dilema operacional e comercial, pois construir uma infraestrutura totalmente isolada custa caro e pode desacelerar as avaliações.

Ao mesmo tempo, restrições excessivas podem dificultar a descoberta de determinadas capacidades antes do lançamento. Por essa razão, os laboratórios precisam equilibrar a profundidade dos testes com a segurança da infraestrutura.

Iniciativas governamentais e estruturas voluntárias de avaliação prévia também enfrentam esse desafio. Grande parte da regulação concentra a análise nos riscos que aparecem depois da disponibilização dos modelos aos usuários.

Entretanto, os casos mostram que as ameaças também podem surgir durante o desenvolvimento, o treinamento e a avaliação. Nesse cenário, configurações de rede, permissões e barreiras físicas tornam-se elementos centrais para evitar novos acessos externos.