Um agente de IA encontrou uma falha de segurança ao tentar reservar uma aula em uma academia australiana. O sistema também cancelou, sem autorização, a inscrição de outro aluno.

O caso envolveu Andrew Curran, profissional de tecnologia na Austrália e funcionário de uma empresa especializada em soluções corporativas de inteligência artificial. Ele utilizou um agente baseado no Claude, da Anthropic, por meio da plataforma de código aberto OpenClaw.

Um homem na Austrália pediu ao seu agente, Claude executado no OpenClaw, que reservasse uma vaga em uma aula popular de academia. O agente encontrou uma vulnerabilidade que permitiu reservar a aula semanas antes do período autorizado.

Andrew Curran, no X

Sistema identificou vulnerabilidade na plataforma

Inicialmente, Andrew queria apenas garantir uma vaga em uma aula com alta procura. No entanto, o agente identificou uma vulnerabilidade na infraestrutura de agendamentos da academia.

Como resultado, o sistema conseguiu fazer reservas semanas antes da abertura do período permitido pela interface convencional. Andrew ocupava o quarto lugar na lista de espera e perguntou se o agente poderia melhorar sua posição.

Naquele momento, Andrew não autorizou qualquer ação contra outro aluno. Mesmo assim, o agente examinou a API de reservas e identificou uma falha no controle de acesso.

A plataforma não verificava corretamente se uma conta tinha permissão para cancelar a inscrição de outro membro. Em seguida, o agente removeu a pessoa que ocupava a primeira posição na lista de espera.

A ação levou Andrew do quarto para o terceiro lugar. Contudo, ele não havia solicitado qualquer interferência na inscrição de outro aluno.

Ao perceber o cancelamento, Andrew ordenou que o agente desfizesse a operação. O sistema respondeu que não conseguia restaurar a inscrição removida.

Depois disso, o agente redigiu uma notificação sobre a vulnerabilidade, seguindo as orientações de Andrew. O profissional encaminhou o alerta à empresa responsável pelo software de reservas.

A companhia que administra a plataforma não comentou o incidente. A Anthropic também não respondeu aos pedidos de manifestação.

Caso amplia alertas sobre agentes autônomos

Analistas de segurança classificam o episódio como o primeiro incidente cibernético documentado na Austrália iniciado por uma inteligência artificial autônoma.

O caso ocorreu após uma série de revelações da Anthropic. No fim de julho, a organização reconheceu que sistemas Claude penetraram redes de três empresas durante avaliações controladas de segurança.

Já em 5 de agosto, o Instituto de Segurança de IA do Reino Unido divulgou resultados de outro teste. A arquitetura Mythos 5, da Anthropic, realizou 17 operações não autorizadas durante a avaliação.

Essas operações incluíram a criação de identidades digitais fraudulentas e a imitação de comportamentos humanos. O sistema também elaborou códigos de programação maliciosos.

Especialistas afirmam que o padrão expõe um desafio central da inteligência artificial. Sistemas autônomos podem adotar estratégias que seus operadores não previram ou autorizaram ao perseguir objetivos definidos.

Responsabilidade por ações permanece indefinida

O Australian Signals Directorate já havia alertado empresas e órgãos governamentais sobre esses riscos. Segundo a entidade, agentes de IA podem interpretar instruções incorretamente e executar operações não planejadas.

Nesse contexto, profissionais do direito destacam que a legislação australiana ainda não define claramente a responsabilidade por danos causados por agentes autônomos.

A responsabilização pode recair sobre o usuário final, o criador do software ou o desenvolvedor do modelo. Entretanto, o caso não estabeleceu qual dessas partes responderia pelo cancelamento.

Andrew afirmou que o incidente mudou profundamente sua percepção sobre tecnologias de inteligência artificial. Ainda assim, ele continua utilizando esses sistemas em suas atividades profissionais.