Invasores trocam modelo DeepSeek por 53 horas

•

A Prime Intellect informou que invasores trocaram, sem autorização, um modelo hospedado do DeepSeek por uma cópia modificada. A alteração atingiu uma implantação do DeepSeek V4.1 Flash durante 53 horas e 11 minutos. Embora o substituto tenha mantido o desempenho em dois testes de capacidade, suas proteções de segurança praticamente desapareceram.

Segundo a empresa, a versão adulterada processou solicitações de clientes entre 01h24 UTC de 8 de novembro e 06h35 UTC de 10 de novembro. No entanto, a companhia não informou quantas requisições chegaram à implantação afetada. A Prime Intellect divulgou o incidente em 19 de novembro.

Os invasores usaram pesos modificados e disponíveis publicamente para reduzir as recusas do modelo. Esses pesos são configurações numéricas que orientam o conteúdo gerado por uma inteligência artificial. Ainda assim, a substituição ocorreu por trás do endpoint DeepSeek V4.1 Flash.

Testes do DeepSeek revelam queda nas recusas

A implantação afetada preservou o modelo de chat, as configurações de serviço e o tokenizador original. Esse componente divide o texto em partes processadas pelo sistema. Desse modo, os clientes que acessaram o endpoint não receberam sinais visíveis da troca.

Nos testes com os pesos modificados, a Prime Intellect registrou resultados inalterados no GPQA Diamond e no tau-bench. O primeiro avalia perguntas avançadas de ciência. Já o segundo mede se agentes usam ferramentas e seguem regras em interações simuladas com clientes.

Em contrapartida, os testes de segurança revelaram uma mudança expressiva. No HarmBench, as recusas caíram de 198 em 240 comandos para zero. Esse benchmark avalia como os modelos respondem a tentativas de induzir conteúdo prejudicial.

Recusas caíram, enquanto testes de capacidade permaneceram estáveis

A comparação considera o DeepSeek V4.1 Flash original e a cópia que respondeu solicitações durante 53 horas.

Fonte: Consultoria de segurança da Prime Intellect

 

Além disso, o JailbreakBench registrou queda de 98 recusas em 100 comandos para apenas uma. No StrongREJECT, o total recuou de 304 recusas em 313 comandos para duas. Porém, esses números representam testes de benchmark, não respostas enviadas aos clientes.

Empresa notifica clientes e mantém investigação aberta

A Prime Intellect afirmou que contatou todos os clientes afetados. Em seguida, recomendou que usuários dependentes das recusas revisassem as respostas recebidas durante o incidente. Dessa forma, aplicações que esperavam uma negativa podem ter processado uma resposta do modelo substituto.

Durante a investigação, a companhia examinou discos e memórias das máquinas envolvidas no ataque. Também revisou versões recuperadas do proxy usado pelo invasor e registros das atividades. Contudo, a análise não encontrou evidências de que comandos ou respostas de clientes tenham saído do cluster de serviço. A empresa também não identificou indícios de gravação desses dados.

A Prime Intellect declarou que nenhum outro modelo da plataforma sofreu modificações. Além disso, a empresa não identificou comprometimento de chaves ou credenciais de clientes. Mesmo assim, a investigação permanece aberta.

Google Notícias

Receba nossas últimas notícias em primeira mão.   Adicione-nos como sua fonte preferida no Google    e toque em “Favorito” para priorizar nossas atualizações.