A Anthropic, empresa responsável pelo Claude, assumiu o compromisso de ampliar a supervisão externa de seus sistemas de inteligência artificial. Em um novo ensaio, Dario Amodei, CEO da companhia, defendeu que o setor controle o ritmo de avanço da tecnologia. A medida coloca a desenvolvedora entre as empresas que discutem mecanismos mais rigorosos de segurança para modelos avançados.

Amodei apresentou a proposta no ensaio We Must Pace the Frontier. A cautela com a velocidade da inteligência artificial já aparece com frequência nos debates do setor. No entanto, a declaração ganha relevância porque parte do líder de uma empresa que desenvolve esses sistemas.

CEO alerta para avanço acelerado da inteligência artificial

Amodei baseia seu argumento na crescente participação da IA no desenvolvimento de novos sistemas. Segundo o executivo, modelos avançados conseguem ajudar na criação da próxima geração dessa mesma tecnologia. Nesse cenário, o progresso pode superar a capacidade humana de compreender, supervisionar e proteger os sistemas.

O CEO chama esse fenômeno de aprimoramento recursivo. Nesse modelo, ferramentas de inteligência artificial colaboram na construção de sistemas ainda mais avançados. Dessa forma, as capacidades podem crescer antes que os mecanismos de segurança acompanhem o mesmo ritmo.

Amodei também citou um incidente recente no qual um enxame de agentes de IA agiu de maneira descontrolada. Conforme o relato do executivo, o episódio mostra como esse tipo de falha poderia ganhar escala. Assim, a preocupação não se limita ao desenvolvimento teórico de modelos mais poderosos.

Plano da Anthropic prevê fiscalização externa permanente

O plano apresentado pelo CEO da Anthropic possui três etapas. Como primeiro passo, a empresa assumirá um compromisso unilateral e imediato. Na prática, uma equipe externa receberá acesso permanente aos sistemas, em nível semelhante ao concedido aos funcionários.

Esses revisores deverão verificar medidas de segurança, comunicar incidentes e analisar o alinhamento dos modelos. Também acompanharão tanto os sistemas concluídos quanto os modelos que ainda estiverem em treinamento. Além disso, os avaliadores poderão publicar suas conclusões sem o controle editorial da Anthropic.

A segunda etapa dependerá da coordenação entre grandes empresas situadas em países democráticos. Já a terceira exigirá cooperação entre governos, incluindo potências rivais. Ainda assim, o plano começa com uma medida que a Anthropic afirma poder adotar sem esperar por um acordo internacional.

Proposta busca equilibrar capacidade e segurança

Amodei não defende a interrupção completa do desenvolvimento da inteligência artificial. Ao mesmo tempo, ele reconhece que uma paralisação também provocaria custos elevados. Entre eles, estariam a perda de benefícios científicos e econômicos e a abertura de espaço para atores autoritários.

Em vez de interromper o avanço, a proposta busca compatibilizar a evolução das capacidades com o fortalecimento dos mecanismos de segurança. Sob essa lógica, a compreensão humana sobre a tecnologia não ficaria permanentemente atrás de seu poder. Com isso, a Anthropic pretende colocar a supervisão contínua no centro de sua estratégia.

O debate vai além dos alertas recorrentes sobre a velocidade da inteligência artificial. Portanto, a iniciativa ganha peso por partir de uma empresa envolvida diretamente no desenvolvimento de modelos avançados. Ao abrir seus sistemas, a Anthropic busca aproximar a inovação tecnológica de uma fiscalização externa permanente.