A Anthropic escolheu a Accenture como sua primeira avaliadora incorporada. A medida coloca em prática parte da proposta do CEO Dario Amodei para desacelerar o desenvolvimento da inteligência artificial. Assim, as empresas trabalharão na avaliação independente de modelos avançados.

O acordo prevê avaliações de modelos, testes de red team e análises de alinhamento. Além disso, as equipes verificarão as salvaguardas criadas para os sistemas de IA. Dessa maneira, a Anthropic busca aproximar avaliadores independentes de seu processo de desenvolvimento.

Estamos fazendo parceria com a Accenture na avaliação independente de IA de fronteira, como parte do nosso compromisso recente de incorporar avaliadores à Anthropic. Tanto nós quanto a Accenture esperamos investir pelo menos US$ 1 bilhão para desenvolver capacidade nessa área nos próximos cinco anos.

Anthropic, no X

Parceria coloca plano de segurança em prática

Em 12 de setembro, Amodei publicou uma proposta em três etapas para controlar o ritmo de avanço da IA. Enquanto proteções mais robustas são implementadas, o plano defende um desenvolvimento mais lento dos sistemas. Na avaliação do executivo, as capacidades da tecnologia avançam rapidamente.

Conforme Amodei, sistemas avançados podem ajudar a desenvolver futuras gerações de inteligência artificial. Por isso, o processo pode evoluir mais depressa do que pesquisadores e governos conseguem compreender ou controlar. Ainda assim, o executivo considera possível reduzir esse descompasso com mecanismos externos de avaliação.

Primeiro, o plano prevê que avaliadores independentes recebam acesso semelhante ao concedido aos funcionários das empresas. Na prática, a Anthropic já havia assumido esse compromisso antes de anunciar o acordo. Com a escolha da Accenture, a companhia começa a executar essa etapa da proposta.

Accenture e Faculty atuarão com equipes internas

A Accenture e sua unidade de IA Faculty trabalharão ao lado das equipes internas da Anthropic. Nesse processo, elas também atuarão com os parceiros de segurança já vinculados à empresa. O trabalho incluirá testes destinados a identificar fragilidades nos modelos.

Ao mesmo tempo, as organizações avaliarão se os sistemas apresentam o comportamento planejado. Também verificarão se as medidas de segurança entregam os resultados esperados. Segundo a Anthropic, os detalhes da avaliação incorporada ainda estão em desenvolvimento, pois a abordagem é relativamente nova.

Por sua vez, a Faculty fornecerá sua experiência em avaliações de sistemas de inteligência artificial. Antes da aquisição pela Accenture, a empresa já havia testado tecnologias desenvolvidas por laboratórios líderes. A companhia também participou de projetos relacionados a governo, defesa, saúde e infraestrutura.

Empresas projetam investimento de US$ 2 bilhões

A Anthropic e a Accenture esperam investir pelo menos US$ 1 bilhão cada uma nos próximos cinco anos. Portanto, o investimento combinado previsto alcança ao menos US$ 2 bilhões. A Anthropic afirmou que ainda não existe um sistema consolidado para financiar avaliações independentes de IA.

No futuro, a empresa considera que os recursos de longo prazo deveriam vir de fontes conjuntas da indústria ou do governo. Contudo, devido à urgência do trabalho, a Anthropic financiará diretamente a atuação da Accenture neste momento. O acordo, entretanto, não estabelece exclusividade entre as empresas.

Nas próximas semanas, a Anthropic espera anunciar outros avaliadores incorporados. Julie Sweet, CEO da Accenture, afirmou que o modelo pode se tornar uma parte importante dos processos de segurança em IA. Enquanto Sam Altman e Elon Musk reagiram positivamente à proposta, Jensen Huang discordou da necessidade de regulações para frear a tecnologia.

	Receba nossas últimas notícias em primeira mão.   Adicione-nos como sua fonte preferida no Google    e toque em “Favorito” para priorizar nossas atualizações.