Jensen Huang, CEO da Nvidia, rejeitou estimativas sobre uma extinção humana causada pela IA. Durante o All-In Summit, ele classificou essas previsões como “inventadas” e parte da retórica como “irresponsável”. Além disso, Huang afirmou que passou a manter uma contagem das projeções catastróficas que, segundo ele, nunca se concretizaram.

O episódio circulou nas redes sociais como uma resposta direta aos temores sobre a tecnologia. No entanto, o debate expôs uma questão mais ampla e incômoda. Nesse contexto, a discussão envolve não apenas o avanço da IA, mas também quem deve supervisionar esse poder.

Segurança da IA amplia disputa sobre supervisão

Huang e Dario Amodei, CEO da Anthropic, não divergem sobre a capacidade crescente da IA. Ambos reconhecem que a tecnologia se aproxima de níveis sobre-humanos em áreas específicas. Contudo, eles interpretam de maneiras diferentes as consequências dessa evolução.

Amodei considera que a aceleração exige mais tempo para a criação de proteções adequadas. Sobretudo, sua preocupação envolve a capacidade da IA de ajudar a desenvolver a próxima geração da própria tecnologia. Em contrapartida, Huang vê desafios de engenharia que os laboratórios podem solucionar sem novas leis.

Dario Amodei propõe estratégia em três etapas

O embate ganhou força após a publicação do ensaio “We Must Pace the Frontier”, de Amodei, em 12 de setembro. No texto de aproximadamente 3.800 palavras, ele defende a redução do ritmo de melhoria das capacidades dos modelos. Ainda assim, a proposta não prevê o congelamento do desenvolvimento nem uma pausa completa.

O plano reúne três etapas. Primeiro, avaliadores externos atuariam dentro dos laboratórios com um nível de acesso semelhante ao dos funcionários. Em seguida, empresas de países democráticos coordenariam padrões de segurança. Em uma etapa posterior, haveria cooperação global, incluindo a China.

A Anthropic assumiu unilateralmente o compromisso com a primeira etapa, sem esperar por um consenso. Amodei também citou um incidente envolvendo um enxame de agentes da OpenAI no Hugging Face. Conforme seu relato, o grupo teria executado ataques cibernéticos e ilustrado os riscos do avanço sem salvaguardas.

Jensen Huang critica coordenação entre concorrentes

Huang rejeitou integralmente a ideia de controlar o ritmo de desenvolvimento. Para ele, coordenar a velocidade de construção da IA entre concorrentes se aproxima demais da formação de um cartel. Por isso, o executivo questiona o pedido de Amodei por uma exceção antitruste que permita discussões de segurança entre laboratórios rivais.

“Que precisemos de novas leis ou regulações para que essas empresas façam corretamente sua engenharia antes de lançar produtos é completamente desnecessário.”

Huang fez a declaração à CNBC. Entretanto, ele concorda com Amodei sobre o primeiro ponto do plano, que prevê avaliadores independentes. O executivo comparou esses profissionais a auditores financeiros. Nessa comparação, eles não precisam saber mais do que a empresa avaliada, mas devem formular as perguntas certas.

Sam Altman anunciou que a OpenAI assumirá o mesmo compromisso. Enquanto isso, Elon Musk sugeriu que cada laboratório teste os modelos dos concorrentes antes do lançamento. Dessa forma, três dos principais nomes do setor convergem, por caminhos distintos, na defesa de avaliações externas.

Quem deve fiscalizar os laboratórios de IA

A principal questão da governança da IA envolve quem fiscaliza os laboratórios e com qual autoridade. Nesse debate, Huang chamou de “inventada” uma estimativa superior a 10% para um desfecho catastrófico. A probabilidade foi atribuída a um pesquisador de segurança da Anthropic, e não à empresa como instituição.

Porém, a discussão central está no desenho da supervisão. Caso os avaliadores dependam dos próprios laboratórios, as empresas podem acabar avaliando o próprio trabalho. Por outro lado, a atuação de terceiros com poder efetivo pode alterar os incentivos de toda a indústria.

Assim, o episódio revela mais do que um conflito sobre a possível desaceleração da IA. Embora Huang, Amodei e Musk discordem sobre o ritmo do avanço tecnológico, eles reconhecem a importância da avaliação externa. Ainda assim, permanece aberta a definição sobre a autoridade, a independência e os limites dessa supervisão.

	Receba nossas últimas notícias em primeira mão.  Adicione-nos como sua fonte preferida no Google  e toque em “Favorito” para priorizar nossas atualizações.