A União Europeia afirma que seu marco legal permite responder aos riscos dos agentes de IA, que ganham capacidades mais avançadas. Henna Virkkunen, responsável pela pasta de tecnologia do bloco, disse que as regras permitem acompanhar os modelos durante todo o ciclo de vida. Além disso, o sistema prevê avaliações de riscos que podem mudar após o lançamento. A abordagem busca identificar problemas conforme as ferramentas recebem novas funções e maior autonomia.

A declaração ocorre em meio ao debate internacional sobre sistemas autônomos. Esses sistemas podem executar tarefas de maneiras difíceis de antecipar. Nesse contexto, autoridades discutem como limitar eventuais falhas sem impedir o avanço tecnológico.

Em entrevista à Reuters, Virkkunen afirmou que a Europa está bem equipada para enfrentar riscos de segurança dos modelos mais avançados. A posição representa o entendimento do Executivo europeu. No entanto, a existência de regras não garante que as autoridades consigam evitar todas as ocorrências.

Lei de IA amplia supervisão sobre modelos avançados

A Lei de IA europeia classifica os usos da tecnologia conforme o nível de risco. A norma também estabelece exigências adicionais para fornecedores de modelos de finalidade geral com risco sistêmico. Entre as obrigações estão testes, identificação e redução de riscos, comunicação de incidentes graves e medidas de cibersegurança. Dessa forma, a União Europeia pretende manter a supervisão mesmo depois que uma ferramenta chega ao mercado.

A legislação também exige documentação técnica e transparência sobre o conteúdo usado no treinamento desses modelos. Por sua vez, essas obrigações procuram evitar que as empresas encerrem o trabalho de segurança após o lançamento. Assim, o acompanhamento abrange tanto o desenvolvimento quanto o comportamento posterior do sistema.

Um modelo pode chegar a novas aplicações, conectar-se a serviços externos ou ganhar mais autonomia para executar tarefas. Cada alteração pode mudar a forma como seus riscos aparecem. Por isso, a União Europeia pretende acompanhar os modelos em diferentes etapas de uso.

Comissão prepara orientações para testes

Virkkunen explicou que os reguladores preparam orientações para ajudar as empresas a avaliar seus modelos. As diretrizes também devem indicar quanto tempo os fornecedores precisam dedicar aos testes. Enquanto isso, a Comissão Europeia considera recomendações de um painel formado por 60 especialistas independentes em inteligência artificial. O trabalho deve apoiar a definição de critérios técnicos para as avaliações.

A participação dos especialistas amplia a capacidade de assessoramento da Comissão. Contudo, a eficácia da fiscalização dependerá do acesso a informações, de critérios claros e de acompanhamento contínuo. No fim de agosto, Bruxelas pediu a mais de 30 empresas detalhes sobre suas medidas de segurança e proteção.

Depois, a Comissão apresentou perguntas adicionais sobre transparência e direitos autorais. O órgão não divulgou os nomes das companhias consultadas. Virkkunen informou que a equipe analisa as respostas e confirmou o envio de pedidos a desenvolvedores chineses.

Aplicação das regras será o teste decisivo

Os modelos mais avançados vêm principalmente dos Estados Unidos e da China. Ainda assim, um pedido de informações não representa automaticamente uma infração ou sanção. A solicitação pode iniciar um processo de supervisão. Caso a autoridade identifique descumprimentos, o procedimento pode resultar em investigações e medidas corretivas.

Empresas criticam a Lei de IA por considerá-la desatualizada. Em contrapartida, Virkkunen afirmou que os autores da norma anteciparam a necessidade de revisar riscos e recorrer a avaliadores externos. Segundo ela, o texto também contempla o monitoramento contínuo dos modelos. O debate permanece aberto, pois as capacidades dos agentes de IA evoluem rapidamente.

Agora, a qualidade dos testes e relatórios apresentados pelos fornecedores servirá como um indicador da eficácia das regras. A resposta da Comissão a alertas verificáveis também será determinante. Para usuários e empresas europeias, a promessa regulatória dependerá de sistemas que permitam inspeções e correções em tempo adequado.

	Receba nossas últimas notícias em primeira mão.   Adicione-nos como sua fonte preferida no Google    e toque em “Favorito” para priorizar nossas atualizações.