O Papa Leão XIV pediu que governos e empresas levem a sério os alertas de especialistas sobre a segurança da inteligência artificial. Durante uma coletiva de imprensa no avião que retornava da França, ele afirmou que essas preocupações não são “fake news”. Assim, o pontífice defendeu debate e ação diante dos possíveis riscos.

Segurança da inteligência artificial exige debate

Leão XIV esclareceu que não está em “modo pânico”. No entanto, sustentou que ninguém pode garantir a impossibilidade de um cenário perigoso e encerrar o debate com essa certeza. Entre prever uma catástrofe e ignorar o risco, há espaço para testar sistemas e definir responsabilidades. Por isso, o pontífice colocou a segurança no centro da discussão sobre o desenvolvimento tecnológico.

A declaração ocorre durante uma corrida entre Estados Unidos e China para ampliar suas capacidades de IA. Para Donald Trump, preservar a liderança dos Estados Unidos representa uma prioridade. Já Leão XIV considera que a velocidade dessa disputa não responde, por si só, às questões de segurança.

Alertas não representam fatos confirmados

Advertências sobre riscos futuros não equivalem a fatos já confirmados. Quando um especialista descreve as possíveis ações de sistemas autônomos, isso não significa que o cenário tenha ocorrido. Ainda assim, o alerta indica que o risco merece estudo antes que uma intervenção se torne difícil.

Descartar uma hipótese devido ao tom alarmante seria tão frágil quanto apresentá-la como certeza. Nesse contexto, o Vaticano já incluiu a IA entre suas preocupações relacionadas à dignidade humana. As novas declarações, contudo, inserem Leão XIV diretamente no debate público sobre segurança e inovação.

A discussão também envolve os efeitos de eventuais controles sobre o desenvolvimento tecnológico. Em vez de tratar segurança e inovação como objetivos incompatíveis, governos e empresas precisam avaliar como conciliá-los. A questão central consiste em definir quanto risco a sociedade aceita durante esse processo.

Empresas e governos dividem responsabilidades

As empresas que desenvolvem modelos avançados possuem conhecimento essencial para avaliar os próprios limites. Algumas delas pedem mais tempo para criar medidas de segurança. Entretanto, essas companhias também disputam investimentos, clientes e influência sobre as regras que poderão regulá-las.

Ouvir os desenvolvedores é necessário, mas permitir que definam sozinhos o que é seguro pode afetar usuários e concorrentes. Por outro lado, governos podem deixar riscos descobertos ou bloquear usos valiosos caso imponham regras sem compreender a tecnologia. Portanto, o debate deve estabelecer quem verifica os testes, responde por falhas e informa o público.

Se cada empresa decidir quando um modelo está pronto, o incentivo comercial fará parte da avaliação de risco. Em contrapartida, uma supervisão sem critérios técnicos pode resultar em controles ineficazes. Nesse sentido, responsabilidades claras ganham importância conforme os sistemas recebem maior autonomia.

Agentes autônomos ampliam riscos financeiros

Para o público do mercado cripto, o debate possui uma aplicação concreta. Agentes de IA não são projetados apenas para responder perguntas, pois também podem executar ações autorizadas por uma pessoa. Por exemplo, o protocolo de pagamentos do Google permite que um agente conclua determinadas compras após receber instruções prévias.

Quando uma ação envolve dinheiro, a segurança deixa de ser um conceito abstrato. Assim, torna-se necessário registrar o que o usuário autorizou, quais limites definiu e como o consentimento pode ser comprovado. Além disso, os responsáveis precisam definir quem pode interromper uma operação equivocada.

Essas perguntas já fazem parte da rotina de quem trabalha com carteiras, assinaturas digitais e autocustódia. Embora esses mecanismos ofereçam formas de controle, a IA cria novas possibilidades de delegação. Com isso, a autonomia dos agentes exige regras verificáveis para operações financeiras.

Leão XIV não apresentou uma solução técnica durante a viagem. Ainda assim, pediu que os responsáveis discutam os riscos antes de considerar o problema encerrado. À medida que a IA ganha autonomia, a indústria precisará demonstrar quais instruções orientaram cada ação e quem preserva o controle.

	Receba nossas últimas notícias em primeira mão.   Adicione-nos como sua fonte preferida no Google    e toque em “Favorito” para priorizar nossas atualizações.