Os deepfakes foram projetados para ajudar a melhorar o desempenho da IA – pois mesmo os melhores métodos ainda não são precisos o suficiente.

Os Deepfakes⁠ finalmente atingiram o público e os pesquisadores. Há algo singularmente perturbador nessas imagens geradas pela IA de pessoas que parecem dizer ou fazer algo que não fizeram.

Com as ferramentas para tornar os deepfakes agora amplamente disponíveis e relativamente fáceis de usar, muitos também se preocupam com o fato de serem usados para espalhar fake news.

Esse é o medo, pelo menos. Para um olho humano, a verdade é que os deepfakes ainda são relativamente fáceis de detectar. E, de acordo com um relatório da empresa de segurança cibernética DeepTrace Labs em outubro de 2019, que ainda é o mais abrangente, eles não foram usados em nenhuma campanha de desinformação. No entanto, o mesmo relatório também descobriu que o número de deepfakes postados on-line estava crescendo rapidamente, com cerca de 15.000 aparecendo nos últimos sete meses.

Como o Facebook pode lidar com os deepfakes?

As redes sociais estão preocupadas que as deepfakes possam em breve inundar seus sites. Mas detectá-los automaticamente é difícil. Para resolver o problema, o Facebook quer usar a IA para ajudar a combater as falsificações geradas por deepfake. Para treinar as IAs para identificar vídeos manipulados, o Facebook está lançando o maior conjunto de dados de deepfakes de todos os tempos⁠ – mais de 100.000 clipes produzidos usando 3.426 atores e uma variedade de técnicas de troca de face existentes.

“Atualmente, os deepfakes não são um grande problema”, diz Mike Schroepfer, CTO do Facebook. “Mas a lição que aprendi da maneira mais difícil nos últimos dois anos é que não devemos ser pegos de surpresa. Quero estar realmente preparado para muitas coisas ruins que nunca aconteceram, e não o contrário. ”

Deepfake Detection Challenge

O Facebook também anunciou o vencedor do seu Deepfake Detection Challenge, no qual 2.114 participantes enviaram cerca de 35.000 modelos de detcção de deepfakes.

O modelo ganhador, anunciado recentemente pelo Facebook, teve 65% de eficácia na análise de 10 mil vídeos. Para gerar resultados mais precisos, os testes incluem vídeos capazes de confundir o sistema de detecção — como tutoriais de maquiagem.

Em vez de aprender técnicas forenses, como procurar impressões digitais nos pixels de um vídeo deixado para trás pelo processo de geração da deepfakes, a nova técnica aprende a identificar quando algo parece “errado”.

Este sistema teve como base um novo tipo de rede neural convolucional (CNN) chamada EfficientNets que foi desenvolvida por pesquisadores do Google em 2019. As CNNs são comumente usadas para analisar imagens e são excelentes na detecção de rostos ou no reconhecimento de objetos.

Embora represente certo sucesso o modelo vencedor não será usado pelo Facebook, afinal, 65% de eficácia ainda não é suficiente.

Para Mike Schroepfer, a maneira de melhorar a detecção é focar nas transições entre os quadros de vídeo, rastreando-os ao longo do tempo, ressaltando que mesmo os deepfakes de alta qualidade têm alguma oscilação entre os quadros”.

A tendencia é que no futuro as deepfakes não sejam mais detectadas por olhos humanos e a unica forma de combate será a tecnológica.

• Veja também: Ripple deve construir corredor de pagamentos em XRP no Brasil

Fonte: technologyreview

O autor: Bruno Lugarini

Estudante de Sistema da Informação, técnico de informática, apaixonado por tecnologia, entusiasta das criptomoedas e Nerd.