Aplicativo horripilante tira a roupa de uma foto de qualquer mulher com um único clique

As falsificações resultantes podem ser usadas para envergonhar, assediar e intimidar seus alvos.

Um novo software que usa Inteligência Artificial (IA) está sendo usado para gerar imagens realistas de mulheres nuas  a partir de imagens de mulheres vestidas.

O aplicativo se chama DeepNude e é o exemplo mais recente de deepfakes gerados por IA sendo usados para criar imagens comprometedoras de mulheres inocentes. O software foi descoberto e exposto por Samantha Cole do site Motherboard e estava disponível para download gratuito para Windows, com uma versão premium que oferecia imagens com melhores resoluções a partir de US$ 99.

Em um teste realizado pelo Motherboard é fácil notar que as imagens alteradas vem com uma marca d’água, entretanto, é bem fácil de remove-la.

Da pra ver claramente que a qualidade da deepfake é questionável. Certamente não é fotorrealista e, quando examinada de perto, as imagens são fáceis de identificar como falsas. A pessoa da IA ​​fica embaçada e pixelada, e o processo funciona melhor em imagens de alta resolução quando o alvo já está usando roupas reveladoras como um maiô.

Mas em resoluções mais baixas – ou quando vistas apenas brevemente – as imagens falsas são fáceis de confundir com as reais e podem causar danos incalculáveis ​​às vidas dos indivíduos.

Embora grande parte da discussão em torno dos danos potenciais dos deepfakes tenha se centrado na desinformação política e na propaganda, o uso dessa tecnologia para atingir as mulheres tem sido uma constante desde sua criação. Na verdade, foi assim que a tecnologia se espalhou pela primeira vez, com usuários do Reddit criando vídeos pornográficos com celebridades.

Um relatório recente do HuffPost destacou como ser alvo de pornografia falsa e nus pode acabar com a vida de alguém. Tal como acontece com a pornografia de vingança, essas imagens podem ser usadas para envergonhar, assediar, intimidar e silenciar as mulheres. Existem fóruns onde os homens podem contratar especialistas para criar falsificações profundas de colegas de trabalho, amigos ou familiares, mas ferramentas como o DeepNude facilitam a criação dessas imagens em privado, com o toque de um botão.

Notavelmente, o aplicativo não é capaz de produzir imagens de homens nus. Conforme relatado pela Motherboard, se você colocar a foto de um homem, ele simplesmente adiciona uma vulva.

DeepNude é encerrado após exposição

O aplicativo foi exposto ontem e hoje ele foi encerrado. Em um tweet, a equipe por trás do DeepNude disse que “subestimou muito” o interesse no projeto e que “a probabilidade de que as pessoas o usem indevidamente é muito alta”.

O DeepNude não estará mais à venda e outras versões não serão lançadas. A equipe também alertou contra o compartilhamento do software online, dizendo que isso seria contra os termos de serviço do aplicativo. Eles reconhecem que “certamente algumas cópias” ainda serão distribuídas, no entanto.

O aplicativo está à venda há alguns meses e a equipe do DeepNude diz que “honestamente, o aplicativo não é tão bom” no que faz.

Mas ainda funcionou bem o suficiente para atrair uma preocupação generalizada sobre seu uso. Embora as pessoas possam manipular digitalmente as fotos há muito tempo, o DeepNude tornou essa capacidade instantânea e disponível para qualquer pessoa.

O criador do aplicativo, que é conhecido apenas por Alberto, disse ao a imprensa hoje cedo que acreditava que alguém logo faria um aplicativo como o DeepNude se ele não o fizesse primeiro. “A tecnologia está pronta (ao alcance de todos)”, disse ele. Alberto disse que a equipe do DeepNude “vai desistir de vez do projeto” se vir o aplicativo sendo usado indevidamente.

A equipe do DeepNude termina sua mensagem anunciando o desligamento do aplicativo e dizendo que “o mundo ainda não está pronto para o DeepNude”, como se em algum momento no futuro o software pudesse ser usado de maneira adequada. Mas deepfakes só se tornarão mais fáceis de fazer e mais difíceis de detectar e, em última análise, saber se algo é real ou falso não é o problema. Esses aplicativos permitem que as imagens das pessoas sejam usadas indevidamente de forma rápida e fácil e, por enquanto, há poucas ou nenhuma proteção para evitar que isso aconteça.

Fonte: Motherboard

Foto de Bruno Lugarini
Foto de Bruno Lugarini O autor:

Estudante de Sistema da Informação, técnico de informática, apaixonado por tecnologia, entusiasta das criptomoedas e Nerd.