As novas leis destinam-se a combater vídeos falsos e prejudiciais de políticos e celebridades

Alguns deepfakes oferecem entretenimento e geralmente são divertidos. No entanto, quando eles são usados de maneira a abusar ou enganar os outros, é outra história. Para conter a quantidade desses vídeos nefastos de deepfake, o estado da Califórnia criou duas novas leis.

Um dos dois novos projetos de lei – chamado AB 730 – foi assinado pelo governador da Califórnia, Gavin Newsom, e agora torna ilegal para alguém criar vídeos de políticos que tentam adulterar as escolhas dos eleitores e criar fake news dentro de 60 dias de uma eleição.

Além disso, o governador Newsome também assinou o AB 602, que permite aos californianos o direito de processar qualquer pessoa cujo rosto tenha sido colocado em cima de material pornográfico sem o seu consentimento.

O que são deepfakes?

Em essência, um deepfake é um vídeo adulterado no qual uma pessoa parece dizer e fazer coisas que na verdade não fez ou disse. Alguns desses vídeos do deepfake são tão bem-feitos, graças à nova tecnologia, que é difícil dizer se são reais ou não.

https://www.youtube.com/watch?v=HG_NZpkttXE

Esse vídeo com um cena clássica de “O Iluminado”, foi adulterado colocando Jim Carrey no lugar de Jack Nicholson, e quem poderia imaginar que essa imagem foi toda criado por IA?

Infelizmente, às vezes, esses vídeos são criados propositalmente para atacar alguém, intimidá-lo ou influenciar a opinião das pessoas sobre ele. Por exemplo, o rosto da atriz Scarlett Johansson foi colocado no topo de um vídeo pornográfico, fazendo parecer que ela estava realizando o ato. Isso pode ser usado para ferir celebridades e pessoas comuns.

Os deepfakes também foram usados para tentar influenciar a opinião política.

No início deste ano, surgiu um deepfake da presidente da Câmara, Nancy Pelosi, na qual ela parecia estar bêbada durante um discurso. Este vídeo se tornou viral nas mídias sociais.

https://www.youtube.com/watch?v=EfREntgxmDs

O membro da Assembléia da Califórnia, Marc Berman, o cérebro por trás dos projetos de lei AB 730 e AB 602, afirmou que esses tipos de deepfakes podem enganar os eleitores e alterar o resultado de uma eleição.

É em parte devido a essas preocupações que as novas leis foram aprovadas de maneira compreensível.

Berman disse: “Os eleitores têm o direito de saber quando vídeo, áudio e imagens que estão sendo mostrados, para tentar influenciar seu voto nas próximas eleições, foram manipulados e não representam a realidade”.

“No contexto das eleições, a capacidade de atribuir discursos ou condutas falsas a um candidato – o que nunca aconteceu – faz da tecnologia deepfake uma nova ferramenta poderosa e perigosa no arsenal daqueles que desejam realizar campanhas de desinformação para confundir os eleitores”. Berman declarou.

• Veja também: IA do Tesla anda causando problema em estacionamento

Fonte: InterestingEngineering