Deepfakes: como funcionam e por que causam preocupa��o

O que h� um ano parecia coisa de fic��o cient�fica, hoje est� no Zap. A populariza��o de montagens realistas em v�deo e �udio tornou-se a pr�xima fronteira do debate �tico sobre o ambiente digital. As deepfakes - corruptela de deep learning (aprendizado de m�quinas) com fake news - viralizam nas redes sociais em perfis humor�sticos e chamam a aten��o para a agilidade e qualidade t�cnica com que s�o criadas.

Uma das opera��es mais comuns � o faceswap, quando os rostos s�o trocados. Tudo a partir de bibliotecas de c�digo aberto capazes de simplificar o processo de intelig�ncia artificial. O Congresso norte-americano demonstrou esta semana preocupa��o com o tema, que, segundo manifesto de um grupo de senadores, amea�a a democracia e a integridade das elei��es.

Montagens que ganharam muita popularidade nas �ltimas semanas na internet brasileira nasceram em um quarto no Noroeste de Minas. O estudante de direito e jornalista Bruno Sartori, de 30 anos, de Una�, come�ou a usar fatos pol�ticos recentes como inspira��o para v�deos de humor envolvendo o presidente Jair Bolsonaro e o ministro da Justi�a, Sergio Moro, por exemplo.

“Usamos intelig�ncia artificial para analisar e codificar milhares de imagens, para que seja poss�vel inserir um rosto de uma pessoa em qualquer outro v�deo, de forma altamente real�stica”, explica Sartori, que aprendeu a t�cnica sozinho, pesquisando na internet.

Como em rede social timing � tudo, o desenvolvimento das �ltimas montagens seguiu o ritmo do notici�rio, com Bolsonaro no corpo da rainha da Inglaterra ou Moro dan�ando como uma bailarina melindrosa.

“O tempo de edi��o varia muito. Se for para fazer um deepfake do qual eu n�o tenha o rosto pronto, levo de tr�s a quatro dias para trein�-lo para meu uso. Depois de finalizado, ainda v�m algumas horas para montar e finalizar, pois esse material bruto que a m�quina me entrega tem defeitos, ent�o os v�deos precisam passar por uma p�s-produ��o. Se a cor do rosto e o resto do corpo n�o batem, por exemplo, as pessoas poder�o perceber com mais facilidade que � uma montagem. Caso eu j� tenha o rosto para inser��o pronto, basta algumas horas para produ��o”, detalha.

H� um ano, quando come�ou a explorar esse conhecimento, Bruno conta que tinha de "treinar" uma m�quina por muito mais tempo, para conseguir resultado bastante inferior ao que chega hoje. Agora, o uso de intelig�ncia artificial para a troca de rostos em imagens j� est�, por exemplo, popularizado em filtros de aplicativos como Snapchat e Instagram. Em alguns casos, � poss�vel substituir o seu rosto por uma foto que estiver no seu telefone - tudo sem saber escrever uma linha de programa��o e usando a c�mera do celular, na palma da m�o. 

Para al�m do humor e do prosaico uso cotidiano dos filtros de apps, o debate sobre as deepfakes j� chegou ao Congresso dos Estados Unidos. “Agora � o momento para que empresas de social media desenvolvam pol�ticas para proteger usu�rios desse tipo de desinforma��o, n�o em 2021, depois que deepfakes virais tenham polu�do as elei��es de 2020”, alertou em um comunicado o parlamentar republicano Adam Schiff.

“Este � mais um n�vel de complexidade deste ambiente de desinforma��o e distor��o da realidade. Isso sucede � onda de fake news que percorre WhatsApp, Facebook e Twitter”, diz Virgilio Almeida, professor em�rito do Departamento de Ci�ncia da Computa��o da Universidade Federal de Minas Gerais (UFMG). Neste semestre, alunos da p�s-gradua��o come�aram curso de �tica na computa��o, justamente para debater temas como esse.

Um dos trabalhos em curso no departamento busca maneiras de usar os metadados do v�deo (aquelas informa��es intr�nsecas ao arquivo, em outra camada, que n�o s�o vistas a olho nu) para detectar origens e ind�cios de altera��es desse tipo.

De acordo com o professor, o tema inquieta bastante a comunidade cient�fica em todo o mundo. “Cada vez mais, as �reas tecnol�gicas t�m de trazer esse debate. Porque as coisas afetam as pessoas, a sociedade. N�o � s� c�digo. O impacto de um algoritmo se d� nas pessoas, nas institui��es, na democracia”.

. Aten��o ao desfoque do rosto, que costuma ficar mais emba�ado que o fundo do v�deo

. As sobrancelhas dos dois personagens costumam se sobrepor na montagem

. Os olhos normalmente miram dire��o estranha e a boca � o ponto de maior emba�amento