'Deepfake': 'Colocaram meu rosto em um v�deo porn�'

Navegando pelo Twitter uma noite, a brit�nica Kate Isaacs, 30 anos, se deparou com um v�deo perturbador entre suas notifica��es.

"O p�nico tomou conta de mim", lembra Kate, falando pela primeira vez publicamente sobre o que aconteceu. "Algu�m pegou meu rosto, colocou em um v�deo porn� e fez parecer que era eu."

Kate tinha sido v�tima do deepfake, quando algu�m usa a intelig�ncia artificial para manipular digitalmente uma imagem — no caso dela, seu rosto foi sobreposto � imagem de uma atriz porn�.

• 'As imagens de porn� deepfake com a minha cara ainda me d�o pesadelos'
• 'Fui enganada e me apaixonei por um deepfake num app de namoro'

O v�deo de deepfake com o qual ela se deparou no Twitter — com Kate, que j� fazia campanhas contra a pornografia n�o consensual — foi feito usando imagens de entrevistas na TV que ela deu como ativista.

"Fiquei arrasada. Eu n�o conseguia pensar com clareza", diz ela. "Lembro de pensar que este v�deo seria visto em tudo que � lugar. Foi horr�vel."

No passado, celebridades e pol�ticos eram os alvos mais comuns de deepfakes — mas nem sempre pornogr�ficos, alguns apenas para fins c�micos. Mas, ao longo dos anos, isso mudou: de acordo com a empresa de seguran�a cibern�tica Deeptrace, 96% de todos os deepfakes s�o de car�ter pornogr�fico e n�o consensual.

Assim como a pornografia de vingan�a, a pornografia deepfake � uma forma de abuso sexual baseado em imagem, um termo abrangente que inclui a captura, cria��o e/ou compartilhamento de imagens �ntimas sem consentimento.

Na Esc�cia, j� � um delito compartilhar imagens de uma pessoa em situa��o �ntima sem seu consentimento. Mas em outras partes do Reino Unido, isto � considerado um delito apenas se for provado que tais a��es pretendiam causar sofrimento � v�tima — uma brecha que resulta em frequente impunidade.

Mas no resto do Reino Unido, o aguardado Plano de Seguran�a Online, de alcance nacional, est� passando por intermin�veis revis�es e arquivamentos.

Kate Isaacs fundou a campanha #NotYourPorn em 2019. Um ano depois, seu ativismo contribuiu para que o site de entretenimento adulto Pornhub derrubasse todos os v�deos em sua plataforma enviados por usu�rios n�o verificados — o que era a maioria.

Kate concluiu que foi v�tima de deepfake por parte de algu�m incomodado com seu ativismo.

Mas ela n�o tinha ideia de quem era essa pessoa, ou quem poderia ter visto o v�deo. Ela se preocupou tamb�m com o fato de que o v�deo era convincente o suficiente para que pessoas realmente achassem que era ela ali.

"Foi uma viola��o: minha identidade foi usada de uma forma que eu n�o consenti."

Alguns usu�rios tamb�m come�aram a deixar coment�rios abusivos, amea�ando-a de muitas coisas horr�veis.

"Voc� come�a a pensar em sua fam�lia", diz ela, segurando as l�grimas. "Como eles (parentes) se sentiriam se vissem esse conte�do?"

A amea�a se intensificou quando os endere�os de casa e do trabalho de Kate foram publicados nos coment�rios, uma pr�tica conhecida como doxing.

"Eu pensei: 'Estou com problemas de verdade aqui, n�o s�o apenas algumas pessoas na internet falando.... Existe um perigo real.'"

A partir de sua experi�ncia apoiando pessoas em situa��es semelhantes, Kate sabia exatamente o que fazer se algu�m se tornasse v�tima — mas naquele momento, ela congelou.

"Eu n�o segui nenhum dos meus pr�prios conselhos", lembra. "Kate, a ativista, era muito forte e n�o mostrava nenhuma vulnerabilidade. E havia eu, Kate, que estava realmente com medo."

Um colega denunciou ao Twitter o v�deo, os coment�rios cru�is e o doxing, e todos foram retirados da plataforma. Mas uma vez que qualquer deepfake tenha sido publicado e compartilhado online, � dif�cil remov�-lo completamente de circula��o.

"Eu s� queria aquele v�deo fora da internet", diz Kate, "mas n�o havia nada que eu pudesse fazer sobre isso."

O que fazer se voc� foi 'deepfaked'

• Colete evid�ncias - Pode parecer contraintuitivo, j� que voc� quer que tudo seja apagado, mas � importante baixar v�deos e capturar datas, nomes de usu�rios e URLs. Coloque-os em uma pasta segura e proteja-os com senha.
• Denuncie - Depois de coletar as evid�ncias, denuncie o ocorrido nas plataformas onde o conte�do foi compartilhado.
• Contate as autoridades - � importante acionar as autoridades — no Brasil, um come�o importante � registrar uma ocorr�ncia em delegacias da Pol�cia Civil, que em alguns locais tem delegacias especializadas no atendimento � mulher e em crimes cibern�ticos — e compartilhar com elas as evid�ncias que voc� guardou.

Fonte: #NotYourPorn

H� um mercado para deepfakes em f�runs online. As pessoas postam pedidos para que v�deos do tipo sejam feitos de suas esposas, vizinhos e colegas de trabalho, at� mesmo suas m�es, filhas e primas.

Os criadores de conte�do respondem com instru��es passo-a-passo: de qual tipo de imagem precisar�o, conselhos sobre �ngulos de filmagem e formas de pagamento.

Um criador deepfakes atuando no sudeste da Inglaterra, Gorkem, falou com a BBC anonimamente. Ele come�ou a criar deepfakes de celebridades para sua pr�pria divers�o. Para ele, essas imagens artificiais permitem que as pessoas "realizem suas fantasias de maneiras que realmente n�o eram poss�veis antes".

Depois, Gorkem passou a fazer deepfaking com mulheres pelas quais se sentia atra�do, incluindo colegas de trabalho que ele mal conhecia.

"Uma era casada, a outra estava em um relacionamento", diz ele. "Ir trabalhar no escrit�rio depois de ter falsificado as imagens dessas mulheres foi estranho, mas eu me controlei. Eu consigo agir como se n�o houvesse nada de errado."

Percebendo que poderia ganhar dinheiro com o que ele chama de hobby, Gorkem come�ou a receber encomendas de deepfakes personalizados. Imagens de mulheres em perfis nas redes sociais d�o a ele bastante material para come�ar. Gorkem conta que, recentemente, fez um deepfake de uma mulher usando uma grava��o de uma reuni�o online.

"Com uma boa quantidade de v�deo, (com a pessoa) olhando diretamente para a c�mera, h� um material bom. Ent�o o algoritmo simplesmente trabalha a partir disso e faz a reconstru��o do rosto no v�deo de destino."

Ele reconhece que "algumas mulheres" s�o prejudicadas psicologicamente por serem v�timas de deepfakes, mas parece indiferente quanto ao impacto de trat�-las como um objeto.

"Eles podem simplesmente dizer: n�o sou eu, isso foi falsificado. Elas devem apenas reconhecer isso e continuar vivendo sua vida."

"Do ponto de vista moral, acho que n�o h� nada que me detenha", continua. "Se eu vou ganhar dinheiro com uma encomenda, eu topo. N�o esquento com isso."

O padr�o dos deepfakes pode variar muito e depende tanto da experi�ncia da pessoa que fez o v�deo quanto da sofistica��o da tecnologia usada.

Mas o homem por tr�s do maior site de pornografia deepfake admite que n�o � mais f�cil saber se voc� est� vendo imagens manipuladas ou n�o. Seu site atrai cerca de 13 milh�es de visitantes por m�s e hospeda cerca de 20 mil v�deos ao mesmo tempo. Ele mora nos Estados Unidos e raramente fala com a m�dia, mas concordou em falar com a BBC anonimamente.

Deepfaking de mulheres "comuns" � um limite, diz ele, para quem hospedar v�deos pornogr�ficos de celebridades, influenciadores de m�dia social e pol�ticos � justific�vel.

• A evolu��o do deepfake, futuro da cria��o de conte�do
• Os 'presidentes deepfake 'usados na propaganda de guerra na Ucr�nia

"Eles est�o acostumados com a m�dia negativa, seu conte�do est� dispon�vel por a�. Eles s�o diferentes dos cidad�os normais", argumenta.

"Do jeito que eu vejo, eles s�o capazes de lidar com isso de uma maneira diferente: eles podem simplesmente ignorar. Eu realmente n�o sinto que o consentimento seja necess�rio. � uma fantasia, n�o � real."

Ele acha que est� fazendo algo errado? Parte dele est� "em nega��o sobre o impacto nas mulheres", admite, acrescentando que sua esposa n�o sabe dessa sua atividade.

"Eu n�o contei para minha esposa. Tenho medo de como isso pode afet�-la."

At� recentemente, os softwares de deepfaking n�o eram acess�veis e f�ceis de serem usados por uma pessoa comum. Mas agora, qualquer pessoa com mais de 12 anos pode baixar legalmente dezenas de aplicativos e fazer deepfakes convincentes com apenas alguns cliques.

Para Kate isso � preocupante e "realmente assustador".

"N�o � a dark web, est� nas lojas de aplicativos. Bem na nossa frente."

Ela tamb�m teme que o esperado Plano de Seguran�a Online do Reino Unido n�o acompanhe a tecnologia a tempo. Tr�s anos atr�s, quando o projeto foi apresentado, a cria��o de deepfakes era vista como algo que exigia uma habilidade profissional — n�o bastava apenas baixar um aplicativo.

Para o criador de deepfakes Gorkem, criminalizar a atividade mudaria as coisas.

"Se eu pudesse ser rastreado online, pararia por a� e provavelmente encontraria outro hobby", diz ele.

Ser alvo de deepfaking e doxing teve um impacto na sa�de de Kate e em sua capacidade de confiar em outras pessoas. Ela acredita que aqueles por tr�s dos ataques n�o estavam apenas tentando intimid�-la e humilh�-la, mas tamb�m silenci�-la. Por um tempo, ela se afastou do seu ativismo, questionando se poderia continuar falando sobre misoginia.

Mas, agora, ela est� ainda mais entusiasmada. Ela percebeu que se importava demais para abandonar sua luta.

"Eu n�o vou deix�-los ganhar."

Kate afirma que os deepfakes podem ser usados %u200B%u200Bpara controlar as mulheres, e as empresas de tecnologia — incluindo aquelas que fazem aplicativos que permitem manipular imagens — devem ser incentivadas a impor restri��es e puni��es.

"Qualquer aplicativo deve ser capaz de detectar conte�do sexual."

"Se as empresas n�o investirem dinheiro, recursos e tempo para garantir que seu aplicativo n�o seja usado para criar conte�do de abuso sexual, elas est�o sendo deliberadamente irrespons�veis. Elas s�o culpadas".

*Nem Gorkem, nem o propriet�rio de um site de deepfakes entrevistado t�m rela��o com o deepfaking de Kate Isaacs, at� onde se sabe.

- Este texto foi publicado em https://www.bbc.com/portuguese/geral-63339308