A evolu��o do deepfake, futuro da cria��o de conte�do

H� cerca de um ano, milh�es de telespectadores em toda a Coreia do Sul estavam assistindo ao canal MBN para acompanhar as �ltimas not�cias.

No hor�rio nobre, a apresentadora habitual do jornal, Kim Joo-Ha, come�ou a ler as manchetes do dia. Era uma lista relativamente normal de hist�rias para o fim de 2020 — repleta de atualiza��es sobre a pandemia de covid-19.

• 'Fui enganada e me apaixonei por um deepfake num app de namoro'
• Porn� deepfake: 'As imagens falsas com a minha cara ainda me d�o pesadelos'

No entanto, este boletim estava longe de ser normal, j� que Kim Joo-Ha n�o estava realmente na tela.

Ela havia sido substitu�da por uma vers�o deepfake de si mesma — uma c�pia gerada por computador que busca refletir perfeitamente sua voz, gestos e express�es faciais.

Os espectadores foram informados de antem�o de que isso iria acontecer, e de acordo com a imprensa sul-coreana, a rea��o do p�blico foi variada.

Enquanto algumas pessoas ficaram surpresas com o qu�o realista era, outras disseram que estavam preocupadas que a verdadeira Kim Joo-Ha pudesse perder o emprego.

A MBN afirmou que continuaria a usar deepfake para algumas not�cias de �ltima hora, enquanto a empresa por tr�s da tecnologia de intelig�ncia artificial — a sul-coreana Moneybrain — anunciou que estaria procurando outros compradores na China e nos EUA.

Quando a maioria das pessoas pensa em deepfakes, elas imaginam v�deos falsos de celebridades.

De fato, pouco tempo depois deste deepfake sul-coreano, um v�deo falso — mas muito realista — do ator Tom Cruise foi destaque no notici�rio no mundo todo quando apareceu no TikTok.

Apesar das conota��es negativas em torno do termo coloquial deepfake (as pessoas geralmente n�o querem ser associadas � palavra "fake"), a tecnologia est� sendo cada vez mais usada comercialmente.

Mais diplomaticamente chamados de v�deos gerados por intelig�ncia artificial, ou m�dia sint�tica, seu uso est� crescendo rapidamente em algumas �reas, como de not�cias, entretenimento e educa��o — e a tecnologia se tornando cada vez mais sofisticada.

Um dos primeiros adeptos foi a Synthesia, companhia com sede em Londres que cria v�deos de treinamento corporativo com intelig�ncia artificial para empresas, como o grupo de publicidade global WPP e a consultoria de neg�cios Accenture.

"Este � o futuro da cria��o de conte�do", diz o executivo-chefe e cofundador da Synthesia, Victor Riparbelli.

Para fazer um v�deo gerado por intelig�ncia artificial usando o sistema da Synthesia, voc� simplesmente escolhe entre v�rios avatares, digita a palavra que deseja que eles digam e pronto.

Riparbelli diz que isso significa que as empresas globais podem facilmente fazer v�deos em diferentes idiomas — para cursos de treinamento internos, por exemplo.

"Digamos que voc� tenha 3 mil trabalhadores de armaz�m na Am�rica do Norte", diz ele. "Alguns falam ingl�s, mas alguns podem estar mais familiarizados com o espanhol."

"Se voc� precisa comunicar informa��es complexas a eles, um PDF de quatro p�ginas n�o � uma boa maneira. Seria muito melhor fazer um v�deo de dois ou tr�s minutos, em ingl�s e espanhol."

"Se voc� tivesse que gravar cada um destes v�deos, seria um trabalho enorme. Agora podemos fazer isso com um [pequeno] custo de produ��o e o tempo que algu�m levar para escrever o roteiro. Isso exemplifica muito bem como a tecnologia � usada hoje."

Mike Price, diretor de tecnologia da ZeroFox, empresa de seguran�a cibern�tica dos EUA que rastreia deepfakes, afirma que seu uso comercial est� "crescendo significativamente ano ap�s ano, mas os n�meros exatos s�o dif�ceis de cravar".

Chad Steelberg, executivo-chefe da Veritone, fornecedora americana de tecnologia de intelig�ncia artificial, observa, no entanto, que a crescente preocupa��o com deepfakes mal-intencionados est� impedindo o investimento no uso comercial leg�timo da tecnologia.

"O termo deepfake definitivamente teve uma resposta negativa em termos de investimento de capital no setor", afirma. "A m�dia e os consumidores, com raz�o, podem ver claramente os riscos associados."

"Isso definitivamente impediu as corpora��es e os investidores de investir na tecnologia. Mas acho que se come�a a ver essa abertura."

Mike Papas, executivo-chefe da Modulate, empresa de intelig�ncia artificial que permite aos usu�rios criar a voz de um personagem ou pessoa diferente, diz que as empresas do setor comercial de m�dia sint�tica "realmente se preocupam com a �tica".

"� incr�vel ver a profundidade de pensamento que colocam nisso", afirma.

"Isso garantiu que os investidores tamb�m se preocupassem com isso. Eles est�o perguntando sobre pol�ticas �ticas e como voc� v� isso."

Lilian Edwards, professora de direito, inova��o e sociedade da Universidade de Newcastle, no Reino Unido, � especialista em deepfakes. E, segundo ela, uma quest�o em torno do uso comercial da tecnologia que n�o foi totalmente abordada � quem det�m os direitos dos v�deos.

"Por exemplo, se uma pessoa morta � usada, como [o ator] Steve McQueen ou [o rapper] Tupac, h� um debate em andamento sobre se a fam�lia deles deve possuir os direitos [e obter renda com isso]", explica.

"Atualmente, isso difere de pa�s para pa�s."

Deborah Johnson, professora de �tica aplicada na Universidade da Virg�nia, nos EUA, foi coautora recentemente de um artigo intitulado What To Do About Deepfakes? ("O que fazer com os deepfakes?", em tradu��o literal).

"Deepfakes s�o parte do problema maior de desinforma��o que mina a confian�a nas institui��es e na experi�ncia visual — n�o podemos mais confiar no que vemos e ouvimos online", diz ela.

"A identifica��o � provavelmente a forma mais simples e importante de combater os deepfakes — se os espectadores estiverem cientes de que o que est�o vendo foi fabricado, � menos prov�vel que sejam enganados".

A professora Sandra Wachter, pesquisadora de intelig�ncia artificial da Universidade de Oxford, no Reino Unido, afirma que a tecnologia deepfake "est� avan�ando rapidamente".

"Se voc� assistiu ao v�deo de Tom Cruise, pode ver como a tecnologia est� ficando boa", diz ela.

"Foi muito mais realista do que o do presidente Obama de quatro anos atr�s."

"N�o devemos ter muito medo da tecnologia, e � preciso haver abordagens diferenciadas para isso. Sim, deve haver leis para reprimir coisas nocivas e perigosas, como discurso de �dio e pornografia de vingan�a. Os indiv�duos e a sociedade devem ser protegidos disso."

"Mas n�o devemos ter uma proibi��o total dos deepfakes por s�tira ou liberdade de express�o. E o crescente uso comercial da tecnologia � muito promissor, como passar filmes para diferentes idiomas ou criar v�deos educativos envolventes".

Um exemplo do uso educacional de v�deos gerados por intelig�ncia artificial est� na Funda��o Shoah, da Universidade do Sul da Calif�rnia, nos EUA, que abriga mais de 55 mil testemunhos em v�deo de sobreviventes do Holocausto.

Seu projeto Dimensions In Testimony permite que os visitantes fa�am perguntas que levem a respostas em tempo real dos sobreviventes nas entrevistas em v�deo pr�-gravadas.

Steelberg acredita que, no futuro, esta tecnologia permitir� que os netos conversem com vers�es de intelig�ncia artificial de av�s falecidos.

"Isso � transformador, eu acho, para a forma como pensamos nossa sociedade."

Reportagem adicional de Will Smale.

Sabia que a BBC est� tamb�m no Telegram? Inscreva-se no canal.

J� assistiu aos nossos novos v�deos no YouTube? Inscreva-se no nosso canal!