O progresso da intelig�ncia artificial nos �ltimos meses deu origem a um novo fen�meno: o compartilhamento massivo nas redes sociais de imagens geradas artificialmente.
Algumas, ultrarrealistas e associadas ao notici�rio pol�tico, t�m causado confus�o, por vezes apresentadas como aut�nticas.
Mas se at� o momento n�o existe uma ferramenta capaz de identificar com certeza esse tipo de imagem, recontextualizar o registro e identificar inconsist�ncias visuais podem ser maneiras de detectar uma cria��o feita a partir dessa tecnologia, explicaram v�rios especialistas � AFP.
Algumas palavras-chave descritivas, uma imagem. Esse � o princ�pio de muitas intelig�ncias artificiais, como Midjourney, DALL-E, Craiyon ou Stable Diffusion. A partir de um enorme banco de dados constantemente alimentado por solicita��es dos usu�rios, essas ferramentas s�o capazes de gerar uma infinidade de imagens.
Uma enxurrada de imagens produzidas por intelig�ncia artificial, por exemplo, circulou no Twitter para ilustrar eventos aut�nticos, como o encontro entre Vladimir Putin e Xi Jinping em 20 de mar�o de 2023, ou mesmo para imaginar situa��es fict�cias, como Emmanuel Macron como lixeiro em pleno protesto contra a reforma da previd�ncia.
Hi, I'm a tech reporter that covers China, cybersecurity, & new media. Hundreds of people are sharing this photo of Xi Jinping & Vladimir Putin as they meet at the Kremlin. The two did meet, but it's highly likely this photo was generated by an AI program. Here's why: pic.twitter.com/6xqsDLxiMa
— Amanda Florian %u5C0F%u7231 (@Amanda_Florian) March 21, 2023
L'#ia#photo a fait des progr�s d�mentiels en tr�s peu de temps, d�sormais le #fake sera la norme sur les #reseaux, doutez de ce que vous voyez par d�faut, plus le choix.#midjourney#midjourneyv5pic.twitter.com/dJoZXGrbRy
— Cryptonoo%u20BF From 100K to 0 (@Cryptonoobzzzz) March 19, 2023
Embora a maioria dos autores dessas cria��es especifiquem que as imagens s�o falsas, elas t�m circulado fora de contexto, ou at� apresentadas como aut�nticas.
Ferramentas foram criadas, ou ainda est�o sendo desenvolvidas, para tentar detectar essas montagens, mas os resultados ainda n�o s�o conclusivos, segundo testes realizados pela AFP.
'Quando uma IA gera integralmente uma imagem, geralmente n�o tira partes de uma �nica foto. Milhares ou at� milh�es de fotos s�o usadas para levar em conta bilh�es de par�metros', explicou � AFP em 21 de mar�o David Fischinger, engenheiro do instituto tecnol�gico austr�aco e especialista em intelig�ncia artificial.
'A IA mescla essas imagens de seu banco de dados, as desconstr�i e depois reconstr�i uma foto pixel por pixel, o que significa que na renderiza��o final n�o notamos mais a diferen�a entre as imagens originais', acrescentou � AFP em 21 de mar�o Vincent Terrasi, cofundador da Draft & Goal, startup que lan�ou um detector de conte�do gerado por IA para universidades.
Por essa raz�o, um software capaz de detectar uma fotomontagem n�o funcionar�, ou funcionar� muito mal para identificar imagens inteiramente geradas por IAs.
Os metadados de uma foto, que s�o como um cart�o de identidade digital de um arquivo e que �s vezes podem revelar a origem de uma imagem gerada por IA, tamb�m n�o s�o �teis: 'Infelizmente, voc� n�o pode confiar nisso, porque as redes sociais excluem sistematicamente essas informa��es', apontou � AFP em 23 de mar�o Annalisa Verdoliva, professora da Universidade Federico II de N�poles e especialista em IA.
Retornar � fonte da imagem
Especialistas ressaltam que uma forma de detectar a cria��o de uma imagem gerada por intelig�ncia artificial � encontrar seu contexto original. Em alguns casos, o criador destaca o uso da tecnologia e da ferramenta usada.
Isso requer tentar identificar a primeira vez que a foto foi publicada online.
Uma busca reversa pela imagem pode ajudar a identificar se uma imagem foi indexada em plataformas de pesquisa. Assim, � poss�vel rastrear publica��es antigas com a mesma foto.
Esse m�todo permite, por exemplo, saber a origem de imagens que t�m circulado amplamente nas redes sociais mostrando um confronto entre o ex-presidente americano Donald Trump e a pol�cia.
Uma busca reversa no Google por uma dessas imagens leva a um tu�te de Eliot Higgins, fundador do site investigativo Bellingcat, publicado em 20 de mar�o de 2023.
Na continua��o da postagem, ele explica que criou a s�rie de imagens usando a vers�o mais recente da plataforma Midjourney.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
Mesmo sem encontrar o registro original, a busca reversa pode levar a uma vers�o da imagem em melhor qualidade, caso tenha sido cortada, modificada ou tenha perdido qualidade ao longo dos compartilhamentos. Quanto melhor a qualidade da imagem, mais f�cil ser� analis�-la para procurar erros que denunciem a montagem.
A busca reversa por imagens tem ainda a vantagem de revelar fotos semelhantes. Isso pode ser valioso para comparar uma foto suspeita com fotos de fontes confi�veis.
No contexto da reuni�o entre Vladimir Putin e Xi Jinping, uma foto sem fonte circulou online mostrando o presidente russo ajoelhado em frente ao l�der chin�s.
Mas o jornalista italiano David Puente apontou que a decora��o dessa imagem era muito diferente daquela que apareceu na cobertura midi�tica do evento, levantando d�vidas sobre a autenticidade do registro viral.
A descri��o de uma foto e os coment�rios de usu�rios tamb�m podem ser �teis para identificar uma montagem, ou para reconhecer o estilo de uma IA. Enquanto a DALL-E, por exemplo, � conhecida por seus designs ultrarrealistas, a Midjourney remonta a encena��es de celebridades.
Isso pode ser �til para buscar a imagem na ferramenta usada para cri�-la. Em algumas plataformas, como a Midjourney, uma busca detalhada entre as trocas entre usu�rios e o programa autom�tico podem localizar as imagens.
Se n�o for poss�vel encontrar sua origem e n�o houver indica��o do seu contexto, � necess�rio observar a pr�pria imagem.
Analise a imagem
- Encontre uma marca d'�gua
�s vezes, as pistas est�o escondidas na foto: alguns sites colocam uma marca d'�gua em suas cria��es. � o caso do DALL-E, que gera automaticamente uma barra multicolorida no canto inferior direito de todas as suas imagens, ou do Crayion, que coloca um pequeno l�pis de cor vermelha no mesmo lugar.
Mas aten��o: nem todas as plataformas de cria��o de imagem por intelig�ncia artificial aplicam uma marca d'�gua. Al�m disso, h� a possibilidade de o logotipo ter sido removido durante a exporta��o, cortado ou mascarado posteriormente.
- Observe a granula��o da imagem
'Em caso de d�vida, � preciso observar a granula��o da imagem, que ser�, no momento, muito diferente entre uma cria��o de IA e de uma foto real', sublinhou � AFP em 22 de mar�o Tina Nikoukhah, doutora em processamento de imagens no laborat�rio de matem�tica da ENS Paris-Saclay.
Nas vers�es gratuitas de ferramentas de intelig�ncia artificial testadas pela AFP, as imagens geradas tinham um estilo bastante semelhante �s pinturas do movimento hiperrealista, como o exemplo abaixo � esquerda, nesta imagem de 'Brad Pitt em Paris', criada na Stable Diffusion.
Outra imagem, produzida na Dall-E com palavras-chave semelhantes, abaixo � direita, � mais fiel, e mais dif�cil de ser identificada � primeira vista como criada por uma IA.
- Procure inconsist�ncias visuais
Apesar do progresso no campo da intelig�ncia artificial, erros ainda aparecem nesse tipo de conte�do. Esses defeitos s�o, no momento, a melhor forma de reconhecer uma imagem fabricada, explicaram os especialistas.
'Certas caracter�sticas, muitas vezes as mesmas, s�o um problema para a intelig�ncia artificial. S�o essas inconsist�ncias e artefatos que devem ser esmiu�ados, como em um jogo dos 7 erros', destaca Vincent Terrasi.
'No entanto, as IAs est�o melhorando a cada dia e apresentando cada vez menos anomalias, por isso n�o devemos confiar em pistas visuais a longo prazo', alerta Annalisa Verdoliva.
Em mar�o de 2023, essas ferramentas ainda t�m dificuldade em gerar m�os realistas. Isso � evidenciado pelo dedo desproporcionalmente grande de Brad Pitt na imagem criada pela AFP.
Em outro caso, uma jornalista da AFP apontou que um policial tinha seis dedos em uma s�rie de fotos supostamente tiradas em uma manifesta��o contra a reforma da previd�ncia na Fran�a, em 7 de mar�o de 2023.
The hand strikes again: these photos allegedly shot at a French protest rally yesterday look almost real - if it weren't for the officer's six-fingered glove #disinformation#AIpic.twitter.com/qzi6DxMdOx
— Nina Lamparski (@ninaism) February 8, 2023
'Atualmente, as ferramentas de intelig�ncia artificial tamb�m t�m dificuldade de gerar reflexos. Uma boa maneira de identificar uma IA �, portanto, procurar sombras, espelhos, �gua, mas tamb�m ampliar os olhos e analisar as pupilas, pois normalmente h� um reflexo quando tiramos uma foto. Muitas vezes tamb�m podemos notar que os olhos n�o s�o do mesmo tamanho, �s vezes com cores diferentes', sublinha Vincent Terrasi.
� o caso desta foto de Emmanuel Macron gerada por uma IA e compartilhada no Instagram. Um zoom com a ferramenta 'lupa' da plataforma Invid-WeVerify mostra que os olhos s�o castanhos e n�o azuis, como os do presidente franc�s. Al�m disso, o tom de marrom � diferente entre os dois olhos.
Os geradores de imagens tamb�m costumam criar assimetrias: isso pode ser visto no rosto, que pode ser desproporcional, ou em certas caracter�sticas, como orelhas que n�o est�o na mesma altura ou ter�o apenas um brinco.
Dentes e cabelos tamb�m s�o dif�ceis de imitar e podem mostrar, em termos de contorno ou textura, que a imagem n�o � real.
Alguns elementos tamb�m podem ser mal integrados, como �culos escuros que se fundem no rosto.
Por fim, especialistas tamb�m apontam que mesclar diversas imagens pode gerar problemas de ilumina��o.
- Olhe para o fundo da imagem
Observe que as anomalias visuais geralmente ficam ocultas no fundo da foto.
Em imagens � primeira vista ultrarrealistas de Barack Obama e Angela Merkel na praia, o fundo denuncia uma montagem: uma das pessoas est� com as pernas cortadas.
'Quanto mais distante um elemento estiver, mais desfocado e deformado ficar�, e ter� perspectivas incorretas', continua Vincent Terrasi.
Na foto falsa do encontro entre Xi Jinping e Vladimir Putin, uma linha ao fundo n�o est� reta. Al�m disso, a cabe�a de Putin parece desproporcional em rela��o ao resto de seu corpo. David Fischinger disse � AFP que essas inconsist�ncias denunciam a imagem gerada por meio de intelig�ncia artificial.
- Use o senso comum
Alguns elementos podem n�o estar necessariamente distorcidos, mas ainda assim podem n�o fazer sentido. '� bom confiar no bom senso' quando duvidar de uma imagem, continua o especialista.
Esta foto, gerada pela AFP na Midjourney e que deveria mostrar Paris, retrata, por exemplo, uma placa azul de sentido proibido, um modelo de sinaliza��o que n�o existe na Fran�a.
Essa pista, associada aos dedos com as pontas cortadas e � uma diferen�a de ilumina��o em algumas janelas, sugere que a imagem � uma cria��o da IA. A marca d'�gua no canto inferior direito da imagem acaba com qualquer d�vida de que a foto � da DALL-E.
Al�m disso, embora a foto gerada para esse exemplo devesse mostrar Brad Pitt, o resultado est� bem distante de ser semelhante.
Finalmente, se uma imagem � apresentada como sendo de um evento mas h� d�vidas sobre sua origem, o melhor a fazer � buscar informa��es para ver se foi publicada por fontes confi�veis e se o epis�dio realmente aconteceu. Caso positivo, pode ser �til buscar registros oficiais do momento para comparar elementos.
Para um encontro entre duas lideran�as pol�ticas, isso pode significar, por exemplo, a vestimenta dos chefes de Estado, as circunst�ncias do evento, o clima da �poca, a decora��o, ou mesmo as imagens da multid�o ao fundo.