"O algoritmo vai em busca de teorias da conspira��o"

A filha de Christine, moradora do Rio de Janeiro, tinha 10 anos quando subiu no YouTube um v�deo no qual brincava na piscina de casa com as amigas. O canal gerenciado pela m�e costumava ter uma m�dia de dezenas de curtidas, geralmente vindas de coleguinhas da escola. Nesse dia, o v�deo da piscina teve milhares de visualiza��es. 

Christine ficou preocupada e, em pouco tempo, descobriu que o algoritmo do YouTube havia selecionado o material para ser oferecido como conte�do de crian�as semi-nuas. Apesar das diretrizes do site relacionadas ao consumo de pornografia infantil e apesar de o v�deo ter sido retirado do canal, ele continuou circulando ap�s dezenas de compartilhamentos em consequ�ncia da sele��o do algoritmo. 

Em Mianmar, uma ditadura acabava de ser substitu�da por um regime democr�tico quando o Facebook desembarcou no pa�s com um presente para uma popula��o pobre e oprimida: um acordo com uma operadora de telefonia oferecia pacote gratuito de dados, o que permitia acesso ilimitado � rede. 

Com a popula��o inteiramente conectada, a incita��o de �dio de um monge no Facebook contra a minoria mu�ulmana do pa�s tomou propor��es catastr�ficas e dimens�o de genoc�dio. No Sri Lanka, um boato no Facebook de que turistas estariam sequestrando crian�as para tr�fico de �rg�os levou a assassinatos violentos e, no Brasil e nos Estados Unidos, presidentes se elegeram com discursos de �dio que pregavam a elimina��o dos advers�rios.

Hist�rias como essas s�o pontos de partida para o jornalista americano Max Fisher, rep�rter do “New York Times” e finalista do pr�mio Pulitzer, fisgar o leitor no livro “A m�quina do caos — Como as redes sociais reprogramaram nossa mente e nosso mundo”, rec�m-lan�ado pela Todavia. O livro � fruto de uma pesquisa que envolve entrevistas com centenas de estudiosos, executivos do Vale do Sil�cio, engenheiros, psic�logos, soci�logos e v�timas de algoritmos.

Leia tamb�m: 

Castro Rocha: "Brasil � laborat�rio de cria��o de realidade paralela" 

Fisher mergulha com propriedade no universo das big techs com o objetivo de mostrar como a combina��o entre o lucro a qualquer custo e algoritmos aut�nomos proporcionam um terreno perigoso para o desenvolvimento do discurso de �dio e do extremismo. "Sucessivos estudos mostraram que os algoritmos, na maior parte das redes sociais, consistentemente promovem ideias e teorias da conspira��o que se alinham com a extrema direita", diz Fisher. "Mas isso n�o � porque as pessoas que est�o nas redes querem esse tipo de conte�do deliberadamente."

Segundo o autor, a maior parte das pessoas que est�o nas redes s�o moderadas na maneira como veem o mundo e t�m tend�ncia em encarar as redes como um instrumento de progresso. No entanto, devido � natureza humana, sentimentos de medo, �dio e indigna��o geram mais engajamento, o que alimenta o algoritmo e o leva a oferecer esse tipo de conte�do. 

O caminho, segundo o pesquisador, acaba levando a uma toca de coelho: quanto mais conte�do violento, extremista e que propague o �dio o usu�rio assiste, mais as redes oferecem. "O resultado � que o algoritmo da rede social aprendeu a potencializar esses sentimentos para nos tornar o mais ativos poss�vel on-line, o que gradualmente leva as pessoas para ideias de extrema direita", lamenta Fisher.

Uma das solu��es apontadas pelo autor seria a regula��o das redes, tema que tem pautado discuss�es no mundo inteiro, inclusive no Brasil. Ataques a escolas orquestrados e estimulados nas redes sociais, o julgamento no STF sobre a responsabiliza��o de big techs pelos conte�dos postados pelos usu�rios e a extens�o do Marco Civil da Internet, segundo o qual as plataformas n�o podem decidir sobre o conte�do publicado pelos internautas s�o quest�es com impactos diretos na sociedade brasileira contempor�nea. 

"As redes sociais s� podem se tornar um lugar mais saud�vel se as pr�prias plataformas forem for�adas a mudar seus sistemas subjacentes", diz Fisher. Leia a seguir entrevista com o escritor.

 

Os algoritmos das redes sociais, que operam em parte de maneira aut�noma, aprendem por eles mesmos a promover qualquer conte�do que maximize o engajamento do usu�rio a longo prazo. E isso faz com que, sucessivamente, o algoritmo v� em busca de teorias da conspira��o em geral, do extremismo e, em �ltima an�lise, a formas dos dois que tendem a se alinhar com a extrema direita.

A raz�o para isso tem a ver principalmente com a natureza inata do ser humano. Sentimentos de n�s contra eles, tribalismo, medo, �dio e especialmente indigna��o s�o extremamente estimulantes. Esses sentimentos s�o desagrad�veis, mas eles nos tornam socialmente extremamente ativos, especialmente quando buscamos nos integrar no nosso pr�prio grupo e contra aqueles percebidos como amea�a. Essa tend�ncia tem ra�zes profundas na evolu��o humana.

Eu n�o acho que estou qualificado para dizer quais tipos de ideias est�o ou n�o inclu�das no direito de livre express�o. Cada sociedade tem que decidir isso por si mesma. Mas eu acho que as sociedades democr�ticas em todo lugar est�o reconsiderando esta quest�o � medida que o �dio e o extremismo est�o aumentando.

Regular as redes sociais � muito dif�cil porque os governos ainda est�o decidindo exatamente o que querem regular. Em um ambiente onde os algoritmos das plataformas incentivam bilh�es de usu�rios a se comportar de maneiras incrementalmente mais prejudiciais, punir usu�rios individuais por suas postagens n�o mudar� nada.

As redes sociais s� podem se tornar um lugar mais saud�vel se as pr�prias plataformas forem for�adas a mudar seus sistemas subjacentes. Mas isso � dif�cil porque requer escrever regras extremamente t�cnicas em rela��o a algoritmos complexos que s�o muito dif�ceis de serem compreendidos at� pelos engenheiros mais inteligentes do mundo, e porque exigir� impor regras que prejudicar�o os interesses financeiros dessas empresas.

As empresas de m�dia social sabem, h� v�rios anos, que s�o seus pr�prios sistemas que impulsionam o �dio nas m�dias sociais. Sabemos que eles t�m consci�ncia disso porque seus pr�prios relat�rios de pesquisa interna provaram isso.

Em 2021, a ex-pesquisadora do Facebook Frances Haugen divulgou dezenas de documentos internos do Facebook que mostraram os pr�prios pesquisadores do Facebook concluindo que a plataforma estava levando um grande n�mero de usu�rios a abra�ar teorias de conspira��o perigosas sobre sa�de, elei��es e grupos extremistas violentos.

Ainda n�o sabemos qu�o poderosas essas ferramentas ser�o de fato e se elas realmente ter�o um impacto em nosso mundo. Quando as pessoas dizem que essas ferramentas trar�o mudan�as dr�sticas, est�o apenas especulando. Quinze anos atr�s, o Vale do Sil�cio desenvolveu uma gera��o anterior de ferramentas de IA chamadas de "deep learning".

Na �poca, assim como agora, previam que essas ferramentas transformariam o mundo. Embora tenham tido um efeito, trazendo desenvolvimentos como o Google Translate e o algoritmo de v�deo do YouTube, seu impacto foi muito menor do que o previsto.

Acredito que � importante desenvolver mecanismos de responsabiliza��o legal para as redes sociais, de forma que leve em conta seu papel na promo��o do �dio e da viol�ncia que j� ajudou a reivindicar um grande n�mero de vidas, como ocorreu em Mianmar.

No entanto, acho que a compara��o com os tribunais de guerra de Nuremberg � inflamat�ria e n�o ajuda em nada. As empresas de m�dia social se assemelham mais a empresas de petr�leo ou de tabaco. Elas n�o s�o nazistas.

Assim como a insurrei��o de 6 de janeiro de 2021 nos Estados Unidos, a viol�ncia de 8 de janeiro no Brasil foi uma demonstra��o do poder das redes sociais de exacerbar - embora n�o de criar explicitamente - o extremismo em massa e as conspira��es at� o ponto da viol�ncia. O papel das redes sociais nesse evento � complexo, e � claro que muitos outros fatores tamb�m desempenharam um papel, mas � ineg�vel.