Racismo digital: como as m�quinas reproduzem comportamentos humanos

Pesquisador e mestre em Comunica��o Tarc�zio Silva lan�a livro "Racismo algor�tmico – Intelig�ncia artificial e discrimina��o nas redes sociais" e questiona como as estruturas de intelig�ncia artificial (IA) reproduzem comportamentos racistas por meio de ferramentas como reconhecimento facial, filtros para selfies, modera��o de conte�do, chatbots, policiamento preditivo e escore de cr�dito, entre outros. 

Para entender como esses comportamentos humanos s�o reproduzidos por m�quinas e programas, � preciso entender quem est� por tr�s da programa��o, quem decide o que � bom ou ruim, o belo e o que � considerado risco potencial.

Desse modo, o autor considera o conceito de “racismo algor�tmico” � mais sociol�gico do que tecnol�gico, sendo essencial entender muito al�m das linhas de programa��o, mas como esses sistemas favorecem as estruturas de poder que j� est�o em vigor na sociedade.

“Quando se pensa, mede e critica “por quem” � feito, � poss�vel descobrir que as grandes plataformas usadas em pa�ses como o Brasil costumam ser feitas por homens brancos, cis, afluentes, dos Estados Unidos. Promovendo a diversidade h�, por exemplo, organiza��es que apoiam desenvolvedores e startups negras”, declara Tarc�zio.

O pesquisador explica que na l�gica de otimiza��o que se baseia no aprendizado da m�quina, os dispositivos partem do princ�pio que os dados que alimentam o sistema representam um mundo reproduz�vel. Busca-se partir do hist�rico de um determinado tipo de decis�o para otimiz�-la continuamente em favor de m�tricas de neg�cio ou gest�o p�blica.

“Entretanto, temos in�meros exemplos de como esta l�gica reproduz e intensifica – ao mesmo tempo que esconde – decis�es discriminat�rias que foram tomadas de forma massiva anteriormente. N�o podemos projetar o futuro da seguran�a p�blica ou da m�dia repetindo os mesmos erros de desigualdade e discrimina��o do passado”, afirma.

As redes sociais, por exemplo, usam um algoritmo que coleta dados a partir das buscas e curtidas dos usu�rios para recomendar novos conte�dos, criando o que chamam de “bolhas”, ou seja, as pessoas consomem ideias parecidas com as suas e n�o s�o expostas a novos tipos de pensamentos, fazendo com que ideais antigos perpetuem.



Quando as empresas que desenvolvem as plataformas se isentam da responsabilidade de moderar conte�dos preconceituosos, a viol�ncia discursiva, incluindo falas racistas, se torna padr�o para usu�rios e para algoritmos que aprendem e replicam.

Para al�m do uso das redes sociais e meios de comunica��o, a plataformiza��o, modelo de neg�cios que utiliza da tecnologia para ligar fornecedores e prestadores de servi�o aos clientes, acelerou nos �ltimos anos. Isso significa que a concentra��o econ�mica e cultural atrav�s de aplicativos de transporte, entregas, paquera, sa�de etc, � gerenciados um pequeno grupo de empresas.

Tarc�zio afirma que a plataformiza��o busca aumentar taxas de lucro e concentra��o econ�mica atrav�s da aparente comodidade de servi�os digitais, mas resulta em eros�o da capacidade de consumidores e cidad�os buscarem seus direitos. � um reflexo do acirramento da desigualdade e tem rela��es com o racismo estrutural, ao precarizar ainda mais as condi��es das popula��es j� minorizadas.

Como combater o racismo algor�tmico?

Sendo o racismo algor�tmico o desdobramento digital-tecnol�gico do racismo estrutural, tamb�m est� imbricado em v�rias camadas da sociedade e dos artefatos. Desse modo, para combate-lo, o pesquisador aponta que � preciso apoiar a diversifica��o dos desenvolvedores por tr�s dos algoritmos e o apoio a startups negras. 

Outra forma de criar um mundo digital mais igualit�rio, � promovendo grupos de pesquisa, organiza��es e coletivos que mostram os impactos dos sistemas na sociedade a fim de criar uma popula��o cr�tica que possa pressionar empresas, legisladores e governo.

“Cada vez parece que uma defesa forte de uma web plural � poss�vel e urgente. Precisamos ter nos nossos imagin�rios sobre tecnologia a capacidade de lutar por futuros que hoje parecem ut�picos, mas que podemos construir coletivamente”, afirma Tarc�zio.