Por que cientistas temem futuro catastr�fico causado pela intelig�ncia artificial

A intelig�ncia artificial tem o incr�vel poder de mudar a forma como vivemos, para o bem e para o mal — e os especialistas t�m pouca confian�a de que os que est�o no poder estejam preparados para o que est� por vir.

Em 2019, o grupo de pesquisa sem fins lucrativos OpenAI criou um software que era capaz de gerar par�grafos de texto coerente e fazer an�lise e compreens�o rudimentar de textos sem instru��es espec�ficas.

Inicialmente, a OpenAI decidiu n�o tornar sua cria��o — chamada de GPT-2 — totalmente dispon�vel para o p�blico. O receio era que pessoas mal intencionadas pudessem us�-la para gerar grandes quantidades de desinforma��o e propaganda.

• Leia: ChatGPT e Deus

Em comunicado � imprensa anunciando a decis�o, o grupo chamou o programa de "perigoso demais" na �poca.

Desde ent�o, tr�s anos se passaram, e a capacidade da intelig�ncia artificial aumentou exponencialmente.

Em contraste com a �ltima distribui��o limitada, a nova vers�o, o GPT-3, foi disponibilizada prontamente em novembro de 2022.

A interface ChatGPT derivada dessa programa��o foi o servi�o que gerou milhares de artigos de not�cias e postagens de rede social, enquanto rep�rteres e especialistas testavam seus recursos — muitas vezes, com resultados impressionantes.

O ChatGPT escreveu roteiros de stand-up comedy no estilo do falecido humorista americano George Carlin sobre a fal�ncia do Silicon Valley Bank. Opinou sobre a teologia crist�, escreveu poesia e explicou f�sica qu�ntica para uma crian�a, como se fosse o rapper Snoop Dogg.

Outros modelos de intelig�ncia artificial, como o Dall-E, produziram imagens t�o convincentes que geraram pol�mica sobre sua inclus�o em sites de arte.

Pelo menos a olho nu, as m�quinas aprenderam a ser criativas.

Em 14 de mar�o, a OpenAI apresentou a �ltima vers�o do seu programa, o GPT-4. O grupo afirma que ele apresenta limites mais s�lidos contra usos abusivos. Os primeiros clientes incluem a Microsoft, o banco Merrill Lynch e o governo da Isl�ndia.

E o tema mais quente na confer�ncia interativa South by Southwest — uma reuni�o global de formuladores de pol�ticas, investidores e executivos da �rea de tecnologia, realizada em Austin, no estado americano do Texas — foi o potencial e o poder dos programas de intelig�ncia artificial.

'Para o bem e para o mal'

• Veja: ChatGPT, Sofistas e a burrice de cada dia

Arati Prabhakar, diretora do Escrit�rio de Pol�tica de Ci�ncias e Tecnologia da Casa Branca, afirmou que est� entusiasmada com as possibilidades da intelig�ncia artificial, mas tamb�m fez um alerta.

"O que todos n�s estamos vendo � o surgimento dessa tecnologia extremamente poderosa. � um ponto de inflex�o", declarou ela na confer�ncia.

"Toda a hist�ria demonstra que esse tipo de tecnologia, nova e potente, pode e ser� usada para o bem e para o mal."

J� Austin Carson, fundador da SeedAI, um grupo de consultoria sobre pol�ticas de intelig�ncia artificial, que participou do mesmo painel, foi um pouco mais direto.

"Se, em seis meses, voc�s n�o tiverem perdido completamente a cabe�a [e soltou um palavr�o], pago um jantar", disse ele ao p�blico presente.

"Perder a cabe�a" � uma forma de descrever o que pode vir a acontecer no futuro.

Amy Webb, chefe do instituto Future Today e professora de neg�cios da Universidade de Nova York, nos EUA, tentou prever as poss�veis consequ�ncias. Segundo ela, a intelig�ncia artificial pode seguir uma dentre duas dire��es nos pr�ximos 10 anos.

Em um cen�rio otimista, o desenvolvimento da intelig�ncia artificial vai se concentrar no bem comum, com um design de sistema transparente, e os indiv�duos v�o ter a capacidade de decidir se suas informa��es dispon�veis ao p�blico na internet ser�o inclu�das na base de dados de conhecimento da intelig�ncia artificial.

Nesta vis�o, a tecnologia serve como uma ferramenta que facilita a vida, tornando-a mais integrada, � medida que a intelig�ncia artificial passa a estar dispon�vel em produtos de consumo que podem antecipar as necessidades do usu�rio e ajudar a desempenhar virtualmente qualquer tarefa.

O outro cen�rio previsto por Webb � catastr�fico. Envolve menos privacidade de dados, poder mais centralizado em poucas companhias, e a intelig�ncia artificial antecipa as necessidades do usu�rio, mas as entende errado ou, no m�nimo, reprime suas escolhas.

Ela acredita que o cen�rio otimista tem apenas 20% de chance de acontecer.

Webb afirma � BBC que o rumo que a tecnologia vai tomar depende, em grande parte, do grau de responsabilidade das empresas que v�o desenvolv�-la. Ser� que elas v�o fazer isso de forma transparente, revelando e fiscalizando as fontes das quais os chatbots — chamados pelos cientistas de Grandes Modelos de Linguagem (LLM, na sigla em ingl�s) — extraem suas informa��es?

• Confira: Esque�a o ChatGPT, nossos alunos pedem algo mais que a tecnologia

O outro fator, segundo ela, � se o governo — incluindo os �rg�os federais de regulamenta��o e o Congresso — pode agir rapidamente para estabelecer prote��es legais para orientar os desenvolvimentos tecnol�gicos e evitar seu uso indevido.

Nesse sentido, a experi�ncia dos governos com as empresas de redes sociais — Facebook, Twitter, Google e outras — � um indicativo. E n�o � uma experi�ncia encorajadora.

"O que ouvi em muitas conversas foram preocupa��es de que n�o existe nenhuma barreira de prote��o", afirmou Melanie Subin, diretora-gerente do instituto Future Today, na confer�ncia South by Southwest.

"Existe a sensa��o de que algo precisa ser feito."

"E acho que as redes sociais, como uma li��o, � o que fica na mente das pessoas quando elas observam a rapidez do desenvolvimento da intelig�ncia artificial criativa", acrescentou.

Combatendo o ass�dio e o discurso de �dio

Nos Estados Unidos, a supervis�o federal das empresas de redes sociais � baseada, em grande parte, na Lei de Dec�ncia nas Comunica��es, aprovada pelo Congresso americano em 1996, al�m de uma cl�usula curta, mas poderosa, contida no artigo 230 da lei.

O texto protege as empresas da internet de serem responsabilizadas pelo conte�do gerado pelos usu�rios em seus sites. � considerado respons�vel por criar um ambiente legal no qual as empresas de redes sociais poderiam prosperar. Mas, mais recentemente, tamb�m est� sendo acusado de permitir que essas mesmas empresas ganhem muito poder e influ�ncia.

Os pol�ticos de direita reclamam que a lei permitiu que os Googles e Facebooks da vida censurassem ou reduzissem a visibilidade das opini�es conservadoras. J� os de esquerda acusam as empresas de n�o fazerem o suficiente para evitar a dissemina��o de discursos de �dio e amea�as violentas.

"Temos a oportunidade e a responsabilidade de reconhecer que o discurso de �dio gera a��es de �dio", afirmou Jocelyn Benson, secret�ria de Estado de Michigan, nos EUA.

• Veja: O sucesso e as pol�micas do ChatGPT

Em dezembro de 2020, a casa de Benson foi alvo de protestos por parte de apoiadores armados de Donald Trump, organizados no Facebook, que contestavam os resultados da elei��o presidencial de 2020.

Ela apoiou leis contra pr�ticas enganosas no seu Estado, que responsabilizaria as empresas de rede social por espalhar informa��es prejudiciais conscientemente.

Propostas similares t�m sido apresentadas a n�vel federal e em outros Estados americanos, al�m de legisla��o que exige que os sites de redes sociais forne�am uma maior prote��o aos usu�rios menores de idade, sejam mais abertos sobre suas pol�ticas de modera��o de conte�do e tomem a��es mais ativas para diminuir o ass�dio online.

Mas as chances de sucesso dessas reformas dividem opini�es. As grandes empresas de tecnologia mant�m equipes inteiras de lobistas na capital americana, Washington, e nas capitais dos Estados. Elas tamb�m contam com cofres abarrotados para influenciar os pol�ticos com doa��es de campanha.

"Apesar das imensas evid�ncias de problemas no Facebook e em outros sites de redes sociais, j� se passaram 25 anos", afirma a jornalista de tecnologia Kara Swisher.

"Ficamos esperando uma legisla��o do Congresso para proteger os consumidores, e eles abriram m�o da sua responsabilidade."

Swisher afirma que o perigo reside no fato de que muitas das empresas que s�o grandes players nas redes sociais — Facebook, Google, Amazon, Apple e Microsoft — agora s�o l�deres na �rea de intelig�ncia artificial.

Se o Congresso n�o conseguir regulamentar com sucesso as redes sociais, ser� um desafio agir rapidamente para lidar com as preocupa��es sobre o que Swisher chama de "corrida armamentista" da intelig�ncia artificial.

As compara��es entre as regulamenta��es de intelig�ncia artificial e as redes sociais tamb�m n�o s�o apenas acad�micas. A nova tecnologia de IA pode navegar pelas �guas j� turbulentas de plataformas como Facebook, YouTube e Twitter e transform�-las em um mar revolto de desinforma��o, � medida que se torna cada vez mais dif�cil distinguir postagens de seres humanos reais de contas falsas — mas totalmente convincentes — geradas por IA.

Mesmo se o governo for bem-sucedido na aprova��o de novas regulamenta��es para as redes sociais, elas podem acabar sendo in�teis se houver um imenso fluxo de conte�do pernicioso gerado por intelig�ncia artificial.

Entre as incont�veis sess�es da confer�ncia South by Southwest, houve uma intitulada "Como o Congresso [americano] est� construindo a pol�tica de IA a partir do zero". Depois de cerca de 15 minutos de espera, os organizadores informaram ao p�blico que o painel havia sido cancelado porque os participantes haviam se deslocado para o lugar errado.

Para quem esperava encontrar sinais de compet�ncia humana no governo, o epis�dio n�o foi nada encorajador.