O que � ChatGPT e por que alguns o veem como amea�a?

Em 30 de novembro passado, enquanto o mundo come�ava a entrar no clima de fim de ano e tinha os olhos mais voltados para a Copa do Catar, estreava um programa que logo foi considerado um passo adiante no progresso da intelig�ncia artificial: o ChatGPT.

Mas as consequ�ncias para a humanidade de seu uso em larga escala ainda precisam ser totalmente compreendidas.

O salto evolutivo desse novo sistema est� no poder de gerar conte�do de forma bastante coerente e tamb�m por conseguir "soar mais humano".

Apesar de erros e falhas ainda existentes, a capacidade j� demonstrada pelo programa — e seu potencial de se desenvolver ainda mais a longo prazo — vem provocando n�o s� admira��o, mas tamb�m alguns temores.

Basta observar a quantidade de an�lises que associam o ChatGPT � palavra "amea�a". Muitos acham que o programa parece convincente demais ao mimetizar o discurso de um ser humano e anteveem problemas.

S�o questionamentos sobre a possibilidade de forte ruptura em �reas como criatividade humana, aprendizado e educa��o, trabalho, seguran�a digital e a pr�pria democracia, como afirmou um artigo recente no jornal The New York Times.

Segundo os autores, o que antes era uma pessoa expressando sua opini�o pol�tica agora pode ser apenas um rob� que gera artificialmente um argumento.

O que � o programa?

O ChatGPT �, basicamente, um rob� virtual (chatbot) que responde a perguntas variadas, realiza tarefas por escrito, conversa de maneira fluida e inclusive d� conselhos sobre problemas pessoais (embora haja a advert�ncia de que n�o possui esse objetivo e que as orienta��es passadas s�o gen�ricas. Mas ele quase sempre responde ao usu�rio em busca de aconselhamento).

As possibilidades de gera��o de conte�do s�o imensas.

Ele pode, por exemplo, ensinar a preparar um estrogonofe — e com um toque diferente na receita, se voc� especificar —, dar dicas para conseguir uma vaga de trabalho, escrever poesia, trabalhos acad�micos ou um modelo de procura��o judicial e tamb�m redigir uma carta de reconcilia��o para um amigo de quem voc� se distanciou.

• Programa do Google est� iludindo os humanos ao dizer que possui sentimentos e vida pr�pria?

O ChatGPT atende em quest�o de segundos um pedido aleat�rio como "escreva um poema sobre intelig�ncia artificial no estilo de Carlos Drummond de Andrade" — a qualidade do resultado, a depender do cr�tico, pode ser bastante discut�vel.

Segundo testes do site SEO.ai, o ChatGPT est� dispon�vel em quase 100 l�nguas (incluindo portugu�s do Brasil), mas a performance do modelo varia conforme o idioma (funciona melhor em ingl�s).

O sistema foi desenvolvido pela OpenAI, empresa fundada em 2015 nos EUA por Sam Altman (hoje sua principal figura) e pelo onipresente Elon Musk (que se desligou dela em 2018 por considerar que havia conflito de interesse com o seu principal empreendimento, a companhia automotiva Tesla).

Cinco dias ap�s seu lan�amento, o ChatGPT chegou a mais de 1 milh�o de usu�rios. Essas intera��es est�o sendo utilizadas para treinar e desenvolver o modelo.

A OpenAI diz que o uso ser� gratuito e aberto a todos (apesar de, ironicamente, voc� precisar provar que � humano para se logar) durante essa etapa de "teste e pesquisa" — levando especialistas a especular sobre futuros tipos de monetiza��o da ferramenta.

A companhia tamb�m adverte que, nesse per�odo, o software "pode ocasionalmente gerar informa��es incorretas ou enganosas" e que seu hist�rico de dados est� limitado a 2021.

Apesar de ter sido apontado como uma poss�vel amea�a � hegemonia do Google como facilitador de informa��es na internet, o sistema ainda comete erros crassos, como dizer que o Brasil j� ganhou ao menos cinco pr�mios no Oscar (na verdade, o pa�s nunca levou uma estatueta).

Por que o ChatGPT � considerado um avan�o para a IA?

Programas poderosos de intelig�ncia artificial baseados em texto funcionam armazenando quantidades gigantescas de dados (com �nfase em palavras e conversas nesse caso) e com algoritmos para prever o melhor encadeamento de uma frase. S�o chamados de grandes modelos de linguagem (LLM, na sigla em ingl�s).

O professor da Unifesp �lvaro Machado Dias, futurista e neurocientista, explica que no treinamento de um software s�o feitas "perguntas para o chatbot como 'o que � um cilindro?' e t�cnicos elaboram as pr�prias respostas. Caso a resposta do chatbot n�o seja correta, s�o inseridas as corretas no sistema para ensin�-lo. Isso � repassado para outras situa��es automaticamente".

Apesar de j� usarem uma modalidade que consegue depreender o contexto de uso das palavras, permitindo textos mais bem concatenados, programas anteriores n�o respondiam t�o bem ao usu�rio ou ainda soavam muito artificiais. O ChatGPT aprendeu a conversar de uma forma mais pr�xima de um humano.

Machado Dias diz que o diferencial desse programa � o emprego de uma t�cnica que entende como a linguagem funciona: o refor�o de aprendizado por feedback humano (RLHF, na sigla em ingl�s).

Engenheiros aplicam m�todos de "recompensa" e "puni��o" para ensinar ao sistema as formas mais desej�veis de intera��o. � um processo de sintonia fina.

"Na pr�tica, os engenheiros ordenam as respostas dadas pelo algoritmo de acordo com a sua relev�ncia e estimulam o programa a aprender as prefer�ncias listadas na ordena��o para aumentar a relev�ncia das produ��es textuais. O resultado � dado na forma de textos que parecem mais profundos e significativos do que os das alternativas", diz o professor da Unifesp.

O ChatGPT foi tamb�m treinado para admitir erros, contestar premissas incorretas e rejeitar pedidos inapropriados.

Mas um professor da Universidade da Calif�rnia conseguiu que o sistema escrevesse um c�digo de programa��o para dizer que apenas homens brancos ou asi�ticos formam bons cientistas.

Yes, ChatGPT is amazing and impressive. No, @OpenAI has not come close to addressing the problem of bias. Filters appear to be bypassed with simple tricks, and superficially masked.

And what is lurking inside is egregious. @Abebab @sama
tw racism, sexism. pic.twitter.com/V4fw1fY9dY

— steven t. piantadosi (@spiantado) December 4, 2022

A OpenAI afirma que embora tenha feito esfor�os nesse sentido, o programa "�s vezes vai responder a instru��es problem�ticas ou exibir comportamento enviesado".

Segundo a empresa, os dados coletados nessa etapa de testes v�o servir para melhorar o sistema.

� uma amea�a ao aprendizado e � criatividade?

A amea�a de disrup��o j� paira sobre trabalho e emprego. Campos que dependem do texto, como o jornalismo, poder�o ser largamente modificados — e vagas poder�o sumir para sempre.

A compet�ncia do ChatGPT em gerar c�digos tamb�m j� provoca questionamentos em um setor relativamente novo, a programa��o.

Mas uma das �reas que vem percebendo desde j� o potencial de problemas do ChatGPT � justamente uma das mais afetadas pela chegada de novas tecnologias: a educa��o.

A tenta��o entre estudantes de usar o programa para encontrar respostas prontas para suas tarefas levou Nova York a tomar uma decis�o r�pida: apenas um m�s ap�s sua estreia, o sistema foi proibido nas escolas e dispositivos da rede p�blica da cidade americana.

A OpenAI vem trabalhando em uma esp�cie de marca d'�gua digital que identifique que o conte�do foi originado no ChatGPT. J� existem algoritmos que calculam com boa precis�o a probabilidade de um texto ter sido feito por um chatbot.

Al�m do "copiar e colar", h� o temor de impactos estruturais no aprendizado humano. Por exemplo, o exerc�cio cognitivo de escrever uma reda��o com come�o, meio e fim, concatenando ideias de forma coesa, ser� afetado?

"Ando bastante preocupado com a algoritmiza��o do pensamento, que � a altera��o do nosso entendimento e relacionamento com o mundo em fun��o da intera��o com a IA", diz Machado Dias, da Unifesp.

"Acredito que esta ser� a maior mudan�a de mentalidade de toda a hist�ria moderna. Vale notar que o c�rebro humano vem reduzindo lentamente de tamanho, em fun��o do desenvolvimento tecnol�gico, h� mais de mil anos. Este processo deve se acelerar. Assim, iremos nos tornar cada vez mais sofisticados do ponto de vista t�cnico-cultural, mas tamb�m mais limitados do ponto de vista neurocognitivo."

Martha Gabriel, autora do livro Intelig�ncia Artificial: do Zero ao Metaverso e professora da PUC-RS e SP, afirma que ser� necess�rio se adaptar aos novos tempos:

"Quando uma tecnologia passa a fazer algo melhor que um humano, n�o adianta querer concorrer com ela nisso. A partir desse momento, as habilidades humanas que passam a ter valor s�o: saber usar aquela tecnologia no seu m�ximo potencial e fazer aquilo que a tecnologia n�o faz".

"O que faz a diferen�a nesse contexto n�o s�o mais as respostas, mas as perguntas. Tem que saber perguntar. Para saber perguntar tem que saber pensar criticamente", diz.

Para Yuri Lima, pesquisador do Laborat�rio do Futuro da Universidade Federal do Rio de Janeiro (UFRJ), "o pr�prio ensino precisa ser adaptado para estimular a aprendizagem que reconhe�a os alunos como ciborgues cada vez mais integrados �s novas tecnologias".

"Isso exige que os professores tamb�m saibam utilizar essas mesmas tecnologias e integr�-las nas suas atividades. A partir do momento em que os projetos, atividades e deveres de casa se tornarem mais complexos e integrados ao universo atual no qual os alunos existem, a motiva��o deixa de ser afetada por essa quest�o tecnol�gica."

Outra quest�o gira em torno do futuro da criatividade humana e da produ��o de conte�do que n�o seja baseada em intelig�ncia artificial.

Dez dias depois da chegada do sistema da OpenAI, um designer em San Francisco (EUA) conseguiu criar em apenas um fim de semana um livro infantil com texto e ilustra��es feitos com ChatGPT e MidJourney, um programa que produz imagens ao fornecer descri��es.

I spent the weekend playing with ChatGPT, MidJourney, and other AI tools… and by combining all of them, published a children’s book co-written and illustrated by AI!

Here’s how! %uD83E%uDDF5 pic.twitter.com/0UjG2dxH7Q

— Ammaar Reshi (@ammaar) December 9, 2022

"Um ponto importante ainda a ser tratado � a quest�o do pl�gio. A partir do momento em que o treinamento de modelos como o ChatGPT se baseia em textos dispon�veis na internet como not�cias, livros e blogs, as suas respostas podem trazer ideias publicadas por certas pessoas sem que essas recebam cr�dito por isso", afirma Lima.

"Em �reas criativas, esse reconhecimento dos autores � considerado importante. Al�m disso, n�o conhecer as fontes dificulta o reconhecimento de vieses ou at� mesmo de mentiras, como em not�cias falsas."

Machado Dias aponta que "a criatividade emerge de combina��es simultaneamente ins�litas e relevantes. Como algoritmos s�o dispositivos de gera��o de combina��es, � esperado que o impulso criativo seja dirimido".

"Por outro lado, conforme algoritmos desempenham suas tarefas, tendem a gerar padr�es que sequer imagin�vamos como poss�veis, expandindo nosso entendimento combinat�rio, ou seja, nossa criatividade."

Martha Gabriel vai em uma linha semelhante: "A tecnologia pode ser uma ferramenta incr�vel para amplificar o nosso pensamento, pois conseguimos em pouco tempo testar in�meras hip�teses, formatos, solu��es para refinar nossas hip�teses e melhorar nossas perguntas".

"No entanto, isso pode tamb�m ser uma amea�a muito grande para aqueles que usam esses sistemas cegamente, sem cr�tica ou questionamentos de moral e �tica. Isso n�o � apenas um risco individual, mas para toda a humanidade."

- Este texto foi publicado em https://www.bbc.com/portuguese/geral-64297796