Shoggoth: o meme de IA que simboliza mist�rio e desconforto

H� alguns meses, em um encontro com um profissional de intelig�ncia artificial em San Francisco, deparei-me com um adesivo curioso em seu notebook. A imagem mostrava uma criatura amedrontadora, assemelhando-se a um polvo, com in�meros olhos e um sorriso amarelo em um de seus tent�culos. Ao perguntar do que se tratava, o executivo respondeu: 'Ah, � o Shoggoth, o meme mais significativo da IA'. A partir da� nossa conversa tomou um rumo diferente.

O Shoggoth tornou-se uma refer�ncia humor�stica entre profissionais de intelig�ncia artificial como uma met�fora visual que representa o funcionamento de um grande modelo de linguagem (como o ChatGPT e outros chatbots). Entretanto, o meme tamb�m reflete o desconforto de muitos pesquisadores e engenheiros diante das ferramentas que est�o desenvolvendo. Rapidamente, o Shoggoth ganhou popularidade no universo da IA, tornando-se um meme comum no Twitter, uma met�fora recorrente em ensaios e postagens sobre riscos da IA, al�m de um atalho �til em conversas com especialistas em seguran�a de IA.

A NovelAI, uma startup de IA, nomeou recentemente um cluster de computadores como 'Shoggy' em homenagem ao meme, enquanto a Scale AI projetou uma linha de sacolas estampadas com o Shoggoth. Essas criaturas fict�cias foram criadas pelo autor de fic��o cient�fica H.P. Lovecraft em sua novela de 1936 'Nas Montanhas da Loucura'. Na obra, os Shoggoths eram monstros enormes e gosmentos, cobertos de tent�culos e olhos.

O Shoggoth entrou no mundo da IA em dezembro, ap�s o lan�amento do ChatGPT, quando um usu�rio do Twitter, @TetraspaceWest, respondeu a um tweet sobre o GPT-3 (modelo de linguagem da OpenAI que antecedeu o ChatGPT) com a imagem de dois Shoggoths desenhados � m�o. A piada consistia em treinar modelos de linguagem de IA para se comportarem de forma educada e inofensiva usando o m�todo 'aprendizado por refor�o a partir de feedback humano' (RLHF, na sigla em ingl�s).

A met�fora do Shoggoth ganhou for�a � medida que os chatbots de IA se popularizaram e os usu�rios come�aram a perceber comportamentos estranhos e inexplic�veis que n�o foram planejados por seus criadores. A comunidade de IA utiliza o Shoggoth como uma refer�ncia � natureza enigm�tica desses sistemas, � maneira como desafiam a l�gica humana e como um lembrete das preocupa��es envolvendo a IA.

O fato de alguns especialistas em IA se referirem �s suas cria��es como monstros de Lovecraft revela o desconhecimento sobre o funcionamento interno dos modelos de linguagem da IA, como adquirem novas habilidades e por que �s vezes agem de maneira imprevis�vel. Eles n�o t�m certeza se a IA ser� ben�fica ou prejudicial para o mundo, e alguns brincam com as vers�es dessa tecnologia que ainda n�o foram aprimoradas para o p�blico – os verdadeiros Shoggoths sem m�scara.