Você já ouviu falar do Shoggoth? Se ainda não, você vai!

Alguns meses atrás, ao se encontrar com um executivo de IA em San Francisco, EUA, o repórter Kevin Roose, do The Ney York Times, viu um adesivo estranho no laptop do entrevistado.

O adesivo mostrava um desenho animado de uma criatura ameaçadora, semelhante a um polvo, com muitos olhos e um rosto sorridente amarelo preso a um de seus tentáculos. Ele perguntou o que era. “Oh, esse é o Shoggoth,” explicou o executivo. “É o meme mais importante da IA.”

Leia mais:

Dali em diante, nada de chatbots e clusters de computação – o tema passou a ser o Shoggoth, o que significava e por que as pessoas no mundo da IA estavam falando sobre isso.

O executivo explicou que o Shoggoth se tornou referência popular entre os trabalhadores em inteligência artificial, como metáfora visual vívida de como um grande modelo de linguagem (o tipo de sistema de IA que alimenta o ChatGPT e outros chatbots) realmente funciona.

Mas foi apenas parcialmente uma piada, disse o executivo, porque também insinuou a ansiedade que muitos pesquisadores e engenheiros têm sobre as ferramentas que estão construindo.

Desde então, o Shoggoth se tornou viral, ou o mais viral possível no pequeno mundo dos insiders da IA hiper-online. É um meme popular na IA do Twitter (incluindo um tuíte excluído de Elon Musk), uma metáfora recorrente em ensaios e postagens em quadros de mensagens sobre os riscos da IA e um pouco de taquigrafia útil em conversas com especialistas em segurança de IA.

Uma startup de IA, a NovelAI, afirmou que, recentemente, batizou um cluster de computadores de “Shoggy” em homenagem ao meme. Outra empresa de IA, a Scale AI, projetou linha de sacolas com o Shoggoth.

Mas, afinal, o que são os Shoggoths?

• Shoggoths são criaturas fictícias, introduzidas pelo autor de ficção científica H.P. Lovecraft em sua obra de 1936 “Nas Montanhas da Loucura”;
• Na narrativa de Lovecraft, os Shoggoths eram monstros maciços, parecidos com bolhas, feitos de gosma negra iridescente, cobertos de tentáculos e olhos;
• Os Shoggoths desembarcaram no mundo da IA em dezembro, um mês após o lançamento do ChatGPT;
• O usuário do Twitter TetraspaceWest respondeu a um tuíte sobre o GPT-3 com imagem de dois Shoggoths desenhados à mão – o primeiro rotulado como “GPT-3” e o segundo rotulado como “GPT-3 + RLHF”;
• O segundo Shoggoth tinha, empoleirado em um de seus tentáculos, uma máscara de rosto sorridente.

Shoggoths desembarcaram no mundo da IA em dezembro, um mês após o lançamento do ChatGPT, quando o usuário do Twitter TetraspaceWest respondeu a um tuíte sobre o GPT-3, com imagem de dois Shoggoths desenhados à mão – o primeiro rotulado como “GPT-3” e o segundo rotulado como “GPT-3 + RLHF”. O segundo Shoggoth tinha, empoleirado em um de seus tentáculos, uma máscara de rosto sorridente.

Em poucas palavras, a piada era que, para evitar que modelos de linguagem de IA se comportem de maneiras assustadoras e perigosas, as empresas que trabalham com a tecnologia tiveram que treiná-los para agir de forma educada e inofensiva.

Uma maneira popular de fazer isso é chamada de “aprendizado por reforço a partir do feedback humano”, ou R.L.H.F., processo que envolve pedir aos humanos para pontuar as respostas do chatbot e alimentar essas pontuações de volta no modelo de IA.

A maioria dos pesquisadores de IA concordam que os modelos treinados usando R.L.H.F. são mais bem comportados do que os modelos sem ele. Mas alguns argumentam que ajustar um modelo de linguagem dessa maneira não torna o modelo subjacente menos estranho e inescrutável. Na visão deles, é apenas uma máscara frágil e amigável que obscurece a misteriosa fera por baixo.

TetraspaceWest, o criador do meme, disse que o Shoggoth “representa algo que pensa de uma maneira que os humanos não entendem e que é totalmente diferente da maneira como os humanos pensam”.

Comparando um modelo de linguagem de IA para um Shoggoth, TetraspaceWest afirmou que não estava necessariamente implicando que era mau ou senciente, apenas que sua verdadeira natureza pode ser incompreensível.