Facebook desativa inteligência artificial que criou linguagem própria

O que você precisa saber

Um grupo de pesquisadores do Facebook desativou uma inteligência artificial que deixou de falar em inglês e desenvolveu uma linguagem própria para se comunicar. A informação foi publicada hoje pelos sites Independent e Digital Journal.

A inteligência artificial em questão foi criada pela Fair (Facebook AI Research, a divisão de pesquisa da rede social) em junho para simular situações de negociação. Ela tinha dois agentes distintos, chamados de Bob e Alice, que deveriam conversar como se estivessem negociando uma troca.

Ela foi programada para que os dois agentes tentassem chegar à solução que melhor atendesse aos dois, e seu objetivo era ajudar os pesquisadores a entender como duas pessoas podem negociar de maneira mais construtiva. Os agentes recebiam “pontos” para cada negociação bem-sucedida, e, se não conseguissem chegar a um acordo, não ganhavam nenhum ponto.

O problema foi que não havia nenhum incentivo para que os dois agentes usassem apenas uma linguagem em seu processo de negociação. Com o tempo, os dois começaram a perceber que conseguiam se entender melhor usando frases que, para alguém vendo de fora, não faziam o menor sentido. A imagem abaixo mostra como era essa conversa:

Num exemplo citado pela Fast Co. Design, Bob dizia algo como “Eu posso posso eu eu todo o resto”, ao que Alice respondia: “Bolas têm zero para mim para mim para mim para mim para mim para mim para mim para mim para”. Embora o diálogo fosse completamente absurdo para humanos, a inteligência artificial percebeu que conseguia chegar mais rapidamente a acordos mutuamente benéficos usando esse tipo de linguagem.

Segundo Dhruv Batra, um dos pesquisadores envolvidos na criação da rede, “os agentes desistem de usar linguagem compreensível e inventam palavras-código para si mesmos. Por exemplo, se eu disser ‘the’ cinco vezes, você interpreta isso como querendo dizer que eu quero cinco unidades desse item”. Assim, por mais que a língua da inteligência artificial parecesse absurda, ela fazia sentido para os agentes – e funcionava melhor que o inglês para os fins de negociação.