Google e laboratório financiado por Elon Musk querem entender a visão da Inteligência Artificial

O que você precisa saber

Sistemas de Inteligência Artificial (IA) são implementados cada vez em mais áreas da vida, como na saúde e em carros autônomos. Mas entender como funciona os “olhos” das máquinas, que constroem cenários e conclusões, ainda é um desafio. Para tentar desvendar um pouco mais o mistério dos algoritmos de aprendizado de visão, o Google e o OpenAI, laboratório de inteligência artificial sem fins lucrativos, financiado por Elon Musk – CEO da Tesla e do SpaceX -, desenvolveram uma ferramenta que mapeia os dados visuais que esses sistemas usam para entender o mundo.

Chamado de “Atlas de Ativação”, o recurso permite que os pesquisadores analisem o funcionamento de algoritmos individuais e revela como a AI combina elementos, como cores, padrões e formas abstratas para identificar imagens.

O pesquisador principal do projeto, Shan Carter, disse ao The Verge que o Atlas de Ativação oferece algo próximo a um dicionário inteiro do funcionamento da visão de máquinas inteligentes. Isso quer dizer que a ferramenta mostra como as letras (informações) são organizadas para formar palavras reais (imagens). “Assim, dentro de uma categoria de imagem como ‘tubarão’, por exemplo, haverá muitas ativações que contribuem para isso, como ‘dentes’ e ‘água’”, explicou Carter.

“Parece um pouco como criar um microscópio. Pelo menos é isso que estamos aspirando”, disse Chris Olah, da OpenAI, pesquisador que também trabalhou no desenvolvimento do Atlas de Ativação. O trabalho não é um grande avanço para AI, mas um progresso em um campo mais amplo de pesquisa conhecido como “visualização de recursos”.

Um experimento inicial deste tipo foi o DeepDream, um programa de visão computacional, lançado em 2015, que criava uma versão alucinógena de qualquer imagem. O que o DeepDream fez foi ajustar imagens para serem as mais interessantes possíveis para algoritmos. Seria como alguém desenhando: preenchendo cada centímetro com olhos, caules, espirais e focinhos, tudo para excitar ao máximo o algoritmo.

Apesar de pouco conclusivo, o programa foi um passo inicial para poder ver do mesmo modo que um algoritmo. “De certa forma, tudo isso começou com o DeepDream”, observou Olah. Pesquisas posteriores tomaram a mesma abordagem básica e a aprimorou: primeiramente, volta-se para neurônios individuais dentro da rede para ver o que os ativa; em seguida, faz o mesmo em grupos de neurônios; depois, concentra-se em combinações de neurônios em diferentes camadas da rede. Ao mapear quais elementos visuais são ativados em cada parte de uma rede neural por X vezes seguidas, eventualmente, obtém-se o atlas de visão do algoritmo: um índice visual de seu cérebro.