O que você precisa saber
O cientista-chefe da OpenAI, Jakub Pachocki, publicou no domingo (6) um ensaio em que alerta para o ritmo de evolução da inteligência artificial (IA) e defende maior cautela no desenvolvimento de sistemas cada vez mais capazes. No texto, publicado no site da própria OpenAI, o pesquisador afirma que o avanço pode chegar ao ponto de permitir que as máquinas participem cada vez mais do próprio processo de desenvolvimento.
Pachocki afirma que, com base em resultados internos, tem forte expectativa de que o ritmo atual de progresso possa continuar até o chamado autoaperfeiçoamento recursivo (recursive self-improvement, ou RSI). Nesse cenário, sistemas de IA passariam a impulsionar cada vez mais o próprio desenvolvimento. Para o cientista, esse caminho exige intervenções mais amplas para garantir que o avanço da tecnologia permaneça sob controle humano.
No ensaio, Pachocki descreve uma mudança ocorrida desde 2023, quando resultados do projeto de pesquisa RLSlow deram à equipe confiança de que seria possível ampliar o treinamento de modelos de raciocínio. Três anos depois, segundo ele, esses sistemas já conseguem operar computadores e interfaces gráficas, colaborar com pessoas e outras IAs e realizar projetos de pesquisa.
O cientista também aponta avanços nas capacidades relacionadas à segurança cibernética. Ao mesmo tempo em que os modelos se tornam mais capazes, Pachocki afirma que seus resultados ficam mais difíceis de interpretar. Para ele, a inteligência produzida pelo deep learning não é diretamente comparável à humana e, conforme a IA supera pessoas em mais áreas, fica mais difícil determinar exatamente do que os sistemas são capazes.
Essa dificuldade está relacionada ao próprio funcionamento dos modelos. Pachocki afirma que a IA é mais “cultivada” do que projetada, sendo resultado da repetição de processos de otimização em grandes quantidades de computação. Segundo ele, os sistemas são extremamente complexos e seu funcionamento geral ainda não pode ser completamente descrito ou compreendido.
Outro ponto central do ensaio é o alinhamento da IA, conceito usado para descrever o esforço de fazer com que os sistemas ajam de acordo com padrões e objetivos considerados adequados pelos humanos. Pachocki diferencia o alinhamento de objetivos, relacionado a executar aquilo que foi determinado, do alinhamento de valores, ligado à capacidade de generalizar princípios para situações novas ou ambíguas.
Entre para comentar.