O que você precisa saber
A OpenAI afirma ter identificado e interrompido uma campanha coordenada de destilação de modelos de inteligência artificial (IA) que teria como objetivo extrair capacidades de raciocínio protegidas de seus sistemas. Segundo a empresa, uma parte central da atividade foi atribuída a indivíduos associados à chinesa Moonshot AI, desenvolvedora do chatbot Kimi.
A atividade teria começado no início de julho e atingido pico entre os dias 24 e 25 daquele mês, quando a OpenAI identificou 16 mil solicitações feitas por mais de quatro mil usuários, seguindo padrão de extração semelhante. A investigação posteriormente encontrou atividades relacionadas em conjunto de mais de 15 mil usuários. A empresa afirma que interrompeu completamente a campanha em 28 de julho.
A destilação de modelos é uma técnica legítima de treinamento na qual um sistema mais poderoso, chamado de “professor”, produz respostas que podem ser utilizadas para treinar um modelo menor, o “aluno”.
O objetivo pode ser criar sistemas mais baratos e eficientes, capazes de reproduzir determinadas capacidades do modelo maior sem exigir a mesma quantidade de processamento. A prática é utilizada normalmente no desenvolvimento de modelos de IA.
A controvérsia surge quando empresas utilizam modelos proprietários de terceiros para coletar grandes volumes de respostas sem autorização e reproduzir capacidades consideradas protegidas. Nesse contexto, empresas estadunidenses de IA passaram a chamar determinadas operações de destilação ilícita.
O raciocínio intermediário dos modelos se tornou especialmente relevante nesse processo. Em vez de utilizar apenas respostas finais, uma operação de destilação pode tentar coletar informações sobre como um sistema resolve problemas complexos, fornecendo ao modelo que está sendo treinado exemplos mais detalhados de como chegar a determinada conclusão.
Entre para comentar.