Microsoft apresenta IA que roda em CPUs comuns com arquitetura de 1 bit

Pesquisadores da Microsoft, em colaboração com um especialista da Universidade da Academia Chinesa de Ciências, apresentaram um novo modelo de inteligência artificial que funciona em CPUs convencionais, sem depender de unidades gráficas (GPUs).

A proposta se destaca por utilizar uma arquitetura de 1 bit — modelo que, segundo os desenvolvedores, pode representar um avanço importante na redução do consumo de energia e de recursos computacionais. O trabalho foi divulgado em um artigo científico no arXiv, repositório onde cientistas e pesquisadores do mundo todo publicam versões preliminares de seus estudos, sem revisão por pares.

Batizado de BitNet b1.58 2B4T, o modelo foi projetado para operar com um ambiente de execução próprio, o bitnet.cpp, e tem como diferencial o uso de pesos codificados apenas com três valores: -1, 0 e 1. Isso permite cálculos com operações simples como adição e subtração, facilitando o uso de CPUs comuns em vez de depender de grandes centros de dados com alto custo energético.

Tradicionalmente, os modelos de linguagem utilizam pesos representados por números de ponto flutuante (geralmente com 8 ou 16 bits), o que exige alto poder de processamento e grande volume de memória. A proposta da Microsoft elimina essa necessidade ao reduzir os dados processados para apenas um bit, tornando o modelo mais leve e menos exigente em termos de hardware.

Durante os testes, o novo modelo demonstrou desempenho compatível com outras IAs da mesma categoria executadas em GPU, superando até algumas delas em eficiência. A expectativa é que a simplificação da arquitetura torne possível a execução de modelos avançados em dispositivos pessoais, como notebooks ou até smartphones, sem a necessidade de conexão com a internet ou servidores externos.

Caso os resultados apresentados se confirmem fora do ambiente de testes, a tecnologia pode representar uma mudança importante na forma como usamos modelos de IA no dia a dia. Além de reduzir significativamente o consumo de energia, essa abordagem permitiria que o processamento fosse feito localmente, preservando a privacidade dos usuários e diminuindo a dependência de serviços em nuvem.

Fonte: Tecnoblog