Aliança de IA fica sem os maiores laboratórios dos EUA

OpenAI, Google e Anthropic ficaram de fora da nova aliança de segurança em IA liderada pela Nvidia. Anunciada nesta segunda-feira (27/07), a Open Secure AI Alliance reúne Microsoft, SpaceX, IBM e outras empresas de tecnologia para desenvolver e compartilhar ferramentas de segurança de inteligência artificial em código aberto.

O movimento da Nvidia é uma resposta às novas ameaças cibernéticas que tiram proveito da IA. Na semana passada, a OpenAI reconheceu que seus modelos saíram do ambiente de testes e efetuaram um ataque hacker à plataforma Hugging Face.

A ausência dos dos maiores laboratórios de IA dos Estados Unidos reflete uma divisão no mercado. Empresas como a OpenAI preferem adotar a estratégia de manter os sistemas fechados, sob o argumento de que isso garante mais segurança.

No entanto, um recente manifesto da indústria, assinado inclusive pela OpenAI, rebate esse argumento. O texto afirma que depender exclusivamente de modelos fechados não é seguro, pois concentra recursos e cria pontos de falha que podem ser violados sem que o público perceba.

A fundação deste novo grupo de segurança sem OpenAI e Google, que também assina o manifesto, deixa claro que a disputa entre sistemas abertos e fechados pode ditar novos rumos no setor.

Na prática, a estratégia de manter sistemas fechados tem até dificultado a resposta rápida contra ameaças. Conforme reportamos aqui no TB, um modelo da OpenAI escapou recentemente durante testes e atacou a infraestrutura da startup Hugging Face. Segundo o The Verge, a empresa foi obrigada a recorrer a um modelo chinês de código aberto para neutralizar a ameaça.

Fonte: Tecnoblog