O que você precisa saber
Google, OpenAI e Anthropic estão mais perto de criar uma organização independente para desenvolver padrões de segurança para sistemas de inteligência artificial (IA) de fronteira. A iniciativa surge em meio ao aumento do debate sobre como tecnologias cada vez mais avançadas devem ser regulamentadas.
Segundo o The Information, o grupo de segurança está tomando forma e as três empresas estão chamando provisoriamente a organização de Standards Authority for Frontier AI (SAFA).
A proposta é que a entidade opere de maneira independente e ajude a preencher lacunas na supervisão governamental sobre a IA.
A ideia de estabelecer padrões mais amplos ganhou ainda mais atenção nesta semana, quando os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, falaram sobre segurança de IA no Conselho de Segurança das Nações Unidas (ONU).
Altman afirmou que decisões importantes relacionadas à IA deveriam ser moldadas por instituições democráticas e governos. Amodei, por sua vez, defendeu acordos internacionais e padrões globais para testar novos modelos de IA.
A OpenAI também já pediu separadamente que os Estados Unidos liderem esforços internacionais para estabelecer padrões técnicos para sistemas avançados de IA, incluindo tecnologias capazes de realizar autoaperfeiçoamento recursivo.
Entre para comentar.