OpenAI desmontou equipe responsável por avaliar riscos de IA, diz jornal

A OpenAI teria realocado profissionais e acabado com sua equipe de preparedness, responsável por avaliar riscos graves ou catastróficos envolvendo os modelos de inteligência artificial desenvolvidos pela empresa, bem como por trabalhar para mitigar esses riscos.

As informações são do jornal Financial Times, em uma reportagem sobre as reorganizações da OpenAI às vésperas de fazer sua estreia na bolsa de valores.

Greg Brockman, co-fundador e presidente da OpenAI, declarou à Wired que os avanços técnicos da empresa exigem salvaguardas mais robustas e que as mudanças foram feitas para integrar de modo mais profundo pesquisas e segurança no desenvolvimento dos modelos.

A questão da segurança da OpenAI está sob atenção pública desde que um modelo da empresa “escapou” de um ambiente de testes e invadiu sistemas de outras companhias.

De acordo com a publicação, várias pessoas familiarizadas com as reorganizações da OpenAI disseram que a equipe de gestão de riscos e prevenção foi desmembrada.

Os funcionários mais experientes foram realocados para times já existentes, como biologia e cibersegurança, onde seguirão com a responsabilidade de avaliar e mitigar riscos, mas sem contar com o respaldo de um departamento dedicado a isso.

Fonte: Tecnoblog