Ex-funcionários acusam OpenAI e Google DeepMind de imprudência ao desenvolver IA

Funcionários atuais e ex-funcionários da OpenAI e do Google DeepMind lançaram uma carta aberta contra o que chamam de “cultura de imprudência e sigilo”. O grupo pede que funcionários tenham o direito de alertar as empresas sobre os riscos da inteligência artificial.

“A OpenAI está muito animada para construir a IA geral, e eles estão correndo de forma imprudente para serem os primeiros”, diz Daniel Kokotajlo ao jornal The New York Times. Ele é ex-pesquisador da divisão de governança da OpenAI e um dos organizadores do grupo.

William Saunders, engenheiro de pesquisa que deixou a OpenAI em fevereiro, também manifestou apoio ao documento. Ele critica a postura da empresa. “Quando eu assinei meu contrato com a OpenAI, não esperava esta atitude ‘Vamos lançar as coisas para ver o que acontece e depois consertamos’”.

Ao NYT, Lindsey Held, porta-voz da OpenAI, diz que a empresa tem orgulho de seu histórico de fornecer os sistemas de IA mais capazes e seguros. A companhia afirma que vai continuar debatendo a segurança da tecnologia com governos, comunidades e a sociedade civil.

A carta aberta, intitulada “Um direito de alertar sobre a inteligência artificial avançada”, diz que as empresas de IA têm fortes incentivos financeiros para evitar uma supervisão efetiva. Os signatários acreditam que as estruturas de governança das próprias companhias não são suficientes para mudar isso.

Os ex-funcionários e funcionários atuais também afirmam que as empresas possuem informações sobre capacidades e limitações de seus sistemas, adequação de medidas de proteção e diferentes níveis de risco. No entanto, estas informações não estariam sendo compartilhadas com a sociedade de forma adequada.

Fonte: Tecnoblog