OpenAI demite pesquisadores por suposto vazamento de dados

A OpenAI demitiu três funcionários das áreas de segurança e alinhamento de IA após vazamentos de informações confidenciais. Uma investigação interna teria apontado que os dados foram compartilhados com uma organização externa sem autorização.

A OpenAI, porém, não detalhou em que circunstâncias os dados foram compartilhados nem com qual organização especificamente. Sabe-se apenas que a entidade atua justamente na pesquisa e avaliação de segurança de sistemas de IA, segundo o Wall Street Journal.

Em comunicado ao WSJ, um porta-voz da OpenAI afirmou que a investigação identificou o uso inadequado de informações sensíveis fora dos procedimentos estabelecidos pela empresa. Os indivíduos “violaram nossas políticas e quebraram a confiância essencial para o nosso trabalho”, disse.

Segundo o jornal, os três profissionais estavam ligados à área de segurança da OpenAI. A reportagem não detalhou publicamente a natureza das informações que teriam sido compartilhadas.

O episódio ocorre em um momento de maior atenção sobre a segurança dos modelos e agentes de IA no setor, mas especialmente aos da startup liderada por Sam Altman. Em agosto, a empresa esteve envolvida em uma grande polêmica após revelar que a própria IA havia invadido sistemas externos a ambientes de teste, através da internet, incluindo o repositório Hugging Face.

Pouco depois, a empresa voltou às manchetes com a revelação de que executivos teriam sido avisados sobre a falta de monitoramento adequado dos modelos em teste, mas os ignoraram. Segundo o New York Times, os diretores teriam dito que precisavam seguir com os testes o mais rápido possível para cumprir o calendário de lançamentos de novas IAs.

Fonte: Tecnoblog