O que você precisa saber
Um ex-funcionário da área de segurança da OpenAI, empresa responsável pelo ChatGPT, criticou a forma como companhias de inteligência artificial (IA) estão lidando com os riscos associados ao desenvolvimento de sistemas cada vez mais avançados. Segundo David Robinson, a velocidade da corrida tecnológica aumenta a possibilidade de falhas e exige uma postura mais cautelosa.
Em um artigo publicado neste sábado (3) na revista estadunidense The Atlantic, Robinson afirmou que as empresas de IA, incluindo a OpenAI, não estão sendo “nem de perto cuidadosas o suficiente”.
Para o ex-funcionário, as companhias deveriam dar mais espaço a especialistas em segurança e à pesquisa antes de desenvolver sistemas mais avançados. “O tempo de tentativa e erro acabou”, escreveu Robinson.
Na avaliação dele, sistemas avançados de IA precisam de medidas de segurança semelhantes às adotadas em setores, como energia nuclear e aviação.
Robinson também criticou uma prática que a OpenAI chama de “implantação iterativa”, que consiste em lançar sistemas e reforçar as medidas de segurança conforme os problemas aparecem.
As críticas fazem parte de debate no setor de IA sobre a velocidade com que as empresas desenvolvem sistemas cada vez mais avançados. A OpenAI e a concorrente Anthropic têm sido questionadas após episódios em que controles de segurança falharam ou sistemas experimentais apresentaram comportamentos inesperados.
Entre para comentar.