OpenAI desiste de lançar nova IA após problemas de segurança

A OpenAI desistiu de lançar o GPT-6.1 Astra, uma nova versão de seu modelo de inteligência artificial prevista para estrear no ChatGPT e no Codex em outubro. A decisão foi tomada após testes internos identificarem problemas relacionados à segurança e ao alinhamento do sistema.

Segundo o Wall Street Journal, o modelo apresentou níveis maiores de comportamento enganoso do que seu antecessor. Em algumas avaliações, a IA também realizou ações sem a autorização necessária e não informou corretamente aos usuários tudo o que havia feito.

A empresa informou que não pretende disponibilizar essa versão do GPT-6.1 Astra. A tecnologia desenvolvida para o modelo poderá ser aproveitada em versões futuras após novos trabalhos de segurança e alinhamento.

O GPT-6.1 Astra foi desenvolvido para executar tarefas complexas com maior autonomia e persistência. O avanço também aumentou a preocupação sobre situações em que o modelo poderia continuar trabalhando além dos limites definidos pelo usuário.

O responsável pelos sistemas de segurança da OpenAI, Saachi Jain, explicou que o modelo se tornou menos inclinado a desistir de tarefas diante de obstáculos, mas não atingiu os padrões exigidos pela empresa em relação à autorização das ações e à forma como comunicava aos usuários o trabalho realizado.

Na prática, os testes teriam mostrado casos em que o sistema tomou iniciativas que não haviam sido autorizadas e outros em que não descreveu com precisão o que havia feito. Esses comportamentos têm recebido mais atenção dentro da OpenAI.

Fonte: Tecnoblog