O que você precisa saber
Nesta sexta-feira (07), a OpenAI anunciou a suspensão de atividades internas relacionadas ao Astra, um modelo de inteligência artificial ainda em desenvolvimento, após análises apontarem avanços considerados relevantes em programação autônoma e cibersegurança. A empresa informou que não conseguiu excluir a possibilidade de o sistema alcançar um nível crítico de capacidade ofensiva digital.
A decisão foi tomada pela própria OpenAI após avaliações internas e análises de especialistas indicarem que o modelo poderia se aproximar de critérios de risco estabelecidos pelo framework de preparação da companhia. O caso envolve a preocupação com sistemas capazes de executar tarefas complexas de segurança digital sem supervisão humana.
O anúncio ocorre em meio a uma sequência de episódios envolvendo testes de segurança com modelos de inteligência artificial. A OpenAI afirmou que o Astra não participou do incidente relacionado ao Hugging Face mencionado em avaliações anteriores.
A suspensão ocorreu depois que avaliações internas indicaram que o Astra apresentava melhorias significativas em tarefas relacionadas à criação de código e operações de segurança digital. Conforme a OpenAI, esses resultados foram suficientes para levantar a possibilidade de o modelo atingir o nível mais elevado de alerta previsto em sua estrutura de preparação.
Dentro dos critérios estabelecidos pela empresa, uma inteligência artificial seria considerada de capacidade cibernética crítica caso conseguisse encontrar e desenvolver vulnerabilidades inéditas de diferentes níveis de gravidade em sistemas reais protegidos, sem auxílio humano, ou ainda criar estratégias completas de ataque contra alvos reforçados a partir de objetivos gerais.
A companhia afirmou que a avaliação não significa que o Astra tenha realizado ataques ou explorado falhas em sistemas externos. Segundo a OpenAI, o modelo em desenvolvimento não teve participação no episódio envolvendo o Hugging Face.
Entre para comentar.