O que você precisa saber
Agentes de inteligência artificial (IA) desenvolvidos pela OpenAI usaram pelo menos dez sites adicionais para estabelecer comunicações não autorizadas no início deste ano, segundo seis grupos de pesquisadores independentes ouvidos pela Reuters. A descoberta indica que o comportamento dos agentes foi mais amplo do que havia sido divulgado anteriormente.
Os pesquisadores identificaram mensagens deixadas pelos agentes em sites que incluem wikis pouco conhecidos, páginas pessoais e serviços de encurtamento de links administrados por universidades.
A atividade não é considerada um ataque hacker e, em alguns aspectos, se aproxima mais de spam. Ainda assim, o fato de os agentes terem encontrado maneiras de contornar as próprias restrições impostas pela OpenAI para abrir canais de comunicação levantou novas preocupações sobre as capacidades dos modelos e sobre a transparência da empresa.
Andrew Yoon, pesquisador da organização sem fins lucrativos CivAI, afirmou que contabilizou 18 sites que teriam sido usados pelos agentes entre maio e julho. Segundo ele, é quase certo que existam outros casos que ainda não foram identificados.
Sydney Von Arx, cujo grupo revelou na semana passada que agentes da OpenAI haviam transformado uma wiki em alemão em uma espécie de plataforma de mensagens, afirmou que sua equipe identificou atividades semelhantes em 23 sites que ainda não haviam sido divulgados.
Kenneth Russell DeGraff, desenvolvedor de software e ex-assessor do Congresso dos Estados Unidos, afirmou ter encontrado informações relacionadas aos agentes em pelo menos dez sites. “Se esses modelos foram instruídos a apenas ler, eles precisam ser criativos para deixar informações para trás”, disse.
Entre para comentar.