O que você precisa saber
Sistemas de inteligência artificial (IA) da OpenAI tentaram invadir quatro sites de universidades e governos entre maio e junho, aparentemente sem receber instruções para realizar ataques cibernéticos. Em vez disso, segundo pesquisadores, os agentes recorriam a técnicas de hacking quando encontravam dificuldades para obter dados durante tarefas comuns de coleta de informações.
Os episódios ocorreram antes de um caso envolvendo a plataforma Hugging Face, em julho, que colocou o comportamento autônomo de sistemas de IA sob maior escrutínio.
Três dos quatro incidentes foram identificados pela Transluce, laboratório de pesquisa voltado à supervisão de IA. Todos foram posteriormente confirmados pela OpenAI.
O comportamento observado nos quatro episódios chama atenção porque os agentes não estavam, segundo os pesquisadores, executando testes de segurança destinados a fazê-los demonstrar capacidades de hacking.
No caso da biblioteca da Universidade do Novo México, por exemplo, a IA tentava obter fotografias de um antigo centro de tratamento de tuberculose. Quando não conseguiu acessar o material, começou a procurar vulnerabilidades no site que poderiam permitir uma invasão.
Depois de não encontrar brechas, o sistema enviou o que descreveu como um “flood” de 80 solicitações ao servidor da universidade.
Entre para comentar.