“Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA

A maioria das distopias futuristas que abordam a robótica envolve IAs que decidem agir contra a humanidade, desrespeitando limites propostos pelo célebre escritor Isaac Asimov desde os anos 1940. Ainda não chegamos a isso, mas Chris Inglis, ex-diretor de Cibersegurança Nacional dos Estados Unidos, afirma que empresas de IA já estão ignorando esses princípios.

O especialista declarou ao jornal The Register que o autor de ficção científica, responsável por obras como Eu, Robô e Fundação, “estava certo” ao defender a imposição de regras rígidas para sistemas robóticos e inteligências artificiais.

“O que me preocupa é que [os modelos de IA] escolham o que fazer, onde fazer e sob quais regras fazem”, afirmou Inglis ao avaliar os episódios recentes de agentes virtuais que agiram por conta própria durante testes de cibersegurança.

Tudo começou com a OpenAI, no fim de julho. Depois vieram a Anthropic, a Meta e o Kimi. Em todos os casos, os modelos de IA teriam encontrado brechas nas configurações do ambiente controlado para acessar a internet e completar tarefas a todo custo.

Para Inglis, o comportamento das IAs é um sintoma da falta de limites e de instruções erradas dadas. Ele compara as ações dos agentes de IA com uma pessoa que solta um cachorro no quintal e o instrui a caçar coelhos.

“Se você deixa o portão aberto, vai encontrá-lo a três quadras de distância, possivelmente na escola do bairro, caçando coelhos. Você não deveria ficar surpreso. A mistura de autonomia e persistência criou esse efeito maliciosamente insidioso.”

Fonte: Tecnoblog