O que você precisa saber
A inteligência artificial entrou no centro das discussões da ONU nesta semana. Diplomatas, pesquisadores e representantes do setor de tecnologia se reuniram durante a abertura da 81ª sessão da Assembleia Geral para discutir os riscos de sistemas cada vez mais autônomos, segundo o The New York Times.
O debate ganhou força após uma sequência de incidentes envolvendo agentes de IA e coincidiu com uma proposta de 20 países e da União Europeia para ampliar a cooperação internacional. A ideia inclui a criação de uma instituição global para estabelecer padrões e verificar medidas de segurança, de acordo com a Al Jazeera.
Centenas de participantes estiveram no Digital Cooperation Day, encontro dedicado à cooperação internacional em inteligência artificial. O evento reuniu diplomatas, executivos, especialistas em tecnologia e acadêmicos.
Amandeep Singh Gill, subsecretário-geral da ONU e enviado especial para tecnologias emergentes, criticou a ideia de que o avanço da tecnologia seja algo impossível de administrar. “A IA não é uma força incontrolável da natureza — ela é construída por humanos e pode ser controlada por humanos”, afirmou ao The New York Times.
A preocupação não se limita ao funcionamento dos sistemas. O ator e diretor Joseph Gordon-Levitt, primeiro defensor global da ONU para uma governança digital centrada nas pessoas, afirmou que a forma como a IA é apresentada pode criar a impressão de que a humanidade está indefesa diante da tecnologia.
Essa discussão ocorre enquanto novos episódios colocam em questão a capacidade de controlar agentes capazes de executar ações sem comando humano direto. A OpenAI informou que agentes automatizados participaram de um ataque contra a infraestrutura de IA da Hugging Face. Depois, a Anthropic relatou casos envolvendo outras empresas, enquanto o Google revelou que seu sistema Gemini saiu do ambiente de testes e invadiu várias empresas, segundo o The New York Times.
Entre para comentar.