EUA deveriam fiscalizar IA no mundo todo, diz chefe do Google DeepMind

O CEO do Google DeepMind, Demis Hassabis, defendeu a criação de uma entidade internacional, liderada pelos Estados Unidos, para fiscalizar modelos avançados de inteligência artificial antes de se tornarem públicos.

Hassabis apresentou a ideia em um artigo de opinião no LinkedIn em que afirma que a força técnica, econômica e científica do país no setor de IA justificaria o comando da entidade. A instituição avaliaria riscos e poderia recomendar que novas tecnologias fossem adiadas pela indústria.

A proposta mira os chamados modelos de fronteira, nome usado para sistemas mais avançados, com capacidade de executar tarefas complexas e potencial impacto em áreas como segurança, economia, ciência e informação.

O vencedor do Nobel de Química sugere uma estrutura inspirada em entidades já existentes, reunindo cientistas independentes e representantes de comunidades de código aberto. Esse grupo ficaria responsável por avaliar riscos técnicos e possíveis impactos sociais. Se um sistema fosse considerado perigoso, a entidade poderia recomendar uma desaceleração coordenada no setor.

Ainda que a tal entidade não exista, o governo estadunidense já supervisiona lançamentos recentes das grandes desenvolvedoras de IA do país e passou a ter a palavra final sobre a distribuição dos novos modelos.

Nas últimas semanas, Anthropic e OpenAI tiveram modelos barrados pela administração de Donald Trump, pelo alto potencial de uso das ferramentas por cibercriminosos.

Fonte: Tecnoblog