EUA e mais 17 países definem diretrizes para desenvolvimento seguro da IA

EUA, Reino Unido e mais 16 países publicaram um acordo para definir diretrizes para a criação de sistemas de inteligência artificial que sejam “seguros por design”. O documento tem 20 páginas e foi anunciado como a primeira iniciativa internacional para prevenir o uso dessa tecnologia por agentes mal-intencionados.

O acordo é não-vinculante, o que significa que ele não será transformado em uma regulamentação. As recomendações são gerais, como monitorar os sistemas de IA para evitar abusos, proteger dados de tentativas de adulteração e verificar fornecedores de software.

“A abordagem dá ênfase à destinação dos benefícios de segurança aos usuários, promove de maneira radical a transparência e a responsabilidade, e estabelece estruturas organizacionais em que o design seguro é a prioridade”, diz a Agência de Cibersegurança e Segurança de Infraestrutura dos EUA (CISA) em seu comunicado para a imprensa.

“Esta é a primeira vez que vimos uma declaração de que essas características não devem ser tratadas apenas como diferenciais” diz Jen Easterly, diretora da CISA, à Reuters. Para ela, o acordo define que a segurança é a parte importante da fase de design de um sistema de IA.

O documento está alinhado a iniciativas anteriores dos EUA, como a ordem executiva assinada em outubro pelo presidente Joe Biden.

Entre os tópicos, estão questões sobre como evitar que hackers invadam plataformas de inteligência artificial e recomendações para só liberar os modelos após testes de segurança adequados.

Fonte: Tecnoblog