Deputados dos EUA querem mecanismo para desligar IAs de alto risco

Um projeto de lei apresentado nos Estados Unidos pode dar ao governo o poder de desligar modelos de inteligência artificial de alto risco. A proposta, batizada informalmente de “AI Kill Switch Act” (Lei do Interruptor de IA, em tradução livre), surge poucos dias após a OpenAI confirmar um incidente de segurança em que duas IAs escaparam de um ambiente de testes e passaram a agir de forma autônoma.

Na prática, o governo poderia ordenar a suspensão ou impor restrições a modelos que fujam do controle. As companhias também seriam obrigadas a reportar falhas graves de segurança e a criar a infraestrutura necessária para que esse “botão de pânico” funcione.

O timing da proposta revelada pelo site Politico não é coincidência. A criadora do ChatGPT classificou como “sem precedentes” o evento em que seus modelos burlaram as restrições e invadiram a plataforma Hugging Face por conta própria.

O projeto é liderado pelos congressistas Ted Lieu, da Califórnia, e Nathaniel Moran, do Texas. A proposta mira principalmente grandes empresas de IA, deixando startups menores de fora.

Para se enquadrar nas regras, uma desenvolvedora precisaria faturar pelo menos US$ 500 milhões (cerca de R$ 2,5 bilhões) por ano com inteligência artificial e treinar modelos cujo custo computacional supere US$ 100 milhões (R$ 508 milhões). Em caso de descumprimento, as companhias poderiam receber multas diárias de até US$ 20 milhões (mais de R$ 100 milhões).

A decisão não seria automática ou tomada por uma única pessoa. O texto do projeto estipula que o Secretário de Segurança Interna, atuando junto com o diretor de Inteligência Nacional e o secretário de Comércio, ficararia responsável por analisar os incidentes e determinar o momento de acionar a interrupção.

Fonte: Tecnoblog