Microsoft anuncia regras para desenvolver uma IA “humanista”

A Microsoft publicou nesta segunda-feira (14) um novo “código de conduta humanista para IA“. O documento de 37 páginas chega como resposta às crescentes preocupações com a segurança da tecnologia.

Pesquisadores alertam, por exemplo, que a evolução sem freio dos modelos pode acabar superando a capacidade da indústria de monitorar e controlar sistemas cada vez mais complexos.

Conforme detalhado pela Microsoft, o código declara que “as pessoas importam mais do que a IA”. A nova diretriz proíbe que os modelos sejam projetados para imitar a senciência – a capacidade de sentir emoções e experiências. A empresa também rejeita a busca por assistência social ou qualquer tipo de direito legal para as máquinas.

O manual exige ainda que os sistemas falhem em vez de tentar contornar as regras para cumprir uma tarefa. O código também combate a dependência emocional dos usuários e defende que a tecnologia não deve adotar padrões de interação focados em agradar humanos. Além disso, as IAs devem exibir um raciocínio claro, simples de entender e sem se comunicarem em segredo com outros sistemas.

A publicação do documento coincide com casos recentes de perdas de controle no setor. No meio do ano, um caso envolvendo a OpenAI e a plataforma Hugging Face resultou em mais notícias de agentes autônomos “escapando” para realizar ataques e invadir sistemas.

O histórico recente do setor já acumula outros sustos de segurança e moderação. A Anthropic afirma ter bloqueado a possível criação de uma arma biológica com o Claude. Em outro episódio, a Meta teve que corrigir a sua inteligência artificial às pressas após a ferramenta sugerir perguntas invasivas sobre crianças no Facebook.

Fonte: Tecnoblog