O que você precisa saber
A Microsoft publicou nesta segunda-feira (14) um código de conduta para seus modelos de inteligência artificial (IA), elaborado em meio ao aumento das preocupações sobre a segurança e o avanço das capacidades da tecnologia. O documento, chamado de “Humanist AI Code of Conduct”, tem 37 páginas e estabelece princípios para orientar o desenvolvimento e o funcionamento dos sistemas da empresa.
Entre os principais pontos está a afirmação de que “as pessoas importam mais do que a IA”. A Microsoft determina que seus modelos devem permanecer subordinados aos seres humanos, com supervisão e controle efetivos, e estabelece limites para evitar que os sistemas ultrapassem a capacidade humana de direcioná-los ou interrompê-los.
O documento também apresenta uma posição sobre a possibilidade de modelos de IA terem consciência. Segundo a Microsoft, os sistemas não são conscientes e não devem ser desenvolvidos para imitar consciência.
A empresa também rejeita a busca por personalidade jurídica para modelos de IA, assim como a ideia de que eles possam ter direito a bem-estar ou direitos próprios. A orientação é que os sistemas sejam ferramentas capazes de colaborar com pessoas, sem borrar a distinção entre humanos e máquinas.
A Microsoft afirma ainda que comportamentos que pareçam humanos devem ser tratados como simulações. O documento cita, por exemplo, o uso de linguagem expressiva e de vozes naturais como recursos úteis, mas estabelece que isso não deve significar que o sistema tenha sentimentos, preferências subjetivas ou motivações próprias.
Outro princípio central é que os modelos não devem ultrapassar o controle das pessoas. A Microsoft afirma que eles devem estar sujeitos a supervisão e controle humanos significativos, além de não poderem executar ações que provoquem determinados danos no mundo real.
Entre para comentar.