Pesquisa tenta definir qual o comportamento ético para uma IA

O que você precisa saber

O “problema do bonde” é um experimento de ética bastante comum. Funciona mais ou menos assim: imagine que você está a bordo de um bonde desgovernado, descendo pelos trilhos ladeira abaixo. No pé da ladeira há cinco pessoas amarradas sobre os trilhos, incapazes de fugir. Se você não fizer nada, elas irão morrer. Mas há uma alavanca capaz de mover o bonde para um trilho secundário. Entretanto, neste trilho também há uma pessoa, e se você agir ela irá morrer. O que você faz? Não age, e deixa as cinco pessoas morrerem, ou escolhe matar um inocente para salvar cinco vidas?

Agora vamos transpor o problema para o século XXI: o bonde é um carro autônomo, e o passageiro é uma inteligência artificial no comando. Qual ação seria a correta? É isso que pesquisadores do MIT tentaram descobrir em 2014 quando criaram o experimento “The Moral Machine”. O site apresenta ao visitante várias variações do problema, e pergunta qual seria a coisa “certa” a fazer.

O que os pesquisadores não esperavam é que o experimento iria “viralizar”. Quatro anos após o lançamento da plataforma, milhões de pessoas em 233 países e territórios registraram 40 milhões de decisões, tornando-o um dos maiores estudos já realizados sobre preferências morais globais.

O resultado é um artigo publicado na revista Nature, que mostra como os valores éticos divergem com base na cultura, economia e até mesmo localização geográfica de um indivíduo. Por exemplo, participantes de culturas coletivistas como China e Japão são menos propensos a poupar os jovens do que os velhos – talvez, sugeriram os pesquisadores, por causa de uma ênfase maior no respeito aos idosos.

Da mesma forma, participantes de países mais pobres, com instituições mais fracas, são mais tolerantes com quem atravessa fora da faixa do que quem atravessa corretamente. Participantes de países com alto nível de desigualdade econômica mostram maiores lacunas entre o tratamento de indivíduos com alto e baixo status social.

No que se resume à questão essencial do problema, os pesquisadores descobriram que o número de pessoas em perigo nem sempre era o fator dominante na escolha de qual grupo deveria ser poupado. Os resultados mostraram que os participantes de culturas individualistas, como o Reino Unido e os EUA, preferiam salvar mais vidas ante todas as outras opções – talvez, na opinião dos autores, devido à maior ênfase no valor de cada indivíduo.