Procurando o melhor algoritmo para crimes de guerra éticos

OSAKA, JAPÃO - 26 DE SETEMBRO DE 2016: Modelo de endoesqueleto T-800 em tamanho humano do Terminator 3D no Universal Studios Japão © Sarunyu L / shutterstock.com

Em tempos de guerra, todos os cidadãos preocupados deveriam interrogar-se sobre o que os próprios políticos e militares consideram restrições aceitáveis ​​à sua acção. Estas são as pessoas que tomam as decisões graças, presumivelmente, à sua compreensão séria dos riscos e ao seu compromisso com o bem comum.

A IA traz uma nova dimensão. Como a maioria das pessoas acredita que a IA foi concebida para tomar decisões racionais seguindo uma compreensão algorítmica das prioridades, quando essas decisões se assemelham a um crime de guerra, nenhum ser humano pode ser responsabilizado pelo resultado. A própria noção de responsabilização, que está no cerne de todo sistema ético, desaparece. Você não pode culpar a pessoa que criou o algoritmo porque sua intenção não era criminosa. Só se pode culpar o agente que criou as condições que produziram o crime de guerra. Mas o agente, no caso da IA, é uma abstração.

Então, como conciliamos três forças díspares e potencialmente conflitantes: a noção extremamente pragmática de eficácia militar, a ideia muito mais abstrata de padrões éticos e a suposta racionalidade da IA?

De acordo com o Washington Post, um oficial de alta patente acredita que não há muito o que debater nos EUA porque esta é uma “sociedade judaico-cristã”.

Quando questionado sobre as opiniões do Pentágono sobre a guerra autónoma, o general de 3 estrelas Richard G. Moore Jr., vice-chefe do Estado-Maior para planos e programas da Força Aérea, ofereceu esta explicação num evento do Instituto Hudson em Julho. “Independentemente de quais sejam as suas crenças, a nossa sociedade é uma sociedade judaico-cristã e temos uma bússola moral. Nem todo mundo faz. E há aqueles que estão dispostos a atingir os fins, independentemente dos meios que tenham de ser empregados.”

HojeDicionário Semanal do Diabodefinição:

A retórica de Moore é reveladora. Ele começa sua afirmação com o que se tornou um aceno obrigatório à inclusão, “independentemente de quais sejam suas crenças”. Isto permite-lhe reconhecer toda a gama de pensamentos religiosos ou mesmo anti-religiosos permitidos pela Declaração de Direitos dos EUA antes de afirmar o que considera uma verdade fundamental: “a nossa sociedade é uma sociedade judaico-cristã e temos uma bússola moral”.

Tal como o Supremo Tribunal declarou que as empresas são pessoas baseadas na ideia do século XIX de que as empresas comerciais deveriam ser consideradas “pessoas morais”, Moore acredita que mesmo uma sociedade multicultural e democrática tem uma identidade moral. Isto presumivelmente significa que é responsável pelas suas ações, como qualquer ser moral deve ser.

Mas o pensamento de Moore vai um passo além. Os EUA não só têm uma identidade moral como podem ser considerados como uma unidade moral na qual todos partilham a responsabilidade pelas suas acções. Também possui uma “bússola moral”. O Dictionary.com define isso como “um conjunto internalizado de valores e objetivos que orientam uma pessoa no que diz respeito ao comportamento ético e à tomada de decisões:” Vários comentaristas comparam-no à ideia agostiniana de “consciência”. Mas a consciência, tal como a consciência, é um conceito que desafia uma definição filosófica clara, mesmo quando focada na tomada de decisões pessoais. Ambos se referem ao sistema de percepção de um indivíduo e implicam subjetividade. Nenhum dos dois pode ser aplicado a entidades coletivas. Por essa razão, ninguém teorizou com sucesso a ideia de uma empresa, uma nação ou qualquer outra entidade colectiva ter uma bússola moral para além da ideia de um código de conduta ou de uma declaração de missão.

Ao descrever a partilha ou harmonização colectiva de qualquer coisa que influencie a percepção, os antropólogos e sociólogos preferem descrever o que chamam de “valores fundamentais” das culturas. Mas esses valores não devem ser confundidos com princípios morais ou éticos. A ideia bastante contestável de uma cultura “judaico-cristã” tem pouco a ver com um quadro ético e mais a ver com pressupostos políticos e económicos vagamente formulados.