Artificial inteligence and ethics \ Inteligencia artificial e ética

ÉTICA ARTIFICIAL

Inteligencia Artificial Emulando Decisões Éticas
Considerações breves

Ivaldo Leite Da Silva Filho

A atividade humana requer constantes sacrifícios voluntários pessoais e mesmo involuntários de terceiros. A relação custo benefício, certo e errado, é frequentemente vaga.

Embora somem-se as escolas filosóficas que tentam estabelecer parâmetros com que se possa decidir o lícito, legitimo, certo e o ilícito, ilegítimo, errado, elas são um tanto mais convencionadas que materiais.

Essa falta de materialidade distancia a ideia de uma inteligência artificial, que lida com lógica, decidir onde humanos se dividem.

Inicialmente, a técnica de I.A.(inteligencia artificial) mais apropriada para emular ética ao decidir termos parece ser ‘Fuzzy Logic’. Mas baseado em princípios éticos da escola ‘ulitlitarianista’, um ‘Expert System’ parece uma opção viável, conforme discutido adiante.

                                                                                                                                      I.     SISTEMA ESPECIALISTA 

Sistema especialista são programas que processam informações de uma área de atuação em particular e retornam um output justificado coerente a essa área.

Um sistema especialista pode oferecer o estado aprovado ou reprovado de um aluno depois de receber suas notas e frequência, enumerar possíveis diagnósticos conforme processa sintomas e características de um paciente e seus ancestrais e tantos outros exemplos.

Sistema especialista fornece soluções práticas a inúmeras atividade humanas. A questão é se um sistema especialista poderia fazer escolhas em questões que eticamente dividem especialistas. Se dilemas éticos que ainda são debatidos mas precisam cotidianamente serem resolvidos poderiam encontrar veredicto nessa modalidade de inteligência artificial.  

                                                                                                                                  II.    ESCOLHA DE UM SISTEMA 

A inteligência artificial, embora possa emular subjetividades e emoções de modo convincente até certo grau, continua sendo um procedimento matemático e para que um sistema especialista funcione, é preciso que receba parâmetros quantificáveis, valoráveis que possam passar por uma ponderação lógica.

Das várias vertentes morais e éticas, a mais quantificável, por atribuir valores comparáveis às coisas, seria possivelmente o utilitarianismo. E por isso, é a nossa escolha de ‘especialidade’.

                                                                                                                                            III.   UTILITARIANISMO 

Conforme foi dito : "A atividade humana requer constantes sacrifícios individuais e alheios. " Muitas vezes fica difícil dizer se o sacrifício é compensável pelo objetivo. Mesmo quando aparenta não causar prejuízos, teme-se pelas consequências em tolerar certos métodos pelo risco de inspirarem padrões de comportamento desfavoráveis dali pra’ frente.

Ao longo dos séculos vários filósofos refletiram nos limites desses sacrifícios dando corpo ao ramo da ética. Um deles foi Stuart Mill.

Para Stuart Mill, o pai do utilitarianismo, a boa ação ou a boa regra de conduta caracterizáveis pela utilidade e pelo prazer que podem proporcionar a um indivíduo e, em extensão, à coletividade.

“Agir sempre de forma a produzir a maior quantidade de bem-estar”

Uma das principais críticas ao utilitarianismo se dá quando é preciso decidir qual é o maior bem estar, ou, consequentemente, o menor prejuízo. Nessa ‘equação subjetiva’, é preciso considerar o valor da vida humana frente a outras vidas e frente a outros valores

                                                                                                                     IV.   Especialista Utilitarianista

      Quando a construção massiva de uma hidrelétrica só pode fazer o uso mais otimizado de seu investimento em uma propriedade particular – não disponível a venda - gerando energia que dê suporte a qualidade de vida e implicações relacionados a longevidade urbana, e geração de empregos e crescimento econômico, porem tem um devastador impacto ambiental, é difícil decidir por qual ganho e qual prejuízo optar.

      Favorável a essa construção estariam as estatísticas de longevidade, confortos e necessidades das famílias e das industrias proporcionados pela eletricidade acessível em preços que a construção forneceria. Essa economia fortalecida e baixos preços de energia gerariam inúmeros bens especuláveis, mas nunca certamente quantificáveis. Todos ali talvez ganhassem anos a mais em suas vidas, e anos de maior qualidade.

      Do outro lado, o direito à propriedade de um possível fazendeiro que detém as terras indispensáveis a construção e operação da hidrelétrica e a devastação ambiental são igualmente valores impossíveis de contabilizar completamente, apenas podem ser especulados, estimados.

      O respeito a propriedade do fazendeiro é manutenção também da propriedade do cidadão na cidade. Se for possível construir ali sem sua autorização, tomar suas terras, essa possibilidade seria extensível ao cidadão urbano.

      Se por um lado a eletricidade tem impacto na qualidade de vida, segurança e saúde, por outro, a preservação ambiental também tem seu papel em todos esses valores.

      Para que uma inteligência artificial decida nesse cenário, é preciso que possa pesar na mesma balança, medir na mesma régua a esses parâmetros.

      Mas quantas arvores, ou animais, ou ar vale a qualidade de vida oferecida por alguns milhares de watts é imensurável. Se as vidas alongadas e preservadas somadas geram um valor fica difícil decidir quanto ele é para comparar ao valor de direitos, danos e custos com que foram conquistados.

       É sabido que, frequentemente, pessoas optam pelo suicídio, ou eutanásia quando expostos a sofrimento constante, ou intenso. Ao mesmo tempo, seguem carreiras inteiras em desconforto pela retribuição monetária, ou carreiras que oferecem risco de vida, ou redução da expectativa dela.

       Reallity shows trocam fama e dinheiro por privação de liberdade, sofrimento e outros.

       Tudo isso sugere um certo grau de escambo entre esses bens. Para decidir essa ‘troca’ é preciso dar ‘preços’ ao sofrimento, prazer, vida. O que não pode ser feito de outra forma se não tão subjetivamente quanto o mercado. Tal como dois tênis igualmente uteis podem alcançar valores distintos, sofrimentos proporcionais, vidas proporcionais talvez também.

       Quando o navio começa a afundar e não há recursos para salvar a todos, a escolha dos sobreviventes potenciais devem levar muitas coisas em consideração.

       Se vida é o bem mais precioso, salvar os mais jovens é salvar a vida por mais tempo. Algumas nacionalidades tendem a viver mais que outras. As mulheres, é garantir que mais vidas descendam dali – já que menos homens podem fecundar mais mulheres. Mas um médico especializado em um mal de grande mortalidade pode ter o mesmo efeito se for salvo, mesmo sendo um idoso doente.

        Se naquele navio estiver um Stephen-Hawlkin, cientista cuja condição de saúde pode muito bem impedir de aproveitar a vida, viver longamente, mas já influenciou a engenharia em ramos tangentes a medicina, o valor dado a ele talvez devesse superar ao de um recém-nascido que possa crescer e tornar-se um genocida. Não é possível de fato calcular o valor de cada vida.

                                                                                                                                     V.    Sistema Utilitarianista 

Com todas essas vidas tendo valores incalculáveis para efeito de comparação entre si, esse sistema especialista vai considera-las todas iguais e dará a uma vida o valor monetário que se acredite poder, se investido em saneamento e outros bens, aumentar natalidade e reduzir mortalidade.

A vida perdida, multiplicada por esse valor (apurado por mera especulação), será somada ao prejuízo monetário e a um valor estimado do sofrimento desse prejuízo – luto pelos mortos e danos materiais , ponderados pela questão : quanto desse sofrimento levaria alguém ao suicídio ?

O resultado disso será comparado com os resultados obtidos por outros procedimentos possíveis. O procedimento que gerar o menor valor será o adotado.

                                                                                                                                                               VI.   O Jogo

O jogo vai tratar de expor o usuário a eventos baseados em ocorridos reais e dar ao humano o poder e oportunidade de escolher o que ser feito daquilo.

Junto a ele, o sistema especialista fará suas escolhas. Ao fim, o jogador poderá comparar suas escolhas às da máquina e concordar ou discordar de seu procedimento, mas indiferente a discordâncias, a máquina obterá sucesso em causar o mínimo possível de valores negativos na soma de mortos e prejuízos.

                                                                                                                                                       VII.  Conclusão

Um sistema especialista decidindo dilemas éticas é falho, e seu sucesso absoluto é impossível. Só uma bola de cristal poderia dar ao sistema especialista as informações exatas com que efetuar seu procedimento de decisão.

O mesmo pode ser dito de um humano. Mas humanos talvez ofereçam um risco ainda maior, uma vez que não são todos igualmente capazes e são maleáveis conforme suas ambições e características.

References

Curso online de ética por  Michael Sandel Harvard disponibilizado  por Veduca.

Matirial didatico do blackboard iesb.

Aulas da professora da hora.

___________________________________________________________

Segue o cerne do código desenvolvido e comentado e os resultados obtidos.

O programa propunha 10 situações e oferecia 4 reações, 'a','b','c' e 'd'.
O usuário optaria pelo que considerasse a melhor ação.
A maquina calcularia o prejuízo de cada um dos 4 itens baseando se em cálculos esboçados no código :
---------------------
class UtilThinker
{
public:
    int ponderador(int vidas, int moeda, int dor ) //as questões éticas teriam números de vidas,                                                                                            //prejuízos materiais e humanos contabilizados. 
                                                                             //uma situação real requer muito mais, mas a titulo de
                                                                             //exercício e experiencia, me convém simplificar
         { vidas=1000000*vidas;              dor=dor+(vidas/8);
        return(vidas+moeda+dor); //relação entre vidas perdidas, prejuizo material e sofrimento humano do evento    }
}; 
----------------------
Uma outra classe torna a de menor numero a escolha da maquina.

Seguem as questões resumidas, em destaque , as escolhas da máquina. 



(...)Em construção