Desafio Ético na Análise Preditiva

1. Introdução

A Análise Preditiva (AP) é um dos temas mais instigantes e fascinantes que vêm ganhando popularidade devido ao crescimento exponencial das ferramentas de Big Data e Data Science na última década.

Com resultados que para leigos parecem misturar ciência e magia, os cientistas de dados perceberam que é possível investigar bancos de dados gigantescos, estudando correlações entre diversas variáveis, encontrando padrões e desenvolvendo métodos para simular cenários futuros com maior precisão e confiabilidade do que em qualquer outro momento na história da humanidade.

De forma previsível e esperada, este poder previsional atraiu a atenção de todos os segmentos da sociedade, empresas e governo, e suas aplicações potenciais prometem gerar melhores e mais confiáveis decisões do que se não tivéssemos este recurso à nossa disposição.

Mas, como diz o ditado popular, “nem tudo são flores e festa” neste aspecto, pois de forma quase despercebida, ao introduzirmos a Análise Preditiva (AP) em nossas rotinas, tomando por base tão somente os aspectos positivos de sua aplicação (os quais são muitos e inegáveis), deixamos escapar da reflexão ponderada os potenciais conflitos e problemas inerentes à sua utilização.

Segundo Harari (2018), as revoluções de tecnologia da informação são feitas por engenheiros, empresários e cientistas que têm pouca consciência das implicações políticas de suas decisões, sendo que os mesmos também não possuem representatividade para defesa de interesses junto a grupos sociais. Neste sentido, é sensato imaginarmos que inventores estão mais preocupados com o sucesso de sua invenção em si, sob o ponto de vista do resultado a ser produzido, do que com potenciais implicações éticas de sua aplicação.

O presente artigo aborda o desafio ético da utilização da Análise Preditiva (AP) na tomada de decisões que gerem consequências diretas para seres humanos, em especial quando tratamos de sua liberdade individual.

Importante frisar que não é nosso objetivo desestimular ou combater a Análise Preditiva, pelo contrário, desejamos fortalecer as bases e reflexões necessárias para que possamos extrair o máximo benefício social desta ferramenta.

2. Conceito de Análise Preditiva

Segundo Siegel (2017), a Análise Preditiva (AP) se consubstancia em uma tecnologia que aprende a partir da experiência (dados) para prever o comportamento futuro de indivíduos a fim de gerar melhores decisões. Importante salientar aqui que o autor utiliza o termo “indivíduos” para se referir tanto a pessoas como a outros elementos organizacionais.

Quando desenvolvemos um modelo preditivo, devemos estabelecer claramente (Siegel, 2017): 

1. O que é predito: o tipo de comportamento (ação, evento ou acontecimento) para cada indivíduo, ação ou outro tipo de elemento; e 

2. O que fazer com isso: decisões orientadas pela previsão, ação tomada pela organização em resposta ou informada por cada predição.

Em todo cenário onde temos mais de uma ação possível, há a necessidade de tomada de decisão (realização de uma escolha), e esta decisão, por sua vez, sempre estará sujeita a falhas pela seleção da opção menos adequada.

A análise preditiva (AP) não precisa ser 100% eficiente para ser considerada útil, seu objetivo na verdade será o de aumentar a taxa de acertos na tomada de decisões em relação ao processo sem a contribuição da mesma.

Segundo Siegel (2017), um Modelo Preditivo é um mecanismo que prevê um comportamento de um indivíduo, como clicar, comprar, mentir ou morrer. Ele considera as características do indivíduo como entrada e oferece um escore preditivo como saída. Quanto mais alto o escore, maior a probabilidade de que aquele indivíduo apresente o comportamento predito.

Fonte: Adaptado de SIEGEL, 2017, pág. 31

A Análise Preditiva se mostra tão poderosa e de tamanho potencial, que seu principal insumo, os dados e informações, se tornam cada vez mais valiosos.

Walter Wriston certa vez afirmou que “informações sobre transações, em algum momento, se tornarão mais importantes do que as próprias transações”. 

Neste sentido, Harari (2018) afirma que no século XXI, os dados vão suplantar tanto a terra quanto a maquinaria como o ativo mais importante, ao ponto de a política ser fruto do esforço por controlar o fluxo de dados.

3. Utilizando a AP para Apoio à Decisão

Quando aplicamos a Análise Preditiva (AP) no processo de tomada de decisão, podemos vislumbrar duas formas de aplicação:

1. Utilizar a AP para que decisões sejam tomadas de forma automatizada, onde a máquina define, a partir dos critérios programados e dados fornecidos, a condução para o caso; ou

2. Utilizar a AP como apoio à tomada de decisão, onde um agente humano utiliza o resultado apresentado pela máquina como apoio ao processo de tomada de decisão.

A mente humana e o processamento por computação são capazes de analisar a mesma situação sob diferentes ângulos.

Modelos preditivos computadorizados são muito interessantes pois não estão sujeitos à oscilações de humor como seres humanos, mantendo um parâmetro objetivo e constante de análise e julgamento. Ainda, a capacidade de considerar grandes volumes de dados e encontrar padrões fazem da Análise Preditiva uma ferramenta poderosa.

Mas nem de longe este fato torna nosso cérebro obsoleto e ineficiente. A mente humana detém capacidade de perscrutar uma infinidade de cenários e conjecturar elementos que não estão em nenhum banco de dados pré-estruturado, além de ser capaz de atuar com empatia para entendimento das causas que geram determinado padrão de conduta em outros indivíduos.

Desta forma, ao invés de simplesmente fazermos uma escolha por determinada entidade julgadora, podemos combiná-las para adicionar camadas de segurança e confiabilidade ao processo de tomada de decisão, tornando-o muito mais inteligente e eficaz. Harari (2018) afirma que o mercado de trabalho no futuro deve se caracterizar pela cooperação (e não competição) entre humanos e inteligência artificial.

A soma de competências (ao invés da disputa) se mostra necessária também devido ao risco de que uma falha de programação no critério de decisão possa levar a uma generalização indesejada. Harari (2018) traz o seguinte caso hipotético: “Se um médico humano fizer um diagnóstico errado, ele não vai matar todos os pacientes do mundo … em contraste, se todos os médicos forem um único sistema, e esse sistema tiver um erro, os resultados podem ser catastróficos”.

4. Conceito de Ética

Segundo Torresi et al (2008), a ética é um termo genérico que engloba diversas reflexões sobre as relações entre os seres humanos e seu modo de ser e de pensar. 

Ela está disseminada em todas as atividades onde exista o confronto entre aquilo que a sociedade designa como bem e mal, ou melhor, ações positivas e negativas. Assim, refletir sobre a ética é também um ato de refletir sobre nossa vida em sociedade e as consequências (legado) das escolhas que fazemos.

Portanto, considerando que a tomada de decisão impacta a vida das pessoas que são afetadas de forma direta ou indireta pela mesma, o debate ético passa a ser fundamental, sob o risco de incorrermos em consequências futuras indesejadas. Harari (2018) afirma que os seres humanos sempre foram melhores em inventar ferramentas do que em usá-las sabiamente.

Cherman e Tomei (2005) afirmam que são exigidas novas posturas morais na forma de as organizações conduzirem seus negócios.

Dissertando sobre o tema, um grupo de estudos da UFERSA (2019) expõe que toda decisão, para que seja considerada sustentável, deve ponderar três elementos:

1. Utilidade: Foco nos resultados;

2. Direito: Foco no compliance; e

3. Justiça: Foco no equilíbrio de interesses.

E é justamente no conceito de justiça que o cerne do debate ético ocorre, pois precisamos ponderar se as decisões serão capazes de prover o desejado equilíbrio entre o convívio social e as consequências das escolhas feitas.

Hoivik (2002) sustenta que Organizações tradicionais, hierárquicas e centralizadoras buscariam uma cultura ética baseada em regras formais, com orientação para conformidade e controle (compliance-based), enquanto organizações com modelos de gestão modernos, descentralizados, baseados em aprendizagem organizacional, com culturas participativas, adotariam uma cultura ética baseada em valores pessoais e foco na integridade (values-based).

Independentemente da vertente cultural e do modelo adotado (compliance-based ou values-based), o fato marcante é que as organizações precisam considerar as implicações éticas de suas decisões, sob pena de incorrerem em ameaça até mesmo para sua imagem e credibilidade pública.

Portanto, a aplicação da Análise Preditiva na tomada de decisão deve prever a possibilidade de falhas desta natureza.

5. Julgamento por Máquina e Liberdade Individual

A utilização da Análise Preditiva (AP) no processo de tomada de decisão levanta debates de grande relevância.

Existe uma questão cultural inerente, pois o ser humano ainda não aprendeu a confiar totalmente no julgamento ou decisão que não detenha outro ser humano envolvido de forma direta e visível no processo. 

Segundo Siegel (2017), uma mudança de cultura é fundamental ao ampliarmos esse “círculo sagrado” de confiança.

Embora ocorram erros em processos automatizados, a Análise Preditiva frequentemente se mostra menos errada que as decisões puramente humanas (SIEGEL, 2017). 

Entretanto, poderíamos perguntar às pessoas se as mesmas se sentiriam “confortáveis” em voar em uma aeronave comercial que não detenha um piloto humano no comando, obtendo a provável maioria afirmando que “não”. Este fato é interessante pois os humanos são considerados o elo fraco da segurança na aviação (SOUZA, 2015).

Com o surgimento de carros que não precisam de motorista e sua recém-chegada às ruas, uma nova aceitação cultural do risco de máquina também surge. O mundo experimentará a redução geral das taxas de colisões … e aprenderá a aceitar que o computador será o culpado por uma morte acidental (SIEGEL, 2017).

Algoritmos vão ganhar autoridade, porque aprendemos, por experiência, a confiar neles cada vez mais tarefas, e aos poucos, perdemos nossa aptidão para tomar decisões por nós mesmos (HARARI, 2018)

Portanto, a introdução da Análise Preditiva (AP), bem como outras ferramentas de inteligência artificial no processo de tomada de decisão não eliminam o risco da falha, mas buscam reduzir ou atenuar sua ocorrência. Segundo SIEGEL (2017), predições não precisam ser totalmente exatas para apresentarem valor, ao invés disso, segundo o autor, basta que sejam melhores que humanos para que sejam valiosas.

A tomada de decisão por máquina tende a ser menos “volúvel” que a humana. Siegel (2017) contextualiza o fato citando estudos (entre outros dados), que demonstraram que juízes “com fome ou cansados” tendem a ser significativamente mais rigorosos em suas sentenças (análise de dados de julgamentos próximos ao horário de refeição ou de intervalos para descanso). Harari (2018) diz que algoritmos computacionais não são moldados pela seleção natural e não tem emoções ou instintos, de forma que em momentos de crise eles podem seguir diretrizes éticas muito melhor que humanos.

Desta forma, se for para ser julgado por um humano, é interessante que o fato ocorra em início de expediente, quando o mesmo estiver descansado e com suas necessidades fisiológicas satisfeitas.

Harari (2018) diz que hackear a tomada de decisão por humanos não só faz com que os algoritmos se tornem mais confiáveis, mas também faz com que os sentimentos humanos se tornem menos confiáveis.

Embora o processo automatizado não elimine o risco de falha, obtemos um benefício coletivo pelo fato de termos a ocorrência geral de erros reduzida.

Mas a questão em si não é de tão simples conclusão. Não se trata apenas de afirmar: “ok, teremos falhas pontuais, mas no resultado geral do processo seremos exitosos”. 

Existe também o fato de que em muitos casos, através da adoção da Análise Preditiva (AP), ao aplicarmos determinada decisão escrevemos um futuro que não poderá mais ser “testado” quanto às suas diversas possibilidades, estamos tão somente lidando com probabilidades e projeções.

“Altamente provável” não é a mesma coisa que “absolutamente certo”, e isto nos traz implicações éticas quando contrapomos a decisão tomada ou apoiada por uma máquina junto aos fundamentos da “liberdade individual” e não “pré-julgamento” de seres humanos.

Comecemos nosso raciocínio formulando a hipótese de utilizarmos a Análise Preditiva (AP) para tomada de decisão quanto à liberação ou não de condicional para indivíduos presos (condenados pela justiça).

Se decidirmos manter um criminoso na prisão negando-lhe condicional com base no escore de probabilidade de recorrência gerado por um modelo de Análise Preditiva, nunca saberemos se de fato o mesmo seria um reincidente (SIEGEL, 2017).

Quando fazemos uma previsão com base em dados do passado e tomamos uma decisão, estamos interferindo diretamente no resultado futuro, supondo que o resultado predito ocorreria caso não tivéssemos adotado referida postura (cenário altamente provável).

Assim como no filme “Máquina do Tempo”, adentramos em uma trama onde podemos antever o futuro e mudar o passado, reconstruindo suas consequências.

Podemos conjecturar que a aplicação da Análise Preditiva (AP) para tomada de decisão deve gerar um benefício coletivo, uma vez que conforme probabilidades apuradas (comportamento esperado), no caso da aplicação da ferramenta para tomada de decisão ante a liberação (ou não) de condicional para presidiários, certamente teríamos a redução da criminalidade por reincidência. Entretanto, este benefício pode ser dar às custas de prejuízos individuais, já que pessoas “classificadas” com escore negativo não teriam o direito de mostrar (comportamento de fato) que não mais cometeriam crimes, seu destino foi selado pela predição baseada em dados de outros indivíduos.

Esta questão é de grande complexidade. Siegel (2017), lança a seguinte indagação:

“Se a integração da Análise Preditiva (AP) promete reduzir a taxa de criminalidade geral … o risco [de falha no julgamento] está dentro das renúncias às liberdades civis aceitáveis impostas aos condenados ?”

Aqui entramos em um assunto extremamente relevante para nossa sociedade, o conceito de direitos fundamentais.

Pires (2013) afirma que os direitos fundamentais são delineados, para alguns teóricos, essencialmente na qualidade de “liberdades fundamentais”.

Aqui chegamos no ponto nevrálgico do dilema, pois os direitos fundamentais (ou liberdades fundamentais) estão conceitualmente referidos à capacidade de satisfazer o valor das pessoas e realizar sua igualdade (ZOLO, 2007).

Para satisfazermos a igualdade entre as pessoas, precisamos de alguns pressupostos fundamentais, dentre eles o da garantia do exercício da liberdade e do direito à participação ativa na construção de nossa sociedade.

Mill (2002) conceitua a liberdade pessoal (individual) como um dos elementos do bem-estar.

Temos assim a inexorável conclusão de que, ao utilizarmos um dispositivo preditivo (definição de um cenário futuro probabilístico) para determinarmos nossas ações e condutas presentes, que por sua vez irão transformar um futuro que ainda não ocorreu, mas que já é suposto como provável, e que por sua vez não mais se desenrolará da forma como seria caso não houvesse a ação preditiva, estamos na verdade reconstruindo o próprio amanhã, automatizando seu desfecho e reduzindo o componente instável e imprevisível da natureza humana, que representa a própria essência da liberdade individual, que é a de decidir e agir mediante suas próprias crenças e conclusões, que são em si mesmas imprevisíveis.

Fato é, estaremos assumindo um prejuízo latente à liberdade do indivíduo de construir seu próprio futuro em função de um provável benefício coletivo, gerado pela melhoria geral de um indicador considerado socialmente relevante.

Harari (2018), coloca que apesar das generalizações realizadas, os indivíduos desafiam os estereótipos estatísticos. Entretanto, a aplicação da Análise Preditiva pode acabar ceifando a oportunidade de desafiarmos as probabilidades.

6. Implicações Corporativas

Ao trazermos este debate para o mundo corporativo, temos implicações semelhantes às apresentadas junto ao item anterior, mediante projeções relacionadas à modelos de análise preditiva, em especial neste artigo consideramos o segmento de trabalho denominado “people analytics”.

Alguns exemplos de modelos preditivos para gestão de pessoas:

• Predição da probabilidade de evasão de colaboradores(as), com possíveis consequências na forma como gestores lidam com pessoas com escores elevados, apontando tendência de saída;

• Predição da probabilidade de candidatos(as) se ajustarem ao fit cultural da organização, sua missão, visão e valores, afetando a contratação (ou não) de novos membros para as equipes;

• Etc.

Enquanto os exemplos anteriores lidavam apenas com casos envolvendo liberdade condicional para indivíduos classificados como “criminosos” (que estão de forma geral marginalizados), possivelmente a propensão para assumirmos os riscos da Análise Preditiva (AP) incorreta se mostravam menos indigestos, estando mais distantes da realidade e do dia-a-dia da maioria das pessoas.

Mas quando os riscos da Análise Preditiva falha batem à nossa porta, e percebemos que podemos ter nossa candidatura a um emprego ou mesmo uma promoção negados pela “probabilidade” calculada de nosso futuro não se concretizar (ou se concretizar em cenário negativo), talvez o debate se mostre mais relevante e atraia mais os interesses da sociedade em geral.

Apreciar a Análise Preditiva utilizada a nosso favor sempre será muito mais agradável do que quando nos vemos ameaçados em nossa liberdade individual de vencer ou fracassar.

Neste cenário podemos vir a ser impedidos de mostrar que a máquina estava errada, uma vez que fizemos uma “troca”, assumindo um prejuízo individual em função de uma potencial vitória coletiva.

Embora determinada empresa ou organização nunca se beneficie de seu valioso trabalho pessoal, devido ao escore apurado pela Análise Preditiva durante o processo de recrutamento e seleção (R&S), ela possivelmente colherá frutos ao selecionar (tomar decisões de contratação) de forma mais acertada junto a outros diversos candidatos e candidatas com perfil probabilístico mais assertivo para o sucesso, calculado pela provável aderência ao conjunto de crenças e valores do grupo por exemplo.

Também temos que, embora sua atual empregadora possa vir a não colher os frutos benéficos de sua liderança no trabalho, uma vez que postergou ou desistiu de sua promoção a um cargo de chefia estratégica por classificar seu escore preditivo de evasão como “elevado”, possivelmente a mesma também terá resultados positivos gerais no longo prazo, por ter contido (assim como no seu caso) outras promoções de indivíduos que teriam provavelmente evadido e causado transtornos às rotinas de gestão e operação.

Em ambas as exemplificações, sacrificamos indivíduos pensando em benefícios coletivos.

Portanto, a Análise Preditiva pode interferir em liberdades ou garantias fundamentais em diversos casos, na condução de presidiários, na carreira de profissionais trabalhadores, etc.

7. Coletividade versus Individualidade

Um olhar superficial pode trazer uma conclusão equivocada para o dilema enfrentado.

A abordagem mais usual, principalmente pelo aspecto do estudo da Ciência Jurídica, é a de que o interesse coletivo deve sempre se sobrepor ao do indivíduo.

Mello (2013) afirma que o princípio da supremacia do interesse público sobre o interesse privado é inerente a qualquer sociedade, e que é a própria condição de sua existência, sendo um pressuposto lógico do convívio social.

Meirelles (2016) ainda acrescenta que este regramento justifica-se pela busca do interesse geral, ou seja, da coletividade e não do aparelhamento do poder público.

Esta abordagem pode ser baseada filosoficamente na necessidade de se conciliar conflitos entre os interesses de indivíduos e de grupos aos quais os mesmos pertencem (que chamamos de coletividade).

Por exemplo, se temos de um lado o desejo de uma pessoa de manter sua propriedade particular frente ao desejo da sociedade de ter uma estrada para fornecimento de infraestrutura, é considerada justificável a desapropriação do bem individual (mediante indenização) para beneficiamento de toda a coletividade (em última instância inclusive o próprio indivíduo afetado).

Esta exemplificação entretanto não lida de forma direta com questões filosóficas contemporâneas advindas da Análise Preditiva aplicada para tomada de decisões que afetam liberdades individuais e situações mais sutis:

1. Não estamos apontando um “caso concreto”, mas um “cenário probabilístico” (possível);

2. Não estamos discutindo uma necessidade coletiva específica a ser tutelada, mas uma oportunidade (inserida no mundo das possibilidades) de aprimoramento ou melhoria do cenário atual vivido pelo grupo.

Não estamos lidando ou afastando um mal concretamente, nem estamos gerando um benefício específico, mas estamos propondo uma possibilidade de melhoria ou aperfeiçoamento.

Existe uma diferença filosófica e lógica nos dois casos. Podemos dizer que temos um contraponto entre o individual e o coletivo sob o ponto de vista clássico e o preditivo.

Agora, observe a diferença de formulação das expressões quando avaliamos uma situação clássica e uma preditiva:

• Cenário Clássico: Vamos realizar determinada ação (tomada de decisão), embora contrarie o interesse de “fulano”, pois iremos resolver o problema “X” e gerar “Y” resultado;

• Cenário Preditivo: Vamos realizar determinada ação (tomada de decisão), embora contrarie o interesse de “fulano”, pois existe a probabilidade de aprimorarmos o resultado “Y” atual.

Temos uma troca de expressões, substituindo “iremos resolver” por “probabilidade de”, e “resultado Y” por “melhoria”.

Até que ponto o interesse coletivo se sobrepõe ao direito individual quando estamos lidando com probabilidades (embora altas) e estamos cogitando melhorias incrementais à resultados que já são existentes ?

Quando temos nosso acesso à uma vaga de emprego ou promoção de cargo impactada por um modelo preditivo, nos sentimos confortáveis com esta situação ?

8. Conflito Ético, Realidade ou Imaturidade ?

Até este momento apresentamos as consequências da aplicação da Análise Preditiva em decisões que afetam o indivíduo sob o ponto de vista do “conflito”, onde os interesses individuais podem ser prejudicados em prol do ganho coletivo.

Entretanto, a própria visão de “conflito a ser resolvido” pode ser controversa e demonstrar que o debate ainda é imaturo.

Segundo Cirne-Lima (1997), o primeiro princípio da ética é o mesmo que se encontra no início da lógica, justamente o princípio da contradição a ser evitada, ou, o princípio da coerência, porque ético é o que tem a qualidade de tornar-se universal.

Interessante e até certo ponto irônica a utilização da expressão “lógica” pelo autor, uma vez que este atributo é usualmente aplicado justamente no mundo da estatística e computação, onde ocorre a Análise Preditiva.

Para Nequete (2005), se há tensão (ou sua possibilidade) ou contradição entre o interesse coletivo e o individual, ainda há um longo caminho a ser percorrido para que se cumpra com o princípio da dignidade humana.

Desta forma, a visão de conflito pode ser vista na verdade apenas como algo “aparente”, fruto de uma análise e reflexão ainda não aprofundada sobre a temática.

Prosseguindo em nosso artigo, traremos no parágrafo seguinte a reflexão de autores consagrados no mundo acadêmico (Kant e Barroso), entretanto, antecipamos ao leitor a necessidade de atenção para o uso pelos mesmos da expressão “interesse público”, típica da filosofia aplicada ao estudo do Direito, análoga ao estudo do “interesse coletivo” (expressão que aplicamos no presente trabalho).

Abordando o assunto (supremacia do interesse público) sob a ótica da obra de Kant, Barroso (2005) afirma que o princípio da dignidade humana é um dos parâmetros fundamentais para a solução da colisão entre o interesse público e o interesse privado pois, mesmo que determinada política represente a concretização de alguma importante meta coletiva, não terá como ser alcançada se implicar a violação da dignidade humana de uma só pessoa.

Embora pareça em certa medida utópico, o direito à unicidade, liberdade e imprevisibilidade humana diante do interesse coletivo no aprimoramento de seus sistemas e decisões precisam ser conciliados.

Nequete (2005) afirma que é necessário encontrarmos um ponto de equilíbrio entre a prioridade do indivíduo e o da supremacia do interesse público, sob pena de desrespeito ao princípio da dignidade humana.

9. Compatibilizando o indivíduo e o coletivo

A resposta para o possível conflito (ao menos parcialmente), pode estar na forma como interpretamos o benefício sob o ponto de vista do indivíduo.

Para além da manifestação e exercício da vontade, podemos inferir que as consequências de determinado ato podem ser tão danosas e frustrantes que o dissabor gerado ao indivíduo o faça desejar não ter adotado referida atitude, se assim o pudesse.

Neste sentido, ao antever os cenários mais prováveis com base em evidências estatísticas, a Análise Preditiva pode atuar de forma profilática, poupando ambas as partes (indivíduo e coletivo) da vivência de uma experiência frustrante em determinada posição ou organização.

Nesta nova ótica, embora não desapareçam os efeitos frustrantes de curto prazo por uma não contratação ou não promoção derivadas da recomendação da Análise Preditiva, temos que provavelmente evitaram-se outros dissabores de médio ou longo prazos:

• A eventual contratação de um colaborador em uma organização para com a qual não há uma real identificação de valores e crenças provavelmente tornará o profissional frustrado e improdutivo, quiçá infeliz.

• Um indivíduo que é promovido e detém alto perfil de evasão pode se ver em situação desconfortável perante um novo empregador por ter recém assumido novas responsabilidades em sua empresa atual, podendo fazê-lo aparentar um perfil de baixa confiabilidade, ou mesmo ter uma “crise de consciência” ao assumir um novo posto e na sequência abandoná-lo.

Como dito, embora não seja capaz de eliminar o efeito negativo sobre as expectativas do indivíduo, a análise preditiva pode contribuir neste sentido para atenuar frustrações e problemas de longo prazo para ambas as partes.

Este pode ser um aspecto auxiliar no desafio de atender às necessidades coletivas diante da dignidade e liberdade do indivíduo, embora não seja suficiente para sanear a totalidade de situações possíveis.

Existe também o fato de que a análise preditiva pode ser construída para atuar de forma menos enviesada do que um humano, contribuindo para reduzir algumas desigualdades sociais.

Segundo Harari (2018), embora não possamos confiar à um algoritmo a responsabilidade por definir padrões éticos, assim que o fizermos e imputarmos junto a máquina (por exemplo: não discriminar por sexo ou raça), podemos confiar em máquinas para implementar e manter esse padrão melhor que os humanos. O autor ainda segue afirmando que é muito mais fácil corrigir um código de computador do que livrar os humanos de seus vieses racistas ou misóginos.

10. Considerações finais

Como vimos, o assunto é complexo e exige grande reflexão.

A Análise Preditiva é uma ferramenta extremamente poderosa, com grande capacidade de introduzir melhorias de curto, médio e longo prazos em diversos aspectos de nossas vidas.

O problema potencial está justamente no produto gerado pela Análise Preditiva, a projeção de um futuro provável, o qual uma vez utilizado para tomada de decisão gera mudanças no próprio cenário que estamos prevendo, que por sua vez não poderá mais ser testado, impactando diretamente a liberdade individual das pessoas.

Podemos separar os desafios de utilização da Análise Preditiva por humanos para tomada de decisão em dois grandes temas:

• Cultural: As pessoas estão habituadas a confiar em humanos, apesar de sua consagrada falibilidade para tomar decisões (SIEGEL, 2017);

• Ético: Sacrificaremos liberdades individuais em prol de um ganho coletivo.

Para superarmos de forma proveitosa a ambos os desafios, em nossa visão será necessário que:

1. O processo de aculturamento das pessoas permaneça em evolução, através do gradual e contínuo aumento da participação das máquinas em nossas rotinas; e

2. Que as implicações éticas da aplicação de um modelo de Análise Preditiva sejam previamente discutidas antes de sua implementação e efetiva utilização por qualquer organização ou grupo.

Para finalizar, citamos a bem fundamentada preocupação de Harari (2018) sobre o intenso processo de desenvolvimento tecnológico que estamos experimentando, mas que não parece ter contrapartida em mesma proporção no aspecto do desenvolvimento humano:

“O perigo é que se investirmos demais no desenvolvimento da IA e de menos no desenvolvimento da consciência humana, a simples inteligência artificial sofisticada dos computadores pode servir para dar poder à estupidez natural dos humanos” (HARARI, 2018).

Referências Bibliográficas

SIEGEL, Eric. Análise Preditiva – Uma introdução para Todos. Alta Books. 2017.

HARARI, Yuval Noah. 21 Lições para o Século 21. Companhia das Letras. 2018.

TORRESI, Susana I. Córdoba. PARDINI, Vera L. FERREIRA, Vitor. Ética nas publicações científicas. Química Nova, Vol. 31, Nº 2, 197, 2008.

HOIVIK, H. W. Professional Ethics: a Managerial Opportunity in Emerging Organizations. Journal of Business Ethics. Massachussetts, v. 39, n. 1, p. 3–11, aug. 2002.

BARROSO, Luis Roberto. Prefácio. In SARMENTO, Daniel, org. Interesses públicos versus Interesses privados: Desconstruindo o Princípio de Supremacia do Interesse Público. Rio de Janeiro: Lumen Juris Editora, 2005, p. xvii.

PIRES, Terezinha Ines Teles. Estado Democrático de Direito e as Liberdades Individuais. Revista da Faculdade de Direito UFPR, Curitiba, n. 58, p. 125-145, 2013.

ZOLO, Danilo. Teoria e crítica do Estado de Direito. In: O Estado de Direito: história, teoria, crítica. Pietro Costa e Danilo Zolo (Org). São Paulo: Martins Fontes, 2006.

CHERMAN, Andréa. TOMEI, Patrícia Amélia. Códigos de ética corporativa e a tomada de decisão ética: instrumentos de gestão e orientação de valores organizacionais ? Revista de Administração Contemporânea – RAC, v. 9, n. 3, Jul./Set. 2005: 99-120.

MILL, Stuart. On Liberty. Mineola/New York. Dover. 2002.

MELLO, Celso Antonio Bandeira de. Curso de Direito Administrativo. 30. ed. São Paulo: Malheiros Editores, 2013.

NEQUETE, Eunice Ferreira. Fundamentos Históricos do Princípio da Supremacia do Interesse Público. Dissertação de Mestrado. Faculdade de Direito – Universidade Federal do Rio Grande do Sul. 2005.

CIRNE-LIMA, Carlos Roberto. Dialectic for Beginners. Porto Alegre: Edipucrs, 1997.

UFERSA. Ética e tomada de decisão nas empresas. Projeto 1 Minuto de Ética – Ufersa. 2019. (1 min). Disponível em: <https://www.youtube.com/watch?v=khCbff2wdBI>. Acesso em 29 de dez 2020.

SOUZA, Lito. Erros humanos e o aprendizado na aviação. Aviões e Músicas. Blog. 2015. Disponível em:

<http://www.avioesemusicas.com/erros-humanos-e-o-aprendizado-na-aviacao.html>. Acesso em 26 de Dez de 2020.