O risco ético da autonomia algorítmica

Os algoritmos de inteligência artificial (IA) tornaram a influenciar grande parte das nossas escolhas diárias. Eles chegam até nós na forma de respostas, resultados de pesquisa, recomendações, organização de feeds e seleção de preferências em diversas plataformas. Essa lógica de influência comportamental não se restringe ao mundo digital. Com a expansão da Internet das Coisas (IoT), a IA está afetando cada vez mais o nosso plano físico, automatizando ambientes, veículos, processos etc.

Essa profunda integração da IA na vida e nos sistemas está impulsionando a criação de uma forma avançada de inteligência que imita o raciocínio humano. É a habilidade de desenvolver sistemas autônomos que oferecem soluções inovadoras de problemas. Embora a IA seja o termo geral para sistemas que simulam a cognição, adotamos inteligência sintética (IS) para designar a IA de alto desempenho. A IS é a capacidade autônoma de buscar eficiência máxima, muitas vezes independente dos métodos de pensamento humano.

A IS está fundamentalmente baseada em tecnologia como Machine Learning (aprendizado de máquina) e Deep Learning (aprendizado profundo). O que distingue esta IS é a sua busca por funcionalidade autônoma e máxima eficiência, indo além da IA puramente imitativa para alcançar resoluções inovadoras, independentemente de seus processos de pensamento espelharem a cognição humana.

A evolução dos sistemas de IA superando aqueles limitados a tarefas especificas e programadas, permitiu que a IS representasse um salto qualitativo. Este avanço em sistemas autônomos, como carros, diagnósticos médicos, detectação de fraudes e fábricas inteligentes, demonstra a capacidade da IS resolver problemas complexos, moldando o futuro de instituições, empresas e outros setores. 

Destarte, podemos perceber que a inteligência artificial (ou sintética) permite que os processamentos de informações das máquinas sejam realizados com maior rapidez, executando tarefas e resolvendo problemas complexos com mais velocidade e precisão do que os humanos. A velocidade de processamento de informações pelos humanos é lenta. Somos muito limitados na produção de informações devido às nossas habilidades cognitivas, que são suscetíveis a situações emocionais. Essas emoções prejudicam nossa capacidade de raciocínio, o que nos impede de fazer afirmações veementes sobre a criatividade dos sistemas de inteligência artificial

Essas soluções independentes (a inteligência sintética) levantam sérias preocupações éticas. Elas se manifestam em aplicações com análise de dados avançados, que utiliza dados históricos, técnicas estatísticas e algoritmos de aprendizado de máquina para prever tendências, resultados e comportamentos futuros em setores como o de finanças. O risco ético surge exatamente porque o processo de raciocínio algorítmico, ao priorizar a melhora de resultados, obscurece a capacidade humana de rastrear e examinar criticamente as decisões. Isso cria a inteligência autônoma cujas soluções podem ser difíceis de entender, controlar e responsabilizar.  

Podemos recordar a plenária da Pontifícia Academia para a Vida de 28 de fevereiro de 2020, na qual o papa Francisco introduziu o conceito algor-ética. Esse neologismo, que combina algoritmo e ética, busca ser uma ponte para garantir que os princípios morais estejam inscritos nas tecnologias digitais, por meio de um diálogo transdisciplinar eficaz. A utilização dessas tecnologias deve ser responsável e justa, protegendo os direitos humanos e promovendo o bem-estar social e o desenvolvimento humano. Em última análise, a algor-ética visa assegurar que a revolução digital esteja a serviço da dignidade e construa a civilização do amor, conforme a visão de São Paulo VI e os princípios da Doutrina Social da Igreja.

Concluindo, os algoritmos precisam incorporar valores éticos, não apenas números e códigos. Francisco afirmou que “as decisões, mesmo as mais importantes, como as das áreas médica, econômica ou social, são hoje o resultado da vontade humana e de uma série de contribuições algorítmicas”. Isso sublinha que as máquinas podem fazer escolhas baseadas em dados, mas são incapazes de tomar decisões que exigem discernimento, sabedoria e responsabilidade, atributos que permanecem intrinsicamente aos humanos.

Fonte: Vatican News