• NÔMA

Androides sonham com arquivos de processos?


Autora: Laura Mascaro


Talvez isso soe como uma surpresa para muitos, mas o fato é que já temos hoje diversos sistemas de inteligência artificial em operação no poder judiciário brasileiro. Desde sistemas com pouco grau de autonomia e pouco impacto na decisão final do magistrado, até sistemas capazes de recomendar decisões com base em pesquisa de legislação, jurisprudência e análise do processo.


Essa notícia nos compele a pensar sobre a possibilidade de um sistema de inteligência artificial realizar um juízo prudencial. Essa possibilidade existe e é seguro dizer, a partir de experiências realizadas e sistemas em operação, que as máquinas podem alcançar índices de acerto bastante elevados. Qual o problema então? Por que isso nos provoca um certo incômodo?


Para essa reflexão gostaria de evocar o filme "Blade Runner" (1982), baseado no romance de Philip K. Dick Do androids Dream of Eletric Sheep, e sua sequência "Blade runner 2049" (2017).


O filme coloca a seguinte questão: se cada vez mais os androides são capazes de mimetizar a aparência e habilidades humanas, como podemos saber se nós mesmos já não nos tornamos ou somos androides? Em "Blade Runner", existe uma curiosa personagem, Rachel, que não consegue reconhecer-se como androide porque possui memórias de sua infância. Memórias estas, descobrimos mais tarde, que foram implantadas artificialmente por seu criador como uma tentativa de desenvolver uma resposta emocional.


Um dos mecanismos criados pelos desenvolvedores dos replicantes para seu controlá-los é uma "data de expiração" relativamente curta, ou seja, os androides vivem pouco e não têm muito tempo para acumular vivências. Ora, a própria forma como o aprendizado de máquina funciona hoje, baseia-se em grande medida em um tipo de memória: ele envolve a criação de algoritmos que podem reconhecer padrões em grandes conjuntos de dados em evolução (big data). Ou seja, quanto maior for a quantidade de dados que compõem a memória da inteligência artificial, maior será a precisão de suas previsões. Isso significa que as decisões da máquina baseiam-se em sua memória, derivam dos padrões identificados no conjunto de dados que lhe são submetidos para análise.


Podemos citar aqui o caso de um sistema de inteligência artificial implantado no sistema judiciário do estado de Wisconsin, nos Estados Unidos, desenvolvido para determinar o grau de periculosidade de criminosos, em um processo que acabava por influenciar na determinação de suas penas. Ocorre que começou-se a observar que indivíduos pertencentes a minorias étnicas pontuavam mais alto, ou seja, eram considerados mais perigosos pelo sistema e a eles era atribuída uma pena mais gravosa. Porque isso acontecia? Uma resposta possível é que se a inteligência artificial baseia-se em dados de um sistema de justiça que possui uma tendência em penalizar mais gravemente pessoas com determinadas características, ela apenas vai replicar esse viés em sua decisão.


Seria muito difícil, portanto, que um sistema de inteligência artificial em bom funcionamento rompesse com padrões existentes nos dados que compõe sua memória. Esses sistemas baseiam-se, nesse sentido, no passado para tomarem suas decisões. Com isso, suas decisões são previsíveis e isso é desejável. Qualquer ruptura com o padrão é considerada um defeito de funcionamento: seja pela corrupção de um arquivo, dano físico ao equipamento, brecha de segurança, tempo de resposta superior ao desejável, programação defeituosa etc.


E com relação aos seres humanos, será que nossas decisões e emoções são produto exclusivo de nossas memórias? Essa é a pergunta de um milhão de dólares! Inúmeras teorias foram desenvolvidas para determinar o funcionamento de nossa razão prática, com especial destaque na filosofia para Kant, com sua Crítica da Razão Prática (1788). No entanto, observamos que os seres humanos estão o tempo todo a surpreender e romper com padrões e isso não é considerado propriamente um defeito de funcionamento, mas uma de nossas características mais humanas, para o bem e para o mal.


Hannah Arendt descreve a própria ação humana como espontânea e carregada de imprevisibilidade, sendo a condição humana marcada pelo que a autora denomina "natalidade". A natalidade é o que garante a abertura da humanidade para o novo, porque com cada novo ser humano que ingressa no mundo, vem também a possibilidade de pensar o que nunca foi pensado e criar o que nunca foi criado, ou seja, um milagre. A natalidade, essa possibilidade de ruptura com o que está dado, é o que determina também a liberdade humana. Há algo em cada novo recém-chegado ao mundo que o faz único, capaz de iniciar coisas novas e imprevisíveis, nunca antes vistas.


Nossa espontaneidade é o que permite a necessária inovação no pensamento jurídico e na jurispridência, como a decisão que proíbe o uso da tese de legítima defesa da honra em casos de feminicídio, tese esta que no passado era amplamente aceita nos tribunais; ou a decisão que passou a acolher a união homoafetiva, alterando a interpretação do conceito de família trazido pelo Código Civil.


Não sabemos se no futuro teremos androides que se aproximarão tanto dos seres humanos de maneira que seremos obrigados acolhê-los como parte humanidade e garantir-lhes direitos fundamentais. Ou mesmo em que medida os próprios seres humanos podem percorrer esse caminho, com a crescente integração do mundo tecnológico e do mundo biológico. Isso é uma questão para o futuro, quem sabe muito próximo. Enquanto isso não acontece, é preciso garantir o papel da supervisão humana e mecanismos de responsabilização claros em processos que envolvam a tomada de decisão por inteligência artificial, especialmente, no poder judiciário. Preservando assim a possibilidade de inovação e ruptura para a realização da justiça.


Sobre a autora: Laura Mascaro é Graduada em Direito, Mestre pelo departamento de Filosofia e Teoria Geral do Direito da Faculdade de Direito da Universidade de São Paulo e Doutora em Literatura Francesa pela Faculdade de Filosofia, Letras e Ciências Humanas da USP com período sanduíche na Université Paris III – Sorbonne Nouvelle.

107 visualizações0 comentário