O robô supremo: inteligência artificial, empoderamento e controle

Supreme robot: artificial intelligence, empowerment and control

Resumo

O objetivo geral deste artigo é problematizar a utilização da Inteligência Artificial (IA) pelo Supremo Tribunal Federal (STF) na identificação de repercussão geral em recurso extraordinário. Como objetivos específicos, busca-se discutir o empoderamento do STF no desenho institucional brasileiro e sua Accountability, destacando a fundamentação das decisões como meio para tanto; delinear a IA e o Aprendizado Profundo; apresentar nesse contexto o robô desenvolvido pelo STF, examinando implicações de sua utilização pela jurisdição constitucional brasileira, diante da função e características do Tribunal. Em considerações finais, identificou-se como possíveis soluções para a Accountability das funções institucionais do STF a transparência e regulação pública representativa quanto ao desenho e funcionamento das ferramentas de IA, e a aplicabilidade da Resolução 332/2020 do CNJ. Operou-se a pesquisa com método indutivo, e dedutivo na elaboração do artigo. As técnicas de apoio foram a da categoria, do conceito operacional, do referente e da pesquisa bibliográfica.

Palavras-chave:
Supremo Tribunal Federal; Inteligência Artificial; Controle

Abstract

The general objective of this article consists in problematizing the use of Artificial Intelligence by the Brazilian Federal Supreme Court in identifying general repercussion in extraordinary appeals. As specific objectives, it’s sought to demonstrate the Court’s empowerment in the Brazilian institutional design, discussing its Accountability and highlighting the grounds for its decisions and their reasoning as one of its means; outline Artificial Intelligence and Deep Learning modality; present the robot developed by the Court, and examine the implications of its use in the Brazilian constitutional jurisdiction, given the characteristics of the Court. In final considerations, transparency and public regulation by representative institutions, and the applicability of CNJ Resolution 332/2020, are presented as solutions for constitutional purposes’ preservation. The research was carried out using the inductive method, and the deductive one in the article´s elaboration. The support techniques were the category, the operational concept, the referent and the bibliographic research.

Keywords:
Brazilian Supreme Court; Artificial Intelligence; Control

INTRODUÇÃO

O Supremo Tribunal Federal (STF), fortalecido por arranjos institucionais da Constituição de 1988, e mesmo da Emenda Constitucional n. 45/2004, entendeu por lançar mão da inteligência artificial (IA) para acelerar o desempenho de parte de suas funções. Ocorre que a intersecção entre as características do tribunal, com sua limitada Accountability¹, e aquelas apresentadas pelo robô Victor, a solução tecnológica adotada, vislumbram-se sérios desafios à aplicação do direito constitucional e, especialmente, o controle dessa aplicação.

O presente artigo propõe-se a examinar criticamente o uso da IA no âmbito jurídico em geral e, principalmente, pelo STF em particular, analisando os seus objetivos e consequências, e demonstrar a necessidade de transparência e controle, por instituições políticas representativas, acerca do funcionamento de tais instrumentos, de modo a preservar as finalidades da jurisdição constitucional. Também se examina a Resolução 332/2020 do Conselho Nacional de Justiça e a possível aplicabilidade de suas diretivas à solução de IA adotada pelo STF, o robô Victor.

Para consecução de seus objetivos, operou-se a pesquisa com o método indutivo, e o relatório, na forma deste artigo, com o método dedutivo. As técnicas de apoio foram a da categoria, do conceito operacional, do referente e da pesquisa bibliográfica (Pasold, 2018, p. 89 a 115).

1. EMPODERAMENTO E INDEPENDÊNCIA DO SUPREMO TRIBUNAL FEDERAL DO BRASIL

O processo de democratização pelo qual o Brasil passou após a ditadura de 21 anos demonstrou inequívoca preocupação com o fortalecimento e a independência do Judiciário. Na esteira das democracias do século XX, consolidou-se a noção de que a realização do ideal democrático exige um Judiciário independente (Hirschl, 2004, p.1), e, de fato, no desenho institucional oriundo da Assembleia Constituinte, juízes foram dotados de garantias que promovessem tal independência, como vitaliciedade, irredutibilidade salarial e inamovibilidade (Santiso, 2003, p. 3 e 4). Tratava-se da implementação do que Hirschl batizou de “juristocracia” (Hirschl, 2004, p. 1).

No caso brasileiro, Vieira (2009, p. 487 e 488) cunhou o termo “supremocracia” para designar o poder do Supremo Tribunal Federal (STF) em relação às demais instâncias do Judiciário, e também na relação da corte superior com os demais poderes, na medida em que passa a tomar o espaço da discussão política para definir ou legitimar questões substantivas relacionadas à própria identidade constitucional brasileira. Em grande parte, esse fortalecimento se deveu às aspirações abrangentes da Constituição Federal de 1988. Como coloca Vieira, “[...] se tudo é matéria constitucional, o campo de liberdade dado ao corpo político é muito pequeno” (2009, p. 489).

Todavia, em alguma medida, o fortalecimento do Judiciário chegou ao ponto em que ele se colocou alguns passos além da lei (Santiso, 2003, p. 13), de modo que sua interpretação por vezes evolutiva testou os limites dos textos legais e constitucional. O quadro passou a ser chamado, no Brasil, de ativismo judicial, focado na autonomia dos agentes judiciais em seu processo decisório a fim de preencher os espaços entre o panorama fático e o sistema jurídico (Koerner, 2013, p. 71). No caso brasileiro, o ativismo assumia particularidades, na medida em que praticado pelas mais diversas instâncias judiciais (Santiso, 2003, p. 9 e 10), em virtude do modelo de controle difuso de constitucionalidade. Juízes estaduais e regionais demonstravam ampla independência frente ao controle uniformizador do STF.

Diante desse quadro, em 2004, foi aprovada a Emenda Constitucional nº 45. A medida, chamada de “Reforma do Judiciário”, introduziu diversas alterações significativas no texto constitucional, a fim de fortalecer o STF, como a instituição das súmulas vinculantes, de um lado, e da repercussão geral no recurso extraordinário, de outro (Brasil, 2004). Todo o novo arranjo estrutural ampliou sobremaneira a independência do tribunal (Russell; O’Brien, 2001, p. 17).

Para fins do presente artigo, reputa-se pertinente examinar essa independência sob o prisma da Accountability, entendida como “necessidade de uma pessoa ou instituição que recebeu uma atribuição ou delegação de poder prestar informações e justificações sobre suas ações e seus resultados [...]” (Tomio; Robl Filho, 2013, p. 30), estando sujeita a sanções em decorrência de sua atuação (Tomio; Robl Filho, 2013, p. 30).

Levando em consideração as diversas formas de investidura dos cargos públicos, e da forma como seus detentores agem no equilíbrio do exercício do poder, O’Donnell concebeu duas formas diferenciadas de Accountability: a vertical e a horizontal. A primeira se materializa através dos processos eleitorais, em que o povo chancela ou reprova através do sufrágio a legitimidade dos atos praticados por seus representantes políticos (O’Donnell, 1998, p. 28).

A Accountability horizontal, por sua vez, também chamada de institucional, diz respeito à atuação de órgãos estatais dotados de competência e autonomia para controlar atos praticados por outros agentes públicos, o que importa a fiscalização e até mesmo a responsabilização capaz de gerar a perda do cargo em caso de práticas configuradas como delituosas (O’Donnell, 1998, p. 40 a 42).

No caso do Judiciário brasileiro, os mecanismos de Accountability são notadamente institucionais - seja porque seus membros não se submetem a processos eleitorais populares, seja porque mesmo críticas populares precisariam ser veiculadas através dos mecanismos institucionais, a fim de efetivamente desencadear efetiva prestação de contas. Nessa seara, destaca-se como mecanismo de Accountability horizontal do Judiciário o controle exercido pelo Conselho Nacional de Justiça (CNJ).

No caso específico do STF, seu desenho constitucional garantiu-lhe especial independência, seja a partir de suas competências como órgão responsável pela Accountability horizontal dos demais órgãos públicos, seja em função do extenso rol de garantias institucionais e de garantias funcionais, o que garante especial independência no processo decisório e mesmo no uso das prerrogativas institucionais (Tomio; Robl Filho, 2013, p. 37). Nessa seara, Tomio e Robl identificam quatro espécies de accountability judicial: decisional; comportamental; institucional; e legal (Tomio; Robl Filho, 2013, p. 30).

A Accountability judicial legal, entendida como “[...] fornecimento de informações e justificações sobre o cumprimento da lei, além da sanção no caso de sua violação” (Tomio; Robl Filho, 2013, p. 30), demanda dos magistrados uma fundamentação racional em suas decisões, como forma de justificação da posição adotada. Em se tratando de STF, ainda que se questione os argumentos jurídicos que fundamentam as decisões adotadas, é preciso reconhecer que existe uma preocupação razoável da Corte de demonstrar suas razões de decidir (pelo menos até o momento, como será discutido no item 2, infra).

No tocante à Accountability institucional² e comportamental³, estudos demonstram que a criação do CNJ pela Emenda Constitucional n. 45/2004 possibilitou um canal institucional competente e autônomo para controle das práticas adotadas pelos magistrados brasileiros (Tomio; Robl Filho, 2013, p. 36). Contudo, o STF não é alcançado pelo CNJ, e parece imune à accountability decisional, a qual “[...] significa a possibilidade de requerer informações e justificações dos magistrados pelas decisões judiciais, além de aplicar uma sanção por essas decisões” (Tomio; Robl Filho, 2013, p. 30).

Admite-se, com razão, que essa modalidade de controle seja especialmente fraca em um Estado de Direito que preza pela independência de seus magistrados, os quais não podem sentir-se temorosos ou acuados em razão das posições jurídicas adotadas. É particularmente temerário aceitar que a independência judicial decisional seja violada quando julgamentos não atendem interesses ou perspectivas de certos grupos sociais, pois situações como essas admitem que esses setores da sociedade utilizem seu poder político para retirar direitos constitucionais e legais de grupos fracos ou minorias (Brody, 2008, p. 9). De fato, há que se resguardar a independência judicial decisional, a fim de implementar uma aplicação igualitária das leis vigentes, garantindo a supremacia da Constituição em face de normas inconstitucionais criadas pelo Legislativo e sancionadas pelo Executivo (Tomio; Robl Filho, 2013, p. 34).

Assim, no caso do STF, o alcance da Accountability judicial decisional é pequeno frente à independência quase absoluta de que o órgão goza para decidir questões jurídicas e políticas. Suas decisões não estão sujeitas a recurso - senão recursos de esclarecimentos que são encaminhados ao próprio tribunal; e seus membros gozam de vitaliciedade, não podendo ser removidos ou punidos pelo conteúdo de suas decisões. O STF acaba por definir suas próprias competências, e delas atuar como fiel guardião.

Todavia, se essa independência é fruto do próprio amadurecimento da democracia e do Estado de Direito, garantindo que o STF funcione, ele próprio, como órgão competente para a accountability horizontal dos atos governamentais e legislativos, há também que se reconhecer que ela não representa um bem em si. As garantias que promovem essa independência só se justificam se for possível esperar julgamentos imparciais, capazes de defender os mesmos valores presentes na democracia constitucional em um dado Estado. Nem sempre, contudo, os magistrados aproveitam sua independência para decidir em conformidade com os valores constitucionais (Ferejohn, 1999, p. 353), e, nesses momentos, sua legitimidade pode ser questionada. Nessa linha, vale observar o alerta lançado por Ferejohn, com especial atenção voltada para a realidade brasileira: “an insulated Supreme Court could damage the normative balance of the democratic impulses. If we look into Brazil’s reality, maybe this balance has already been broken”⁴.

Possivelmente, a única forma de Accountability decisional que logre, de algum modo, exigir a responsabilidade dos Ministros do STF para com suas decisões seria a possibilidade de discussão crítica dos julgados pela doutrina e sociedade civil, a qual se encontra garantida pela liberdade de expressão e pensamento (Tomio; Robl Filho, 2013, p. 38), associada à exigência constitucional de fundamentação das decisões judiciais. Esse canal aberto de interação, aliado às mudanças na composição da Corte, pode efetivamente gerar novos resultados decisionais. Paralelamente à intensa discussão e produção doutrinária, é necessário encontrar magistrados sensíveis à mudança, o que geralmente depende da configuração de novos quadros dentro da Corte.

A Accountability judicial decisional representa grandes desafios, os quais não podem ser simplesmente negligenciados, na medida em que, no exercício do poder, nenhum órgão estatal deveria estar completamente imune ao controle de suas decisões.

A problemática ganha especiais contornos à luz de desenvolvimento recente na relação entre aplicação do Direito e tecnologia, com potencial de atingir precisamente o âmbito da independência decisional dos tribunais em geral e do STF em particular.

Trata-se da utilização da Inteligência Artificial (IA) e de suas capacidades de processamento da linguagem natural, que consiste na matéria prima para construção da fundamentação das decisões judiciais.

O uso da linguagem por algoritmos, para erigir arrazoados e dispositivos a respeito de certos temas, é suscetível de eludir os mecanismos de controle da atividade jurisidicional. Recorde-se que a fundamentação, sua publicidade e a possibilidade de sua discussão crítica constituem o principal instrumento de Accountability decisional, no tocante ao STF.

O próximo item examina com maiores detalhes esse desenvolvimento tecnológico.

2. A INTELIGÊNCIA ARTIFICIAL E O SUPREMO TRIBUNAL FEDERAL

A emergência de um novo paradigma tecnológico, organizado em torno das tecnologias da informação, processamento e comunicação, impactou profundamente a sociedade a partir do fim do século XX, penetrando em todos os campos da atividade humana, e tornando-se o tecido no qual grande parte dela é executada (Castells, 2002, p. 67 e 68). Castells aponta que tal fenômeno consiste em uma revolução, que denomina Revolução da Tecnologia da Informação (Castells, 2002, p. 69).

Klaus Schwab ressalta a estreita conexão e interação entre as modificações, emergentes da aplicação das novas tecnologias aos processos produtivos, e a reconfiguração das relações sociais, em um contexto que denomina de “Quarta Revolução Industrial” (Schwab, 2016, p. 12 e 13). O autor menciona, como exemplos das novidades tecnológicas que integram o contexto da revolução que descreve, a inteligência artificial, a robótica, a internet das coisas, os veículos autônomos, a impressão em 3D, a nanotecnologia, a biotecnologia, e a computação quântica; todas desenvolvendo-se de modo convergente, construindo e amplificando umas às outras (Schwab, 2016, p. 12 e 13).

Tratando-se de movimento abrangente, abarcando diversas áreas do conhecimento e ambicionando atuar sobre os grandes desafios da sociedade, através de soluções multidisciplinares (Peixoto; Silva, 2019, p. 50); o Direito não poderia deixar de ser colhido por essa “força das coisas”⁵. A aplicabilidade das novas tecnologias ao Direito vem ganhando impulso e suscitando crescente atenção e reflexão, especialmente no tocante à IA, dotada de grande potencial disruptivo nessa área (Peixoto; Silva, 2019, p. 58).

Segundo Peixoto e Silva, a IA consiste em uma “[...] subárea da ciência da computação e busca fazer simulações de processos específicos da inteligência humana por intermédio de recursos computacionais” (Peixoto; Silva, 2019, p. 20 e 21). Tal subárea compreende um amplo conjunto de métodos, técnicas, atividades e campos de estudo, enfeixados sob uma racionalidade eminentemente prática, voltada à solução de problemas multidisciplinares que, a princípio, demandariam habilidades intelectuais humanas (Peixoto; Silva, p. 74 e 75).

O espaço deste artigo não acomodaria a descrição de um rol de aplicações da IA em sua interação com o Direito, conjecturadas, projetadas ou em execução. Todavia, apenas para ilustrar sua amplitude, é possível mencionar, como exemplos, a criação automática de petições ou outros documentos jurídicos, a reconstrução automática de sequências de fatos a partir do exame de elementos de prova, a avaliação da credibilidade de depoimentos testemunhais a partir de parâmetros objetivos, e a construção de argumentos a partir de uma base de dados (Nieva Fenoll, 2018, p. 23 a 32).

É certo também que, além de soluções para problemas do, e no, Direito; a IA lhe aportou questões novas, especialmente de natureza ética (Peixoto; Silva, p. 109). Esse entrelaçamento não surpreende, já que também o Direito se orienta à solução de problemas emergentes da Sociedade. Ocorre que ele é um produto da dialética entre intenção sistemática e experiência problemática (Amaral, 1994, p. 237); e, enquanto esta última frequentemente se deixa atrair pelas promessas da IA, aquela, carregada de valores, proporciona variáveis doses de irritação.

É precisamente nesse contexto que o STF noticia o lançamento de um projeto de IA, denominado Victor, cujo objetivo inicial é automatização da análise textual de peças processuais, para fins de aquilatar o cumprimento dos requisitos de repercussão geral (Maia Filho; Junquilho, 2018, p. 226), justamente um dos elementos que compõem o quadro de fortalecimento do tribunal, exposto no item 1.

A preocupação com a performatividade da corte é uma das principais tônicas do projeto, enfatizando-se a aceleração dos trâmites, a velocidade nos julgamentos, a redução do número de processos acumulados, e a diminuição de gastos com o Poder Judiciário (Maia Filho; Junquilho, 2018, p. 221, 222 226, 227 e 230; BRASIL, 2018; Brasil, 2018-2; Teixeira, 2018; Braz et allii, 2018).

Conquanto inicialmente o robô deva dedicar-se a atuar na repercussão geral, o próprio STF, através dos seus canais de divulgação de informações, expõe que o projeto não irá limitar-se a esse objetivo (Brasil, 2018; Brasil, 2018-2). Maia Filho e Junquilho observam grande potencial de seu uso para aprimoramento do sistema de jurisdição constitucional brasileiro, inclusive de forma preditiva, integrando-se a um sistema de governança (Maia Filho; Junquilho, 2018, p. 222 a 224).

Mesmo mantidas as limitações atuais do projeto, no entanto, o quadro merece reflexão. Como o robô constatará a inserção de um recurso extraordinário em algum tema de repercussão geral? O ponto convida a aprofundamento, através do aporte de três conceitos chave para a proposta deste artigo: algoritmo, aprendizado de máquina e aprendizado profundo.

Em um sentido bastante amplo e transversal, um algoritmo é um procedimento codificado para transformar dados de entrada em resultados desejados, baseado em cálculos específicos (Gillespie, 2014, p. 167). O procedimento aponta um problema, e indica os passos para resolvê-lo (Gillespie, 2014, p. 167). Na seara específica da computação e da IA, Jordi Nieva Fenoll explica que o algoritmo consiste no “[...] esquema ejecutivo de la máquina, almacenando todas las opciones de decisión em función de los datos que se vayan conociendo” (Nieva Fenoll, 2018, p. 21).

Embora o algoritmo não deva necessariamente ser associado à computação, certo é que os computadores são máquinas algorítmicas (Gillespie, 2014, p. 167 e 168; Sejnowski, 2019, p. 213); razão pela qual o algoritmo é elemento essencial da Inteligência Artificial, embora não seja o único, nem com ela deva ser confundido (Peixoto; Silva, 2019, p. 84).

O elemento estruturador do algoritmo é o seu código-fonte, correspondente “[...] a um sistema de símbolos utilizados para codificar o programa-fonte em uma determinada linguagem de programação” (Silva, 2016, p. 324). Por meio dele, o programa-fonte “[...] é convertido na linguagem de máquina, uma receita de comandos que o computador é capaz de entender” (Silva, 2016, p. 324).

O aprendizado de máquina, por seu turno, é uma subárea da IA, voltada à programação de computadores para aprenderem sozinhos a executar tarefas, para as quais não foram explícita ou especificamente programados (Sejnowski, 2019, p. 299). O aprendizado profundo é uma modalidade de aprendizado de máquina, na qual os computadores aprendem conceitos complexos a partir de sua própria experiência envolvendo conceitos mais simples, por intermédio de redes de sistemas informacionais interconectadas, dispostas como neurônios biológicos, denominadas redes neurais (Peixoto; Silva, 2019, p. 97).

O aprendizado profundo é impulsionado a partir de algoritmos que, interagindo uns com os outros nas redes neurais, compõem sistemas complexos nos quais há várias “camadas ocultas” de subsistemas interligados, interpondo-se entre os dados da entrada e o resultado da saída da rede (Sejnowski, 2019, p. 213 e 214; Peixoto; Silva, 2019, p. 97 a 100).

O robô Victor é um exemplar de tecnologia exatamente desse último tipo, estruturando-se em redes neurais, por meio das quais ele aprende a linguagem natural utilizada nos textos jurídicos sujeitos a exame de repercussão geral (Maia Filho; Junquilho, 2018, p. 226; Andrade et allii, 2019, p. 323).

Já é possível vislumbrar, apenas com esse delineamento básico, que haverá dificuldades em saber como o robô atingiu as suas conclusões. Essas dificuldades entrelaçam-se com outras, desafiando reflexão sobre o papel da IA em um tribunal com as características ostentadas pelo STF, no cenário da democracia brasileira, conforme apresentadas no item 1. O próximo item buscará esmiuçar algumas dessas dificuldades.

3. INTELIGÊNCIA ARTIFICIAL E CONTROLE DE SUA ATUAÇÃO

Em relação às dificuldades para compreensão das decisões tomadas por robôs na aplicação do Direito, já de plano é possível assinalar a baixa convergência entre os discursos jurídico e da computação, e a pouca familiaridade dos juízes com temas ligados à programação (Forster et allii, 2018, p. 191).

Saldanha e outras, por sua vez, observam a vulnerabilidade do Direito em face da tecnologia, que se tornou essencial na esfera política (Saldanha; Mello; Limberger, 2016, p. 347). Essas autoras sustentam que tal quadro desafia a racionalidade jurídica construída na modernidade, e empodera sobremaneira os especialistas não ligados à ciência jurídica (Saldanha; Mello; Limberger, 2016, p. 340 a 343 e 347).

O projeto Victor não escapa a essas considerações, ao resultar de parceria entre o STF e a Universidade de Brasília (UnB), a qual reuniu um grupo de pesquisa multidisciplinar composto por membros das áreas de engenharia de software, administração, análise de sistemas, engenharia da computação, dentre outras, além da área jurídica⁶. Qual o limite da participação e ingerência interdisciplinar do jurista na concepção, desenvolvimento, implementação e avaliação das várias etapas do projeto? A partir de qual momento o jurista se torna um usuário da ferramenta, e que prerrogativas tem, nessa condição?

A questão é relevante, porque a maior parte dos usuários de algoritmos não reflete sobre os critérios utilizados em seu funcionamento, tratando-os como ferramentas não problemáticas, a serviço de uma outra atividade (Gillespie, p. 178). O autor traz à luz um fenômeno que denomina de “objetividade algorítmica”, ou seja, a confiança dos usuários, no sentido de que os algoritmos sejam ferramentas livres de subjetividade e erro, acurados e intocados por influências e intervenções indevidas (Gillespie, p. 179). Segundo ele, trata-se de uma ficção cuidadosamente construída, pois os algoritmos são ajustados constantemente para responder a demandas diversas, inclusive de natureza comercial (Gillespie, p. 179).

Ocorre que a disseminada confiança algorítmica pode representar séria ameaça a direitos fundamentais.

Para Nieva, a fronteira entre o uso da ferramenta como auxiliar do juiz para decidir uma questão posta diante de si, e a decisão a esse respeito pelo próprio programa, é borrada quando a decisão firmada pelo juiz contém, em sua fundamentação, unicamente a referência ao resultado trazido pelo algoritmo (Nieva Fenoll, 2018, p. 72 e 73).

Embora o STF enfatize que o Victor não irá tomar decisões, mas apenas auxiliar o trabalho jurisdicional da corte (BRASIL, 2018); registra-se também que ela irá devolver automaticamente aos tribunais de origem os processos enquadrados em algum dos temas de repercussão geral (Teixeira, 2018). Trata-se de decidir o destino de recursos extraordinários, atividade jurisdicional típica que, embora possa estar fundamentada no enquadramento do recurso em tema de repercussão geral, na realidade consistirá em referendar uma constatação nesse sentido, alcançada pelo robô. Mais ainda: o Victor conta com uma ferramenta de suspensão de ações em território nacional, a partir do enquadramento dessas ações em temas de repercussão geral (Andrade et alii, 2019, p. 329).

Todavia, a simples referência ao algoritmo não é suficiente para que se possam considerar atendidos os requisitos atinentes à Accountability a que está sujeita o Judiciário.

De um ponto de vista mais geral, interessa destacar que a argumentação jurídica tem um caráter legitimador, pois a validade das normas jurídicas depende de ostentarem uma pretensão de correção, aferível a partir da fundamentação racional e intersubjetiva das proposições de sua aplicação, e da adequação dessa fundamentação aos consensos atingidos na experiência jurídica de determinada comunidade (Alexy, 2011, p. 58 a 67).

No mesmo sentido, Dworkin aponta que a verdade de uma proposição valorativa - dentre as quais ele inclui aquelas, atinentes à aplicação do Direito - depende da construção de uma argumentação adequada, assim entendida aquela densa, complexa, íntegra, coerente e sustentada por outras proposições do universo valorativo (Dworkin, 2011, p. 99 a 122). A construção de uma argumentação adequada é, para ele, uma questão de responsabilidade moral (Dworkin, 2011, p. 99 a 122).

A essas considerações gerais, aplicáveis a qualquer solução de IA na aplicação do Direito, cabe agregar, recordando o exposto no item 1 supra, que no caso do STF, a mais efetiva modalidade de accountability decisional reside justamente na possibilidade de debate público acerca do conteúdo das respectivas decisões. O empoderamento da corte prejudica outras formas de controle da sua atividade, inclusive aquela, executada através de robôs.

Como bem observa Ferejohn, a independência judicial decisional corresponde a um meio para a realização de outros fins, como o Estado de Direito ou valores constitucionais (Ferejohn, 1999, p. 353).

Assim sendo, o uso de ferramentas de IA não pode estar vinculado apenas a um desiderato de performatividade, mas deve adequar-se às finalidades constitucionais que a atividade jurisdicional em geral, e o STF em particular, deve perseguir.

Por conta disso, é importante saber como a máquina decide. Isso, no entanto, só é possível até certo ponto.

A necessidade de justificação das escolhas é reputada, historicamente, como um dos grandes desafios da IA no Direito (Peixoto; Silva, 2019, p. 28). Mecanismos de aprendizado profundo tornam-se mais opacos, quanto mais camadas vão sendo acrescentadas às respectivas redes neurais, constituindo verdadeiras “caixas-pretas” complexas, de modo que as razões pelas quais a máquina atingiu determinada conclusão não são acessíveis, nem mesmo a especialistas em computação (Peixoto; Silva, 2019, p. 99 e 100; Sejnowski, 2019, p. 213 a 218).

Evidentemente, é possível administrar a entrada de dados e avaliar as respostas do sistema, escolhendo o conjunto de informações sobre as quais o robô atuará (o data set), e, a partir das respostas oferecidas, executar ajustes nos seus componentes (Maia Filho; Junquilho, 2018, p. 224; Peixoto; Silva, 2019, p. 99 e 100; Sejnowski, 2019, p. 213 a 218).

Não é possível saber o que exatamente ocorreu, no entanto; o que é problemático, considerando-se que a aplicação do Direito não consiste apenas em resultados, mas também em um procedimento (Alexy, 2011, p. 49 e 50 e 86 a 90). À guisa de exemplo prático, Andrade e outros questionam como será possível realizar o distinguishing em casos de repercussão geral, para excluir um determinado processo da suspensão nacional determinada pelo robô; e enxergam possível malferimento aos princípios do Devido Processo Legal e da Fundamentação das Decisões (Andrade et allii, 2019, p. 330). A quem apelar, se a decisão é da empoderada corte, situada no apex do sistema judiciário brasileiro?

Inobstante isso, é certo que, além do data set, os códigos-fonte dos algoritmos podem ser conhecidos e compreendidos.

É possível, como diz Gillespie, desembrulhar as escolhas quentes, humanas e institucionais, atrás desses mecanismos frios (Gillespie, 2014, p. 169). Esse mesmo autor aponta que, em tempos de revolução informacional, o conhecimento dos algoritmos e da arquitetura de seus códigos é uma das principais fontes de poder (econômico, político, social), e vislumbra a possibilidade de mudanças no equilíbrio desse poder através do crescente interesse de órgãos de representação política no assunto (Gillespie, 2014, p. 185).

A solução para a questão, portanto, pode ser a transparência na arquitetura das soluções de inteligência artificial utilizadas pelo Supremo Tribunal Federal, no desempenho de sua atividade finalística, possibilitando amplos debates a respeito, e mesmo a intervenção de órgãos de representação política. O algoritmo, seu funcionamento e arquitetura, ao integrar a fundamentação das decisões, pode ser inserido na accountability da Corte, em todas as suas dimensões.

Certamente, a abertura total dos códigos-fonte, além de não resolver a questão da opacidade, apresenta problemas por si só, ao tornar a ferramenta vulnerável a ataques, por exemplo. Peixoto e Silva propõem que haja um sopesamento das necessidades de transparência com as de segurança, e sugerem que aquela seja aplicável a um sistema de governança da ferramenta (Peixoto; Silva, 2019, p. 60, 73 e 74).

Alguma resposta a várias dessas ponderações pode ser discernida na Resolução 332/2020, do Conselho Nacional de Justiça, a qual tem por objeto, justamente, dispor “[...] sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário [...]” (Brasil, 2020). A resolução toma em conta a realidade da disseminação das soluções de IA nos órgãos judiciários do país, e contém diretrizes como o caráter auxiliar, não vinculante, e sujeito a supervisão das autoridades competentes, das propostas emanadas de programas de IA (art. 1º e 17 a 19, com seus parágrafos e incisos); a transparência e a publicidade, delimitadas por critérios objetivos (art. 8º e seus incisos); a governança e a instituição de formas de controle (artigo 8º a 12, com seus incisos e parágrafos); e, especialmente, a exigência de “[...] explicação dos passos que conduziram ao resultado”, sempre que soluções de IA forem usadas como técnica para elaboração de decisões judiciais (BRASIL, 2020). O responsável pela verificação do compliance em relação a essa resolução é o próprio CNJ.

O espaço deste artigo não comporta um exame detalhado da resolução, mas, ainda que se possa antever, nela, um norte no enfrentamento de parte das dificuldades ventiladas na aplicação das soluções de IA ao Direito, e compatibilidade com a accountability exigível do Judiciário; cabe recordar que o STF não está sujeito às determinações do CNJ. O Victor, assim, estaria isento de cumprir as determinações da Resolução 332/2020?

A resposta, ao ver dos autores, é negativa.

Conquanto as determinações da Resolução possam ser vistas como uma política (policy), ou seja, um conjunto de medidas exaradas por órgão de natureza política, destinadas a assegurar objetivos desejáveis à Sociedade, no tocante à utilização de ferramentas de IA pelo Poder Judiciário; sua base é de natureza principiológica (principle), enquanto concretização erigida sobre direitos fundamentais dos jurisdicionados, como por exemplo o Devido Processo Legal, a Fundamentação das Decisões Judiciais, e a Não Discriminação - todos com assento constitucional⁷. Desse modo, conquanto o STF não se submeta às diretivas do CNJ, enquanto policies; está vinculado aos princípios que subjazem à regulamentação da matéria, e que resultaram nas medidas arroladas na Resolução 332/2020.

Cumpre recordar que a presidência do CNJ é exercida pelo ministro presidente do STF⁸, e a esse tribunal cabe a revisão judicial das decisões do conselho⁹ (art. 102, “r” da CF/88); razão pela qual a aderência aos princípios, acima aludidos, é uma questão de integridade e responsabilidade moral (Dworkin, 2011, p. 111 a 113). Ao fim e ao cabo, recairá sobre o próprio STF demandar, dos demais tribunais, medidas cuja exigibilidade, para si próprio, não deveria refutar, sob pena de incoerência. Como aponta Dworkin, “uma pessoa não pode sensivelmente esperar que seus servidores atuem a partir de princípios que ela considera corretos, mas pode esperar que eles atuem a partir de princípios com os quais eles próprios concordem” (Dworkin, 2011, p. 113)¹⁰.

CONSIDERAÇÕES FINAIS

Ao longo dos últimos anos, o STF ganhou força enquanto corte constitucional, adotando uma conduta proativa na interpretação das normas constitucionais, por vezes inclusive a alterar o sentido original previsto pelo constituinte. Sua estrutura institucional favorece essa adoção, na medida em que garantias de independência logram mantê-la de certa forma protegida das influências políticas advindas do Executivo e do Legislativo; mas, por outro lado, mantem a Corte relativamente isenta da accountability inerente a qualquer estrutura estatal democrática.

Nesse contexto, revela-se preocupante a adoção de ferramentas de inteligência artificial com propósitos unicamente performativos, já que as características desses instrumentos criam dificuldades para o desempenho da única modalidade de accountability à qual se sujeita a corte, qual seja, aquela atinente à fundamentação das suas decisões, à construção de sua argumentação, à consistência e à coerência do discurso de aplicação do Direito constitucional. Via de consequência, dificulta-se também o controle da atividade da corte, e a verificação de atingimento das finalidades a ela impostas constitucionalmente, as quais não se resumem à mera performance.

Assim, faz-se necessária a transparência do conteúdo e modo de funcionamento das ferramentas de Inteligência Artificial aos órgãos estatais de representação política, para que procedam à regulação, acompanhamento e controle de seu uso, para verificação de sua compatibilidade com os objetivos fixados na Constituição, e determinação de eventual correção de rumos. Necessário, ainda, reconhecer a aplicabilidade, ao próprio STF, das diretrizes e princípios emanados da Resolução 332/2020, por exigência de integridade, coerência e responsabilidade moral do tribunal.

REFERÊNCIAS DAS FONTES CITADAS

• ALEXY, Robert. Conceito e Validade do Direito. Tradução de Gercélia Batista de Oliveira Mendes. São Paulo: Martins Fontes, 2011. Título original: Begriff und Geltung des Rechtes
• AMARAL, Francisco. Racionalidade e Sistema no Direito Civil Brasileiro. Revista de Informação Legislativa, a. 31, n. 121, jan-mar 1994, p. 233- 243.
• ANDRADE, Mariana Dionísio de; PINTO, Eduardo Régis Girão de Castro; LIMA, Isabel Braga de; GALVÃO, Alex Renan de Souza. Inteligência Artificial para o Rastreamento de Ações com Repercussão Geral: o Projeto Victor e a Realização do Princípio da Razoável Duração do Processo. Revista Eletrônica de Direito Processual - REDP, ano 14, v. 21, n 1, p. 312- 335, jan-abr de 2020.
• BRASIL. Conselho Nacional de Justiça. Resolução 332 (2020). Disponível em https://atos.cnj.jus.br/files/original191707202008255f4563b35f8e8.pdf
  » https://atos.cnj.jus.br/files/original191707202008255f4563b35f8e8.pdf
• BRASIL. Constituição (1988). Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm
  » http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm
• BRASIL. Emenda Constitucional n. 45 (2004). Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/emendas/emc/emc45.htm
  » http://www.planalto.gov.br/ccivil_03/constituicao/emendas/emc/emc45.htm
• BRASIL. Supremo Tribunal Federal. Inteligência artificial: Trabalho judicial de 40 minutos pode ser feito em 5 segundos (2018). Disponível em: http://www.stf.jus.br/portal/cms/verNoticiaDetalhe.asp?idConteudo=393522
  » http://www.stf.jus.br/portal/cms/verNoticiaDetalhe.asp?idConteudo=393522
• BRASIL. Supremo Tribunal Federal. Inteligência artificial vai agilizar a tramitação de processos no STF (2018). Disponível em: http://www.stf.jus.br/portal/cms/verNoticiaDetalhe.asp?idConteudo=380038
  » http://www.stf.jus.br/portal/cms/verNoticiaDetalhe.asp?idConteudo=380038
• BRAZ, N. et al 2018. Document classification using a Bi-LSTM to unclog Brazil’s supreme court. NIPS 2018 Workshop on Machine Learning for the Developing World (ML4D). Disponível em: https://arxiv.org/abs/1811.11569.
• BRODY, David C. The Use of Judicial Performance Evaluation to Enhance Judicial Accountability, Judicial Independence and Public Trust. Denver University Law Review, Denver, v. 86, n. 1, p. 1-42, 2008. Disponível em: http://www.law.du.edu/documents/denver-university-law-eview/v86_i1_brody.pdf
  » http://www.law.du.edu/documents/denver-university-law-eview/v86_i1_brody.pdf
• CASTELLS, Manuel. A sociedade em rede. Volume I. Tradução de Roneide Venâncio Majer. São Paulo: Paz e Terra, 2002.
• DWORKIN, Ronald. Justice for Hedgehogs. Cambridge: Harvard University Press, 1978
• DWORKIN, Ronald. Taking Rights Seriously. Cambridge: Harvard University Press , 1978.
• FEREJOHN, John. Independent Judges, Dependent Judiciary: explaining judicial independence. Southern California Law Review, v. 72, 1999. Disponível em: http://www-bcf.usc.edu/~usclrev/pdf/072303.pdf
  » http://www-bcf.usc.edu/~usclrev/pdf/072303.pdf
• FORSTER, João Paulo Kulczynski; BITENCOURT, Daniella; PREVIDELLI, José Eduardo A. Pode o “juiz natural” ser uma máquina? Revista Direito e Garantias Fundamentais, v. 19, n. 3, p. 181-200, set-dez 2018.
• GILLESPIE, Tarleton. The relevance of algorithms. In: GILLESPIE, Tarleton; BOCZKOWSKI, Pablo; FOOT, Kirsten (org). Media Technologies. Essays on communication, materiality and society. Cambridge: MIT Press, 2014, p. 167-193.
• HIRSCHL, Ran. Towards Juristocracy: the origins and consequences of the new constitutionalism. New York: Harvard University Press, 2004.
• KOERNER, Andrei. Ativismo Judicial? Jurisprudência constitucional e política no STF pós-88. Novos Estudos, n. 96, p. 69-85, jul. 2013.
• MAIA FILHO, Mamede Said; JUNQUILHO, Tainá Aguiar. Projeto Victor: perspectivas de aplicação da inteligência artificial ao direito. Revista Direito e Garantias Fundamentais , v. 19, n. 3, p. 219-238, set-dez 2018.
• NIEVA FENOLL, Jordi. Inteligencia artificial y processo judicial. Madrid: Marcial Pons, 2018.
• O’DONNELL, Guillermo. 1998. Accountability horizontal e novas poliarquias. Tradução de Clarice Cohn e Álvaro Augusto Comin. Lua Nova, n. 44, p. 27-54. Disponível em: http://www.scielo.br/pdf/ln/n44/a03n44
  » http://www.scielo.br/pdf/ln/n44/a03n44
• PASOLD, Cesar Luiz. Metodologia da Pesquisa Jurídica-Teoria e Prática. 14.ed.rev.atual.amp.Fpolis: EMais, 2018.
• PEIXOTO, Fabiano Hartmann; SILVA, Roberta Zumblick Martins da. Inteligência Artificial e Direito. Volume I. Curitiba: Alteridade, 2019.
• RUSSELL, Peter H; O’BRIEN, David M. Toward a General Theory of Judicial Independence. In: Judicial Independence in the Age of Democracy: Critical Perspectives from around the World. Virginia, USA: University Press, 2001, p.1 a 25.
• SALDANHA, Jânia; MELLO, Rafaela da Cruz; LIMBERGER, Têmis. Do governo por leis à governança por números: breve análise do Trade in Service Agreement (TISA). Revista de Direito Internacional, v. 13, n. 3, 2016, p. 338 a 355.
• SANTISO, Carlos. Economic Reform and Judicial Governance in Brazil: balancing independence with accountability. In: Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública, 8, Panamá, 28-31 Oct. 2003.
• SCHWAB, Klaus. A quarta revolução industrial. Tradução de Daniel Moreira Miranda. São Paulo: Edipro, 2016.
• SEJNOWSKI, Terrence J. A Revolução do Aprendizado Profundo. Tradução de Carolina Gaio. Rio de Janeiro: Alta Books, 2019.
• SILVA, Tiago Falchetto. O elemento regulador do ciberespaço, o código-fonte, e-discovery e o contrato-realidade virtual na sociedade da informação. In: LEME, Ana Carolina Reis Paes; RODRIGUES, Bruno Alves; CHAVES JÚNIOR, José Eduardo de Resende (Coord.). Tecnologias disruptivas e a exploração do trabalho humano: a intermediação de mão de obra a partir das plataformas eletrônicas e seus efeitos jurídicos e sociais. São Paulo: LTr, 2016, p. 323 a 329.
• TEIXEIRA, Mateus. STF investe em inteligência artificial para dar celeridade a processos (2018). Disponível em: https://www.jota.info/coberturas-especiais/inova-e-acao/stf-aposta-inteligencia-artificial-celeridade-processos-11122018
  » https://www.jota.info/coberturas-especiais/inova-e-acao/stf-aposta-inteligencia-artificial-celeridade-processos-11122018
• TOMIO, Fabrício Ricardo de Limas; ROBL FILHO, Ilton Norberto. Accountability e Independência Judiciais: uma análise da competência do Conselho Nacional de Justiça (CNJ). Revista de Sociologia e Política, v. 21, n. 45, mar. 2013, p. 29-46.
• VIEIRA, Oscar Vilhena. Supremocracia. In SARMENTO, Daniel (Coord.). Filosofia e Teoria Constitucional Contemporânea. Rio de Janeiro: Lumen Juris, 2009, p. 483 a 502.

• 1
  Será apresentado, no item 1 infra, um conceito operacional para a categoria Accountability. No entanto, desde logo se esclarece a opção dos autores pela utilização do vocábulo em língua inglesa, em face de sua ampla carga semântica, capaz de abranger as várias dimensões do fenômeno que expressa, que são insuscetíveis de captação e veiculação pelos equivalentes em português.
• 2
  “[...] que diz respeito às informações e às justificações sobre ações institucionais não jurisdicionais (administração, orçamento e relações com outros poderes), assim como a sanção pela realização de processos institucionais inadequados” (TOMIO; ROBL FILHO, 2013, p. 30).
• 3
  “[...] que significa receber informações e justificações sobre o comportamento dos magistrados (honestidade, integridade, produtividade, entre outros), também sendo autorizada a atribuição de sanção”. (TOMIO; ROBL FILHO, 2013, p. 30).
• 4
  FEREJOHN, John. Independent Judges, Dependent Judiciary: explaining judicial independence. Southern California Law Review, v. 72, 1999. Disponível em: http://www-bcf.usc.edu/~usclrev/pdf/072303.pdf
• 5
  Expressão utilizada por Jânia Maria Lopes Saldanha, Rafaela da Cruz Mello e Têmis Limberger para denominar o fenômeno através do qual uma representação dominante do mundo, em determinada época, altera a realidade política, social e econômica, e acaba por atingir o Direito (SALDANHA; MELLO; LIMBERGER, 2016, p. 346).
• 6
  Conforme pode ser observado no sítio da internet dedicado ao projeto, disponível em http://gpam.unb.br/victor/.
• 7
  Acerca da distinção entre policies e principles, vide a obra de Ronald Dworkin (DWORKIN, 1978, p. 82 a 84).
• 8
  Art. 103-B, I e parágrafo 1º da Constituição Brasileira (BRASIL, 1988).
• 9
  Art. 102, “r” da Constituição Brasileira (BRASIL, 1988).
• 10
  Tradução livre. No texto original: “No one can sensibly expect that his officials act out of principles that he himself thinks right, but he can expect his officials to act out of the principles they themselves endorse”.

Datas de Publicação

• Publicação nesta coleção
  08 Dez 2023
• Data do Fascículo
  2023

Histórico

• Recebido
  28 Fev 2021
• Aceito
  15 Jun 2022