O tecnototalitarismo e os riscos para a democracia e para os sujeitos

RESUMO

O artigo analisa os riscos de legitimidade do exercício do poder com o uso das novas tecnologias, em uma possível tecnocracia que faz uso político das tecnologias enquanto instrumentos de controle das atividades dos indivíduos de uma sociedade. Em um primeiro momento, debate o sentido de tecnocracia e tecnototalitarismo, apresentando o contexto em que a discussão sobre esse novo arranjo de poder se insere. Em sequência, ao definir o conceito de tecnototalitarismo, argumenta como ele tem ameaçado os sentidos de democracia e as liberdades individuais da nossa tradição liberal ocidental. Por fim, apresenta algumas propostas de proteção do sujeito em ambientes digitais como um dos principais instrumentos para a limitação do uso do poder e como um dos pontos nodais para o resgate do seu sentido de legitimidade democrática.

PALAVRAS-CHAVE:
Tecnototalitarismo; Poder; Sociedade digital; Democracia; Direitos individuais

ABSTRACT

The article analyzes the legitimacy risks of exercising power with the use of new technologies, in a possible technocracy that makes political use of technologies as instruments to control the activities of individuals in a society. At first, it debates the meaning of technocracy and technototalitarianism, presenting the context in which the discussion about this new arrangement of power is inserted. Next, in defining the concept of technototalitarianism, he argues how it has threatened the meanings of democracy and individual freedoms in our Western liberal tradition. Finally, it presents some proposals for protecting the subject in digital environments as one of the main instruments for limiting the use of power and as one of the nodal points for rescuing their sense of democratic legitimacy.

KEYWORDS:
Technototalitarianism; Power; Digital society; Democracy; Individual rights

Introdução

No âmbito dos debates e análises sobre o Estado moderno, muito se discute sobre as formas de exercício do poder conforme os parâmetros democráticos atuais. A Ciência Política tem um longo histórico de discussões sobre o modo como o poder político é exercido, em uma tentativa complexa de fundar as bases da legitimidade do poder em consonância com as exigências específicas de uma sociedade na qual seus indivíduos consigam se perceber como destinatários e autores das regras, dadas as exigências políticas da cultura ocidental democrática contemporânea. De certo modo, com os amplos debates sobre o tema já temos uma estabilidade sobre a legitimidade do uso do poder nos moldes das instituições estatais modernas. Mesmo com os questionamentos existentes, é possível afirmar essa estabilidade pelas inúmeras teorias e pesquisas já consolidadas sobre a legitimidade do uso do poder no Estado moderno.

Com o advento da “sociedade da informação” e o avanço das novas tecnologias, especialmente as digitais, vivenciamos uma revolução¹ no modo como estruturamos e processamos os mais variados âmbitos da vida social. As tecnologias digitais estão transformando as relações e os modos como organizamos a sociedade contemporânea. As plataformas digitais de relacionamento, os sistemas de vigilância e controle, o massivo uso de dados digitais e a proliferação de debates nas redes sociais estão constituindo-se numa nova forma de existência social.

Do mesmo modo, os instrumentos governamentais de gerenciamento e processamento de informações sobre os cidadãos, o comércio digital e os modos de modulação de comportamento dos seus usuários e outros mecanismos tecnológicos são novidades que estão provocando a reinterpretação dos sentidos de nossas instituições e de nossa vida em sociedade. Com isso, um dos pontos de destaque para os atuais estudos sociológicos e políticos é o uso da tecnologia digital como meio de dominação política, econômica e social.

Nesse contexto, a premissa a ser desenvolvida neste artigo é baseada na percepção de que o uso das novas tecnologias traz riscos à legitimidade do exercício do poder político e econômico, por ser possível estarmos vivendo uma tecnocracia que faz uso dessas tecnologias enquanto instrumentos de controle dos indivíduos para finalidades que não passam pelo crivo democrático dos afetados. Por isso, farei aqui um levantamento dos problemas que enfrentamos, visando justificar a necessidade de ações institucionais para a nossa proteção enquanto sujeitos que habitam os ambientes digitais, resguardando direitos individuais digitais, especialmente aqueles voltados para a proteção de nossa privacidade, segurança e liberdade.

Esses seriam meios jurídicos que possibilitariam, segundo os parâmetros normativos contemporâneos, o resgate de padrões democráticos para a limitação e legitimação do uso do poder na era digital. Essas medidas já estão sendo tomadas em vários âmbitos e, para a análise do seu contexto justificatório, trabalharei com a hipótese extrema de um totalitarismo tecnológico digital, aqui intitulado como tecnototalitarismo. Essa hipótese - improvável - seria uma tentativa de visualizar de modo mais profundo os riscos da ausência de medidas eficazes para o controle do poder na sociedade digital.

Para desenvolver a argumentação, em um primeiro momento debaterei o sentido de tecnocracia e tecnototalitarismo, apresentando o contexto em que a discussão sobre esse novo arranjo de poder se insere. Em sequência, ao definir o conceito de tecnototalitarismo, debaterei como ele pode ameaçar os sentidos de democracia e as liberdades individuais da nossa tradição liberal ocidental. Por fim, apresento algumas propostas de proteção do sujeito em ambientes digitais como um dos principais instrumentos para a limitação do uso do poder na era digital e como um dos pontos nodais para o resgate do seu sentido de legitimidade democrática. Enquanto proposta ensaística, utilizarei como metodologia a revisão bibliográfica de autores que debatem o conceito de poder em ambientes digitais e exemplificarei as situações com alguns casos atuais, na tentativa de apresentar esse contexto para o desenvolvimento de instrumentos de proteção aos sujeitos no entorno digital, como a extensão dos direitos individuais para o âmbito digital.

Esse esforço para entender esse contexto está alinhado com as perspectivas de uma possível recuperação e extensão dos mecanismos modernos de proteção do sujeito para a era da sociedade da informação, tanto no seu sentido de limitação do poder soberano, quanto no de se constituir numa esfera protetiva aos indivíduos contra investidas autoritárias, conforme as premissas democráticas contemporâneas.

Tecnologias digitais enquanto instrumentos do poder

No prefácio de Origens do totalitarismo, Hannah Arendt (1989, p.12) constata que, ao mesmo tempo em que o ser humano moderno tem um poder de dimensões nunca experimentado, um poder maior do que o que teve até agora, ele é incapaz de viver de modo pleno e seguro nesse mundo construído por intermédio de seu próprio poder e de compreender adequadamente o seu sentido. E isso constitui uma ameaça à sua existência neste mundo. Essa percepção de Arendt sobre o grande poder que o ser humano tem e a sua potência destrutiva é a base sobre a qual ela constituirá as suas críticas ao totalitarismo e aos usos ilegítimos do poder. Essas críticas foram escritas em meados do século passado, tendo por base o contexto posterior às duas grandes guerras mundiais, no qual não tínhamos muitas certezas e boas previsões sobre um futuro estável, um futuro que conseguisse lidar de maneira satisfatória contra os abusos de poder, especialmente depois das grandes guerras, quando constatamos o uso desmedido das tecnologias militares e o poder de destruição das armas nucleares que poderiam levar à aniquilação da espécie humana.

No contexto posterior à Segunda Guerra Mundial, cientistas sociais e juristas empenharam-se na criação de instrumentos normativos transnacionais para promover a paz entre as nações, reafirmando a importância dos direitos humanos como fundamentais para a existência humana. Isso resultou em tratados internacionais que expandiram a proteção dos direitos humanos, abrangendo novos sujeitos e interesses sociais. Muitas nações incorporaram esses direitos em suas ordens jurídicas, fortalecendo a limitação do poder e a proteção dos cidadãos na sociedade global do século XXI. Apesar de violações contínuas, esses instrumentos têm servido como guias para o exercício do poder, promovendo legitimidade democrática das ordens jurídicas nacionais e estabelecendo padrões para a validação dos direitos na ordem internacional atual.

É por isso que hoje o conceito de direitos humanos é amplamente utilizado na política, tanto por liberais quanto por críticos do liberalismo, como um poderoso instrumento normativo para controlar o poder e proteger os indivíduos dos seus abusos. Esses direitos desempenham um papel fundamental nas teorias democráticas, legitimando o poder e regulando o uso da força por parte dos Estados e entidades privadas de grande poder econômico. Em resumo, os direitos humanos são uma ferramenta crucial para combater abusos de poder e uma parte essencial dos sistemas jurídicos ocidentais contemporâneos.

Em paralelo a esse processo de aprofundamento dos direitos humanos, nas últimas décadas estamos vivenciando a ascensão da chamada “sociedade da informação” (Castells, 2006), especialmente em decorrência do desenvolvimento tecnológico avançado baseado em tecnologias digitais. Com a globalização da economia e com a constituição de uma sociedade em rede - interconectada graças aos avanços tecnológicos -, encontramo-nos diante de novidades que estão exigindo novas medidas protetivas e novos instrumentos para o enfrentamento dos riscos de abuso de poder decorrentes desse novo contexto.

É com base nessas novidades que passarei a debater os problemas que podem levar a situações de autoritarismo - e até de totalitarismo -, quando partimos do pressuposto de que as tecnologias são também instrumentos de poder e de dominação. Por isso, trabalharei com a hipótese extrema de um Estado tecnológico totalitário, pois, por meio dela, seria possível construir justificativas para a realização de um sistema eficiente de proteção do sujeito contra dinâmicas autoritárias advindas do novo contexto tecnológico. Isso vem gerando inúmeros debates sobre novas fórmulas teóricas e práticas para a sedimentação e atualização dos mecanismos institucionais de proteção do sujeito e fiscalização dos abusos de poder.

Ao estudar a relação entre burocracia e tecnologia, García-Pelayo (1987) estabeleceu uma analogia entre o sistema tecnológico e o político, indicando que a tecnologia constitui a infraestrutura do poder político, da economia e do Estado - neste último caso, refere-se especialmente à tecnologia usada pelo poder militar estatal. Essa relação estruturante nos permite definir a ligação entre tecnologia e poder como uma tecnocracia, isto é, um sistema de organização do político e da sociedade com base na supremacia de comando operada pelos especialistas da tecnologia.

Quando analisou as relações entre tecnocracia, totalitarismo e processos de massificação da sociedade, Goytisolo (1981) definiu a tecnocracia como o uso político feito da tecnologia para o controle das ações dos indivíduos, sendo ela uma forma de governo operada, em última instância, pelos especialistas da tecnologia. Essa tecnocracia trabalha com uma racionalidade utilitarista e busca sua legitimação no método científico e na racionalidade técnica especializada, separando-se da política e das exigências democráticas contemporâneas.

Alves Neto (2016, p.139) argumenta que a modernidade integrou a atividade técnico-científica em todas as áreas da sociedade, separando o conhecimento científico da política. Isso resultou em uma divisão entre especialistas - os que detêm o conhecimento científico - e leigos - os que não têm acesso a esse conhecimento e estão excluídos das decisões sobre tecnologia. No caso dos leigos, especialmente no contexto das tecnologias digitais, estamos diante da incapacidade de julgar e compreender o mundo humano e, consequentemente, de atuar sobre ele.

Assim, o afastamento político dos leigos em tecnologia cria um problema democrático significativo, uma vez que as tecnologias digitais desempenham um papel essencial na vida social atual. A falta de compreensão e participação na sociedade digital representa um déficit de legitimidade democrática, especialmente pelo aumento da vigilância e do controle por parte do governo e das empresas de tecnologia sobre nossos dados pessoais. Isso coloca em risco nossos direitos básicos e enfraquece a democracia contemporânea.

Mas é necessário destacar que, em uma sociedade complexa, como destaca Giddens (1991), é inviável que todos os afetados por uma ação participem plenamente dos processos decisórios da vida social, especialmente em áreas técnicas e especializadas. Portanto, a solução viável aqui proposta como ponto de partida não é fazer com que leigos estejam diretamente envolvidos na construção e gestão de mecanismos tecnológicos. Uma alternativa mais realista seria comprometer os especialistas com os princípios democráticos e os valores de uma sociedade diversa, enquanto estabelecemos um sistema eficiente para proteção em ambientes digitais. Isso incluiria canais de debate sobre questões mais amplas relacionadas ao uso da tecnologia, permitindo a participação política dos leigos em questões que não exigem conhecimento técnico avançado. Ao mesmo tempo, buscaríamos democratizar o acesso a informações especializadas e promover uma educação voltada para a era digital para superar nossa lacuna de conhecimento em longo prazo.

O que constatamos é que a maioria das pessoas está alienada em relação à tecnologia, tanto pela mencionada falta de conhecimento tecnológico e ausência de espaços e oportunidades para discutir seu impacto na sociedade, quanto por uma crença generalizada na neutralidade dos meios tecnológicos - isto é, de que as tecnologias não estão “contaminadas” pela política. Isso gera incertezas sobre o nosso futuro enquanto sociedade e a necessidade de criarmos meios para proteger-nos contra abusos de poder; e é por isso que as análises de Hannah Arendt ainda são relevantes para os tempos atuais. O avanço tecnológico digital é recente, dificultando a compreensão das mudanças sociais e soluções para controlá-lo. No entanto, é crucial estabelecer um controle democrático com o apoio do direito para garantir um uso adequado das tecnologias digitais.

De certo modo, estamos vivendo aquilo que Alves Neto (2016, p.139) descreveu como um processo de digitalização avançada que está transformando profundamente a nossa vida, obscurecendo a dimensão política e pública da condição humana. Com a crescente dependência que temos das tecnologias digitais, precisamos debater a criação de usos coletivos e públicos dessas ferramentas. Essas novas tecnologias também estão desmantelando as antigas estruturas que sustentavam as relações entre público e privado e levantando questões morais sobre nossa vida social. As tecnologias estão ameaçando a nossa privacidade e liberdade, deixando-nos à mercê de mecanismos tecnológicos complexos que afetam profundamente nossa vida na era digital.²

As novas técnicas usadas pelos governos para o controle de sua população consolidam a governamentalidade algorítmica ou digital, uma nova forma de gerenciamento que tem ganhado espaço em nome da eficiência e da potencialização da administração pública, consolidando uma “racionalidade governamental neoliberal” digital (Koerner et al., 2019, p.199-200). Assim, as administrações públicas vêm adotando sistemas de vigilância digital para a melhoria da segurança pública, mecanismos digitais de identificação civil, bancos de dados para o gerenciamento das informações pessoais dos cidadãos, sistemas automatizados para os processos administrativos e judiciais, sistemas de inteligência logística, espionagem e de melhoria do aparato das forças policiais e militares, dentre outros.

E aqui se observa uma crescente aliança entre os governos e as entidades privadas para enfrentar os “desafios de uma sociedade baseada em dados”, como aponta Mantelero (2018), extraindo valor e mercantilizando os dados coletados dos ambientes digitais para operar uma “economia psíquica dos algoritmos” (Bruno; Bentes; Faltay, 2019). Elas “comodificam” os nossos dados, isto é, transforma-os em commodities, organizando-os em uma cadeia de produção, distribuição e consumo de dimensão global. Tanto a adoção de tecnologias digitais pelos governos quanto a reconfiguração do capitalismo apontam para essa nova aliança entre o sistema tecnológico e os poderes político e econômico.

Entretanto, isso desencadeia uma redistribuição assimétrica de poder, pois os atores com acesso privilegiado a esses dados, que possuem a capacidade de lhes dar sentido e utilidade, assumem um papel de destaque e relevância, deixando os demais indivíduos em uma posição de extrema vulnerabilidade. Esse “capitalismo de dados” dialoga, em muitos aspectos, também com as noções de “capitalismo de vigilância” (Zuboff, 2020) e de capitalismo de plataforma (Srnicek, 2017), que problematizam como o capitalismo e sua dinâmica de lucro se apropriaram das tecnologias digitais e reconfiguram as estruturas sociais. Tanto a adoção de tecnologias digitais pelos governos quanto a reconfiguração do capitalismo por meio de tais tecnologias apontam para essa aliança entre sistema tecnológico e poder político e econômico. Com as denúncias de Snowden (2019), com o incontrolado aumento do uso de tais tecnologias e com a crescente percepção de que nossa privacidade e nossa liberdade se encontram em risco, intensificou-se o debate sobre os meios de enfrentamento a esses abusos de poder.

Mais recentemente, a pandemia de Covid-19 trouxe a oportunidade do uso das tecnologias digitais como meios eficazes para a integração, estruturação e extração de informação e conhecimento para a investigação biomédica e para as medidas governamentais de enfrentamento a essa crise sanitária. Seu uso foi possível com a justificativa de que a supressão de direitos individuais seria admissível dado o contexto e emergência da pandemia, pois seriam instrumentos eficientes para a resolução dos seus problemas. Esse contexto emergencial deixou ainda mais evidente a ameaça à nossa privacidade e liberdade ao serem usados dados pessoais e privados sem a devida autorização, aplicativos, sistemas de geolocalização, rastreio e monitoramento de pessoas que expõem informações das pessoas sem sua ciência e anuência (Hueso, 2020).

Além disso, ficou evidente a diferença de culturas entre os países ocidentais e orientais no que tange às suas relações com as tecnologias digitais e com o modo de lidar com a privacidade dos sujeitos. O contexto da pandemia demonstrou que alguns países asiáticos, como China, Coreia do Sul e Singapura, conseguiram enfrentar com mais eficiência os problemas decorrentes da pandemia, especialmente por estarem em um contexto cultural de maior controle estatal sobre os sujeitos e com baixo questionamento sobre as afetações às liberdades individuais. No caso, estamos falando de uma perspectiva social sem um individualismo acentuado e uma cultura de prevalência dos direitos individuais em detrimento dos interesses coletivos.

Independentemente dessas diferenças apontadas, é possível perceber também um certo paradoxo. Por mais que nos últimos anos tenha se popularizado que estamos sendo vigiados e controlados mais profundamente pelas autoridades governamentais, que os nossos dados estão sendo usados para o controle e para o aumento do lucro das empresas, e que todas essas questões estão afetando diretamente os nossos direitos de privacidade e de liberdade, isto não tem levado as pessoas a reduzirem o uso das tecnologias digitais. Além de estarmos diante de riscos decorrentes da falta de mecanismos para o controle do poder político e econômico na era digital, há também um controle ideológico profundo de nossas mentes, desejos e capacidades de autonomia, além da inevitabilidade do uso das tecnologias em um contexto de avançado processo de digitalização da sociedade.

Por isso, quando afirmo aqui a hipótese de uma situação de totalitarismo digital, é porque, caso não tomemos as medidas necessárias, cairemos na situa- ção definida por Byung-Chul Han (2018) como “controle psicopolítico” dos indivíduos, um novo conceito que sintetiza um modo de exercício do poder pelo qual a aplicação das novas tecnologias se dá, especialmente, na mente e consciência dos sujeitos. Para enfrentar essa questão, preciso então definir o conceito de autoritarismo e o de tecnototalitarismo e os modos como eles estão ameaçando a democracia e as proteções aos indivíduos na era digital.

O tecnototalitarismo como ameaça à democracia e aos indivíduos

Mario Stoppino (1998, p.94) define autoritarismo a partir de alguns vieses. Nos sistemas políticos, os regimes autoritários enfatizam o poder governamental em detrimento do consenso popular, reduzindo a participação e representação do público nas decisões políticas, centralizando o poder em uma pessoa ou grupo específico. Quando examinamos a tecnocracia e sua suposta neutralidade política, vemos como o não questionamento de suas relações com as dinâmicas de poder pode levar ao autoritarismo, à medida que a tecnologia permeia todos os aspectos da vida, exercendo um controle quase absoluto sobre nós. Os tecnocratas assumem uma posição de superioridade em relação aos outros cidadãos, excluindo-os dos processos decisórios sobre o uso da tecnologia em suas vidas, o que pode resultar em uma submissão quase cega aos comandos digitais que moldam nosso cotidiano.

O conceito de autoritarismo é usado, em geral, como contraponto à democracia e permite analisar criticamente situações que ameaçam a democracia ou que não estão alinhadas com seus princípios. Ele se refere a ideologias políticas que sustentam o controle político-social nas mãos de um pequeno grupo da sociedade, gerando a diminuição da participação democrática da sociedade em sua totalidade com a alegação de que esse controle restrito é necessário para manter a estabilidade social. Todavia, quando o poder se concentra demasiadamente nas mãos de poucas pessoas - ou de um único grupo monopolizando o poder -, restringindo quase que absolutamente nossas liberdades, estamos diante do conceito de totalitarismo (Stoppino, 1998, p.1248).

Apenas a análise concreta dos casos poderá nos apresentar as nuances possíveis dos vários contextos de um regime autoritário e totalitário. Como destaca Stoppino (1998, p.95 e 100), os regimes autoritários concentram o poder nas mãos de poucos, mas permitem alguns espaços de participação dos cidadãos na condução dos assuntos políticos, desde que isso não afete o controle do poder. Assim, um regime autoritário é, por definição, antidemocrático, por não permitir o controle do poder por parte de todos, apesar de, em algumas vezes, vestir uma roupagem democrática ou forjar falsos processos internos de legitimação democrática.

O regime autoritarista, ao alegar que a redução da participação democrática é necessária para manter a ordem social, utiliza justificativas para criar desigualdades na sociedade, argumentando que uma elite intelectual possui conhecimento especializado em questões políticas cruciais, resultando na exclusão de certos temas da esfera deliberativa. Antes da Segunda Guerra Mundial, o autoritarismo negava explicitamente a democracia e os valores liberais, apelando para tradições e líderes carismáticos. No entanto, os regimes autoritários atuais não costumam adotar uma ideologia autoritária explícita. Em vez disso, adaptaram-se e se esconderam por trás da preservação da ordem, buscando apoio em uma elite de intelectuais ou especialistas para tomar decisões sobre os assuntos da sociedade. Assim, o autoritarismo contemporâneo é mais provavelmente caracterizado como uma “tecnocracia coerente levada até às últimas consequências” (Stoppino, 1998, p.98).

Afastando-me dessas questões mais tradicionais do debate sobre regimes autoritários, especialmente ligadas às configurações dos sistemas políticos modernos, como parlamentos, controle do poder, mecanismos de participação democrática e limitação do poder soberano e do uso da força coercitiva, busco aqui verificar essa atualização do autoritarismo para os contextos de uma tecnocracia digital, preocupando-me, especialmente, com as afetações à democracia e aos abusos de poder. A grande diferença é que nesse tipo atual de tecnocracia há uma penetração profunda nos mais variados âmbitos da sociedade e uma mobilização e aceitação igualmente profundas por parte dos sujeitos, o que nos leva a perceber que esse aparelhamento tecnológico do poder tende a absorver a sociedade por inteira, além também da sua irradiação pelos âmbitos mais privados e subjetivos dos sujeitos. Por isso, para além das características clássicas do autoritarismo, essa irradiação mais profunda poderia nos levar, hipoteticamente, a um tipo de totalitarismo específico para a sociedade digital.

É intensa a aliança dos poderes políticos com as novas atividades do capitalismo de dados. Há uma interrelação entre eles que não é possível de ser analisada com clareza. E é difícil de se mensurar o grau de irradiação dessas tecnologias àqueles âmbitos que antes estavam fora do controle político e econômico, como os da nossa privacidade e subjetividade. Não temos conhecimento preciso do quanto a revolução tecnológica digital mudou as estruturas da sociedade por operar um grau de penetração e de mobilização subjetiva e social que não encontra precedentes na história - e essa penetração sem precedentes pode ser indício de uma tendência totalitarista.

Seguindo o argumento de Hannah Arendt (1989), o totalitarismo é uma forma de controle que anula as habilidades políticas dos indivíduos, afastando-os da esfera pública e influenciando suas relações privadas. Ele distorce o significado de grupos e instituições, levando as pessoas a se sentirem alienadas de si mesmas e de seu ambiente. Isso resulta na redução da autonomia e na obediência inconsciente às regras impostas de fora. O totalitarismo visa transformar a natureza humana por meio de coação ativa, impedindo qualquer reação e promovendo apenas a conformidade. Para os seus objetivos, ele penetra profundamente em nossos mundos subjetivos, alterando as nossas crenças, percepções e modos de compreender e significar o mundo.

Stoppino (1998, p.1251), ao analisar os antecedentes históricos do totalitarismo moderno, identifica alguns elementos que lhe dão forma, como a estandardização e uniformização da burocracia estatal, a existência de um sistema de espionagem e vigilância em apoio ao controle estatal sobre os sujeitos e uma racionalidade ligada a uma técnica política mais eficaz aos propósitos de quem comanda o poder. Além desses elementos, temos algumas condições da sociedade de hoje que favorecem o reaparecimento do totalitarismo em outros moldes, tais como:

A formação da sociedade industrial de massa, a persistência de uma arena mundial dividida e o desenvolvimento da tecnologia moderna. De um lado, o impacto da industrialização nas grandes sociedades modernas, no quadro de uma arena mundial insegura e ameaçadora, permite e favorece a combinação de penetração e de mobilização total do corpo social. De outro, o impacto do desenvolvimento tecnológico no que toca aos instrumentos da violência, os meios de comunicação e as técnicas organizacionais de vigilância e de controle permitem um grau enorme de penetração-mobilização monopólica da sociedade sem precedentes na história. (ibidem, p.1258)

Esses elementos definidores do totalitarismo são importantes para se pensar as dinâmicas atuais do uso das tecnologias digitais, que possuem nuances totalitárias, apesar de não podermos afirmar que são estruturas perfeitamente caracterizadas como de um regime totalitarista, segundo sua concepção tradicional. Além disso, Stoppino (1998, p.1254) também destaca que o totalitarismo assume diversos aspectos e está associado a diversos fins e metas, conforme o sistema político particular no qual encarna e o relativo ambiente econômico-social em que se insere. A presença das características totalitárias na tecnocracia atual nos leva à necessidade de pensarmos a aliança entre política e técnica e as suas implicações nos pressupostos democráticos que legitimam o uso do poder.

Juan Vallet de Goytisolo (1981, p.741-3), ao estudar as relações entre tecnocracia, totalitarismo e massificação da sociedade, definiu a tecnocracia como parte de uma concepção ideológica de mundo operada por sujeitos capazes de implementar mecanismos eficazes para o gerenciamento das ações, justificando-se por um método de racionalização quantitativa de todas as atividades sob o seu controle, desde que guiadas pelos interesses econômicos e utilitários. Os tecnocratas usam os aparatos tecnológicos para produzir a dominação sobre os processos humanos, geralmente com a justificativa da promoção de algum bem coletivo. Com o desenvolvimento da industrialização e com o modo de operar das tecnologias digitais, ocorrem mudanças constantes nas estruturas da sociedade, em uma “aceleração da história originada pelo caráter artificial, forçado, rígido e monolítico das estruturas da sociedade tecnológica”.

Como apontado no início do artigo, há uma relação recíproca entre tecnologia e Estado. Esse assume a função de promoção e regulação das tecnologias, enquanto a tecnologia é hoje a condição do poder político, a extensão do próprio poder do Estado. Os tecnocratas passam a constituir-se numa nova classe nesse rearranjo das estruturas sociais, sendo os responsáveis por “fazer funcionar este artefato instrumental”, esse “complexo mecanismo utilitário” para gerenciar todas as atividades humanas, dentro do fenômeno de massificação da sociedade (Goytisolo, 1981, p.748).

Esse poder de gerenciamento total, de controle geral das nossas vidas, faz que a massificação, a tecnocracia e o totalitarismo sejam faces de uma mesma moeda, pois quanto mais massificada está uma sociedade, maior será a eficiência do controle totalitarista, que opera por meio de uma intensa “tecnocratização”, alimentando o círculo que fará a massificação crescer, e assim sucessivamente. Quanto mais massificada é uma sociedade, maior será a possibilidade de seu direcionamento. Isto nos leva ao perigo de uma sociedade mecanizada, na qual cada indivíduo é apenas um dos elementos passivos dessa grande máquina tecnológica articulada de cima para baixo, entregue nas mãos de um Estado onipotente e totalitário, mesmo que politicamente ele se justifique e se estruture enquanto uma suposta democracia.

Ainda que trabalhemos com essa tendência de um possível totalitarismo na era digital, não podemos deixar de lado que o conflito e as disputas de poder são componentes estruturais da política de uma sociedade. Se partirmos da compreensão de que na vida social estamos sempre envoltos em relações de poder, a grande questão da política em uma democracia se torna a constituição de possibilidades de rearticulação de nossa situação em uma relação de poder. Além disso, um regime totalitário estável e duradouro seria improvável de ser sustentado, até mesmo porque não estamos hoje diante das mesmas condições históricas que permitiram a constituição dos grandes regimes autoritários do passado. O que se apresenta como uma das grandes novidades desse tecnototalitarismo é a sua expansão para âmbitos muito mais profundos de controle dos sujeitos, especialmente em relação à sua subjetividade.

Antes, a força maior de um regime autoritário estava no controle externo sobre os sujeitos; agora, ao atuar sobre uma tecnocracia digital, a sua maior potência está no controle interno e subjetivo, especialmente por meio dos controles psicológicos permitidos pelas novas tecnologias. A minha hipótese de um possível tecnototalitarismo poderia avançar em dois sentidos: tanto no âmbito das dinâmicas políticas e econômicas, quanto nos recônditos da alma humana, nas profundezas da subjetividade dos indivíduos. Esse controle avançado da nossa subjetividade apresenta sérios riscos para a nossa liberdade ao permitir a manipulação da própria conflituosidade entre as pessoas, tanto para reduzi-la - o que diminuiria as possibilidades de insurreição e revoltas contra o poder e seus abusos -, quanto para direcioná-la para as próprias estratégias de dominação criadas pelo tecnototalitarismo.

Desde a eclosão das biotecnologias, vimos discutindo os seus impactos e efeitos sobre os sujeitos. As novas tecnologias têm o potencial de redefinir a condição humana, permitindo a criação de fenômenos inexistentes na natureza por meio de avanços tecnológicos. Isso transforma os seres humanos em “engenheiros da evolução”, capacitando-os a participar ativamente na fabricação da vida e no design de processos biológicos e naturais. A “era biotecnológica” do século XXI está promovendo mudanças significativas em áreas como agricultura, medicina, farmacologia, indústria têxtil e informática, graças aos avanços em pesquisas bionanogenéticas. Essas pesquisas envolvem a implantação de nanochips no corpo para substituir ou aprimorar células e habilidades (Alves Neto, 2016, p.143).

Como expus anteriormente, Byung-Chul Han (2018, p.129-34), ao analisar as questões do mundo tecnológico digital, atualiza o conceito de biopoder de Michel Foucault (1999) trazendo para esse campo analítico o conceito de psicopoder, justamente para criar perspectivas para esse avanço do controle sobre nossas subjetividades. O conceito de biopoder é usado para explicar como, na modernidade, o poder passou a ser exercido em novas bases, especialmente no modo como foi instituído para operar a governamentalidade dos sujeitos. Ao atuar sobre o sujeito, a biopolítica teria por objetivo produzir forças sociais, de operar no sentido de deixá-las crescer, ao invés de coibi-las ou aniquilá-las. Ao mesmo tempo, ela realizaria a organização do conjunto dessas forças sociais por intermédio de uma ampla atividade administrativa e de controle zeloso da população de um território. Entretanto, diferentemente do que ocorre hoje com a psicopolítica, o controle da biopolítica está mais limitado às nossas funções externas e objetivas, como as tarefas reprodutivas dos sujeitos, as questões de natalidade e mortalidade, os aspectos de saúde da população, dentre outros.

Ao atualizar esse conceito de Foucault para o mundo digital, Han argumenta que um novo sentido de poder, muito mais profundo e penetrante, está presente com a vigilância digital operada pelos governos e pelos usos que as empresas privadas fazem dos mecanismos de vigilância e de coleta de dados digitais. Esse novo controle intervém nos processos psicológicos dos sujeitos com muita eficiência e, praticamente, de modo imperceptível. A quantidade de dados digitais fornecidos pelas pessoas permite um prognóstico mais preciso e profundo sobre o modo como elas irão se comportar, desejar e produzir sentidos de vida, oferecendo a oportunidade para que essa nova governamentalidade sobre os sujeitos opere de forma mais massiva e precisa.

Uma nova compreensão sobre o comportamento humano tem se desenvolvido recentemente e a psicopolítica é justamente essa nova forma de “decifrar modelos de comportamentos a partir do big data”. Para Han (2018, p.134), o psicopoder é mais eficiente que o biopoder, por influenciar o ser humano de dentro para fora. Assim, a psicopolítica pode explorar o inconsciente coletivo e direciona o comportamento social futuro das massas. A sociedade de vigilância digital parece-me revelar traços totalitários ao nos submeter à programação e ao controle psicopolíticos, marcando, em termos foucaultianos, o fim da era da biopolítica e a transição para a era da psicopolítica digital.

Esse novo controle sobre os sujeitos consegue condicionar os instintos, os desejos e as vontades e conduzir a nossa consciência e formas de liberdade para as finalidades de quem está por trás dessas tecnologias. Sua eficiência decorre do fato de que ele não se volta diretamente para o controle corporal e material, como nas ações da força policial e militar dos Estados. Especificamente, ela consegue se impor por meio do controle das mentes.

Além disso, há o desenvolvimento de uma utopia tecnológica totalitária, por meio da qual se busca o controle da contingência e da imprevisibilidade. Ela se nutre da ilusão de que o adequado processamento do grande volume de dados coletados e correto manejo dos modos avançados de vigilância sobre os sujeitos conseguiriam eliminar a maioria dos infortúnios da vida social. Isso serve como pano de fundo para o Estado justificar o uso avançado das tecnologias digitais na sua nova governamentalidade sobre os sujeitos, firmando-se na compreensão de que a eficiência - ou adequação de uso - do mecanismo tecnológico suplantaria as demais necessidades de sua legitimação.

Já por parte das empresas privadas, a legitimação das tecnologias também é buscada na noção de eficiência, mas com o diferencial de que no âmbito mais privado e de comércio os consumidores conseguirão ser entendidos a partir de seus próprios desejos e vontades, sendo atendidos em seus anseios mais profundos pelas percepções que as tecnologias sobre eles extraem por intermédio dos instrumentos de coleta de dados. O grande problema é que as empresas não usam esses instrumentos apenas para conhecer melhor o seu mercado de consumo. Um dos seus principais usos é para a modulação de comportamentos dos consumidores (Bruno, 2018; Bruno et al., 2019), interferindo profundamente nas suas capacidades de autonomia e gerando uma espécie de “servidão digital”. Eles são levados a desejar aquilo que é dado a desejar, a entender como necessário aquilo dado como importante e significativo para suas vidas, reproduzindo e aceitando - inconscientemente - os mecanismos de dominação nas suas próprias subjetividades.

No âmbito mais social, o processo de digitalização da vida vem deslocando o sentido da realidade para dentro do mundo digital. As redes sociais passaram a constituir-se na nova arena da política, com sua cultura de “curtidas” e de redução da criticidade da esfera pública, agora recheada de fake news e discursos empobrecidos de conteúdo. Isso esvazia a política fora do mundo digital, com o crescimento da apatia à realidade dada a centralidade do mundo digital, que facilita o avanço do tecnototalitarismo sobre nossas vidas. A exacerbação da vida digital e a realização pessoal que ela permite, ao nos fazer sentir que somos livres para falarmos sobre todo e qualquer assunto, ao criar a impressão de que somos sujeitos que se projetam em liberdade pelo ambiente digital, que temos controle de nossas vidas e preferências, também nos leva à servidão digital ao conduzir nossos sentidos de liberdade e de autonomia nos parâmetros repetitivos e padronizados oferecidos pelas plataformas digitais.

Notas conclusivas sobre as alternativas democráticas contra o tecnototalitarismo

O que observamos é um grande processo de alienação pela tecnologia, um risco grave de cairmos nessa servidão digital descontroladamente, especialmente pela falta de mecanismos de controle e limitação do processo de digitalização de nossas vidas, tornando-a artificial e levando-nos à destituição da condição humana de sujeito e da nossa atuação enquanto sujeitos políticos ativos. Uma vez que damos espaço ilimitado à tecnocracia, ao conhecimento técnico-científico sem comprometimento com os parâmetros democráticos, acabamos nos afastando de possibilidades de ações conscientes e críticas e caindo em processos alienantes que minam nossas capacidades de autonomia e exercício genuíno de nossas liberdades.

Algumas medidas e alternativas estão sendo construídas, nos últimos anos. Em relação aos aspectos mais voltados para o controle democrático do uso que os governos estão fazendo das tecnologias digitais, muito se tem falado sobre a necessidade de democratização dos códigos e algoritmos (Silveira, 2019) usados pelos governos em seus sistemas de coleta, gerenciamento e processamento de informações, especialmente em se tratando de órgãos públicos que tem por obrigação republicana dar transparência aos seus procedimentos.

As exigências de uma “cidadania digital” (Mantelero, 2018) nos leva a pensar meios de governança digital comprometidos com a participação pública, pois os dados coletados e tratados pelos governos possuem finalidade social. Essa cidadania aplicada ao mundo digital implica em um controle efetivo, público e democrático das atividades da governança digital. Ela nos concede um direito digital a participar dos assuntos públicos nessa esfera, tanto nos canais digitais governamentais, quanto nas outras plataformas digitais, especialmente redes sociais e canais de expressão abertos (Casado, 2018). Em relação aos mecanismos de vigilância digital, as questões são as mesmas, dadas as possibilidades reais de afetação dos direitos básicos e constitucionais dos sujeitos afetados (Miró-Llinares, 2020).

Já a exigência de transparência dos códigos das empresas privadas encontra barreiras nas próprias proteções comerciais de propriedade intelectual e segredo industrial, especificamente pelas razões competitivas de mercado. Mas, mesmo assim, há um avanço significativo sobre a necessidade de algum tipo de comprometimento público das empresas com parâmetros de direitos humanos aplicados aos códigos e às ferramentas de inteligência artificial usadas (Assis, 2020; Marcen, 2020). As legislações sobre proteção de dados, com destaque para o pioneirismo do Regulamento Geral de Proteção de Dados da União Europeia, têm trabalhado sistematicamente no controle do uso de nossas informações pessoais, com a necessidade de se estabelecer determinadas restrições, tendo em conta o interesse dos afetados, com a avaliação dos riscos potenciais aos usuários e a adoção de medidas técnicas, organizativas e contratuais adequadas às exigências democráticas e republicanas (Mantelero, 2018, p.169-71).

Por fim, especificamente em relação aos indivíduos e a tradição dos direitos humanos como instrumentos de proteção de seus direitos individuais, temos já um grande debate sobre a extensão das categorias de direitos humanos para o sujeito de direito digital, na tentativa de recuperação do projeto moderno de direitos individuais para o contexto da sociedade da informação. Debates sobre a constituição de uma identidade digital, trasladando a nossa identidade física ao mundo digital (Piñar Mañas, 2018) estão sendo promovidos justamente para a possibilidade de se caracterizar tecnicamente a noção de um sujeito de direito digital para que a ele seja possível a aplicabilidade das categorias de direitos humanos (Pérez Luño, 2018), dentro do que alguns autores têm caracterizado como a “quarta onda dos direitos humanos, os direitos digitais” (Martínez-Villalba, 2014). Essa aplicabilidade garantiria a liberdade para os indivíduos desenvolverem e expressarem a sua própria identidade digital sem interferências, garantindo também a inviolabilidade da dignidade da pessoa nos meios digitais.

O que observamos é a tentativa de recuperação de mecanismos democráticos para o enfrentamento dos abusos de poder em ambientes digitais. A insegurança em relação ao nosso futuro digital exige uma ampla tarefa de atualizar esses mecanismos para o uso e desenvolvimento das tecnologias digitais. Sendo o sistema tecnológico a infraestrutura do poder político e caminhando os sistemas políticos para uma tecnocracia sem limites, os riscos de um tecnototalitarismo são reais. A urgência da politização da técnica faz que pensemos meios efetivos para a integração entre os sistemas especializados em tecnologia e a democracia, levando-nos a possibilidades concretas de um debate público mais consistente e participativo, especialmente com a inclusão de todos os que estão afetados por esses novos dispositivos de controle. Um sistema eficiente de proteção do sujeito contra dinâmicas totalitárias, sobretudo aqueles que se estruturam no controle psicopolítico, traria a oportunidade de retomarmos o controle de nossa condição humana e do futuro de nossa sociedade.

Referências

• ALVES NETO, R. R. Tecnologia, política e modernidade. Cadernos de Ética e Filosofia Política, v.1, n.28, p.137-53, 2016.
• ARENDT, H. Origens do totalitarismo. São Paulo: Cia. das Letras, 1989.
• ASSIS, R. Inteligência artificial y derechos humanos. Materiales de Filosofía del Derecho, n.4, 2020.
• BECERRA, J. (Ed.) Derecho y big data. Bogotá: Universidad Católica de Colombia, 2018. p.15-38.
• BRUNO, F. A economia psíquica dos algoritmos: quando o laboratório é o mundo. NEXO Jornal, Brasil, p.1-3, 2018.
• BRUNO, F. G.; BENTES, A. C. F.; FALTAY, P. Economia psíquica dos algoritmos e laboratório de plataforma: mercado, ciência e modulação do comportamento. Revista Famecos, v.26, n.3, p.1-21, 2019.
• CASADO, E. G. El derecho digital a participar en los assuntos públicos: redes sociales y otros canales de expresión. In: FERNÁNDEZ del CASTILLO, T. Q.; PIÑAR MAÑAS, J. L. (Org.) Sociedad digital y derecho. Madrid: Ministério de Indústria, Comercio y Turismo, 2018. p.225-36.
• CASTELLS, M. A sociedade em rede. 9.ed. rev. ampl. São Paulo: Paz e Terra, 2006.
• FOUCAULT, M. História da sexualidade I: A vontade de saber. 13.ed. Rio de Janeiro: Edições Graal, 1999.
• GARCÍA-PELAYO, M. Burocracia y tecnocracia. Madrid: Alianza Universidad, 1987.
• GIDDENS, A. As consequências da modernidade. São Paulo: Editora Unesp, 1981.
• GOYTISOLO, J. V. Tecnocracia, totalitarismo y masificacion, 1981. Comunicação disponível em: <https://www.fundacionspeiro.org/verbo/1982/V-207-208-P-741-776.pdf>.
  » https://www.fundacionspeiro.org/verbo/1982/V-207-208-P-741-776.pdf
• HAN, B.-C. No enxame: perspectivas do digital. Petrópolis: Vozes, 2018.
• HUESO, L. C. Inteligencia artificial, big data y aplicaciones contra la covid-19: privacidad y protección de datos. Revista d´Internet, Dret i Política, n.31, p.1-17, 2020.
• KOERNER, A.; VASQUES, P. H.; ALMEIDA, Á. O. Direito Social, Neoliberalismo e Tecnologias de Informação e Comunicação. Lua Nova, v.108, p.195-214, 2019.
• MANTELERO, A. Ciudadanía y Gobernanza digital: entre política, ética y derecho. In: FERNÁNDEZ del CASTILLO, T. Q. & PIÑAR MAÑAS, J. L. (Org.) Sociedad digital y derecho. Madrid: Ministério de Indústria, Comercio y Turismo, 2018. p.159-78.
• MARCEN, A. G. Derechos Humanos e Inteligencia Artificial. In: ROMBOLI, S. (Org.) Setenta años de Constitución Italiana y cuarenta años de Constitución Española. Madrid: Centro de Estudios Políticos y Constitucionales, 2020. v.5.
• MARTÍNEZ-VILLALBA, J. C. R. La cuarta ola de derechos humanos: los derechos Digitales. Revista Latinoamericana de Derechos Humanos, v.25, n.1, p.15-45, 2014.
• MIRÓ-LLINARES, F. Predictive Policing: utopia or dystopia? On attitudes towards the use of Big Data algorithms for law enforcement. Revista D´Internet, Dret I Política, n.30, 2020.
• PÉREZ LUÑO, A. E. Las generaciones de derechos humanos ante el desafio posthumanista. In: FERNÁNDEZ del CASTILLO, T. Q.; PIÑAR MAÑAS, J. L. (Org.) Sociedad digital y derecho. Madrid: Ministério de Indústria, Comercio y Turismo, 2018. p.137-55.
• PIÑAR MAÑAS, J. L. Identidad y persona en la sociedad digital. In: FERNÁNDEZ del CASTILLO, T. de la Q.-S.; PIÑAR MAÑAS, J. L. (Org.) Sociedad digital y derecho. Madrid: Ministério de Indústria, Comercio y Turismo, 2018. p.95-111.
• PRISQUE, E. D. O sistema de crédito chinês: como Pequim avalia, recompensa e pune a sua população. Futuribles, n.3, p.7-24, 2020.
• SILVEIRA, S. A. Democracia e os códigos invisíveis: como os algoritmos estão modulando comportamentos e escolhas políticas. São Paulo: Edições Sesc São Paulo, 2019.
• SNOWDEN, E. Eterna vigilância: como montei e desvendei o maior sistema de espionagem do mundo. São Paulo: Planeta, 2019.
• SRNICEK, N. Platform capitalism. Malden: Polity Press, 2017.
• STOPPINO, M. Autoritarismo [verbete]. In: BOBBIO, N. et. al. Dicionário de Política. Brasília: Editora Universidade de Brasília, 1998. v.1.
• ZUBOFF, S. A era do capitalismo de vigilância. Rio de Janeiro: Intrínseca, 2020.

Notas

• 1
  Para um debate sobre esse sentido aqui empregado de “revolução”, conferir especificamente o capítulo “La cuarta revolución tecnológica: un nuevo paradigma de comprensión de la sociedad y el Estado más allá del Big Data e Internet” em Becerra (2018, p.15-38).
• 2
  Conferir o livro de Snowden (2019).

Datas de Publicação

• Publicação nesta coleção
  22 Abr 2024
• Data do Fascículo
  Jan-Apr 2024

Histórico

• Recebido
  15 Dez 2021
• Aceito
  02 Fev 2022