Accessibility / Report Error

O Futuro da Sociedade de Plataformas no Brasil1 1 Esse artigo tem como origem uma comunicação oral do autor no evento “Tecnologia no Brasil, 2020-2030”, organizado pela Ação Educativa Assessoria Pesquisa e Informação, São Paulo, novembro de 2021.

El futuro de la sociedad de plataforma en Brasil

Resumo

O objetivo deste artigo é fazer um diagnóstico sobre a sociedade de plataformas e propor ações que devem ser implementadas no horizonte dos próximos dez anos no Brasil. É feita uma introdução ao tema das plataformas digitais, esclarecendo alguns conceitos fundamentais (soberania e colonialismo de dados, dataficação, infopoder e governamentalidade algorítmica). Em seguida apresentam-se as três partes centrais do texto: um diagnóstico da atualidade, as perspectivas sobre o futuro e algumas proposições de ações que devem ser pensadas e/ou implementadas para enfrentar o desafio da plataformização da sociedade no Brasil.

Palavras-chave
Plataformas; Brasil; Futuro; Cultura Digital; Poder

Resumen

El objetivo de este artículo es diagnosticar la sociedad plataforma y proponer acciones que deberían ser implementadas en los próximos diez años en Brasil. Se hace una introducción al tema de las plataformas digitales, aclarando algunos conceptos fundamentales (soberanía y colonialismo de los datos, datificación, infopoder y gubernamentalidad algorítmica). Luego, se presentan las tres partes centrales del texto: un diagnóstico actual, perspectivas de futuro y algunas propuestas de acciones que deben ser pensadas y/o implementadas para enfrentar el desafío de la sociedad plataforma en Brasil.

Palabras clave
Plataformas; Brasil; Futuro; Cultura Digital; Poder

Abstract

The purpose of this article is to diagnose the platform society and propose actions that should be implemented over the next ten years in Brazil. An introduction to the theme of digital platforms is made, clarifying some fundamental concepts (data sovereignty and colonialism, datafication, infopower, and algorithmic governmentality). Then, the three central parts of the text are presented: a current diagnosis, perspectives on the future and some propositions of actions that must be thought and/or implemented to face the challenge of platforming society in Brazil.

Keywords
Platforms; Brazil; Future; Digital Culture; Power

Introdução

O objetivo deste artigo é fazer um diagnóstico sobre a sociedade de plataformas e propor ações que devem ser implementadas no horizonte dos próximos dez anos no Brasil. O país é um player importante no consumo dessas plataformas digitais, fornecendo dados e gerando pouca inovação, sendo refém de grandes plataformas infraestruturais. Na primeira parte do artigo, faz-se um diagnóstico da atualidade, discutindo os seus temas centrais: plataformização, dataficação, infopoder e colonialismo e soberania de dados. A segunda parte faz uma prospecção para os próximos dez anos. Na última parte é apresentada uma proposta para a discussão sobre a sociedade de plataformas no Brasil. Conclui-se que os países do Sul Global, como o Brasil, sofrem um novo colonialismo de dados, ameaçando a sua soberania. Ações urgentes devem ser tomadas.

Diagnóstico da sociedade de plataformas

Sociedade de plataformas

O desafio imposto hoje pela sociedade de plataformas, com os seus processos de dataficação e de performatividade algorítmica faz um movimento de inflexão às promessas da cibercultura nos anos 1990 (LEMOS, 2002LEMOS, A. Cibercultura. Tecnologia e vida social na cultura contemporânea. Porto Alegre. Ed. Sulina, 2002.; 2020LEMOS, A. Plataformas, dataficação e performatividade algorítmica (PDPA): Desafios atuais da cibercultura. In Prata, Nair; Pessoa, Sonia C. (Org). Fluxos Comunicacionais e Crise da Democracia São Paulo: Intercom, 2020, pp 117-126.; 2021bLEMOS, A. A tecnologia é um vírus. Pandemia e Cultura Digital. Editora Sulina: Porto Alegre, 2021b.). Estamos sobre ameaça da desinformação, do negacionismo científico, da polarização política, alimentados pela dinâmica do capitalismo de vigilância ou de dados (SRNICEK, 2017SRNICEK, N. Platform capitalism. New Jersey: John Wiley & Sons, 2017; ZUBOFF, 2019ZUBOFF, S. The age of surveillance capitalism: the fight for a human future at the new frontier of power. New York: Public Affairs, 2019.) da sociedade de plataforma (VAN DIJCK; POELL; DE WALL, 2018; VAN DIJCK; NIEBORG; POELL, 2020; NIEBORG; POELL, 2018NIEBORG, D.; POELL, T. The platformization of cultural production: theorizing the contingent cultural commodity. New Media & Society, 2018, 20 (11): 4275- 92. https://doi.org/10.1177/1461444818769694.
https://doi.org/10.1177/1461444818769694...
). As plataformas individuais e os seus ecossistemas constituem a infraestrutura da atual sociedade contemporânea. Podemos definir plataformas digitais e plataformização como, respectivamente:

(plataformas são) infraestruturas digitais (re) programáveis que facilitam e moldam interações personalizadas entre usuários finais e complementadores, organizadas por meio de coleta sistemática, processamento algorítmico, monetização e circulação de dados

(VAN DIJCK; NIEBORG; POELL, 2020VAN DIJCK, J; NIEBORG, D; POELL, P. Plataformização. Fronteiras – estudos midiáticos, 2020, 22 (1): 2-10. https://doi.org/10.4013/fem.2020.221.01.
https://doi.org/10.4013/fem.2020.221.01...
, p. 4).

Uma plataforma é alimentada por dados, automatizada e organizada por meio de algoritmos e interfaces, formalizados por meio de relações de propriedade orientadas por modelos de negócios e regidos por contratos de usuário

(VAN DIJCK, POELL, de WALL, 2018VAN DIJCK, J.; POELL, P.; DE WAAL, M. The platform society. Public values in a connective world. New York: Oxford University Press, 2018., p. 9).2 2 A platform is fueled by data, automated and organized through algorithms and interfaces, formalized through ownership relations driven by business models, and governed through user agreements. Esta e todas as outras traduções são do autor.

A plataformização se refere à maneira como todos os setores da sociedade estão se transformando como resultado da formação mútua de conectores e complementadores online

(VAN DIJCK, POELL; DE WALL, 2018VAN DIJCK, J.; POELL, P.; DE WAAL, M. The platform society. Public values in a connective world. New York: Oxford University Press, 2018., p. 19)3 3 Platformization then refers to the way in which entire societal sectors are transforming as a result of the mutual shaping of online connectors and complementors. .

Eu uso o termo “plataformização” para me referir à ascensão da plataforma como o modelo infraestrutural e econômico dominante da web social e as consequências da expansão das plataformas de mídia social em outros espaços online

(HELMOND, 2015HELMOND, A. The platformization of the Web: Making Web data platform ready. Social Media + Society, 2015, v. 1, n. 2, p. 1–11., p. 5)4 4 I use the term “platformization” to refer to the rise of the platform as the dominant infrastructural and economic model of the social web and the consequences of the expansion of social media platforms into other spaces online. .

A “sociedade de plataforma” não apenas muda o foco do econômico para o social; o termo também se refere a uma disputa profunda sobre ganho privado versus benefício público em uma sociedade na qual a maioria das interações são realizadas através da Internet. Embora as plataformas supostamente aumentem os benefícios personalizados e o ganho econômico, elas simultaneamente pressionam os meios coletivos e os serviços públicos

(VAN DIJCK, POELL; de WALL, 2018VAN DIJCK, J.; POELL, P.; DE WAAL, M. The platform society. Public values in a connective world. New York: Oxford University Press, 2018., p. 2)5 5 The “platform society” does not merely shift the focus from the economic to the social; the term also refers to a profound dispute about private gain versus public benefit in a society where most interactions are carried out via the Internet. While platforms allegedly enhance personalized benefits and economic gain, they simultaneously put pressure on collective means and public services. .

As plataformas digitais funcionam pelo monitoramento e controle das ações humanas em diversos domínios pelo processo de dataficação com fins de monetização. Esse novo regime sociotécnico pressupõe, portanto, uma ampla coleta de dados que se desenvolve nas relações sociais, no domínio da natureza e no controle sobre o conhecimento (LEMOS, 2021aLEMOS, A. Dataficação da vida. Civitas – Revista De Ciências Sociais, 2021a, 21(2), 193-202.).

A plataformização da sociedade é alimentada pela dataficação e ações algorítmicas que se expandem pela aprendizagem e geração de padrões, recomendações e indução de comportamentos e novas ações. A recomendação de informações e ações, coração da dinâmica de captação da atenção do usuário nas plataformas, constitui-se como uma coerção dissimulada em oferta customizada. O objetivo é manter o usuário nas plataformas prevendo e agenciando decisões futuras (MAYER-SCHÖENBERGER; CUKIE, 2013MAYER-SCHÖNBERGER, V.; CUKIER, K. Big data: a revolution that will transform how we live, work, and think. Boston: Houghton Mifflin Harcourt, 2013., p.28).

Dataficação

A dataficação, portanto, se configura com um amplo domínio de rastreamento de dados, sendo a base do capitalismo de vigilância e da constituição da sociedade de plataformas. Ela é uma nova forma de governamentalidade neoliberal.

Para Foucault (1986FOUCAULT, M. Microfísica do Poder. RJ. Graal, 1986., 2006)FOUCAULT, M. Seguridad, territorio, población: Curso en el Collège de France: 1977-1978. Fondo de Cultura económica: Buenos Aires, 2006., a governamentalidade é sistema de governo e evolução da arte de governar. Esta toma três formas: O governo de si (moral), o governo da família (economia) e o governo do estado (a política). Fazendo uma genealogia da arte de governar, Foucault parte do poder pastoral (séculos XIII - XV), como um governo das condutas (das almas, dos homens), pelo governo do território no século XVI, chegando ao século XVIII com o governo sobre a população.

Será após segunda metade do século XVIII que o Estado passa do regime da família para o da população, tendo como tecnologia fundamental a estatística (que vai mostrar padrões, regularidades…). O mercantilismo vai instaurar esse novo princípio de governar o Estado com a ideia de população, ou seja, com o surgimento de uma biopolítica, do governo dos indivíduos em seu conjunto. Passa a ser dever do Estado, prover e regular a vida, exercendo um biopoder através de tecnologias disciplinares e reguladoras.

O liberalismo vai colocar um limite na gestão do Estado (que não deve intervir muito), instituindo uma nova governamentalidade que se baseia na ideia de que o mercado deve assumir o papel de regulador da agora “sociedade civil”. Isso vai gerar, no século XX, o que Foucault chama de homo economicus. Hoje, com o neoliberalismo hegemônico a partir dos anos 1980, a ideia central é que o Estado deve ser mínimo, tendo como modelo o mercado que suprirá as necessidades desse homo economicus.

Neste rápido percurso podemos ver como a atual sociedade de plataformas está ancorada, justamente, nessa governamentalidade neoliberal, tendo como dispositivos disciplinares e reguladores os algoritmos e a dataficação, ou seja, plataformas digitais, sistemas de coleta massiva de dados (Big Data) e inteligência artificial (IA). Esta governamentalidade pode ser chamada de “governamentalidade algorítmica”, atuando através de dispositivos de coleta e formatação dos dados a partir da mineração (datamining), do monitoramento e vigilância (dataveillance) e de constituições de perfis (profiling) (ROUVROY; BERNS, 2015ROUVROY, A.; BERNS, T. “Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação?”. Revista Eco Pós, 2015, vol. 18, Nr. 2, p. 36-56.).

Infopoder

A governamentalidade algorítmica dos processos de dataficação operam por dispositivos de produção e formatação da informação. Colin Koopman (2019)KOOPMAN, C. How We Became Our Data: A Genealogy of the Informational Person. University of Chicago Press, 2019. chama de infopower (infopoder), esse poder informacional criado por estratégias de formatação de dados que começaram a se configurar no início do século XX (1920) nos EUA e que vão criar as bases para a sociedade de informação. A formatação em formulários, manuais, guias, padrões, modelos de comportamento vão criando o que Koopman chama de um “sujeito informacional” e as bases da cultura algorítmica atual que tomam esse infopoder for granted (LEMOS, 2022LEMOS, A. Privacidade e Infopoder. In Santaella, L (org.). Simbioses do Humano e Tecnologias. São Paulo: EdUSP, IEA-USP, 2022, pp. 33-50.).

É urgente, por questões de soberania e de regulação, entender (técnica e politicamente) como os dados são coletados, formatados, processados e como ele gera modelos e padrões. O infopower, como um poder informacional, alimenta-se da dataficação como forma de governamentalidade. A questão é importante para as democracias contemporâneas, pois, não entender o funcionamento do infopower é deixar de lado importantes aspectos constitutivos dos processos atuais de governamentalidade algorítmica. Para o autor (2019, p. 12), o infopoder é exercido pela formatação que:

(...) molda, restringe e prepara tudo o que é coletado, armazenado, processado, refinado, recuperado e redistribuído como informação. Essa formatação raramente é neutra. (...) o infopoder, como uma modalidade distinta de poder, implanta técnicas de formatação para fazer seu trabalho de produzir e refinar pessoas informacionais que estão sujeitas às operações de fixação6 6 (…) shape, constrain, and prepare whatever is collected, stored, processed, refined, retrieved, and redistributed as information. This formatting is rarely neutral. (…) infopower as a distinctive modality of power deploys techniques of formatting to do its work of producing and refining informational persons who are subject to the operations of fastening. .

Colonialismo e Soberania de Dados

O processo de dataficação que alimenta as plataformas é feito hoje, em sua larga maioria, de forma ascendente, ou seja, com os dados migrando do Sul ao Norte Global, criando dependência, inibindo inovação e produzindo vulnerabilidades políticas e econômicas. A plataformização, pela dataficação formatando um infopoder, institui-se, como vimos, como a forma atual da governamentalidade liberal. Ela impõe muitos desafios para países do Sul Global, particularmente em questões de tocam a soberania (digital) e um novo colonialismo (de dados) (COULDRY; MEJIAS, 2018COULDRY, N.; MEJIAS, U.A. Data Colonialism: rethinking big data’s relation to the contemporary subject. Television & New Media, 2018.).

Por soberania digital entendemos a possibilidade de uma determinada pessoa, instituição, região ou país ter o controle e de fazer uso dos seus dados de forma consciente, autônoma e independente. Segundo Couture e Toupin (2019)COUTURE, S.; TOUPIN, S. What does the notion of “sovereignty” mean when referring to the digital? New Media & Society, October 2019, v. 21, n. 10, p. 2305–2322., soberania é entendida como forma de independência, autonomia e controle sobre as infraestruturas, tecnologias e dados digitais. O termo soberania digital aparece a partir de 2011, sendo que o crescimento da discussão se dá a partir de 2015, com o envio de dados em “clouds” fora das fronteiras territoriais dos países e com a revelação da vigilância de dados planetária a partir das denúncias de Snowden (HUMMEL et al., 2012HUMMEL, P. et al. Data sovereignty: A review. Big Data & Society, 2021, v. 8, n. 1, 205395172098201., p. 13).

O colonialismo de dados é justamente aquilo que enfraquece a soberania, visto que ele replica a lógica colonial (sobre pessoas, instituições, regiões ou países) de expropriação, agora de dados, para fins de controle econômico, político ou industrial. Para Couldry e Mejias (2018)COULDRY, N.; MEJIAS, U.A. Data Colonialism: rethinking big data’s relation to the contemporary subject. Television & New Media, 2018., o colonialismo de dados corresponde à exploração de dados pessoais, sendo similar àquela de seres humanos, de recursos naturais e do território no colonialismo histórico. A diferença é que os dados não são retirados, mas produzidos com objetivos específicos de perfilização, monitoramento e controle (de produtos, pessoas, instituições públicas ou privadas...).

Portanto, a questão da plataformização da sociedade toca diretamente a nossa condição latino-americana no chamado Sul Global, pois é aqui, mais uma vez, que se tem o polo colonizado, nessa nova condição sociotécnica. Torna-se urgente a criação de políticas públicas que pensem a formatação, a dataficação e a plataformização da sociedade a fim de aumentar a soberania, deter o colonialismo de dados, desenvolver mecanismos eficazes de proteção, e criar capacidade de inovação tecnocientífica. Dado o panorama exposto acima, aponta-se de forma sintética, as conclusões desse diagnóstico da atualidade.

  • A sociedade contemporânea é uma sociedade de plataformas digitais. Plataformas constituem a infraestrutura da vida contemporânea sendo, portanto, a base de lançamento para diversas outras estruturas (de dados ou não) que vão, no seu conjunto, constituir as redes sociotécnicas que compõem os diversos domínios da vida social hoje.

  • A plataformização se caracteriza por um amplo domínio do rastreamento de dados de usuários, dispositivos e outras plataformas com o intuito de prever situações, induzir ações e gerar novas possibilidades de oferta de serviços e produtos, afetando a dinâmica social (pelas relações estabelecidas entre os usuários), a economia (pela monetização a partir do uso dos sistemas que são por sua vez indicados a partir de práticas de dados coletadas e analisadas pelas plataformas), a cultura (induzindo formas de consumo cultura), política (criando públicos, moldando opiniões, produzindo cadeias de desinformação...) etc.

  • A sociedade de plataformas é controlada por empresas privadas; por grandes conglomerados privados no Ocidente (EUA, basicamente), como Google, Amazon, Facebook, Apple, Microsoft e no Oriente (China) como Tecent, Alibaba ou Baidu. Devemos pensar a soberania e o colonialismo já que os dados (alimento da nova economia) migram do sul ao norte deixando para essas Big Tech o desenvolvimento de sistemas de inteligência artificial e de novas oportunidades de negócio. O Brasil é um grande fornecedor de dados, pouco inovador no cenário global da sociedade de plataformas.

  • O funcionamento das plataformas é performativo, ou seja, sempre aberto, generativo, assimétrico. As ações de usuários diferentes em uma mesma plataforma não têm as mesmas consequências. Por exemplo, um like de uma pessoa em uma determinada informação não tem o mesmo peso, ou vai gerar a mesma agência algorítmica de outra pessoa sobre a mesma informação, pois tudo vai depender da relação com ações recentes e de outros dados desses usuários. As gramáticas das plataformas são complexas com o objetivo de propor recomendações e formas de ação. Ou seja, as plataformas funcionam como metatextos performativos e devem assim ser entendidas.

  • A sociedade de plataformas constitui uma esfera pública midiática diferente da esfera pública massiva do século XX. A falta de regulação em prol da inovação gera “massa manipulada algoritmicamente” de usuários, comandados por uma burocracia tecnocrática gerenciada por uma “epistocracia” (os que conhecem os códigos e datasets). Esta estrutura forma o que John Danaher chama de algocracia (2016).

  • Há mudanças significativas nas formas de trabalho (novos e tradicionais), conhecido como Gig Economy, impactando todas as áreas da atividade humana - aqueles que trabalham diretamente nas plataformas (empregados das empresas), pela plataforma (dependentes de conexão, meios de produção e aplicativos), ou os que as utilizam para executar, ou potencializar, o trabalho, como os professores universitários, por exemplo. Podemos dizer que todas as formas de trabalho são hoje agenciadas, em menor ou maior grau, pelas plataformas digitais. A inteligência artificial generativa, como o ChatGPT, já exerce pressões sobre formas de emprego.

Cenário em um futuro próximo

Apresentamos a seguir, como base no diagnóstico exposto, um cenário para o futuro próximo no prazo de dez anos.

As plataformas continuarão controladas por grandes empresas transacionais e será de forma ainda mais radical, o alicerce da sociedade. Não haverá mudanças significativas na dinâmica sócio-política, mesmo que formas de controle, regulação e quebra de monopólios venham a acontecer. A recente mudança do Facebook para Meta, investindo em metaversos, é uma reação às pressões que a empresa vem sofrendo em termos de responsabilidade social, mas também uma ação de escape para criar hegemonia em outras áreas, mantendo-se entre as Big Five (Alphabet, Apple, Microsoft, Meta e Amazon).

Haverá mudanças no uso e teremos mais usuários em plataformas específicas. No começo da internet tínhamos a web 1.0, onde cada serviço era executado por programas específicos (e-mail, Gopher, Web, Usenet, chats, Muds...). Desde Web 2.0, nos anos 2000, vimos a fusão desses serviços em sites de redes sociais agregando serviços (Myspace, Orkut, Facebook). Agora, convivemos com sites de redes sociais e aplicativos mais ou menos especialistas tais como Instagram, TikTok, WhatsApp... O Instagram e o TikTok cresceram em número de usuários. O Facebook sofre queda constante e está se transformando em plataforma de metaverso sem ainda muita clareza sobre o que isso vai significar. No futuro próximo, parece que a tendência vai ser o crescimento de plataformas especialistas.

A polarização política vai a aumentar, bem com formas de regulação (auto e ad hoc) tendem a crescer, pois as pressões sociais aumentarão principalmente no que se refere à proteção dos dados pessoais, a interoperabilidade permitindo o uso de dados entre as diversas plataformas, a vigilância...

Aumento no uso das plataformas para trabalho e educação. Será o legado da pandemia da Covid-19. Apesar dos problemas de conexão e de desigualdade em termos de acesso a equipamentos, esses sistemas mostraram-se estáveis, performáticos e confiáveis. Veremos o aparecimento de mais plataformas bottom-up para trabalho na gig-economy (como já está acontecendo para entregas e transportes em vários lugares do mundo).

Aumentará a tecnoburocracia com o uso da inteligência artificial, a coleta de dados e os sistemas de aprendizagem aliados ao Big Data, ampliando ainda mais a algocracia. Municípios, estados e o governo federal farão cada vez mais uso de inteligência artificial para administração e controle social, seja por meio de sistemas móveis como internos na gestão da coisa pública. O crescimento de sistemas de inteligência artificial é certo, principalmente as inteligências artificiais generativas (IAG) como o ChatGPT.

Proposições de Ações

Apresentam-se a seguir propostas para ações imediatas a serem desenvolvidas para enfrentar o problema da plataformização da sociedade no Brasil, tendo em vista que ela já está em andamento.

  • Regulação - Com a expansão da plataformização da sociedade é imprescindível pensar seriamente sobre formas de regulação (autorregulação, regulação estatal ou corregulação das plataformas, entre outras). Essas plataformas (individuais ou o ecossistema) constituem uma nova esfera pública privatizada e precisam ser reguladas para garantir o interesse público e o bem comum. Isso deve incluir um quadro jurídico, tecnológico, educacional. Ações antitrustes são fundamentais para possibilitar a entrada de novas plataformas. É importante garantir que as plataformas, bem como todo o ecossistema da internet, continuem inovando, ampliando as formas de interoperabilidade entre elas, tendo no cidadão o centro, garantindo a soberania para o uso dos dados. O desafio é que as formas de regulação garantam que os sistemas possam ser ágeis e flexíveis para acompanhar a dinâmica do setor e que não gere desestímulo ao investimento em inovação. Deve se fomentar Plataformas de Interesse público, tendo como princípio a soberania dos dados, o viés não discriminatório e a minimização de sistemas de vigilância.

  • Interoperabilidade - A interoperabilidade de dados é um ponto importante para a garantia de uma sociedade soberana. Doctorow (2021)DOCTOROW, C. Competitive Compatibility: Let’s Fix the Internet, Not the Tech Giants. Communications of the ACM, October 2021, Vol. 64 No. 10, p. 26-2910.1145/3446789 em editorial da revista Communication of the ACM apontou para essa necessidade. A própria história de sucesso da internet se deve a sua capacidade de interoperabilidade (de máquinas e sistemas informatizados). A interoperabilidade de dados em plataformas diferentes por parte dos usuários deveria ser um ponto de partida para garantir direitos de uso, reparo e conserto (GRAHAM & THRIFT, 2007; JACKSON, 2014; VELKOVA, 2018). Deve-se pensar na portabilidade de dados entres sistemas e plataformas em um quadro jurídico de proteção de dados pessoais.

  • Vieses - Monitorar e frear processos que ampliam as formas de vigilância e de discriminação étnica, social, de gênero. O funcionamento das plataformas se dá pela coleta massiva de dados pessoais e por sistemas algorítmicos que indicam ações por recomendação e propõem soluções em determinados processos sociais (emprego, segurança, consumo...). Parece ser interessante pensar em formas de inibir a disseminação descriminada de algoritmos de recomendação. Como indicamos no início desse texto, quando um sistema recomenda uma informação baseada no perfil de um usuário, ele torna invisível outras opções, fazendo com que a recomendação seja, de fato, uma coerção, pois não há muitas outras opções visíveis que possam ser escolhidas. De fato, há pouca opção. É fundamental criar mecanismos técnicos e jurídicos para bloquear a expansão desses sistemas de recomendação que ampliam as formas de vigilância e de manipulação das emoções criando vieses e discriminação7 7 Sobre a discussão de vieses como erros, falhas e perturbações remetem para a pesquisa PDS/CNPq sobre esse tema. Muitas conferências estão disponíveis no YouTube e artigos sobre essa discussão estão no prelo. . Dados nunca são neutros (AMOORE, 2020; CRAWFORD, 2021CRAWFORD, K. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021.; KITCHIN, 2014KITCHIN, R. Big data, new epistemologies and paradigm shifts. Big Data & Society 1 (1): 1-12, 2014. https:// doi.org/10.1177/2053951714528481.
    https://doi.org/10.1177/2053951714528481...
    ):

  • O importante não é buscar algoritmos neutros, mas, justamente, instituir vieses libertários e democráticos nas plataformas, principalmente as de interesse público e banir sistemas que não são baseados nessas premissas. É imperativo frear abusos da biometria, com leis claras e aplicáveis. Isso já está sendo feito em alguns países no mundo. No Brasil, há exemplos de uso indiscriminado dessas tecnologias biométricas. Nem tudo que pode ser feito deve ser feito. É preciso frear o “laissez-faire” tecnológico. Seria importante que a cada sistema de interesse público implementado, um “estudo prévio de impactos discriminatórios” seja produzido, explicitando que leis regulam o que é feito com os dados e os limites dos sistemas. Não se pode implantar serviços de biometria e/ou de dataveillance sem um marco legal ou evidências científicas de sua eficácia.

  • Infopower - É urgente discutirmos a “agência” da formatação dos dados: aquisições de informação por formulários, enquetes, cadastros, classificações. Os dados podem gerar ações afirmativas, mas também ações discriminatórias. A formatação nos constitui enquanto cidadão e nos performa pragmaticamente. Todo o sistema de captação e formatação de dados agência e produz o coletivo. Discutir e pensar sobre essa formatação para além de uma visão essencialista e simplória é fundamental. É preciso questionar politicamente a ação desse infopower (como vimos) e as formas de formatação da informação, que não são levadas a sério na discussão política, refém de uma ideia de comunicação pública habermasiana e antropocêntrica.

  • Auditoria - Auditoria algorítmica para sistemas de relevância pública governamental. Uma auditoria mais ampla do design desses sistemas (condições de desenvolvimentos, decisões políticas, frameworks utilizados na implementação, interface etc.). Olhar a regulação e a auditoria a partir da sua inserção em uma rede mais ampla. Talvez um sistema flexível, mas compulsório de consultores ad hoc para pareceres sobre sistemas públicos ou público-privados de impacto público. Temos sistemas que são implantados em municípios, estados e no governo federal que não passam por nenhuma auditoria pública (sem análises claras sobre ameaças à privacidade, por exemplo). É fundamental que todo sistema de relevância pública que seja de uso compulsório pelos cidadãos passe por uma instituição ou comitê ad hoc de auditoria e aprovação.

  • Diversidade - Ampliação de diferenças e pluralidade na representatividade na constituição da algocracia. Tendo em vista que a algocracia vai aumentar com o uso de IA e da dataficação, é fundamental diversificar o quadro de profissionais que produzem os datasets, os códigos e lidam como analítica da informação. Esse quadro deve ser plural a fim de fomentar diversidade nas visões de mundo, buscando minimizar vieses de raça, gênero ou classe social. Deve-se ampliar a discussão sobre a compreensão ético-política dos técnicos (que produzem os algoritmos), que sempre dizem que não sabem sobre as humanidades e que isso deve ser estudado pelos sociólogos. O mesmo deve ser fomentado nos profissionais das humanidades para que conheçam os sistemas técnicos. É fundamental a ampliação das diferenças e da pluralidade na representatividade na constituição dessa algocracia. Kate Crawford (2021)CRAWFORD, K. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021. faz críticas a sistemas que buscam criar uma ética da IA por justamente não operar com a diversidade.

  • Legislação - Defesa do Marco Civil e Atenção à LGPD. É preciso reforçar e defender as duas leis que são fundamentais para a soberania de dados no país. O Marco Civil fruto de um debate público amplo e com tempo de reflexão; e a LGPD, que já chegou atrasada - o Brasil foi um dos últimos a implementar uma Lei Geral de Proteção de Dados Pessoais na América Latina -, mas que é uma garantia de proteção dos dados pessoais no contexto da plataformização e dataficação massivas.

  • Trabalho - Discussão sobre direitos trabalhistas na Gig Economy! Alguns países já reconhecem vínculo empregatício entre as plataformas e os “colaboradores”. Em um país com um grande número de desempregados e de baixa formação educacional, a necessidade de proteção é ainda maior, pois esses trabalhadores precários estariam mais vulneráveis a aceitar condições degradantes de trabalho nas plataformas. Isso tende a se agravar nos próximos anos e a questão deve ser enfrentada, principalmente com a atual avalanche de inteligências artificiais generativas, como o ChatGPT, por exemplo.

  • Ciência e Tecnologia- Nos próximos dez anos é importante que o país volte a investir na formação de recursos humanos, em recursos computacionais para a área de digital humanities, em Inteligência Artificial e análise de dados. Políticas de IA e de TI são fundamentais para termos um papel menos subserviente na AL. A soberania, como vimos, é uma dimensão da dataficação e perdemos controle sempre que usamos sistemas de fora do país, ou enviamos nossos dados para alimentar sistemas privados estrangeiros. Precisamos de sociólogos que entendam o funcionamento dos dados. Precisamos de engenheiros que entendam como é que funciona a sociedade, as questões éticas, morais e políticas. É urgente investir na formação, na educação, na ciência, na tecnologia, com políticas de Inteligência Artificial, de TI, sérias.

  • Sustentabilidade ambiental - Normalmente, pensa-se nas tecnologias digitais, e consequentemente, nas plataformas digitais como tecnologias do virtual, da cloud, insistindo em uma equivocada visão da desmaterialização. Todo sistema baseado em tecnologias digitais de informação e comunicação gera pegada de carbono pelo consumo de combustíveis fósseis nos datacenters e consome minerais da Terra para a confecção dos diversos equipamentos (cabos, servidores, computadores, celulares...) (BONNEUIL, 2015BONNEUIL, C. The Geological Turn. HAMILTON, C.; BONNEUIL, C.; GEMENNE, F. (Eds.). The Anthropocene and the Global Environmental Crisis. 1. ed. [s.l.] Routledge, 2015. p. 17–31.; PARIKKA, 2015PARIKKA, J. A geology of media. Minneapolis; London: University of Minnesota Press, 2015.). Isso ignifica que ela nunca morre, mas vira lixo eletrônico e continua o seu percurso aumentando a entropia do planeta. Portanto, o dado é o novo petróleo não apenas como metáfora, mas materialmente porque para gerá-lo consumimos petróleo e carvão. Pensar a sustentabilidade ambiental é fundamental para o futuro da sociedade de plataforma. Políticas devem exigir transparência energética e material das plataformas, bem como ação proativa para redução das pegadas geradas por essa materialidade do digital.

Conclusão

Torna-se claro que as questões que envolvem dados e tecnologias digitais têm implicações profundas em diversos campos de estudo e preocupações sociais. Não podemos separar o estudo da tecnologia de contextos sociais e políticos, nem podemos ignorar a materialidade dos sistemas digitais. É urgente de investir em educação, ciência e tecnologia, particularmente em humanidades digitais, inteligência artificial e análise de dados. É importante priorizar a sustentabilidade do uso de tecnologias digitais e reconhecer o impacto material desses sistemas em nosso planeta. Só podemos criar um futuro mais justo e sustentável para todos se nos envolvermos com a complexidade e materialidade das tecnologias digitais.

Das propostas depreendem-se algumas linhas de pesquisa, não exaustivas, que devem ser estimuladas nos próximos anos, tais como: Discussão sobre formas de regulação das plataformas e sobre desinformação, discursos de ódio, relações trabalhistas, cooperativismo de plataforma; proposição de políticas consistentes para o desenvolvimento da inteligência artificial no país; pesquisas sobre as materialidades das plataformas digitais (interfaces, softwares, hardwares, infraestrutura...) e suas formas de agenciamento (político, social, cultural, econômico, ambiental, informacional); estudos sobre as bases da formatação dos dados levando em conta problemas de gênero, raça, vigilância de dados e ameaças à vida privada; pesquisas e estudos sobre compatibilidade entre sistemas a fim de garantir interconexão entre plataformas, direito ao reparo e ao conserto; estudos sobre colonialismo e soberania de dados.

A plataformização da sociedade é uma realidade, e é essencial agir agora para pensar em maneiras mais consistentes de promover o bem comum no país. Não podemos ser influenciados pela incompetência, falta de apetite ou subserviência em relação aos desafios da cultura digital. As ações devem, portanto, ser implementadas agora para garantir uma sociedade da informação inclusiva, diversa, emancipatória e libertária, como idealizado pelos pioneiros da internet.

  • 1
    Esse artigo tem como origem uma comunicação oral do autor no evento “Tecnologia no Brasil, 2020-2030”, organizado pela Ação Educativa Assessoria Pesquisa e Informação, São Paulo, novembro de 2021.
  • 2
    A platform is fueled by data, automated and organized through algorithms and interfaces, formalized through ownership relations driven by business models, and governed through user agreements. Esta e todas as outras traduções são do autor.
  • 3
    Platformization then refers to the way in which entire societal sectors are transforming as a result of the mutual shaping of online connectors and complementors.
  • 4
    I use the term “platformization” to refer to the rise of the platform as the dominant infrastructural and economic model of the social web and the consequences of the expansion of social media platforms into other spaces online.
  • 5
    The “platform society” does not merely shift the focus from the economic to the social; the term also refers to a profound dispute about private gain versus public benefit in a society where most interactions are carried out via the Internet. While platforms allegedly enhance personalized benefits and economic gain, they simultaneously put pressure on collective means and public services.
  • 6
    (…) shape, constrain, and prepare whatever is collected, stored, processed, refined, retrieved, and redistributed as information. This formatting is rarely neutral. (…) infopower as a distinctive modality of power deploys techniques of formatting to do its work of producing and refining informational persons who are subject to the operations of fastening.
  • 7
    Sobre a discussão de vieses como erros, falhas e perturbações remetem para a pesquisa PDS/CNPq sobre esse tema. Muitas conferências estão disponíveis no YouTube e artigos sobre essa discussão estão no prelo.

Disponibilidade de dados

O autor confirma que os dados que suportam a pesquisa estão contidos no artigo e/ou material suplementar.

Referências

  • BONNEUIL, C. The Geological Turn. HAMILTON, C.; BONNEUIL, C.; GEMENNE, F. (Eds.). The Anthropocene and the Global Environmental Crisis. 1. ed. [s.l.] Routledge, 2015. p. 17–31.
  • COULDRY, N.; MEJIAS, U.A. Data Colonialism: rethinking big data’s relation to the contemporary subject. Television & New Media, 2018.
  • COUTURE, S.; TOUPIN, S. What does the notion of “sovereignty” mean when referring to the digital? New Media & Society, October 2019, v. 21, n. 10, p. 2305–2322.
  • CRAWFORD, K. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021.
  • DANAHAER, J. The threat of algocracy: reality, resistance and accommodation. Philosophy & Technology, 2016, 29 (3): 245-68. https://doi.org/10.1007/s13347-015-0211-1.
    » https://doi.org/10.1007/s13347-015-0211-1
  • DOCTOROW, C. Competitive Compatibility: Let’s Fix the Internet, Not the Tech Giants. Communications of the ACM, October 2021, Vol. 64 No. 10, p. 26-2910.1145/3446789
  • FOUCAULT, M. Microfísica do Poder RJ. Graal, 1986.
  • FOUCAULT, M. Seguridad, territorio, población: Curso en el Collège de France: 1977-1978 Fondo de Cultura económica: Buenos Aires, 2006.
  • HELMOND, A. The platformization of the Web: Making Web data platform ready. Social Media + Society, 2015, v. 1, n. 2, p. 1–11.
  • HUMMEL, P. et al Data sovereignty: A review. Big Data & Society, 2021, v. 8, n. 1, 205395172098201.
  • KOOPMAN, C. How We Became Our Data: A Genealogy of the Informational Person. University of Chicago Press, 2019.
  • KITCHIN, R. Big data, new epistemologies and paradigm shifts. Big Data & Society 1 (1): 1-12, 2014. https:// doi.org/10.1177/2053951714528481.
    » https://doi.org/10.1177/2053951714528481
  • LEMOS, A. A tecnologia é um vírus. Pandemia e Cultura Digital Editora Sulina: Porto Alegre, 2021b.
  • LEMOS, A. Cibercultura. Tecnologia e vida social na cultura contemporânea Porto Alegre. Ed. Sulina, 2002.
  • LEMOS, A. Dataficação da vida. Civitas – Revista De Ciências Sociais, 2021a, 21(2), 193-202.
  • LEMOS, A. Plataformas, dataficação e performatividade algorítmica (PDPA): Desafios atuais da cibercultura. In Prata, Nair; Pessoa, Sonia C. (Org). Fluxos Comunicacionais e Crise da Democracia São Paulo: Intercom, 2020, pp 117-126.
  • LEMOS, A. Privacidade e Infopoder. In Santaella, L (org.). Simbioses do Humano e Tecnologias. São Paulo: EdUSP, IEA-USP, 2022, pp. 33-50.
  • MAYER-SCHÖNBERGER, V.; CUKIER, K. Big data: a revolution that will transform how we live, work, and think Boston: Houghton Mifflin Harcourt, 2013.
  • NIEBORG, D.; POELL, T. The platformization of cultural production: theorizing the contingent cultural commodity. New Media & Society, 2018, 20 (11): 4275- 92. https://doi.org/10.1177/1461444818769694.
    » https://doi.org/10.1177/1461444818769694
  • PARIKKA, J. A geology of media Minneapolis; London: University of Minnesota Press, 2015.
  • ROUVROY, A.; BERNS, T. “Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação?”. Revista Eco Pós, 2015, vol. 18, Nr. 2, p. 36-56.
  • SRNICEK, N. Platform capitalism New Jersey: John Wiley & Sons, 2017
  • VAN DIJCK, J; NIEBORG, D; POELL, P. Plataformização. Fronteiras – estudos midiáticos, 2020, 22 (1): 2-10. https://doi.org/10.4013/fem.2020.221.01.
    » https://doi.org/10.4013/fem.2020.221.01
  • VAN DIJCK, J.; POELL, P.; DE WAAL, M. The platform society. Public values in a connective world New York: Oxford University Press, 2018.
  • ZUBOFF, S. The age of surveillance capitalism: the fight for a human future at the new frontier of power New York: Public Affairs, 2019.

Editado por

Editora responsável: Maria Ataide Malcher
Assistente editorial: Aluzimara Nogueira Diniz, Julia Quemel Matta, Suelen Miyuki A. Guedes e Weverton Raiol

Datas de Publicação

  • Publicação nesta coleção
    08 Dez 2023
  • Data do Fascículo
    2023

Histórico

  • Recebido
    26 Abr 2023
  • Aceito
    25 Out 2023
Sociedade Brasileira de Estudos Interdisciplinares da Comunicação (INTERCOM) Rua Joaquim Antunes, 705, 05415-012 São Paulo-SP Brasil, Tel. 55 11 2574-8477 - São Paulo - SP - Brazil
E-mail: intercom@usp.br