PADRÕES DEPRESSIVOS: fenotipagem digital e subjetivação neoliberal

DEPRESSIVE PATTERNS: digital phenotyping and neoliberal subjectivation

MODELES DEPRESSIFS: phénotypage numérique et subjectivation néolibérale

Resumo

Assistimos hoje a uma quantidade crescente de diagnósticos de ansiedade e depressão, ao mesmo tempo em que as práticas e os discursos psicológicos e psiquiátricos assumem, frequentemente, certa proximidade com os ideais políticos e econômicos neoliberais de maximização imperativa (medicalizada ou tecnicamente mediada) do desempenho e do prazer. Paralelamente a isso, os sistemas de inteligência artificial e as técnicas de aprendizado de máquina vêm sendo cada vez mais empregados em processos de automatização de cada vez mais esferas da vida, inclusive no âmbito do diagnóstico e tratamento da saúde mental. Partindo desse cenário contemporâneo, propomos neste artigo percorrer um trajeto que se inicia no site de um aplicativo para automonitoramento de saúde mental, se aprofunda em sua fundamentação tecnocientífica e econômica, e culmina no desdobramento da racionalidade neoliberal que o sustenta. Concluímos com considerações sobre as implicações mais amplas do modo de funcionamento das técnicas de aprendizado de máquina, em especial sua tendência de reproduzir o passado e descartar o singular.

Aplicativos de saúde mental; Fenotipagem digital; Depressão; Aprendizado de máquina; Neoliberalismo

Abstract

We are currently witnessing an increasing number of diagnoses of anxiety and depression, together with psychological and psychiatric discourses and practices that frequently assume a certain proximity to neoliberal political and economic ideals of imperative maximization (medicalized or technically mediated) of performance and pleasure. At the same time, artificial intelligence systems and machine learning techniques are increasingly used in the automation of more and more spheres of life, including mental health diagnosis and treatment. Considering this contemporary setting, in this article we propose to follow a trail that starts on the website of an application for the self-monitoring of mental health, delves into its technoscientific and economic foundations, and culminates in the unfolding of the neoliberal rationality that sustains it. We then conclude with considerations on the broader implications of the way machine learning techniques operate, especially its tendency to reproduce the past and discard the singular.

Mental health apps; Digital phenotyping; Depression; Machine learning; Neoliberalism

Abstract

Aujourd’hui, nous assistons un nombre croissant de diagnostics d’anxiété et de dépression, alors même que les discours et les pratiques psychologiques et psychiatriques assument souvent une certaine proximité avec les idéaux politiques et économiques néolibéraux de maximisation impérative (médicalisée ou techniquement médiatisée) de la performance et du plaisir. En même temps, les systèmes d’intelligence artificielle et les techniques d’apprentissage automatique sont de plus en plus utilisés pour automatiser de plus en plus de sphères de la vie, notamment dans le contexte du diagnostic et du traitement de la santé mentale. Sur la base de ce scénario contemporain, nous proposons dans cet article de suivre un parcours qui commence sur le site Web d’une application d’autosurveillance de la santé mentale, plonge dans ses fondements technoscientifiques et économiques et culmine dans le déploiement de la rationalité néolibérale qui la soutient. Nous concluons par des considérations sur les implications plus larges du fonctionnement des techniques d’apprentissage automatique, en particulier leur tendance à reproduire le passé et à rejeter le singulier.

Applications de santé mentale; Phénotypage numérique; Dépression; Apprentissage automatique; Néolibéralisme

Entrando¹ no site do aplicativo Behavidence (2020), lemos a frase “Meça com Acurácia Sua Saúde Mental Todo Dia [Accurately Measure Your Mental Health Every Day]” (Figura 1).² O olhar é imediatamente atraído pela imagem de uma tela de smartphone logo abaixo, à direita, onde lemos, em destaque, que a “Pontuação de Similaridade para Saúde Mental [Mental Health Similarity Score]” do dia 8 de fevereiro de 2021 acusa “46%” de “ansiedade”, com “acurácia” de três estrelas (máxima). O valor para ansiedade é destacado, como se saltasse para a frente da tela do dispositivo, permitindo a visão com maior detalhe. Atrás do destaque, porém, é possível ver também as “pontuações” para “depressão” (74%), e “TDAH [ADHD]” (64%), e veríamos também a pontuação para “TEPT [PTSD]” se o destaque não o estivesse cobrindo.³ Sobreposto ao canto inferior esquerdo da tela do smartphone, vemos um pequeno selo com cores douradas sugerindo alguma forma de reconhecimento do aplicativo – no caso, um selo indicando que o aplicativo foi “indicado [nominee]” para o Prix Galien USA de 2023, na categoria Melhor Solução de Saúde Digital [Best Digital Health Solution]. O olhar recai, então, sobre as duas opções disponíveis de sistema operacional – Google Play e Apple Store – indicadas por um convidativo botão roxo ovalado onde se lê: “Experimente Agora [Try Now]”.

Figura 1
– Behavidence: print da página inicial do site Behavidence, acessada em junho de 2024

Após essa deriva inicial, o olhar pode se reaprumar, e tentar seguir a lista de três itens apresentada ao lado da imagem do smartphone. O primeiro item, “Impacto Provado”, é identificado com um ícone de um erlenmeyer (denotando cientificidade), e afirma que o aplicativo “oferece retorno diário e cientificamente validado* baseado em comportamento digital [providesscientifically validated* daily feedback based on digital behavior]”. O próprio nome do aplicativo – aglutinação das palavras inglesas “behavior” (comportamento) e “evidence” (evidência) – sinaliza essa fundamentação científica na forma de “evidências” de “comportamento”. O segundo item, “Privado e Fácil”, é identificado com um ícone de cadeado fechado sobre uma forma de escudo (denotando segurança), e afirma que o aplicativo usa “sistemas de primeira linha para encriptar e proteger os dados sem dar trabalho para a usuária [top systems to encrypt and protect data with zero user burden]”.⁴ O terceiro item, “Confiável”, é identificado com um ícone de estetoscópio (denotando cuidado de saúde), e afirma que o aplicativo é “desenvolvido e usado por psiquiatras, médicas e empresas de seguro [insurance companies]”.

Rolando a página para baixo, encontramos ainda elementos para nos convencer de que o aplicativo é: “fácil de usar”, pois basta instalar o aplicativo e “usar o smartphone normalmente [use mobile as usual]” para receber uma “pontuação diária [daily score]”; feito “para todo mundo”, com destaque para profissionais da saúde em busca de um acompanhamento mais detalhado de suas pacientes, companhias de seguro interessadas em economizar por meio da prevenção, pesquisadoras em busca de ferramentas para a realização de testes diversos, e qualquer pessoa interessada em “gerenciar seu bem estar mental”; e “benéfico” em vários sentidos – listando: objetividade e acurácia propiciadas pelo uso de inteligência artificial; garantia total de privacidade e segurança, sem rastreamento de conteúdo de outros aplicativos; “dados não enviesados [unbiased data]” e apoio à pesquisa científica; caráter preventivo (“atenção precoce aprimora a autogestão”) e inclusivo (“pode ser instalado em qualquer smartphone”); e fácil integração com outros sistemas por meio de Kit de Desenvolvimento de Software (SDK).

FENOTIPAGEM DIGITAL

Na internet, palavras e expressões sublinhadas costumam ser hiperlinks, e descobrimos ser este o caso aqui quando, ao clicarmos sobre a expressão “cientificamente validado*”, somos levados para o site PubMed, de artigos científicos da área da saúde, mais diretamente para a página do site onde foi disponibilizado um artigo científico que Soumya Choudhary e demais autoras haviam publicado originalmente em 2022, no Journal of Medical Internet Research:⁵ “Machine Learning approach for detecting digital behavioral patterns of depression using nonintrusive smartphone data (complementary path to Patient Health Questionnaire-9 assessment): prospective observational study” [“Abordagem por Aprendizado de Máquina para detectar padrões comportamentais digitais de depressão usando dados não intrusivos de smartphone (trilha complementar à avaliação pelo Questionário de Saúde do Paciente-9): um estudo observacional prospectivo”].

No resumo do artigo, lemos:

Este estudo demonstra uma nova métrica de perfilamento de comportamento mental (a Pontuação de Similaridade para Saúde Mental), derivada da análise de dados passivamente monitorados, privados e não-intrusivos de uso do smartphone [passively monitored, private, and nonintrusive smartphone use data], para identificar e rastrear comportamentos depressivos e sua progressão (Choudhary et al., 2022, p. 1).

Trata-se, portanto, de uma pesquisa voltada para a validação clínica e científica do princípio por trás do aplicativo Behavidence: comparações diárias entre os padrões detectados de uso do smartphone, e aquilo que elas chamam de “fenótipos digitais para depressão”, entendidos como os padrões de uso de smartphone (inferidos a partir de dados gerados por sensores e outros registros) de pessoas classificadas como depressivas, de acordo com o Questionário de Saúde do Paciente-9 (Patient Health Questionnaire-9, ou PHQ-9), sintetizadas e apresentadas na forma de uma Pontuação de Similaridade para Saúde Mental (Mental Health Similarity Score, ou MHSS). Mas também se trata de uma tentativa de apresentar o aplicativo como monitorando “passivamente” dados “privados e não intrusivos de uso do smartphone”, sugerindo com isso que o seu uso não apresentaria nem um incômodo ou trabalho adicional, e tampouco uma ameaça à segurança ou à privacidade.

A ideia de “fenotipagem digital” foi proposta originalmente em 2016, por John Torous e demais autoras (2016, p. 2), para se referirem à “quantificação contínua [moment-by-moment] do fenótipo humano individual in-situ usando dados de smartphones e outros dispositivos digitais pessoais”, e rapidamente ganhou espaço em publicações acadêmicas. Na própria revista na qual foram publicados os artigos de Choudhary e demais autoras (2022) e de Torous e demais autoras (2016) – Journal of Medical Internet Research, ou JMIR –, uma busca pela expressão “digital phenotyping” (fenotipagem digital) retorna 330 artigos, começando em 2016 com o artigo de Torous e demais autoras, e com cada vez mais artigos anuais, até chegar a 76 artigos em 2023 (Figura 2). Uma tendência parecida pode ser observada também na revista Nature, onde os primeiros três artigos contendo a expressão foram publicados em 2016 – sendo um deles de autoria de Jukka-Pekka Onnela (com Scott L. Rauch), que também é coautor de Torous e demais autoras (2016) –, seguidos de um aumento gradual no número de artigos até chegar a 24 em 2020, número que praticamente se manteve nos dois anos seguintes, até subir para 36 em 2023.

Figura 2
– “Digital phenotyping”: número de artigos com a expressão “digital phenotyping” (fenotipagem digital) publicados por ano nas revistas Journal of Medical Internet Research (JMIR, esquerda) e Nature (direita)

Já em 2017, o neurocientista estadunidense Thomas R. Insel (2017, p. 1215-1216) apresentava a fenotipagem digital como uma “nova abordagem de medição do comportamento a partir de sensores de smartphones” que “poderia potencialmente transformar a saúde mental no mundo”. Segundo Sachin H. Jain e demais autoras (2015, p. 463), a ideia é “uma importante extensão” da teoria do “fenótipo estendido”, proposta originalmente pelo biólogo Richard Dawkins, segundo a qual “[a]nimais e humanos podem modificar seus ambientes, e essas modificações e comportamentos associados são expressões do próprio genoma e, portanto, parte de seu fenótipo estendido”. Elas perguntam (Jain et al., 2015, p. 463): na medida em que “a tecnologia se torna cada vez mais integrada [embedded] na vida humana”, “poderiam aspectos de nossa interface com a tecnologia ser, de alguma maneira, diagnósticos e/ou prognósticos de certas condições”, de forma que “a análise do fenótipo digital de alguém pudesse ajudar na detecção precoce de doenças, identificando sintomas antes de sua tradicional expressão fenotípica”, “e potencialmente construindo ferramentas para intervenção precoce”?

Segundo Patricia Garatva e demais autoras (2022, p. 400, 402, 403 Figuras 2, 3 e 4) os “três passos principais” dessa fenotipagem digital são: (1) a “coleta de dados” gerados por sensores e dispositivos digitais; (2) o “pré-processamento dos dados”, envolvendo a limpeza e a extração de características (“features”); e (3) a “análise dos dados”, por meio da mineração de dados (“data mining”), de técnicas de aprendizado de máquina (“machine learning”) e aprendizado profundo (“deep learning”), e da construção de modelos e previsões de saúde. A ideia não é totalmente original, e de certa forma compete com esforços de “fenotipagem eletrônica”, apresentada por Alexandra Makhlysheva e demais autoras (2020, p. 9-11) como “a caracterização da condição de um indivíduo baseada em dados eletrônicos” – como “dados genéticos, imagens de diagnóstico médico, dados estruturados e não estruturados registrados no Registro Eletrônico de Saúde [EHR], dados gerados pela paciente e dados ambientais (qualidade do ar e da água, concentração de metais pesados no solo etc.)”, e “muitos outros dados legíveis por máquinas [machine-readable data]” –, e que, segundo Ezgi Dogan e demais autoras (2017, p. 2), permitiria “aumentar a capacidade de auto-gestão da depressão pelas pacientes [patient’s self-management of depression]” (ver também Banda et al., 2018). Porém, diferentemente dos dados tecnocientíficos e oficiais nos quais tende a se basear a fenotipagem eletrônica, a fenotipagem digital propõe se basear predominantemente em “dados de sensores de smartphones e outros dispositivos digitais pessoais” como base para diagnósticos e intervenções (Choudhary et al., 2022, p. 2, 4; Choi; Ooi; Lottridge, 2024, p. 1, 2, 18; Garatva et al., 2022, p. 400, 403, Figuras 2, 3 e 4).

Inteirados sobre o campo emergente da fenotipagem digital, retomamos nossa investigação sobre o aplicativo em cujo site iniciamos este texto, e nos deparamos com a patente “System and method of monitoring mental health conditions” (“Sistema e método para monitoramento de condições de saúde mental”), registrada pela Behavidence Inc. em 2023, tendo como inventores Roy Cohen e Girish Srinivasan (2023). No resumo da patente, encontramos a seguinte lista das quatro ações que compõem aquilo que é ali apresentado como “sistemas e métodos para avaliar a saúde mental de uma pessoa”: (1) “registrar dados de atividade digital da usuária no dispositivo móvel”, sendo que a patente enfatiza o fato de que “os dados de atividade digital não incluem conteúdo pessoal da usuária”; (2) “aplicar os dados de atividade digital a uma pluralidade de modelos de aprendizado de máquina” (sendo que cada um desses modelos “representa um fenótipo digital para uma condição de saúde mental diferente”) para “determinar uma pontuação de similaridade para cada condição de saúde mental”, por meio da “comparação” entre “uma saída do respectivo modelo de aprendizado de máquina” e “um fenótipo digital para a condição de saúde mental correspondente”; (3) “exibir, na tela de uma usuária, pelo menos uma pontuação de similaridade para saúde mental”; e (4) “prever [...] pelo menos uma condição de saúde mental da usuária com base nas pontuações de similaridade calculadas”. Nota-se que, para além da mera fenotipagem digital – correspondente aos dois primeiros passos descritos aqui por Cohen e Srinivasan (2023), e acima por Garatva e demais autoras (2022) – existe aqui também a previsão de uma ação de retorno sobre a usuária fenotipada.

A segunda ação descrita nos parece particularmente central em todo o processo. Ali é realizada uma “comparação” entre os resultados da primeira ação (o registro dos dados da usuária) e um conjunto de fenótipos digitais já existentes (mas constantemente atualizados), correspondentes a diferentes “condições de saúde mental”, entre as quais são citadas, ao longo da patente: “depressão”; “transtorno do déficit de atenção”; “transtorno bipolar”; “esgotamento emocional [emotional burnout]”; “ansiedade”; “transtorno do estresse pós-traumático”; e, como se não fosse nada, “qualquer condição conhecida na arte [any condition as is known in the art]” (Cohen; Srinivasan, 2023, p. 9, 11). Dessa comparação, resultarão a “pontuação” exibida na tela da usuária (terceira ação), e a “previsão” de saúde mental (quarta ação). Assim, por exemplo, para determinar uma “pontuação de similaridade para depressão [depression similarity score]”, o sistema “compara os dados de um dia de atividade, com o fenótipo de comportamento digital para depressão [digital behavior phenotype for depression]” e, “[s]e eles forem suficientemente similares, então a usuária pode ser classificada como tendo um perfil comportamental [behavioral profile] de alguém que tem depressão” (Cohen; Srinivasan, 2023, p. 10). A “pontuação de similaridade para saúde mental” corresponde, assim, à “probabilidade de correspondência [match] entre um modelo de fenótipo digital pré-treinado, e o perfil comportamental digital [digital behavioral profile]” da usuária, e pode ir de 1 – “pouca ou nenhuma correspondência” – a 100 – “correspondência perfeita [perfect match] com alguém que tenha esse perfil específico de comportamento mental [specific mental behavioral profile]”.

Esse ponto nos chama a atenção por deixar claro a que exatamente corresponde a pontuação diária para depressão oferecida pelo sistema: ao grau (em termos de porcentagem) em que um certo conjunto de dados ligados ao uso diário do smartphone “imitam [mimick]” (Cohen; Srinivasan, 2023, p. 11) os dados gerados pelo uso de smartphone por pessoas diagnosticadas como depressivas por meio do mesmo questionário usado no artigo de Choudhary e demais autoras (2022): o PHQ-9, questionário composto por um conjunto de nove perguntas⁶ que avaliam a presença de cada um dos nove sintomas para Transtorno Depressivo Maior descritos no Manual Diagnóstico e Estatístico de Transtornos Mentais (Diagnostic and Statistical Manual of Mental Disorders, DSM-5; APA, 2014; cf. Santos, 2013, p. 1535)⁷. Tanto no artigo de Choudhary e demais autoras (2022, p. 2), quanto na patente de Cohen e Srinivasan (2023, p. 4), são levantadas sérias ressalvas com relação ao DSM-5: enquanto o primeiro destaca um “crescente ceticismo” com relação à sua validade (chegando mesmo a sugerir que diagnósticos orientados por ele não são melhores do que se fossem realizados “aleatoriamente”); a segunda afirma que avaliações realizadas com base no DSM-5 “podem ser errôneas” devido à “subjetividade” intrínseca, tanto aos relatos e avaliações da paciente, quanto ao processo avaliativo da própria profissional de saúde. Parece-nos que esse tipo de questionamento das proponentes da fenotipagem digital ao DSM-5 deve ser contextualizado em um processo bem mais antigo, e interno à própria comunidade de profissionais de saúde mental, que diversas autoras (Bezerra Junior, 2011; Corbanezi, 2018; Russo; Venâncio, 2006) localizam na publicação, em 1980, do DSM-III (terceira edição do Manual). Elton R. Corbanezi (2018, p. 335, 336, 338 nota 5, 349), por exemplo, localiza naquele momento a transição de um período “sob a influência psicodinâmica” – no qual a “validade diagnóstica” consistia em “compreender a realidade clínica e a natureza da estrutura e da realidade patológica subjacentes”, quando a depressão era considerada “de acordo com a etiologia e o contexto dos sintomas” e se baseava em dicotomias como “neurose e psicose” ou “reativa e endógena” – para outro período que “pretende descontextualizar os sintomas e desconsiderar a etiologia”, de forma a “padronizar a prática diagnóstica” – em um movimento que Philippe Pignarre identificou como “etnocentrismo psiquiátrico” – e a “produzir dados cientificamente confiáveis”. “[E]m vez de problema existencial”, Corbanezi (2018, p. 336) conclui, “a depressão se reduz a uma disfunção neuroquímica”.

Porém, mesmo se transformando em uma “disfunção neuroquímica” que, não por acaso, coincide com o comprometimento da capacidade produtiva do sujeito, o diagnóstico médico é caro, demorado e intrinsecamente subjetivo. Por isso, questionários como Positive and Negative Affect Schedule (PANAS), Hamilton Depression Rating Scale (HDRS) e o PHQ-9 acabam sendo privilegiados em contextos nos quais imperam os princípios da maximização da acurácia e da minimização do tempo e do custo. Ou, nas palavras de Iná S. Santos e demais autoras (2013, p. 1535), o PHQ-9 é “um instrumento de aplicação relativamente rápida, [...] o que seria uma vantagem [...] em comparação a outros atualmente validados” e, acrescentaríamos, ao próprio uso do DSM por psiquiatras e outras profissionais de saúde mental, provável motivo pelo qual Choudhary e demais autoras (2022, p. 4) o consideram “o padrão ouro global para detectar a depressão e classificar a sua gravidade”. Parece apenas natural que, dando continuidade a essa tendência, o próprio DSM-5 seja considerado “um substituto [surrogate]” imperfeito, excessivamente subjetivo, caro e demorado, para a “observação comportamental” (Insel, 2017, p. 1215), que poderia muito bem ser promovida por meios diretos, rápidos e baratos de obtenção de dados “objetivos” sobre o dia a dia das pacientes.

Quantificando, assim, na forma de uma porcentagem, a similaridade entre a maneira como uma pessoa usa seu smartphone e a maneira como pessoas com sintomas depressivos usam seus smartphones, esse aplicativo – e tantos outros do mesmo tipo – transforma o cuidado com saúde mental em um empreendimento de autogestão, no qual rastros digitais dos comportamentos de usuárias são diariamente comparados com aquilo de que elas supostamente desejam se afastar. Segundo a patente, a usuária pode, por exemplo, usar o aplicativo para “monitorar diariamente sua condição mental” e “ver o que melhora a sua depressão, ou quando ela está piorando” (Cohen; Srinivasan, 2023, p. 10). A depender das pontuações recebidas, a usuária pode ainda “receber uma notificação encorajando-a a buscar acompanhamento para problemas de saúde mental” (Cohen; Srinivasan, 2023, p. 10).

ECONOMIA PSÍQUICA DOS ALGORITMOS

Quem poderia prever, dez anos atrás, que 200 milhões de indivíduos nos Estados Unidos estariam carregando poderosos computadores coletando, contínua e passivamente, dados sobre atividade, localização e engajamento social? Quem acreditaria que padrões de digitação e rolagem poderiam revelar impressões digitais individuais de desempenho [individual fingerprints of performance], capturando continuamente nossa função neurocognitiva no mundo real? Poderia alguém ter previsto a revolução no processamento de linguagem natural e na inteligência artificial, que está permitindo que a voz e o discurso, coletados pelo smartphone, se tornem possíveis sinais de alerta precoce de graves doenças mentais? (Insel, 2017, p. 1215).

Em 1990, muito mais do que dez anos antes do artigo de Insel, Gilles Deleuze (2008, p. 224-225) contou que Félix Guattari certa vez “imaginou uma cidade onde cada um pudesse deixar seu apartamento, sua rua, seu bairro, graças a um cartão eletrônico (dividual)”, que “abriria as barreiras”, mas que “poderia também ser recusado em tal dia, ou entre tal e tal hora”, a depender de uma “modulação universal” operada por um “computador”. O próprio Deleuze (2008, p. 224) ali constatou que “[n]ão há necessidade de ficção científica para se conceber um mecanismo de controle que dê, a cada instante, a posição de um elemento em espaço aberto”, uma espécie de “coleira eletrônica” que poderia rastrear tanto um “animal numa reserva”, quanto um “homem numa empresa”. No “regime dos hospitais” em particular, ele parece ter até mesmo previsto a ideia de fenotipagem digital, quando antecipou uma “nova medicina ‘sem médico nem doente’, que resgata doentes potenciais e sujeitos [em] risco” e que “substituiu o corpo individual ou numérico pela cifra de uma matéria ‘dividual’ a ser controlada” (Deleuze, 1992, p. 225).

No campo dos App Studies, Fernanda G. Bruno e demais autoras têm feito bom uso dessas antecipações deleuzianas no esforço de promover olhares críticos e engajados sobre a maneira como operam os aplicativos de saúde mental. Em seus estudos sobre a “gestão algorítmica da conduta”, na internet e por meio de aplicativos móveis, Bruno, Bentes e Faltay (2019, p. 9; 2021, p. 49) mostram como o uso comercial de dados psicológicos visa menos um conhecimento “individualizado, unificado e aprofundado da personalidade de indivíduos específicos” do que um conhecimento sobre as “correlações entre os diferentes traços de personalidade e de atividade de inúmeros perfis”, capazes de “revelar padrões supraindividuais ou interindividuais que permitam [entre outras finalidades] fazer predições em larga escala”. Trata-se, segundo as autoras, de um saber que se exerce privilegiadamente sobre “dividualidades”, um conhecimento sobre a “correlação entre traços parciais (dividuais, portanto), e não tanto sobre indivíduos considerados em sua unidade” (Bruno; Bentes; Faltay, 2019, p. 8-9).

Mas se podemos dizer que esse saber se exerce sobre “dividualidades”, isto não se pode dizer sobre o poder a ele associado. Ou seja, esse “saber extraído das correlações entre dados parciais [e relacionais] de nossos perfis e condutas” acabaria gerando “uma ‘inteligência’ que se pretende preditiva sobre alvos individuais cada vez mais precisos” e que visa “orientar conteúdos cada vez mais específicos e pertinentes a indivíduos particulares” (Bruno; Bentes; Faltay, 2019, p. 9). Assim, Bruno, Bentes e Faltay (2029, p. 9) identificam uma “dupla escala – dividual e individual” – dos aplicativos de saúde mental – uma “complexa coexistência do dividual-individual, tanto no nível da sociabilidade tecnicamente mediada quanto no dos mecanismos de controle” – que acaba imprimindo contornos específicos na maneira “como práticas de auto-rastreamento [self-tracking] têm modulado a relação consigo mesmo, com objetos e com os outros em diversos domínios da vida contemporânea” (Bruno; Rodríguez, 2021, p. 41). Bruno, Bentes e Faltay (2019, p. 5), se referem a esse complexo como uma “economia psíquica dos algoritmos”:

Por economia psíquica dos algoritmos [...] designamos o investimento contemporâneo – tecnocientífico, econômico e social – em processos algorítmicos de captura, análise e utilização de informações psíquicas e emocionais extraídas de nossos dados e ações em plataformas digitais (redes sociais, aplicativos, serviços de streaming, plataformas de compartilhamento e/ou consumo de conteúdo audiovisual etc.). As informações que interessam ao veloz capitalismo de dados não são mais apenas os rastros de nossas ações e interações (cliques, curtidas, compartilhamentos, visualizações, postagens), mas também sua ‘tonalidade’ psíquica e emocional. É esta economia psíquica e afetiva que alimenta as atuais estratégias de previsão e indução de comportamentos nas plataformas digitais (e eventualmente fora delas).

Segundo as autoras, essa “economia psíquica dos algoritmos” “extrai valor e capitaliza nossa atenção, nossos estados psíquicos e afetivos a fim de produzir efeitos reais nas paisagens de dados e informações por onde trafegamos, em nossa percepção e em nossas condutas” (Bruno; Bentes; Faltay, 2019, p. 17-18). O crescimento “expressivo” da relevância dos dados psíquicos e emocionais nessa economia da atenção é especialmente crítico, dado o caráter “sensível” dos dados – “informações sobre emoções, humores e estados psicológicos dos usuários” – acessados por esses aplicativos por meio de “ferramentas de registro, análise e monitoramento” (Bruno; Bentes; Faltay, 2019, p. 7; Bruno et al., 2021, p. 45). No contexto de algo que podemos chamar, com Rob Kitchin (2014, p. 7), de “epistemologias do empiricismo de Big Data [Big Data empiricism] e da ciência movida a dados [data-driven sciences]”, ou simplesmente, com José van Dijck (2014), de “dadoísmo [dataism]” – isto é, tanto a proliferação de práticas de coleta, análise e produção automatizada de dados, quanto a crença aparentemente inabalável na eficácia e eficiência de resultados obtidos desses processos – a economia psíquica dos algoritmos estaria intimamente ligada às “potencialidades e armadilhas [(sem que se saiba ao certo qual é qual)] dos novos cruzamentos entre a automação e o cuidado de si materializados nesses dispositivos” (Bruno et al., 2021, p. 51).

Com relação aos modelos psicológicos e terapêuticos usados, por exemplo, as autoras apontam que são usados “modelos simplificados de análise de personalidade [...] pelo fato de serem mais facilmente legíveis e interpretados por processos maquínicos” (Bruno; Bentes; Faltay, 2019, p. 17). O exemplo oferecido por Bruno, Bentes e Faltay (2019, p. 17) desse tipo de “modelo simplificado” foi o “Big Five” – conhecido em português como os Cinco Grandes Fatores de Personalidade –, que propõe usar conjuntos de palavras e expressões para distinguir cinco diferentes tipos de personalidade.⁸ Apesar de tal modelo também estar sendo usado nas pesquisas em torno das associações entre dados gerados por smartphones e diagnósticos psicológicos (Marengo; Elhai; Montag, 2023; Rüegger et al., 2020), no caso das pesquisas em torno de diagnósticos de depressão, além do PHQ-9, os modelos mais frequentemente usados são os já mencionados PANAS e HDRS – este último, por exemplo, definido como o “padrão ouro [gold-standard]” por Asma Ghandeharioun e demais autoras (2017, p. 4). Mas seja qual for o teste usado em cada caso, a intenção parece ser sempre a mesma: codificar, quantificar e metrificar estados psicoemocionais para, assim, torná-los acessíveis às máquinas.

O funcionamento dessa nova lógica que investe crescentemente em “processos algorítmicos de captura, análise e uso de informações psíquicas e emocionais extraídas de grandes volumes de dados” (Bruno et al., 2021, p. 35) depende, porém, da extensão planetária de um “laboratório-mundo ou de uma ciência de plataforma” na qual “uma complexa e crescente economia psíquica e emocional nutre algoritmos que pretendem nos conhecer melhor do que nós mesmos” e que fazem “previsões e intervenções sobre nossas emoções e condutas” com resultados que “podem ser testados de modo quase ininterrupto e em tempo quase real” (Bruno; Bentes; Faltay, 2019, p. 6, 17). Em uma espécie de versão algorítmica do experimentum humanum sobre o qual falava Hermínio Martins (2003) no início deste século, as “implementações de tais pesquisas no cotidiano de nossas vidas” se revelam verdadeiros “experimentos corporativo-científicos com implicações a um só tempo mercadológicas, sociais, subjetivas e políticas” (Bruno; Bentes; Faltay, 2019, p. 17). Mas se esse “poderoso laboratório que [...] captura, analisa e direciona imensos volumes de dados para aplicação de estratégias de modificação do comportamento humano” “ganha mundo, coletando dados e sujeitos ‘in the wild’”, isso se dá “segundo uma dinâmica extremamente assimétrica”, que “impede [a usuária] de conhecer não só a rede da qual faz parte, mas as implicações de sua falta de autonomia em relação ao ecossistema automatizado” (Bruno; Bentes; Faltay, 2019, p. 5, 14; Bruno et al., 2021, p. 49). Nessa camada ao mesmo tempo laboratorial-tecnocientífica-epistemológica e econômica-mercadológica-corporativa da economia psíquica dos algoritmos, “[p]rocessos automatizados de captura, análise e utilização de dados psíquicos e emocionais” são voltados para a “produção de conhecimento sobre indivíduos e populações” e “ sobre a cognição e o comportamento humanos” daqueles que são “simultaneamente objetos de estudo, usuários e clientes potenciais” para “gestão [de condutas] e controle comportamental” (Bruno; Bentes; Faltay, 2019, p. 5, 10, 11)

Fundamental aqui é que, “sob a ordem de grandeza do big data e a velocidade da gestão algorítmica”, todo esse empreendimento global de captura e processamento de inscrições digitais está cada vez mais atrelado a “estratégias econômicas que visam prever”, “influenciar e modificar [em tempo real] os comportamentos a fim de gerar lucro” (Bruno; Bentes; Faltay, 2019, p. 6, 7, 10). Isso importa, pois o acesso a dados sensíveis sobre estados emocionais oferece às empresas um poder assimétrico de intervenção sobre as ações de uma usuária, ao mesmo tempo cativada e cativa, de seus serviços.⁹ Assim, legitimado por “um discurso de comodidade que promete oferecer conteúdos, serviços e produtos ultrapersonalizados e ‘relevantes’ aos interesses dos usuários”, o “saber preditivo dos algoritmos” pode ser usado como meio para “explorar vulnerabilidades cognitivas e emocionais a fim de influenciar o processo de tomada de decisão e o comportamento dos usuários”, definindo não apenas “os perfis de alvos específicos para sugestão de conteúdos diferenciados”, mas também o momento e o contexto mais propícios “para influenciar, de forma personalizada e em tempo real, o comportamento dos usuários”, identificando e prevendo “padrões da forma como as pessoas tomam decisões econômicas, de modo a intervir sobre essas escolhas” (Bruno; Bentes; Faltay, 2019, p. 10). As autoras associam diretamente essa “promessa e capacidade” de “agir sobre os comportamentos enquanto eles acontecem” à “centralidade dos agenciamentos algorítmicos nas engrenagens de aplicativos e plataformas digitais” e “seus processos de aprendizagem de máquina” (Bruno; Bentes; Faltay, 2019, p. 7).

De fato, apesar de o Behavidence – assim como a maior parte dos aplicativos para monitoramento da depressão mencionados na literatura – se limitar a gerar um diagnóstico (o mais supostamente objetivo e dadocêntrico possível) – para apoiar profissionais da saúde e suas pacientes, e também para permitir que leigas monitorem sua própria saúde mental e possam decidir quando procurar ajuda –, existem expectativas de que esses sistemas evoluam na direção de um monitoramento automático e constante capaz também de “motivar intervenções para mitigar os riscos de depressão” (Jaques et al., 2015, p. 226). Ghandeharioun e demais autoras (2017, p. 1-2), por exemplo, propõem “medir a mudança progressiva de sintomas”, não apenas pelo “campo fértil de pesquisa” que isso propicia, mas também “com o objetivo de permitir intervenções por demanda [just-in-time interventions], antes que a depressão se torne severa”, assim “propiciando intervenções oportunas [timely interventions] para indivíduos que mostrem sinais de recaída [signs of relapse]”. Vijay N. Tiwari, Bopardikar e De (2022, p. 153, 155) também acreditam que, com a evolução da “acurácia e confiabilidade” dos sensores integrados a smartphones, os dados coletados por meio deles serão “cada vez mais usados para extrair os parâmetros vitais de saúde de indivíduos e derivar conhecimentos operacionalizáveis [actionable insights]”. Elas chamam a atenção para o fato de que não apenas “redes com baixa latência garantem que os dados capturados ou processados sejam trocados muito rapidamente com usuárias e servidores remotos”, como “poderosos servidores e eficientes arquiteturas computacionais de ponta garantem que as mais complexas operações sejam quase instantâneas”, “oferecendo retorno quase em tempo real [providing almost real-time feedback]”. Cabe acrescentar apenas que esse retorno “quase em tempo real” geralmente se dá, no caso aqui considerado, por meio do mesmo smartphone que captura os dados, de certa forma previsto por Deleuze, como vimos, na forma de uma “coleira eletrônica”.

DEPRESSÃO NEOLIBERAL

Existe claramente uma relação entre o aparente ‘realismo’ da pessoa depressiva, com suas expectativas radicalmente reduzidas, e o que eu chamei de realismo capitalista: a ideia de que não há alternativa viável ao capitalismo (Fisher, 2014, p. 368).

Mark Fisher (2014, p. 368) se referia aqui à convicção, que ele atribui à pessoa depressiva, de que é inútil agir, de que “por detrás da aparência de virtude existe apenas venalidade”, e que faz com que “as superfícies glaciais do mundo da depressiva se estendam para além do horizonte” e a depressão se apresente como “necessária e interminável”. Para ele, precisamos ir “[a]lém dos casos individuais de depressão” e atentar para “uma depressão coletiva” que, apesar de generalizada, “não é uma experiência coletiva, precisamente por ter tomado a forma de uma decomposição da coletividade em novos modos de atomização”, de “privatização do estresse”, “medicalização de antagonismos políticos” e de “individualização da depressão” (Fisher, 2014, p. 368).

Para Pierre Dardot e Christian Laval (2016, p. 17, 33), o neoliberalismo tem seu “registro de nascimento” na grande crise dos anos 1930, mas apenas nos anos 1980-1990 “realmente se desenvolve” como “racionalidade” – isto é, como “o conjunto de discursos, práticas e dispositivos que determinam um novo modo de governo dos homens segundo o[s] princípio[s]” da “generalização da concorrência como norma de conduta e da empresa como modelo de subjetivação”. Para os autores, a “face sombria da normatividade neoliberal” se revela: na captura e na capitalização das atividades públicas e privadas (notavelmente na internet) por meio da vigilância, da rastreabilidade e da avaliação cada vez mais densas, precisas, “minuciosa[s] e mesquinha[s]”; na “ação cada vez mais pregnante dos sistemas conjuntos de informação e publicidade” em um empreendimento de modificação/modulação do comportamento da usuária; e, “talvez sobretudo”, nas “formas cada vez mais insidiosas de autocontrole dos próprios sujeitos”, condenados à alternância entre a “perversão” do “rosto triunfante do sucesso sem pudor” e o “rosto deprimido do fracasso diante dos processos incontroláveis e das técnicas de normalização” (Dardot; Laval, 2016, p. 374).

Bruno e demais autoras (2021, p. 36) demonstraram como “aplicativos móveis de autocuidado psicológico” (ou PsiApps) “reverberam processos de subjetivação neoliberais” – “reproduzem e reforçam essa racionalidade” – que, “a partir de modelos psicológicos e terapêuticos específicos, buscam responsabilizar os indivíduos na jornada do aprimoramento ininterrupto de si”. A “mensagem aos usuários é a de que ‘se conhecendo’, eles podem se aperfeiçoar”, se autocuidar e se aprimorar, sendo assim construída uma “associação clara” entre “automonitoramento – rastreamento e registro de aspectos psicológicos e comportamentais, tais como humor, emoções, ansiedade, ânimo, atividades e outros” – e “autoconhecimento” (Bruno et al., 2021, p. 42-43). Trata-se portanto, notam as autoras, de um “modelo de autocuidado voltado para um ‘treinamento de si’ tecnicamente mediado” que “reproduz e reforça aspectos de uma racionalidade neoliberal” compondo um “mercado do ‘sujeito ansioso’”, no qual o “sujeito empresarial” de Dardot e Laval, ou o “self empreendedor” de Nikolas Rose, encontram “soluções rápidas e individualizadas para dar conta de sua ansiedade e de seus efeitos negativos no trabalho, nos relacionamentos e na saúde mental” (Bruno et al., 2021, p. 40, 43).

O fato é que, como notaram Dardot e Laval (2016, p. 216), “o poder não pode exercer-se por pura coerção”, que “deve acompanhar o desejo individual e orientá-lo”, penetrando no, e participando do, “cálculo individual”, agindo “sobre as antecipações imaginárias dos indivíduos” e, assim, dirigindo indiretamente suas condutas. É nesse sentido que o desejo, “com todos os nomes que se queira dar a ele”, se torna “alvo do novo poder”, e que o “ser desejante” se torna “o [condutor/mediador] [relais] dos dispositivos de direção das condutas”, trabalhando para a empresa “como se trabalhasse para si mesmo” (Dardot; Laval, 2016, p. 331). Os autores mostram como a identificação do sucesso da empresa com o sucesso do próprio sujeito faz com que a autogestão (assim como a autocoerção e a autoculpabilização) seja um meio de se aprimorar, e, portanto, de obter sucesso, tanto individual (bem estar e gratificação profissional) como empresarial (em última instância, lucro). Mostram também como, nesse contexto, práticas como o coaching e a programação neurolinguística (e, também, PsiApps, gostaríamos de acrescentar) ganham relevância, por instrumentalizarem a ideia de autogestão individual. Quando o sujeito passa a se identificar com uma empresa (“empresa de si” ou “capital humano”; ver López-Ruiz, 2007) e se responsabilizar por seu próprio sucesso e fracasso (o que depende de seus investimentos nas diferentes esferas da vida), a depressão acaba se revelando “o outro lado do desempenho, uma resposta do sujeito à injunção de se realizar e ser responsável por si mesmo, de se superar cada vez mais na aventura empresarial” (Dardot; Laval, 2016, p. 366).

Em uma seção de seu livro intitulada, justamente, “Depressão generalizada”, os autores explicitam: o “sintoma depressivo já faz parte da normatividade [neoliberal] como elemento negativo desta última” (Dardot; Laval, 2016, p. 366-367). Por isso, quando “a empresa se torna uma forma de vida”, o “fracasso social” – isto é, as dificuldades para atender à obrigação de “assumir riscos continuamente”, de permanente “capitalização pessoal”, de “concorrência”, “sucesso de vida”, “realização de si mesmo” e “felicidade” – passa a ser visto, “em última instância, como uma patologia” (Dardot; Laval, 2016, p. 366-367). De fato, Corbanezi (2018, p. 343, 350) mostra bem como a evolução das práticas de nosologia psiquiátrica da depressão acompanhou, em certa medida, os desenvolvimentos neoliberais do capitalismo, e como a “epidemia depressiva” (anunciada nos anos 1970 e disseminada nos anos 1980) está ligada ao desenvolvimento da “racionalidade científica e classificatória da psiquiatria” desde o DSM-III. Tal racionalidade opera “capturando cada vez mais condutas levemente incapacitadas, tristes e menos produtivas” por meio da “progressiva ramificação e [...] flexibilização dos critérios diagnósticos da depressão”, que “permitem que se territorializem condutas heterogêneas e singulares – com combinações diversas de sintomas relativamente banais e cotidianos [e notavelmente ligados ao comprometimento da produtividade econômica] – no lugar comum da classificação formal” (Corbanezi, 2018, p. 343, 350).

Se Dardot e Laval (2016) apresentam a depressão como um dos aspectos na racionalidade neoliberal, Corbanezi (2018, p. 350) chama a atenção para o fato de que “a produção e o estabelecimento de diversos subtipos de depressão se relacionam diretamente ao déficit de atributos e de disposições que o atual espírito do capitalismo contemporâneo valoriza e solicita dos indivíduos”. Ainda outros critérios foram adicionados nos DSM-IV (de 2000) e 5 (de 2013), que intensificaram a classificação da incapacidade laboral ou a diminuição funcional como características do transtorno depressivo. Como analisado por Corbanezi (2018), em paralelo com a razão neoliberal do capitalismo contemporâneo, essa forma de classificar a depressão acaba por patologizar justamente o sujeito que “fracassa” por não possuir um desempenho elevado. Desse modo, é o transtorno depressivo que se torna índice da inadequação ou incapacidade do sujeito de responder às demandas neoliberais.

Reiterando a percepção de um “notório” aumento no número de diagnósticos de depressão desde os anos 1980, Dardot e Laval (2016, p. 366-367) indicam a “dopagem generalizada” como “remédio” para a “usura provocada pela escolha permanente”. Fundamental aqui é a ideia de que os vícios e dependências do “neossujeito” na produção de “estados artificiais” capazes de contrabalançar essas demandas existenciais não satisfeitas não são apenas bioquímicos e ligados à indústria farmacêutica, mas igualmente comerciais e midiáticos, ligados à economia da atenção que passou a dominar a internet a partir do final dos anos 1990. Mais ainda, Dardot e Laval (2016, p. 367) destacam o fato de que esse “universo comercial cada vez mais complexo” no qual esse sujeito neoliberal precisa buscar esse “suplemento de instituições debilitadas” “faz potencialmente de cada ato o resultado de uma coleta de informações e de uma deliberação que tomam tempo e exigem esforço” desse próprio sujeito. Uma espécie de tempo de trabalho socialmente necessário para que esse “neossujeito” consiga se manter “no jogo” do mercado (e de preferência “progredir”), que envolve: “ser previdente em todos os domínios (seguros de todos os tipos)”; “fazer escolhas em tudo como se se tratasse de um investimento” (fundos de todos os tipos); e “optar de forma racional, dentro de uma ampla gama de ofertas comerciais, ao contratar os serviços mais simples”.

Cabe notar que, entre os exemplos oferecidos pelos autores, desses “serviços mais simples” entre os quais o sujeito neoliberal é obrigado a “optar de forma racional” – além de “a hora e a data da viagem que fará de trem”, “a forma de encaminhamento de sua correspondência” e “seu fornecimento de gás e eletricidade” –, figura “seu acesso à Internet”. Mas seria o acesso à internet apenas mais um serviço entre os outros? Não seria ele, hoje, um acesso a uma infraestrutura sociotécnica potencialmente capaz de transformar, não apenas todos os outros serviços e aquilo que Karl Marx chamaria de o “tempo de trabalho socialmente necessário para realizá-los”, mas também o próprio processo de subjetivação contemporâneo, identificado precocemente por Deleuze (2008, p. 224-225) como uma “modulação universal” operada por um “computador”, um “mecanismo de controle que [dá], a cada instante, a posição de um elemento em espaço aberto”?

PADRÕES DEPRESSIVOS

depressãosf. Por volta de 1391, distância angular de um corpo celeste abaixo do horizonte, no Treatise on the Astrolabe [Tratado sobre o Astrolábio] de [Geoffrey] Chaucer; emprestado do francês antigo depression, ou diretamente do latim medieval depressionem, do latim dēpressiōnem (nominativo dēpressiō) uma pressão para baixo, de dēpress-, radical do particípio passado de dēprimere, pressionar para baixo [...]. O sentido de um estado de desânimo é registrado pela primeira vez provavelmente por volta de 1425, mas o sentido formal da psicologia não apareceu até 1905. O sentido de uma crise nos negócios é registrado pela primeira vez em 1793, com o sentido formal em economia (originalmente com referência à Grande Depressão) aparecendo depois de 1929 (Barnhart, 1988, p. 267).

Sabe-se que, para Auguste Comte, a astronomia teria sido a primeira ciência a empregar a matemática para a análise quantitativa de observações empíricas, seguida depois, em uma escala de “complexidade crescente”, pela física, pela química, pela biologia, e culminando na sociologia, “o fim essencial de toda a filosofia positiva” (Gane, 2006, p. 58-59; Giannotti, 1978, p. 653). O que nosso trajeto neste texto mostrou é a surpreendente atualidade, tanto na psiquiatria como no senso comum atuais, do sentido originalmente astronômico e quantitativo de “depressão” – parametrizado pelo seu sentido econômico neoliberal atual –, supostamente tão distinto do sentido existencial e qualitativo ainda presente na experiência de “uma pressão para baixo”. Afinal, o que acontece com a experiência coletiva e existencial da depressão quando, em um contexto neoliberal, ela passa a ser concebida como passível de diagnóstico e tratamento por parâmetros não apenas neuroquímicos, mas algorítmicos?

De maneira similar a outros métodos estatísticos, o aprendizado de máquina funciona por meio de cálculos que têm por finalidade a maximização de uma métrica (como a acurácia) ou a minimização de um erro (como o desvio quadrático médio). Um modelo de aprendizado de máquina pode ser visto como uma função programável ou adaptativa que, simultaneamente, relaciona inscrições de entrada com um resultado na saída, e adapta essa relação progressivamente com o tempo, por meio da alteração de parâmetros numéricos que a definem, à medida que novos casos lhe são apresentados. Esse segundo passo é realizado sobretudo por meio do processo de treinamento, isto é, de cálculos que configuram o modelo a partir de dados (geralmente previamente rotulados) do passado (cf. Gonçalves, 2022). Assim, a detecção ou classificação automática de transtornos mentais funciona relacionando inscrições quantitativas (informação captada por sensores e dados produzidos pela interface de usuário), com um outro número que representa o diagnóstico, e que pode ser continuamente adaptado por meio da checagem sobre o sucesso ou fracasso de cada novo diagnóstico ou prescrição. No caso da Behavidence, por exemplo, dados de uso do smartphone são capturados e processados com vistas a gerar uma pontuação de similaridade com relação aos padrões de uso de pessoas diagnosticadas com depressão por meio do PHQ-9. É a circularidade do processo – novos diagnósticos sendo realizados com base em diagnósticos antigos – que nos faz concluir que tais métodos recaem nos problemas já apontados por Matteo Pasquinelli e Vladan Joler (2021, p. 13) em relação ao aprendizado de máquina, a saber: a estereotipia e a “regeneração do antigo”.

Do mesmo modo que o neoliberalismo visa, do ponto de vista subjetivo (i.e., enquanto sentido), uma maximização do desempenho e do prazer individuais (Dardot; Laval, 2016), o aprendizado de máquina, do ponto de vista objetivo (i.e., de sua concretização em objetos técnicos), funciona por meio da maximização de acertos e minimização de erros, em uma lógica que também visa o desempenho ótimo. Entretanto, dessa perspectiva, exemplos que estatisticamente influenciam pouco no desempenho da tarefa de relacionar inscrições de entrada com a classificação na saída (isto é, os casos considerados outliers) não são valorizados ou considerados relevantes. Desse modo, o modelo dificilmente consegue estender uma classificação a casos singulares, que difiram da maioria dos outros, e que seja capaz de propor uma classificação adequada para eles. O modelo cria, assim, uma imagem estereotipada da depressão.¹⁰

Se é verdade que a estereotipia é uma consequência do aspecto homogeneizador do aprendizado de máquina – que funciona comprimindo a informação (Pasquinelli; Joler, 2021) e realizando uma redução dos dados de uma base de dados àqueles com maior recorrência –, podemos dizer que a reprodução do passado é sua realização na dimensão temporal. Em outras palavras, a criação de uma imagem de mundo baseada na captura da série histórica da informação faz com que o potencial de inferência e incidência informacional dessa imagem (isto é, sua capacidade de antecipar e modificar funcionamentos nos meios digitais) necessariamente se limite aos casos anteriores e já conhecidos, a partir dos quais as operações de extrapolação e interpolação ulteriores se baseariam para a classificação de casos inéditos. Desse modo, o modelo não só não capta diferenças e transformações diacrônicas para além da série histórica analisada, como também, ao agir no mundo, contribui ativamente para a criação de um presente especular (mesmo que anamórfico) do passado. No caso da detecção automática de transtornos mentais, o modelo tenderia a classificar como depressivo os padrões já correlacionados a indivíduos tidos como depressivos. Em suma, o modelo de aprendizado de máquina naturaliza um determinado padrão depressivo e tende a produzir a depressão na forma desse padrão.

De modo a complexificar o paradigma da vigilância – emblematizado por Foucault (2014) e pelas metáforas visuais do panóptico e do “Big Brother” –, o aprendizado de máquina não apenas se alimenta de rastros digitais coletados passivamente (“data exhaust”), mas cria, ativa e unilateralmente, uma estrutura capaz de produzir dados e representações (imagens); por exemplo, na forma de parâmetros de modelos de aprendizado de máquina. Aprendemos com Deleuze (2008, p. 225) que, nas sociedades de controle, com sua “nova medicina ‘sem médico nem doente’”, são consideradas saudáveis não as pessoas que não precisam ir ao hospital, mas sim aquelas que, como eternos “doentes potenciais e sujeitos [em] risco”, levam o hospital sempre consigo, por exemplo, no smartphone. De certa forma, é essa lógica do controle via “coleira eletrônica” que Shoshana Zuboff (2018) nomeou como “Big Other”, embora ainda sob a rubrica da vigilância. Ela mostra como essa “nova arquitetura” é “ubíqua” e “em rede”, além de ser capaz de “registra[r], modifica[r] e mercantiliza[r] a experiência cotidiana”, “tudo com vista a estabelecer novos caminhos para a monetização e o lucro” (Zuboff, 2018, p. 43-44). É nessa medida que, para a autora, o “comportamento” poderia ser enquadrado como uma quarta “mercadoria fictícia” do capitalismo, tal qual a terra, o trabalho e o dinheiro: “A ‘realidade’ é agora subjugada à mercantilização e à monetização e renasce como ‘comportamento’” (Zuboff, 2018, p. 56). Analogamente, com Deleuze e Guattari (2012), isso significaria a instauração de um novo “aparelho de captura”, dessa vez amparado sobre a abstração e homogeneização da informação na forma de dados e parâmetros numéricos, com vistas à apropriação de um excedente – a imagem gerada no modelo de aprendizado de máquina. A natureza quantitativa e homogênea dos parâmetros numéricos no modelo é o que permite que a informação digital seja diretamente comparável, gerando uma imagem passível de ser monopolisticamente apropriável pela empresa detentora do modelo. Isso permitiria – e como vimos, já permite cada vez mais – novas possibilidades de modificação comportamental que, se oficialmente buscam promover autonomia e bem-estar, oficiosamente teriam por objetivo o controle e o lucro.

A possibilidade de comparação imanente à informação digital gera, por sua vez, um excedente que pode ser apropriado monopolisticamente pela empresa detentora de um modelo de aprendizado de máquina, em moldes análogos àquilo que Laymert Garcia dos Santos (2003, p. 28) chamou de “colonização do virtual”. Esse excedente corresponde aos padrões, armazenados na forma de uma imagem de mundo (a representação interna do modelo), que são, ao mesmo tempo, síntese das informações proveniente dos dados capturados e reservatório potencial de inferência e incidência informacional, ou ainda da modulação de comportamento. Sozinhos, os dados não são capazes de realizar predições e influenciar comportamentos; mas, uma vez processados por um modelo de aprendizado de máquina, são traçadas novas relações que permitem ao modelo extrapolar e interpolar o conhecimento já estocado nos dados, generalizando-o sem nunca transcendê-lo.

CONSIDERAÇÕES FINAIS

Iniciamos nosso trajeto no site de um aplicativo de automonitoramento da saúde mental que nos levou, em um imbricamento de tecnociência, sociedade e mercado, até as íntimas relações entre o uso atual do aprendizado de máquina e os processos de subjetivação neoliberais. A convergência de uma epistemologia baseada em dados (Dijck, 2014; Kitchin, 2014), com a responsabilização individual da usuária, materializa um “dispositivo de desempenho e gozo” (Dardot; Laval, 2016, p. 321) na forma de um aplicativo para smartphone e reafirma a tendência, já apresentada por Corbanezi (2018), de vinculação da depressão com a improdutividade. Essa improdutividade seria vista como um fracasso do “neossujeito”, incapaz de gerir sozinho seus próprios recursos subjetivos.

Entretanto, como vimos aqui com Bruno, Bentes e Faltay (2019, p. 5), ao lado dos imperativos neoliberais da autogestão, há uma camada imperceptível que visa capturar dados comportamentais com “sua ‘tonalidade’ psíquica e emocional”, formando, assim, uma imagem dos transtornos mentais – como no caso dos padrões depressivos – que visa, em última instância e para além do bem-estar da usuária, a capacidade de intervenção em seu comportamento. Essa imagem, apesar de ser, como vimos, necessariamente estereotipada e limitada pelo conhecimento passível de extração a partir de correlações entre dados referentes ao passado, é posteriormente utilizada para gerar diagnósticos quantitativos e supostamente objetivos de saúde mental. Incidindo no meio informacional com classificações e porcentagens, essa imagem age modulando a usuária, que por sua vez age em correspondência com ela, priorizando certos comportamentos em detrimento de outros – via de regra, comportamentos que envolvam a autorresponsabilização individual pela própria saúde mental – e promovendo sentimentos de sucesso e aprovação, ou de culpa e fracasso, a depender da porcentagem de depressão identificada.

REFERÊNCIAS

• AMERICAN PSYCHIATRIC ASSOCIATION. Manual diagnóstico e estatístico de transtornos mentais: DSM-5. Porto Alegre: ArtMed, 2014.
• BANDA, Juan M. et al. Advances in electronic phenotyping: from rule-based definitions to machine learning models. Annual Review of Biomedical Data Science, Palo Alto, n. 1, p. 53-68, 2018.
• BARNHART, Robert K. (ed.). Chambers Dictionary of Etymology. Edinburgh: Chambers, 1988.
• BEHAVIDENCE. Accurately measure your mental health every day. [ S. l .], 2020. Disponível em: https://www.behavidence.com/ Acesso em: 10 jun. 2024.
  » https://www.behavidence.com/
• BEZERRA JUNIOR, Benilton C. A psiquiatria e a gestão tecnológica do bem-estar. In: FREIRE FILHO, João (org.). Ser feliz hoje: reflexões sobre o imperativo da felicidade. Rio de Janeiro: Editora FGV, 2011. p. 117-134.
• BRUNO, Fernanda G.; BENTES, Anna C. F.; FALTAY, Paulo. Economia psíquica dos algoritmos e laboratório de plataforma: mercado, ciência e modulação do comportamento. Revista Famecos, Porto Alegre, v. 26, n. 3, p. 1-21, 2019.
• BRUNO, Fernanda G. et al. “Tudo por conta própria”: autonomia individual e mediação técnica em aplicativos de autocuidado psicológico. Revista Eletrônica de Comunicação, Informação & Inovação em Saúde, Rio de Janeiro, v. 15, n. 1, p. 33-54, 2021.
• BRUNO, Fernanda G.; RODRÍGUEZ, Pablo M. The dividual: digital practices and biotechnologies. Theory, Culture & Society, London, v. 39, n. 3, p. 27-50, 2022.
• CAROLINA DA SILVA, Lorena. A importância da prática teatral como lugar de pertencimento e escolha do ensino superior em Artes Cênicas. 2020. Trabalho de Conclusão de Curso (Licenciatura em Artes Cênicas) - Universidade de Brasília, Brasília, DF, 2020.
• CHOUDHARY, Soumya et al. A machine learning approach for detecting digital behavioral patterns of depression using nonintrusive smartphone data (complementary path to Patient Health Questionnaire-9 assessment): prospective observational study. Journal of Medical Internet Research - Formative Research, Toronto, v. 5, n. 6, p. 1-18, 2022.
• CHOI, Adrien; OOI, Aysel; LOTTRIDGE, Danielle. Digital phenotyping for stress, anxiety, and mild depression: systematic literature review. Journal of Medical Internet Research - Mhealth Uhealth, Toronto, n. 12, p. 1-23, 2024.
• COHEN, Roy; SRINIVASAN, Girish. System and method of monitoring mental health conditions. United States Patent Application Publication US20230091240A1, [ S. l.: s. n .], 2023.
• CORBANEZI, Elton. Transtornos depressivos e capitalismo contemporâneo. Caderno CRH, Salvador, v. 31, n. 83, p. 335-353, 2018.
• CRAIN, Matthew. A critical political economy of web advertising history. In: BRÜGGER, Niels; MILLIGAN, Ian (ed.). The Sage Handbook of Web History. Los Angeles: Sage, 2019. p. 330-343.
• DARDOT, Pierre; LAVAL, Christian. A nova razão do mundo: ensaio sobre a sociedade neoliberal. São Paulo: Boitempo, 2016.
• DELEUZE, Gilles. Post-scriptum sobre as sociedades de controle. In: DELEUZE, Gilles. Conversações: 1972-1990. São Paulo: Editora 34, 2008. p. 219-226.
• DELEUZE, Gilles; GUATTARI, Félix. 7.000 a.C. - Aparelho de captura. In: DELEUZE, Gilles; GUATTARI, Félix. Mil platôs: capitalismo e esquizofrenia 2. 2. ed. São Paulo: Editora 34, 2012. v. 5. p. 119-190.
• DIJCK, Jose van. Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology. Surveillance & Society, Newcastle upon Tyne, v. 12, n. 2, p. 197-208, 2014.
• DOGAN, Ezgi. et al. Smartphone-based monitoring of objective and subjective data in affective disorders: where are we and where are we going? systematic review. Journal of Medical Internet Research, Toronto, v. 7, n. 19, p. 1-18, 2017.
• FISHER, Mark. Capitalist realism: is there no alternative?. London: Zero Books, 2009.
• FISHER, Mark. Deprivatizing anxiety. In: NEIDICH, Warren (ed.). The psychopathologies of cognitive capitalism: part three. Berlin: Archive Books, 2014. p. 367-377.
• FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. 42. ed. Petrópolis: Vozes, 2014.
• GANE, Mike. Auguste Comte. London: Routledge, 2006.
• GARATVA, Patricia et al. Smart sensors for health research and improvement. In: MONTAG, Christian; BAUMEISTER, Harald (ed.). Digital phenotyping and mobile sensing: new developments in psychoinformatics. Cham: Springer, 2022. p. 395-411.
• GARCIA DOS SANTOS, Laymert. A informação após a virada cibernética. In: GARCIA DOS SANTOS, Laymert. Revolução tecnológica, Internet e Socialismo. São Paulo: Editora Fundação Perseu Abramo, 2003. p. 9-34.
• GHANDEHARIOUN, Asma et al. Objective Assessment of Depressive Symptoms with Machine Learning and Wearable Sensors Data. In: SEVENTH INTERNATIONAL CONFERENCE ON AFFECTIVE COMPUTING AND INTELLIGENT INTERACTION, 3., 2017, San Antonio. Anais […]. San Antonio: ACII, 2017.
• GIANNOTTI, José A. Comte. In: CIVITA, Victor (ed.). Os pensadores: história das grandes idéias do mundo ocidental. São Paulo: Abril Cultural, 1978. v. 3. p. 645-658.
• GONÇALVES, Rafael. Automatismo ontem e hoje: reflexões sobre os limites da inteligência artificial a partir de Simondon. Ideias, Campinas, v. 13, 2022. p. 1-22.
• HAN, Byung-Chul. Psicopolítica: o neoliberalismo e as novas técnicas de poder. Belo Horizonte: Editora Ayiné, 2018.
• INSEL, Thomas R. Digital phenotyping: technology for a new science of behavior. Journal of the American Medical Association, Chicago, v. 13, n. 318, p. 1215-1216, 2017.
• JAIN, Sachin H. et al. The digital phenotype. Nature Biotechnology, New York, v. 5, n. 33, p. 462-463, 2015.
• JAQUES, Natasha et al. Predicting students' happiness from physiology, phone, mobility, and behavioral data. In: INTERNATIONAL CONFERENCE ON AFFECTIVE COMPUTING AND INTELLIGENT INTERACTION, 1., 2015, Xi'an. Anais […]. Xi'an: ACII, 2015.
• KITCHIN, Rob. Big Data, new epistemologies and paradigm shifts. Big Data & Society, London, v. 1, n. 1, p. 1-12, 2014.
• LÓPEZ-RUIZ, Osvaldo. Os executivos das transnacionais e o espírito do capitalismo: capital humano e empreendedorismo como valores sociais. Rio de Janeiro: Azougue Editorial, 2007.
• MAKHLYSHEVA, Alexandra et al. Exploring electronic phenotyping for clinical practice in Norwegian settings. Norwegian Centre for E-health Research. Report 03/2020, [ S. l.: s. n .], 2020.
• MARENGO, Davide; ELHAI, Jon D.; MONTAG, Christian. Predicting Big Five personality traits from smartphone data: a meta-analysis on the potential of digital phenotyping. Journal of Personality, Durham, n. 91, p. 1410-1424, 2023.
• MARTINS, Hermínio. Aceleração, progresso e experimentum humanum. In: MARTINS, Hermínio; GARCIA, José L. (coord.). Dilemas da civilização tecnológica. Lisboa: Imprensa de Ciências Sociais, 2003. p. 19-77.
• OLIVEIRA, Rayane N.; DUQUE, Ana P.; WEYL, Luana M. Linguagem Inclusiv@: O que é e para que serve?!. In: SOUSA JUNIOR, José Geraldo de; APOSTOLOVA, Bistra S.; FONSECA, Lívia G. Dias da (org.). O Direito Achado na Rua: introdução crítica ao direito das mulheres. Brasília, DF: UnB, 2011. v. 5. p. 129-132.
• PALETTA, Gabriela C.; NUCCI, Marina F.; MANICA, Daniela T. Aplicativos de monitoramento do ciclo menstrual e da gravidez: corpo, gênero, saúde e tecnologias da informação. Cadernos Pagu, Campinas, v. 59, p. 1-40, 2020.
• PASQUINELLI, Matteo; JOLER, Vladan. The Nooscope manifested: AI as instrument of knowledge extractivism. AI & Society, London, v. 36, n. 4, p. 1263-1280, 2021.
• RÜEGGER, Dominik et al. How are personality states associated with smartphone data?. European Journal of Personality, New York, n. 34, p. 687-713, 2020.
• RUSSO, Jane; VENÂNCIO, Ana Teresa A. Classificando as pessoas e suas perturbações: a "revolução terminológica" do DSM III. Revista Latinoamericana de Psicopatologia Fundamental, São Paulo, v. 9, n. 3, p. 460-483, 2006.
• SANTOS, Iná S. et al. Sensibilidade e especificidade do Patient Health Questionnaire-9 (PHQ-9) entre adultos da população geral. Cadernos de Saúde Pública, Rio de Janeiro, v. 8, n. 29, p. 1533-1543, 2013.
• SEAVER, Nick. Captivating algorithms: recommender systems as traps. Journal of Material Culture, Los Angeles, v. 4, n. 24, p. 421-436, 2019.
• SILVA, Izabella B.; NAKANO, Tatiana de Cássia. Modelo dos Cinco Grandes Fatores da Personalidade: análise de pesquisas. Avaliação Psicológica, Porto Alegre, v. 1, n. 10, p. 51-62, 2011.
• TIWARI, Vijay N.; BOPARDIKAR, Ajit S.; DE, Aloknath. Non-invasive monitoring of health using sensor-rich wearables and smart devices. In: GARGIULO, Gaetano D.; NAIK, Ganesh R. (ed.). Wearable/personal monitoring devices: present to future. Singapore: Springer, 2022. p. 153-179.
• TOROUS, John et al. New tools for new research in psychiatry: a scalable and customizable platform to empower data driven smartphone research. Journal of Medical Internet Research - Mental Health, Toronto, v. 2, n. 3, p. 1-17, 2016.
• ZUBOFF, Shoshana. Big other: capitalismo de vigilância e perspectivas para uma civilização de informação. In: BRUNO, Fernanda et al. (org.). Tecnopolíticas de Vigilância: perspectivas da margem. São Paulo: Boitempo, 2018. p. 17-68.

• 1
  Agradecemos o financiamento da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP; Processo no. 2023/01858-0).
• 2
  A tradução alternativa “Monitore com Precisão Sua Saúde Mental Todo Dia” poderia soar melhor em português, mas acreditamos que a tradução mais literal usada no texto evidencia a ênfase no caráter quantitativo e objetivo da proposição. Na matemática e na computação, a acurácia representa a taxa de acertos, isto é, a relação entre o número de acertos e um total.
• 3
  TDAH (ADHD) é a sigla para Transtorno do Déficit de Atenção com Hiperatividade (Attention Deficit Hypeactivity Disorder). TEPT (PTSD) é a sigla para Transtorno de Estresse Pós-Traumático (Post-Traumatic Stress Disorder).
• 4
  Embora a norma padrão do português brasileiro defina a flexão para o masculino em casos neutros ou envolvendo ao menos uma pessoa do gênero masculino, optamos por incluir este texto em uma importante tendência atual de flexionar os termos para o feminino sempre que possível, a fim de experimentar com a margem de indeterminação da linguagem e, ao mesmo tempo, enfatizar o sexismo incorporado e naturalizado no português brasileiro. Se, como constataram Rayane N. Oliveira, Ana P. Duque e Luana M. Weyl (2011, p. 130), “[a] prova de que há machismo [...] na construção da nossa língua, é a impossibilidade de se utilizar o feminino como universal (no lugar do masculino)”, acreditamos, com Lorena Carolina da Silva (2020, p. 11), que ousar fazê-lo pode ter “grandes reverberações no futuro” e trazer “mais abertura para as mulheres”, e, acrescentaríamos, outras minorias de gênero “na sociedade”. Sobre o conceito de “minoria” aqui usado, ver Deleuze e Guattari (2012).
• 5
  O link que leva para o site PubMed, no qual o artigo de Choudhary e demais autoras (2022) pode ser acessado, é: https://pubmed.ncbi.nlm.nih.gov/35420993/.
• 6
  As nove perguntas que compõem o PHQ-9 são (versão ligeiramente modificada de Santos e demais autoras (2013, p. 1536, Figura 1)): (1) Quantos dias você teve pouco interesse ou pouco prazer em fazer as coisas?; (2) Quantos dias você se sentiu para baixo, deprimido(a) ou sem perspectiva?; (3) Quantos dias você teve dificuldade para pegar no sono ou permanecer dormindo ou dormiu mais do que de costume?; (4) Quantos dias você se sentiu cansado(a) ou com pouca energia?; (5) Quantos dias você teve falta de apetite ou comeu demais?; (6) Quantos dias você se sentiu mal consigo mesmo(a) ou achou que é um fracasso ou que decepcionou sua família ou a você mesmo(a)?; (7) Quantos dias você teve dificuldade para se concentrar nas coisas (como ler o jornal ou ver televisão)?; (8) Quantos dias você teve lentidão para se movimentar ou falar (a ponto das outras pessoas perceberem), ou ao contrário, esteve tão agitado(a) que você ficava andando de um lado para o outro mais do que de costume?; (9) Quantos dias você pensou em se ferir de alguma maneira ou que seria melhor estar morto(a)? O questionário foi concebido para ser respondido a cada duas semanas, e a paciente tem as seguintes mesmas quatro opções de resposta para cada uma delas (com pontuação correspondente entre parênteses): (0) nenhum dia; (1) menos de uma semana; (2) uma semana ou mais; ou (3) quase todos os dias. A pontuação para as respostas pode variar de zero a 27, sendo que: menos de 5 pontos indica ausência de depressão; de 5 a 9 pontos indica depressão leve; 10 a 14 pontos indica depressão moderada; 15 a 19 pontos indica depressão moderadamente severa; e 20 ou mais pontos indica depressão severa (Choudhary et al., 2022, p. 1; Cohen; Srinivasan, 2023, p. 11). Vale registrar aqui também a décima pergunta acrescentada por Santos e demais autoras (2013, p. 1535) ao PHQ-9, que pretende avaliar “a interferência desses sintomas no desempenho de atividades diárias, como trabalhar e estudar”: (10) Os sintomas anteriores lhe causaram algum tipo de dificuldade para trabalhar ou estudar ou tomar conta das coisas em casa ou para se relacionar com as pessoas?; que a paciente deve responder escolhendo um dentre os seguintes quatro níveis de dificuldade: (0) nenhuma; (1) pouca; (2) muita; ou (3) extrema.
• 7
  Os nove sintomas para Transtorno Depressivo Maior no DSM-5 são: (1) “Humor deprimido na maior parte do dia, quase todos os dias, conforme indicado por relato subjetivo [...] ou por observação feita por outras pessoas”; (2) “Acentuada diminuição do interesse ou prazer em todas ou quase todas as atividades na maior parte do dia, quase todos os dias”; (3) Perda ou ganho significativo de peso sem estar fazendo dieta [...], ou redução ou aumento do apetite quase todos os dias”; (4) “Insônia ou hipersonia quase todos os dias”; (5) “Agitação ou retardo psicomotor quase todos os dias”; (6) “Fadiga ou perda de energia quase todos os dias”; (7) “Sentimentos de inutilidade ou culpa excessiva ou inapropriada [...] quase todos os dias”; (8) “Capacidade diminuída para pensar ou se concentrar, ou indecisão, quase todos os dias”; (9) “Pensamentos recorrentes de morte [...], ideação suicida” (American Psychiatric Association, 2014, p. 161).
• 8
  Os Cinco Grande Fatores de personalidade são: “extroversão”; “neuroticismo”; “socialização”; “realização”; e “abertura à experiência” (Silva; Nakano, 2011, p. 53).
• 9
  Apesar de não nos debruçarmos, neste texto, sobre o problema da manutenção da privacidade de usuárias de PsiApps, ele está diretamente ligado ao caráter sensível dos dados por eles coletados. Gabriela C. Paletta, Marina Nucci e Daniela T. Manica (2020, p. 7), por exemplo, identificaram um problema análogo no caso de aplicativos de monitoramento do ciclo menstrual e da gravidez.
• 10
  Parece-nos ser nesse sentido que Byung-Chul Han (2018) constata que, ao se ater ao estatisticamente provável, os big data seriam cegos ao acontecimento, isto é, àquilo que foge ao estado normal das coisas. Assim, um método de aprendizado de máquina para a determinação de depressão se ateria a casos considerados estatisticamente relevantes, desconsiderando, assim, casos particulares que não se conformam àquilo que o modelo reconhece como um padrão depressivo.

Datas de Publicação

• Publicação nesta coleção
  03 Fev 2025
• Data do Fascículo
  2024

Histórico

• Recebido
  21 Jun 2024
• Aceito
  30 Out 2024