Desafios bioéticos do uso da inteligência artificial em hospitais

Heloá da Conceição Nunes Rita Miranda Coessens Guimarães Luciana Dadalto Sobre os autores

Resumo

Este artigo explora vantagens e possíveis desafios bioéticos do uso da inteligência artificial em hospitais. A partir da identificação de desafios no desenvolvimento de sistemas dotados de inteligência artificial (fase pré-hospitalar) e na implementação e capacitação de equipes de saúde (fase hospitalar), analisa-se o papel da abordagem bioética no enfrentamento dessa situação, sobretudo dos comitês de bioética hospitalar. Desse modo, mediante a identificação de desafios de ordem individual – referentes à autonomia, consentimento e privacidade dos pacientes – e coletiva – como a sociedade em geral deve se portar diante das novas tecnologias –, observa-se o papel do Estado na proteção da privacidade do paciente no contexto de utilização da inteligência artificial. Em conclusão, considerando a vulnerabilidade humana perante a tecnologia, entende-se que a regulamentação é um instrumento que, junto com os princípios bioéticos, tenta minimizar os desafios do uso da inteligência artificial em hospitais.

Inteligência artificial; Hospitais; Bioética

Abstract

This paper explores advantages and possible bioethical challenges of using artificial intelligence in hospitals. By identifying challenges both in the development of artificial intelligence systems (pre-hospital phase), its adoption, and training of healthcare teams (hospital phase), it analyzes the role of the bioethical approach in addressing this situation, especially in hospital bioethics committees. Hence, by identifying individual – related to autonomy, consent and patient privacy –, and collective challenges – how society at large should behave before new technologies –, the paper examines the role of the state in protecting patient privacy in contexts where artificial intelligence is used. In conclusion, considering the human vulnerability before technology, regulation is a tool that, anchored in bioethical principles, aims to minimize the challenges concerning artificial intelligence in hospitals.

Artificial intelligence; Hospitals; Bioethics

Resumen

Este artículo explora las ventajas y los posibles desafíos bioéticos que plantea el uso de la inteligencia artificial en los hospitales. Con base en la identificación de los desafíos en el desarrollo de sistemas dotados de inteligencia artificial (etapa prehospitalaria) y en la implementación y capacitación de los equipos de salud (etapa hospitalaria), se analiza el papel del enfoque bioético en el enfrentamiento de esta situación, especialmente de los comités de bioética hospitalaria. Por lo tanto, mediante la identificación de los desafíos individuales –relativos a la autonomía, al consentimiento y a la privacidad de los pacientes– y colectivos –cómo debe actuar la sociedad en general ante las nuevas tecnologías–, se observa el papel del Estado en la protección de la privacidad del paciente en el contexto del uso de la inteligencia artificial. En conclusión, teniendo en cuenta la vulnerabilidad humana ante la tecnología, se entiende que la regulación es un instrumento que, junto con los principios bioéticos, trata de minimizar los desafíos del uso de la inteligencia artificial en los hospitales.

Inteligencia artificial; Hospitales; Bioética

Dispositivos médicos, engenharia genética e telemedicina são alguns exemplos de novas tecnologias empregadas na área médica. Dentre essas inovações, chama atenção o desenvolvimento e aprimoramento de sistemas dotados de inteligência artificial (IA), que já vêm sendo utilizados como auxílio na área da saúde em diversos países. Além disso, devido à pandemia do novo coronavírus (SARS-CoV-2), iniciada em 2020, ampliou-se o uso de IA na busca por soluções que pudessem contribuir para a prestação de serviços médicos e o combate ao vírus.

Com a crescente demanda de IA, faz-se necessário refletir não apenas sobre possíveis benefícios de sua utilização para a assistência à saúde, mas também sobre desafios e riscos que ela pode suscitar nos cuidados com pacientes. Isso vale especialmente em hospitais, tendo em vista serem ambientes de cuidado multidisciplinar onde diversos profissionais estão envolvidos na tomada de decisão. Nesse sentido, por meio de pesquisa bibliográfica de natureza exploratória 11. Gil AC. Como elaborar projetos de pesquisa. 4ª ed. São Paulo: Atlas; 2002. , o objetivo deste artigo é propor reflexão e fomentar o debate sobre possíveis desafios bioéticos do uso da IA nos cuidados de saúde em âmbito hospitalar.

Para tanto, a partir de análise da literatura, apresenta-se a definição e o funcionamento da IA na área da saúde, especialmente em unidades hospitalares. Ainda, analisam-se vantagens de sua utilização, desafios de sua implementação e a importância da bioética na indicação dos limites e finalidades da intervenção da tecnologia sobre a vida, bem como o papel do Estado nesse processo.

Diante da análise, sugerem-se abordagens que podem ser adotadas pela sociedade em geral, bem como por cientistas, profissionais da saúde e governos, na elaboração (fase pré-hospitalar), uso em hospitais (fase hospitalar) e regulação e vigilância da IA, para que essa tecnologia seja aplicada de forma segura e correta.

Inteligência artificial

Segundo cérebro

A IA pode ser definida como inteligência similar à humana, mas desenvolvida por softwares . Segundo Santos, a inteligência artificial é um ramo de pesquisa da ciência da computação que busca, através de símbolos computacionais, construir mecanismos e/ou dispositivos que simulem a capacidade do ser humano de pensar, resolver problemas, ou seja, de ser inteligente 22. Santos MAS. Inteligência artificial. Brasil Escola [Internet]. [2008] [acesso 18 nov 2021]. Disponível: https://bit.ly/3IjcQn3
https://bit.ly/3IjcQn3...
.

Por meio do chamado machine learning (aprendizado de máquina), computadores são programados para aprender como o ser humano, e quase todo aprendizado de máquina é construído com base em redes neurais. Estas são sistemas de computação com nós interconectados que funcionam como os neurônios do cérebro humano. Usando algoritmos, elas podem reconhecer padrões escondidos e correlações em dados brutos, agrupá-los e classificá-los, e – com o tempo – aprender e melhorar continuamente 33. Redes neurais: o que são e qual sua importância? Statistical Analysis System [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://bit.ly/3sgog5c
https://bit.ly/3sgog5c...
.

As redes neurais são alimentadas por grande quantidade de dados ( big data ) inseridos no sistema, por meio dos quais são treinadas para encontrar solução que os envolva. Na área da saúde, seu propósito pode abranger desde o diagnóstico precoce de determinada doença até a infusão de medicamento 44. Gambus P, Shafer SL. Artificial intelligence for everyone. Anesthesiology [Internet]. 2018 [acesso 18 nov 2021];128(3):431-3. DOI: 10.1097/ALN.0000000000001984 .

Segundo o professor Hal Daumé III, em nível básico, o aprendizado de máquina consiste em prever o futuro com base no passado. Por exemplo, você pode prever o quanto uma usuária Alice vai gostar de um filme que ela não viu com base em suas classificações de filmes que ela viu. (…) Isso significa criar hipóteses sobre alguma propriedade não observada de algum objeto com base em propriedades observadas desse objeto. (…) Generalização é talvez o conceito mais central no aprendizado de máquina 55. Daumé H 3rd. A course in machine learning [Internet]. [Local desconhecido]: Hal Daumé III; 2012 [acesso 18 nov 2021]. p. 8-9. Tradução livre. Disponível: http://ciml.info/
http://ciml.info/...
.

Com base em diferentes estudos, Gomez 66. Gomez JAV. Problemas bioéticos emergentes de la inteligencia artificial. Diversitas Perspect Psicol [Internet]. 2016 [acesso 2 abr 2020];12(1):137-47. DOI: 10.15332/s1794-9998.2016.0001.10 destaca que a IA se desdobra em quatro abordagens: 1) sistemas que pensam como humanos; 2) sistemas que pensam racionalmente; 3) sistemas que agem como humanos; e 4) sistemas que agem racionalmente. Robôs estariam enquadrados como sistemas de computação inteligentes capazes de realizar tarefas sem receber instruções diretas de humanos 77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp .

Em suas diversas formas de desenvolvimento, a IA é cada vez mais empregada na área da saúde como um segundo cérebro, um ser pensante, utilizada como auxílio no diagnóstico de doenças e no atendimento a pacientes. Desse modo, faz-se necessário que essa tecnologia seja acompanhada por cérebros humanos, a fim de que o progresso tecnológico não resulte em danos a pacientes ou profissionais.

A era da saúde 4.0

Chen e colaboradores 88. Chen C, Loh E, Kuo KN, Tam KW. The times they are a-changin’: healthcare 4.0 is coming! J Med Syst [Internet]. 2020 [acesso 18 nov 2021];44(2):40. DOI: 10.1007/s10916-019-1513-0 ressaltam que a área de cuidados em saúde pode ser dividida em quatro eras. No século XIX, a era 1.0 adotou abordagens inteligentes de saúde pública, como medidas de saneamento básico e pesquisas de vacinação para melhorar a qualidade de vida. No início do século XX, a era 2.0 foi marcada pela ampliação das grandes farmacêuticas, auxiliadas pelo uso da tecnologia industrial, que possibilitou a produção em massa de vários antibióticos. Também foi ampliado o ensino básico de ciências e o treinamento clínico, sendo a característica dessa era a estrutura de massa.

Por volta da década de 1980, iniciou-se a era 3.0, caracterizada pela tecnologia da informação. Com o avanço da tecnologia computacional, imagens passaram a ser mais bem utilizadas nos cuidados com a saúde, permitindo que médicos examinassem lesões com informações adicionais e identificassem doenças de forma mais célere. Ainda nessa era, o avanço da internet possibilitou amplo acesso à literatura médica, acelerando o desenvolvimento da medicina baseada em evidências.

Atualmente, o mundo vive a era de cuidados de saúde 4.0, caracterizada pela medicina inteligente. Acompanhando a nova onda de revolução tecnológica, essa fase é dominada em grande parte por IA, automação, big data , medicina de precisão, telemedicina etc., sendo reconhecida como a era em que a medicina ganhou novo cérebro e novas mãos 88. Chen C, Loh E, Kuo KN, Tam KW. The times they are a-changin’: healthcare 4.0 is coming! J Med Syst [Internet]. 2020 [acesso 18 nov 2021];44(2):40. DOI: 10.1007/s10916-019-1513-0 . Assim, notícias de uso da IA no campo da saúde são frequentes, e sua utilização para prevenir, detectar e tratar doenças vem sendo largamente pesquisada.

A IBM 99. IBM. IBM Watson Health [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://ibm.co/3Le5UbY
https://ibm.co/3Le5UbY...
, empresa norte-americana de informática, criou o Watson Health, tecnologia baseada em evidências que permite a profissionais da saúde compartilhar dados, fornecendo informações para cuidar de hospitais e realizar pesquisas, por exemplo. A atuação do Watson se destaca no auxílio ao tratamento oncológico e em pesquisas de novas terapias, o que, segundo a IBM 99. IBM. IBM Watson Health [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://ibm.co/3Le5UbY
https://ibm.co/3Le5UbY...
, reduz os custos do atendimento e aprimora o valor da área da saúde e serviços sociais, por meio da medicina de precisão.

Em 2014, a Google adquiriu a DeepMind 77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp , 1010. Deep Mind. Impact [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://bit.ly/35a218q
https://bit.ly/35a218q...
, empresa com foco no desenvolvimento de IA que criou rede neural de memória aumentada chamada “computador neural diferenciável” ( differentiable neural computer – DNC), que aprende a partir da experiência, utilizando sistema de aprendizagem profunda. Os DNC 1111. Wayne G, Graves A. Differentiable neural computers. DeepMind [blog] [Internet]. 2016 [acesso 18 nov 2021]. Disponível: https://bit.ly/3papHk0
https://bit.ly/3papHk0...
aprendem a usar a memória e a produzir respostas do zero.

A DeepMind, em parceria com hospitais e universidades britânicas, desenvolve estudos e aplicativos para encontrar maneiras mais rápidas de identificar doenças oculares comuns a partir de exames de rotina 1010. Deep Mind. Impact [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://bit.ly/35a218q
https://bit.ly/35a218q...
e diferenciar tecidos saudáveis e células cancerígenas. Além disso, a empresa criou aplicativo que permite analisar dados de prontuários, emitindo alerta quando a condição clínica de pacientes muda 77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp .

Inteligência artificial no suporte hospitalar

Lobo afirma que inteligência artificial em medicina é o uso de computadores que, analisando um grande volume de dados e seguindo algoritmos definidos por especialistas na matéria, são capazes de propor soluções para problemas médicos 77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp .

É possível destacar inúmeras pesquisas que estudam a utilização da IA no campo da saúde, em situações como prognóstico de qualidade de vida de paciente com câncer, auxílio à tomada de decisão sobre tratamento clínico mais adequado 1212. Santos HG, Zampieri FG, Normilio-Silva K, Silva GT, Lima ACP, Cavalcanti AB, Chiavegatto Filho ADP. Machine learning to predict 30-day quality-adjusted survival in critically ill patients with cancer. J Crit Care [Internet]. 2020 [acesso 18 nov 2021];55:73-8. DOI: 10.1016/j.jcrc.2019.10.015 ou uso do reconhecimento facial para detectar febre em pessoas 1313. Council J. Hospitals tap AI to help manage coronavirus outbreak: health-care providers are enlisting the technology to monitor patients, screen visitors. Wall Street Journal [Internet]. Artificial intelligence; 20 mar 2020 [acesso 18 nov 2021]. Disponível: https://on.wsj.com/3BSZc7v
https://on.wsj.com/3BSZc7v...
. O objeto desta pesquisa, contudo, é analisar a utilização da IA em hospitais a partir de casos publicados em estudos nacionais e internacionais. Frisa-se que, apesar de esta análise referir-se ao ambiente hospitalar, muitas observações e conclusões podem ser aplicadas ao uso da IA na saúde fora dos hospitais.

Estudo sul-coreano comprovou o uso da IA baseada em aprendizado profundo como instrumento para prever com precisão a necessidade de cuidados intensivos em pacientes em serviços médicos de emergência pré-hospitalares. Isso superou ferramentas de triagem convencionais e pontuações de alerta precoce, permitindo concluir que o desempenho preditivo do modelo de IA baseado em aprendizado profundo é superior ao das ferramentas de triagem e sistemas de pontuação convencionais 1414. Kang DY, Cho KJ, Kwon O, Kwon JM, Jeon KH, Park H et al. Artificial intelligence algorithm to predict the need for critical care in prehospital emergency medical services. Scand J Trauma Resusc Emerg Med [Internet]. 2020 [acesso 18 nov 2021];28(1):17. p. 4-5. Tradução livre. DOI: 10.1186/s13049-020-0713-4 .

Desse modo, no aprendizado profundo, o algoritmo aprende por si só quais recursos de imagem são importantes para fazer uma classificação, sem precisar ser informado por seres humanos. Com isso, pode descobrir recursos que porventura não tenham sido percebidos pelas pessoas, apresentando desempenho superior ao humano. Apesar disso, teme-se que esse tipo de sistema de IA seja apresentado à sociedade como superior à experiência médica, gerando pressão para sua implementação prematura nos sistemas de saúde, o que pode fazer com que seu desenvolvimento ocorra sem rigorosa base de evidências 1515. Nagendran M, Chen Y, Lovejoy CA, Gordon AC, Komorowski M, Harvey H et al. Artificial intelligence versus clinicians: systematic review of design, reporting standards, and claims of deep learning studies. BMJ [Internet]. 2020 [acesso 18 nov 2021];368:m689 DOI: 10.1136/bmj.m689 .

Para que isso não ocorra, é preciso que haja ética, diligência e transparência durante a pesquisa e elaboração do sistema. Além disso, esse processo deve basear-se em evidências científicas e seguir todos os protocolos e etapas necessárias à sua segura implementação no âmbito da saúde, não podendo os pesquisadores sucumbir às pressões sociais, sob pena de comprometer o desenvolvimento da IA.

O mesmo rigor deve ser aplicado ao compartilhar resultados, visando o melhor interesse do paciente, não o pioneirismo tecnológico. Assim, é preciso sopesar benefício e dano, avaliar e gerenciar riscos, tal como dispõem os artigos 4 e 20, respectivamente, da Declaração Universal sobre Bioética e Direitos Humanos (DUBDH) 1616. Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Declaração universal sobre bioética e direitos humanos [Internet]. Brasília: Unesco; 2005 [acesso 18 nov 2021]. Disponível: https://bit.ly/3qPrixg
https://bit.ly/3qPrixg...
.

Com a pandemia de covid-19, a utilização da IA na área de saúde se tornou ainda mais comum. Estudo publicado em março de 2020 na revista Radiology afirma que a IA de aprendizagem profunda pôde detectar covid-19 com precisão a partir de imagens de tomografia computadorizada (TC) de tórax, e distingui-la de pneumonia e outras doenças, pulmonares ou não 1717. Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B et al. Artificial intelligence distinguishes COVID-19 from community acquired pneumonia on chest CT. Radiology [Internet]. 2020 [acesso 18 nov 2021];296(2):e65-71. p. e69. Tradução livre. DOI: 10.1148/radiol.2020200905 . Com isso, a detecção da doença torna-se mais célere, visto que a TC de tórax poderia ser usada como abordagem rápida e confiável para o rastreamento da covid-19.

Ainda que tenham obtido resultado satisfatório em sua pesquisa, Li e colaboradores 1717. Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B et al. Artificial intelligence distinguishes COVID-19 from community acquired pneumonia on chest CT. Radiology [Internet]. 2020 [acesso 18 nov 2021];296(2):e65-71. p. e69. Tradução livre. DOI: 10.1148/radiol.2020200905 destacam que o estudo apresenta várias limitações: desvantagem de todos os métodos de aprendizado profundo é a falta de transparência e capacidade de interpretação ( por exemplo, é impossível determinar quais recursos de imagem estão sendo usados para determinar a saída ) 1717. Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B et al. Artificial intelligence distinguishes COVID-19 from community acquired pneumonia on chest CT. Radiology [Internet]. 2020 [acesso 18 nov 2021];296(2):e65-71. p. e69. Tradução livre. DOI: 10.1148/radiol.2020200905 . Além disso, ressalta-se que nenhum método será capaz de diferenciar todas as doenças pulmonares com base simplesmente na aparência da imagem na TC do tórax. Recomenda-se uma abordagem multidisciplinar para isso 1717. Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B et al. Artificial intelligence distinguishes COVID-19 from community acquired pneumonia on chest CT. Radiology [Internet]. 2020 [acesso 18 nov 2021];296(2):e65-71. p. e69. Tradução livre. DOI: 10.1148/radiol.2020200905 .

Há também relatos do uso de robôs para desinfecção de ambiente hospitalar 1818. Murray A. Coronavírus: os robôs usados para eliminar vírus em hospitais. BBC News Brasil [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bbc.in/35sLg85
https://bbc.in/35sLg85...
e aferição de temperatura a distância 1919. Alisson E. Startups brasileiras desenvolvem sistema que detecta febre a distância. Agência Fapesp [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bit.ly/3Hoc074
https://bit.ly/3Hoc074...
, além da recente autorização da telemedicina 2020. Brasil. Lei nº 13.989, de 15 de abril de 2020. Dispõe sobre o uso da telemedicina durante a crise causada pelo coronavírus (SARS-CoV-2). Diário Oficial de União [Internet]. Brasília, 15 abr 2020 [acesso 26 abr 2020]. Disponível: https://bit.ly/3JP1uaw
https://bit.ly/3JP1uaw...
no Brasil. Ainda no Brasil, a IA vem sendo utilizada em triagem pré-hospitalar, mediante sistema de inteligência on-line que tira dúvidas e orienta pacientes, atuando como pronto atendimento digital a fim de diminuir a sobrecarga hospitalar.

Ao mesmo tempo, nas unidades hospitalares, a robô Laura, que utiliza o mesmo sistema de IA do pronto atendimento digital, auxilia a evitar danos e reduzir custos, por meio de análises preditivas. Com a Inteligência Artificial da Laura, pacientes em trajetória de risco são identificados de maneira antecipada, dando ao time assistencial mais tempo para iniciar a gestão do cuidado 2121. Robô Laura [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://www.laura-br.com/
https://www.laura-br.com/...
.

Desafios da utilização da inteligência artificial em ambiente hospitalar

Diante de tantas possibilidades, também é necessário expor os problemas advindos da utilização da IA. Desse modo, as questões a seguir devem ser observadas de perto e debatidas de forma responsável e ética para a correta e segura implementação da IA no sistema de saúde e sua utilização em hospitais: responsabilidade civil da equipe de saúde devido à decisão apoiada em IA; formação deficitária das equipes de saúde para lidar adequadamente com o manejo desse sistema; confiança dos profissionais da saúde nesse sistema; integridade científica no processo de construção da IA; proteção e compartilhamento dos dados sensíveis captados para alimentar o sistema.

Sobre a IA como suporte à tomada de decisão em saúde, destacam-se o know-what e know-why . Assim, o sistema pode assistir o profissional nesse processo sugerindo hipóteses sobre o problema e sua probabilidade de ocorrência ( know-what ), mas não consegue explicar a causa dessas hipóteses ( know-why ). Por essa razão, se utilizada como sistema de tomada de decisão, a IA pode levar a erros sobre a conduta médica a ser seguida, dependendo da capacidade do sistema para identificar o problema que acomete o paciente 77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp , o que eliminaria uma das vantagens de seu uso.

Assim, faz-se necessário investir em capacitação de profissionais da saúde para operar de modo correto os sistemas de IA disponíveis. Do mesmo modo, é preciso oferecer formação adequada aos futuros profissionais da área, garantindo que a abordagem bioética tenha lugar de maior destaque em sua formação, para beneficiar o paciente, e não a taxa de êxito do sistema.

Assim, ainda que a tecnologia se torne objeto de estudo dos profissionais da saúde, espera-se que, na mesma medida, seja ampliada a oferta de ensino ainda mais humanizado e ético para o manejo dessa tecnologia. Nesse sentido, Han e colaboradores destacam que a inteligência artificial reduzirá os esforços exigidos pelos médicos para interpretar dados digitais e melhorar sua capacidade de estabelecer um diagnóstico e prognóstico. Portanto, o aspecto humanístico não analítico da medicina passará a ser mais enfatizado, porque é difícil substituí-lo por tecnologia. (…) A educação médica futura deve ser reestruturada para se alinhar a essas mudanças inexoráveis, considerando os alunos que trabalharão em sistemas de saúde digitalizados (…). Existem algumas considerações sobre o aprendizado digital com tecnologia avançada, embora tenha muitas vantagens técnicas. Devemos considerar cuidadosamente os desafios éticos e morais, porque algoritmos de aprendizado baseado em computador e inteligência artificial podem ser programados para serem tendenciosos contra certos grupos ou desviados para quaisquer interesses. Acima de tudo, uma abordagem humanística deve ser priorizada para que futuros médicos lidem com a complexidade biopsicossocial de pacientes que não é facilmente acessível às máquinas 2222. Han ER, Yeo S, Kim MJ, Lee YH, Park KH, Roh H. Medical education trends for future physicians in the era of advanced technology and artificial intelligence: an integrative review. BMC Med Educ [Internet]. 2019 [acesso 18 nov 2021];19(1):460. p. 13. Tradução livre. DOI: 10.1186/s12909-019-1891-5 .

Outro ponto a ser destacado no uso da IA em âmbito hospitalar é a alimentação do sistema, visto que, de um lado, os dados dos pacientes precisam ser devidamente incluídos na ferramenta e, de outro, existe grande rotatividade de pessoal. Assim, o desenvolvimento de fluxo de alimentação que não sofra com a troca de pessoal é imperioso para alcançar resultado satisfatório. Em período caótico, como na pandemia de covid-19, por exemplo, para que a IA auxilie no ambiente hospitalar, deve-se garantir o tratamento de dados, designando equipe ou pessoas específicas para alimentar o sistema, a fim de assegurar sua eficiência.

Lobo destaca que, atualmente, o problema é processar um grande volume de informações, seja por meio de prontuários eletrônicos com dados dos pacientes, resultados de seus exames, diagnóstico proposto, prescrição e resultados dessas medicações, seja por digitação, considerando que dados podem não estar disponíveis ou podem estar incompletos. Deve-se considerar também que informações ainda podem ter que ser digitadas em decorrência da incompatibilidade de sistemas onde elas estejam registradas. Há que se considerar, no entanto, que essa digitação poderá eventualmente introduzir um componente de erro humano 77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp .

Cumpre ressaltar que o erro cometido nessa fase pode colocar à prova o parecer emitido pela IA, expondo pacientes e equipe de saúde que confiaram naquele sistema. Nesse ponto, questiona-se o papel da bioética diante da utilização da IA em ambiente hospitalar.

Desafios bioéticos na utilização da inteligência artificial

A bioética surge em decorrência das atrocidades perpetradas durante a Segunda Guerra Mundial na tentativa de construir a ética da vida, comum a todos os seres e nações. Atualmente, pode-se dizer que a bioética visa responder às novas questões éticas levantadas pelas ciências da saúde e da vida, especialmente no que tange às novas tecnologias empregadas nessa seara 2323. Motta LCS, Vidal SV, Siqueira-Batista R. Bioética: afinal, o que é isto? Rev Bras Clin Med [Internet]. 2012 [acesso 18 nov 2021];10(5):431-9. Disponível: https://bit.ly/3LbszWg
https://bit.ly/3LbszWg...
.

Segundo Motta, Vidal e Siqueira-Batista 2323. Motta LCS, Vidal SV, Siqueira-Batista R. Bioética: afinal, o que é isto? Rev Bras Clin Med [Internet]. 2012 [acesso 18 nov 2021];10(5):431-9. Disponível: https://bit.ly/3LbszWg
https://bit.ly/3LbszWg...
, a preocupação com as perversidades cometidas em pesquisas com seres humanos, que deram origem ao Código de Nüremberg , parece sugerir que a ética nesse tipo de estudo é o escopo principal da bioética. No entanto, é cada vez mais urgente aplicá-la às demais esferas das relações e da pesquisa, atravessando a ponte idealizada por Van Rensselaer Potter em sua conhecida obra Bioética: ponte para o futuro . No que tange às novas tecnologias, tão importante quanto se preocupar com a ética nos testes é atentar-se à integridade científica das pesquisas, à veracidade dos dados, ao consentimento do titular das informações e, principalmente, à lisura e ao rigor científico do projeto apresentado.

Gomes 2424. Investigador do IB fala em 3 desafios éticos para a inteligência artificial. Universidade Católica Portuguesa [Internet]. 2019 [acesso 30 mar 2020]. Disponível: https://bit.ly/35phJwc
https://bit.ly/35phJwc...
defende que devem ser respondidas três questões sobre IA: 1) para quando?; 2) para quem?; e 3) para quê? Em suas palavras: para quando (…) hoje e agora, devemos ( e podemos ) evitar em transformarmo-nos em objetos da (…) IA e questionar a sua finalidade em vez de a aceitar como inevitabilidade ou fatalidade. Relativamente à segunda questão, para quem, (…) a IA deve ser direcionada para o bem da humanidade, da pessoa, o que, cada pessoa deve deixar de ser apenas expectadora e passar a ser ator decisivo na avaliação ética sobre o valor e o interesse superior da IA em cada caso concreto. Em relação à pergunta para quê, (…) a IA deve estar ao serviço da pessoa e não a pessoa ao serviço da tecnologia; todos temos a responsabilidade ética de não impedir o progresso científico, mas também temos o dever ético de perguntar sobre a sua finalidade 2424. Investigador do IB fala em 3 desafios éticos para a inteligência artificial. Universidade Católica Portuguesa [Internet]. 2019 [acesso 30 mar 2020]. Disponível: https://bit.ly/35phJwc
https://bit.ly/35phJwc...
.

Como destacam Silva e colaboradores, mesmo com os avanços na tecnologia tendo extrema importância no mundo da medicina, a partir do momento [em] que se começa a interferir em outra vida faz-se necessária a elaboração não só de um limite, mas de um controle social, econômico e biológico de até que ponto é uma intervenção benéfica para a população 2525. Silva ALAGMC, Sousa KCPC, Pereira GS, Araujo ACSS, Ribeiro LMN, Andrade IG, Vieira TLV. Os limites da tecnologia na prática médica segundo os princípios da bioética e da ética médica. Rev Bras Bioét [Internet]. 2018 [acesso 18 nov 2021];14(supl):81. Disponível: https://bit.ly/3LZ3NK5
https://bit.ly/3LZ3NK5...
.

É necessário que haja ética em todas as etapas do desenvolvimento da IA, e esse processo é iniciado com o senso de responsabilização daqueles que programam a máquina 66. Gomez JAV. Problemas bioéticos emergentes de la inteligencia artificial. Diversitas Perspect Psicol [Internet]. 2016 [acesso 2 abr 2020];12(1):137-47. DOI: 10.15332/s1794-9998.2016.0001.10 . Eles devem preservar a integridade científica durante todo o processo, desde a coleta e manejo de dados até a divulgação dos resultados para a comunidade científica. Devem ser imparciais quanto aos resultados obtidos e possíveis danos aos usuários, incorporando o princípio bioético da não maleficência.

Além dos princípios já consagrados, é preciso levar em consideração outros referenciais bioéticos, como a prática de análise baseada no cenário “4P”, descrito por Garrafa e Azambuja 2626. Garrafa V, Azambuja LEO. Epistemología de la bioética: enfoque latino-americano. Rev Colomb Bioét [Internet]. 2009 [acesso 18 nov 2021];4(1):73-92. p. 82. Tradução livre. Disponível: https://bit.ly/3JXioUq
https://bit.ly/3JXioUq...
: prudência com o desconhecido; prevenção de possíveis danos; precaução contra o uso indiscriminado de novas tecnologias; e proteção dos excluídos socialmente, mais frágeis e vulneráveis. Os autores consideraram que a incorporação de tais referenciais é necessária para prática bioética comprometida com os mais vulneráveis, com a “coisa pública” e com o equilíbrio ambiental e planetário do século XXI 2626. Garrafa V, Azambuja LEO. Epistemología de la bioética: enfoque latino-americano. Rev Colomb Bioét [Internet]. 2009 [acesso 18 nov 2021];4(1):73-92. p. 82. Tradução livre. Disponível: https://bit.ly/3JXioUq
https://bit.ly/3JXioUq...
.

A observância dos “4P”, em cotejo com o princípio bioético da não maleficência, impõe salientar que a proteção e autorização do uso de dados de pacientes têm importância fundamental quando da análise da utilização de IA, especialmente em ambiente hospitalar. Desse modo, as questões a seguir devem ser analisadas e debatidas de modo transparente e racional, tendo em vista seus possíveis desdobramentos e supondo inclusive possível recusa de atendimento por parte da instituição hospitalar caso o paciente se negue a compartilhar seus dados:

  • O paciente é informado sobre como o sistema de determinado hospital funciona?

  • O consentimento esclarecido para o uso e compartilhamento dos dados clínicos sensíveis do paciente é coletado?

  • Quais são as implicações éticas da omissão desse esclarecimento?

Segundo estudo publicado em março de 2020 no British Medical Journal , apesar de as pesquisas em IA serem promissoras, a literatura carece de transparência, relatórios claros para facilitar a replicabilidade, exploração de possíveis preocupações éticas e demonstrações claras de eficácia 2727. Vollmer S, Mateen BA, Bohner G, Király FJ, Ghani R, Jonsson P et al. Machine learning and artificial intelligence research for patient benefit: 20 critical questions on transparency, replicability, ethics, and effectiveness. BMJ [Internet]. 2020 [acesso 18 nov 2021];368:l6927. Tradução livre. DOI: 10.1136/bmj.l6927 . O trabalho salienta ainda que uma das razões para isso é a atual falta de orientação de boas práticas específicas para aprendizado de máquina e inteligência artificial 2727. Vollmer S, Mateen BA, Bohner G, Király FJ, Ghani R, Jonsson P et al. Machine learning and artificial intelligence research for patient benefit: 20 critical questions on transparency, replicability, ethics, and effectiveness. BMJ [Internet]. 2020 [acesso 18 nov 2021];368:l6927. Tradução livre. DOI: 10.1136/bmj.l6927 . Com base nisso, o estudo propõe 20 questões críticas para ajudar a identificar armadilhas comuns que podem prejudicar aplicativos baseados em aprendizado de máquina/IA na saúde. As perguntas abrangem questões de transparência, reprodutibilidade, ética e eficácia.

Também é preciso reavaliar a formação de novos profissionais da saúde para acompanhar a evolução tecnológica em perspectiva bioética. Estudo publicado em fevereiro de 2020 na revista Frontiers in Medicine analisou essa questão, destacando a necessidade de validar ferramentas modernas com ensaios clínicos tradicionais e debater a atualização educacional do currículo médico à luz da medicina digital, levando em consideração a ética do monitoramento conectado em andamento 2828. Briganti G, Le Moine O. Artificial intelligence in medicine: today and tomorrow. Front Med [Internet]. 2020 [acesso 18 nov 2021];7:27. DOI: 10.3389/fmed.2020.00027 . O referido estudo utiliza o termo “medicina aumentada”, visando englobar as novidades trazidas não só pela IA, mas por todos os aparatos digitais.

O trabalho investiga por que o campo da medicina aumentada pode encontrar certa resistência em profissionais de saúde, sobretudo médicos, destacando quatro razões: 1) despreparo quanto ao potencial da medicina digital, tendo em vista a falta de educação básica e continuada a respeito dessa disciplina; 2) digitalização precoce dos processos de saúde, que culminou em aumento acentuado da carga administrativa, principalmente relacionada a registros eletrônicos de saúde – o que passou a ser conhecido como um dos principais componentes do burnout médico; 3) medo crescente quanto ao risco de a IA substituir os médicos; e 4) atual falta em todo o mundo de estrutura legal que defina o conceito de responsabilidade no caso de adoção ou rejeição de recomendações de algoritmos 2828. Briganti G, Le Moine O. Artificial intelligence in medicine: today and tomorrow. Front Med [Internet]. 2020 [acesso 18 nov 2021];7:27. DOI: 10.3389/fmed.2020.00027 .

Diante desse parâmetro, percebe-se que a educação para uso da IA em saúde deve focar não somente o manejo da tecnologia, mas principalmente o modo de lidar com o paciente. Assim, ao praticar a medicina humanizada, direcionada ao bem-estar do enfermo – fator determinante para a decisão médica –, o profissional não sentirá medo de eventual responsabilização civil ou criminal por ter se baseado ou não na IA em seu diagnóstico, visto que o norte de sua decisão foi a ética e a beneficência.

A ética relacionada à tecnologia começou a ser estudada há pelo menos 20 anos, e dentre os princípios éticos que regem a pesquisa em saúde destacam-se o respeito às pessoas, a beneficência e a justiça. No entanto, com a nova era surgem conflitos éticos além dos já conhecidos, haja vista que há novas partes interessadas, como empresas de tecnologia, sem contar o grande volume de dados gerados. Assim, é importante reconhecer quem está envolvido nesse processo e identificar como cada parte pode e deve assumir sua responsabilidade de promover as práticas éticas desse trabalho 2929. Nebeker C, Torous J, Bartlett Ellis RJ. Building the case for actionable ethics in digital health research supported by artificial intelligence. BMC Med [Internet]. 2019 [acesso 18 nov 2021];17(1):137. Tradução livre. DOI: 10.1186/s12916-019-1377-7 .

Essa é preocupação da Organização Mundial da Saúde (OMS), que em janeiro de 2020 publicou relatório com os maiores desafios de saúde pública previstos para a próxima década. O documento apresenta inquietação quanto à insuficiência de investimentos governamentais no setor. Dentre as maiores preocupações da OMS está a de dominar as novas tecnologias para a saúde, principalmente no que tange aos desafios sobre monitoramento e regulamentação 3030. Saiba quais são os principais desafios de saúde da próxima década. Veja [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bit.ly/3hneNml
https://bit.ly/3hneNml...
.

Com isso, pretende-se evitar que tecnologias desenvolvidas para ajudar as pessoas de alguma forma as prejudiquem. Assim, é necessário revisar as evidências e orientações sobre questões mais polêmicas, como edição do genoma humano e saúde digital e solicitar que os países regulamentem o desenvolvimento e uso dessas novas tecnologias 3030. Saiba quais são os principais desafios de saúde da próxima década. Veja [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bit.ly/3hneNml
https://bit.ly/3hneNml...
.

Nebeker, Torous e Bartlett Ellis ressaltam que, ao menos nos Estados Unidos, nem todas as pessoas que iniciam pesquisas são regulamentadas ou treinadas profissionalmente para projetar estudos. (…) A revisão de ética é um processo de revisão por pares para avaliar a pesquisa proposta e identificar e reduzir os riscos potenciais que os participantes da pesquisa podem enfrentar. Ter um processo objetivo de revisão por pares não é um requisito para gigantes da tecnologia, empresas iniciantes ou para aqueles que se identificam com a comunidade científica dos cidadãos; no entanto, temos a responsabilidade social de fazer isso direito 2929. Nebeker C, Torous J, Bartlett Ellis RJ. Building the case for actionable ethics in digital health research supported by artificial intelligence. BMC Med [Internet]. 2019 [acesso 18 nov 2021];17(1):137. Tradução livre. DOI: 10.1186/s12916-019-1377-7 .

Os autores destacam ainda estrutura desenvolvida para ajudar pesquisadores a tomar boas decisões ao selecionar tecnologias digitais para uso em pesquisa de saúde. O esquema compreende cinco domínios: 1) privacidade do participante; 2) riscos e benefícios; 3) acesso e usabilidade; 4) gerenciamento de dados; e 5) princípios éticos 2929. Nebeker C, Torous J, Bartlett Ellis RJ. Building the case for actionable ethics in digital health research supported by artificial intelligence. BMC Med [Internet]. 2019 [acesso 18 nov 2021];17(1):137. Tradução livre. DOI: 10.1186/s12916-019-1377-7 . Esses cinco domínios são apresentados como relacionamentos cruzados.

Papel dos comitês de bioética

Diante desse contexto, os comitês de bioética das unidades hospitalares são imprescindíveis para implementar e fiscalizar o uso da IA em hospitais, bem como auxiliar profissionais de saúde na tomada de decisão apoiada em IA, para que seja priorizado o benefício ao paciente. No entanto, Rocha e Rocha destacam que muitas decisões bioéticas acabam sendo tomadas por autoridades hospitalares e/ou profissionais do campo jurídico, não instrumentalizados com o saber bioético, apresentando respostas que procuram, na verdade, resguardar juridicamente, os entes jurídicos públicos e privados de eventuais demandas judiciais, ao invés de trazer soluções éticas que possam confortar o paciente e seus familiares 3131. Rocha MS, Rocha AS. Resolução de conflitos bioéticos no cenário hospitalar brasileiro: uma revisão sistemática da literatura. Rev Bras Bioét [Internet]. 2019 [acesso 18 nov 2021];15(e7):1-12. p. 10-1. Disponível: https://bit.ly/36Ipmyz
https://bit.ly/36Ipmyz...
.

No Brasil, de acordo com a Recomendação 8/2015 do Conselho Federal de Medicina 3232. Conselho Federal de Medicina. Recomendação CFM nº 8, de 12 de março de 2015. Recomenda a criação, o funcionamento e a participação dos médicos nos Comitês de Bioética [Internet]. Brasília: CFM; 2015 [acesso 18 nov 2021]. Disponível: https://bit.ly/3BPsXpX
https://bit.ly/3BPsXpX...
, os comitês/comissões de bioética hospitalar devem ser formados por colegiado multiprofissional, autônomo, com competência consultiva e educativa. Esses órgãos visam auxiliar na reflexão e solução de questões relacionadas à moral e à bioética que surgem na atenção aos pacientes. Com o auxílio do comitê de bioética, é possível tomar a decisão mais adequada em benefício do paciente.

Siqueira-Batista e colaboradores 3333. Siqueira-Batista R, Gomes AP, Maia PM, Costa IT, Paiva AO, Cerqueira FR. Modelos de tomada de decisão em bioética clínica: apontamentos para a abordagem computacional. Rev. bioét. (Impr.) [Internet]. 2014 [acesso 18 nov 2021];22(3):456-61. p. 460. DOI: 10.1590/1983-80422014223028 , ao abordar modelo de tomada de decisão com enfoque computacional, salientam que deve restar claro tratar-se de sistema de suporte à decisão, e não transferência do processo decisório para sistema computacional. Assim, a palavra final, obviamente, sempre será do profissional capacitado, que não terá de abrir mão de exercer sua consciência ética 3333. Siqueira-Batista R, Gomes AP, Maia PM, Costa IT, Paiva AO, Cerqueira FR. Modelos de tomada de decisão em bioética clínica: apontamentos para a abordagem computacional. Rev. bioét. (Impr.) [Internet]. 2014 [acesso 18 nov 2021];22(3):456-61. p. 460. DOI: 10.1590/1983-80422014223028 .

Desse modo, o comitê de bioética deve ser instado a auxiliar a equipe de saúde na tomada de decisão em caso de conflitos morais e éticos oriundos da assistência médica baseada no uso de IA e demais tecnologias. Todavia, o comitê tem ainda papel anterior: auxiliar na implementação dessas tecnologias na unidade hospitalar, investigando sua integridade científica, efetividade e viabilidade naquele ambiente, conforme a capacitação dos profissionais de saúde do local.

Além disso, o comitê deve advogar que seja implementada capacitação periódica no manejo do sistema de IA, com enfoque nas orientações bioéticas, especialmente no princípio da beneficência. Com isso, busca-se mitigar risco tanto à integridade do paciente quanto à equipe de saúde, em decorrência de sua decisão apoiada na tecnologia.

Francisconi destaca que os avanços da tecnologia têm propiciado o desenvolvimento de equipamentos progressivamente mais desenvolvidos que tem trazido, na sua maioria, inequívocos benefícios para os pacientes. Por outro lado, frequentemente o avanço tecnológico traz consigo problemas éticos 3434. Francisconi FC. Aspectos éticos da tecnologia médica. Jornal do CFM [Internet]. 1997 [acesso 18 nov 2021]. Disponível: https://bit.ly/3JRiH3i
https://bit.ly/3JRiH3i...
. Para o autor, quando surge a oportunidade de implementar novas técnicas em sua atividade laboral, o profissional deve fazer os questionamentos a seguir: 1) o novo procedimento é seguro?; 2) ele é eficaz?; 3) ele representa melhora real em relação ao tradicional?; 4) qual é sua utilidade (relação custo-benefício)?; e 5) qual é sua repercussão social 3434. Francisconi FC. Aspectos éticos da tecnologia médica. Jornal do CFM [Internet]. 1997 [acesso 18 nov 2021]. Disponível: https://bit.ly/3JRiH3i
https://bit.ly/3JRiH3i...
?

Ainda que alguns desses desafios possam ser enfrentados com o auxílio da bioética, ela não é capaz de resolver todos sozinha. Assim, a regulamentação da IA é primordial e, portanto, a atuação do poder estatal se faz necessária.

Papel do Estado na era da inteligência artificial

Como o sistema de IA utiliza dados pessoais, é necessário que o Estado regulamente a responsabilização, os limites e os princípios que devem ser estabelecidos no manejo dessa tecnologia. Em âmbito internacional, muitos regulamentos visam estabelecer os contornos da utilização da IA. Cita-se, por todos, a Recomendação sobre a Ética da IA , lançada no final de 2021 pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura, o primeiro instrumento normativo mundial sobre o tema aprovado pelos estados-membros da entidade 3535. Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Estados-membros da Unesco aprovam o primeiro acordo mundial sobre ética da inteligência artificial. Unesco [Internet]. 2021 [acesso 16 fev 2022]. Disponível: https://bit.ly/3t5fA12
https://bit.ly/3t5fA12...
.

Em 2021 foi desenvolvida também a Estratégia Brasileira de Inteligência Artificial, política pública que visa servir de base para ações do Estado no desenvolvimento e uso da IA. Dentro dessa ação, o setor da saúde é o que conta com maior número de startups de IA financiadas por programas governamentais 3636. Brasil. Estratégia Brasileira de Inteligência Artificial: Ebia [Internet]. Brasília: Ministério da Ciência, Tecnologia e Informação; 2021 [acesso 11 fev 2022]. Disponível: https://bit.ly/3HjRp3V
https://bit.ly/3HjRp3V...
. O país ainda não tem legislação específica para regular o desenvolvimento e utilização dessa tecnologia, embora tramite na Câmara dos Deputados o Projeto de Lei 21/2020 3737. Brasil. Projeto de Lei nº 21/2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil e dá outras providências [Internet]. Brasília: Câmara dos Deputados; 2020 [acesso 11 fev 2022]. Disponível: https://bit.ly/3hy9UY5
https://bit.ly/3hy9UY5...
, que visa criar o Marco Legal do Desenvolvimento e Uso da Inteligência Artificial.

Entretanto, por se tratar de dados pessoais – informações cuja proteção obteve status de direito fundamental por intermédio da Emenda Constitucional 115/2022 3838. Brasil. Emenda Constitucional nº 115, de 10 de fevereiro de 2022. Altera a Constituição Federal para incluir a proteção de dados pessoais entre os direitos e garantias fundamentais e para fixar a competência privativa da União para legislar sobre proteção e tratamento de dados pessoais. Diário Oficial da União [Internet]. Brasília, 10 fev 2022 [acesso 11 fev 2022]. Disponível: https://bit.ly/3IkWLNr
https://bit.ly/3IkWLNr...
–, ainda que não haja legislação específica para a IA, deve-se seguir o disposto na Lei Geral de Proteção de Dados 3939. Brasil. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União [Internet]. Brasília, 8 jul 2019 [acesso 11 fev 2022]. Disponível: https://bit.ly/3IkWLNr
https://bit.ly/3IkWLNr...
. Essa diretriz considera informações relativas à saúde como dados pessoais sensíveis, dispondo que esses só podem ser tratados mediante consentimento de seu titular. Mesmo nos casos de exceção ao consentimento, devem ser utilizados de modo a preservar os direitos do titular 3939. Brasil. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União [Internet]. Brasília, 8 jul 2019 [acesso 11 fev 2022]. Disponível: https://bit.ly/3IkWLNr
https://bit.ly/3IkWLNr...
.

Tramita também na Câmara dos Deputados o Projeto de Lei 3.814/2020 4040. Brasil. Projeto de Lei nº 3.814/2020. Altera a Lei nº 8.080, de 19 de setembro de 1990 (Lei Orgânica da Saúde), e a Lei nº 13.787, de 27 de dezembro de 2018, que dispõe sobre a digitalização e a utilização de sistemas informatizados para a guarda, o armazenamento e o manuseio de prontuário de paciente, para obrigar o Sistema Único de Saúde a manter plataforma digital única com informações de saúde dos pacientes [Internet]. Brasília: Senado Federal; 2020 [acesso 11 fev 2022]. Disponível: https://bit.ly/3JXBdH4
https://bit.ly/3JXBdH4...
, que prevê a criação de plataforma digital sob responsabilidade do Sistema Único de Saúde (SUS) para unificar informações de saúde de pacientes de estabelecimentos públicos e privados. Se aprovada, porá à prova o desafio de garantir o respeito à privacidade, autonomia e consentimento dos pacientes.

Além disso, já é realidade o ConecteSUS, iniciativa governamental de avanço das novas tecnologias, especificamente para implementar a inteligência artificial na gestão da saúde pública brasileira 4141. Lemes MM, Lemos ANLE. O uso da inteligência artificial na saúde pela Administração Pública brasileira. Cad Ibero Am Direito Sanit [Internet]. 2020 [acesso 9 fev 2022];9(3):166-82. p. 172. Disponível: https://bit.ly/3HrRHG8
https://bit.ly/3HrRHG8...
. Lemes e Lemos destacam que esse programa faz parte da Rede Nacional de Dados em Saúde, que tem por objetivo integrar os dados dos usuários do SUS, permitindo que profissionais da saúde acessem as informações médicas do paciente por meio de aplicativo 4141. Lemes MM, Lemos ANLE. O uso da inteligência artificial na saúde pela Administração Pública brasileira. Cad Ibero Am Direito Sanit [Internet]. 2020 [acesso 9 fev 2022];9(3):166-82. p. 172. Disponível: https://bit.ly/3HrRHG8
https://bit.ly/3HrRHG8...
.

É inegável a necessidade de analisar os impactos bioéticos do uso do big data como ferramenta preditiva na área da saúde. Dessa forma, aprofunda-se a discussão acerca de possíveis consequências de tal uso na sociedade, com ênfase no capitalismo de vigilância e seus desdobramentos no campo social 4242. Harayama RM. Reflexões sobre o uso do big data em modelos preditivos de vigilância epidemiológica no Brasil. Cad Ibero Am Direito Sanit [Internet]. 2020 [acesso 9 fev 2022];9(3):153-65. DOI: 10.17566/ciads.v9i3.702 .

Sendo a bioética campo de estudo interdisciplinar, na área filosófica, que conecta a ciência, a vida e a moralidade, ela apresenta princípios éticos bem fundamentados, que podem ser observados em todos os âmbitos da vida 4343. Fuentes MA. Princípios fundamentais de bioética. Vitória: Editora Centro Anchieta; 2021. .Nesse sentido, infere-se que a legislação de proteção de dados corrobora os princípios previstos na DUBDH 1616. Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Declaração universal sobre bioética e direitos humanos [Internet]. Brasília: Unesco; 2005 [acesso 18 nov 2021]. Disponível: https://bit.ly/3qPrixg
https://bit.ly/3qPrixg...
, destacando-se: 1) o do consentimento, haja vista que o tratamento de dados pessoais precisa do consentimento prévio, livre e esclarecido do paciente, devendo sua exceção seguir padrões éticos e legais condizentes com os direitos humanos; 2) o da privacidade e da confidencialidade, por ser necessário respeitar a privacidade do paciente e o sigilo das informações pessoais, evitando o desvirtuamento da finalidade para a qual foram coletadas; 3) o do respeito à vulnerabilidade, visto que o indivíduo é a parte mais vulnerável na relação com a tecnologia, necessitando de proteção na aplicação dos avanços científicos sobre ele.

É irrefutável que o Estado vem exercendo seu dever ao regulamentar o uso, estabelecer princípios e impor limites à IA. Porém, é necessário garantir ao paciente que as normas regulamentadoras serão cumpridas, com vistas à proteção de sua privacidade e consentimento, pois ele é a parte vulnerável na relação e deve ser protegido.

Considerações finais

A literatura apresentou inúmeras possibilidades de utilização da IA na área da saúde, destacando seu uso no suporte hospitalar e sopesando as vantagens e os desafios. Desse modo, destaca-se fase pré-hospitalar, que precisa ser observada não só pela sociedade, mas também pelos pesquisadores envolvidos na criação da tecnologia. Nessa etapa devem ser respeitados os princípios éticos da pesquisa e as evidências científicas, para que haja transparência no processo.

Acima de tudo, é necessário observar a integridade científica do sistema, para que sua finalidade seja de fato a beneficência ao paciente, e não o pioneirismo tecnológico. Com isso, torna-se imprescindível que os cientistas que desenvolvem essas pesquisas não sucumbam a pressões sociais para o lançamento de tecnologia sem que tenha sido rigorosamente testada e cumprido todas as etapas de seu processo criativo. O melhor interesse do paciente sempre deve prevalecer.

Já na fase hospitalar, quando da implementação da IA na unidade de atendimento, torna-se imprescindível o acompanhamento do comitê de bioética, certificando-se da integridade da tecnologia, dos dados da pesquisa que a precedeu e de seu manejo. O comitê deve auxiliar também em eventuais dilemas morais e éticos que envolvam a tomada de decisão apoiada na IA, tendo sempre como norte os princípios da bioética e o melhor interesse do paciente.

Entende-se que o comitê de bioética pode colaborar na formação continuada de profissionais da saúde aptos a lidar com a tecnologia utilizada na unidade hospitalar. Tal ação sempre deve primar pela humanização do cuidado e melhor interesse do paciente, por meio de abordagem bioética na tomada de decisão. Dessa forma a equipe de saúde sentirá segurança em sua decisão, sem se preocupar sobremaneira com possível responsabilização por ter adotado ou não a sugestão da IA.

Ademais, para além dos muros do hospital, a formação das equipes de saúde deve ser revista urgentemente para que seja integrado em seu currículo o manejo da IA e das novas tecnologias. Na mesma proporção, é preciso intensificar a humanização do cuidado e a abordagem bioética do cuidar.

Entende-se ainda ser imprescindível o papel do Estado na regulamentação da IA e na garantia do cumprimento da legislação. Isso, somado à aplicação da bioética no enfrentamento dos desafios apresentados, possibilitará que se respeite o consentimento e a autonomia dos pacientes e a privacidade de seus dados, apesar de sua vulnerabilidade em relação às novas tecnologias.

Por fim, enquanto sociedade, todos devem estar atentos e estabelecer o controle social das novas tecnologias e seus limites para preservar e promover a dignidade da pessoa humana. Além disso, é preciso efetivamente regulamentar essas inovações, a fim de que a tecnologia esteja a serviço da humanidade, não o contrário.

Referências

  • 1
    Gil AC. Como elaborar projetos de pesquisa. 4ª ed. São Paulo: Atlas; 2002.
  • 2
    Santos MAS. Inteligência artificial. Brasil Escola [Internet]. [2008] [acesso 18 nov 2021]. Disponível: https://bit.ly/3IjcQn3
    » https://bit.ly/3IjcQn3
  • 3
    Redes neurais: o que são e qual sua importância? Statistical Analysis System [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://bit.ly/3sgog5c
    » https://bit.ly/3sgog5c
  • 4
    Gambus P, Shafer SL. Artificial intelligence for everyone. Anesthesiology [Internet]. 2018 [acesso 18 nov 2021];128(3):431-3. DOI: 10.1097/ALN.0000000000001984
  • 5
    Daumé H 3rd. A course in machine learning [Internet]. [Local desconhecido]: Hal Daumé III; 2012 [acesso 18 nov 2021]. p. 8-9. Tradução livre. Disponível: http://ciml.info/
    » http://ciml.info/
  • 6
    Gomez JAV. Problemas bioéticos emergentes de la inteligencia artificial. Diversitas Perspect Psicol [Internet]. 2016 [acesso 2 abr 2020];12(1):137-47. DOI: 10.15332/s1794-9998.2016.0001.10
  • 7
    Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp
  • 8
    Chen C, Loh E, Kuo KN, Tam KW. The times they are a-changin’: healthcare 4.0 is coming! J Med Syst [Internet]. 2020 [acesso 18 nov 2021];44(2):40. DOI: 10.1007/s10916-019-1513-0
  • 9
    IBM. IBM Watson Health [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://ibm.co/3Le5UbY
    » https://ibm.co/3Le5UbY
  • 10
    Deep Mind. Impact [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://bit.ly/35a218q
    » https://bit.ly/35a218q
  • 11
    Wayne G, Graves A. Differentiable neural computers. DeepMind [blog] [Internet]. 2016 [acesso 18 nov 2021]. Disponível: https://bit.ly/3papHk0
    » https://bit.ly/3papHk0
  • 12
    Santos HG, Zampieri FG, Normilio-Silva K, Silva GT, Lima ACP, Cavalcanti AB, Chiavegatto Filho ADP. Machine learning to predict 30-day quality-adjusted survival in critically ill patients with cancer. J Crit Care [Internet]. 2020 [acesso 18 nov 2021];55:73-8. DOI: 10.1016/j.jcrc.2019.10.015
  • 13
    Council J. Hospitals tap AI to help manage coronavirus outbreak: health-care providers are enlisting the technology to monitor patients, screen visitors. Wall Street Journal [Internet]. Artificial intelligence; 20 mar 2020 [acesso 18 nov 2021]. Disponível: https://on.wsj.com/3BSZc7v
    » https://on.wsj.com/3BSZc7v
  • 14
    Kang DY, Cho KJ, Kwon O, Kwon JM, Jeon KH, Park H et al. Artificial intelligence algorithm to predict the need for critical care in prehospital emergency medical services. Scand J Trauma Resusc Emerg Med [Internet]. 2020 [acesso 18 nov 2021];28(1):17. p. 4-5. Tradução livre. DOI: 10.1186/s13049-020-0713-4
  • 15
    Nagendran M, Chen Y, Lovejoy CA, Gordon AC, Komorowski M, Harvey H et al. Artificial intelligence versus clinicians: systematic review of design, reporting standards, and claims of deep learning studies. BMJ [Internet]. 2020 [acesso 18 nov 2021];368:m689 DOI: 10.1136/bmj.m689
  • 16
    Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Declaração universal sobre bioética e direitos humanos [Internet]. Brasília: Unesco; 2005 [acesso 18 nov 2021]. Disponível: https://bit.ly/3qPrixg
    » https://bit.ly/3qPrixg
  • 17
    Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B et al. Artificial intelligence distinguishes COVID-19 from community acquired pneumonia on chest CT. Radiology [Internet]. 2020 [acesso 18 nov 2021];296(2):e65-71. p. e69. Tradução livre. DOI: 10.1148/radiol.2020200905
  • 18
    Murray A. Coronavírus: os robôs usados para eliminar vírus em hospitais. BBC News Brasil [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bbc.in/35sLg85
    » https://bbc.in/35sLg85
  • 19
    Alisson E. Startups brasileiras desenvolvem sistema que detecta febre a distância. Agência Fapesp [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bit.ly/3Hoc074
    » https://bit.ly/3Hoc074
  • 20
    Brasil. Lei nº 13.989, de 15 de abril de 2020. Dispõe sobre o uso da telemedicina durante a crise causada pelo coronavírus (SARS-CoV-2). Diário Oficial de União [Internet]. Brasília, 15 abr 2020 [acesso 26 abr 2020]. Disponível: https://bit.ly/3JP1uaw
    » https://bit.ly/3JP1uaw
  • 21
    Robô Laura [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://www.laura-br.com/
    » https://www.laura-br.com/
  • 22
    Han ER, Yeo S, Kim MJ, Lee YH, Park KH, Roh H. Medical education trends for future physicians in the era of advanced technology and artificial intelligence: an integrative review. BMC Med Educ [Internet]. 2019 [acesso 18 nov 2021];19(1):460. p. 13. Tradução livre. DOI: 10.1186/s12909-019-1891-5
  • 23
    Motta LCS, Vidal SV, Siqueira-Batista R. Bioética: afinal, o que é isto? Rev Bras Clin Med [Internet]. 2012 [acesso 18 nov 2021];10(5):431-9. Disponível: https://bit.ly/3LbszWg
    » https://bit.ly/3LbszWg
  • 24
    Investigador do IB fala em 3 desafios éticos para a inteligência artificial. Universidade Católica Portuguesa [Internet]. 2019 [acesso 30 mar 2020]. Disponível: https://bit.ly/35phJwc
    » https://bit.ly/35phJwc
  • 25
    Silva ALAGMC, Sousa KCPC, Pereira GS, Araujo ACSS, Ribeiro LMN, Andrade IG, Vieira TLV. Os limites da tecnologia na prática médica segundo os princípios da bioética e da ética médica. Rev Bras Bioét [Internet]. 2018 [acesso 18 nov 2021];14(supl):81. Disponível: https://bit.ly/3LZ3NK5
    » https://bit.ly/3LZ3NK5
  • 26
    Garrafa V, Azambuja LEO. Epistemología de la bioética: enfoque latino-americano. Rev Colomb Bioét [Internet]. 2009 [acesso 18 nov 2021];4(1):73-92. p. 82. Tradução livre. Disponível: https://bit.ly/3JXioUq
    » https://bit.ly/3JXioUq
  • 27
    Vollmer S, Mateen BA, Bohner G, Király FJ, Ghani R, Jonsson P et al. Machine learning and artificial intelligence research for patient benefit: 20 critical questions on transparency, replicability, ethics, and effectiveness. BMJ [Internet]. 2020 [acesso 18 nov 2021];368:l6927. Tradução livre. DOI: 10.1136/bmj.l6927
  • 28
    Briganti G, Le Moine O. Artificial intelligence in medicine: today and tomorrow. Front Med [Internet]. 2020 [acesso 18 nov 2021];7:27. DOI: 10.3389/fmed.2020.00027
  • 29
    Nebeker C, Torous J, Bartlett Ellis RJ. Building the case for actionable ethics in digital health research supported by artificial intelligence. BMC Med [Internet]. 2019 [acesso 18 nov 2021];17(1):137. Tradução livre. DOI: 10.1186/s12916-019-1377-7
  • 30
    Saiba quais são os principais desafios de saúde da próxima década. Veja [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bit.ly/3hneNml
    » https://bit.ly/3hneNml
  • 31
    Rocha MS, Rocha AS. Resolução de conflitos bioéticos no cenário hospitalar brasileiro: uma revisão sistemática da literatura. Rev Bras Bioét [Internet]. 2019 [acesso 18 nov 2021];15(e7):1-12. p. 10-1. Disponível: https://bit.ly/36Ipmyz
    » https://bit.ly/36Ipmyz
  • 32
    Conselho Federal de Medicina. Recomendação CFM nº 8, de 12 de março de 2015. Recomenda a criação, o funcionamento e a participação dos médicos nos Comitês de Bioética [Internet]. Brasília: CFM; 2015 [acesso 18 nov 2021]. Disponível: https://bit.ly/3BPsXpX
    » https://bit.ly/3BPsXpX
  • 33
    Siqueira-Batista R, Gomes AP, Maia PM, Costa IT, Paiva AO, Cerqueira FR. Modelos de tomada de decisão em bioética clínica: apontamentos para a abordagem computacional. Rev. bioét. (Impr.) [Internet]. 2014 [acesso 18 nov 2021];22(3):456-61. p. 460. DOI: 10.1590/1983-80422014223028
  • 34
    Francisconi FC. Aspectos éticos da tecnologia médica. Jornal do CFM [Internet]. 1997 [acesso 18 nov 2021]. Disponível: https://bit.ly/3JRiH3i
    » https://bit.ly/3JRiH3i
  • 35
    Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Estados-membros da Unesco aprovam o primeiro acordo mundial sobre ética da inteligência artificial. Unesco [Internet]. 2021 [acesso 16 fev 2022]. Disponível: https://bit.ly/3t5fA12
    » https://bit.ly/3t5fA12
  • 36
    Brasil. Estratégia Brasileira de Inteligência Artificial: Ebia [Internet]. Brasília: Ministério da Ciência, Tecnologia e Informação; 2021 [acesso 11 fev 2022]. Disponível: https://bit.ly/3HjRp3V
    » https://bit.ly/3HjRp3V
  • 37
    Brasil. Projeto de Lei nº 21/2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil e dá outras providências [Internet]. Brasília: Câmara dos Deputados; 2020 [acesso 11 fev 2022]. Disponível: https://bit.ly/3hy9UY5
    » https://bit.ly/3hy9UY5
  • 38
    Brasil. Emenda Constitucional nº 115, de 10 de fevereiro de 2022. Altera a Constituição Federal para incluir a proteção de dados pessoais entre os direitos e garantias fundamentais e para fixar a competência privativa da União para legislar sobre proteção e tratamento de dados pessoais. Diário Oficial da União [Internet]. Brasília, 10 fev 2022 [acesso 11 fev 2022]. Disponível: https://bit.ly/3IkWLNr
    » https://bit.ly/3IkWLNr
  • 39
    Brasil. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União [Internet]. Brasília, 8 jul 2019 [acesso 11 fev 2022]. Disponível: https://bit.ly/3IkWLNr
    » https://bit.ly/3IkWLNr
  • 40
    Brasil. Projeto de Lei nº 3.814/2020. Altera a Lei nº 8.080, de 19 de setembro de 1990 (Lei Orgânica da Saúde), e a Lei nº 13.787, de 27 de dezembro de 2018, que dispõe sobre a digitalização e a utilização de sistemas informatizados para a guarda, o armazenamento e o manuseio de prontuário de paciente, para obrigar o Sistema Único de Saúde a manter plataforma digital única com informações de saúde dos pacientes [Internet]. Brasília: Senado Federal; 2020 [acesso 11 fev 2022]. Disponível: https://bit.ly/3JXBdH4
    » https://bit.ly/3JXBdH4
  • 41
    Lemes MM, Lemos ANLE. O uso da inteligência artificial na saúde pela Administração Pública brasileira. Cad Ibero Am Direito Sanit [Internet]. 2020 [acesso 9 fev 2022];9(3):166-82. p. 172. Disponível: https://bit.ly/3HrRHG8
    » https://bit.ly/3HrRHG8
  • 42
    Harayama RM. Reflexões sobre o uso do big data em modelos preditivos de vigilância epidemiológica no Brasil. Cad Ibero Am Direito Sanit [Internet]. 2020 [acesso 9 fev 2022];9(3):153-65. DOI: 10.17566/ciads.v9i3.702
  • 43
    Fuentes MA. Princípios fundamentais de bioética. Vitória: Editora Centro Anchieta; 2021.

Datas de Publicação

  • Publicação nesta coleção
    09 Maio 2022
  • Data do Fascículo
    Jan-Apr 2022

Histórico

  • Recebido
    31 Maio 2020
  • Revisado
    30 Nov 2021
  • Aceito
    18 Fev 2022
Conselho Federal de Medicina SGAS 915, lote 72, CEP 70390-150, Tel.: (55 61) 3445-5932, Fax: (55 61) 3346-7384 - Brasília - DF - Brazil
E-mail: bioetica@portalmedico.org.br
Accessibility / Report Error