Desafios bioéticos do uso da inteligência artificial na oftalmologia

Resumo

Atualmente, o uso da tecnologia na medicina, em especial na oftalmologia, passa por avanços, que, aliados à inteligência artificial, têm sido promissores na detecção e diagnóstico de doenças oculares. A oftalmologia utiliza muitas imagens para oferecer diagnósticos precisos, e a inteligência artificial parece oferecer uma análise mais assertiva pela capacidade de processar grande quantidade de dados e interpretar imagens médicas. Esses avanços tecnológicos melhoram as chances de tratamento bem-sucedido e reduzem o tempo de diagnóstico, possibilitando um atendimento mais eficaz e ágil, com impacto na qualidade de vida. No entanto, essa integração entre tecnologia e oftalmologia também traz preocupações, e devem ser considerados pontos como privacidade dos dados, equidade de acesso a avanços tecnológicos e o papel do médico na tomada de decisões. Diante disso, esta revisão da literatura levantou apontamentos sobre desafios éticos e perspectivas futuras do uso da inteligência artificial na oftalmologia.

Bioética; Oftalmologia; Diagnóstico; Inteligência artificial

Abstract

The use of technology in medicine, especially in ophthalmology, is undergoing advances which, combined with artificial intelligence, are promising in the detection and diagnosis of eye diseases. Ophthalmology uses many images to offer accurate diagnoses, and artificial intelligence seems to provide a more assertive analysis due to its ability to process large data amounts and interpret medical images. These technological advances improve the chances of successful treatment and reduce diagnosis time, enabling more effective and agile care, with an impact on quality of life. However, such integration between technology and ophthalmology also raises concerns, and questions such as data privacy, equity of access to technological advances and the role of the physician in decision-making must be considered. In view of this, this literature review highlighted ethical challenges and future prospects for the use of artificial intelligence in ophthalmology.

Bioethics; Ophthalmology; Diagnosis; Artificial intelligence

Resumen

Actualmente, el uso de la tecnología en medicina, especialmente en oftalmología, viene experimentando avances que, combinados con el uso de la inteligencia artificial, son prometedores para la detección y el diagnóstico de enfermedades oculares. La oftalmología utiliza muchas imágenes para obtener diagnósticos precisos, y la inteligencia artificial puede contribuir a un análisis más asertivo por su capacidad de procesar muchos datos e interpretar imágenes médicas. Los avances tecnológicos aumentan las chances de un tratamiento exitoso y reducen el tiempo de diagnóstico, permitiendo una atención más eficaz y ágil, y calidad de vida. Esta integración entre tecnología y oftalmología también genera preocupaciones en cuanto a la privacidad de los datos, la equidad en el acceso a los avances tecnológicos y el papel del médico en la toma de decisiones. Esta revisión de la literatura destaca los desafíos éticos y las perspectivas futuras para el uso de la inteligencia artificial en oftalmología.

Bioética; Oftalmología; Diagnóstico; Inteligencia artificial

A medicina e a tecnologia têm uma longa história de colaboração, e, nos últimos anos, ocorreu uma grande evolução nessa relação. Essa revolução tem como protagonista a inteligência artificial (IA), tecnologia que está transformando a maneira como se diagnostica, trata e gerencia uma variedade de doenças, incluindo as oftalmológicas ¹. Isso se justifica, em grande parte, pela capacidade da IA em processar vastas quantidades de dados clínicos e médicos, além de interpretar imagens médicas com precisão notável ²,³.

Soma-se a isso o fato de que essa tecnologia está acarretando mudanças significativas na estrutura dos serviços de saúde e dos sistemas nacionais de saúde, com grande potencial para melhorar a qualidade e reduzir custos na assistência no mundo inteiro ⁴.

À medida que a tecnologia avança, ela é implementada em diversos campos da medicina e, no caso da oftalmologia, que é uma das principais especialidades no campo de IA na medicina, traz inúmeros benefícios e agilidade ao diagnóstico. Com abundância de imagens, incluindo fotografias e outras formas diagnósticas, a IA parece oferecer uma forma mais personalizada para analisar as informações e transformá-las em uma ferramenta útil na tomada das decisões clínicas ⁵.

Nesse contexto, o diagnóstico de doenças oculares complexas, como catarata, retinopatia diabética, degeneração macular relacionada à idade, glaucoma e retinopatia da prematuridade, ficou significativamente mais padronizado e assertivo quando se utiliza IA, tornando-se mais eficaz e preciso ³,⁶.

Como toda intervenção tecnológica que afeta a saúde, a incorporação dessas novas ferramentas é fundamental para o avanço da medicina, porém o uso da IA na área da saúde não está isento de desafios, sobremaneira os que envolvem questões éticas. Privacidade de dados de saúde, responsabilidade em caso de erros algorítmicos e equidade no acesso aos benefícios da IA são preocupações que precisam ser abordadas com seriedade ⁵.

Este trabalho consiste em uma revisão bibliográfica exploratória, que utiliza como base pesquisas já realizadas. Dessa forma, deixa lacunas para possíveis comparações e elaboração de novas ideias na temática proposta: desafios bioéticos do uso da IA na oftalmologia.

Método

Os materiais analisados, como artigos científicos publicados em periódicos, foram encontrados mediante levantamento de dados em pesquisa bibliográfica nas bases de dados PubMed, ScienceDirect e Google Scholar. Para isso, empregaram-se os descritores: “ética na aplicação de IA na saúde”, “aplicação de IA na oftalmologia”, “desafios da IA na medicina” e “desafios bioéticos da implantação de IA”. Foram selecionados apenas materiais bibliográficos que abordassem assuntos relacionados aos desafios éticos envolvidos na utilização da IA na medicina, sendo desconsiderados os desafios técnicos e/ou tecnológicos.

A partir da análise da literatura, apresenta-se a definição de IA e sua utilização na área da saúde, em especial na área oftalmológica. Além disso, é realizada uma contextualização e análise sobre desafios bioéticos envolvidos na utilização de IA na medicina e nos atendimentos oftalmológicos, bem como critérios de governança de bioética no uso de IA em oftalmologia, que devem assegurar tanto o paciente como o profissional de saúde.

Implantação e utilização da inteligência artificial na medicina

Também conhecida como “inteligência de máquina”, a IA é um ramo da ciência da computação que se baseia em algoritmos e processamento de dados em busca de teorias, métodos, tecnologias e sistemas de aplicação para simular, entender e expandir a inteligência humana em máquinas ⁵,⁷. Posto isso, é importante ressaltar que um ramo da IA que explora o estudo e a construção de algoritmos computacionais a partir do aprendizado por dados, ao invés de instruções pré-programadas, é o machine learning (ML), ou aprendizado de máquina ⁸.

O ML busca uma interseção de técnicas matemáticas e estatísticas com algoritmos computacionais que utilizam o conceito de IA. Essa tecnologia é aplicada em situações nas quais se buscam padrões em um conjunto de variáveis com o intuito de prever um resultado confiável e de interesse ⁸,⁹.

Nesse contexto, computadores são programados para aprender como o cérebro humano funciona. Esse aprendizado é desenvolvido com base em redes neurais alimentadas por uma grande quantidade de dados (big data), inseridos no sistema para treinar a máquina na habilidade de encontrar as soluções relacionadas a esses dados, buscando uma variedade de novas combinações ⁹.

O termo big data refere-se a um conjunto de dados de grande tamanho que nenhuma das ferramentas tradicionais de gerenciamento de dados é capaz de processar com eficiência, mas também pode se referir a um tipo de tecnologia, como instalações de armazenamento, ferramentas e processos ⁸.

Dessa forma, o aumento do poder da computação, a expansão da capacidade de armazenamento e a compilação de big data de saúde ajudaram a implementar a IA na prática médica e na pesquisa em saúde ¹⁰. A aplicação de ML e IA é voltada principalmente para o manuseio de bases de dados consolidados com informações heterogêneas, para as quais há limitação do uso das técnicas de estatística convencionais. Assim, a contribuição dessas tecnologias pode abranger desde o diagnóstico precoce de determinada doença até a infusão de medicamentos ⁸.

Dessa forma, a IA progride rapidamente em vários campos interdisciplinares e multiprofissionais dos cuidados de saúde, relacionados a prevenção, diagnóstico e gestão de doenças, melhorando significativamente os fluxos clínicos, incluindo o ramo da oftalmologia ⁷.

Essa especialidade médica, dedicada ao estudo e tratamento das doenças oculares, tem experimentado avanços significativos nas últimas décadas, em grande parte impulsionados pelas múltiplas inovações e tecnologias digitais. Além da IA, essas inovações digitais incluem redes de telecomunicações de quinta geração (5G) e internet das coisas (IoT), criando um ecossistema interdependente que oferece oportunidades para desenvolver novos modelos de cuidado dos olhos ³.

A oftalmologia é uma especialidade médica líder na aplicação de IA em triagem, diagnóstico e tratamento. O primeiro sistema de diagnóstico autônomo aprovado pela Food and Drug Administration foi utilizado para diagnosticar e classificar a retinopatia diabética. Outras condições oftalmológicas, como degeneração macular relacionada à idade, glaucoma, retinopatia e catarata congênita também implementaram IA ¹⁰.

O campo do diagnóstico de doenças oftalmológicas é promissor para o estudo e avanço desse tipo de tecnologia, e os dados de saúde aumentam aproximadamente 50% a cada ano, tornando essa uma das áreas digitais de crescimento mais rápido. Dada a natureza ambulatorial da prática e do uso comum de várias modalidades de imagem, a oftalmologia presta-se bem à implementação da IA, uma vez que usa inúmeras técnicas digitais – como fotografia colorida de fundo de olho, tomografia de coerência óptica (OCT), testes de campo visual computadorizado (VF) – e o enorme banco de dados que elas fornecem ¹¹,¹².

Cerca de 30 milhões de exames de OCT são realizados anualmente nos Estados Unidos, o que destaca a oftalmologia como uma das áreas que mais gera dados em saúde ¹¹. Além disso, atualmente o diagnóstico de muitas doenças é mais ágil e eficaz quando se utiliza IA, como é o caso da retinopatia, uma das principais causas de perda de visão em crianças e adultos diagnosticados com diabetes, considerada um grave problema de saúde pública. O diagnóstico e tratamento precoce são fundamentais para melhorar a acuidade visual, porém uma porcentagem dos pacientes ainda evolui para perdas irreversíveis da visão ¹³.

Embora o impacto dos resultados do diagnóstico e tratamento dessa doença sejam conhecidos, o acesso a médicos especializados pode ser limitado, especialmente em países em desenvolvimento, como o Brasil. Isso, somado a altas taxas de variações no diagnóstico entre especialistas, estimulou pesquisadores a estudarem o uso da IA nesses casos ¹².

Brown e colaboradores ¹⁴ desenvolveram software que utiliza a tecnologia IA deep learning e um banco de dados de 5.511 imagens de fundo de olho obtidas com câmera de fundo RetCam, e relataram 93% de sensibilidade e 94% especificidade na determinação da presença de doença adicional. Software desenvolvido por Redd e colaboradores ¹⁵ com base na mesma tecnologia apresentou 0,96 e 0,91 valores de área sob a curva de sensibilidade e especificidade, respectivamente, na identificação da retinopatia. Esses estudos demonstraram que a IA deep learning auxilia significativamente no diagnóstico da retinopatia e impacta a qualidade de vida dos pacientes acometidos por ela.

Em casos de degeneração macular relacionada à idade (DMRI), o número de estudos que empregam software de IA para diagnóstico é crescente. Esses trabalhos utilizam bancos de dados de tomografia de coerência óptica para validar essa tecnologia no diagnóstico da doença.

Ting e colaboradores ¹¹ investigaram um banco de dados de 72.610 imagens e classificaram os pacientes em dois grupos, aqueles com doença intermediária a avançada e aqueles sem a doença, de acordo com o Age-Related Eye Disease Studies (Areds). Os autores relataram sensibilidade e especificidade de 93,2% e 88,2%, respectivamente. Burlina e colaboradores ¹⁶ classificaram pacientes com software que usou 130 mil imagens de 4.613 pacientes e relataram taxa de precisão de 91,6% na identificação dos pacientes com DMRI moderada e avançada.

Grassmann e colaboradores ¹⁷ testaram um algoritmo desenvolvido com base em 120.656 fotografias de fundo de olho de 3.654 pacientes segundo parâmetros do banco de dados Areds e relataram taxa de precisão de 84,2% na diferenciação de doença precoce e tardia e 94,3% de precisão em identificar indivíduos saudáveis. Esses resultados demonstram a efetividade do uso da IA no diagnóstico da DMRI em estágios mais avançados.

Nos casos de diagnóstico de glaucoma, doença que está entre as principais causas de perda de visão em todo o mundo, os estudos iniciais utilizaram IA deep learning para avaliar fotografias de fundo de olho. Em pesquisa que usou banco de dados de 125.189 fotografias de fundo de olho, Ting e colaboradores ¹¹ relataram sensibilidade de 96,4% e especificidade de 87,2%.

Considerando esses dados, é inegável a importância do uso da IA na oftalmologia, destacando-se os benefícios que parecem indiscutíveis para um diagnóstico mais assertivo. Com base em dados individuais de pacientes e suas características específicas, algoritmos de IA podem ajudar a determinar o melhor plano de tratamento, seja por meio de cirurgia, seja com terapia farmacológica ou outras intervenções, maximizando as chances de sucesso.

Desafios bioéticos na implantação da inteligência artificial na medicina

A integração da IA na oftalmologia tem sido efetiva e promissora para o diagnóstico precoce e o tratamento eficaz de doenças oculares, oferecendo benefícios inegáveis para pacientes e profissionais de saúde ocular. Entretanto, à medida que essa tecnologia se torna mais difundida, surgem preocupações bioéticas que não podem ser ignoradas.

Ao longo da última década, os desafios bioéticos para a implantação e utilização da IA na saúde tornaram-se uma preocupação significativa tanto na comunidade acadêmica quanto na empresarial. Inúmeras organizações e hospitais estão recrutando especialistas em bioética da IA para compor suas equipes, a fim de se ajustarem às diretrizes éticas da IA ¹⁸.

As preocupações bioéticas associadas às intervenções médicas baseadas em IA estão ligadas a todos os ciclos de gerenciamento de doenças, do diagnóstico ao tratamento, considerando que a tecnologia é aplicada a dados dos pacientes. Limites claros devem ser estabelecidos sobre quem tem a propriedade ou administração desses dados, e os pacientes precisam ter consciência sobre onde seus dados são mantidos e quão seguros os dados estão ¹⁸.

Segundo Abdullah e colaboradores ¹⁰, os desafios bioéticos que envolvem a implementação da IA na medicina foram classificados em seis categorias principais: 1) ética de treinamento de máquina; 2) ética de precisão de máquina; 3) ética relacionada ao paciente; 4) ética relacionada ao médico; 5) ética compartilhada; e 6) funções dos reguladores.

A aplicação da IA na oftalmologia levanta questões fundamentais sobre privacidade, responsabilidade, vieses algorítmicos e equidade no acesso à saúde ocular. Nesse contexto, este trabalho explora os desafios éticos do uso da IA na oftalmologia, destacando a importância de um debate informado e da regulamentação adequada para garantir que essa tecnologia seja utilizada de maneira responsável e benéfica para a sociedade.

A crescente capacidade da IA de analisar grandes conjuntos de dados de pacientes e imagens oftalmológicas, bem como de tomar decisões clínicas, levanta preocupações significativas no que diz respeito à privacidade dos dados médicos. No que tange à privacidade das informações, é importante considerar dois aspectos: a propriedade dos dados, que indica autoridade para controlar, processar ou acessar dados, e a rentabilidade do direito de vender dados ou receber compensação ¹⁹.

Assim, uma grande preocupação é garantir que informações de pacientes coletadas para treinar computadores e modelos de IA sejam protegidas com segurança por hospitais, clínicas, organizações de pesquisa, grandes empresas farmacêuticas, seguradoras e empresas de tecnologia que armazenam esses dados ¹⁹. Dessa forma, a proteção das informações sensíveis dos pacientes é essencial, e medidas rigorosas de segurança cibernética e conformidade com regulamentos de proteção de dados são necessárias para mitigar esses riscos ¹⁹.

Um algoritmo derivado de IA é tão bom quanto os dados médicos com base nos quais ele é aplicado ¹⁹, os quais são a peça-chave para implantar a IA na oftalmologia. Nesse contexto, os vieses algorítmicos também são uma preocupação ética importante. Por isso, é de extrema importância que os dados estejam conectados, padronizados e formatados uniformemente para se tornarem úteis para impulsionar a aplicação da IA no campo da saúde ¹⁰.

Se os algoritmos forem treinados em conjuntos de dados enviesados, eles podem perpetuar desigualdades existentes no atendimento oftalmológico, favorecendo determinados grupos demográficos em detrimento de outros. Garantir que os algoritmos sejam imparciais e equitativos é crucial para evitar disparidades no acesso à saúde ocular ¹⁹.

Previsões errôneas realizadas por algoritmos de IA devido à baixa qualidade dos dados, por exemplo, são inevitáveis, o que pode levar a problemas de responsabilidade para médicos. Dada essa premissa, a questão da responsabilidade legal em caso de erro diagnóstico ou tratamento inadequado é complexa quando a IA desempenha um papel ativo na tomada de decisões médicas. Quem é responsável quando um algoritmo comete um erro que resulta em danos a um paciente? Essa questão precisa ser abordada de maneira transparente e justa para todas as partes envolvidas.

Nesse sentido, quando um erro médico envolve o emprego de tecnologia de IA, é necessário identificar e comunicar o responsável moral e o responsável legal, dois aspectos muito importantes a serem considerados. Além disso, quando o assunto é responsabilidade, deve-se levar em conta também, de forma individual, as responsabilidades profissionais que abrangem a interpretação adequada e precisa dos resultados da IA pelos prestadores de cuidados de saúde, bem como as responsabilidades técnicas/tecnológicas.

Essas responsabilidades podem incluir, por exemplo, o projeto físico adequado, o emprego dos sistemas e a criação dos algoritmos corretos para aprendizado de máquina ⁷,¹⁹. Portanto, as responsabilidades profissionais e tecnológicas na perspectiva do processo de diagnóstico e tratamento da IA precisam ser mais refinadas em futuras regulamentações médicas.

Outro aspecto importante a ser considerado é a relação entre médico e paciente, pois, com o uso de tecnologias de IA, pacientes tendem a passar mais tempo se comunicando com dispositivos autônomos do que com seus médicos. Com isso, a relação bidirecional paciente-médico, que era construída com base na confiança, acaba mudando para uma relação de três vias que inclui paciente, dispositivo médico eletrônico e médico. Dessa forma, valores fundamentais de cuidado, como comunicação, confiança e confidencialidade, podem ser facilmente corroídos por tecnologias de IA e big data ¹⁹.

Quando essas interações importantes são ausentes ou reduzidas, o diálogo médico-paciente pode ser afetado, distorcendo o conhecimento e a compreensão do paciente sobre determinado procedimento ou tratamento, o que pode afetar negativamente sua capacidade de tomada de decisão autônoma ¹⁹.

Além disso, a equidade no acesso à IA na oftalmologia é uma consideração ética essencial, uma vez que a maioria dos dados alimentados em ferramentas de IA tende a ser homogênea em relação às características dos pacientes, o que pode resultar em sub-representação ou super-representação de certos grupos. A prática comum é que as populações minoritárias sejam frequentemente sub-representadas, tornando-se vulneráveis a diagnósticos errôneos ou procedimentos de tratamento defeituosos como resultado ¹⁹.

É importante destacar que as vantagens dessa tecnologia não devem estar disponíveis apenas para aqueles que podem pagar por ela, mas também para comunidades menos privilegiadas. O princípio da justiça distributiva preceitua a distribuição de recursos na sociedade e a não discriminação de indivíduos e grupos. Ao empregar a IA na medicina, é importante incentivar a equidade e remover a discriminação na tomada de decisões algorítmicas sobre o tratamento do paciente e prevenção de doenças ¹⁹.

A etapa de consentimento é outro ponto de preocupação quanto aos aspectos bioéticos do uso da IA na oftalmologia. É importante ressaltar que a abordagem para obtenção do consentimento do paciente que receberá atendimento médico por meio de ferramentas de IA é (ou deveria ser) diferente da empregada com pacientes que receberão o atendimento tradicional de prestação de cuidados de saúde, o que envolve sérios desafios éticos ¹⁹. A etapa de explicação e repasse de informações verídicas, pautadas no conhecimento e que transpassam confiança ao paciente é um valor-chave na perspectiva de consentimento do paciente em atendimentos com uso de ferramentas de IA.

Para colher os benefícios da IA e assegurar a bioética durante os atendimentos, os médicos devem entender e liderar o progresso tecnológico da IA. Para Anom ¹⁹, o médico precisa ter conhecimentos fundamentais e estar sempre atualizado em relação às tecnologias para ser capaz de explicar a natureza básica da tecnologia a seus pacientes. O déficit de conhecimento dos médicos sobre sistemas de IA pode acarretar riscos de não fornecer ao paciente informações suficientes e/ou compreensíveis e afetar seriamente a qualidade ou a validade do processo de consentimento informado.

Para que a bioética seja assegurada nos atendimentos quando ocorrer a implantação e utilização de ferramentas de IA na oftalmologia, é importante buscar entender e compreender a visão dos profissionais de medicina sobre essas tecnologias. Os médicos estão na linha de frente no atendimento e, de certa forma, assumem em grande parte os riscos em relação às responsabilidades do uso dessas tecnologias.

Nesse contexto, estudo realizado por Martinho, Kroesen e Chorus ¹⁸ teve como objetivo identificar perspectivas dos profissionais de medicina em relação à explicação do uso de IA na medicina e em seus atendimentos. Em suma, os profissionais consideram que a IA nunca deveria ser uma “caixa preta” e que médicos precisam ser capazes de explicar como os resultados das ferramentas de IA são gerados. Salientam, ainda, que os médicos não são os únicos que precisam saber como as ferramentas médicas de IA funcionam, e que tais ferramentas só deveriam ser usadas por médicos que entendem como as decisões de IA são tomadas.

Outro aspecto importante a ser considerado é a importância de os médicos explicarem e conscientizarem os pacientes em relação aos papéis específicos que humanos desempenham em uma etapa do procedimento versus os atributos do sistema ou dispositivo de IA/robótica ¹⁹. Ressalta-se, ainda, que essa explicação deve estar presente na etapa do consentimento e confidencialidade de dados, uma vez que, quando está preocupado com a quebra de confidencialidade em relação a uma empresa de tecnologia ou companhia de seguros, o paciente pode não fornecer informações completas ou evitar o tratamento, que leva a uma doença mais profunda ²⁰.

À medida que a IA continua a evoluir na oftalmologia, é imperativo que comunidade médica, reguladores e desenvolvedores de tecnologia colaborem para abordar esses desafios bioéticos de forma adequada. A regulamentação e as diretrizes éticas devem ser desenvolvidas e aprimoradas para garantir que a IA seja uma aliada valiosa na oftalmologia, sem comprometer a ética médica, a equidade e a privacidade dos pacientes.

Governança de bioética no uso de inteligência artificial em oftalmologia

Apesar das enormes possibilidades de implantação e utilização da IA avançada na área da saúde, em especial na oftalmologia, o uso ético dessas aplicações tem acarretado a necessidade de uma nova forma de governança bioética. A fim de garantir a confiabilidade das aplicações de IA, sugere-se a criação de uma estrutura global de governança bioética multiprofissional, juntamente com diretrizes específicas para a utilização de IA avançada na oftalmologia.

A governança em bioética na medicina desempenha um papel fundamental na garantia de uma assistência médica de qualidade e justa para todos os pacientes. A ética médica é baseada em princípios moralmente aceitos e deveres dos médicos para com seus pacientes. A governança, por sua vez, envolve a criação e implementação de políticas e diretrizes que regem a conduta dos profissionais de saúde, bem como a promoção da prestação de cuidados com ética e qualidade.

É importante que profissionais de saúde componham essas governanças em bioética, uma vez que os desenvolvedores de IA para aplicações de saúde podem ter valores nem sempre alinhados com os princípios da prestação ética de cuidados de saúde ¹⁹,²⁰.

Uma das razões pelas quais a governança em bioética no uso de IA na oftalmologia é importante diz respeito à proteção da autonomia dos pacientes. Azambuja e Garrafa ²¹ referem que, para Beauchamp e Childress, a autonomia do paciente é no mínimo um autogoverno livre tanto de interferências controladoras quanto de limitações, como a compreensão inadequada, que impedem a escolha significativa.

A governança deve estabelecer normas que garantam que, durante a fase de consentimento e explicação dos procedimentos, os pacientes sejam informados adequadamente sobre todas as etapas que envolvem a utilização da IA no atendimento em saúde. Isso permite que os pacientes tomem decisões informadas e participem ativamente de seu próprio processo de diagnóstico/tratamento.

Outro papel importante da governança em bioética é garantir a beneficência do uso de IA e tecnologias para o paciente. O uso e as aplicações de tecnologias de big data e IA devem garantir firmemente a importância central de promover o bem-estar do paciente. É importante medir os riscos versus os benefícios que as tecnologias de big data e IA apresentam aos pacientes. Além disso, o uso das tecnologias deve ser benéfico e garantir a equidade para todos os pacientes das mais diversas formas ²².

Dessa forma, é necessário abordar e gerenciar os riscos bioéticos apresentados pelas tecnologias, além de buscar caminhos para equilibrar os benefícios e riscos que elas apresentam aos indivíduos e à sociedade ¹⁹,²². No que diz respeito à privacidade de dados, a governança em bioética deve reconhecer os desafios éticos associados à falta ou insuficiência de consciência dos pacientes. Os dados deles são compartilhados entre as partes interessadas nos cuidados de saúde e repositórios de big data, bem como nas várias plataformas de mídia social para empresas de tecnologia ¹⁹.

Conseguir o consentimento válido do paciente pode ser difícil quando os usos futuros de seus dados não são compartilhados ou estão pouco claros para eles, assim como para os próprios profissionais de medicina. Nesse sentido, empresas de tecnologia e organizações de saúde podem ajudar a aumentar a confiança dos profissionais de medicina na IA, bem como dos próprios pacientes. Essa confiança pode se pautar na informação transparente sobre a hospedagem e segurança dos dados, seu proprietário e com que finalidade serão usados ²².

Uma vez que a confiança é estabelecida na relação médico-paciente, é de extrema importância que o profissional de medicina tenha conhecimento dessas informações e esteja seguro em relação aos dados de seus pacientes. Vale ressaltar que a governança em bioética deve garantir que o paciente tenha a opção de negar o consentimento ao uso de seus dados. Além disso, os dados médicos de propriedade física devem ser cobertos por leis de propriedade e/ou leis de direitos intelectuais, as quais devem estabelecer a propriedade desses dados, que podem ser públicos ou privados ¹⁰.

Tem sido relatado que estudantes e profissionais de medicina compreendem a importância crescente da IA na área da saúde e têm atitudes positivas em relação a seu uso clínico. Apesar disso também se relata que eles são pouco treinados nessas tecnologias ²⁰. Diante disso, a governança em bioética no uso de IA na oftalmologia deve fomentar a formação continuada de profissionais da saúde em tecnologia, para que eles estejam aptos a utilizar as ferramentas de IA em seus atendimentos e, principalmente, assegurem a bioética.

Vale ressaltar que a tendência é que as tecnologias de IA sejam aplicadas nos atendimentos de prestação em saúde cada vez mais. Assim, é de extrema importância que as governanças em bioética estimulem o conhecimento já no ambiente acadêmico de formação desses profissionais, e não somente quando eles chegarem ao mercado de trabalho. Estudos indicam que estudantes de medicina que receberam ensino de IA durante a formação acadêmica se sentem mais confiantes ao trabalhar ela no futuro em comparação com alunos que não receberam esse ensino ¹⁸,²⁰.

Somente com capacitação em IA e novas tecnologias, estudantes e profissionais estarão seguros na tomada de decisão assertiva, com aprendizado pautado em conhecimentos clínicos e tecnológicos, de forma que não precisem ficar receosos em relação à responsabilização por ter adotado ou não a sugestão da IA. As ferramentas de IA para diagnóstico e tratamento afetam diretamente a saúde dos pacientes. Dessa forma, é preciso abordar resultados potencialmente falhos que podem ser produzidos por tecnologias de big data e IA na oftalmologia ¹⁹,²².

Nessa linha de raciocínio, é importante enfatizar que os produtos de saúde de IA e novas tecnologias devem ser testados em ensaios clínicos randomizados, os quais são a fonte mais forte de evidência médica ²⁰. Cabe à governança de bioética fomentar e incentivar que ensaios clínicos sejam realizados, além de estabelecer as diretrizes que esses estudos devem seguir e atender.

Em resumo, para enfrentar alguns dos desafios e males apresentados pelas tecnologias, as comunidades de bioética e saúde devem estabelecer estratégias sólidas de segurança, privacidade e governança de dados. Essas políticas devem ser suficientemente estabelecidas para garantir que todos os pacientes tenham controle total sobre seus próprios dados e confiem que estes não serão usados para prejudicá-los ou discriminá-los ²,²².

Alguns dos aspectos mais importantes incluem o papel dos governos na auditoria ética e as responsabilidades dos diferentes atores envolvidos no sistema de governança ética ². As partes interessadas do governo e da saúde devem considerar o investimento em soluções que garantam salvaguardas de segurança para proteger os dados e a privacidade dos pacientes, bem como as informações de saúde em geral. Em situações em que já existem políticas e regulamentações, há a necessidade de atualizá-las continuamente para acompanhar essas tecnologias em rápida evolução ¹⁰.

Considerações finais

A integração da IA na oftalmologia tem sido efetiva e promissora para o diagnóstico precoce e o tratamento eficaz de doenças, promovendo uma abordagem mais precisa. A área médica oftalmológica possui diversos potenciais atrelados a IA dada a natureza ambulatorial da prática, uma vez que faz uso de inúmeras técnicas digitais, como fotografia colorida de fundo de olho, OCT e VF.

O campo do diagnóstico de doenças oftalmológicas é promissor para o estudo e avanço desse tipo de tecnologia, e os dados de saúde aumentam aproximadamente 50% a cada ano, tornando-se uma das áreas digitais de crescimento mais rápido. Entretanto, à medida que essa tecnologia se torna mais difundida, surgem preocupações bioéticas que não podem ser ignoradas.

Sabe-se que os desafios bioéticos no uso da IA na área da saúde são pontos importantes a serem considerados para que haja um avanço seguro e benéfico, tanto para profissionais quanto para pacientes. À medida que a IA na oftalmologia evolui, é imperativo que comunidade médica, reguladores e desenvolvedores de tecnologia colaborem para abordar esses desafios bioéticos de forma adequada, envolvendo dados, privacidade, credibilidade e precisões diagnósticas, confiança e possíveis impactos.

Além disso, alguns pontos em relação ao acesso a esse tipo de tecnologia, quando usufruída de forma correta e benéfica, precisam ser considerados e estudados. Da mesma forma, regulamentações e diretrizes devem ser desenvolvidas e aprimoradas para garantir que a IA seja uma aliada valiosa na oftalmologia, sem comprometer dados, pacientes e profissionais.

Vale ressaltar que a tendência é que cada vez mais as tecnologias e IA sejam aplicadas nos atendimentos de saúde. Entretanto, é de extrema importância que as governanças em bioética estimulem o conhecimento já no ambiente acadêmico de formação desses profissionais, validando, estimulando, instruindo e capacitando da melhor forma.

Referências

• ¹ Dourado DA, Aith FMA. The regulation of artificial intelligence for health in Brazil begins with the General Personal Data Protection Law. Rev Saúde Pública [Internet]. 2022 [acesso 17 set 2024];56: 80. DOI: 10.11606/s1518-8787.2022056004461
  » https://doi.org/10.11606/s1518-8787.2022056004461
• ² Guan J. Artificial intelligence in healthcare and medicine: promises, ethical challenges and governance. Chin Med Sci J [Internet]. 2019 [acesso 17 set 2024];34(2):76-83. DOI: 10.24920/003611
  » https://doi.org/10.24920/003611
• ³ Li JO, Liu H, Ting DSJ, Jeon S, Chan RVP, Kim JE et al. Digital technology, tele-medicine and artificial intelligence in ophthalmology: a global perspective. Prog Retin Eye Res [Internet]. 2021 [acesso 17 set 2024];82:100900. DOI: 10.1016/j.preteyeres.2020.100900
  » https://doi.org/10.1016/j.preteyeres.2020.100900
• ⁴ World Health Organization. mHealth: use of appropriate digital technologies for public health: report by the director-general. WHO [Internet]. 2018 [acesso 17 set 2024]. Disponível: https://iris.who.int/handle/10665/276430
  » https://iris.who.int/handle/10665/276430
• ⁵ Kapoor R, Walters SP, Al-Aswad LA. The current state of artificial intelligence in ophthalmology. Surv Ophthalmol [Internet]. 2019 [acesso 17 set 2024];64(2):233-40. DOI: 10.1016/j.survophthal.2018.09.002
  » https://doi.org/10.1016/j.survophthal.2018.09.002
• ⁶ Zbrzezny AM, Grzybowski AE. Deceptive tricks in artificial intelligence: adversarial attacks in ophthalmology. J Clin Med [Internet]. 2023 [acesso 17 set 2024];12(9):3266. DOI: 10.3390/jcm12093266
  » https://doi.org/10.3390/jcm12093266
• ⁷ Sheng B, Chen X, Li T, Ma T, Yang Y, Bi L, Zhang X. An overview of artificial intelligence in diabetic retinopathy and other ocular diseases. Front Public Health [Internet]. 2022 [acesso 17 set 2024];10:971943. DOI: 10.3389/fpubh.2022.971943
  » https://doi.org/10.3389/fpubh.2022.971943
• ⁸ Paixão GMDM, Santos BC, Araujo RMD, Ribeiro MH, Moraes JLD, Ribeiro AL. Machine learning na medicina: revisão e aplicabilidade. Arq Bras Cardiol [Internet]. 2022 [acesso 17 set 2024];118(1):95-102. DOI: 10.36660/abc.20200596
  » https://doi.org/10.36660/abc.20200596
• ⁹ Nunes HDC, Guimarães RMC, Dadalto L. Desafios bioéticos do uso da inteligência artificial em hospitais. Rev. bioét. (Impr.) [Internet]. 2022 [acesso 17 set 2024];30(1): 82-93. DOI: 10.1590/1983-80422022301509pt
  » https://doi.org/10.1590/1983-80422022301509pt
• ¹⁰ Abdullah YI, Schuman JS, Shabsigh R, Caplan A, Al-Aswad LA. Ethics of artificial intelligence in medicine and ophthalmology. Asia-Pacific J Ophthalmol (Phila) [Internet]. 2021 [acesso 17 set 2024];10(3):289-98. DOI: 10.1097/APO.0000000000000397
  » https://doi.org/10.1097/APO.0000000000000397
• ¹¹ Ting DSW, Lin H, Ruan Boonsuk P, Wong TY, Sim DA. Artificial intelligence, the internet of things, and virtual clinics: ophthalmology at the digital translation forefront. Lancet Digit Health [Internet]. 2020 [acesso 17 set 2024];2(1):e8-9. DOI: 10.1016/S2589-7500(19)30217-1
  » https://doi.org/10.1016/S2589-7500(19)30217-1
• ¹² Keskinbora K, Güven F. Artificial intelligence and ophthalmology. Turk J Ophthalmol [Internet]. 2020 [acesso 17 set 2024];50(1):37-43. DOI: 10.4274/tjo.galenos.2020.78989
  » https://doi.org/10.4274/tjo.galenos.2020.78989
• ¹³ Early Treatment for Retinopathy of Prematurity Cooperative Group; Good WV, Hardy RJ, Dobson V, Palmer EA, Phelps DL et al. Final visual acuity results in the early treatment for retinopathy of prematurity study. Arch Ophthalmol [Internet]. 2010 [acesso 17 set 2024]; 128(6):663-71. DOI: 10.1001/archophthalmol.2010.72
  » https://doi.org/10.1001/archophthalmol.2010.72
• ¹⁴ Brown JM, Campbell JP, Beers A, Chang K, Ostmo S, Chan RVP et al. Automated Diagnosis of Plus Disease in Retinopathy of Prematurity Using Deep Convolutional Neural Networks. JAMA Ophthalmol [Internet]. 2018 [acesso 17 set 2024];136(7):803-10. DOI: 10.1001/jamaophthalmol.2018.1934
  » https://doi.org/10.1001/jamaophthalmol.2018.1934
• ¹⁵ Redd TK, Campbell JP, Brown JM, Kim SJ, Ostmo S, Chan RVP et al. Evaluation of a deep learning image assessment system for detecting severe retinopathy of prematurity. Br J Ophthalmol [Internet]. 2018 [acesso 17 set 2024]. DOI: 10.1136/bjophthalmol-2018-313156
  » https://doi.org/10.1136/bjophthalmol-2018-313156
• ¹⁶ Burlina PM, Joshi N, Pekala M, Pacheco KD, Freund DE, Bressler NM. Automated grading of age-related macular degeneration from color fundus images using deep convolutional neural networks. JAMA Ophthalmol [Internet]. 2017 [acesso 17 set 2024];135(11):1170-6. DOI: 10.1001/jamaophthalmol.2017.3782
  » https://doi.org/10.1001/jamaophthalmol.2017.3782
• ¹⁷ Grassmann F, Mengelkamp J, Brandl C, Harsch S, Zimmermann ME, Linkohr B et al. A deep learning algorithm for prediction of age-related eye disease study severity scale for age-related macular degeneration from color fundus photography. Ophthalmology [Internet]. 2018 [acesso 17 set 2024];125(9):1410-20. DOI: 10.1016/j.ophtha.2018.02.03
  » https://doi.org/10.1016/j.ophtha.2018.02.03
• ¹⁸ Martinho A, Kroesen M, Chorus C. A healthy debate: exploring the views of medical doctors on the ethics of artificial intelligence. Artif Intell Med [Internet]. 2021 [acesso 17 set 2024];121:102190. DOI: 10.1016/j.artmed.2021.102190
  » https://doi.org/10.1016/j.artmed.2021.102190
• ¹⁹ Anom BY. Ethics of big data and artificial intelligence in medicine. Ethics Med Public Health [Internet]. 2020 [acesso 17 set 2024];15:100568. DOI: 10.1016/j.jemep.2020.100568
  » https://doi.org/10.1016/j.jemep.2020.100568
• ²⁰ Kumar P, Chauhan S, Awasthi LK. Artificial intelligence in healthcare: review, ethics, trust challenges & future research directions. Eng Appl Artif Intell [Internet]. 2023 [acesso 17 set 2024];120:105894. DOI: 10.1016/j.engappai.2023.105894
  » https://doi.org/10.1016/j.engappai.2023.105894
• ²¹ Azambuja LEOD, Garrafa V. A teoria da moralidade comum na obra de Beauchamp e Childress. Rev. bioét. (Impr.) [Internet]. 2015 [acesso 17 set 2024]; 23(3):634-44. DOI: 10.1590/1983-80422015233100
  » https://doi.org/10.1590/1983-80422015233100
• ²² Sichman JS. Inteligência artificial e sociedade: avanços e riscos. Estud Av [Internet]. 2021 [acesso 17 set 2024];35(101):37-50. DOI: 10.1590/s0103-4014.2021.35101.004
  » https://doi.org/10.1590/s0103-4014.2021.35101.004

Datas de Publicação

• Publicação nesta coleção
  30 Maio 2025
• Data do Fascículo
  2024

Histórico

• Recebido
  20 Mar 2024
• Revisado
  19 Set 2024
• Aceito
  20 Set 2024