Desafíos bioéticos para el uso de la inteligencia artificial en oftalmologíaResumen
Actualmente, el uso de la tecnología en medicina, especialmente en oftalmología, viene experimentando avances que, combinados con el uso de la inteligencia artificial, son prometedores para la detección y el diagnóstico de enfermedades oculares. La oftalmología utiliza muchas imágenes para obtener diagnósticos precisos, y la inteligencia artificial puede contribuir a un análisis más asertivo por su capacidad de procesar muchos datos e interpretar imágenes médicas. Los avances tecnológicos aumentan las chances de un tratamiento exitoso y reducen el tiempo de diagnóstico, permitiendo una atención más eficaz y ágil, y calidad de vida. Esta integración entre tecnología y oftalmología también genera preocupaciones en cuanto a la privacidad de los datos, la equidad en el acceso a los avances tecnológicos y el papel del médico en la toma de decisiones. Esta revisión de la literatura destaca los desafíos éticos y las perspectivas futuras para el uso de la inteligencia artificial en oftalmología.
Bioética; Oftalmología; Diagnóstico; Inteligencia artificial
Resumo
Atualmente, o uso da tecnologia na medicina, em especial na oftalmologia, passa por avanços, que, aliados à inteligência artificial, têm sido promissores na detecção e diagnóstico de doenças oculares. A oftalmologia utiliza muitas imagens para oferecer diagnósticos precisos, e a inteligência artificial parece oferecer uma análise mais assertiva pela capacidade de processar grande quantidade de dados e interpretar imagens médicas. Esses avanços tecnológicos melhoram as chances de tratamento bem-sucedido e reduzem o tempo de diagnóstico, possibilitando um atendimento mais eficaz e ágil, com impacto na qualidade de vida. No entanto, essa integração entre tecnologia e oftalmologia também traz preocupações, e devem ser considerados pontos como privacidade dos dados, equidade de acesso a avanços tecnológicos e o papel do médico na tomada de decisões. Diante disso, esta revisão da literatura levantou apontamentos sobre desafios éticos e perspectivas futuras do uso da inteligência artificial na oftalmologia.
Bioética; Oftalmologia; Diagnóstico; Inteligência artificial
Abstract
The use of technology in medicine, especially in ophthalmology, is undergoing advances which, combined with artificial intelligence, are promising in the detection and diagnosis of eye diseases. Ophthalmology uses many images to offer accurate diagnoses, and artificial intelligence seems to provide a more assertive analysis due to its ability to process large data amounts and interpret medical images. These technological advances improve the chances of successful treatment and reduce diagnosis time, enabling more effective and agile care, with an impact on quality of life. However, such integration between technology and ophthalmology also raises concerns, and questions such as data privacy, equity of access to technological advances and the role of the physician in decision-making must be considered. In view of this, this literature review highlighted ethical challenges and future prospects for the use of artificial intelligence in ophthalmology.
Bioethics; Ophthalmology; Diagnosis; Artificial intelligence
La medicina y la tecnología tienen una larga historia de colaboración, y, en los últimos años, se produjo una gran evolución en esta relación. Esta revolución tiene como protagonista a la inteligencia artificial (IA), una tecnología que está transformando la forma en que se diagnostica, se trata y se maneja una variedad de enfermedades, incluidas las oftalmológicas 1. Esto se justifica, en gran medida, por la capacidad de la IA para procesar grandes cantidades de datos clínicos y médicos, además de interpretar imágenes médicas con una precisión notable 2,3.
A esto se suma el hecho de que esta tecnología está provocando cambios significativos en la estructura de los servicios de salud y de los sistemas nacionales de salud, con un gran potencial para mejorar la calidad y reducir los costos de la asistencia en todo el mundo 4.
A medida que la tecnología avanza, se va implementando en diversos campos de la medicina y, en el caso de la oftalmología, que es una de las principales especialidades en el campo de la IA en la medicina, aporta numerosos beneficios y agilidad al diagnóstico. Con una gran cantidad de imágenes, incluidas fotografías y otras formas de diagnóstico, la IA parece ofrecer una forma más personalizada de analizar la información y transformarla en una herramienta útil para la toma de decisiones clínicas 5.
En este contexto, el diagnóstico de enfermedades oculares complejas, como cataratas, retinopatía diabética, degeneración macular asociada a la edad, glaucoma y retinopatía del prematuro, se ha vuelto significativamente más estandarizado y asertivo cuando se utiliza la IA, volviéndose más eficaz y preciso 3,6.
Como toda intervención tecnológica que afecta la salud, la incorporación de estas nuevas herramientas es fundamental para el avance de la medicina, sin embargo el uso de la IA en el sector salud no está exento de desafíos, especialmente aquellos que implican cuestiones éticas. La privacidad de los datos de salud, la responsabilidad en caso de errores algorítmicos y la equidad en el acceso a los beneficios de la IA son preocupaciones que deben abordarse con seriedad 5.
Este trabajo consiste en una revisión bibliográfica exploratoria, que utiliza como base investigaciones ya realizadas. De esta manera, deja vacíos para posibles comparaciones y desarrollo de nuevas ideas sobre el tema propuesto: desafíos bioéticos del uso de la IA en la oftalmología.
Método
Los materiales analizados, como artículos científicos publicados en revistas, se encontraron mediante recopilación de datos en investigación bibliográfica en las bases de datos PubMed, ScienceDirect y Google Scholar. Para ello, se emplearon los descriptores siguientes: “ética na aplicação de IA na saúde”, “aplicação de IA na oftalmologia”, “desafios da IA na medicina” y “desafios bioéticos da implantação de IA”. Solo se seleccionaron materiales bibliográficos que abordaran cuestiones relacionadas con los desafíos éticos que implica el uso de la IA en la medicina, descar- tándose los desafíos técnicos o tecnológicos.
Con base en el análisis de la literatura, se presenta la definición de IA y su uso en el ámbito de la salud, especialmente en el área oftalmológica. Además, se realiza una contextualización y un análisis de los desafíos bioéticos que implica el uso de la IA en la medicina y en la atención oftalmológica, así como los criterios de gobernanza bioética en el uso de la IA en oftalmología, que deben asegurar tanto al paciente como al profesional sanitario.
Implementación y uso de la inteligencia artificial en la medicina
También conocida como “inteligencia de máquina”, la IA es una rama de la ciencia de la computación que se basa en algoritmos y procesamiento de datos en busca de teorías, métodos, tecnologías y sistemas de aplicación para simular, entender y expandir la inteligencia humana en las máquinas 5,7. Dicho esto, es importante resaltar que existe una rama de la IA que explora el estudio y la construcción de algoritmos computacionales basados en el aprendizaje a partir de datos, en lugar de instrucciones preprogramadas, es el machine learning (ML) o aprendizaje automático 8.
El ML busca una intersección de técnicas matemáticas y estadísticas con algoritmos computacionales que utilizan el concepto de IA. Esta tecnología se aplica en situaciones en las que se detectan patrones en un conjunto de variables con el objetivo de predecir un resultado fiable e interesante 8,9.
En este contexto, las computadoras están programadas para aprender cómo funciona el cerebro humano. Este aprendizaje se desarrolla con base en redes neuronales alimentadas por una gran cantidad de datos (big data), incluidos en el sistema para entrenar a la máquina en la habilidad de encontrar las soluciones relacionadas con estos datos, buscando una variedad de nuevas combinaciones 9.
El término big data se refiere a un gran volumen de datos, que ninguna de las herramientas tradicionales de gestión de datos es capaz de procesar de manera eficiente, pero también puede referirse a un tipo de tecnología, como instalaciones de almacenamiento, herramientas y procesos 8.
De esta manera, el aumento del poder de la computación, la ampliación de la capacidad de almacenamiento y la compilación de big data de salud ayudaron a implementar la IA en la práctica médica y en la investigación en salud 10. La aplicación de ML e IA está dirigida principalmente al manejo de bases de datos consolidadas con información heterogénea, para lo cual el uso de técnicas estadísticas convencionales es limitado. Por lo tanto, la contribución de estas tecnologías puede abarcar desde el diagnóstico precoz de una determinada enfermedad hasta la infusión de medicamentos 8.
De esta manera, la IA avanza rápidamente en varios campos interdisciplinarios y multiprofesionales de los cuidados de salud, relacionados con la prevención, el diagnóstico y el tratamiento de enfermedades, mejorando significativamente los flujos clínicos, incluido el campo de la oftalmología 7.
Esta especialidad médica, dedicada al estudio y tratamiento de enfermedades oculares, ha experimentado importantes avances en las últimas décadas, impulsados en gran medida por múltiples innovaciones y tecnologías digitales. Además de la IA, estas innovaciones digitales incluyen redes de telecomunicaciones de quinta generación (5G) e internet de las cosas (IoT), creando un ecosistema interdependiente que ofrece oportunidades para desarrollar nuevos modelos de cuidado de los ojos 3.
La oftalmología es una especialidad médica líder en la aplicación de la IA en el cribado, diagnóstico y tratamiento. El primer sistema de diagnóstico independiente aprobado por Food and Drug Administration se utilizó para diagnosticar y clasificar la retinopatía diabética. Otras afecciones oftalmológicas, como la degeneración macular asociada a la edad, el glaucoma, la retinopatía y las cataratas congénitas también han implementado la IA 10.
El campo del diagnóstico de enfermedades oftalmológicas es prometedor para el estudio y el avance de este tipo de tecnología, y los datos de salud aumentan aproximadamente un 50% cada año, lo que la convierte en una de las áreas digitales de más rápido crecimiento. Dada la naturaleza ambulatoria de la práctica y del uso común de varias modalidades de imagen, la oftalmología se presta bien a la implementación de la IA, ya que utiliza numerosas técnicas digitales —como la fotografía de fondo de ojo en color, la tomografía de coherencia óptica (OCT), las pruebas de campo visual computarizado (VF)– y la enorme base de datos que proporcionan 11,12.
Anualmente se realizan alrededor de 30 millones de exámenes de OCT en Estados Unidos, lo que destaca a la oftalmología como una de las áreas que más datos de salud genera 11. Además, el diagnóstico de muchas enfermedades es actualmente más ágil y eficaz cuando se utiliza la IA, como es el caso de la retinopatía, una de las principales causas de pérdida de visión en niños y adultos diagnosticados con diabetes, considerada un grave problema de salud pública. El diagnóstico y el tratamiento tempranos son esenciales para mejorar la agudeza visual; sin embargo, un porcentaje de pacientes aún evoluciona a pérdidas irreversibles de la visión 13.
Aunque se conoce el impacto de los resultados del diagnóstico y tratamiento de esta enfermedad, el acceso a médicos especializados puede ser limitado, especialmente en países en desarrollo como Brasil. Esto, sumado a las altas tasas de variación en el diagnóstico entre especialistas, animó a los investigadores a estudiar el uso de la IA en estos casos 12.
Brown y colaboradores 14 desarrollaron un software que utiliza tecnología de IA deep learning y una base de datos de 5.511 imágenes de fondo de ojo obtenidas con una cámara de fondo RetCam y reportaron una sensibilidad del 93% y una especificidad del 94% para determinar la presencia de enfermedad adicional. El software desarrollado por Redd y colaboradores 15basado en la misma tecnología presentó valores de área bajo la curva de sensibilidad y especificidad de 0,96 y 0,91, respectivamente, en la identificación de la retinopatía. Estos estudios demostraron que la IA deep learning ayuda significativamente en el diagnóstico de la retinopatía e impacta la calidad de vida de los pacientes afectados por ella.
En los casos de degeneración macular asociada a la edad (DMAE), el número de estudios que emplean software de IA para el diagnóstico está aumentando. Estos trabajos utilizan bases de datos de tomografía de coherencia óptica para validar esta tecnología en el diagnóstico de la enfermedad.
Ting y colaboradores 11investigaron una base de datos de 72.610 imágenes y clasificaron a los pacientes en dos grupos, aquellos con enfermedad intermedia a avanzada y aquellos sin la enfermedad, según el Age-Related Eye Disease Studies (Areds). Los autores informaron una sensibilidad y especificidad del 93,2% y 88,2%, respectivamente. Burlina y colaboradores 16 clasificaron pacientes con un software que utilizó 130.000 imágenes de 4.613 pacientes e informó una tasa de precisión del 91,6% en la identificación de pacientes con DMAE moderada y avanzada.
Grassmann y colaboradores 17 probaron un algoritmo desarrollado con base en 120.656 fotografías de fondo de ojo de 3.654 pacientes según parámetros de la base de datos Areds e informaron tasa de precisión del 84,2% para diferenciar enfermedades tempranas y tardías, y una precisión del 94,3% para identificar a individuos sanos. Estos resultados demuestran la eficacia del uso de la IA en el diagnóstico de la DMAE en etapas más avanzadas.
En los casos de diagnóstico de glaucoma, enfermedad que se encuentra entre las principales causas de pérdida de visión en todo el mundo, los estudios iniciales utilizaron IA deep learning para evaluar fotografías del fondo de ojo. En una investigación que utilizó una base de datos de 125.189 fotografías de fondo de ojo, Ting y colaboradores 11reportaron sensibilidad del 96,4% y especificidad del 87,2%.
Teniendo en cuenta estos datos, es innegable la importancia del uso de la IA en la oftalmología, destacando los beneficios que parecen indiscutibles para un diagnóstico más asertivo. Basándose en los datos individuales de pacientes y en sus características específicas, los algoritmos de IA pueden ayudar a determinar el mejor plan de tratamiento, ya sea mediante cirugía, ya sea mediante terapia farmacológica u otras intervenciones, maximizando las posibilidades de éxito.
Desafios bioéticos en la implementación de la inteligencia artificial en la medicina
La integración de la IA en la oftalmología ha sido eficaz y prometedora para el diagnóstico precoz y el tratamiento eficaz de enfermedades oculares, ofreciendo beneficios innegables para los pacientes y los profesionales de la salud ocular. Sin embargo, a medida que esta tecnología se generaliza, surgen preocupaciones bioéticas que no pueden ignorarse.
Durante la última década, los desafíos bioéticos para la implementación y utilización de la IA en la atención médica se han convertido en una preocupación importante tanto en la comunidad académica como en la empresarial. Numerosas organizaciones y hospitales están reclutando a expertos en bioética de la IA para unirse a sus equipos con el fin de ajustarse a las directrices éticas de la IA 18.
Las preocupaciones bioéticas asociadas con las intervenciones médicas basadas en IA están relacionadas con todos los ciclos de gestión de enfermedades, desde el diagnóstico hasta el tratamiento, teniendo en cuenta que la tecnología se aplica a los datos de los pacientes. Se deben establecer límites claros sobre quién es titular o quién administra estos datos, y los pacientes deben ser conscientes de dónde se guardan sus datos y cuán seguros se encuentran 18.
Según Abdullah y colaboradores 10, los desafíos bioéticos que implica la implementación de la IA en la medicina se han clasificado en seis categorías principales: 1) ética del entrenamiento de máquinas; 2) ética de la precisión de máquinas; 3) ética relacionada con el paciente; 4) ética relacionada con el médico; 5) ética compartida; y 6) funciones de los reguladores.
La aplicación de la IA en la oftalmología plantea cuestiones fundamentales sobre la privacidad, la responsabilidad, los sesgos algorítmicos y la equidad en el acceso a la salud ocular. En este contexto, este trabajo explora los desafíos éticos del uso de la IA en la oftalmología, resaltando la importancia de un debate informado y de una regulación adecuada para asegurar que esta tecnología se utilice de manera responsable y beneficiosa para la sociedad.
La creciente capacidad de la IA para analizar grandes conjuntos de datos de pacientes e imágenes oftálmicas, así como para tomar decisiones clínicas, plantea importantes preocupaciones con respecto a la privacidad de los datos médicos. En cuanto a la privacidad de la información, es importante considerar dos aspectos: la propiedad de los datos, que indica autoridad para controlar, procesar o acceder a los datos, y la rentabilidad del derecho a vender los datos o recibir una compensación 19.
Por lo tanto, una preocupación importante es asegurar que la información de los pacientes recopilada para entrenar computadoras y modelos de IA esté protegida de manera segura por hospitales, clínicas, organizaciones de investigación, grandes compañías farmacéuticas, compañías de seguros y compañías de tecnología que almacenan dichos datos 19. Por lo tanto, proteger la información sensible del paciente es esencial, y se requieren medidas estrictas de ciberseguridad y el cumplimiento de la normativa de protección de datos para mitigar estos riesgos 19.
Un algoritmo derivado de IA es tan bueno como los datos médicos que lo fundamentan 19, que son la clave para implementar la IA en la oftalmología. En este contexto, los sesgos algorítmicos también son una preocupación ética importante. Por lo tanto, es extremadamente importante que los datos estén conectados, estandarizados y formateados de manera uniforme para que sean útiles a la hora de impulsar la aplicación de la IA en el campo de la salud 10.
Si los algoritmos se entrenan con conjuntos de datos sesgados, pueden perpetuar las desigualdades existentes en la atención oftalmológica, favoreciendo a ciertos grupos demográficos en detrimento de otros. Asegurar que los algoritmos sean imparciales y equitativos es crucial para evitar disparidades en el acceso a la salud ocular 19.
Las predicciones erróneas realizadas por algoritmos de IA debido a la baja calidad de los datos, por ejemplo, son inevitables, lo que puede generar problemas de responsabilidad para los médicos. Dada esta premisa, la cuestión de la responsabilidad legal en caso de diagnóstico erróneo o de tratamiento inadecuado es compleja cuando la IA desempeña un papel activo en la toma de decisiones médicas. ¿Quién es responsable cuando un algoritmo comete un error que perjudica al paciente? Esta cuestión debe abordarse de manera transparente y justa para todas las partes involucradas.
En ese sentido, cuando un error médico implica el uso de tecnología de IA, es necesario identificar y comunicar al responsable moral y al responsable legal, dos aspectos muy importantes que tener en cuenta. Además, cuando se trata de responsabilidad, también hay que tener en cuenta, a nivel individual, las responsabilidades profesionales que abarcan la interpretación adecuada y precisa de los resultados de la IA por parte de los prestadores de cuidados de salud, así como las responsabilidades técnicas/tecnológicas.
Estas responsabilidades pueden incluir, por ejemplo, el diseño físico adecuado, el empleo de los sistemas y la creación de los algoritmos correctos para el aprendizaje automático 7,19. Por lo tanto, las responsabilidades profesionales y tecnológicas desde la perspectiva del proceso de diagnóstico y tratamiento de la IA deben perfeccionarse aún más en futuras regulaciones médicas.
Otro aspecto importante que tener en cuenta es la relación entre médico y paciente, ya que, con el uso de tecnologías de IA, los pacientes tienden a pasar más tiempo comunicándose con dispositivos autónomos que con sus médicos. Como resultado, la relación bidireccional médico-paciente, que se basaba en la confianza, termina cambiando a una relación de tres vías que incluye al paciente, el dispositivo médico electrónico y el médico. Así, valores fundamentales de cuidado, como comunicación, confianza y confidencialidad, pueden ser fácilmente degradados por tecnologías de IA y big data 19.
Cuando estas importantes interacciones están ausentes o reducidas, el diálogo médico-paciente puede verse afectado, distorsionando el conocimiento y la comprensión del paciente sobre un procedimiento o tratamiento en particular, lo que puede afectar negativamente su capacidad para tomar decisiones autónomas 19.
Además, la equidad en el acceso a la IA en la oftalmología es una consideración ética esencial, ya que la mayoría de los datos que alimentan las herramientas de IA tiende a ser homogénea con relación a las características de los pacientes, lo que puede resultar en una subrepresentación o sobrerrepresentación de ciertos grupos. La práctica común es que las poblaciones minoritarias a menudo estén subrepresentadas, lo que las hace vulnerables a diagnósticos erróneos o procedimientos de tratamiento defectuosos como resultado 19.
Es importante resaltar que las ventajas de esta tecnología no solo deben estar disponibles para quienes pueden pagar por ella, sino también para las comunidades menos privilegiadas. El principio de justicia distributiva prescribe la distribución de recursos en la sociedad y la no discriminación de individuos y grupos. Al emplear la IA en la medicina, es importante fomentar la equidad y eliminar la discriminación en la toma de decisiones algorítmicas sobre el tratamiento del paciente y la prevención de enfermedades 19.
La etapa de consentimiento es otro punto de preocupación respecto a los aspectos bioéticos del uso de la IA en la oftalmología. Es importante resaltar que el enfoque para obtener el consentimiento del paciente que recibirá atención médica por medio de herramientas de IA es (o debería ser) diferente a la empleada con pacientes que recibirán atención médica tradicional, lo que implica serios desafíos éticos 19. La etapa de explicación y transmisión de información veraz, basada en el conocimiento y que transmita confianza al paciente, es un valor clave desde la perspectiva del consentimiento del paciente en la atención con el uso de herramientas de IA.
Para aprovechar los beneficios de la IA y asegurar la bioética durante la atención, los médicos deben comprender y liderar el progreso tecnológico de la IA. Para Anom 19, el médico debe tener conocimientos fundamentales y estar siempre al día con las tecnologías para poder explicar la naturaleza básica de la tecnología a sus pacientes. El déficit de conocimiento de los médicos sobre los sistemas de IA puede conllevar riesgos de no proporcionar al paciente información suficiente o comprensible y afectar gravemente a la calidad o validez del proceso de consentimiento informado.
Para asegurar la bioética en la atención cuando se produzca la implementación y el uso de herramientas de IA en la oftalmología, es importante tratar de entender y comprender la visión de los profesionales de medicina sobre estas tecnologías. Los médicos están en la línea de frente en la atención y, en cierto modo, asumen en gran medida los riesgos con relación a las responsabilidades del uso de estas tecnologías.
En este contexto, un estudio realizado por Martinho, Kroesen y Chorus 18tuvo como objetivo identificar las perspectivas de los profesionales de medicina con relación a la explicación del uso de la IA en la medicina y en su atención. En definitiva, los profesionales consideran que la IA nunca debería ser una “caja negra” y que los médicos deben ser capaces de explicar cómo se generan los resultados de las herramientas de IA. Resaltan también que los médicos no son los únicos que necesitan saber cómo funcionan las herramientas médicas de IA, y que dichas herramientas solo deben ser utilizadas por médicos que entiendan cómo se toman las decisiones de IA.
Otro aspecto importante que tener en cuenta es la importancia de que los médicos expliquen y concienticen a los pacientes sobre los papeles específicos que desempeñan los humanos en una etapa del procedimiento versus los atributos del sistema o dispositivo de IA/robótica 19. Cabe señalar también que esta explicación debe estar presente en la etapa de consentimiento y confidencialidad de los datos, ya que, ante la preocupación por una violación de la confidencialidad con relación a una empresa tecnológica o compañía de seguros, el paciente puede no proporcionar información completa o evitar el tratamiento, lo que conduce a una enfermedad más profunda 20.
A medida que la IA continúa evolucionando en la oftalmología, es imperativo que la comunidad médica, los reguladores y los desarrolladores de tecnología colaboren para abordar adecuadamente estos desafíos bioéticos. Es necesario desarrollar y mejorar la regulación y las directrices éticas para asegurar que la IA sea una aliada valiosa en la oftalmología, sin comprometer la ética médica, la equidad y la privacidad de los pacientes.
Gobernanza de bioética en el uso de la inteligencia artificial en la oftalmología
A pesar de las enormes posibilidades de implementación y utilización de la IA avanzada en el ámbito de la salud, especialmente en la oftalmología, el uso ético de estas aplicaciones ha llevado a la necesidad de una nueva forma de gobernanza bioética. Para garantizar la confiabilidad de las aplicaciones de IA, se sugiere crear un marco mundial de gobernanza bioética multiprofesional, junto con directrices específicas para el uso de IA avanzada en la oftalmología.
La gobernanza en bioética en la medicina desempeña un papel fundamental para asegurar una asistencia médica de calidad y justicia para todos los pacientes. La ética médica se basa en principios moralmente aceptados y en los deberes de los médicos para con sus pacientes. La gobernanza, a su vez, implica la creación e implementación de políticas y directrices que rigen la conducta de los profesionales de la salud, así como la promoción de la prestación de cuidados con ética y calidad.
Es importante que los profesionales de la salud compongan estas gobernanzas en bioética, una vez que los desarrolladores de IA para aplicaciones de salud pueden tener valores que no siempre están alineados con los principios de la prestación ética de cuidados de salud, como se especifica en los principios de ética en cuidados de salud 19,20.
Una de las razones por las que la gobernanza en bioética en el uso de la IA en la oftalmología es importante tiene que ver con la protección de la autonomía de los pacientes. Azambuja y Garrafa 21 afirman que, para Beauchamp y Childress, la autonomía del paciente es como mínimo un autogobierno libre tanto de interferencias controladoras como de limitaciones, como la comprensión inadecuada, que impiden una elección significativa.
La gobernanza debe establecer estándares que garanticen que, durante la etapa de consentimiento y explicación de los procedimientos, los pacientes sean adecuadamente informados sobre todas las etapas que implica el uso de la IA en la atención de salud. Esto permite a los pacientes tomar decisiones informadas y participar activamente en su propio proceso de diagnóstico/tratamiento.
Otro papel importante de la gobernanza en bioética es garantizar la beneficencia del uso de IA y tecnologías para el paciente. El uso y las aplicaciones de tecnologías de big data y la IA deben asegurar firmemente la importancia central de promover el bienestar del paciente. Es importante medir los riesgos frente a los beneficios que las tecnologías de data e IA presentes a los pacientes. Además, el uso de las tecnologías debe ser beneficioso y garantizar la equidad para todos los pacientes en las más diversas formas 22.
Por lo tanto, es necesario abordar y gestionar los riesgos bioéticos que presentan las tecnologías, y buscar formas de equilibrar los beneficios y riesgos que presentan para los individuos y la sociedad 19,22. Con respecto a la privacidad de los datos, la gobernanza en bioética debe reconocer los desafíos éticos asociados con la falta o insuficiencia de consciencia de los pacientes. Sus datos se comparten entre las partes interesadas en los cuidados de salud y repositorios de big data, así como en las varias plataformas de medios sociales para empresas de tecnología 19.
Obtener el consentimiento válido del paciente puede resultar difícil cuando los usos futuros de sus datos no se comparten o no están claros para ellos, ni tampoco para los propios profesionales de medicina. En ese sentido, las empresas de tecnología y las organizaciones de salud pueden ayudar a aumentar la confianza de los profesionales de medicina en la IA, así como de los propios pacientes. Esta confianza puede basarse en la información transparente sobre el alojamiento y la seguridad de los datos, su propietario y con qué finalidad se utilizarán 22.
Una vez que se establece la confianza en la relación médico-paciente, es extremadamente importante que el profesional de medicina conozca esta información y esté seguro con relación a los datos de sus pacientes. Cabe resaltar que la gobernanza en bioética debe asegurar que el paciente tenga la opción de negar el consentimiento para el uso de sus datos. Además, los datos médicos de propiedad física deben estar cubiertos por leyes de propiedad o leyes de derechos intelectuales, que deben establecer la propiedad de estos datos, que pueden ser públicos o privados 10.
Se ha informado que los estudiantes y profesionales de medicina comprenden la creciente importancia de la IA en el ámbito de la salud y tienen actitudes positivas con respecto a su uso clínico. A pesar de las actitudes positivas hacia la IA, también se relata que están poco capacitados en estas tecnologías 20. Ante ello, la gobernanza en bioética en el uso de IA en la oftalmología debe incentivar la formación continua de los profesionales de la salud en tecnología, para que estén aptos para utilizar herramientas de IA en sus cuidados y, principalmente, para velar por la bioética.
Cabe mencionar que la tendencia es que las tecnologías de IA se apliquen cada vez más en la prestación de los servicios de salud. Por lo tanto, es sumamente importante que las gobernanzas en bioética estimulen el conocimiento ya en el entorno académico en el que se forman estos profesionales, y no solo cuando lleguen al mercado laboral. Los estudios indican que los estudiantes de medicina que recibieron educación en IA durante su formación académica se sienten más seguros trabajando con IA en el futuro en comparación con los estudiantes que no recibieron esta educación 18,20.
Solo mediante la capacitación en IA y en las nuevas tecnologías los estudiantes y profesionales tendrán confianza para tomar decisiones asertivas, con un aprendizaje basado en conocimientos clínicos y tecnológicos, de modo que no teman ser responsabilizados por haber adoptado o no la sugerencia de la IA. Las herramientas de IA para el diagnóstico y el tratamiento afectan directamente la salud de los pacientes. Por lo tanto, es necesario abordar resultados potencialmente fallidos que pueden ser producidos por tecnologías de big data e IA en la oftalmología 19,22.
Según esta línea de razonamiento, es importante enfatizar que los productos de salud de IA y las nuevas tecnologías deben probarse en ensayos clínicos aleatorios, que son la fuente más sólida de evidencia médica 20. Corresponde a la gobernanza de bioética fomentar e incentivar la realización de ensayos clínicos, además de establecer las directrices que estos estudios deben seguir y cumplir.
En resumen, para enfrentar algunos de los desafíos y daños que presentan las tecnologías, las comunidades de bioética y salud deben establecer estrategias sólidas de seguridad, privacidad y gobernanza de datos. Estas políticas deben estar suficientemente establecidas para garantizar que todos los pacientes tengan control total sobre sus propios datos y confíen en que no se utilizarán para perjudicarlos o discriminarlos 2,22.
Algunos de los aspectos más importantes incluyen el papel de los gobiernos en la auditoría ética y las responsabilidades de los diferentes actores que participan en el sistema de gobernanza ética 2. Las partes interesadas del gobierno y de la salud deben tener en cuenta la inversión en soluciones que garanticen salvaguardias de seguridad para proteger los datos y la privacidad de los pacientes, así como la información de salud en general. En situaciones en las que ya existen políticas y regulaciones, es necesario actualizarlas continuamente para mantenerse al día con estas tecnologías en rápida evolución 10.
Consideraciones finales
La integración de la IA en la oftalmología ha resultado eficaz y prometedora para el diagnóstico precoz y el tratamiento eficaz de enfermedades, promoviendo un abordaje más preciso. El campo de la medicina oftalmológica tiene varios potenciales relacionados con la IA, dado el carácter ambulatorio de la práctica, una vez que utiliza numerosas técnicas digitales, como la fotografía de fondo de ojo en color, la OCT y la VF.
El campo del diagnóstico de enfermedades oftalmológicas es prometedor para el estudio y el avance de este tipo de tecnología, y los datos de salud aumentan aproximadamente un 50% cada año, lo que la convierte en una de las áreas digitales de más rápido crecimiento. Sin embargo, a medida que esta tecnología se generaliza, surgen preocupaciones bioéticas que no pueden ignorarse.
Se sabe que los desafíos bioéticos en el uso de la IA en la salud son puntos importantes que tener en cuenta para que haya un progreso seguro y beneficioso, tanto para los profesionales como para los pacientes. A medida que evoluciona la IA en la oftalmología, es imperativo que la comunidad médica, los reguladores y los desarrolladores de tecnología colaboren para abordar adecuadamente estos desafíos bioéticos, como cuestiones de datos, privacidad, credibilidad y precisión diagnóstica, confianza y posibles impactos.
Además, es necesario considerar y estudiar algunos puntos relacionados con el acceso a este tipo de tecnología, cuando se utiliza de manera correcta y beneficiosa. Asimismo, se deben desarrollar y mejorar regulaciones y directrices para asegurar que la IA sea una aliada valiosa en la oftalmología, sin comprometer datos, pacientes y profesionales.
Cabe resaltar que la tendencia es que cada vez se apliquen más tecnologías e IA en la atención médica. Sin embargo, es de suma importancia que las gobernanzas en bioética fomenten el conocimiento ya en el entorno académico en el que se forman estos profesionales,validando, estimulando, instruyendo y capacitando de la mejor manera posible.
Referencias bibliográficas
-
1 Dourado DA, Aith FMA. The regulation of artificial intelligence for health in Brazil begins with the General Personal Data Protection Law. Rev Saúde Pública [Internet]. 2022 [acesso 17 set 2024];56: 80. DOI: 10.11606/s1518-8787.2022056004461
» https://doi.org/10.11606/s1518-8787.2022056004461 -
2 Guan J. Artificial intelligence in healthcare and medicine: promises, ethical challenges and governance. Chin Med Sci J [Internet]. 2019 [acesso 17 set 2024];34(2):76-83. DOI: 10.24920/003611
» https://doi.org/10.24920/003611 -
3 Li JO, Liu H, Ting DSJ, Jeon S, Chan RVP, Kim JE et al. Digital technology, tele-medicine and artificial intelligence in ophthalmology: a global perspective. Prog Retin Eye Res [Internet]. 2021 [acesso 17 set 2024];82:100900. DOI: 10.1016/j.preteyeres.2020.100900
» https://doi.org/10.1016/j.preteyeres.2020.100900 -
4 World Health Organization. mHealth: use of appropriate digital technologies for public health: report by the director-general. WHO [Internet]. 2018 [acesso 17 set 2024]. Disponível: https://iris.who.int/handle/10665/276430
» https://iris.who.int/handle/10665/276430 -
5 Kapoor R, Walters SP, Al-Aswad LA. The current state of artificial intelligence in ophthalmology. Surv Ophthalmol [Internet]. 2019 [acesso 17 set 2024];64(2):233-40. DOI: 10.1016/j.survophthal.2018.09.002
» https://doi.org/10.1016/j.survophthal.2018.09.002 -
6 Zbrzezny AM, Grzybowski AE. Deceptive tricks in artificial intelligence: adversarial attacks in ophthalmology. J Clin Med [Internet]. 2023 [acesso 17 set 2024];12(9):3266. DOI: 10.3390/jcm12093266
» https://doi.org/10.3390/jcm12093266 -
7 Sheng B, Chen X, Li T, Ma T, Yang Y, Bi L, Zhang X. An overview of artificial intelligence in diabetic retinopathy and other ocular diseases. Front Public Health [Internet]. 2022 [acesso 17 set 2024];10:971943. DOI: 10.3389/fpubh.2022.971943
» https://doi.org/10.3389/fpubh.2022.971943 -
8 Paixão GMDM, Santos BC, Araujo RMD, Ribeiro MH, Moraes JLD, Ribeiro AL. Machine learning na medicina: revisão e aplicabilidade. Arq Bras Cardiol [Internet]. 2022 [acesso 17 set 2024];118(1):95-102. DOI: 10.36660/abc.20200596
» https://doi.org/10.36660/abc.20200596 -
9 Nunes HDC, Guimarães RMC, Dadalto L. Desafios bioéticos do uso da inteligência artificial em hospitais. Rev. bioét. (Impr.) [Internet]. 2022 [acesso 17 set 2024];30(1): 82-93. DOI: 10.1590/1983-80422022301509pt
» https://doi.org/10.1590/1983-80422022301509pt -
10 Abdullah YI, Schuman JS, Shabsigh R, Caplan A, Al-Aswad LA. Ethics of artificial intelligence in medicine and ophthalmology. Asia-Pacific J Ophthalmol (Phila) [Internet]. 2021 [acesso 17 set 2024];10(3):289-98. DOI: 10.1097/APO.0000000000000397
» https://doi.org/10.1097/APO.0000000000000397 -
11 Ting DSW, Lin H, Ruan Boonsuk P, Wong TY, Sim DA. Artificial intelligence, the internet of things, and virtual clinics: ophthalmology at the digital translation forefront. Lancet Digit Health [Internet]. 2020 [acesso 17 set 2024];2(1):e8-9. DOI: 10.1016/S2589-7500(19)30217-1
» https://doi.org/10.1016/S2589-7500(19)30217-1 -
12 Keskinbora K, Güven F. Artificial intelligence and ophthalmology. Turk J Ophthalmol [Internet]. 2020 [acesso 17 set 2024];50(1):37-43. DOI: 10.4274/tjo.galenos.2020.78989
» https://doi.org/10.4274/tjo.galenos.2020.78989 -
13 Early Treatment for Retinopathy of Prematurity Cooperative Group; Good WV, Hardy RJ, Dobson V, Palmer EA, Phelps DL et al. Final visual acuity results in the early treatment for retinopathy of prematurity study. Arch Ophthalmol [Internet]. 2010 [acesso 17 set 2024]; 128(6):663-71. DOI: 10.1001/archophthalmol.2010.72
» https://doi.org/10.1001/archophthalmol.2010.72 -
14 Brown JM, Campbell JP, Beers A, Chang K, Ostmo S, Chan RVP et al. Automated Diagnosis of Plus Disease in Retinopathy of Prematurity Using Deep Convolutional Neural Networks. JAMA Ophthalmol [Internet]. 2018 [acesso 17 set 2024];136(7):803-10. DOI: 10.1001/jamaophthalmol.2018.1934
» https://doi.org/10.1001/jamaophthalmol.2018.1934 -
15 Redd TK, Campbell JP, Brown JM, Kim SJ, Ostmo S, Chan RVP et al. Evaluation of a deep learning image assessment system for detecting severe retinopathy of prematurity. Br J Ophthalmol [Internet]. 2018 [acesso 17 set 2024]. DOI: 10.1136/bjophthalmol-2018-313156
» https://doi.org/10.1136/bjophthalmol-2018-313156 -
16 Burlina PM, Joshi N, Pekala M, Pacheco KD, Freund DE, Bressler NM. Automated grading of age-related macular degeneration from color fundus images using deep convolutional neural networks. JAMA Ophthalmol [Internet]. 2017 [acesso 17 set 2024];135(11):1170-6. DOI: 10.1001/jamaophthalmol.2017.3782
» https://doi.org/10.1001/jamaophthalmol.2017.3782 -
17 Grassmann F, Mengelkamp J, Brandl C, Harsch S, Zimmermann ME, Linkohr B et al. A deep learning algorithm for prediction of age-related eye disease study severity scale for age-related macular degeneration from color fundus photography. Ophthalmology [Internet]. 2018 [acesso 17 set 2024];125(9):1410-20. DOI: 10.1016/j.ophtha.2018.02.03
» https://doi.org/10.1016/j.ophtha.2018.02.03 -
18 Martinho A, Kroesen M, Chorus C. A healthy debate: exploring the views of medical doctors on the ethics of artificial intelligence. Artif Intell Med [Internet]. 2021 [acesso 17 set 2024];121:102190. DOI: 10.1016/j.artmed.2021.102190
» https://doi.org/10.1016/j.artmed.2021.102190 -
19 Anom BY. Ethics of big data and artificial intelligence in medicine. Ethics Med Public Health [Internet]. 2020 [acesso 17 set 2024];15:100568. DOI: 10.1016/j.jemep.2020.100568
» https://doi.org/10.1016/j.jemep.2020.100568 -
20 Kumar P, Chauhan S, Awasthi LK. Artificial intelligence in healthcare: review, ethics, trust challenges & future research directions. Eng Appl Artif Intell [Internet]. 2023 [acesso 17 set 2024];120:105894. DOI: 10.1016/j.engappai.2023.105894
» https://doi.org/10.1016/j.engappai.2023.105894 -
21 Azambuja LEOD, Garrafa V. A teoria da moralidade comum na obra de Beauchamp e Childress. Rev. bioét. (Impr.) [Internet]. 2015 [acesso 17 set 2024]; 23(3):634-44. DOI: 10.1590/1983-80422015233100
» https://doi.org/10.1590/1983-80422015233100 -
22 Sichman JS. Inteligência artificial e sociedade: avanços e riscos. Estud Av [Internet]. 2021 [acesso 17 set 2024];35(101):37-50. DOI: 10.1590/s0103-4014.2021.35101.004
» https://doi.org/10.1590/s0103-4014.2021.35101.004
