La inteligencia artificial y sus implicaciones éticas y legales: revisión integradoraResumen
Recientemente, la inteligencia artificial se ha incorporado a la medicina para mejorar la atención al paciente, agilizando los procesos y permitiendo una mayor precisión. Sin embargo, existe una preocupación mundial respecto a las consecuencias y compromisos éticos y legales que implica el uso de esta herramienta. En este contexto, esta revisión integradora tuvo el objetivo de mapear evidencias acerca de las implicaciones éticas y legales del empleo de inteligencia artificial en la medicina con base en estudios sobre el tema. Se constató que el uso de esta tecnología en el ámbito de la salud resultó en un escenario disruptivo y que, por lo tanto, urge regularla en todas las subáreas de forma ética y responsable. Es necesario que las partes interesadas trabajen más para seguir abordando la cuestión de la privacidad y de la protección de datos por medio de acuerdos mundiales y de pactos transdisciplinarios.
Inteligencia artificial; Bioética; Jurisprudencia
Resumo
Recentemente, a inteligência artificial passou a ser incorporada na medicina para melhorar o atendimento ao paciente, acelerando processos e permitindo maior precisão. Entretanto, há uma preocupação global quanto às consequências e comprometimentos éticos e legais que envolvem o uso dessa ferramenta. Nesse contexto, esta revisão integrativa teve o objetivo de mapear evidências acerca de implicações éticas e legais do emprego de inteligência artificial na medicina com base em estudos sobre o tema. Constatou-se que o uso dessa tecnologia na área da saúde resultou em um cenário disruptivo e que, portanto, ela precisa ser urgentemente regulamentada em todas as subáreas de forma ética e responsável. É necessário mais trabalho das partes interessadas para continuar a abordar a questão da privacidade e da proteção dos dados por meio de acordos mundiais e pactos transdisciplinares.
Inteligência artificial; Bioética; Jurisprudência
Abstract
Artificial intelligence has recently been incorporated into medicine to improve patient care, speeding up processes and allowing for greater precision. However, there is a global concern regarding the ethical and legal consequences and commitments involved in using this tool. In this context, this integrative review aimed to map evidence about the ethical and legal implications of using artificial intelligence in medicine based on studies on the subject. The use of this technology in the health area resulted in a disruptive scenario, and, therefore, it urgently needs to be regulated in all subareas ethically and responsibly. More studies are required from stakeholders to continue addressing the issue of data privacy and protection through global agreements and transdisciplinary pacts.
Artificial intelligence; Bioethics; Jurisprudence
Inteligencia artificial (IA), término acuñado en 1955 1 es descrito por el científico informático John McCarthy como la combinación de ciencia e ingeniería para crear dispositivos inteligentes para el bienestar humano, como se señalan Rupali y Amit 2. Durante el siglo XX, la IA comenzó a adoptarse en varias áreas, incluida la salud, como, por ejemplo, Robodoc, en 1992 3 y el primer robot quirúrgico, el DaVinci, en 1997 4.
Así, el progreso tecnológico en el área de la salud presenta correspondencia, es decir, reciprocidad entre los actores del proceso. Por una parte, beneficia al paciente con soluciones para un problema o enfermedad y, por otra, permite a los profesionales de salud optimizar protocolos, estandarizar métodos e instrumentos técnicos y analizar datos de forma más eficiente 5.
Sin embargo, para introducir una innovación en el ámbito de la salud, es necesario el acceso a los registros personales de pacientes para los modelos de entrenamiento, lo que, al no atraer a personas que valoran su privacidad, representa un obstáculo para la implementación práctica de la IA. Por lo tanto, el uso correcto de los datos, la privacidad y los sesgos forman parte de la ética de la IA 6.
Un desafío importante al que se enfrenta la comunidad médica a la hora de utilizar la IA es que las propias herramientas empleadas para generar modelos asociados a los cuidados de salud, con el objetivo de mejorar la salud pública, también son utilizadas por diferentes industrias. Dicho uso por parte de la industria puede afectar negativamente a la salud pública al influir en el comportamiento humano mediante algoritmos de machine learning (ML) para rastrear bases de datos generadas por la interacción humana con las computadoras en la vida cotidiana. Así que es importante comprender las fortalezas, las limitaciones, las oportunidades, los desafíos éticos y los riesgos de la IA relacionados con la salud 7.
La bioética establece principios, normas y reglas éticas universales y obligatorias para toda la humanidad. Es una disciplina interdisciplinaria y de segundo orden que amplía su tema, considera los problemas complejos e interdisciplinarios, además de acoger perspectivas diversas 8. Así, teniendo en cuenta el avance de las investigaciones que utilizan IA en el ámbito de la salud, surge la pregunta: ¿cuáles son las principales implicaciones éticas y legales de la IA en el ámbito de la salud? Por lo tanto, esta revisión integradora tiene como objetivo mapear las evidencias acerca de las implicaciones éticas y legales de la IA en la salud.
Método
Se trata de una revisión integradora de la literatura, que utilizó las bases de datos PubMed e IEEE Xplore, e incluyó artículos publicados entre el 2018 y el 2023. La estrategia de búsqueda adoptada fue la combinación de los descriptores “artificial intelligence and ethical issues and legal aspects and health”, para la base de datos PubMed, y “artificial intelligence and ethical issues and health”, para la base de datos IEEE Xplore.
Resultados
La búsqueda identificó 149 resultados, 98 en PubMed y 51 en IEEE Xplore. Tras la lectura de los 149 títulos y resúmenes, se preseleccionaron 16 artículos para lectura de texto completo, de los cuales se excluyeron dos, uno por no reportar aspectos éticos o legales y el otro por tratarse de una recomendación (Figura 1). Tras las exclusiones, se seleccionaron 14 artículos para el análisis cualitativo, provenientes de diez países, como se ilustra en el Cuadro 1.
Diagrama de los artículos incluidos y excluidos, según los criterios establecidos en la investigación
Tipo de tecnología que utiliza inteligencia artificial
La IA y sus algoritmos de aprendizaje automático (ML) ofrecen una nueva promesa para la biomedicina personalizada y una atención sanitaria más rentable, con una capacidad técnica impresionante para imitar las facultades cognitivas humanas 9. La IA puede ayudar en el diagnóstico de enfermedades, descubrimiento de nuevos medicamentos, epidemiología, atención individual y eficiencia operativa en unidades médicas y hospitalarias 23.
Las publicaciones incluidas señalan diferentes tipos de IA en diversos campos de la salud. Respecto al uso de la IA en la cirugía robótica, O’Sullivan y colaboradores 10 afirman que el desarrollo exitoso de robots quirúrgicos autónomos confiables y de última generación es un desafío, y buscar la aceptación y la aprobación para su uso es una cuestión multifacética. Para los autores, una preocupación más obvia se refiere a las consecuencias que implican la muerte o la discapacidad del paciente como resultado directo de un error quirúrgico.
Morris y colaboradores 11 añaden que la transparencia y la responsabilidad son fundamentales para la implementación de la IA en la toma de decisiones quirúrgicas y en la cirugía robótica. Los autores resaltan que es indiscutible la influencia de la tecnología aplicada a la cirugía, pero es necesario discutir estándares éticos, políticas regulatorias y fuerzas financieras para maximizar su potencial.
Otro tipo de IA que se ha insertado en la vida diaria de las personas es ChatGPT (OpenAI), un modelo de lenguaje amplio y chatbot de IA. Wang y colaboradores 13 afirman que su notable capacidad para acceder y analizar grandes cantidades de información le permite generar, categorizar y resumir textos con alta coherencia.
El aprendizaje automático (ML) es una rama de la IA en la que los algoritmos computacionales se construyen con base en el aprendizaje de datos 24. Avances recientes en algoritmos de software de ML y disponibilidad de potentes recursos de hardware de computación han dado lugar a una expansión significativa de la aplicación potencial de IA/ML en diversas áreas de la medicina. A pesar del entusiasmo y de estos potenciales anticipados, la aplicación de IA/ML en la práctica clínica diaria sigue siendo escasa, lo que puede atribuirse a desafíos técnicos como la integración en el flujo de trabajo clínico 9.
Naik y colaboradores 23 presentan una red neuronal artificial (RNA) como marco conceptual para el desarrollo de algoritmos de IA. Es un modelo del cerebro humano compuesto por una red interconectada de neuronas conectadas por canales de comunicación ponderados. La IA utiliza varios algoritmos para encontrar correlaciones no lineales complejas en conjuntos de datos masivos.
El aprendizaje profundo (deep learning, DL) es un tipo de IA que permite que un algoritmo clasifique y agrupe datos de forma independiente. En lugar de estar programados explícitamente para prestar atención a atributos o variables específicos, estos algoritmos tienen la capacidad de desarrollar, con la exposición a los datos, la capacidad de reconocer patrones 15.
Aunque estas tecnologías son prometedoras, su aplicación generalizada ha sido limitada en el ámbito médico y las expectativas se han visto modificadas por desafíos éticos y preocupaciones relativas a la privacidad del paciente, la responsabilidad legal, la confiabilidad y la justicia.
Aspectos éticos
Según Morris y colaboradores 11, el uso de la IA debe basarse en los principios éticos y en los desafíos que implica la relación médico-paciente, en los sistemas de salud y en las comunidades locales. En ese sentido, Drabiak y colaboradores 9 afirman que, a medida que se vuelve cada vez más prominente en los cuidados de salud, la AI/ML plantea una multitud de preocupaciones sobre su impacto en la forma en que los médicos practican la medicina.
Las cuestiones relacionadas con sesgos de la automatización y la descalificación están a la vanguardia de estas preocupaciones. El sesgo de automatización se produce cuando los médicos confían demasiado de la IA/ML y disminuyen sus esfuerzos personales para revisar los resultados de las máquinas, lo que genera riesgos para la seguridad del paciente 9. Otra cuestión sobre las herramientas actuales de ML en la salud se refiere a casos en los que los algoritmos recomiendan decisiones quirúrgicas en tiempo real en la sala de cirugía, de modo que surgen dudas sobre si la responsabilidad recae en el cirujano o en el desarrollador de la herramienta de ML 11.
De hecho, según los datos constatados en el análisis bibliométrico, los principales aspectos encontrados en la literatura acerca de la ética en la IA son aquellos generalmente identificados en los sistemas basados en IA, asumiendo la seguridad una relevancia destacada. Dos sectores de aplicaciones principales aparecen asociados principalmente a la ética en la IA: la conducción médica y la autónoma (incluida la robótica). Se recomienda, como actitud moderada, la adopción de mecanismos tradicionales para mejorar aspectos éticos y legales en la ingeniería de Cyber Physical Systems, tales como: auditoría, etiquetado voluntario, certificación por organismos de normalización, licenciamiento responsable de IA y auditoría de terceros 25.
Morley y colaboradores 15 señalan que el desafío legal de asignar responsabilidad en casos de error médico es un ejemplo de un problema frecuente. De esta manera, la discusión legislativa y regulatoria depende directamente de la comprensión de las cuestiones de cada etapa de la implementación de IA —por ejemplo, la recopilación de datos, el entrenamiento y el despliegue— y de cómo se distribuirán estos riesgos y cargas en la sociedad.
La capacidad de rastrear la culpa hasta el fabricante se ve supuestamente amenazada por máquinas que pueden funcionar según reglas no fijas y la capacidad de aprender nuevos estándares de comportamiento. Esta dificultad es motivo de alarma, ya que amenaza tanto el marco moral de la sociedad como el fundamento de la idea de responsabilidad en la ley. Así, el uso de la IA puede hacer con que no haya nadie que responsabilizar por ningún tipo de daño causado 10.
La justicia es una preocupación fundamental de la equidad y la igualdad, y constituye otra cuestión que implica la ética en el uso de la IA. Stewart, Wong y Sung 16 resaltan el riesgo de datos no representativos que consoliden y agudicen las disparidades en la salud, subestimando o sobreestimando los riesgos en ciertos pacientes y poblaciones. Por lo tanto, es necesario reducir el sesgo en la IA para promover resultados de salud mejores y más equitativos.
Aspectos legales
Los sistemas de IA/ML requieren un gran volumen de datos para su entrenamiento y validación, y la propiedad y el consentimiento para utilizar estos datos, así como su protección, son cuestiones críticas. Según Stewart, Wong y Sung 16, el uso de IA e información sensible siempre debe basarse en el consentimiento o en alternativas legalmente justificadas, que requieren que los derechos de las personas sean considerados y protegidos contra daños relacionados con la privacidad, tales como daños a la reputación y exposición al ridículo o al odio.
Teniendo en cuenta que la IA se está introduciendo exponencialmente en el ámbito de la salud, Carter y colaboradores concluyen que no existe un regulador claro, ni un proceso de juicio claro, ni un rastro claro de responsabilización sobre el tema 14. Los autores ven esta situación como un vacío regulatorio, es decir, prácticamente ningún tribunal ha desarrollado normas que aborden específicamente quién debe ser responsabilizado legalmente si una IA causa daño.
A pesar de esto, existe un debate constante sobre si la IA se encaja en las categorías jurídicas existentes o si se debe desarrollar una nueva categoría con sus características e implicaciones especiales 23. La limitación de la transparencia algorítmica es una preocupación que ha dominado la mayoría de las discusiones jurídicas sobre la IA.
Protección de datos
Además de lo que concierne a los aspectos legales generales del uso de la IA, es importante resaltar que también existe la necesidad de controlar el uso de datos personales, incluso en lo que respecta al área de la salud, principalmente con el uso de ML. En este tipo de IA, la representación adecuada de los datos proporciona un mejor desempeño 26. La DL, a su vez, se centra en la creación de modelos de redes neuronales capaces de tomar decisiones basadas en datos, y es particularmente adecuada para el contexto en el que hay un gran conjunto de datos disponibles 27.
En el escenario brasileño, como refieren Dourado y Aith 28, se promulgó la Ley 13.709/2018, que establece la explicación y la revisión de las decisiones automatizadas en el ordenamiento jurídico. Con ello se busca garantizar la seguridad y la protección de los datos y los derechos fundamentales de libertad y privacidad, así como la libre formación de la personalidad individual. Asimismo, otras entidades supranacionales han creado legislación específica para esta cuestión.
En el caso de la Unión Europea, Goddard 29señala que se estableció el Reglamento General de Protección de Datos (RGPD), que se aplica a todos los Estados miembros del bloque, abarcando a todos los residentes, independientemente del lugar del procesamiento de los datos. Este reglamento tiene como principios generales la equidad y la legalidad, la limitación de finalidad, la minimización de datos, la precisión, la limitación de almacenamiento y la integridad y confidencialidad.
En el caso de los países asiáticos, Corea del Sur ya cuenta con leyes y regulaciones en materia de privacidad de datos desde hace dos décadas, sin embargo, recibió mayor atención legislativa con la Ley de Protección de Información Personal, que impulsó cuestiones relacionadas con la privacidad de datos 30. La estructura de esta ley es, en general, similar al RGPD de la Unión Europea 31.
En Oceanía se puede comentar el caso de Australia, cuyos principios de privacidad se basan en las Directrices de la Organización para la Cooperación y el Desarrollo Económico para la Protección de la Privacidad y de los Flujos Transfronterizos de Datos Personales, pero no existe una ley específica sobre privacidad en el país 32. En el continente africano, a su vez, hay variaciones entre países, de modo que algunos ofrecen poca o ninguna política de protección, mientras que otros tienen amplios marcos de gobernanza digital 33.
En lo que se refiere al continente americano, Estados Unidos sigue un enfoque sectorial en materia de protección y privacidad de datos, sin una legislación integral al respecto, pero sí legislación que protege en contextos específicos, como en los sectores de la salud, educación, comunicaciones y otros 34.
Estrategia Brasileña de Inteligencia Artificial
Ante el desarrollo de la IA y el surgimiento de la preocupación de los países por esta nueva tecnología y sus posibles ventajas y consecuencias, Brasil definió en el 2020 el tema de la IA como prioridad, en lo que respecta a innovaciones, proyectos de investigación y desarrollo de tecnologías 35.
En ese contexto, con el objetivo de orientar las acciones del Estado brasileño en el desarrollo y estímulo de la investigación, la innovación, las soluciones, las acciones y el uso consciente y ético de la IA, se creó la Estrategia Brasileña de Inteligencia Artificial (EBIA), que tiene como objetivo potenciar el desarrollo y el uso de la tecnología con miras a promover el avance científico y solucionar problemas concretos del país, identificando áreas prioritarias en las que existe mayor potencial de obtención de beneficios 36.
El documento se basa en nueve ejes temáticos 35:
-
Cuatro ejes transversales, que se refieren a la legislación, regulación y ética; gobernanza de la IA; y aspectos internacionales; y
-
Cinco ejes verticales, constituidos por educación; fuerza de trabajo y capacitación; I+D+i (proyectos de investigación, desarrollo e innovación) y espíritu emprendedor; aplicación en los sectores productivos; aplicación en el sector público; y seguridad pública.
La estrategia se basa en cinco principios definidos por la Organización para la Cooperación y el Desarrollo Económico (OCDE), cuyas directrices son garantizadas por Brasil, con el objetivo de la gestión responsable de los sistemas de IA 35:
-
Crecimiento inclusivo, desarrollo sostenible y bienestar;
-
Valores centrados en el ser humano y en la equidad;
-
Transparencia y explicabilidad;
-
Solidez, seguridad y protección; y
-
Responsabilización o rendición de cuentas (accountability).
Además, el documento afirma que, dependiendo de la aplicación de IA y de los riesgos asociados, la idea de accountability impone la necesidad de establecer estructuras de gobernanza en IA. Con ello, se busca asegurar la adopción de principios para una IA confiable y para la implementación de mecanismos para su obser- vancia, que son, según el propio documento 35:
-
Designación de individuos o grupos específicos dentro de una organización para promover el cumplimiento de los principios;
-
Adopción de medidas para aumentar la concienciación interna sobre la necesidad de dicho cumplimiento, incluso mediante orientación y capacitación; y
-
Implementación de un proceso de escalada por medio del cual los empleados puedan plantear inquietudes sobre cumplimiento y resolverlas.
Además, existe un desafío en estructurar un ecosistema de gobernanza para el uso de la IA, tanto en el sector público como en el privado. Para abordar este punto, EBIA menciona las siguientes acciones estratégicas 35:
-
Estructurar ecosistemas de gobernanza para el uso de la IA, en los sectores público y privado;
-
Fomentar el intercambio de datos, observado en la Ley General de Protección de Datos Personales (LGPD);
-
Promover el desarrollo de estándares voluntarios y consensuados para gestionar los riesgos asociados a las aplicaciones de IA;
-
Alentar a las organizaciones a crear consejos de revisión de datos o comités de ética con relación a la IA;
-
Crear un observatorio de IA en Brasil, que pueda conectarse con otros observatorios internacionales;
-
Fomentar el uso de conjuntos de datos representativos para entrenar y probar modelos;
-
Facilitar el acceso a datos abiertos del gobierno;
-
Mejorar la calidad de los datos disponibles para facilitar la detección y corrección de sesgos algorítmicos;
-
Fomentar la difusión de códigos fuente abiertos capaces de identificar tendencias discriminatorias en los conjuntos de datos y en los modelos de ML;
-
Desarrollar directrices para la elaboración de reportes de impacto de protección de datos (RIPD);
-
Compartir los beneficios del desarrollo de la IA en la mayor medida posible y promover la igualdad de oportunidades de desarrollo para diferentes regiones e industrias.;
-
Desarrollar campañas educativas y de concienciación;
-
Estimular el diálogo social con participación multisectorial;
-
Impulsar y fomentar prácticas de accountability relacionado con la IA en las organizaciones; y
-
Definir indicadores generales y específicos por sector (agrícola, financiero, salud, etc.).
En el 2021, la Organización Mundial de la Salud (OMS) 37 publicó una guía que establece seis principios fundamentales para promover el uso ético de la IA para la salud: 1) proteger la autonomía; 2) promover el bienestar humano, la seguridad humana y el interés público; 3) asegurar la transparencia, la explicabilidad y la inteligibilidad; 4) promover la responsabilidad y la rendición de cuentas; 5) garantizar la inclusión y la equidad; y 6) promover una IA ágil y sostenible.
Para implementar estos principios y obligaciones, todas las partes interesadas, ya sean diseñadores y programadores, proveedores y pacientes, ya sean ministerios de salud y de tecnología de la información, deben trabajar en conjunto para integrar normas éticas en todas las etapas del desarrollo tecnológico (diseño, desarrollo y despliegue) 38.
Discusión
El uso de nuevas tecnologías plantea preocupaciones sobre los riesgos asociados con su implementación, y una de las principales preocupaciones es la posibilidad de violaciones e imprecisiones de datos. A medida que la tecnología sigue evolucionando, existe una necesidad cada vez mayor de garantizar la protección y la precisión de los datos. Las violaciones de seguridad pueden tener impactos significativos tanto en individuos como en organizaciones, provocando pérdidas financieras, daños a la imagen y compromiso de la privacidad, por lo que es fundamental comprender los riesgos del uso de nuevas tecnologías y adoptar medidas adecuadas para minimizarlos.
De acuerdo con O’Sullivan y colaboradores 10, los enfoques actuales carecen de conocimiento declarativo explícito y, por lo tanto, de transparencia. En el ámbito médico, dicha falta de transparencia no promueve la confianza ni la aceptación de la cirugía robótica entre los médicos. Por lo tanto, es necesario que las partes interesadas trabajen para seguir abordando las cuestiones de privacidad y protección de datos, ya que existe una brecha en lo que respecta a la aplicación clínica de la IA.
Además, los instrumentos existentes, como las leyes de responsabilidad civil o las leyes de privacidad, productos, etc., podrían adaptarse con el fin de mitigar el daño. Las conclusiones de Morris y colaboradores 11 corroboran cuestiones que implican aspectos legales, responsabilidad y rendición de cuentas. Según los autores, las brechas legales contribuyen significativamente a la vacilación a la hora de integrar la IA en la práctica quirúrgica.
En materia de protección de datos, Amann y colaboradores 12 afirman que los datos personales de salud solo pueden procesarse legalmente tras el consentimiento del individuo. A falta de leyes generales que faciliten el uso de datos e información personal, este consentimiento informado es el estándar para el uso actual de los datos de pacientes en aplicaciones de IA. Sin embargo, Masoumian Hosseini y colaboradores 17 afirman que la recopilación de datos según lo recomendado por la Ley de Protección de Datos Personales y Documentos Electrónicos, de Canadá, y por el RGPD puede perjudicar las tecnologías de IA.
Desde una perspectiva jurídica, la adquisición, el almacenamiento, la transferencia, el procesamiento y el análisis de datos deberán cumplir con todas las leyes, regulaciones y otros requisitos legales. Además, la ley y su interpretación e implementación deben adaptarse constantemente a la evolución del estado del arte de la tecnología 12.
Para Carter y colaboradores 14, un problema que se observa con frecuencia en los sistemas de ML es el prejuicio en los resultados, derivado del sesgo en los datos de entrenamiento. Las decisiones humanas pueden distorsionar los sistemas de IA para que funcionen de forma discriminatoria o explotadora, ya que es bien sabido que tanto los cuidados de salud como la medicina basada en evidencia son tendenciosos contra los grupos desfavorecidos.
Asimismo, Drabiak y colaboradores 9 mencionan preocupaciones de que las tecnologías basadas en IA/ML podrían exacerbar la desigualdad racial y de género debido al sesgo inherente en el proceso de entrenamiento y la falta de transparencia predictiva. Carter y colaboradores 14 afirman que, una vez que la IA se institucionalice en los sistemas, puede ser difícil revertir su uso y sus consecuencias y, por lo tanto, es necesaria la debida diligencia antes de su implementación.
Wang y colaboradores 20 recomiendan la creación de un comité de ética en IA médica para revisar la ética y la gobernanza con aclaraciones para orientar e incorporar valores y normas humanos y convertir teorías y normas éticas en algoritmos y protocolos operativos que puedan regularse. En este contexto, Reddy 18 añade que la adaptación de las regulaciones generales de IA a los cuidados de salud requiere una comprensión profunda de los principios éticos que guían el sector, como la autonomía, la beneficencia, la no maleficencia y la justicia.
Según el análisis de Wang y colaboradores 13, debe haber consenso sobre la importancia de la justicia de los datos como base para lograr la equidad en la IA médica desde perspectivas multidisciplinarias. Sin embargo, existen discrepancias sustanciales en aspectos fundamentales, como el concepto, los factores de influencia y las medidas de justicia de implementación en la IA médica. En consecuencia, las investigaciones futuras deberán facilitar discusiones interdisciplinarias para cerrar las brechas cognitivas entre los distintos campos y mejorar la implementación práctica de la justicia en la IA médica.
Desde una perspectiva ética, las tecnologías de IA deben desarrollarse y utilizarse de manera que cumplan con la autonomía, la confidencialidad y la respetabilidad de los pacientes. Esto solo podrá lograrse si los procesos son transparentes, justos e imparciales, y si los individuos tienen control sobre el conocimiento que les concierne 19.
En este contexto, la OMS destaca que, aunque los diseñadores y desarrolladores técnicos desempeñan un papel fundamental en el desarrollo de herramientas de IA para su uso en el ámbito de la salud, no existe una certificación o un proceso de licencia como el que se exige a los profesionales sanitarios. Por lo tanto, no basta simplemente con apelar a las personas para que defiendan valores relacionados con la ética, como la repetibilidad, la transparencia, la justicia y la dignidad humana. Se requiere, por lo tanto, un enfoque orientado no a soluciones, sino a procesos, que satisfaga las necesidades de las partes interesadas en conformidad con los valores morales y sociales que incorporan los derechos humanos 29.
Como limitación del trabajo, se puede mencionar que no se investigaron bases de datos científicas distintas a PubMed e IEEE Xplore, así como literatura gris, lo que puede haber contribuido a la exclusión de estudios y documentos relevantes para la investigación. Sin embargo, las dos bases utilizadas fueron suficientes para mapear información importante sobre la temática y señalar la insuficiencia actual de leyes y directrices que regulen el uso de la IA en el ámbito de la salud con la eficiencia y seguridad necesarias para la debida protección de gestores y usuarios de esta tecnología.
Consideraciones finales
La IA en el ámbito de la salud ya puede considerarse un escenario disruptivo y, por lo tanto, debe regularse urgentemente en todas las subáreas de manera ética y responsable. Una posible solución, a corto plazo, sería la capacitación individual, mediante la formación de profesionales del área y pacientes para mejorar la comprensión y el control de las herramientas de IA.
Es necesario evitar el sesgo de los datos mediante algoritmos adecuados basados en datos imparciales en tiempo real. Por lo tanto, se requiere más trabajo por las partes interesadas para continuar abordando la cuestión de la privacidad de los datos y de la protección mediante acuerdos mundiales y pactos transdisciplinarios.
Las evidencias sólidas acerca de las implicaciones éticas y legales del uso de la IA en el ámbito de la salud aún son insuficientes para garantizar la implementación segura de esta tecnología en las diversas subáreas de la IA en entornos de prestación de cuidados de salud en un mundo globalizado.
Referencias bibliográficas
-
1 McCarthy J, Minsky ML, Rochester N, Shannon CE. A proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955. AI Magazine [Internet]. 2006 [acesso 23 out 2023];27(4):12-4. DOI: 10.1609/aimag.v27i4.1904
» https://doi.org/10.1609/aimag.v27i4.1904 -
2 Rupali M, Amit P. A review paper on general concepts of "Artificial intelligence and machine learning". Int Adv Res J Sci Eng Technol [Internet]. 2017 [acesso 23 out 2023];4(4):79-82. DOI: 10.17148/IARJSET/NCIARCSE.2017.22
» https://doi.org/10.17148/IARJSET/NCIARCSE.2017.22 -
3 Cowley G. Introducing "robodoc": a robot finds his calling: in the operating room. Newsweek [Internet]. 1992 [acesso 23 out 2023];120(21):86. Disponível: https://pubmed.ncbi.nlm.nih.gov/10122477
» https://pubmed.ncbi.nlm.nih.gov/10122477 -
4 George EI, Brand TC, LaPorta A, Marescaux J, Satava RM. Origins of robotic surgery: from skepticism to standard of care. JSLS [Internet]. 2018 [acesso 2 nov 2023];22:e2018.00039. DOI: 10.4293/JSLS.2018.00039
» https://doi.org/10.4293/JSLS.2018.00039 - 5 Silva Neto BRD. Medicina e adesão à inovação: a cura mediada pela tecnologia. Ponta Grossa: Atena; 2021.
-
6 Christensen CM, Baumann H, Ruggles R, Sadtler TM. Disruptive innovation for social change. Harv Bus Rev [Internet]. 2006 [acesso 16 nov 2023];84(12):96-101. Disponível: https://pubmed.ncbi.nlm.nih.gov/17183796
» https://pubmed.ncbi.nlm.nih.gov/17183796 -
7 Sher T, Sharp R, Wright RS. Algorithms and bioethics. Mayo Clin Proc [Internet]. 2020 [acesso 16 nov 2023];95(5):843-4. DOI: 10.1016/j.mayocp.2020.03.020
» https://doi.org/10.1016/j.mayocp.2020.03.020 -
8 Rhodes R, Ostertag G. Bioethics is philosophy. Am J Bioeth [Internet]. 2022 [acesso 16 nov 2023];22(12):22-5. DOI: 10.1080/15265161.2022.2134499
» https://doi.org/10.1080/15265161.2022.2134499 -
9 Drabiak K, Kyzer S, Nemov V, El Naqa I. AI and machine learning ethics, law, diversity, and global impact. Br J Radiol [Internet]. 2023 [acesso 16 nov 2023];96(1150):20220934. DOI: 10.1259/bjr.20220934
» https://doi.org/10.1259/bjr.20220934 -
10 O'Sullivan S, Nevejans N, Allen C, Blyth A, Leonard S, Pagallo U et al. Legal, regulatory, and ethical frameworks for development of standards in artificial intelligence (AI) and autonomous robotic surgery. Int J Med Robot [Internet]. 2019 [acesso 16 nov 2023];15:e1968. DOI: 10.1002/rcs.1968
» https://doi.org/10.1002/rcs.1968 -
11 Morris MX, Song EY, Rajesh A, Asaad M, Phillips BT. Ethical, legal, and financial considerations of artificial intelligence in surgery. Am Surg [Internet]. 2023 [acesso 25 nov 2023];89:55-60. DOI: 10.1177/00031348221117042
» https://doi.org/10.1177/00031348221117042 -
12 Amann J, Blasimme A, Vayena E, Frey D, Madai VI. Explainability for artificial intelligence in healthcare: a multidisciplinary perspective. BMC Med Inform Decis Mak [Internet]. 2020 [acesso 25 nov 2023];20:310. DOI: 10.1186/s12911-020-01332-6
» https://doi.org/10.1186/s12911-020-01332-6 -
13 Wang C, Liu S, Yang H, Guo J, Wu Y, Liu J. Ethical Considerations of using ChatGPT in health care. J Med Internet Res [Internet]. 2023 [acesso 25 nov 2023];25:e48009. DOI: 10.2196/48009
» https://doi.org/10.2196/48009 -
14 Carter SM, Rogers W, Win KT, Frazer H, Richards B, Houssami N. The ethical, legal and social implications of using artificial intelligence systems in breast cancer care. Breast [Internet]. 2020 [acesso 2 nov 2023];49:25-32. DOI: 10.1016/j.breast.2019.10.001
» https://doi.org/10.1016/j.breast.2019.10.001 -
15 Morley J, Machado CCV, Burr C, Cowls J, Joshi I, Taddeo M, Floridi L. The ethics of AI in health care: a mapping review. Soc Sci Med [Internet]. 2020 [acesso 5 out 2023];260:113172. DOI: 10.1016/j.socscimed.2020.113172
» https://doi.org/10.1016/j.socscimed.2020.113172 -
16 Stewart C, Wong SKY, Sung JJY. Mapping ethico-legal principles for the use of artificial intelligence in gastroenterology. J Gastroenterol Hepatol [Internet]. 2021 [acesso 15 out 2023];36:1143-8. DOI: 10.1111/jgh.15521
» https://doi.org/10.1111/jgh.15521 -
17 Masoumian Hosseini M, Masoumian Hosseini ST, Qayumi K, Ahmady S, Koohestani HR. The aspects of running artificial intelligence in emergency care; a scoping review. Arch Acad Emerg Med [Internet]. 2023 [acesso 15 out 2023];11:e38. DOI: 10.22037/aaem.v11i1.1974
» https://doi.org/10.22037/aaem.v11i1.1974 -
18 Reddy S. Navigating the AI revolution: the case for precise regulation in health care. J Med Internet Res [Internet]. 2023 [acesso 27 out 2023];25:e49989. DOI: 10.2196/49989
» https://doi.org/10.2196/49989 -
19 Upreti K, Vats P, Nasir MS, Alam MS, Shahi FI, Kamal MS. Managing the ethical and sociologically aspects of ai incorporation in medical healthcare in India: unveiling the conundrum [Internet]. In: Proceedings of the 2023 IEEE World Conference on Applied Intelligence and Computing (AIC); 29-30 jul 2023; Sonbhadra, India. Sonbhadra: IEEE; 2023 [acesso 2 nov 2023];p. 293-9. DOI: 10.1109/AIC57670.2023.10263931
» https://doi.org/10.1109/AIC57670.2023.10263931 -
20 Wang Y, Song Y, Ma Z, Han X. Multidisciplinary considerations of fairness in medical AI: A scoping review. Int J Med Inform [Internet]. 2023 [acesso 10 nov 2023];178:105175. DOI: 10.1016/j.ijmedinf.2023.105175
» https://doi.org/10.1016/j.ijmedinf.2023.105175 -
21 Vayena E, Blasimme A, Cohen IG. Machine learning in medicine: addressing ethical challenges. PLoS Med [Internet]. 2018 [acesso 10 nov 2023];15(11):e1002689. DOI: 10.1371/journal.pmed.1002689
» https://doi.org/10.1371/journal.pmed.1002689 -
22 Gallese C, Fuchs C, Riva SG, Foglia E, Schettini F, Ferrario L et al. Predicting and characterizing legal claims of hospitals with computational intelligence: the legal and ethical implications [Internet]. In: Proceedings of the 2022 IEEE Conference on Computational Intelligence in Bioinformatics and Computational Biology (CIBCB); 15-17 ago 2022; Ottawa. Ottawa: IEEE; 2022 [acesso 10 nov 2023]. DOI: 10.1109/CIBCB55180.2022.9863033
» https://doi.org/10.1109/CIBCB55180.2022.9863033 -
23 Naik N, Hameed BMZ, Shetty DK, Swain D, Shah M, Paul R et al. Legal and ethical consideration in artificial intelligence in healthcare: who takes responsibility? Front Surg [Internet]. 2022 [acesso 18 nov 2023];9:862322. DOI: 10.3389/fsurg.2022.862322
» https://doi.org/10.3389/fsurg.2022.862322 -
24 Paixão GMDM, Santos BC, Araujo RMD, Ribeiro MH, Moraes JLD, Ribeiro AL. Machine learning na medicina: revisão e aplicabilidade. Arq Bras Cardiol [Internet]. 2022 [acesso 4 nov 2023];118:95-102. DOI: 10.36660/abc.20200596
» https://doi.org/10.36660/abc.20200596 -
25 Leitao P, Karnouskos S. The emergence of ethics engineering in Industrial Cyber-Physical Systems [internet]. In: 2022 IEEE 5th International Conference on Industrial Cyber-Physical Systems (ICPS); 24-26 maio 2022; Coventry. Coventry: IEEE; 2022 [acesso 15 out 23]. DOI: 10.1109/ICPS51978.2022.9816931
» https://doi.org/10.1109/ICPS51978.2022.9816931 -
26 Alzubaidi L, Zhang J, Humaidi AJ, Al-Dujaili A, Duan Y, Al-Shamma O et al. Review of deep learning: concepts, CNN architectures, challenges, applications, future directions. J Big Data [Internet]. 2021 [acesso 15 nov 2023];8:53. DOI: 10.1186/s40537-021-00444-8
» https://doi.org/10.1186/s40537-021-00444-8 - 27 Kelleher JD. Deep learning. Cambridge: MIT Press; 2019.
-
28 Dourado DDA, Aith FMA. A regulação da inteligência artificial na saúde no Brasil começa com a Lei Geral de Proteção de Dados Pessoais. Rev Saúde Pública [Internet]. 2022 [acesso 4 nov 2023];56:80. DOI: 10.11606/s1518-8787.2022056004461
» https://doi.org/10.11606/s1518-8787.2022056004461 -
29 Goddard M. The EU General Data Protection Regulation (GDPR): European Regulation that has a Global Impact. International Journal of Market Research [Internet]. 2017 [acesso 14 out 2023];59(6):703-5. DOI: 10.2501/IJMR-2017-050
» https://doi.org/10.2501/IJMR-2017-050 -
30 Ko H, Leitner J, Kim E, Jeong J. Structure and enforcement of data privacy law in South Korea. International Data Privacy Law [Internet]. 2017 [acesso 27 out 2023];7:100-14. DOI: 10.2139/ssrn.2904896
» https://doi.org/10.2139/ssrn.2904896 -
31 Ko H. Pseudonymization of healthcare data in South Korea. Nat Med [Internet]. 2022 [acesso 20 out 2023];28:15-6. DOI: 10.1038/s41591-021-01580-7
» https://doi.org/10.1038/s41591-021-01580-7 -
32 Watts D, Casanovas P. Privacy and data protection in Australia: a critical overview (extended abstract). W3C Workshop on Privacy and Linked Data [Internet]. 2017 [acesso 27 out 2023]. Disponível: https://bit.ly/3XlDUuH
» https://bit.ly/3XlDUuH -
33 Daigle B. Data Protection Laws in Africa: A Pan-African Survey and Noted Trends. J Int'l Com & Econ [Internet]. 2021 [acesso 2 nov 2023]. Disponível: https://bit.ly/3ZjCoM5
» https://bit.ly/3ZjCoM5 -
34 Boyne SM. Data Protection in the United States. Am J Comp Law [Internet]. 2018 [acesso 27 out 2023];66(supl 1):299-343. DOI: 10.1093/ajcl/avy016
» https://doi.org/10.1093/ajcl/avy016 -
35 Brasil. Ministério da Ciência, Tecnologia e Inovação. Estratégia Brasileira de Inteligência Artificial - EBIA [Internet]. Brasília: MCTI; 2021 [acesso 22 nov 2023]. Disponível: https://bit.ly/3zfe8jD
» https://bit.ly/3zfe8jD - 36 Brasil. Op. cit. p. 4.
-
37 World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance [Internet]. Geneva: World Health Organization; 2021 [acesso 11 set 2024]. Disponível: https://bit.ly/4ekS71S
» https://bit.ly/4ekS71S -
38 Taeihagh, A. Governance of artificial intelligence. Policy and Society [Internet]. 2021 [acesso 22 nov 2023];40(2):137-57. DOI: 10.1080/14494035.2021.1928377
» https://doi.org/10.1080/14494035.2021.1928377
