Resumen
La inteligencia artificial está transformando progresivamente la práctica de la medicina, siendo en muchos casos una herramienta importante para el cribado, el diagnóstico, el tratamiento y el seguimiento de los pacientes. Si utilizada adecuadamente y con la participación de médicos en su diseño y desarrollo (physician in the loop), la inteligencia artificial puede hacer que los médicos sean aún mejores. Este artículo aborda la interfaz entre la inteligencia artificial, en sus múltiples variantes, y la medicina. Se analiza la problemática del impacto inevitable de la inteligencia artificial en la relación médico-paciente, especialmente ante la evolución de los sistemas de transcripción de las entrevistas médicas con el paciente. Se concluye que las consideraciones éticas, normativas y de buena gobernanza son esenciales en el diseño y la implementación de la inteligencia artificial, y se recomienda una actitud prudente sobre la inteligencia artificial en la medicina, de acuerdo con el principio de precaución.
Palabras clave
Bioética; Inteligencia artificial; Medicina; Relaciones médico-paciente; Robótica
Resumo
A inteligência artificial está a transformar progressivamente a prática da medicina, sendo em muitos casos importante ferramenta de rastreio, diagnóstico, tratamento e acompanhamento de doentes. Se adequadamente utilizada, e se houver a participação de médicos em sua concepção e desenvolvimento (physician in the loop), pode tornar os médicos ainda melhores. Este artigo aborda a interface entre a inteligência artificial, em suas múltiplas variantes, e a medicina. Aprecia-se a problemática do impacto inevitável da inteligência artificial na relação médico-doente, em especial face à evolução dos sistemas de transcrição de entrevista médica com o paciente. Conclui-se que considerações éticas, regulatórias e de boa governança são essenciais no desenho e implementação da inteligência artificial, assim como recomenda-se atitude prudente sobre a inteligência artificial na medicina, de acordo com o princípio da precaução.
Palavras-chave
Bioética; Inteligência artificial; Medicina; Relações médico-paciente; Robótica
Abstract
Artificial intelligence is progressively transforming medical practice, in many cases serving as an important tool for screening, diagnosis, treatment, and patient follow-up. If used appropriately, and with the participation of physicians in its design and development (physician in the loop), it can even improve physicians. This article addresses the interface between artificial intelligence, in its many variants, and medicine. The issue of the inevitable impact of artificial intelligence on the physician-patient relationship is examined, particularly considernig the evolution of medical interview transcription systems. Ethical, regulatory, and good governance considerations concluded to be essential in the design and implementation of artificial intelligence, and recommends a cautious approach to artificial intelligence in medicine, in accordance with the precautionary principle.
Keywords
Bioethics; Artificial intelligence; Medicine; Physician-Patient Relations; Robotics
La inteligencia artificial (IA) está transformando progresivamente la práctica de la medicina y en muchos casos sirve como una herramienta importante para la detección, el diagnóstico, el tratamiento y el seguimiento de los pacientes. Si se utiliza de forma apropiada, y si su diseño y desarrollo (physician in the loop) cuenta con la participación de médicos, puede y debe hacer los médicos aún mejores. Sin embargo, existe un riesgo creciente y documentado en la literatura de que la falta de explicabilidad de la IA haga que los médicos se vuelvan excesivamente dependientes de los sistemas automatizados, hasta el punto de comprometer su autonomía profesional.
El objetivo principal de este artículo es abordar la interfaz entre la IA, en sus múltiples variantes, y la medicina, no solo la medicina clínica en diferentes campos médicos, sino también otras ciencias de la vida y de la salud. Un segundo objetivo es apreciar el impacto inevitable de la IA en la relación médico-paciente a la luz de la evolución de los sistemas de transcripción de entrevistas médicas, así como las implicaciones médico-legales de la adopción generalizada de la IA en la medicina. Para ello, se abordará el potencial de la IA en la gestión sanitaria, en hospitales, en la atención primaria o en la salud colectiva, así como los previsibles beneficios para una asistencia médica humana y de calidad que supone dispensar a los médicos de las tareas administrativas.
La esencia de la relación médico-paciente
La medicina y las demás profesiones de la salud, como la odontología, la psicología o la fisioterapia son intrínsecamente humanas, y la confianza constituye la base para un encuentro singular, como lo es la relación entre médico y paciente. Desde los tiempos hipocráticos, el médico se compromete, por deber profesional, a dedicarse plenamente a los pacientes y a construir una relación clínica sólida, de carácter fiduciario.
Esto implicó, a lo largo de más de dos milenios, que la entrevista clínica se desarrollara con tiempo y privacidad, y que los médicos fueran excelentes clínicos, pero también que ejercieran funciones de advocacy, es decir, de defensa de los pacientes ante la comunidad 1. La ética médica, y los códigos en los que se consagra, reflejan esta arquitectura de deberes y obligaciones, y el deber inalienable del secreto médico garantiza que la información que el paciente transmite al médico en un entorno de total confianza sea fidedigna y corresponda a los aspectos esenciales de la historia clínica del paciente.
Sin embargo, la evolución de los sistemas de salud en todo el mundo ha tenido consecuencias paradójicas e impredecibles. Por ejemplo, la presión por una mayor productividad en los sistemas públicos de salud —como en el caso del Sistema Único de Salud (SUS) en Brasil o del Servicio Nacional de Salud (SNS) en Portugal— resulta en tiempos de atención al paciente reducidos, a veces de apenas unos minutos, lo que afecta a los fundamentos de la relación médico-paciente; o el hecho de que la transición digital de la salud y la creación del Registro Electrónico de Salud hayan llevado a la situación paradójica de que los médicos dedican gran parte del tiempo de la entrevista clínica a registrar digitalmente los datos obtenidos en la anamnesis, y no en la consulta propiamente dicha.
En otras palabras, hay al menos dos consecuencias sistémicas negativas para la medicina. Por una parte, los pacientes informan que los médicos no tienen tiempo para establecer una relación médico-paciente efectiva. La mayor dependencia de los sistemas digitales afecta la interacción visual necesaria con los pacientes, y la comunicación no verbal también se ve seriamente perjudicada. Los médicos de hoy dedican más tiempo a tareas administrativas, incluida la cumplimentación de historiales clínicos durante la anamnesis, que a construir una relación genuinamente humana con los pacientes, como ocurría en el pasado.
Por otra parte, si esta situación es perjudicial para los pacientes, no lo es menos para los médicos. Estudios cuantitativos 2 demuestran que los médicos emplean entre el 35%-40% del tiempo con la documentación electrónica, dato que se correlaciona a elevados índices de burnout (agotamiento). Muchos hospitales ya utilizan asistentes humanos —el escriba médico— para la documentación administrativa y clínica con el fin de mejorar la eficiencia y la atención al paciente. El uso de asistentes de IA para la documentación puede reducir ese tiempo hasta en un 20%, con mejores puntuaciones de satisfacción profesional 3.
Bajo el lema “IA para el bien de todos”, el Plan Brasileño de Inteligencia Artificial (PBIA) 2024-2028 tiene una inversión proyectada de R$ 23.000 millones hasta el 2028, y es una de las áreas centrales de actuación y modernización del SUS. Algunas iniciativas incluyen los siguientes temas: 1) historial médico hablado en el SUS (transcripción de teleconsultas médicas); 2) IA para decisiones de compra de medicamentos; 3) optimización de diagnósticos en el SUS; 4) IA en salud bucal; y 5) ancianos bien cuidados 4. La transición digital en curso en Brasil 5 y la previsible sostenibilidad de los costos de implementación de la IA en el SUS exigen una planificación estratégica adecuada para la implementación generalizada de estos sistemas, así como una sólida regulación y supervisión. La legislación moderna debe existir, como parece ser el caso del Proyecto de Ley 2.338/2023 6, ya aprobado por el Senado Federal, dado que la práctica clínica está significativamente dependiente de diferentes tecnologías de información y comunicación (TIC), como la telemedicina o aplicaciones digitales como el chatbot 7. Un estudio reciente demostró que, para optimizar la eficacia administrativa y reducir la insatisfacción y el burnout de los médicos en la práctica clínica, el uso de la IA para responder a los mensajes de pacientes enviados a los clínicos mediante el portal de pacientes podría ser especialmente útil. De hecho, la mayoría de los pacientes prefiere los mensajes escritos por IA, pero su satisfacción disminuye cuando descubren que fue la IA quien los escribió. Esto resalta la importancia de profundizar la relación médico-paciente, y la IA puede ayudar a lograr este objetivo 8.
La telemedicina se refiere al uso de información electrónica y de tecnologías de comunicación para brindar cuidados de salud cuando la distancia separa a los participantes, médico y paciente 9. Se trata de proporcionar servicios clínicos remotos en tiempo real utilizando medios electrónicos audiovisuales 10. Tradicionalmente, los médicos han utilizado tecnologías remotas, como el teléfono, para brindar asistencia a los pacientes 11. Surgieron entonces cuestiones éticas, que siguen siendo relevantes, como la posible distorsión de la relación médico-paciente debido a la separación física de los intervinientes, la violación del deber de confidencialidad, la dificultad de proteger los datos personales del paciente, el registro adecuado de la entrevista clínica, así como cuestiones más generales, como el cobro de honorarios o las implicaciones médico-legales 12. El uso de la vía telefónicas sigue siendo común, aún hoy, para acceder a la emergencia médica prehospitalaria, mediante centros de contacto y triaje.
El Consejo Federal de Medicina (CFM), en su Resolución 2.314/2022 13, define la telemedicina como el ejercicio de la medicina mediado por Tecnologías Digitales, de Información y de Comunicación (TDIC), para fines de asistencia, educación, investigación, prevención de enfermedades y lesiones, gestión y promoción de la salud, pudiendo utilizarse en tiempo real en línea (sincrónica) o fuera de línea (asincrónica). Son legítimas y adecuadas las siguientes modalidades: teleconsulta, teleinterconsulta, telediagnóstico, telemonitorización o televigilancia, telecirugía, teletriaje y teleconsultoría.
De hecho, la evolución de las TIC ha permitido innovaciones importantes en este campo, incluida la telecirugía, en la que el cirujano guía, de forma remota, es decir, a distancia, instrumentos robóticos para realizar la cirugía. Hay que tener en cuenta que no se trata de meros consejos, como en las antiguas consultas telefónicas (frecuentes, por ejemplo, en pediatría), sino de auténticas consultas con fines diagnósticos y terapéuticos, donde los preceptos éticos son naturalmente aún más exigentes en materia de privacidad, protección de datos, almacenamiento y registro de información sensible o intercambio de información con colegas de profesión. Esto implica adaptar los procesos de obtención del consentimiento del paciente para el tratamiento de datos personales, tales como imágenes radiológicas, y evolucionar así del consentimiento genérico al consentimiento informado y específico 14.
Además, especialmente tras la pandemia de COVID-19, el uso de estas tecnologías se ha vuelto común en la enseñanza, la formación profesional, la salud pública o incluso en la gestión operativa de la salud, por su comodidad y conveniencia, pero también porque, si se implementan correctamente, mejoran el acceso a la salud sin comprometer la calidad asistencial. De hecho, desde una perspectiva ética y social, los sistemas de IA modernos pueden tener un enorme impacto en la interfaz entre la medicina clínica y la gestión de hospitales y de otras unidades de salud 15. En otras palabras, mediante la implementación de una gestión operativa moderna, o mediante el uso de IA combinada con telemedicina, por ejemplo, se puede asegurar el acceso a la salud a muchos pacientes que tradicionalmente están excluidos del sistema debido a la falta de recursos.
Otras herramientas digitales más o menos impulsadas por la IA, como el chatbot generativo, tendrán consecuencias importantes en la relación médico-paciente y en la gestión de la salud. El chatbot es un programa informático específico que simula la conversación humana, escrita o hablada, en cualquier idioma, mediante página web, mensaje, teléfono o aplicación móvil. Típicamente, un chatbot funciona con base en prompts de pregunta y respuesta.
Más recientemente, ha surgido la IA conversacional, un amplio conjunto de tecnologías que permite a las máquinas (robots, por ejemplo) entender y procesar el lenguaje humano y responder al interlocutor de forma interactiva, en forma de voz o texto. Se utilizan habitualmente enormes volúmenes de datos como inputs para imitar las interacciones humanas en contextos muy diferentes. En la medicina, los chatbots son de uso habitual hoy en día, especialmente en la salud pública, en la educación para la salud, en la evaluación de síntomas, en el triaje, en la gestión de medicamentos o como apoyo a la telemedicina. Cabe destacar que todas estas tecnologías existen simultáneamente y en total interdependencia e interoperabilidad con redes sociales, blogs, sitios web, correo electrónico, imágenes, vídeos o música 16. En las diferentes especialidades médicas, los chatbots ayudan a los pacientes a programar citas, contribuyen al autocuidado respondiendo a preguntas de salud e incluso pueden ser útiles para fomentar la alfabetización en salud. Pero, aunque los chatbots en medicina presentan un potencial significativo, conllevan riesgos importantes, que incluyen: la facilitación de información incorrecta o desactualizada, la dificultad para reconocer emergencias, cuestiones de privacidad en el almacenamiento de datos sensibles, limitaciones en la comprensión de contextos clínicos complejos y una tasa de precisión variable dependiendo de la especialidad y la complejidad de los casos.
Es evidente, pues, que la relación tradicional médico-paciente está sufriendo cambios profundos y constantes, y que esta evolución tecnológica debe adaptarse a los principios de la ética médica, y no lo contrario 17, y también es necesario que estas nuevas tecnologías cumplan con la legislación sobre protección de datos y privacidad individual, como la Ley General de Protección de Datos Personales de Brasil 18 o el Reglamento General de Protección de Datos en Europa 19.
Pero, paradójicamente, la IA podría ser una revolución extraordinariamente positiva en este campo. El advenimiento de las modernas AI-written patient handoff notes, es decir, el registro digital de la entrevista clínica mediado por IA, sin intervención del médico en la redacción, por lo tanto, con manos libres, es un avance notable en la consolidación y profundización de la relación médico-paciente 20. Al dispensar al médico de tareas administrativas, permitiéndole concentrarse completamente en el cuidado de los pacientes y prevenir así el bornout profesional, esta “resumición médica” condensa la compleja información del paciente con evidentes beneficios para todos.
Por razones médicas, éticas y legales, deben considerarse ciertos aspectos. Por una parte, debe haber una intensa supervisión médica en la concepción y diseño de estas aplicaciones, es decir, el médico debe estar siempre en el circuito (physician in the loop). Además, salvo circunstancias excepcionales, solo el médico tratante podrá modificar dichas notas, en conformidad con el deber de secreto y confidencialidad del acto médico. Existe, por lo tanto, una gran expectativa respecto a la usabilidad, tanto en la práctica clínica diaria como en situaciones de urgencia, de estas nuevas aplicaciones de asistencia con IA para la transcripción de consultas médico-paciente.
Sin embargo, se prevé que esta transcripción o resumición del estado médico del paciente, incluido el diagnóstico diferencial, pueda evolucionar rápidamente hacia la recomendación de métodos diagnósticos auxiliares o incluso la elaboración de un plan de tratamiento, lo que plantea una evaluación especial desde el punto de vista ético y médico-legal. Los modernos sistemas de IA en la medicina, al entrar en conflicto con la autonomía profesional requerida, representan un enorme desafío para la ética médica. Sin embargo, la actual transición digital puede aportar numerosos beneficios a la medicina y a la relación médico-paciente. Por ejemplo, se ha sugerido que la obtención del consentimiento informado se puede mejorar sustancialmente con IA generativa al permitir que el “paciente promedio” tenga una mayor legibilidad e inteligibilidad del documento de información, por ejemplo, para una cirugía 21. Estudios piloto sugieren que la IA mejora la comprensión del consentimiento informado gracias a un lenguaje simplificado y a los recursos visuales. Sin embargo, solo un pequeño porcentaje de pacientes comprende adecuadamente los términos técnicos incluso con la asistencia de IA, lo que resalta la necesidad de una validación humana especializada.
Más allá de su impacto en diversas áreas de la medicina, la IA tiene el potencial de contribuir a mejores cuidados de salud de poblaciones tradicionalmente vulnerables, como los ancianos, las personas con discapacidad o los pacientes terminales. Por ejemplo, la IA, especialmente cuando se combina con otras tecnologías, podría ser extremadamente útil para mejorar la comunicación con poblaciones vulnerables, como las personas profundamente sordas que se comunican a través de métodos visuales como el lenguaje de señas o la lectura de labios. Sin embargo, un aspecto crítico que a menudo se pasa por alto es el sesgo algorítmico, mediante el cual los sistemas de IA pueden perpetuar o amplificar las desigualdades de salud existentes. Los algoritmos entrenados predominantemente con datos de poblaciones específicas pueden presentar un rendimiento inferior en los grupos minoritarios, lo que exacerba las disparidades en el cuidado médico. La implementación de la IA en la medicina debe incluir auditorías periódicas para identificar y mitigar estos sesgos, incluida la realización de evaluaciones del impacto ético de los sistemas de IA.
Por otra parte, se están desarrollando sistemas de IA que permiten predecir qué decidiría una persona con competencia disminuida si se encontrara incapaz de expresarse y no contara con un representante legal que pudiera llevar a cabo efectivamente un “juicio sustitutivo” 22. La combinación de datos conductuales obtenidos a través de diversos medios, como las redes sociales, con datos de salud, como los contenidos en los registros electrónicos de salud, podría ser una alternativa para interpretar la voluntad de un paciente incapacitado. Aunque en la mayoría de los casos esta aplicación de la IA en los cuidados al final de la vida no debería ser una alternativa a las directivas anticipadas de voluntad, en forma de testamento vital o nombramiento de un representante de cuidados de salud 23, podría ayudar y mejorar tales decisiones. Esta aparente contradicción entre los beneficios y los riesgos de la IA se resuelve con la implementación de modelos híbridos de supervisión humana. La literatura sugiere que sistemas human-in-the-loop preservan la autonomía médica cuando 24: 1) mantienen transparencia respecto a las limitaciones de la IA; 2) requieren validación humana para decisiones críticas; 3) proporcionan capacitación adecuada a los profesionales; e 4) implementan salvaguardas técnicas contra la dependencia excesiva.
La creciente dependencia de los médicos de la IA, más que representar un desafío a la medicina del siglo XXI, promete cambiar profundamente el régimen médico-legal de exigencia de responsabilidad médica, dado que los médicos están obligados a respetar las leges artis determinadas por la medicina basada en evidencias 25. Solo cuando se comprueba que un médico actuó con impericia, imprudencia o negligencia, es decir, que fue culpable del resultado, se puede atribuir responsabilidad por una consecuencia negativa específica en términos médico-legales. Sin embargo, si el médico es el “copiloto” de la IA, por ejemplo, si en una cirugía robótica la falta de explicabilidad de la IA alcanza un nivel tal que no permita al médico común tomar una decisión verdaderamente personal (fenómeno Blackbox), se deberá encontrar otro camino para que los legítimos derechos de los pacientes sean resarcidos por un mal desenlace y, a la vez, no se asigne al médico una responsabilidad que, de hecho, no le corresponde.
Diagnóstico, tratamiento y robótica quirúrgica
Prácticamente no existe ningún área de la medicina en la que la IA no tenga ya un profundo impacto hoy en día 26. En la atención primaria, en los hospitales y en el sector público o privado, la IA es esencial para la gestión operativa de las organizaciones, el almacenamiento de datos, el registro electrónico de salud, el apoyo al diagnóstico, la interpretación de imágenes y el tratamiento de pacientes, incluido el uso de robótica quirúrgica. Incluso los cuidados continuos a pacientes de edad avanzada y los cuidados paliativos —áreas tradicionalmente consideradas intrínsecamente humanizadoras—, ahora están influenciadas por la IA en varios niveles, empezando por el seguimiento que los robots humanoides realizarán con enorme eficiencia y total disponibilidad 27.
Esta evolución plantea cuestiones éticas obvias, especialmente en lo que respecta a la autonomía de médicos y pacientes, que puede verse seriamente comprometida si no se toman las precauciones necesarias para asegurar que se proporciona información adecuada al paciente. También es necesario asegurar la equidad en el acceso a estas tecnologías para los ciudadanos y a escala mundial 28. Por ejemplo, la reciente evolución de la medicina de precisión denota la necesidad de garantizar que los beneficios de su implementación sean compartidos universalmente. Se trata de un problema ético de enorme importancia y que debe abordarse lo antes posible.
La medicina de precisión se refiere al ajuste del diagnóstico y tratamiento médico a una subpoblación con cierta homogeneidad genética y que presenta susceptibilidad a una enfermedad particular o una respuesta similar a un fármaco específico 29. Aunque no se trata de un concepto nuevo, el impulso de la IA es notable y está ampliando considerablemente el alcance de su intervención. En estrecha conexión con otras áreas de la medicina y de la ciencia —como la genómica, la epigenómica, la proteómica, la metabolómica y la farmacogenética— y con el procesamiento de datos y biomarcadores de los pacientes, provenientes de los registros de salud, la IA diseña algoritmos complejos que guían la práctica médica para grupos poblacionales específicos. No debe olvidarse que, si bien la influencia genética es esencial, los determinantes sociales y ambientales son igualmente importantes y afectan no solo a la práctica de la medicina, sino también a la salud colectiva. El objetivo es generar ganancias de salud combinando información molecular con datos de salud.
La medicina de precisión también permite que la medicina se vuelva progresivamente personalizada, predictiva, preventiva e incluso participativa (Medicina 4P) 30, lo que, al ser una evolución significativa, seguramente se verá incrementada por los modernos sistemas de IA. Si bien la Medicina 4P representa avances importantes, su implementación a través de IA se enfrenta a limitaciones significativas, incluyendo sesgos algorítmicos y desigualdades en el acceso. Este modelo, con el potencial de ser el estándar de oro universal, no puede estar reservado para pocas personas, es decir, aquellas que pertenecen a grupos poblacionales con rasgos genéticos específicos y que, en la lotería de la vida, tienen mayor poder adquisitivo y por eso atraen a la Big Pharma y la Big Tech, como las poblaciones caucásicas del norte de América y de Europa.
Es decir, en la ciencia y en la salud, la IA debe promover la equidad y la justicia mundial, y no contribuir a exacerbar la exclusión social mediante un acceso restringido a las innovaciones médicas 31. En cierto modo, el acceso a la salud mediado por IA puede considerarse un bien público mundial y, como tal, requiere un marco regulatorio sólido para su implementación 32.
Este impacto de la IA ya se está sintiendo en diferentes áreas de la medicina y de las ciencias de la vida, y todas ellas se verán transversalmente afectadas, aunque algunas son, desde el principio, más susceptibles a los efectos inmediatos 33-39, como las que se presentan a continuación:
-
análisis de sangre: reconocimiento de estándares, identificación de morfología anormal y evaluación de otras características de las células sanguíneas, detección y clasificación precoz de enfermedades (leucemia);
-
radiología: análisis de imágenes por IA (rayos X, ultrasonido, tomografía computarizada, resonancia magnética nuclear), interpretación de mamografías, detección de neoplasia de pulmón, diagnóstico de accidentes cerebrovasculares, detección de tumores cerebrales, análisis cuantitativo, análisis predictivo;
-
oncología: tratamiento personalizado, análisis de imagen, análisis predictivo, detección automatizada de tumores, radioterapia, medicina de precisión, descubrimiento de fármacos, detección de melanoma;
-
patología: análisis de imágenes, patología digital, diagnóstico asistido por IA, análisis predictivo, diagnóstico de cáncer, análisis histológico, interpretación inmunohistoquímica, detección de cáncer de próstata;
-
cardiología: diagnóstico asistido por IA, análisis de imágenes, detección de arritmias, interpretación de ecocardiogramas, evaluación del riesgo cardiovascular, diagnóstico de enfermedad arterial coronaria;
-
neurología: análisis predictivo, diagnóstico asistido por IA, análisis de imágenes, diagnóstico de la enfermedad de Alzheimer, diagnóstico de la enfermedad de Parkinson, detección de esclerosis múltiple, detección de epilepsia;
-
otorrinolaringología: interpretación de imágenes y vídeos, diagnóstico automatizado de trastornos de la voz y del sueño, teleendoscopia, análisis de sonido y voz, rehabilitación auditiva, comunicación automática con pacientes, incluyendo personas con sordera profunda;
-
dermatología: análisis de imágenes, análisis predictivo (melanoma), análisis de lesiones cutáneas, diagnóstico de acné, psoriasis y eczema;
-
oftalmología: diagnóstico, seguimiento y tratamiento del glaucoma, retinopatía diabética, degeneración macular, cataratas, errores refractivos, desprendimiento de retina, estrabismo, cáncer ocular, análisis de imágenes, predicción del curso de una enfermedad, cálculo de la potencia de la lente intraocular o planificación de la inyección intravítrea;
-
nutrición: nutrición de precisión/personalizada, análisis predictivo (obesidad, diabetes o enfermedades cardíacas), asistencia virtual (hábitos alimentarios), algoritmos autónomos para la planificación de la dieta, diagnóstico predictivo;
-
odontología: imágenes dentales (radiografías, tomografía computarizada), planificación del tratamiento, ortodoncia, prótesis (creación de modelos 3D de dientes y maxilares), periodontología, endodoncia, patología oral, robótica dental.
La cirugía robótica es otra área en pleno desarrollo en todos los campos de la medicina, desde la urología hasta la oftalmología, la neurocirugía o la otorrinolaringología 40. Se espera que la IA se vuelva cada vez más decisiva y hasta puede llegar a ser indispensable.
Algunas aplicaciones, sin embargo, ya son hoy ejemplos de la importante evolución en este campo 41. Cabe resaltar que esta evolución se trata de un continuum, y no de un momento disruptivo en el tiempo. La cirugía robótica ya se realiza desde hace muchos años, tanto con el cirujano físicamente presente como de forma remota. En lo que respecta a la telecirugía (cirugía remota, a distancia), por ejemplo, no hay un cambio de paradigma significativo en comparación con la cirugía tradicional. Aunque existe disociación física entre el cirujano que emite el diagnóstico y que guía remotamente la cirugía y el proxy surgeon, es decir, el sustituto que efectivamente ejecuta la operación, la responsabilidad siempre es del primero.
Sin embargo, sigue siendo un dispositivo electrónico el que realiza los pasos más importantes de la cirugía, dado que el cirujano tradicional no es un simple técnico que recurre a datos, sino alguien que utiliza sus conocimientos técnicos y competencias humanas, su tacto y empatía en la relación con un paciente; es decir, el acto quirúrgico es solo un componente de toda la interacción con el paciente, a cuyas peculiaridades el médico se adapta. Esta adaptación, la telecirugía, tiende a no materializarse, sobre todo con el avance de la automatización que se traduce en una autonomía total del robot quirúrgico. Una vez más, es esencial que el médico cirujano mantenga el control para no reforzar la deshumanización en la relación médico-paciente.
Aunque la cirugía robótica autónoma se encuentra en gran medida en fase experimental, existen evidencias de su efecto a corto plazo en áreas como la venopunción, el trasplante capilar, la anastomosis intestinal, el reemplazo total de rodilla o la radiocirugía 42. En su fase inicial, la cirugía robótica es una extensión de la cirugía mínimamente invasiva, en la que los cirujanos operan de forma remota, pero en la mismo bloque operatorio. Los instrumentos quirúrgicos especializados se utilizan como una extensión de los movimientos del cirujano, especialmente en cirugía abdominal y torácica, gracias a complejos algoritmos que les permiten imitar los movimientos del médico. Incluso las intervenciones quirúrgicas de elevada complejidad ya están bajo la mira de la cirugía robótica autónoma por IA. Por ejemplo, la implantación coclear, es decir, la colocación de un sofisticado implante electrónico en el oído interno 43. El avance en la cirugía odontológica, a su vez, ya es significativo. En Xi’an, China, un robot independiente colocó dos implantes dentales impresos en 3D, sin intervención humana. El aumento significativo de la producción en masa de robots humanoides será un factor decisivo para su adopción generalizada en el sector sanitario.
Desde una perspectiva ética, pero también médico-legal, el consentimiento informado debe obtenerse por escrito. El consentimiento debe ser obtenido por el cirujano responsable, pero, en situaciones específicas, como cuando el cirujano responsable está a distancia, el consentimiento puede ser obtenido por el cirujano asistente, es decir, el que se encuentra al lado del robot quirúrgico y del paciente. Cabe resaltar que, por ahora, es responsabilidad del cirujano a cargo rendir cuentas del resultado de la cirugía y asumir sus consecuencias. Existe una larga curva de aprendizaje en la cirugía con métodos tradicionales, curva que se mantiene o se profundiza en la cirugía robótica. La implementación de la práctica médica robótica debe incluir entrenamiento intensivo en IA y robótica quirúrgica, así como las adaptaciones necesarias para la toma de decisiones intraoperatorias 44. El consentimiento informado en los sistemas de IA presenta desafíos únicos 45, incluida la dificultad de explicar algoritmos complejos en un lenguaje accesible, la necesidad de un consentimiento dinámico para sistemas que están aprendiendo continuamente y preguntas sobre la alfabetización digital de los pacientes. Además, debe tenerse en cuenta el derecho del paciente a no ser objeto de decisiones basadas exclusivamente en el procesamiento automatizado, tal y como prevé la legislación de protección de datos de diferentes países.
Sin embargo, con la progresiva automatización de la robótica quirúrgica, cabe preguntarse quién es, de hecho, el responsable en los litigios médico-legales: el cirujano responsable, el cirujano asistente (el que asiste al robot), la empresa que ha construido y comercializado el dispositivo, el ingeniero que lo diseñó, el hospital que lo pone a disposición de médicos y pacientes, o el propio robot (considerando hoy la posibilidad de una verdadera personalidad jurídica cibernética). Si surgen complicaciones intraoperatorias y no se responsabiliza al robot, ¿de quién será la culpa? Por regla general, son los cirujanos, no los robots, los considerados agentes responsables. Estas cuestiones deben apreciarse cuidadosamente, teniendo siempre presente la necesidad de establecer lazos de confianza entre los sistemas de IA y la sociedad en general 46. Sin embargo, otorgar personalidad jurídica a sistemas de IA aún es controvertido y carece de precedentes consolidados. El Parlamento Europeo rechazó una propuesta en ese sentido en el 2021. El enfoque regulatorio actual se centra en la responsabilidad de los desarrolladores y operadores, además del desarrollo de sistemas modernos de responsabilidad “sin culpa formada”, de modo que el paciente sea compensado bajo cualquier circunstancia 47.
La IA tiene hoy efecto creciente en el diagnóstico, en el diagnóstico predictivo, en la biopsia guiada por IA, en el análisis predictivo, en el tratamiento y en su planificación, en el seguimiento (coaching virtual), en la robótica quirúrgica, entre muchos otros ámbitos de intervención en la medicina. En cualquier caso, es esencial que la medicina y los médicos logren lo mejor de los dos mundos. Por una parte, el médico debe estar siempre en el circuito de IA. Por otra parte, la incertidumbre que rodea la evolución futura de la IA en la medicina debería alertar a la comunidad médica sobre la necesidad de una estrategia cautelosa de acuerdo con el principio de precaución.
Se trata de un principio ético y legal que aborda la innovación científica y tecnológica con prudencia, no con la intención de poner barreras a la ciencia y al desarrollo, sino de transparentar la forma como se desarrolla la tecnología. Se debe enfatizar la precaución y la necesidad de una pausa reflexiva para evaluar el impacto potencial de las nuevas tecnologías 48. La aplicación de este principio debe guiarse por cuatro ejes centrales: a) implementación de medidas preventivas ante la incertidumbre; b) transferencia de la carga de la prueba a los proponentes de una determinada tecnología; c) propuesta de escenarios alternativos respecto a los daños potenciales; y d) promoción de la participación pública activa en el debate.
Este principio se invoca cuando existen dudas sobre la seguridad de una tecnología —como en el caso de la IA en medicina—, y no es posible predecir la magnitud de su efecto. Se trata de un elemento central de la regulación basada en riesgos, evidenciado, por ejemplo, en el AI Act, el Reglamento de la Unión Europea sobre IA 49. Existe hoy un consenso de que en medicina, seis principios éticos siempre deben estar presentes en el horizonte para los médicos y las organizaciones que utilizan sistemas de IA en la salud y en la práctica médica 50: a) equidad; b) universalidad; c) trazabilidad; d) usabilidad; e) solidez; f) explicabilidad.
En otras palabras, para que la IA sea considerada confiable, debe respetar un conjunto de principios éticos validados internacionalmente 51 y alcanzar el consenso internacional más amplio sobre buenas prácticas de IA en medicina y sobre su impacto en los aspectos más diversos de la actividad humana 52.
Consideraciones finales
Este artículo resalta la necesidad de que la medicina supervise de cerca la evolución de la inteligencia artificial en la salud, dado su previsible impacto en la relación médico-paciente y en el concepto mismo de práctica médica. De hecho, es fundamental que la IA se mantenga siempre bajo supervisión humana (human in the loop), y que los médicos participen siempre en el diseño, desarrollo y aplicación de los nuevos sistemas de IA en la medicina (physician in the loop), teniendo en cuenta los valores éticos y civilizatorios compartidos universalmente.
Sin embargo, existe el temor de que la falta de conocimiento, información y confianza en la IA, junto con un posible cambio en la identidad profesional de la medicina, pueda comprometer la autonomía y la libertad de los médicos y la calidad de la relación médico-paciente. La inteligencia artificial debe ser copiloto de los médicos, y nunca lo contrario. Por lo tanto, las consideraciones éticas, regulatorias y de buena gobernanza son esenciales en el diseño e implementación de la inteligencia artificial, como lo es una actitud prudente y expectante hacia la IA en medicina, de acuerdo con el principio de precaución y la prudencia requerida en estas circunstancias.
Referencias bibliográficas
- 1 Nunes R. Bioética. Brasília: Conselho Federal de Medicina; 2022.
-
2 Olson K, Meeker D, Troup M, Barker T, Nguyen V, Manders J et al. Use of ambient AI Scribes to reduce administrative burden and professional burnout. JAMA Netw Open [Internet]. 2025 [acesso 29 jul 2025];8(10):e2534976. DOI: 10.1001/jamanetworkopen.2025.34976
» https://doi.org/10.1001/jamanetworkopen.2025.34976 -
3 Yadav GS, Longhurst CA. Will AI make the electronic health record more efficient for clinicians?. N Eng J Med AI [Internet]. 2025 [acesso 29 jul 2025];2(3). DOI: 10.1056/AIe2500020
» https://doi.org/10.1056/AIe2500020 -
4 Paula M. IA na saúde pública: avanços, lacunas e oportunidades do Plano Brasileiro de Inteligência Artificial. Instituto Brasileiro de Inovação em Saúde [Internet]. 2024 [acesso 4 out 2025]. Disponível: http://bit.ly/4jt8CMQ
» http://bit.ly/4jt8CMQ -
5 Estratégia de Saúde Digital para o Brasil 2020-2028. Ministério da Saúde [Internet]. 2 jul 2021 [acesso 29 set 2025]. Disponível: https://bit.ly/4jvjEBv
» https://bit.ly/4jvjEBv -
6 Brasil. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o uso da inteligência artificial. Senado Federal [Internet]. 2023 [acesso 11 ago 2025]. Disponível: https://bit.ly/4qdoo0T
» https://bit.ly/4qdoo0T -
7 Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine. N Engl J Med [Internet]. 2023 [acesso 29 jul 2025];388(13):1233-9. DOI: 10.1056/NEJMsr2214184
» https://doi.org/10.1056/NEJMsr2214184 -
8 Cavalier J, Goldstein B, Ravitsky V, Bélisle-Pipon JC, Bedoya A, Maddocks J et al. Ethics in patient preferences for artificial intelligence-drafted responses to electronic messages. JAMA Network Open [Internet]. 2025 [acesso 20 mar 2025];8(3):e250449. DOI: 10.1001/jamanetworkopen.2025.0449
» https://doi.org/10.1001/jamanetworkopen.2025.0449 -
9 Committee on Evaluating Clinical Applications of Telemedicine. In: Field MJ, editor. Telemedicine: a guide to assessing telecommunications in health care [Internet]. Washington: National Academies Press; 1996 [acesso 20 mar 2025]. Disponível: https://bit.ly/49djJWV
» https://bit.ly/49djJWV -
10 American Telemedicine Association [Internet]. Washington: ATA; 2023 [acesso 11 jan 2025]. Disponível: https://www.americantelemed.org/
» https://www.americantelemed.org/ - 11 Nunes R, Rego G. Questões ético-jurídicas da consulta médica por via telefónica. Parecer do Conselho Médico-Legal. Revista do Centro de Estudos Judiciários. 2009;11:235-41.
-
12 Cornford T, Klecun-Drabowska E. Perspectivas éticas na avaliação da telessaúde. Camb Q Healthc Ethics [Internet]. 2001 [acesso 10 fev 2025];10(2):161-9. DOI: 10.1017/s0963180101002079
» https://doi.org/10.1017/s0963180101002079 -
13 Conselho Federal de Medicina. Resolução CFM nº 2.314/2022. Telemedicina: serviços mediados por tecnologias de comunicação. Diário Oficial da União [Internet]. Brasília, p. 227, 5 maio 2022 [acesso 11 jan 2025]. Seção 1. Disponível: https://bit.ly/4aQDh4H
» https://bit.ly/4aQDh4H -
14 Kotsenas AL, Balthazar P, Andrews D, Geis JR, Cook TS. Rethinking patient consent in the era of artificial intelligence and big data. J Am Coll Radiol [Internet]. 2021 [acesso 18 dez 2024];18(1):180-4. DOI: 10.1016/j.jacr.2020.09.022
» https://doi.org/10.1016/j.jacr.2020.09.022 -
15 Belciug S. The hospital manager's guide to artificial intelligence: concepts, methods, and techniques [Internet]. Berlin: Springer Nature; 2025 [acesso 11 jan 2025]. DOI: 10.1007/978-3-031-80314-7
» https://doi.org/10.1007/978-3-031-80314-7 -
16 Zanetti JK, Nunes R. To wallet or not to wallet: the debate over digital health information storage. Computers [Internet]. 2023 [acesso 18 dez 2024];12(6):114. DOI: 10.3390/computers12060114
» https://doi.org/10.3390/computers12060114 -
17 Ledzinski L, Grzésk G. Artificial intelligence technologies in cardiology. J Cardiovasc Dev Dis [Internet]. 2023 [acesso 28 fev 2025];10(5):202. DOI: 10.3390/jcdd10050202
» https://doi.org/10.3390/jcdd10050202 -
18 Brasil. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União [Internet]. Brasília, 15 ago 2018 [acesso 19 jan 2025]. Disponível: https://bit.ly/3L6OVxV
» https://bit.ly/3L6OVxV -
19 Parlamento Europeu. Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016. Relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados). Jornal Oficial da União Europeia [Internet]. Bruxelas, 27 abr 2016 [acesso 28 fev 2025]. Disponível: https://bit.ly/4qCuBmQ
» https://bit.ly/4qCuBmQ -
20 Hartman V, Zhang X, Poddar R, McCarty M, Fortenko A, Sholle E et al. Developing and evaluating large language model-generated emergency medicine handoff notes. JAMA Netw Open [Internet]. 2024 [acesso 10 fev 2025];7(12):e2448723. DOI: 10.1001/jamanetworkopen.2024.48723
» https://doi.org/10.1001/jamanetworkopen.2024.48723 -
21 Mirza F, Tang OY, Connolly ID, Abdulrazeq HA, Lim RK, Roye GD. Using ChatGPT to facilitate truly informed medical consent. NEJM AI [Internet]. 2024 [acesso 14 jan 2025];1(2):1-6. DOI: 10.1056/AIcs2300145
» https://doi.org/10.1056/AIcs2300145 -
22 Brender TD, Smith AK, Block BL. Can artificial intelligence speak for incapacitated patients at the end of life?. JAMA Intern Med [Internet]. 2024 [acesso 28 jan 2025];184(9):1005-6. DOI: 10.1001/jamainternmed.2024.2676
» https://doi.org/10.1001/jamainternmed.2024.2676 -
23 Nunes R. Directivas anticipadas de voluntad. Brasília: CFM; 2020. Disponível: https://bit.ly/3Z5THPi
» https://bit.ly/3Z5THPi -
24 Ahuja AS. The impact of artificial intelligence in medicine on the future role of the physician. PeerJ [Internet]. 2019 [acesso 29 jul 2025];7:e7702. DOI: 10.7717/peerj.7702
» https://doi.org/10.7717/peerj.7702 -
25 Nunes R. Evidence-based medicine: a new tool for resource allocation?. Med Health Care Philos [Internet]. 2003 [acesso 13 fev 2025];6(3):297-301. DOI: 10.1023/a:1025969303573
» https://doi.org/10.1023/a:1025969303573 -
26 Mittelstadt B. The impact of artificial intelligence on the doctor-patient relationship [Internet]. Strasbourg: Council of Europe; 7 jun 2021 [acesso 4 fev 2025]. Disponível: https://bit.ly/4sN11NE
» https://bit.ly/4sN11NE -
27 Peruselli C, De Panfilis L, Gobber G, Melo M, Tanzi S. Artificial intelligence and palliative care: opportunities and limitations. Recenti Prog Med [Internet]. 2020 [acesso 29 jul 2025];111(11):639-45. DOI: 10.1701/3474.34564
» https://doi.org/10.1701/3474.34564 -
28 Nunes R. Healthcare as a universal human right: sustainability in global health. London: Routledge; 2022 [acesso 28 jan 2025]. Disponível: https://bit.ly/4qo6N6D
» https://bit.ly/4qo6N6D -
29 Naithani N, Sinha S, Misra P, Vasudevan B, Sahu R. Precision medicine: concept and tools. Med J Armed Forces India [Internet]. 2021 [acesso 29 jul 2025];77(3):249-57. DOI: 10.1016/j.mjafi.2021.06.021
» https://doi.org/10.1016/j.mjafi.2021.06.021 - 30 Nunes R. GeneÉtica. Coimbra: Almedina; 2013. p. 13.
-
31 Haug CJ, Drazen J. Artificial intelligence and machine learning in clinical medicine, 2023. N Engl J Med [Internet]. 2023 [acesso 13 fev 2025];388:1201-8. DOI: 10.1056/NEJMra2302038
» https://doi.org/10.1056/NEJMra2302038 -
32 Mooghali M, Stroud AM, Whi Yoo DW, Barry BA, Grimshaw AA, Ross JS. Trustworthy and ethical AI-enabled cardiovascular care: a rapid review. BMC Med Inform Decis Mak [Internet]. 2024 [acesso 28 jan 2025];24(247):1-12. DOI: 10.1186/s12911-024-02653-6
» https://doi.org/10.1186/s12911-024-02653-6 -
33 Rajpurkar P, Lungren MP. The current and future state of AI interpretation of medical images. N Engl J Med [Internet]. 2023 [acesso 13 fev 2025];388:1981-90. DOI: 10.1056/NEJMra2301725
» https://doi.org/10.1056/NEJMra2301725 -
34 Hosny A, Parmar C, Quackenbush J, Schwartz LH, Aerts HJ. Artificial intelligence in radiology. Nat Rev Cancer [Internet]. 2018 [acesso 29 jul 2025];18:500-10. Disponível: https://tinyurl.com/56sdzn6m
» https://tinyurl.com/56sdzn6m -
35 Johnson KW, Soto JT, Glicksberg BS, Shameer K, Miotto R, Ali M et al. Artificial intelligence in cardiology. J Am Coll Cardiol [Internet]. 2018 [acesso 5 mar 2025];71(23):2668-79. DOI: 10.1016/j.jacc.2018.03.521
» https://doi.org/10.1016/j.jacc.2018.03.521 -
36 Zargarzadeh A, Javanshir E, Ghaffari A, Mosharkesh E, Anari B. Artificial intelligence in cardiovascular medicine: an updated review of the literature. J Cardiovasc Thorac Res [Internet]. 2023 [acesso 29 jul 2025];15(4):204-9. DOI: 10.34172/jcvtr.2023.33031
» https://doi.org/10.34172/jcvtr.2023.33031 -
37 Esteva A, Kuprel B, Novoa RA, Ko J, Swetter SM, Blau HM, Thrun S. Dermatologist-level classification of skin cancer with deep neural networks. Nature [Internet]. 2017 [acesso 29 jul 2025];542:115-8. DOI: 10.1038/nature21056
» https://doi.org/10.1038/nature21056 -
38 McKinney SM, Sieniek M, Godbole V, Godwin J, Antropova N, Ashrafian H et al. International evaluation of an AI system for breast cancer screening. Nature [Internet]. 2020 [acesso 29 jul 2025];577:89-94. Disponível: https://tinyurl.com/whe4pfbj
» https://tinyurl.com/whe4pfbj -
39 Bond A, Mccay K, Lal S. Artificial intelligence & clinical nutrition: what the future might have in store. Clin Nutr ESPEN [Internet]. 2023 [acesso 29 jul 2025];57:542-9. DOI: 10.1016/j.clnesp.2023.07.082
» https://doi.org/10.1016/j.clnesp.2023.07.082 -
40 Bhargava K, Mason K. The role of artificial intelligence and applications in ENT surgery. ENT & Audiology News [Internet]. 4 jul 2024 [acesso 28 abr 2025]. Disponível: https://bit.ly/4sCPsIM
» https://bit.ly/4sCPsIM -
41 Constantinescu M, Crisp R. Can robotic ai systems be virtuous and why does this matter?. Int J Soc Robot [Internet]. 2022 [acesso 5 mar 2025];14(6):1547-57. DOI: 10.1007/s12369-022-00887-w
» https://doi.org/10.1007/s12369-022-00887-w -
42 Rivero-Moreno Y, Rodríguez M, Losada-Muñoz P, Redden S, Lopez-Lezama S, Vidal-Gallardo A et al. Autonomous robotic surgery: has the future arrived?. Cureus [Internet]. 2024 [acesso 5 mar 2025];16(1):e52243. DOI: 10.7759/cureus.52243
» https://doi.org/10.7759/cureus.52243 -
43 Abari J, Heuninck E, Topsakal V. Entirely robotic cochlear implant surgery. Am J Otolaryngol [Internet]. 2024 [acesso 5 mar 2025];45(5):104360. DOI: 10.1016/j.amjoto.2024.104360
» https://doi.org/10.1016/j.amjoto.2024.104360 -
44 Power D. Ethical considerations in the era of AI, automation, and surgical robots: there are plenty of lessons from the past. Discover Artificial Intelligence [Internet]. 2024 [acesso 28 fev 2025];4(65). DOI: 10.1007/s44163-024-00166-9
» https://doi.org/10.1007/s44163-024-00166-9 -
45 World Health Organization. Ethics and governance of artificial intelligence for health [Internet]. Geneva: WHO; 2021 [acesso 25 set 2025]. Disponível: https://bit.ly/49rPkD1
» https://bit.ly/49rPkD1 -
46 European Commission. Ethics guidelines for trustworthy AI [Internet]. Brussels: European Commission; 2019 [acesso 13 fev 2025]. Disponível: https://bit.ly/4aR8NPT
» https://bit.ly/4aR8NPT -
47 Nunes R, Nunes SB. Inteligência artificial: uma ponte para o futuro da medicina. Rev. bioét. (Impr.) [Internet]. 2025 [acesso 12 fev 2026];33(2):24-34. DOI: 10.1590/1983-803420254115PT
» https://doi.org/10.1590/1983-803420254115PT -
48 Organisation for Economic Co-operation and Development. Understanding and applying the precautionary principle in the energy transition [Internet]. Paris: OECD Publishing; 2023 [acesso 2 mar 2025]. Disponível: https://bit.ly/49RoqVB
» https://bit.ly/49RoqVB -
49 AI Act. European Commission [Internet]. 2024 [acesso 5 dez 2024]. Disponível: https://bit.ly/49szNTD
» https://bit.ly/49szNTD -
50 Lekadir K, Alejandro FF, Porras AR, Glocker B, Cintas C, Langlotz CP et al. FUTURE-AI: international consensus guideline for trustworthy and deployable artificial intelligence in healthcare. BMJ [Internet]. 2025 [acesso 5 mar 2025];388. DOI: 10.1136/bmj-2024-081554
» https://doi.org/10.1136/bmj-2024-081554 -
51 United Nations Educational, Scientific and Cultural Organization. Recommendation on the ethics of artificial intelligence [Internet]. Paris: Unesco; 2024 [acesso 25 set 2025]. Disponível: https://bit.ly/49v4oQg
» https://bit.ly/49v4oQg -
52 Nunes R, Nunes SB. Reliable Artificial Intelligence: the 18th Sustainable Development Goal. JELT [Internet]. 2024 [acesso 3 mar 2025];6(2):1-19. DOI: 10.14658/pupj-JELT-2024-2-2
» https://doi.org/10.14658/pupj-JELT-2024-2-2
-
Disponibilidad de los datos:
Todos los datos utilizados o generados en la investigación se describen y presentan íntegramente en el cuerpo del artículo.
Editado por
-
Editora responsable:
Dilza Teresinha Ambrós Ribeiro
Todos los datos utilizados o generados en la investigación se describen y presentan íntegramente en el cuerpo del artículo.
