Percepciones profesionales sobre confianza en inteligencia artificial médica en EspañaResumen
Este estudio examina cómo los profesionales sanitarios españoles perciben y confían en la inteligencia artificial en cuatro escenarios clínicos, considerando familiaridad tecnológica, especialidad y edad. Entre octubre y noviembre de 2024 se aplicó una encuesta transversal en línea a 165 profesionales y estudiantes del sector sanitario. Las viñetas clínicas describían situaciones de diagnóstico, pronóstico y apoyo terapéutico asistidos por inteligencia artificial; la confianza se midió con escalas Likert. Los datos se procesaron mediante técnicas descriptivas e inferenciales en un entorno estadístico de código abierto. La familiaridad mostró relación directa con la confianza; los participantes más jóvenes y los médicos tuvieron mayor aceptación que otros grupos. La mayoría notificó familiaridad baja o moderada. Integrar con éxito la inteligencia artificial en el sistema sanitario español exige formación específica por especialidad y una regulación clara; y aumentar la familiaridad tecnológica es esencial para generar confianza.
Palabras clave
Inteligencia artificial; Confianza; Personal de salud; Ética médica; Atención a la salud
Resumo
Este estudo analisa a percepção dos profissionais de saúde da Espanha sobre a confiança na inteligência artificial com base em quatro cenários clínicos, considerando a familiaridade tecnológica, especialidade e idade. Entre outubro e novembro de 2024, foi aplicado um questionário transversal on-line a 165 profissionais e estudantes do setor da saúde. As condições clínicas descreviam situações de diagnóstico, prognóstico e suporte terapêutico assistidos pela inteligência artificial; a confiança foi medida com escalas Likert. Os dados foram processados por técnicas descritivas e inferenciais em ambiente estatístico de código aberto. A familiaridade esteve diretamente relacionada à confiança; os participantes mais jovens e os médicos apresentaram maior aceitação do que outros grupos. A maioria dos participantes tiveram uma familiaridade baixa ou moderada. A inclusão com sucesso da inteligência artificial no sistema de saúde espanhol demanda treinamento específico das especialidades e uma regulamentação clara, sendo essencial aumentar a familiaridade tecnológica para gerar confiança.
Palavras-chave
Inteligência artificial; Confiança; Pessoal de saúde; Ética médica; Atenção à saúde
Abstract
This study examines the perceptions of healthcare professionals in Spain regarding trust in artificial intelligence, based on four clinical scenarios and considering technological familiarity, medical specialty, and age. From October to November 2024, a cross-sectional online survey was conducted with 165 professionals and students in the healthcare sector. The clinical scenarios described situations involving artificial intelligence-assisted diagnosis, prognosis, and therapeutic support; trust was measured using Likert scales. Data were analyzed using descriptive and inferential techniques in an open-source statistical environment. Familiarity was directly associated with trust; younger participants and physicians showed greater acceptance than other groups. Most participants reported low to moderate familiarity with artificial intelligence. The successful integration of artificial intelligence into the Spanish healthcare system requires targeted training by specialty and clear regulation, with increased technological familiarity being essential to foster trust.
Keywords
Artificial intelligence; Trust; Health personnel; Ethics, medical; Delivery of health care
A pesar del creciente interés y desarrollo de la inteligencia artificial (IA) en el ámbito de la salud a nivel global, la adopción de estas tecnologías en la práctica clínica depende en gran medida de la percepción y aceptación de los propios profesionales. Los factores como la familiaridad con la IA, la especialidad médica y la edad pueden influir significativamente en la confianza depositada en estas herramientas, y comprender estas dinámicas es esencial para garantizar una implementación exitosa y sostenible.
En España, se espera que la IA juegue un papel crucial para enfrentar los desafíos del envejecimiento de la población, la cronicidad de enfermedades y las desigualdades en el acceso a servicios de salud especializados. A pesar del potencial evidente de la IA, la confianza en estas tecnologías sigue siendo un factor determinante para su adopción efectiva.
Como apuntan diversos estudios 1, la percepción y actitud de los profesionales sanitarios acerca de la IA puede facilitar o inhibir su uso en la práctica clínica cotidiana. Se observa que la literatura académica actual existe un vacío sobre la confianza de los profesionales sanitarios en la IA, en la cual la mayoría de las investigaciones sobre esta tecnología en salud han sido realizadas en contextos fuera de España, principalmente anglófonos.
Al tener esto en cuenta, el objetivo principal de este estudio fue investigar cómo los profesionales sanitarios en España perciben la IA en diferentes contextos clínicos, explorando las variables de familiaridad, especialidad y edad como factores clave en la confianza depositada en estas tecnologías. Por tanto, esta investigación se propone arrojar luz sobre un área crucial pero poco explorada en el contexto español.
Este estudio busca ir más allá de la simple descripción de la confianza en la IA. Específicamente, se propone analizar cómo esta confianza se manifiesta en diferentes contextos clínicos, mediante la presentación de viñetas que ilustran aplicaciones específicas de la IA en el diagnóstico, tratamiento y seguimiento de pacientes. Por ello, exploramos la relación entre la confianza y variables demográficas y profesionales, con el objetivo de identificar patrones y tendencias que puedan informar futuras estrategias de implementación.
Se espera que los resultados de esta investigación no solo contribuyan al debate académico sobre la IA en salud, sino que también proporcionen información valiosa para los responsables políticos, los profesionales sanitarios y los desarrolladores de tecnología, ayudándoles a comprender mejor las necesidades y preocupaciones de los usuarios finales y a diseñar soluciones que sean aceptadas y utilizadas de manera efectiva en la práctica clínica.
En última instancia, se espera una colaboración fructífera entre humanos y máquinas, en la cual la IA se utilice como una herramienta complementaria y potenciadora de las habilidades y conocimientos de los profesionales sanitarios, en beneficio de la salud y el bienestar de los pacientes.
Revisión de literatura narrativa estructurada
Confianza en la IA en la atención médica
Si bien las revisiones sistemáticas siguiendo el Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) 2 son el estándar de oro para sintetizar evidencia, existen situaciones en las cuales una revisión narrativa estructurada puede ser más apropiada cuando se busca una comprensión más amplia y contextual de un tema. Mientras que PRISMA proporciona un marco riguroso para revisiones sistemáticas y metaanálisis, centrándose en la transparencia y reproducibilidad, una revisión narrativa permite una exploración más flexible y profunda de la literatura.
Esto es especialmente útil en áreas de investigaciones emergentes o multidisciplinares, en las cuales los estudios pueden ser heterogéneos en métodos y enfoques. Dada la mayor flexibilidad de una revisión narrativa estructurada, se utilizó este tipo de revisión en este estudio.
La confianza en los sistemas de IA en el sector de la salud ha sido objeto de análisis en varios estudios recientes, los cuales han señalado que la percepción de los profesionales sobre la IA está influenciada por factores como la usabilidad, la transparencia, la seguridad y el contexto en el que se implementan 3.
En particular, las aplicaciones más críticas de la IA, como el diagnóstico y la selección de tratamientos, suelen generar mayores reticencias entre los profesionales debido a las posibles implicaciones éticas y la percepción del riesgo de error. En el ámbito europeo, las iniciativas para promover la integración de la IA en los sistemas sanitarios han avanzado rápidamente, con países como Francia y Alemania liderando el desarrollo de marcos regulatorios y programas de capacitación para los profesionales sanitarios.
España, sin embargo, aún se encuentra en las primeras fases de implementación, lo que subraya la importancia de estudios para comprender los factores que pueden facilitar o dificultar la adopción de la IA en el sistema de salud español. La literatura reciente señala que la confianza en los sistemas de IA requiere una consideración especial en el contexto clínico, en que las decisiones tienen implicaciones directas en la salud de los pacientes.
Esta literatura no tiene su origen en el contexto español, aunque sí hay autores de origen español pero que publican en inglés, por ello nos hemos centrado en investigaciones con perspectiva europea y en lengua inglesa. De esta literatura y su revisión se extrae una extensa investigación centrada en establecer la confianza, especialmente dentro del panorama regulatorio europeo.
Varios estudios exploran estrategias de fomento de la confianza que abarcan la fiabilidad técnica, la adhesión a marcos éticos y la participación de diversos actores. Las investigaciones han demostrado que el establecimiento de marcos y procedimientos de trabajo es fundamental para el desarrollo de sistemas de IA confiables, como en el trabajo de-Manuel-Vicente y colaboradores 4, quienes proponen un marco integral que cumple con las directrices de la Unión Europea (UE).
Este marco aborda aspectos clave como la privacidad de datos, la diversidad, la no discriminación, la equidad, la transparencia y la robustez técnica en las diferentes etapas del ciclo de vida de la IA. El análisis regulatorio constituye otra dimensión crítica de este discurso. Meszaros y colaboradores 5 y Bimczok y colaboradores 6 ofrecen información sobre las regulaciones existentes y propuestas, como el Reglamento General de Protección de Datos (RGPD) de la UE y la Ley de IA. Discuten la necesidad de marcos regulatorios cohesivos para garantizar aplicaciones de IA éticas y responsables en la atención médica europea, que aborden la protección de datos, la responsabilidad, la transparencia, la robustez y la precisión.
Por otra parte, De Raeve y colaboradores 7 destacan la práctica emergente de involucrar a las partes interesadas en el diseño de la IA y subrayan el valor de los enfoques de diseño participativo. Dichas metodologías involucran a profesionales de la salud, especialmente enfermeras, en procesos de cocreación, que contribuyen a mejorar la confianza y la aceptación de las soluciones de IA.
Los conceptos innovadores, como el “pasaporte de IA” introducido por García-Gómez y colaboradores 8, sirven como documentos vivos que proporcionan registros completos de los sistemas de IA, promoviendo así la transparencia, la seguridad y la responsabilidad. Esta iniciativa ejemplifica los esfuerzos continuos para implementar herramientas prácticas para la gestión de riesgos de la IA. Mehrotra y colaboradores 9 destacan que la confianza apropiada debe corresponder a la capacidad real del sistema, lo cual evita tanto la desconfianza como la confianza excesiva.
En este sentido, LaRosa y Danks 10 argumentan que la confianza en la IA debe fundamentarse en la comprensión de los mecanismos subyacentes que generan las recomendaciones más allá de la mera predictibilidad del comportamiento del sistema. Un hallazgo significativo de Burgess y colaboradores 11 es que los profesionales sanitarios evalúan los sistemas de IA en comparación con los “estándares de oro” tradicionales de generación de conocimiento clínico, particularmente los ensayos clínicos controlados aleatorios. Esta comparación influye directamente en la disposición de los profesionales a incorporar las recomendaciones de la IA en su práctica clínica.
Además, los autores identificaron que la confianza suele establecerse en las primeras interacciones con el sistema, lo que subraya la importancia de una adecuada introducción y capacitación inicial. Un aspecto crucial para la adopción efectiva de sistemas de IA en salud es la integración apropiada en los flujos de trabajo clínicos existentes. Los estudios muestran que las restricciones de tiempo durante las consultas son una barrera significativa, al requerir que los sistemas de IA proporcionen información concisa y relevante sin aumentar la carga cognitiva de los profesionales 9,11.
Esta realidad destaca la necesidad de desarrollar interfaces que faciliten la toma de decisiones rápida y efectiva, al mismo tiempo que mantienen la transparencia necesaria para fomentar la confianza apropiada. McGarry y colaboradores 12 complementan nuestra revisión de la literatura sobre confianza en IA médica al examinar los desafíos regulatorios y de gobernanza. Los autores señalan que la regulación tradicional basada en riesgos resulta inadecuada para estas nuevas tecnologías, principalmente porque es difícil clasificar el riesgo de sistemas sin precedentes y porque el aprendizaje continuo plantea desafíos para la certificación.
Existe además una tensión fundamental entre la necesidad de actualizaciones frecuentes de software y los procesos regulatorios establecidos. Este estudio enfatiza que la confianza en sistemas médicos de IA debe considerar factores sociales más allá de la precisión técnica, como el contexto de uso, el flujo de trabajo clínico, los requisitos específicos de automatización de los usuarios y el balance entre falsos positivos/negativos según el impacto clínico y económico.
Hay un estudio en proceso de revisión en una revista académica hemos analizado con mayor detenimiento la diversa tipología a tener en cuenta a la hora de analizar qué factores influyen en la asignación de confianza a la hora de utilizar IA en medicina. El trabajo de McGarry y colaboradores 12 refuerza nuestro argumento sobre la necesidad de considerar múltiples factores en la generación de confianza, más allá de métricas puramente técnicas, y la urgencia de adaptar los marcos regulatorios existentes para acomodar las características únicas de los sistemas de IA en salud.
Método
Este estudio utiliza un diseño transversal para explorar las percepciones de los profesionales sanitarios hacia la IA. Se optó por una encuesta en línea distribuida por el procedimiento de efecto de bola nieve mediante Psytoolkit 13, una herramienta web que ha demostrado ser eficaz para estudios que requieren respuestas rápidas y seguras a gran escala.
Participantes
La muestra estuvo compuesta por 165 profesionales y estudiantes del sector salud en España, reclutados entre los meses de octubre y noviembre de 2024. La muestra incluyó a profesionales de diversas especialidades, como Medicina, Enfermería, Psicología, Fisioterapia u otra, lo cual garantiza una representación diversa del sistema de salud. El reclutamiento de los participantes se realizó utilizando el efecto de bola de nieve o boca a boca.
Consentimiento informado
Todos los participantes dieron su consentimiento informado para participar en el estudio antes de comenzar la encuesta. Este consentimiento se obtuvo de manera electrónica en la plataforma Psytoolkit, en el cual se les informó sobre el propósito del estudio, la naturaleza voluntaria de su participación, el tratamiento confidencial de los datos y su derecho a retirarse del estudio en cualquier momento. Solo se procedió con la recopilación de datos una vez que los participantes aceptaron explícitamente realizar el estudio. Este procedimiento se realizó de acuerdo con los principios éticos de investigación y la normativa vigente de protección de datos.
Instrumento de recolección de datos
El cuestionario incluyó preguntas demográficas (edad, especialidad, años de experiencia) y una serie de viñetas clínicas diseñadas para evaluar la confianza en diferentes aplicaciones de la IA. Las viñetas abarcaban situaciones específicas que iban desde el diagnóstico de enfermedades raras hasta el monitoreo remoto de pacientes crónicos, y se utilizaron escalas de Likert para medir la confianza de los participantes de “Totalmente en desacuerdo” a “Totalmente de acuerdo”.
Procedimiento de cumplimentación del cuestionario
Los participantes completaron el cuestionario en línea de manera anónima. Una vez leídas las viñetas (4 en total), los participantes respondieron a cada escenario clínico presentado en la viñeta con una escala de Likert de cinco puntos. La encuesta fue precedida por un consentimiento informado en el que se explicaba el propósito del estudio y se garantizaba la confidencialidad de los datos. También se incluía una pregunta sobre la familiaridad con la IA, medida por una escala de Likert de “Nada familiarizado” a “Extremadamente familiarizado”.
Viñetas clínicas
Diagnóstico de enfermedad rara: un sistema de IA, después de analizar los síntomas y el historial médico del paciente, sugiere un diagnóstico para una enfermedad rara que previamente había sido pasada por alto por varios/as médicos/as. El tratamiento recomendado es novedoso pero prometedor: ¿Confiaría en el diagnóstico y tratamiento de una enfermedad rara proporcionado por un sistema de IA, especialmente si ha sido pasado por alto por médicos/as previamente?
Monitoreo remoto de pacientes crónicos: una aplicación de IA monitorea los signos vitales de un/a paciente con una enfermedad crónica mediante dispositivos portátiles. La IA alerta a la paciente y a su médico/a cuando detecta patrones que indican un posible deterioro, lo cual permite una intervención rápida. ¿Se sentiría cómodo utilizando una aplicación de IA para el monitoreo remoto de una enfermedad crónica?
Asesoramiento automatizado para estilos de vida saludables: un chatbot de IA proporciona consejos personalizados sobre dieta y ejercicio a un/a paciente que busca reducir sus problemas de obesidad. El chatbot ajusta sus recomendaciones en función de los progresos y retroalimentación del/la paciente. ¿Confiaría en las recomendaciones de un chatbot de IA para mejorar su dieta y ejercicio?
Selección de tratamiento oncológico: un algoritmo de IA evalúa las características específicas del cáncer de un/a paciente, incluyendo la genética del tumor, para recomendar un plan de tratamiento personalizado. Este plan abarca una combinación de terapias tradicionales y opciones experimentales basadas en la probabilidad de éxito. ¿Se sentiría cómodo/a con un plan de tratamiento para el cáncer recomendado por un algoritmo de IA, basado en análisis genéticos del tumor?
El análisis de la distribución educativa reveló un patrón significativo (χ2=22,64, p<0,001), en que la licenciatura predomina con un 45,7% de los participantes, seguida por la maestría con un 23,3%. El doctorado representa un 16,3%; y otros niveles educativos corresponden a un 14,7%. Esta distribución no uniforme refleja la estructura jerárquica típica del sistema sanitario español, en el que la mayoría de los profesionales tienen formación de grado o máster, mientras que los doctorados son menos comunes en la práctica clínica directa.
Análisis estadístico
Para evaluar los datos recopilados, se utilizaron técnicas estadísticas descriptivas e inferenciales. El análisis se llevó a cabo con el uso del software especializado para asegurar precisión y reproducibilidad en los resultados. El análisis de los datos se realizó utilizando el lenguaje de programación R, una herramienta ampliamente reconocida en la comunidad científica por su robustez en el análisis estadístico y visualización de datos 14. Las informaciones fueron revisadas para identificar errores, valores extremos y datos no imputados. Las observaciones incompletas fueron excluidas siguiendo criterios metodológicos.
Las variables categóricas, como “nivel educativo” y “ámbito profesional”, se codificaron como factores, mientras que las variables ordinales, como las escalas de Likert, se trataron como datos ordenados. Se describieron variables categóricas, como la distribución de edades, nivel educativo y ámbito profesional de los participantes. Se realizaron pruebas de independencia para analizar las distribu- ciones categóricas de las variables clave.
La distribución de edades se comparó con una distribución uniforme. El análisis reveló una representación desproporcionada, con mayor frecuencia en los rangos de 18-24 años (34,1%) y de 25-35 años (26,4%) (χ2=24,8, p<0,001). La distribución por nivel de estudios mostró diferencias significativas, destacando la licenciatura (45,7%) y maestría (23,3%) como los niveles más representados (χ2=22,64, p<0,001). Se observó una sobrerrepresentación en medicina (59,7%) (χ2=86,48, p<0,001). Las respuestas a las escalas de Likert se analizaron utilizando estadísticas descriptivas para identificar tendencias en la familiaridad y confianza hacia la IA en diferentes escenarios (diagnóstico, monitoreo, asesoramiento y selección de tratamiento).
Además, se evaluaron correlaciones entre familiaridad con IA y confianza, considerando variables como edad y nivel educativo. Se aplicaron modelos de regresión lineal múltiple para explorar las relaciones entre familiaridad, confianza y variables demográficas. Las variables dependientes fueron confianza en la IA en las viñetas específicas; y las variables independientes, familiaridad con la IA, edad y ámbito profesional.
El código utilizado para realizar el análisis estadístico, junto con otros materiales complementarios del estudio, está disponible en el repositorio del proyecto alojado en Open Science Framework (OSF). Este repositorio proporciona acceso público al script en R, garantizando la transparencia y reproducibilidad del análisis.
Resultados
Los resultados mostraron que la familiaridad con la IA tuvo un impacto positivo y significativo en la confianza en sus aplicaciones, con un mayor efecto en las áreas de diagnóstico y tratamiento. La edad influyó negativamente en la confianza, y los participantes más jóvenes mostraron mayor aceptación. La especialidad profesional moderó estas relaciones, con médicos que se mostraron más seguros en comparación con otros profesionales de la salud.
Para profundizar en las relaciones entre variables, se evaluaron interacciones específicas: familiaridad vs. edad y ámbito profesional vs. familiaridad. Se encontró que la familiaridad con la IA atenúa las diferencias generacionales en la confianza hacia la tecnología. Los participantes con mayor experiencia en medicina demostraron niveles de confianza más altos incluso con niveles moderados de familiaridad con la IA.
Los niveles de familiaridad con la IA fueron evaluados mediante la escala de Likert de cinco puntos. Los resultados indicaron que la mayoría de los participantes se ubicaron en categorías de familiaridad bajas o medias, con una mayor proporción considerándose “Poco familiarizados” o “Moderadamente familiarizados”. Este hallazgo resalta la necesidad de fomentar la formación en IA en el ámbito sanitario, especialmente considerando su creciente relevancia en el sector.
Los resultados muestran una distribución importante por especialidades. El personal médico mostró una tendencia más positiva, con aproximadamente 30 participantes “De acuerdo” y 23 “Neutros”. Enfermería siguió un patrón similar, pero con números más moderados (16 “De acuerdo”; nueve “Neutros”). Es notable que las posiciones extremas (“Totalmente en desacuerdo” y “Totalmente de acuerdo”) fueron menos frecuentes en todas las especialidades, lo cual revela una cautela profesional razonable ante esta aplicación de la IA.
Teniendo en cuenta el contexto de la primera viñeta, esta aplicación de la IA recibió una de las valoraciones más positivas del estudio. Los datos muestran una fuerte inclinación hacia la aceptación, particularmente entre el personal médico, en que más de 40 participantes indicaron estar “De acuerdo”. El personal de enfermería mostró un patrón similar con aproximadamente 20 participantes “De acuerdo”. Es especialmente relevante la baja tasa de respuestas negativas, lo cual apunta a que esta aplicación de la IA se percibe como menos controvertida y más práctica.
Con relación a la segunda viñeta, el personal médico mostró una fuerte aceptación de esta aplicación; aproximadamente 43 participantes manifestaron estar “De acuerdo” y 21 “Totalmente de acuerdo”. Este alto nivel de aceptación sugiere una confianza significativa en el uso de IA para el monitoreo remoto, especialmente entre los profesionales de medicina. En el caso del personal de enfermería, aproximadamente 19 participantes indicaron estar “De acuerdo” y 18 “Totalmente de acuerdo”, lo cual muestra también una tendencia positiva, aunque con números más moderados. Es notable que las respuestas negativas (“Totalmente en desacuerdo” y “En desacuerdo”) fueron mínimas en ambos grupos profesionales, con solo un participante de enfermería y cuatro de medicina expresaron desacuerdo total.
Para la tercera viñeta, los resultados revelaron una aceptación moderada pero positiva. En medicina, aproximadamente 35 participantes indicaron estar “De acuerdo”, mientras que enfermería mostró una distribución similar con cerca de 28 participantes en esta categoría. Sin embargo, es notable el aumento en respuestas neutrales en comparación con otras aplicaciones, especialmente entre médicos (12 respuestas) y enfermeros (cuatro respuestas), lo cual indica cierta cautela sobre la automatización completa del asesoramiento en estilos de vida.
Para la cuarta viñeta, este escenario mostró una distribución más conservadora. Entre el personal médico, 30 participantes indicaron estar “De acuerdo”, mientras que 26 mantuvieron una posición neutral. El personal de enfermería siguió un patrón similar, pero con números más reducidos. Es notable la presencia de un número significativo de respuestas en “En desacuerdo” (12 en medicina, nueve en enfermería), lo cual refleja las preocupaciones éticas y de responsabilidad en decisiones oncológicas críticas.
Discusión
Los resultados de este estudio muestran que la familiaridad con la IA emerge como un factor central para la construcción de confianza entre los profesionales sanitarios en España. Este hallazgo pone de manifiesto la importancia de programas educativos y de capacitación tecnológica, dirigidos a incrementar el conocimiento y la experiencia práctica con estas herramientas. La correlación positiva entre familiaridad y confianza sugiere que la exposición a la IA, junto con una comprensión clara de sus beneficios y limitaciones, puede fomentar actitudes más receptivas hacia su uso en aplicaciones clínicas.
Las diferencias entre especialidades destacan la necesidad de estrategias de implementación adaptadas a las características y percepciones de cada área sanitaria. Estas diferencias indican que algunos campos están más dispuestos a adoptar tecnologías basadas en IA, mientras que otros podrían requerir un enfoque más personalizado que aborde sus inquietudes específicas. Por ejemplo, especialidades con menor representación en el estudio podrían percibir estas herramientas como una amenaza a la autonomía profesional o como un riesgo adicional en la práctica clínica.
Otro hallazgo clave es que las percepciones sobre la IA no solo dependen del conocimiento técnico, sino también de factores relacionados con la percepción del riesgo y la responsabilidad ética. En escenarios clínicos críticos, como el diagnóstico de enfermedades raras o la selección de tratamientos oncológicos, los participantes valoran la viabilidad y seguridad de las herramientas de IA, y también expresan preocupaciones sobre la transparencia de los algoritmos y la responsabilidad ante posibles errores. Este aspecto refuerza la importancia de garantizar que las soluciones de estas tecnologías sean explicables y comprensibles no solo para los profesionales sanitarios, sino también para los pacientes, en quienes estas tecnologías pueden tener un impacto directo.
Por último, los resultados sugieren que las especialidades menos familiarizadas con la IA podrían beneficiarse de enfoques que prioricen la educación en riesgos y la integración ética de la IA en la práctica clínica. Este enfoque debe incluir herramientas de comunicación que demuestren cómo estas tecnologías pueden complementar la práctica médica, en lugar de sustituir la experiencia profesional. Estos hallazgos son consistentes con estudios previos que indican que la aceptación de la IA está estrechamente relacionada con la percepción de sus riesgos y beneficios, especialmente en aplicaciones críticas para la salud.
Consideraciones finales
La implementación exitosa de la IA en el sistema de salud español requerirá no solo mejoras en la tecnología, sino también un enfoque centrado en la educación y la familiarización de los profesionales sanitarios con estas herramientas. Basándonos en los hallazgos de este estudio, proponemos las siguientes recomendaciones:
-
Desarrollar programas de formación continua en IA adaptados a las diferentes especialidades médicas, con énfasis en aplicaciones prácticas y estudios de caso;
-
Adaptar la introducción de herramientas de IA según las necesidades específicas de cada especialidad, considerando las diferencias en la disposición y confianza observadas en el estudio;
-
Fomentar políticas que apoyen la investigación y desarrollo de soluciones de IA seguras y efectivas, con un marco regulatorio claro que aborde las preocupaciones éticas y de seguridad;
-
Mejorar la transparencia y comunicación con los pacientes sobre los beneficios y limitaciones de la IA en la atención sanitaria, fomentando una adopción más amplia y confiada.
En este contexto, consideramos fundamental obtener la perspectiva de los pacientes y usuarios del sistema de salud en todas las fases del ciclo de vida de un producto o sistema de IA aplicado a la salud, desde el diseño hasta su implementación. La adopción de la IA en el sistema de salud español tiene el potencial de mejorar significativamente la calidad y eficiencia de la atención sanitaria. Sin embargo, su éxito dependerá en gran medida de la confianza y aceptación de los profesionales sanitarios y de los pacientes.
Para que esto suceda, cabe destacar la necesidad de promover una colaboración entre los profesionales de la salud, los expertos en IA y los expertos en ética que se centre en abordar las preocupaciones éticas y mejorar la aceptación de la tecnología. También es importante establecer mecanismos para la evaluación continua de la efectividad y seguridad de las aplicaciones de IA en el ámbito sanitario, con realimentación regular de los profesionales y pacientes.
Para cerrar, se destaca que este estudio proporciona un primer paso para comprender los factores que influyen en esta confianza y ofrece direcciones claras para futuras investigaciones y políticas de implementación.
Distribución porcentual de los participantes según su grupo de edad. Se observa una mayor representación en los grupos de 18-24 años y 25-35 años, con menor presencia de participantes mayores de 46 años
Agradecimiento
Aníbal M. Astobiza, Ramón Ortega Lozano y Marcos Alonso quieren agradecer al comité organizador y científico del Primer Congreso Ibero-Latinoamericano de Ética y Salud Pública y Cuarto Congreso Internacional de Filosofía de la Salud Pública: “Compromisos Éticos en la Salud Pública” el que nos hayan permitido presentar nuestro trabajo en el programa científico. Agradecemos a la audiencia de este congreso y, en especial, a Iris Parra Jounou por sus comentarios para la mejora de este texto. Esta publicação faz parte da ajuda PID2024-156166OA-I00, financiada por MICIU/AEI/10.13039/501100011033 e pelo FSE+
Referencias bibliográficas
-
1 Rony MKK, Numan SM, Johra FT, Akter K, Akter F, Debnath M et al. Perceptions and attitudes of nurse practitioners toward artificial intelligence adoption in health care. Health Sci Rep [Internet]. 2024 [acesso 10 jun 2025];7(8):e70006. DOI: 10.1002/hsr2.70006
» https://doi.org/10.1002/hsr2.70006 -
2 Page MJ, McKenzie JE, Bossuyt PM, Boutron I, Hoffmann TC, Mulrow CD et al. The PRISMA 2020 statement: an updated guideline for reporting systematic reviews. BMJ [Internet]. 2021 [acesso 10 jun 2025];372:71. DOI: 10.1136/bmj.n71
» https://doi.org/10.1136/bmj.n71 -
3 Goodman B, Flaxman S. European Union regulations on algorithmic decision-making and a "right to explanation". AI Magazine [Internet]. 2017 [acesso 10 jun 2025];38(3). DOI: 10.1609/aimag.v38i3.2741
» https://doi.org/10.1609/aimag.v38i3.2741 -
4 de-Manuel-Vicente C, Fernández-Narro D, Blanes-Selva V, García-Gómez JM, Sáez C. A development framework for trustworthy Artificial Intelligence in health with example code pipelines. MedRxiv [Internet]. 17 jul 2024 [acesso 10 jun 2025]. DOI: 10.1101/2024.07.17.24310418
» https://doi.org/10.1101/2024.07.17.24310418 -
5 Meszaros J, Minari J, Huys I. The future regulation of artificial intelligence systems in healthcare services and medical research in the European Union. Front Genet [Internet]. 2022 [acesso 10 jun 2025];13:927721. DOI: 10.3389/fgene.2022.927721
» https://doi.org/10.3389/fgene.2022.927721 -
6 Bimczok SP, Godynyuk EA, Pierey J, Roppel MS, Scholz ML. How are excellence and trust for using artificial intelligence ensured? Evaluation of its current use in EU healthcare. South East Eur J Public Health [Internet]. 2023 [acesso 10 jun 2025];3:1-14. DOI: 10.70135/seejph.vi.239
» https://doi.org/10.70135/seejph.vi.239 -
7 De Raeve P, Davidson PM, Shaffer FA, Pol E, Pandey AK, Adams E. Leveraging the trust of nurses to advance a digital agenda in Europe: a critical review of health policy literature. Open Res Eur [Internet]. 2021 [acesso 10 jun 2025];13(1):26. DOI: 10.12688/openreseurope.13231.2
» https://doi.org/10.12688/openreseurope.13231.2 -
8 García-Gómez JM, Blanes-Selva V, Doñate-Martínez A. Proposing an AI passport as a mitigating action of risk associated to artificial intelligence in healthcare. Stud Health Technol Inform [Internet]. 2024 [acesso 10 jun 2025];316:547-51. DOI: 10.3233/SHTI240472
» https://doi.org/10.3233/SHTI240472 -
9 Mehrotra S, Jorge CC, Jonker CM, Tielman ML. Integrity-based explanations for fostering appropriate trust in AI agents. ACM Trans Interact Intell Syst [Internet]. 2024 [acesso 10 jun 2025];14(1):1-36. DOI: 10.1145/3610578
» https://doi.org/10.1145/3610578 -
10 LaRosa E, Danks D. Impacts on trust of healthcare AI [Internet]. In: Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society; 2-3 fev 2018; Nueva Orleans. Nueva York: Association for Computing Machinery; 2018 [acesso 10 jun 2025]. p. 210-5. DOI: 10.1145/3278721.3278771
» https://doi.org/10.1145/3278721.3278771 -
11 Burgess ER, Jankovic I, Austin M, Cai N, Kapuscinska A, Currie ST et al. Healthcare AI treatment decision support: design principles to enhance clinician adoption and trust [Internet]. In: Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems; 23-28 abr 2023; Hamburgo. Nueva York: Association for Computing Machinery; 2023 [acesso 10 jun 2025]. p. 1-19. DOI: 10.1145/3544548.3581251
» https://doi.org/10.1145/3544548.3581251 -
12 McGarry G, Crabtree A, Urquhart L, Chamberlain A. Responsibility and regulation: exploring social measures of trust in medical AI [Internet]. In: Proceedings of the Second International Symposium on Trustworthy Autonomous Systems; 16-18 set 2024; Austin. Nueva York: Association for Computing Machinery; 2024 [acesso 10 jun 2025]. p. 1-5. DOI: 10.1145/3686038.3686041
» https://doi.org/10.1145/3686038.3686041 -
13 Stoet G. PsyToolkit: a novel web-based method for running online questionnaires and reaction-time experiments. Teach Psychol [Internet]. 2016 [acesso 10 jun 2025];44(1):24-31. DOI: 10.1177/0098628316677643
» https://doi.org/10.1177/0098628316677643 -
14 Ihaka R, Gentleman R. R: a language for data analysis and graphics. J Comput Graph Stat [Internet]. 1996 [acesso 10 jun 2025];5(3):299-314. DOI: 10.2307/1390807
» https://doi.org/10.2307/1390807
Editado por
-
Editora responsable:
Dilza Teresinha Ambrós Ribeiro
