Acessibilidade / Reportar erro

Validación de constructo y reproducibilidad de una prueba de concordancia de guiones para estudiantes de pregrado en fonoaudiología

RESUMEN

Objetivo

Estimar la confiabilidad y reproducibilidad de un corpus de scripts diseñado para el pregrado de fonoaudiología.

Método

Estudio observacional de tipo descriptivo y temporalidad transversal. Se estimó la validez de constructo a partir del coeficiente α de Cronbach y la reproducibilidad con el índice Kappa de Fleiss. Las pruebas analíticas consideraron un nivel de significancia p<0.05.

Resultados

Se creó un corpus de 80 scripts organizados en 4 áreas de la fonoaudiología el que fue validado por 41 fonoaudiólogos. La experiencia promedio de los profesionales fue de 17.1 años (Std. Err: 2.4; IC 95%: 11.7-22.6). La confiabilidad del corpus fue α: 0.67 y el acuerdo interevaluador, κ: 0.29.

Conclusión

Los puntajes de confiabilidad y reproducibilidad del corpus creado fueron similares a los reportados por estudios previos en otras profesiones de la salud. Contar con estrategias validadas que se orienten al desarrollo de competencias y complementen las acciones formativas, contribuirá a incrementar la calidad en la formación de futuros profesionales de la salud.

Descriptores
Confiabilidad; Reproducibilidad de los Resultados; Educación Superior; Fonoaudiología; Competencia Profesional

ABSTRACT

Purpose

To estimate the reliability of scripts designed for undergraduate Speech-Language Therapy students.

Methods

A descriptive cross-sectional study was carried out. Qualitative variables were summarized by frequency or proportion and quantitative through means (CI 95%). Reliability was estimated through Cronbach's α coefficient, and inter-rater agreement was determined using Fleiss’s Kappa index. The analytical tests considered a significance level of p<0.05.

Results

80 scripts organized in four areas of speech-language therapy were validated by 41 speech-language pathologists. The average experience of the professionals was 17.1 years. The reliability of the corpus was α: 0.67 (min= 0.34; max: 0.84), and the inter-rater agreement κ: 0.29 (min: 0.07; max: 0.45).

Conclusion

The corpus's reliability scores were similar to those reported by previous studies in different health professions. Having validated strategies aimed at developing proficiency and supporting classic training actions in undergraduate courses will contribute to increasing the quality of future health professionals.

Keywords:
Reliability; Reproducibility of Results; Higher Education; Speech-Language Pathology; Professional Competence

INTRODUCCIÓN

La formación de profesionales de la salud se ha complejizado en la medida en que se amplía el conocimiento disciplinar y docente, involucrando procesos de enseñanza - aprendizaje sustentados por la evidencia, centrados en el estudiante y acompañados del uso de tecnologías, innovación y elevados estándares científicos(11 Moore P, Leighton MI, Alvarado C, Bralic C. Simulated patients in health care training: the human side of simulation. Rev Med Chil. 2016;144(5):617-25. http://dx.doi.org/10.4067/S0034-98872016000500010. PMid:27552013.
http://dx.doi.org/10.4067/S0034-98872016...
). En este contexto, los estudiantes deben desarrollar competencias que implican conocimientos, habilidades, comportamientos y valores que les permitan abordar usuarios en diversos e inciertos escenarios(22 Huhn K, Gilliland S, Black L, Wainwright S, Christensen N. Clinical reasoning in physical therapy: a concept analysis. Phys Ther. 2019;99(4):440-56. http://dx.doi.org/10.1093/ptj/pzy148. PMid:30496522.
http://dx.doi.org/10.1093/ptj/pzy148...
).

Entre las destrezas que el estudiantado debe desarrollar en su formación académica, se encuentra el razonamiento clínico (RC), componente relevante para el desarrollo de competencias que permiten inferir un diagnóstico y elegir las rutas de acción más adecuadas a cada usuario(33 Thampy H, Willert E, Ramani S. Assessing clinical reasoning: targeting the higher levels of the pyramid. J Gen Intern Med. 2019;34(8):1631-6. http://dx.doi.org/10.1007/s11606-019-04953-4. PMid:31025307.
http://dx.doi.org/10.1007/s11606-019-049...
). En el caso de la fonoaudiología, disciplina encargada del abordaje y prevención de trastornos de la comunicación y deglución(44 Vega Rodríguez YE, Torres Rodríguez AM, del Campo Rivas MN. Análisis del rol del Fonoaudiólogo(a) en el sector salud en Chile. Cienc Trab. 2017;19(59):76-80. http://dx.doi.org/10.4067/S0718-24492017000200076.
http://dx.doi.org/10.4067/S0718-24492017...
), la formación de pregrado requiere que el estudiante desarrolle destrezas complejas(55 del Campo M, Silva-Ríos A, Valdés J. Perspectivas y desafíos de los fonoaudiólogos en la actividad académica en Chile: una descripción preliminar. Rev Chil Fonoaudiol. 2019;18:1-10. http://dx.doi.org/10.5354/0719-4692.2019.55330.
http://dx.doi.org/10.5354/0719-4692.2019...
) entre ellas, el RC, competencia retadora en lo que a la formación profesional respecta(66 Linn A, Khaw C, Kildea H, Tonkin A. Clinical reasoning: a guide to improving teaching and practice. Aust Fam Physician. 2012;41(1-2):18-20. PMid:22276278.). A pesar de existir definiciones heterogéneas, se acepta que el RC implica el uso de habilidades cognitivas como: análisis, resolución de problemas, razonamiento contextual y reconocimiento de patrones(77 Delany C, Golding C. Teaching clinical reasoning by making thinking visible: an action research project with allied health clinical educators. BMC Med Educ. 2014;14(1):20. http://dx.doi.org/10.1186/1472-6920-14-20. PMid:24479414.
http://dx.doi.org/10.1186/1472-6920-14-2...
). Dichas tareas parecen ocurrir de manera automática en el caso de los expertos, sin embargo, los estudiantes novatos requieren de entrenamiento para su alcance(88 Yazdani S, Hosseinzadeh M, Hosseini F. Models of clinical reasoning with a focus on general practice: a critical review. J Adv Med Educ Prof. 2017;5(4):177-84. PMid:28979912.).

De esta forma, se considera al RC como una habilidad fundamental en el abordaje de usuarios, que debe ser incorporada en los planes de estudio de profesionales de la salud. Dentro de las estrategias descritas en la literatura, el uso de scripts (guiones clínicos), ha ofrecido un marco para comprender cómo se organiza el pensamiento a la hora de entrenar el RC(99 Charlin B, Tardif J, Boshuizen HP. Scripts and medical diagnostic knowledge: theory and applications for clinical reasoning instruction and research. Acad Med. 2000;75(2):182-90. http://dx.doi.org/10.1097/00001888-200002000-00020. PMid:10693854.
http://dx.doi.org/10.1097/00001888-20000...
).

Los scripts responden a esquemas asociados con secuencias de eventos que ocurren en un orden determinado(1010 Fayol M, Monteil JM. The notion of script: from general to developmental and social psychology. Cah Psychol Cogn Psychol Cogn. 1988;8(4):335-61.), organizándose como un conjunto de atributos que tienen más o menos probabilidad de ocurrir y que contienen síntomas y signos que se vinculan, conformando estructuras genéricas que pueden representar cualquier enfermedad(99 Charlin B, Tardif J, Boshuizen HP. Scripts and medical diagnostic knowledge: theory and applications for clinical reasoning instruction and research. Acad Med. 2000;75(2):182-90. http://dx.doi.org/10.1097/00001888-200002000-00020. PMid:10693854.
http://dx.doi.org/10.1097/00001888-20000...
). Es así como los guiones estructuran un modelo de toma de decisiones basado en la generación de hipótesis. El guión es planteado a partir de señales y síntomas de los usuarios que estructuran una viñeta de alta incertidumbre, tres escenarios posibles y datos adicionales que permiten confirmar o desechar dichas suposiciones a través de procesos psicológicos o mentales, en los que participa el conocimiento teórico y la experiencia práctica acumulada(99 Charlin B, Tardif J, Boshuizen HP. Scripts and medical diagnostic knowledge: theory and applications for clinical reasoning instruction and research. Acad Med. 2000;75(2):182-90. http://dx.doi.org/10.1097/00001888-200002000-00020. PMid:10693854.
http://dx.doi.org/10.1097/00001888-20000...
).

En esta línea, diversos estudios han demostrado la eficacia de los scripts como herramienta para enseñar habilidades de RC(1111 Delavari S, Monajemi A, Baradaran HR, Myint PK, Yaghmaei M, Soltani Arabshahi SK. How to develop clinical reasoning in medical students and interns based on illness script theory: an experimental study. Med J Islam Repub Iran. 2020;34:9. http://dx.doi.org/10.47176/mjiri.34.9. PMid:32284933.
http://dx.doi.org/10.47176/mjiri.34.9...
) y a su vez como herramienta de evaluación válida y fiable(1212 Iravani K, Amini M, Doostkam A, Dehbozorgian M. The validity and reliability of script concordance test in otolaryngology residency training. J Adv Med Educ Prof. 2016;4(2):93-6. PMid:27104204.).

Se ha observado que los métodos de evaluación que tradicionalmente se utilizan para la medición de competencias son limitados en lo concerniente a la valoración del RC(1313 Nazim SM, Talati JJ, Pinjani S, Biyabani SR, Ather MH, Norcini JJ. Assessing clinical reasoning skills using Script Concordance Test (SCT) and extended matching questions (EMQs): a pilot for urology trainees. J Adv Med Educ Prof. 2019;7(1):7-13. PMid:30697543.), es así como la prueba de concordancia de guiones (scripts) ha sido descrita como una herramienta apropiada para entrenar el RC, ya que permite ejercitar la toma de decisiones y la interpretación de datos en situaciones de incertidumbre(1414 Wan SH. Using the script concordance test to assess clinical reasoning skills in undergraduate and postgraduate medicine. Hong Kong Med J. 2015;21(5):455-61. http://dx.doi.org/10.12809/hkmj154572. PMid:26314569.
http://dx.doi.org/10.12809/hkmj154572...
). Los scripts permiten que los estudiantes valoren el cambio en la probabilidad de una hipótesis, contrastada con nueva información, en escenarios enfocados en la toma de decisiones diagnósticas, de estudio o intervención. Dichas hipótesis se evalúan en una escala Likert de 5 puntos con opciones de respuesta positiva, neutra o negativa(1515 Custers EJFM. The script concordance test: an adequate tool to assess clinical reasoning? Perspect Med Educ. 2018;7(3):145-6. http://dx.doi.org/10.1007/S40037-018-0437-6. PMid:29904901.
http://dx.doi.org/10.1007/S40037-018-043...
). Un desafío de la metodología señala que aún existe poca información sobre los puntajes de corte o su correlación con los puntajes de conocimiento a nivel de expertos. Por otra parte, la literatura destaca que los profesionales con experiencia tienden a evitar las respuestas extremas ofrecidas por el guión, aumentando los puntajes de las pruebas(1616 See KC, Tan KL, Lim TK. The script concordance test for clinical reasoning: re-examining its utility and potential weakness. Med Educ. 2014;48(11):1069-77. http://dx.doi.org/10.1111/medu.12514. PMid:25307634.
http://dx.doi.org/10.1111/medu.12514...
), con la consecuente probabilidad de generar sesgos en su constructo(1717 Lineberry M, Kreiter CD, Bordage G. Threats to validity in the use and interpretation of script concordance test scores. Med Educ. 2013;47(12):1175-83. http://dx.doi.org/10.1111/medu.12283. PMid:24206151.
http://dx.doi.org/10.1111/medu.12283...
). La prueba de concordancia de guiones ha sido utilizada en diferentes profesiones de la salud como estrategia para el entrenamiento del RC, sin embargo, no existen estudios que validen su uso en la fonoaudiología, lo que exige el desarrollo de guiones atingentes a la profesión y la necesidad de determinar ciertas propiedades psicométricas de los mismos. El objetivo de esta investigación fue estimar la confiabilidad de un corpus de guiones clínicos diseñado para estudiantes de pregrado de fonoaudiología.

MÉTODO

Investigación aprobada por el Comité de Ética Científico de la Universidad Santo Tomás, con código 153.20. Cada participante firmó un consentimiento informado para ingresar al proyecto.

Estudio descriptivo de corte transversal. El universo estuvo conformado por profesionales que se desempeñaban en diversos ámbitos clínicos de la fonoaudiología y contaban con un título de fonoaudiólogo, otorgado por una Universidad chilena o extranjera. El muestreo se realizó por conveniencia siguiendo la estrategia de bola de nieve. Los criterios de inclusión fueron: contar con un mínimo de experiencia profesional de 3 años en el área disciplinar, disponer de grado de magíster o doctor y encontrarse habilitado como prestador individual en el Registro Nacional de la Superintendencia de Salud (SIS). Los criterios de exclusión fueron: desempeñarse preferentemente en labores de gestión o docencia (sin actividad clínica) y encontrarse actualmente inactivo en términos laborales debido a jubilación. El número necesario de expertos se seleccionó según la recomendación de la literatura para la validación de guiones clínicos, estimando la incorporación de al menos 10 profesionales por área(1818 Arceo M, Durante E. Desarrollo y evaluación de los scripts durante la formación profesional. Rev Hosp Ital B Aires [Internet]. 2013 [citado 2022 abril 28];33(4):144-52. Disponible en: https://www.hospitalitaliano.org.ar/multimedia/archivos/noticias_attachs/47/documentos/16200_144-152-HI-4-9-Ed%20Medica-Arceo-E.pdf
https://www.hospitalitaliano.org.ar/mult...
). La carrera intervenida contempla 4 áreas troncales, a saber: Comunicación y Lenguaje Infanto-Juvenil; Voz y Motricidad orofacial; Cognición y Comunicación en Adultos y Personas Mayores; Audiología y Vestibular, por lo que el n mínimo se proyectó en 40 fonoaudiólogos quienes fueron contactados a nivel nacional a través de la técnica de muestreo antes señalada, corroborando una experiencia profesional intermedia y con distribución de género coherente con el perfil profesional de los practicantes en el país.

En términos procedimentales y para la creación del corpus, se convocó a 8 profesionales (2 por área) que redactaron los guiones para el entrenamiento y evaluación de RC en tareas de diagnóstico, estudio e intervención. Dichos expertos recibieron una capacitación sincrónica de 3 horas cronológicas, vía online, a través de la plataforma Microsoft Teams.

La capacitación fue facilitada por un académico con grado de doctor en educación y experiencia aplicada en la metodología, específicamente para la formación médica en pre y posgrado. La instancia fue asesorada por dos fonoaudiólogos con experiencia clínica y académica, pertenecientes al programa de pregrado de origen. Se realizó una exposición teórica, seguida de un taller para la creación de scripts en salas virtuales según área o ámbito formativo. Posteriormente, los productos fueron socializados y retroalimentados por parte del facilitador con objeto de resolver cualquier duda procedimental o teórica, en relación con la confección de guiones. Cada profesional participante de la capacitación tuvo la responsabilidad de crear 10 scripts.

Siguiendo la metodología informada por la literatura, se determinó la población que utilizaría los guiones clínicos(1919 Fournier JP, Demeester A, Charlin B. Script concordance tests: guidelines for construction. BMC Med Inform Decis Mak. 2008;8(1):18. http://dx.doi.org/10.1186/1472-6947-8-18. PMid:18460199.
http://dx.doi.org/10.1186/1472-6947-8-18...
), en este caso: estudiantes que cursaron los semestres séptimo y octavo de la carrera de fonoaudiología, de la Universidad Santo Tomás, en las sedes Viña del Mar, Santiago y Puerto Montt, durante el año 2021. Para los fines de esta investigación los educandos no utilizaron los guiones, sin embargo, la caracterización de estos es importante dada su relevancia como destinatarios del producto final. La identificación de contenidos clave para el corpus se hizo a través del análisis de resultados de aprendizaje (RA) de programas de asignaturas(2020 Dory V, Gagnon R, Vanpee D, Charlin B. How to construct and implement script concordance tests: insights from a systematic review. Med Educ. 2012;46(6):552-63. http://dx.doi.org/10.1111/j.1365-2923.2011.04211.x. PMid:22626047.
http://dx.doi.org/10.1111/j.1365-2923.20...
) que tributaban a las cuatro áreas previamente declaradas.

Se creó un corpus de 80 scripts, organizado en las cuatro áreas formativas, es decir, 20 por área. Los guiones de cada área se organizaron como sigue: 8 guiones de diagnóstico, 2 de estudio y 10 de intervención.

Una vez generados los guiones en el formato establecido, se sometieron a revisión por parte del equipo investigador conformado por dos fonoaudiólogos con grado de magíster, experiencia en docencia e innovación educativa, en conjunto al experto con grado de doctor proveniente del área de formación médica, con objeto de homogeneizar los textos y adaptar estos a los fines del estudio.

Para la respuesta y validación de los guiones clínicos (80 en total), cada profesional fonoaudiólogo recibió un cuadernillo con instrucciones y debió responder en un plazo máximo de 2 semanas según su área de expertis.

Las respuestas de los fonoaudiólogos fueron tabuladas en Microsoft Excel y con fines descriptivos se determinó la frecuencia de respuesta por script para luego calcular la puntuación, puntaje transformado y puntaje final según la metodología reportada previamente. Las variables cuantitativas fueron resumidas mediante medidas de tendencia central y dispersión considerando un IC del 95%. De acuerdo con la recomendación de la literatura(2121 Manterola C, Grande L, Otzen T, García N, Salazar P, Quiroz G. Confiabilidad, precisión o reproducibilidad de las mediciones: métodos de valoración, utilidad y aplicaciones en la práctica clínica. Rev Chilena Infectol. 2018;35(6):680-8. http://dx.doi.org/10.4067/S0716-10182018000600680. PMid:31095189.
http://dx.doi.org/10.4067/S0716-10182018...
) la consistencia interna se estimó a partir del coeficiente α de Cronbach y la confiabilidad inter observador se calculó con el coeficiente Kappa de Fleiss considerando un nivel de significancia p<0.05(2222 Landis JR, Koch GG. The measurement of observer agreement for categorical data. Biometrics. 1977;33(1):159-74. http://dx.doi.org/10.2307/2529310. PMid:843571.
http://dx.doi.org/10.2307/2529310...
). Para controlar variables confundentes se estratificaron las respuestas por área, tipo de script y tipo de respuesta. Se eliminó del corpus aquellos guiones incompletos o que presentaran frecuencias de respuesta muy bajas según el método de outliers(2323 Gagnon R, Lubarsky S, Lambert C, Charlin B. Optimization of answer keys for script concordance testing: should we exclude deviant panelists, deviant responses, or neither? Adv Health Sci Educ Theory Pract. 2011;16(5):601-8. http://dx.doi.org/10.1007/s10459-011-9279-2. PMid:21286807.
http://dx.doi.org/10.1007/s10459-011-927...
).

El análisis estadístico se realizó en el Stata Statistical Software: Release 15. College Station, TX: StataCorp LLC.software.

RESULTADOS

Un total de 41 fonoaudiólogos dio respuesta a los cuadernillos entregados por área, con una edad mínima de 28 años y máxima de 61. En cuanto a la distribución según género, se observó un 78% del femenino en el ámbito de comunicación y lenguaje infanto juvenil y un 60% del masculino en voz y motricidad orofacial. El 98% de los informantes contó con grado académico de magíster y el 2% con doctorado. El promedio de experiencia profesional se registró en un rango de 10.6 a 17.2 años (Tabla 1).

Tabla 1
Características sociodemográficas del panel de expertos por área

Los puntajes finales agregados y estratificados por área y tipo de script dan cuenta de tendencias de respuesta coherentes entre los profesionales (Figura 1). Se evidencia que la frecuencia de los puntajes agregados suele ajustarse al tipo de respuesta esperada por guión, es decir: positiva, neutra o negativa. En el caso de las áreas de Voz y Motricidad Orofacial, junto a Cognición y Comunicación en Adultos y Personas Mayores se advirtió un desplazamiento hacia valores positivos de las respuestas neutras (Figura 2E, H), para Scripts de tipo estudio, así mismo en el caso de diagnóstico (Figura 2J) e intervención y de los scripts de audiología y vestibular (Figura 1L). En el caso del área Voz y Motricidad Orofacial, de igual modo, hay un desplazamiento de las respuestas negativas hacia la derecha para el caso diagnóstico (Figura 2D) y estudio (Figura 2E) e igual situación se observó en los Scripts de estudio en el área Audiología y Vestibular (Figura 2K).

Figura 1
Procedimiento para la validación del corpus de Scripts
Figura 2
Puntajes finales según área y tipo de Script

La consistencia interna del corpus fue α= 0.67. Al analizar por área y tipo de Script, se observó una confiabilidad baja (α=0.60-0.70) para los ítems diagnósticos en las cuatro áreas, así como para los guiones de intervención en el caso de Cognición y Comunicación en adultos y personas mayores. Cabe destacar que en el caso del área Audiología y Vestibular para los guiones de estudio, se registró una confiabilidad insuficiente (α=0.34). Por otra parte, los Scripts de igual tipo en las áreas restantes, mostraron una confiabilidad aceptable (α=0.80-0.90) (Tabla 2).

Tabla 2
Confiabilidad del Corpus según área y tipo de Scripts

Se estimó el acuerdo entre evaluadores en κ= 0.29 (aceptable) para el corpus. Al estratificar según las variables de área y tipo de script, se observó una concordancia leve en las áreas de Voz y Motricidad Orofacial (κ= 0.07), Cognición y Comunicación en Adultos y Personas Mayores (κ= 0.08). El resto de los ítems presentaron un acuerdo aceptable (κ>0.20 y <0.41) y moderado, para los guiones de diagnóstico en Audiología y Vestibular (κ= 0.45) (Tabla 3).

Tabla 3
Coeficiente Kappa de Fleiss según área y tipo de Script

DISCUSIÓN

La diversificación de estrategias de enseñanza orientadas al desarrollo de competencias complejas como el RC, resulta clave en la formación de estudiantes de pregrado en salud(2424 Wan MSH, Tor E, Hudson JN. Construct validity of script concordance testing: progression of scores from novices to experienced clinicians. Int J Med Educ. 2019;10:174-9. http://dx.doi.org/10.5116/ijme.5d76.1eee. PMid:31562807.
http://dx.doi.org/10.5116/ijme.5d76.1eee...
). A la fecha se han reportado experiencias de implementación de la prueba de concordancia de guiones en carreras como medicina y enfermería(2525 Deschênes MF, Charlin B, Gagnon R, Goudreau J. Use of a script concordance test to assess development of clinical reasoning in nursing students. J Nurs Educ. 2011;50(7):381-7. http://dx.doi.org/10.3928/01484834-20110331-03. PMid:21449528.
http://dx.doi.org/10.3928/01484834-20110...
), entre otras. Los resultados de este este estudio dan cuenta de una variabilidad en el juicio de los expertos por área (Figura 1), lo que se alinea con la descripción del proceso de toma de decisiones en escenarios de incertidumbre(2626 Gawad N, Wood TJ, Cowley L, Raiche I. How do cognitive processes influence script concordance test responses? Med Educ. 2021;55(3):354-64. http://dx.doi.org/10.1111/medu.14416. PMid:33185303.
http://dx.doi.org/10.1111/medu.14416...
), y resulta coincidente con experiencias previas de investigación donde se han descrito respuestas divergentes como un hallazgo recurrente en la resolución de guiones clínicos por parte de paneles expertos(2323 Gagnon R, Lubarsky S, Lambert C, Charlin B. Optimization of answer keys for script concordance testing: should we exclude deviant panelists, deviant responses, or neither? Adv Health Sci Educ Theory Pract. 2011;16(5):601-8. http://dx.doi.org/10.1007/s10459-011-9279-2. PMid:21286807.
http://dx.doi.org/10.1007/s10459-011-927...
).

La evaluación del RC es un proceso complejo en términos pedagógicos(2727 Faucher C, Dufour-Guindon MP, Lapointe G, Gagnon R, Charlin B. Assessing clinical reasoning in optometry using the script concordance test. Clin Exp Optom. 2016;99(3):280-6. http://dx.doi.org/10.1111/cxo.12354. PMid:27087346.
http://dx.doi.org/10.1111/cxo.12354...
) y los scripts han demostrado ser una herramienta didáctica confiable y válida cuando se cuenta con un proceso de diseño y construcción riguroso(2828 Karila L, François H, Monnet X, Noel N, Roupret M, Gajdos V, et al. The script concordance test: a multimodal teaching tool. Rev Med Interne. 2018;39(7):566-73. http://dx.doi.org/10.1016/j.revmed.2017.12.011. PMid:29576195.
http://dx.doi.org/10.1016/j.revmed.2017....
). En este sentido es importante destacar que los scripts han permitido discriminar grados de rendimiento diferenciales de acuerdo con el nivel formativo y el tiempo de experiencia profesional en medicina(2828 Karila L, François H, Monnet X, Noel N, Roupret M, Gajdos V, et al. The script concordance test: a multimodal teaching tool. Rev Med Interne. 2018;39(7):566-73. http://dx.doi.org/10.1016/j.revmed.2017.12.011. PMid:29576195.
http://dx.doi.org/10.1016/j.revmed.2017....
), por lo que su aplicación para el posgrado en fonoaudiología representa una proyección interesante que puede explorarse en futuras investigaciones.

El uso de scripts implica ciertos desafíos cuando se piensa en su diseño, construcción e implementación, puntualmente en lo referido a validez de los corpus, al manejo de los bajos puntajes y la asociación de los resultados con otras técnicas de evaluación. En este sentido y para fines prácticos, como se informa en la metodología, se eliminaron del corpus todos los scripts que presentaron respuestas incompletas y a aquellos que no contaron con acuerdos dominantes, es decir una frecuencia considerablemente baja por parte de los expertos(2323 Gagnon R, Lubarsky S, Lambert C, Charlin B. Optimization of answer keys for script concordance testing: should we exclude deviant panelists, deviant responses, or neither? Adv Health Sci Educ Theory Pract. 2011;16(5):601-8. http://dx.doi.org/10.1007/s10459-011-9279-2. PMid:21286807.
http://dx.doi.org/10.1007/s10459-011-927...
). Así se obtuvo una confiabilidad global de α= 0.67 que si bien es considerada baja, se asimila a lo reportado en un estudio previo en posgraduados de medicina (α>0.65 en todos los ítems)(2929 Subra J, Chicoulaa B, Stillmunkès A, Mesthé P, Oustric S, Rougé Bugat ME. Reliability and validity of the script concordance test for postgraduate students of general practice. Eur J Gen Pract. 2017;23(1):208-14. http://dx.doi.org/10.1080/13814788.2017.1358709. PMid:28819998.
http://dx.doi.org/10.1080/13814788.2017....
).

La consistencia en las respuestas de los expertos de los guiones en general resulta aceptable más allá del azar (Tabla 3) con excepción de los scripts estudio en las áreas de voz-motricidad orofacial, cognición y Comunicación en adultos y personas mayores. Este hallazgo es coherente con respecto a estudios en otras disciplinas donde se advierte coincidencia en el acuerdo entre los validadores con puntuaciones que suelen ser superiores a las observadas en los novatos sin experiencia y permiten discriminar el nivel formativo, así como la competencia(3030 Kow N, Walters MD, Karram MM, Sarsotti CJ, Jelovsek JE. Assessing intraoperative judgment using script concordance testing through the gynecology continuum of practice. Med Teach. 2014;36(8):724-9. http://dx.doi.org/10.3109/0142159X.2014.910297. PMid:24819908.
http://dx.doi.org/10.3109/0142159X.2014....
). De esta forma se constata que el dossier creado cuenta con propiedades que lo vuelven funcional para evaluar las habilidades de RC en estudiantes de fonoaudiología, tal como la evidencia lo destaca en otras áreas de la salud(2929 Subra J, Chicoulaa B, Stillmunkès A, Mesthé P, Oustric S, Rougé Bugat ME. Reliability and validity of the script concordance test for postgraduate students of general practice. Eur J Gen Pract. 2017;23(1):208-14. http://dx.doi.org/10.1080/13814788.2017.1358709. PMid:28819998.
http://dx.doi.org/10.1080/13814788.2017....
).

Una limitación de este estudio es la variabilidad en el hacer y juicio profesional, lo que se expresa como dispersión en las tendencias de respuesta por parte de los expertos en determinadas áreas (Figura 2D, E, H, J) e impacta en los puntajes de confiabilidad (Tabla 2). Sin embargo, la literatura ofrece algunas explicaciones a este fenómeno como la tendencia de los profesionales validadores a evitar respuestas extremas es decir -2 o +2 en los scripts(1616 See KC, Tan KL, Lim TK. The script concordance test for clinical reasoning: re-examining its utility and potential weakness. Med Educ. 2014;48(11):1069-77. http://dx.doi.org/10.1111/medu.12514. PMid:25307634.
http://dx.doi.org/10.1111/medu.12514...
). En esta línea, si bien el puntaje global de confiabilidad resultó bajo, es importante destacar que se mantuvo en el análisis el resultado de confiabilidad pobre (α= 0.34), para el caso de los scripts de estudio en el área audiología y vestibular, lo que afectó el cálculo final sobre el dossier por una parte, pero evitó el sesgo confirmatorio. Con todo, la discrepancia entre los expertos es aceptable, considerando que el instrumento validado no corresponde a un instrumento diagnóstico.

En relación con el tamaño muestral, es importante advertir que se consideró la recomendación de la literatura, por lo que si bien se puede proyectar ampliar el número de expertos por ámbito, esta investigación se apegó a lo sugerido por investigaciones previas(1818 Arceo M, Durante E. Desarrollo y evaluación de los scripts durante la formación profesional. Rev Hosp Ital B Aires [Internet]. 2013 [citado 2022 abril 28];33(4):144-52. Disponible en: https://www.hospitalitaliano.org.ar/multimedia/archivos/noticias_attachs/47/documentos/16200_144-152-HI-4-9-Ed%20Medica-Arceo-E.pdf
https://www.hospitalitaliano.org.ar/mult...
).

Como proyección resulta interesante incorporar una validación de contenido del dossier, más allá de la adscripción a los resultados de aprendizaje de los programas de asignatura, así mismo sumar una segunda instancia evaluativa para determinar la consistencia de las respuestas intraevaluador, incrementar el número de script por tipo, y aumentar el número de validadores. Así mismo resultará fundamental el determinar el impacto y asociación de la incorporación de esta estrategia con respecto al progreso de los estudiantes más allá de la toma de decisiones clínicas en escenarios con elevada incertidumbre(3131 Lubarsky S, Charlin B, Cook DA, Chalk C, van der Vleuten CPM. Script concordance testing: a review of published validity evidence. Med Educ. 2011;45(4):329-38. http://dx.doi.org/10.1111/j.1365-2923.2010.03863.x. PMid:21401680.
http://dx.doi.org/10.1111/j.1365-2923.20...
).

CONCLUSIÓN

El corpus creado presentó una confiabilidad global baja, sin embargo, la estratificación por área y tipo de script ofrece un panorama heterogéneo, donde es posible distinguir aquellos ítems donde se obtuvo mayor o menor correlación, según la tarea de razonamiento clínico presentada. Adicionalmente, el acuerdo interevaluador resultó aceptable para todo el dossier. La determinación de propiedades psicométricas de scripts en el contexto de la prueba de concordancia de guiones es una primera aproximación formal a la generación de una herramienta pedagógica innovadora para el entrenamiento y la evaluación auténtica de RC en estudiantes del pregrado de la carrera de Fonoaudiología. Es necesario incrementar la investigación e innovación educativa en este ámbito, con objeto de ofrecer instrumentos formativos pertinentes, que estén basados en la evidencia científica disponible y cuenten con validación para mejorar el desarrollo, seguimiento y evaluación de competencias profesionales en estudiantes de carreras de la salud, ya en instancias preclínicas y/o en etapas formativas tempranas, complementando las estrategias, instrumentos y herramientas ya establecidos en los currículums. La estrategia desarrollada es transferible, pero debe ajustarse a los marcos curriculares de cada casa de estudio en cuanto a contenidos y resultados de aprendizaje.

AGRADECIMIENTOS

Al Doctor Rigoberto Marín por su apoyo y orientación permanente.

  • Trabajo realizado en Universidad Santo Tomás - UST - Chile.
  • Apoyo financiero: Proyecto de Innovación Educativa, Centro Interdisciplinario de Innovación Educativa, Universidad Santo Tomás, Chile (11400007).

REFERENCIAS

  • 1
    Moore P, Leighton MI, Alvarado C, Bralic C. Simulated patients in health care training: the human side of simulation. Rev Med Chil. 2016;144(5):617-25. http://dx.doi.org/10.4067/S0034-98872016000500010 PMid:27552013.
    » http://dx.doi.org/10.4067/S0034-98872016000500010
  • 2
    Huhn K, Gilliland S, Black L, Wainwright S, Christensen N. Clinical reasoning in physical therapy: a concept analysis. Phys Ther. 2019;99(4):440-56. http://dx.doi.org/10.1093/ptj/pzy148 PMid:30496522.
    » http://dx.doi.org/10.1093/ptj/pzy148
  • 3
    Thampy H, Willert E, Ramani S. Assessing clinical reasoning: targeting the higher levels of the pyramid. J Gen Intern Med. 2019;34(8):1631-6. http://dx.doi.org/10.1007/s11606-019-04953-4 PMid:31025307.
    » http://dx.doi.org/10.1007/s11606-019-04953-4
  • 4
    Vega Rodríguez YE, Torres Rodríguez AM, del Campo Rivas MN. Análisis del rol del Fonoaudiólogo(a) en el sector salud en Chile. Cienc Trab. 2017;19(59):76-80. http://dx.doi.org/10.4067/S0718-24492017000200076
    » http://dx.doi.org/10.4067/S0718-24492017000200076
  • 5
    del Campo M, Silva-Ríos A, Valdés J. Perspectivas y desafíos de los fonoaudiólogos en la actividad académica en Chile: una descripción preliminar. Rev Chil Fonoaudiol. 2019;18:1-10. http://dx.doi.org/10.5354/0719-4692.2019.55330
    » http://dx.doi.org/10.5354/0719-4692.2019.55330
  • 6
    Linn A, Khaw C, Kildea H, Tonkin A. Clinical reasoning: a guide to improving teaching and practice. Aust Fam Physician. 2012;41(1-2):18-20. PMid:22276278.
  • 7
    Delany C, Golding C. Teaching clinical reasoning by making thinking visible: an action research project with allied health clinical educators. BMC Med Educ. 2014;14(1):20. http://dx.doi.org/10.1186/1472-6920-14-20 PMid:24479414.
    » http://dx.doi.org/10.1186/1472-6920-14-20
  • 8
    Yazdani S, Hosseinzadeh M, Hosseini F. Models of clinical reasoning with a focus on general practice: a critical review. J Adv Med Educ Prof. 2017;5(4):177-84. PMid:28979912.
  • 9
    Charlin B, Tardif J, Boshuizen HP. Scripts and medical diagnostic knowledge: theory and applications for clinical reasoning instruction and research. Acad Med. 2000;75(2):182-90. http://dx.doi.org/10.1097/00001888-200002000-00020 PMid:10693854.
    » http://dx.doi.org/10.1097/00001888-200002000-00020
  • 10
    Fayol M, Monteil JM. The notion of script: from general to developmental and social psychology. Cah Psychol Cogn Psychol Cogn. 1988;8(4):335-61.
  • 11
    Delavari S, Monajemi A, Baradaran HR, Myint PK, Yaghmaei M, Soltani Arabshahi SK. How to develop clinical reasoning in medical students and interns based on illness script theory: an experimental study. Med J Islam Repub Iran. 2020;34:9. http://dx.doi.org/10.47176/mjiri.34.9 PMid:32284933.
    » http://dx.doi.org/10.47176/mjiri.34.9
  • 12
    Iravani K, Amini M, Doostkam A, Dehbozorgian M. The validity and reliability of script concordance test in otolaryngology residency training. J Adv Med Educ Prof. 2016;4(2):93-6. PMid:27104204.
  • 13
    Nazim SM, Talati JJ, Pinjani S, Biyabani SR, Ather MH, Norcini JJ. Assessing clinical reasoning skills using Script Concordance Test (SCT) and extended matching questions (EMQs): a pilot for urology trainees. J Adv Med Educ Prof. 2019;7(1):7-13. PMid:30697543.
  • 14
    Wan SH. Using the script concordance test to assess clinical reasoning skills in undergraduate and postgraduate medicine. Hong Kong Med J. 2015;21(5):455-61. http://dx.doi.org/10.12809/hkmj154572 PMid:26314569.
    » http://dx.doi.org/10.12809/hkmj154572
  • 15
    Custers EJFM. The script concordance test: an adequate tool to assess clinical reasoning? Perspect Med Educ. 2018;7(3):145-6. http://dx.doi.org/10.1007/S40037-018-0437-6 PMid:29904901.
    » http://dx.doi.org/10.1007/S40037-018-0437-6
  • 16
    See KC, Tan KL, Lim TK. The script concordance test for clinical reasoning: re-examining its utility and potential weakness. Med Educ. 2014;48(11):1069-77. http://dx.doi.org/10.1111/medu.12514 PMid:25307634.
    » http://dx.doi.org/10.1111/medu.12514
  • 17
    Lineberry M, Kreiter CD, Bordage G. Threats to validity in the use and interpretation of script concordance test scores. Med Educ. 2013;47(12):1175-83. http://dx.doi.org/10.1111/medu.12283 PMid:24206151.
    » http://dx.doi.org/10.1111/medu.12283
  • 18
    Arceo M, Durante E. Desarrollo y evaluación de los scripts durante la formación profesional. Rev Hosp Ital B Aires [Internet]. 2013 [citado 2022 abril 28];33(4):144-52. Disponible en: https://www.hospitalitaliano.org.ar/multimedia/archivos/noticias_attachs/47/documentos/16200_144-152-HI-4-9-Ed%20Medica-Arceo-E.pdf
    » https://www.hospitalitaliano.org.ar/multimedia/archivos/noticias_attachs/47/documentos/16200_144-152-HI-4-9-Ed%20Medica-Arceo-E.pdf
  • 19
    Fournier JP, Demeester A, Charlin B. Script concordance tests: guidelines for construction. BMC Med Inform Decis Mak. 2008;8(1):18. http://dx.doi.org/10.1186/1472-6947-8-18 PMid:18460199.
    » http://dx.doi.org/10.1186/1472-6947-8-18
  • 20
    Dory V, Gagnon R, Vanpee D, Charlin B. How to construct and implement script concordance tests: insights from a systematic review. Med Educ. 2012;46(6):552-63. http://dx.doi.org/10.1111/j.1365-2923.2011.04211.x PMid:22626047.
    » http://dx.doi.org/10.1111/j.1365-2923.2011.04211.x
  • 21
    Manterola C, Grande L, Otzen T, García N, Salazar P, Quiroz G. Confiabilidad, precisión o reproducibilidad de las mediciones: métodos de valoración, utilidad y aplicaciones en la práctica clínica. Rev Chilena Infectol. 2018;35(6):680-8. http://dx.doi.org/10.4067/S0716-10182018000600680 PMid:31095189.
    » http://dx.doi.org/10.4067/S0716-10182018000600680
  • 22
    Landis JR, Koch GG. The measurement of observer agreement for categorical data. Biometrics. 1977;33(1):159-74. http://dx.doi.org/10.2307/2529310 PMid:843571.
    » http://dx.doi.org/10.2307/2529310
  • 23
    Gagnon R, Lubarsky S, Lambert C, Charlin B. Optimization of answer keys for script concordance testing: should we exclude deviant panelists, deviant responses, or neither? Adv Health Sci Educ Theory Pract. 2011;16(5):601-8. http://dx.doi.org/10.1007/s10459-011-9279-2 PMid:21286807.
    » http://dx.doi.org/10.1007/s10459-011-9279-2
  • 24
    Wan MSH, Tor E, Hudson JN. Construct validity of script concordance testing: progression of scores from novices to experienced clinicians. Int J Med Educ. 2019;10:174-9. http://dx.doi.org/10.5116/ijme.5d76.1eee PMid:31562807.
    » http://dx.doi.org/10.5116/ijme.5d76.1eee
  • 25
    Deschênes MF, Charlin B, Gagnon R, Goudreau J. Use of a script concordance test to assess development of clinical reasoning in nursing students. J Nurs Educ. 2011;50(7):381-7. http://dx.doi.org/10.3928/01484834-20110331-03 PMid:21449528.
    » http://dx.doi.org/10.3928/01484834-20110331-03
  • 26
    Gawad N, Wood TJ, Cowley L, Raiche I. How do cognitive processes influence script concordance test responses? Med Educ. 2021;55(3):354-64. http://dx.doi.org/10.1111/medu.14416 PMid:33185303.
    » http://dx.doi.org/10.1111/medu.14416
  • 27
    Faucher C, Dufour-Guindon MP, Lapointe G, Gagnon R, Charlin B. Assessing clinical reasoning in optometry using the script concordance test. Clin Exp Optom. 2016;99(3):280-6. http://dx.doi.org/10.1111/cxo.12354 PMid:27087346.
    » http://dx.doi.org/10.1111/cxo.12354
  • 28
    Karila L, François H, Monnet X, Noel N, Roupret M, Gajdos V, et al. The script concordance test: a multimodal teaching tool. Rev Med Interne. 2018;39(7):566-73. http://dx.doi.org/10.1016/j.revmed.2017.12.011 PMid:29576195.
    » http://dx.doi.org/10.1016/j.revmed.2017.12.011
  • 29
    Subra J, Chicoulaa B, Stillmunkès A, Mesthé P, Oustric S, Rougé Bugat ME. Reliability and validity of the script concordance test for postgraduate students of general practice. Eur J Gen Pract. 2017;23(1):208-14. http://dx.doi.org/10.1080/13814788.2017.1358709 PMid:28819998.
    » http://dx.doi.org/10.1080/13814788.2017.1358709
  • 30
    Kow N, Walters MD, Karram MM, Sarsotti CJ, Jelovsek JE. Assessing intraoperative judgment using script concordance testing through the gynecology continuum of practice. Med Teach. 2014;36(8):724-9. http://dx.doi.org/10.3109/0142159X.2014.910297 PMid:24819908.
    » http://dx.doi.org/10.3109/0142159X.2014.910297
  • 31
    Lubarsky S, Charlin B, Cook DA, Chalk C, van der Vleuten CPM. Script concordance testing: a review of published validity evidence. Med Educ. 2011;45(4):329-38. http://dx.doi.org/10.1111/j.1365-2923.2010.03863.x PMid:21401680.
    » http://dx.doi.org/10.1111/j.1365-2923.2010.03863.x

Fechas de Publicación

  • Publicación en esta colección
    13 Nov 2023
  • Fecha del número
    2023

Histórico

  • Recibido
    28 Abr 2022
  • Acepto
    09 Jun 2023
Sociedade Brasileira de Fonoaudiologia Al. Jaú, 684, 7º andar, 01420-002 São Paulo - SP Brasil, Tel./Fax 55 11 - 3873-4211 - São Paulo - SP - Brazil
E-mail: revista@codas.org.br