The influence of resident and faculty gender on assessments in anesthesia competency-based medical education.
L’influence du genre des résident·es et des professeur·es sur les évaluations de la formation médicale fondée sur les compétences en anesthésie.
anesthesiology
assessment
bias
competency based
diversity
education
Journal
Canadian journal of anaesthesia = Journal canadien d'anesthesie
ISSN: 1496-8975
Titre abrégé: Can J Anaesth
Pays: United States
ID NLM: 8701709
Informations de publication
Date de publication:
06 2023
06 2023
Historique:
received:
05
04
2022
accepted:
17
11
2022
revised:
15
11
2022
medline:
13
7
2023
pubmed:
11
5
2023
entrez:
10
5
2023
Statut:
ppublish
Résumé
Competency-based medical education (CBME) relies on frequent workplace-based assessments of trainees, providing opportunities for conscious and implicit biases to reflect in these assessments. We aimed to examine the influence of resident and faculty gender on performance ratings of residents within a CBME system. This retrospective cohort study took place from August 2017 to January 2021 using resident assessment data from two workplace-based assessments: the Anesthesia Clinical Encounter Assessment (ACEA) and Entrustable Professional Activities (EPAs). Self-reported gender data were also extracted. The primary outcome-gender-based differences in entrustment ratings of residents on the ACEA and EPAs-was evaluated using mixed-effects logistic regression, with differences reported through odds ratios and confidence intervals (α = 0.01). Gender-based differences in the receipt of free-text comments on the ACEA and EPAs were also explored. In total, 14,376 ACEA and 4,467 EPA assessments were analyzed. There were no significant differences in entrustment ratings on either assessment tool between men and women residents. Regardless of whether assessments were completed by men or women faculty, entrustment rates between men and women residents were not significantly different for any postgraduate year level. Additionally, men and women residents received strengths-related and actions-related comments on both assessments at comparable frequencies, irrespective of faculty gender. We found no gender-based differences in entrustment ratings for both the ACEA and EPAs, which suggests an absence of resident gender bias within this CBME system. Given considerable heterogeneity in rater leniency, future work would be strengthened by using rater leniency-adjusted scores rather than raw scores. RéSUMé: OBJECTIF: La formation médicale fondée sur les compétences (FMFC) repose sur des évaluations fréquentes des stagiaires en milieu de travail, ce qui donne l’occasion de refléter les préjugés conscients et implicites dans ces évaluations. Notre objectif était d’examiner l’influence du genre des résident·es et des professeur·es sur les évaluations de la performance des résident·es au sein d’un système de FMFC. MéTHODE: Cette étude de cohorte rétrospective s’est déroulée d’août 2017 à janvier 2021 à l’aide des données d’évaluation des résident·es provenant de deux évaluations en milieu de travail : L’évaluation de l’anesthésie clinique par événement (ACEA – Anesthesia Clinical Encounter Assessment) et les Actes professionnels non supervisés (APNS). Des données autodéclarées sur le genre ont également été extraites. Le critère d’évaluation principal, soit les différences fondées sur le genre dans les cotes de confiance des résident·es sur l’ACEA et les APNS, a été évalué à l’aide d’une régression logistique à effets mixtes, les différences étant rapportées par les rapports de cotes et les intervalles de confiance (α = 0,01). Les différences fondées sur le genre dans la réception des commentaires en texte libre sur l’ACEA et les APNS ont également été explorées. RéSULTATS: Au total, 14 376 évaluations ACEA et 4467 évaluations APNS ont été analysées. Il n’y avait pas de différences significatives dans les cotes de confiance obtenues avec l’un ou l’autre des outils d’évaluation entre les résidents et les résidentes. Indépendamment du genre de la personne réalisant l’évaluation, les taux de confiance entre les résidentes et les résidents n’étaient pas significativement différents pour toutes les années de formation postdoctorale. De plus, les résident·es ont reçu des commentaires liés à leurs forces et leurs actes sur les deux évaluations à des fréquences comparables, quel que soit le genre du corps professoral. CONCLUSION: Nous n’avons constaté aucune différence fondée sur le genre dans les cotes de confiance telles qu’évaluées par les ACEA et les APNS, ce qui suggère une absence de préjugés genrés envers les résident·es au sein de ce système de FMFC. Compte tenu de l’hétérogénéité considérable en matière de clémence des évaluateurs et évaluatrices, les travaux futurs seraient plus fiables s’ils utilisaient des scores ajustés en fonction de ladite clémence plutôt que des scores bruts.
Autres résumés
Type: Publisher
(fre)
RéSUMé: OBJECTIF: La formation médicale fondée sur les compétences (FMFC) repose sur des évaluations fréquentes des stagiaires en milieu de travail, ce qui donne l’occasion de refléter les préjugés conscients et implicites dans ces évaluations. Notre objectif était d’examiner l’influence du genre des résident·es et des professeur·es sur les évaluations de la performance des résident·es au sein d’un système de FMFC. MéTHODE: Cette étude de cohorte rétrospective s’est déroulée d’août 2017 à janvier 2021 à l’aide des données d’évaluation des résident·es provenant de deux évaluations en milieu de travail : L’évaluation de l’anesthésie clinique par événement (ACEA – Anesthesia Clinical Encounter Assessment) et les Actes professionnels non supervisés (APNS). Des données autodéclarées sur le genre ont également été extraites. Le critère d’évaluation principal, soit les différences fondées sur le genre dans les cotes de confiance des résident·es sur l’ACEA et les APNS, a été évalué à l’aide d’une régression logistique à effets mixtes, les différences étant rapportées par les rapports de cotes et les intervalles de confiance (α = 0,01). Les différences fondées sur le genre dans la réception des commentaires en texte libre sur l’ACEA et les APNS ont également été explorées. RéSULTATS: Au total, 14 376 évaluations ACEA et 4467 évaluations APNS ont été analysées. Il n’y avait pas de différences significatives dans les cotes de confiance obtenues avec l’un ou l’autre des outils d’évaluation entre les résidents et les résidentes. Indépendamment du genre de la personne réalisant l’évaluation, les taux de confiance entre les résidentes et les résidents n’étaient pas significativement différents pour toutes les années de formation postdoctorale. De plus, les résident·es ont reçu des commentaires liés à leurs forces et leurs actes sur les deux évaluations à des fréquences comparables, quel que soit le genre du corps professoral. CONCLUSION: Nous n’avons constaté aucune différence fondée sur le genre dans les cotes de confiance telles qu’évaluées par les ACEA et les APNS, ce qui suggère une absence de préjugés genrés envers les résident·es au sein de ce système de FMFC. Compte tenu de l’hétérogénéité considérable en matière de clémence des évaluateurs et évaluatrices, les travaux futurs seraient plus fiables s’ils utilisaient des scores ajustés en fonction de ladite clémence plutôt que des scores bruts.
Identifiants
pubmed: 37165126
doi: 10.1007/s12630-023-02454-x
pii: 10.1007/s12630-023-02454-x
pmc: PMC10171726
doi:
Types de publication
Journal Article
Langues
eng
Sous-ensembles de citation
IM
Pagination
978-987Informations de copyright
© 2023. Canadian Anesthesiologists' Society.
Références
Kealey A, Alam F, Bahrey LA, Matava CT, McCreath GA, Walsh CM. Validity evidence for the Anesthesia Clinical Encounter Assessment (ACEA) tool to support competency-based medical education. Br J Anaesth 2022; 128: 691–9. https://doi.org/10.1016/j.bja.2021.12.012
doi: 10.1016/j.bja.2021.12.012
pubmed: 35027168
Friedman Z, Bould MD, Matava C, Alam F. Investigating faculty assessment of anesthesia trainees and the failing-to-fail phenomenon: a randomized controlled trial. Can J Anesth 2021; 68: 1000–7. https://doi.org/10.1007/s12630-021-01971-x
doi: 10.1007/s12630-021-01971-x
pubmed: 33721201
Dubois DG, Lingley AJ, Ghatalia J, McConnell MM. Validity of entrustment scales within anesthesiology residency training. Can J Anesth 2021; 68: 53–63. https://doi.org/10.1007/s12630-020-01823-0
doi: 10.1007/s12630-020-01823-0
pubmed: 33083924
Bailey K, West NC, Matava C. Competency-based medical education: are Canadian pediatric anesthesiologists ready? Cureus 2022; 14: e22344. https://doi.org/10.7759/cureus.22344
Schumacher DJ, Cate OT, Damodaran A, et al. Clarifying essential terminology in entrustment. Med Teach 2021; 43: 737–44. https://doi.org/10.1080/0142159x.2021.1924365
doi: 10.1080/0142159x.2021.1924365
pubmed: 33989100
Weller JM, Coomber T, Chen Y, Castanelli DJ. Key dimensions of innovations in workplace-based assessment for postgraduate medical education: a scoping review. Br J Anaesth 2021; 127: 689–703. https://doi.org/10.1016/j.bja.2021.06.038
doi: 10.1016/j.bja.2021.06.038
pubmed: 34364651
Edmunds LD, Ovseiko PV, Shepperd S, et al. Why do women choose or reject careers in academic medicine? A narrative review of empirical evidence. Lancet 2016; 388: 2948–58. https://doi.org/10.1016/s0140-6736(15)01091-0
doi: 10.1016/s0140-6736(15)01091-0
pubmed: 27105721
Welten VM, Dabekaussen KF, Davids JS, Melnitchouk N. Promoting female leadership in academic surgery: disrupting systemic gender bias. Acad Med 2022; 97: 961–6. https://doi.org/10.1097/acm.0000000000004665
doi: 10.1097/acm.0000000000004665
pubmed: 35294410
Bosco L, Lorello GR, Flexman AM, Hastie MJ. Women in anaesthesia: a scoping review. Br J Anaesth 2020; 124: e134-–7. https://doi.org/10.1016/j.bja.2019.12.021
doi: 10.1016/j.bja.2019.12.021
pubmed: 31983412
Dayal A, O'Connor DM, Qadri U, Arora VM. Comparison of male vs female resident milestone evaluations by faculty during emergency medicine residency training. JAMA Intern Med 2017; 177: 651–7. https://doi.org/10.1001/jamainternmed.2016.9616
doi: 10.1001/jamainternmed.2016.9616
pubmed: 28264090
pmcid: 5818781
Galvin SL, Parlier AB, Martino E, Scott KR, Buys E. Gender bias in nurse evaluations of residents in obstetrics and gynecology. Obstet Gynecol 2015; 126: 7S–12. https://doi.org/10.1097/aog.0000000000001044
doi: 10.1097/aog.0000000000001044
pubmed: 26375558
Brienza RS, Huot S, Holmboe ES. Influence of gender on the evaluation of internal medicine residents. J Womens Health (Larchmt) 2004; 13: 77–83. https://doi.org/10.1089/154099904322836483
doi: 10.1089/154099904322836483
pubmed: 15006280
Klein R, Julian KA, Snyder ED, et al. Gender bias in resident assessment in graduate medical education: review of the literature. J Gen Intern Med 2019; 34: 712–9. https://doi.org/10.1007/s11606-019-04884-0
doi: 10.1007/s11606-019-04884-0
pubmed: 30993611
pmcid: 6502889
Loeppky C, Babenko O, Ross S. Examining gender bias in the feedback shared with family medicine residents. Educ Prim Care 2017; 28: 319–24. https://doi.org/10.1080/14739879.2017.1362665
doi: 10.1080/14739879.2017.1362665
pubmed: 28812957
Mueller AS, Jenkins TM, Osborne M, Dayal A, O'Connor DM, Arora VM. Gender differences in attending physicians' feedback to residents: a qualitative analysis. J Grad Med Educ 2017; 9: 577–85. https://doi.org/10.4300/jgme-d-17-00126.1
doi: 10.4300/jgme-d-17-00126.1
pubmed: 29075375
pmcid: 5646913
Ringdahl EN, Delzell JE, Kruse RL. Evaluation of interns by senior residents and faculty: is there any difference? Med Educ 2004; 38: 646–51. https://doi.org/10.1111/j.1365-2929.2004.01832.x
doi: 10.1111/j.1365-2929.2004.01832.x
pubmed: 15189261
Billick M, Rassos J, Ginsburg S. Dressing the part: gender differences in residents' experiences of feedback in internal medicine. Acad Med 2022; 97: 406–13. https://doi.org/10.1097/acm.0000000000004487
doi: 10.1097/acm.0000000000004487
pubmed: 34709203
Thackeray EW, Halvorsen AJ, Ficalora RD, Engstler GJ, McDonald FS, Oxentenko AS. The effects of gender and age on evaluation of trainees and faculty in gastroenterology. Am J Gastroenterol 2012; 107: 1610–4. https://doi.org/10.1038/ajg.2012.139
doi: 10.1038/ajg.2012.139
pubmed: 23160284
Spring J, Abrahams C, Ginsburg S, et al. Impact of gender on clinical evaluation of trainees in the intensive care unit. ATS Sch 2021; 2: 442–51. https://doi.org/10.34197/ats-scholar.2021-0048oc
Padilla EP, Stahl CC, Jung SA, et al. Gender differences in entrustable professional activity evaluations of general surgery residents. Ann Surg 2022; 275: 222–9. https://doi.org/10.1097/sla.0000000000004905
doi: 10.1097/sla.0000000000004905
pubmed: 33856381
Zuckerbraun NS, Levasseur K, Kou M, et al. Gender differences among milestone assessments in a national sample of pediatric emergency medicine fellowship programs. AEM Educ Train 2021; 5: e10543. https://doi.org/10.1002/aet2.10543
Royal College of Physicians and Surgeons of Canada. Access to copyright-protected CBD documents. Available from URL: https://www.royalcollege.ca/rcsite/documents/cbd/epa-observation-templates-e (accessed November 2022).
von Elm E, Altman DG, Egger M, et al. The Strengthening the Reporting of Observational Studies in Epidemiology (STROBE) statement: guidelines for reporting observational studies. Bull World Health Organ 2007; 85: 867–72. https://doi.org/10.2471/blt.07.045120
doi: 10.2471/blt.07.045120
Cook TD. Advanced statistics: up with odds ratios! A case for odds ratios when outcomes are common. Acad Emerg Med 2002; 9: 1430–4. https://doi.org/10.1111/j.1553-2712.2002.tb01616.x
doi: 10.1111/j.1553-2712.2002.tb01616.x
pubmed: 12460851
Bates D, Mächler M, Bolker BM, Walker SC. Fitting linear mixed-effects models using lme4. J Stat Softw 2015; 67: 1–48. https://doi.org/10.48550/arXiv.1406.5823
Hindman BJ, Dexter F, Kreiter CD, Wachtel RE. Determinants, associations, and psychometric properties of resident assessments of anesthesiologist operating room supervision. Anesth Analg 2013; 116: 1342–51. https://doi.org/10.1213/ane.0b013e31828d7218
doi: 10.1213/ane.0b013e31828d7218
pubmed: 23558839
Dexter F, Hadlandsmyth K, Pearson AC, Hindman BJ. Reliability and validity of performance evaluations of pain medicine clinical faculty by residents and fellows using a supervision scale. Anesth Analg 2020; 131: 909–16. https://doi.org/10.1213/ane.0000000000004779
doi: 10.1213/ane.0000000000004779
pubmed: 32332292
Dexter F, Ledolter J, Wong CA, Hindman BJ. Association between leniency of anesthesiologists when evaluating certified registered nurse anesthetists and when evaluating didactic lectures. Health Care Manag Sci 2020; 23: 640–8. https://doi.org/10.1007/s10729-020-09518-0
doi: 10.1007/s10729-020-09518-0
pubmed: 32946045
Dexter F, Ledolter J, Hindman BJ. Measurement of faculty anesthesiologists' quality of clinical supervision has greater reliability when controlling for the leniency of the rating anesthesia resident: a retrospective cohort study. Can J Anesth 2017; 64: 643–55. https://doi.org/10.1007/s12630-017-0866-4
doi: 10.1007/s12630-017-0866-4
pubmed: 28349314
Dexter F, Bayman EO, Wong CA, Hindman BJ. Reliability of ranking anesthesiologists and nurse anesthetists using leniency-adjusted clinical supervision and work habits scores. J Clin Anesth 2020; 61: 109639. https://doi.org/10.1016/j.jclinane.2019.109639
Frank JR, Snell LS, Cate OT, et al. Competency-based medical education: theory to practice. Med Teach 2010; 32: 638–45. https://doi.org/10.3109/0142159x.2010.501190
doi: 10.3109/0142159x.2010.501190
pubmed: 20662574
Sarosi GA Jr, Klingensmith M. Entrustable professional activities, a tool for addressing sex bias and the imposter syndrome? Ann Surg 2022; 275: 230–1. https://doi.org/10.1097/sla.0000000000005189
doi: 10.1097/sla.0000000000005189
pubmed: 34433185
Zdravkovic M, Osinova D, Brull SJ, et al. Perceptions of gender equity in departmental leadership, research opportunities, and clinical work attitudes: an international survey of 11 781 anaesthesiologists. Br J Anaesth 2020; 124: e160–70. https://doi.org/10.1016/j.bja.2019.12.022
doi: 10.1016/j.bja.2019.12.022
pubmed: 32005515
Gonzalez LS, Fahy BG, Lien CA. Gender distribution in United States anaesthesiology residency programme directors: trends and implications. Br J Anaesth 2020; 124: e63–9. https://doi.org/10.1016/j.bja.2019.12.010
doi: 10.1016/j.bja.2019.12.010
pubmed: 31980155
Aliaño M, Franco G, Gilsanz F. Gender differences in Anaesthesiology. At what point do we find ourselves in Spain? Results from a Spanish survey [Spanish]. Rev Esp Anestesiol Reanim (Engl Ed) 2020; 67: 374–80. https://doi.org/10.1016/j.redar.2019.10.012
Brown O, Mou T, Lim SI, et al. Do gender and racial differences exist in letters of recommendation for obstetrics and gynecology residency applicants? Am J Obstet Gynecol 2021; 225: e1–11. https://doi.org/10.1016/j.ajog.2021.08.033
doi: 10.1016/j.ajog.2021.08.033
Branfield Day L, Miles A, Ginsburg S, Melvin L. Resident perceptions of assessment and feedback in competency-based medical education: a focus group study of one internal medicine residency program. Acad Med 2020; 95: 1712–7. https://doi.org/10.1097/acm.0000000000003315
doi: 10.1097/acm.0000000000003315
pubmed: 32195692
Rojek AE, Khanna R, Yim JW, et al. Differences in narrative language in evaluations of medical students by gender and under-represented minority status. J Gen Intern Med 2019; 34: 684–91. https://doi.org/10.1007/s11606-019-04889-9
doi: 10.1007/s11606-019-04889-9
pubmed: 30993609
pmcid: 6502922