The influence of resident and faculty gender on assessments in anesthesia competency-based medical education.

L’influence du genre des résident·es et des professeur·es sur les évaluations de la formation médicale fondée sur les compétences en anesthésie.

Journal

Canadian journal of anaesthesia = Journal canadien d'anesthesie
ISSN: 1496-8975
Titre abrégé: Can J Anaesth
Pays: United States
ID NLM: 8701709

Informations de publication

Date de publication:
06 2023
Historique:
received: 05 04 2022
accepted: 17 11 2022
revised: 15 11 2022
medline: 13 7 2023
pubmed: 11 5 2023
entrez: 10 5 2023
Statut: ppublish

Résumé

Competency-based medical education (CBME) relies on frequent workplace-based assessments of trainees, providing opportunities for conscious and implicit biases to reflect in these assessments. We aimed to examine the influence of resident and faculty gender on performance ratings of residents within a CBME system. This retrospective cohort study took place from August 2017 to January 2021 using resident assessment data from two workplace-based assessments: the Anesthesia Clinical Encounter Assessment (ACEA) and Entrustable Professional Activities (EPAs). Self-reported gender data were also extracted. The primary outcome-gender-based differences in entrustment ratings of residents on the ACEA and EPAs-was evaluated using mixed-effects logistic regression, with differences reported through odds ratios and confidence intervals (α = 0.01). Gender-based differences in the receipt of free-text comments on the ACEA and EPAs were also explored. In total, 14,376 ACEA and 4,467 EPA assessments were analyzed. There were no significant differences in entrustment ratings on either assessment tool between men and women residents. Regardless of whether assessments were completed by men or women faculty, entrustment rates between men and women residents were not significantly different for any postgraduate year level. Additionally, men and women residents received strengths-related and actions-related comments on both assessments at comparable frequencies, irrespective of faculty gender. We found no gender-based differences in entrustment ratings for both the ACEA and EPAs, which suggests an absence of resident gender bias within this CBME system. Given considerable heterogeneity in rater leniency, future work would be strengthened by using rater leniency-adjusted scores rather than raw scores. RéSUMé: OBJECTIF: La formation médicale fondée sur les compétences (FMFC) repose sur des évaluations fréquentes des stagiaires en milieu de travail, ce qui donne l’occasion de refléter les préjugés conscients et implicites dans ces évaluations. Notre objectif était d’examiner l’influence du genre des résident·es et des professeur·es sur les évaluations de la performance des résident·es au sein d’un système de FMFC. MéTHODE: Cette étude de cohorte rétrospective s’est déroulée d’août 2017 à janvier 2021 à l’aide des données d’évaluation des résident·es provenant de deux évaluations en milieu de travail : L’évaluation de l’anesthésie clinique par événement (ACEA – Anesthesia Clinical Encounter Assessment) et les Actes professionnels non supervisés (APNS). Des données autodéclarées sur le genre ont également été extraites. Le critère d’évaluation principal, soit les différences fondées sur le genre dans les cotes de confiance des résident·es sur l’ACEA et les APNS, a été évalué à l’aide d’une régression logistique à effets mixtes, les différences étant rapportées par les rapports de cotes et les intervalles de confiance (α = 0,01). Les différences fondées sur le genre dans la réception des commentaires en texte libre sur l’ACEA et les APNS ont également été explorées. RéSULTATS: Au total, 14 376 évaluations ACEA et 4467 évaluations APNS ont été analysées. Il n’y avait pas de différences significatives dans les cotes de confiance obtenues avec l’un ou l’autre des outils d’évaluation entre les résidents et les résidentes. Indépendamment du genre de la personne réalisant l’évaluation, les taux de confiance entre les résidentes et les résidents n’étaient pas significativement différents pour toutes les années de formation postdoctorale. De plus, les résident·es ont reçu des commentaires liés à leurs forces et leurs actes sur les deux évaluations à des fréquences comparables, quel que soit le genre du corps professoral. CONCLUSION: Nous n’avons constaté aucune différence fondée sur le genre dans les cotes de confiance telles qu’évaluées par les ACEA et les APNS, ce qui suggère une absence de préjugés genrés envers les résident·es au sein de ce système de FMFC. Compte tenu de l’hétérogénéité considérable en matière de clémence des évaluateurs et évaluatrices, les travaux futurs seraient plus fiables s’ils utilisaient des scores ajustés en fonction de ladite clémence plutôt que des scores bruts.

Autres résumés

Type: Publisher (fre)
RéSUMé: OBJECTIF: La formation médicale fondée sur les compétences (FMFC) repose sur des évaluations fréquentes des stagiaires en milieu de travail, ce qui donne l’occasion de refléter les préjugés conscients et implicites dans ces évaluations. Notre objectif était d’examiner l’influence du genre des résident·es et des professeur·es sur les évaluations de la performance des résident·es au sein d’un système de FMFC. MéTHODE: Cette étude de cohorte rétrospective s’est déroulée d’août 2017 à janvier 2021 à l’aide des données d’évaluation des résident·es provenant de deux évaluations en milieu de travail : L’évaluation de l’anesthésie clinique par événement (ACEA – Anesthesia Clinical Encounter Assessment) et les Actes professionnels non supervisés (APNS). Des données autodéclarées sur le genre ont également été extraites. Le critère d’évaluation principal, soit les différences fondées sur le genre dans les cotes de confiance des résident·es sur l’ACEA et les APNS, a été évalué à l’aide d’une régression logistique à effets mixtes, les différences étant rapportées par les rapports de cotes et les intervalles de confiance (α = 0,01). Les différences fondées sur le genre dans la réception des commentaires en texte libre sur l’ACEA et les APNS ont également été explorées. RéSULTATS: Au total, 14 376 évaluations ACEA et 4467 évaluations APNS ont été analysées. Il n’y avait pas de différences significatives dans les cotes de confiance obtenues avec l’un ou l’autre des outils d’évaluation entre les résidents et les résidentes. Indépendamment du genre de la personne réalisant l’évaluation, les taux de confiance entre les résidentes et les résidents n’étaient pas significativement différents pour toutes les années de formation postdoctorale. De plus, les résident·es ont reçu des commentaires liés à leurs forces et leurs actes sur les deux évaluations à des fréquences comparables, quel que soit le genre du corps professoral. CONCLUSION: Nous n’avons constaté aucune différence fondée sur le genre dans les cotes de confiance telles qu’évaluées par les ACEA et les APNS, ce qui suggère une absence de préjugés genrés envers les résident·es au sein de ce système de FMFC. Compte tenu de l’hétérogénéité considérable en matière de clémence des évaluateurs et évaluatrices, les travaux futurs seraient plus fiables s’ils utilisaient des scores ajustés en fonction de ladite clémence plutôt que des scores bruts.

Identifiants

pubmed: 37165126
doi: 10.1007/s12630-023-02454-x
pii: 10.1007/s12630-023-02454-x
pmc: PMC10171726
doi:

Types de publication

Journal Article

Langues

eng

Sous-ensembles de citation

IM

Pagination

978-987

Informations de copyright

© 2023. Canadian Anesthesiologists' Society.

Références

Kealey A, Alam F, Bahrey LA, Matava CT, McCreath GA, Walsh CM. Validity evidence for the Anesthesia Clinical Encounter Assessment (ACEA) tool to support competency-based medical education. Br J Anaesth 2022; 128: 691–9. https://doi.org/10.1016/j.bja.2021.12.012
doi: 10.1016/j.bja.2021.12.012 pubmed: 35027168
Friedman Z, Bould MD, Matava C, Alam F. Investigating faculty assessment of anesthesia trainees and the failing-to-fail phenomenon: a randomized controlled trial. Can J Anesth 2021; 68: 1000–7. https://doi.org/10.1007/s12630-021-01971-x
doi: 10.1007/s12630-021-01971-x pubmed: 33721201
Dubois DG, Lingley AJ, Ghatalia J, McConnell MM. Validity of entrustment scales within anesthesiology residency training. Can J Anesth 2021; 68: 53–63. https://doi.org/10.1007/s12630-020-01823-0
doi: 10.1007/s12630-020-01823-0 pubmed: 33083924
Bailey K, West NC, Matava C. Competency-based medical education: are Canadian pediatric anesthesiologists ready? Cureus 2022; 14: e22344. https://doi.org/10.7759/cureus.22344
Schumacher DJ, Cate OT, Damodaran A, et al. Clarifying essential terminology in entrustment. Med Teach 2021; 43: 737–44. https://doi.org/10.1080/0142159x.2021.1924365
doi: 10.1080/0142159x.2021.1924365 pubmed: 33989100
Weller JM, Coomber T, Chen Y, Castanelli DJ. Key dimensions of innovations in workplace-based assessment for postgraduate medical education: a scoping review. Br J Anaesth 2021; 127: 689–703. https://doi.org/10.1016/j.bja.2021.06.038
doi: 10.1016/j.bja.2021.06.038 pubmed: 34364651
Edmunds LD, Ovseiko PV, Shepperd S, et al. Why do women choose or reject careers in academic medicine? A narrative review of empirical evidence. Lancet 2016; 388: 2948–58. https://doi.org/10.1016/s0140-6736(15)01091-0
doi: 10.1016/s0140-6736(15)01091-0 pubmed: 27105721
Welten VM, Dabekaussen KF, Davids JS, Melnitchouk N. Promoting female leadership in academic surgery: disrupting systemic gender bias. Acad Med 2022; 97: 961–6. https://doi.org/10.1097/acm.0000000000004665
doi: 10.1097/acm.0000000000004665 pubmed: 35294410
Bosco L, Lorello GR, Flexman AM, Hastie MJ. Women in anaesthesia: a scoping review. Br J Anaesth 2020; 124: e134-–7. https://doi.org/10.1016/j.bja.2019.12.021
doi: 10.1016/j.bja.2019.12.021 pubmed: 31983412
Dayal A, O'Connor DM, Qadri U, Arora VM. Comparison of male vs female resident milestone evaluations by faculty during emergency medicine residency training. JAMA Intern Med 2017; 177: 651–7. https://doi.org/10.1001/jamainternmed.2016.9616
doi: 10.1001/jamainternmed.2016.9616 pubmed: 28264090 pmcid: 5818781
Galvin SL, Parlier AB, Martino E, Scott KR, Buys E. Gender bias in nurse evaluations of residents in obstetrics and gynecology. Obstet Gynecol 2015; 126: 7S–12. https://doi.org/10.1097/aog.0000000000001044
doi: 10.1097/aog.0000000000001044 pubmed: 26375558
Brienza RS, Huot S, Holmboe ES. Influence of gender on the evaluation of internal medicine residents. J Womens Health (Larchmt) 2004; 13: 77–83. https://doi.org/10.1089/154099904322836483
doi: 10.1089/154099904322836483 pubmed: 15006280
Klein R, Julian KA, Snyder ED, et al. Gender bias in resident assessment in graduate medical education: review of the literature. J Gen Intern Med 2019; 34: 712–9. https://doi.org/10.1007/s11606-019-04884-0
doi: 10.1007/s11606-019-04884-0 pubmed: 30993611 pmcid: 6502889
Loeppky C, Babenko O, Ross S. Examining gender bias in the feedback shared with family medicine residents. Educ Prim Care 2017; 28: 319–24. https://doi.org/10.1080/14739879.2017.1362665
doi: 10.1080/14739879.2017.1362665 pubmed: 28812957
Mueller AS, Jenkins TM, Osborne M, Dayal A, O'Connor DM, Arora VM. Gender differences in attending physicians' feedback to residents: a qualitative analysis. J Grad Med Educ 2017; 9: 577–85. https://doi.org/10.4300/jgme-d-17-00126.1
doi: 10.4300/jgme-d-17-00126.1 pubmed: 29075375 pmcid: 5646913
Ringdahl EN, Delzell JE, Kruse RL. Evaluation of interns by senior residents and faculty: is there any difference? Med Educ 2004; 38: 646–51. https://doi.org/10.1111/j.1365-2929.2004.01832.x
doi: 10.1111/j.1365-2929.2004.01832.x pubmed: 15189261
Billick M, Rassos J, Ginsburg S. Dressing the part: gender differences in residents' experiences of feedback in internal medicine. Acad Med 2022; 97: 406–13. https://doi.org/10.1097/acm.0000000000004487
doi: 10.1097/acm.0000000000004487 pubmed: 34709203
Thackeray EW, Halvorsen AJ, Ficalora RD, Engstler GJ, McDonald FS, Oxentenko AS. The effects of gender and age on evaluation of trainees and faculty in gastroenterology. Am J Gastroenterol 2012; 107: 1610–4. https://doi.org/10.1038/ajg.2012.139
doi: 10.1038/ajg.2012.139 pubmed: 23160284
Spring J, Abrahams C, Ginsburg S, et al. Impact of gender on clinical evaluation of trainees in the intensive care unit. ATS Sch 2021; 2: 442–51. https://doi.org/10.34197/ats-scholar.2021-0048oc
Padilla EP, Stahl CC, Jung SA, et al. Gender differences in entrustable professional activity evaluations of general surgery residents. Ann Surg 2022; 275: 222–9. https://doi.org/10.1097/sla.0000000000004905
doi: 10.1097/sla.0000000000004905 pubmed: 33856381
Zuckerbraun NS, Levasseur K, Kou M, et al. Gender differences among milestone assessments in a national sample of pediatric emergency medicine fellowship programs. AEM Educ Train 2021; 5: e10543. https://doi.org/10.1002/aet2.10543
Royal College of Physicians and Surgeons of Canada. Access to copyright-protected CBD documents. Available from URL: https://www.royalcollege.ca/rcsite/documents/cbd/epa-observation-templates-e (accessed November 2022).
von Elm E, Altman DG, Egger M, et al. The Strengthening the Reporting of Observational Studies in Epidemiology (STROBE) statement: guidelines for reporting observational studies. Bull World Health Organ 2007; 85: 867–72. https://doi.org/10.2471/blt.07.045120
doi: 10.2471/blt.07.045120
Cook TD. Advanced statistics: up with odds ratios! A case for odds ratios when outcomes are common. Acad Emerg Med 2002; 9: 1430–4. https://doi.org/10.1111/j.1553-2712.2002.tb01616.x
doi: 10.1111/j.1553-2712.2002.tb01616.x pubmed: 12460851
Bates D, Mächler M, Bolker BM, Walker SC. Fitting linear mixed-effects models using lme4. J Stat Softw 2015; 67: 1–48. https://doi.org/10.48550/arXiv.1406.5823
Hindman BJ, Dexter F, Kreiter CD, Wachtel RE. Determinants, associations, and psychometric properties of resident assessments of anesthesiologist operating room supervision. Anesth Analg 2013; 116: 1342–51. https://doi.org/10.1213/ane.0b013e31828d7218
doi: 10.1213/ane.0b013e31828d7218 pubmed: 23558839
Dexter F, Hadlandsmyth K, Pearson AC, Hindman BJ. Reliability and validity of performance evaluations of pain medicine clinical faculty by residents and fellows using a supervision scale. Anesth Analg 2020; 131: 909–16. https://doi.org/10.1213/ane.0000000000004779
doi: 10.1213/ane.0000000000004779 pubmed: 32332292
Dexter F, Ledolter J, Wong CA, Hindman BJ. Association between leniency of anesthesiologists when evaluating certified registered nurse anesthetists and when evaluating didactic lectures. Health Care Manag Sci 2020; 23: 640–8. https://doi.org/10.1007/s10729-020-09518-0
doi: 10.1007/s10729-020-09518-0 pubmed: 32946045
Dexter F, Ledolter J, Hindman BJ. Measurement of faculty anesthesiologists' quality of clinical supervision has greater reliability when controlling for the leniency of the rating anesthesia resident: a retrospective cohort study. Can J Anesth 2017; 64: 643–55. https://doi.org/10.1007/s12630-017-0866-4
doi: 10.1007/s12630-017-0866-4 pubmed: 28349314
Dexter F, Bayman EO, Wong CA, Hindman BJ. Reliability of ranking anesthesiologists and nurse anesthetists using leniency-adjusted clinical supervision and work habits scores. J Clin Anesth 2020; 61: 109639. https://doi.org/10.1016/j.jclinane.2019.109639
Frank JR, Snell LS, Cate OT, et al. Competency-based medical education: theory to practice. Med Teach 2010; 32: 638–45. https://doi.org/10.3109/0142159x.2010.501190
doi: 10.3109/0142159x.2010.501190 pubmed: 20662574
Sarosi GA Jr, Klingensmith M. Entrustable professional activities, a tool for addressing sex bias and the imposter syndrome? Ann Surg 2022; 275: 230–1. https://doi.org/10.1097/sla.0000000000005189
doi: 10.1097/sla.0000000000005189 pubmed: 34433185
Zdravkovic M, Osinova D, Brull SJ, et al. Perceptions of gender equity in departmental leadership, research opportunities, and clinical work attitudes: an international survey of 11 781 anaesthesiologists. Br J Anaesth 2020; 124: e160–70. https://doi.org/10.1016/j.bja.2019.12.022
doi: 10.1016/j.bja.2019.12.022 pubmed: 32005515
Gonzalez LS, Fahy BG, Lien CA. Gender distribution in United States anaesthesiology residency programme directors: trends and implications. Br J Anaesth 2020; 124: e63–9. https://doi.org/10.1016/j.bja.2019.12.010
doi: 10.1016/j.bja.2019.12.010 pubmed: 31980155
Aliaño M, Franco G, Gilsanz F. Gender differences in Anaesthesiology. At what point do we find ourselves in Spain? Results from a Spanish survey [Spanish]. Rev Esp Anestesiol Reanim (Engl Ed) 2020; 67: 374–80. https://doi.org/10.1016/j.redar.2019.10.012
Brown O, Mou T, Lim SI, et al. Do gender and racial differences exist in letters of recommendation for obstetrics and gynecology residency applicants? Am J Obstet Gynecol 2021; 225: e1–11. https://doi.org/10.1016/j.ajog.2021.08.033
doi: 10.1016/j.ajog.2021.08.033
Branfield Day L, Miles A, Ginsburg S, Melvin L. Resident perceptions of assessment and feedback in competency-based medical education: a focus group study of one internal medicine residency program. Acad Med 2020; 95: 1712–7. https://doi.org/10.1097/acm.0000000000003315
doi: 10.1097/acm.0000000000003315 pubmed: 32195692
Rojek AE, Khanna R, Yim JW, et al. Differences in narrative language in evaluations of medical students by gender and under-represented minority status. J Gen Intern Med 2019; 34: 684–91. https://doi.org/10.1007/s11606-019-04889-9
doi: 10.1007/s11606-019-04889-9 pubmed: 30993609 pmcid: 6502922

Auteurs

Clyde T Matava (CT)

Department of Anesthesia and Pain Medicine, The Hospital for Sick Children, 555 University Ave., Toronto, ON, M5G 1X8, Canada. clyde.matava@sickkids.ca.
Department of Anesthesiology and Pain Medicine, Temerty Faculty of Medicine, University of Toronto, Toronto, ON, Canada. clyde.matava@sickkids.ca.
SickKids Research Institute, The Hospital for Sick Children, Toronto, ON, Canada. clyde.matava@sickkids.ca.

Fahad Alam (F)

Department of Anesthesiology and Pain Medicine, Temerty Faculty of Medicine, University of Toronto, Toronto, ON, Canada.
Department of Anesthesia, Sunnybrook Health Sciences Centre, Toronto, ON, Canada.

Alayne Kealey (A)

Department of Anesthesia and Pain Medicine, The Hospital for Sick Children, 555 University Ave., Toronto, ON, M5G 1X8, Canada.
Department of Anesthesiology and Pain Medicine, Temerty Faculty of Medicine, University of Toronto, Toronto, ON, Canada.

Lisa A Bahrey (LA)

Department of Anesthesiology and Pain Medicine, Temerty Faculty of Medicine, University of Toronto, Toronto, ON, Canada.
Department of Anesthesia, University Health Network-Toronto General Hospital, Toronto, ON, Canada.

Graham A McCreath (GA)

SickKids Research Institute, The Hospital for Sick Children, Toronto, ON, Canada.

Catharine M Walsh (CM)

SickKids Research Institute, The Hospital for Sick Children, Toronto, ON, Canada.
Division of Gastroenterology, Hepatology and Nutrition, The Hospital for Sick Children, Toronto, ON, Canada.
Department of Paediatrics, Temerty Faculty of Medicine, University of Toronto, Toronto, ON, Canada.
The Wilson Centre, Temerty Faculty of Medicine, University of Toronto, Toronto, ON, Canada.

Articles similaires

[Redispensing of expensive oral anticancer medicines: a practical application].

Lisanne N van Merendonk, Kübra Akgöl, Bastiaan Nuijen
1.00
Humans Antineoplastic Agents Administration, Oral Drug Costs Counterfeit Drugs

Smoking Cessation and Incident Cardiovascular Disease.

Jun Hwan Cho, Seung Yong Shin, Hoseob Kim et al.
1.00
Humans Male Smoking Cessation Cardiovascular Diseases Female
Humans United States Aged Cross-Sectional Studies Medicare Part C
1.00
Humans Yoga Low Back Pain Female Male

Classifications MeSH