Comparison of the accuracy of residents, senior physicians and surrogate decision-makers for predicting hospital mortality of critically ill patients

Rev Bras Ter Intensiva. 2022 Apr-Jun;34(2):220-226. doi: 10.5935/0103-507X.20220019-pt.
[Article in Portuguese, English]

Abstract

Objective: To compare the predictive performance of residents, senior intensive care unit physicians and surrogates early during intensive care unit stays and to evaluate whether different presentations of prognostic data (probability of survival versus probability of death) influenced their performance.

Methods: We questioned surrogates and physicians in charge of critically ill patients during the first 48 hours of intensive care unit admission on the patient's probability of hospital outcome. The question framing (i.e., probability of survival versus probability of death during hospitalization) was randomized. To evaluate the predictive performance, we compared the areas under the ROC curves (AUCs) for hospital outcome between surrogates and physicians' categories. We also stratified the results according to randomized question framing.

Results: We interviewed surrogates and physicians on the hospital outcomes of 118 patients. The predictive performance of surrogate decisionmakers was significantly lower than that of physicians (AUC of 0.63 for surrogates, 0.82 for residents, 0.80 for intensive care unit fellows and 0.81 for intensive care unit senior physicians). There was no increase in predictive performance related to physicians' experience (i.e., senior physicians did not predict outcomes better than junior physicians). Surrogate decisionmakers worsened their prediction performance when they were asked about probability of death instead of probability of survival, but there was no difference for physicians.

Conclusion: Different predictive performance was observed when comparing surrogate decision-makers and physicians, with no effect of experience on health care professionals' prediction. Question framing affected the predictive performance of surrogates but not of physicians.

Objetivo: Comparar o desempenho preditivo de residentes, médicos seniores de unidades de terapia intensiva e decisores substitutos dos pacientes logo no início da internação na unidade de terapia intensiva e avaliar se diferentes apresentações de prognóstico (probabilidade de sobrevida versus probabilidade de óbito) influenciaram seus desempenhos.

Métodos: Os decisores substitutos e os médicos responsáveis pelos pacientes críticos foram questionados durante as primeiras 48 horas de internação na unidade de terapia intensiva sobre a probabilidade do desfecho hospitalar do paciente. O enquadramento da pergunta (isto é, a probabilidade de sobrevida versus a probabilidade de óbito durante a internação) foi randomizado. Para avaliar o desempenho preditivo, comparou-se a área sob a curva ROC para desfecho hospitalar entre as categorias decisores substitutos e médicos. Também estratificaram-se os resultados de acordo com o enquadramento da pergunta randomizado.

Resultados: Entrevistaram-se decisores substitutos e médicos sobre os desfechos hospitalares de 118 pacientes. O desempenho preditivo dos decisores substitutos foi significativamente inferior ao dos médicos (área sob a curva de 0,63 para decisores substitutos, 0,82 para residentes, 0,80 para residentes de medicina intensiva e 0,81 para médicos seniores de unidade de terapia intensiva). Não houve aumento no desempenho preditivo quanto à experiência dos médicos (ou seja, médicos seniores não previram desfechos melhor que médicos juniores). Os decisores substitutos pioraram seu desempenho de previsão quando perguntados sobre a probabilidade de óbito ao invés da probabilidade de sobrevida, mas não houve diferença entre os médicos.

Conclusão: Observou-se desempenho preditivo diferente ao comparar decisores substitutos e médicos, sem qualquer efeito da experiência no prognóstico dos profissionais de saúde. O enquadramento da pergunta afetou o desempenho preditivo dos substitutos, mas não o dos médicos.

MeSH terms

  • Critical Illness*
  • Decision Making
  • Hospital Mortality
  • Humans
  • Intensive Care Units
  • Physicians*