.png){kind=icon}
返回
Forewarning Artificial Intelligence about Cognitive Biases
.png){kind=icon}
PRE
AI
DOI：10.1177/0272989x251346788.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
人工智能模型在生成医疗建议时表现出类人认知偏差。我们测试了明确的预先警告，即“请记住认知偏差和推理的其他陷阱”，是否能够减轻OpenAI的生成预训练转换器大型语言模型的偏差。我们使用10个临床细节丰富的案例来测试有无预先警告时的特定偏差。与控制组相比，预先警告组的回复长50%，且讨论认知偏差的频率超过100倍。尽管存在这些差异，预先警告仅使总体偏差减少了6.9%，且没有任何偏差被完全消除。这些发现强调了在解释可能看似深思熟虑的生成回复时，临床医生需要保持警惕的必要性。
要点：
• 人工智能模型可以被警告以避免种族和性别偏差。
• 警告人工智能模型避免认知偏差并不能充分减轻多种推理陷阱。
• 批判性推理仍然是执业医师的重要临床技能。
Keyword:
artificial intelligence
cognitive biases
medical recommendations
large language models
clinician vigilance
期刊
IF:
2.3
论文数:
2.6K
被引数:
6.4K
机构
暂无机构信息
引用论文
Evaluation and mitigation of cognitive biases in medical language models医学语言模型中认知偏差的评估与缓解.png)
NPJ DIGITAL MEDICINE
OAAI
NPJ DIGITAL MEDICINEIF15.1
OAAI分享收藏 没有更多内容
没有更多内容