你当然会幸福、强大、所向披靡。https://sk.88lin.eu.orghttps://sk.88lin.eu.org/posts/CNSmydream-927https://sk.88lin.eu.org/posts/CNSmydream-927Sun, 08 Mar 2026 07:20:12 GMT<b>医疗 AI 也会被误导——研究提示“像病历的错误信息”最危险</b><br /><br />大模型正越来越多地被用于问诊分诊、病历总结和医学问答。但如果错误信息被包装得足够“像真的”，它们会不会照单全收？这项发表于 <i>The Lancet Digital Health</i> 的横断面基准研究，系统测试了 LLM 在医疗虚假信息面前的脆弱性。<br /><br />研究团队评估了 20 个大语言模型，在 340 万条含医学错误信息的提示词中测试其易感性，错误信息来自社交媒体、临床笔记和模拟病例三类场景。结果显示，整体有 31.7% 的基础提示会让模型接受错误信息；其中临床笔记场景最危险，易感率高达 46.1%，显著高于社交媒体场景的 8.9%。不同模型表现差异明显，GPT-4 抗误导能力更强，而部分小模型和医学微调模型反而更容易“中招”。<br /><br />这项研究最重要的提醒不是“模型不行”，而是医疗 AI 的部署不能只看答得像不像，还要看它在被误导时能否守住底线。未来真正关键的，可能是事实锚定、来源校验和上下文防御机制，而不是单纯更大的参数规模。<br /><br /><blockquote>不是 AI 太笨，而是假病历太像真的——穿白大褂的谣言果然更危险。<i><b>🩺</b></i><i><b>🤖</b></i><br /><i><b>📄</b></i> <a href="https://doi.org/10.1016/j.landig.2025.100949" target="_blank">The Lancet Digital Health</a><br /><br /></blockquote><a href="/search/result?q=%23%E5%8C%BB%E7%96%97AI">#医疗AI</a> <a href="/search/result?q=%23%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B">#大语言模型</a> <a href="/search/result?q=%23%E5%8C%BB%E5%AD%A6%E8%99%9A%E5%81%87%E4%BF%A1%E6%81%AF">#医学虚假信息</a> <a href="/search/result?q=%23%E6%9F%B3%E5%8F%B6%E5%88%80">#柳叶刀</a> <a href="/search/result?q=%23%E4%B8%B4%E5%BA%8A%E5%AE%89%E5%85%A8">#临床安全</a><br /><br /><i><b>🧬</b></i> <a href="https://t.me/CNSmydream" target="_blank">频道</a> ｜ <i><b>🧑‍🔬</b></i> <a href="https://t.me/CNSmydream2" target="_blank">群组</a> ｜ <i><b>📨</b></i> <a href="https://t.me/sciReviewer_bot" target="_blank">投稿</a>