🤖 ChatGPT Health"体检不合格"：紧急与不紧急情况易出错，漏诊风险高
随着AI健康助手越来越普及，我们是否应该相信它能准确判断是否需要紧急就医？一项新研究对ChatGPT Health进行了严格测试，结果却揭示了令人担忧的漏洞。
研究团队模拟了960个临床场景，发现系统在处理极端情况时表现最差。比如，对于糖尿病酮症酸中毒等紧急情况，系统竟有52%的漏诊率，建议患者等待24-48小时，而非立即去急诊。更奇怪的是，当家人或朋友淡化症状时，AI的分诊建议会显著偏向不紧急，风险比高达11.7倍。此外，在处理自杀意念时，危机干预信息有时会错误激活。
这些发现表明，AI分诊系统在真实世界应用中可能存在严重的安全隐患。虽然患者种族、性别等因素未显著影响结果，但置信区间未排除临床意义差异，意味着仍需更多研究。研究警告，在缺乏充分验证前，不应将此类系统大规模用于消费者健康服务。
来源：Nature medicine
#AI医疗 #分诊系统 #ChatGPT #健康助手 #医疗AI #安全风险
via: 热心群友
🧬 频道 ｜ 🧑🔬 群组 ｜ 📨 投稿
随着AI健康助手越来越普及，我们是否应该相信它能准确判断是否需要紧急就医？一项新研究对ChatGPT Health进行了严格测试，结果却揭示了令人担忧的漏洞。
研究团队模拟了960个临床场景，发现系统在处理极端情况时表现最差。比如，对于糖尿病酮症酸中毒等紧急情况，系统竟有52%的漏诊率，建议患者等待24-48小时，而非立即去急诊。更奇怪的是，当家人或朋友淡化症状时，AI的分诊建议会显著偏向不紧急，风险比高达11.7倍。此外，在处理自杀意念时，危机干预信息有时会错误激活。
这些发现表明，AI分诊系统在真实世界应用中可能存在严重的安全隐患。虽然患者种族、性别等因素未显著影响结果，但置信区间未排除临床意义差异，意味着仍需更多研究。研究警告，在缺乏充分验证前，不应将此类系统大规模用于消费者健康服务。
AI分诊也怕极端情况，紧急和没病都容易搞错🤯
来源：Nature medicine
#AI医疗 #分诊系统 #ChatGPT #健康助手 #医疗AI #安全风险
via: 热心群友
🧬 频道 ｜ 🧑🔬 群组 ｜ 📨 投稿
