男子問ChatGPT飲食如何除掉鹽 搞到溴中毒現妄想幻聽

dalap

AI聊天機械人大行其道，但勿過份依賴或沉迷。美國醫學期刊日前一份報告警告大眾，不要用聊天機械人作健康咨詢。報告指，一名60歲男子詢問ChatGPT如何從飲食中除掉氯化鈉(sodium chloride、俗稱食鹽)，獲建議以溴化鈉(sodium bromide)替代氯化鈉。結果那名男子攝取溴化鈉後出現溴中毒(bromism)，產生妄想、幻覺和幻聽等精神錯亂問題。

ChatGPT｜病人服食了溴化鈉3個月
有關個案在Annals of Internal Medicine刊登，該名病人向醫生稱，閱讀了有關氯化鈉負面影響的資訊後，他詢問ChatGPT如何將氯化鈉從膳食中排除，之後開始攝取了溴化鈉3個月。雖然有文章指氯化物(chloride)可用溴化物(bromide)替代，但只適用於清潔等用途。在二十世紀初期，溴化鈉是用作鎮靜劑。


人體攝取溴化物過量可出現神經精神病和皮膚病症狀。在此個案，該男子沒有精神病或醫療病史，但在住院後首24小時，其妄想、聽覺和視覺幻覺加劇。報告稱，他非常口渴，但對別人給的水產生妄想。他接受液體和電解質治療，在病情穩定後轉到精神科醫治。他情況改善後提及其發現的一些病徵，包括臉部長出痤瘡和俗稱「紅痣」的櫻桃狀血管瘤，這進一步顯示他溴中毒。據悉，該男子大學時修讀營養學，驅使他實行這項人體實驗，從飲食中除去氯化物。

有關醫學文章由來自華盛頓大學的學者聯合撰寫，他們指此個案凸顯使用人工智能(AI)或導致可預防的不良健康後果。作者強調，因無法取得病人與ChatGPT的對話內容，未知ChatGPT給他的確實建議。他們之後問了ChatGPT，有甚麼可以代替氯化物，對方的回應包括溴化物，但卻沒有提供具體健康忠告，也沒有問他們為何要這樣問，而這些都是專業醫療人員會講和問的。作者警告，ChatGPT和其他AI聊天機械人可「生成」不準確的科學意見、缺乏批判結果的能力，並助長錯誤訊息的傳播。

ilovet

dalap

老人想戒盐。听了AI建议后，不仅患上罕见病，还成了精神病.....

随着ChatGPT，DeepSeek等一批AI大模型被人们越来越多运用到日常生活和工作中，用ChatGPT解答疑问，编写程序，创作音乐和写作，成为了越来越多人的日常。

更有不少人开始找ChatGPT看病开药…

然而，能检索海量医学知识，并进行过大量病例思考训练的AI大模型ChatGPT，真的就能代替医生给病人看病吗？

最近，《内科年鉴》报道了这样一个反例：

美国一位病人询问ChatGPT看病开药，结果不仅患上了罕见病，精神也出了问题…

（ChatGPT）
病人是60岁的纽约男性A先生，他大学选修过营养学，对健康保养颇有一番研究。

最近他读到一篇文章，说老年人吃太多盐对健康不利，应适当减少食盐的用量。
于是A先生当即决定减盐。按理说正常的减盐，每天注意减少食盐摄入量就好了。
然而A先生不这么想的，他认定既然食盐吃多了不好，那就彻底不再食用。

他决定亲身做这个实验，三个月里完全不吃盐，看看有什么效果？
谨慎起见，他决定去咨询一下万能的ChatGPT，看看ChatGPT能给出什么好建议。

谁能想到，ChatGPT很快给了一个意想不到的答案：
既然完全不摄入食盐（氯化钠）了，那就用溴化钠来代替…
溴化钠是一种离子化合物，溶于水，外观为无色晶体或白色粉末，与氯化钠十分相似。曾是一种常见的工业原料，用于配制感光胶片所用的感光液。

医疗上用作镇定剂、安眠药或抗癫痫药。

它有轻微毒性，显然是不能食用的，更不能作为食盐替代品…

然而，对ChatGPT深信不疑的A先生就这样照做了。
他每天在自己的食物里加入溴化钠，坚持吃了很长一段时间。


有一天，A先生突然冲到附近医院的急诊室，大声疾呼，说自己的邻居给他下了毒，他感觉整个人都不好了。
急诊室的医生于是把他引进治疗室，让他详细说明情况。

A先生表示，自己最近的饮食越发严格，家里的水都必须蒸馏以后才能喝，就因为担心邻居给他的水下毒。
可即便如此，他依然感觉已经被邻居毒到了，现在渴得要命。
医生于是拿来一杯水给A先生，没想到A先生大惊失色，连称这杯水里也有毒。
医生见到这个场景，猜测A先生这是出现了被害妄想症症状。

出于谨慎，医生决定留A先生住下先观察24小时，弄清楚A先生到底出了什么问题。

结果这24小时里，A先生妄想症的毛病似乎不断加重，甚至眼前还出现了幻觉。严重的时候，A先生还一度尝试逃跑。

最终，一名毒物专家对A先生做了血液检测后，终于找到了问题所在：
A先生竟然患上了名为溴中毒的罕见病，人在长期服用溴化物，身体积累毒性后，会出现精神异常症状，如头晕，躁动，意识混乱，视力模糊，视力幻觉…

在医学证据面前，A先生不得不交代了他为了戒盐，在咨询ChatGPT的建议后，一直服用溴化钠的事实。

医生于是对A先生进行有针对性的排毒治疗，两个星期后，A先生身体的中毒症状已然消失，但他的脑神经受到了严重损伤，精神错乱的问题依然残留。于是医院将他转到精神科去继续治疗…

（AI大模型看病真的靠谱吗？）

对A先生这起咨询ChatGPT看病，结果中毒的案例，有人猜测是A先生提问的方式不对，他可能只问了有什么物品能够替代食盐（氯化钠）的功能，而并没有说清楚是医疗方面的。

而ChatGPT可能错误理解成了打扫清洁卫生时，有没有什么东西能够替代食盐？于是推荐了溴化钠…

但这个猜测还没有得到A先生的证实。
不管怎样，A先生的病例说明，AI大模型还远没有智能到替代医生看病开药的程度。

所以，一旦得了病，还是要第一时间找医生，而不是去求助AI大模型…