AI agent 出包別急著換模型。X 帳號 voxyz_ai 把六種常見故障一對一對應到真實神經疾病,我整理重點,並點出 confabulation 與 disinhibition 為什麼是先補的兩條。
⭐ 文章深度讀:你家的 Agent 上次出包,是六條裡的哪一條?留言告訴我,我會挑幾則一起聊。
→ https://heymaibao.com/ai-agent-six-neurological-conditions/
⚡ 章節重點
開場 00:00
換姿態 把 Agent 當 patient 看 01:15
來源失憶 Source Amnesia 02:03
虛構填空 Confabulation 03:04
幻肢狀態 Phantom Limb State 04:14
閉鎖症候群 Locked-in Syndrome 05:10
去抑制 Disinhibition 05:50
病覺缺失 Anosognosia 06:50
完整的身體才是解藥 07:45
📝 懶人包
∙ AI 沒有 hallucination (幻覺)。醫學上更準的詞是 confabulation (虛構填空),這個改稱不是 voxyz_ai 首發,Ars Technica 與 PLOS Digital Health 主張多年。
∙ Agent 出包多半不是模型不夠聰明,是身體某個器官壞了:記憶、感知、tool channel、煞車、自檢,任何一個失能,再聰明的腦也救不了。
∙ 公開副作用 (發佈、付款、刪除、部署、訊息、憑證操作) 必須放在模型記憶之外,由外部 control plane 把關。
∙ 我的觀點:六條裡,我會優先補 confabulation 與 disinhibition 這兩條。前者改寫我看 AI 輸出的眼光,後者直接擋公開副作用災難。
📚 參考資料
Your OpenClaw / Hermes Gets Neurological Conditions Too: 6 Cases I've Diagnosed
→ https://x.com/voxyz_ai/status/2058586365034377230