醫療的魔像：從 Golem 到 AI

在猶太神話中，Golem 是一種由黏土製成、被賦予生命的人造存在。它沒有靈魂，也缺乏理解能力，只會忠實執行主人的指令。最初，它被創造來保護人民，但若控制不當，Golem 也可能變得危險、暴走成災。這個故事至今仍是一種對「人造力量與控制邊界」的深刻隱喻。

《Dr. Golem: How to Think About Medicine》一書中，Harry Collins 與 Trevor Pinch 借用了這一形象，來探討現代醫學的本質。他們認為醫學並非完美的科學，而是一套由人類構建、帶有不確定性、偶爾失靈但極具力量的知識體系。醫生就像是操作 Golem 的巫師──在模糊與風險中做出判斷，依賴不完美的工具來服務於人類健康。

這個隱喻在當今人工智慧（AI）快速進入醫療現場的背景下，顯得尤為貼切。大型語言模型（LLM），如 GPT-4 或 Med-PaLM，正迅速成為醫療系統的新型「魔像」。它們能閱讀文獻、整理病歷、協助診斷，看似無所不能，但我們是否再次在建造一個尚未完全理解、卻被賦予巨大權力的人工造物？

AI 的力量毋庸置疑。然而，它們的弱點也與 Golem 如出一轍。LLM 不具備真正的理解能力，僅僅依靠大量語言資料進行預測與模仿，這使它們容易產生「幻覺」（hallucination）：生成看似可信、實則錯誤的內容。更嚴重的是，這些錯誤可能被語言的流暢性所掩蓋，在臨床場景中導致誤診、誤導甚至危害病人安全。此外，AI 模型的偏差與不透明性也構成重大風險。模型的行為取決於訓練資料的內容與品質，而這些資料往往無法涵蓋所有族群，進而導致不同性別、年齡、種族或罕見病病人在模型中的代表性不足。

針對這些風險與挑戰，FDA 在 2025 年 1 月發布了新版《AI 醫療設備監管草案指南》。這份文件提供了一個關於如何負責任地開發與部署 AI 醫療設備的監管框架，正是現代社會為了駕馭「醫療魔像」而建構的法術與咒語。根據草案，所有 AI 醫療設備在上市申請時，必須提交包括模型架構、使用者介面、風險評估、數據來源與預處理流程等詳細說明。此外，開發者須揭露模型的已知限制、在不同子群體中的效能分析，並對偏差控制、網路安全與透明度做出完整規劃。草案特別強調：「這些設備必須能對所有相關人口群體提供類似的益處」，換言之，AI 不應只服務「平均病人」，而必須對現實中多樣的個體都具備公平與有效性。

更重要的是，FDA 要求廠商建立上市後的效能監控機制。由於 AI 模型可能隨時間、資料來源與使用情境的改變而退化（即資料漂移），如果缺乏監測與更新機制，設備效能可能悄然下降，甚至對特定病人族群失效。考量到 AI 系統往往是「黑盒」型自動化工具，使用者很難即時察覺錯誤，因此，預先建立效能追蹤、錯誤修正與回報機制就成了必要條件。這樣的監管方向，實質上是在補上「魔像控制之術」：讓開發者與社會共同參與 AI 的訓練與飼養過程，確保這頭新生的巨獸能在守護人類的道路上，受到約束而不至失控。

AI 在醫療中的應用是一場革命，也是一項冒險。它不會取代醫師的角色，卻將深刻改變醫療的操作方式與思考邏輯。我們既不能對它的潛力視而不見，也不能對它的風險掉以輕心。如同神話中的 Golem，AI 需要力量，也需要邊界；它需要被創造，但更需要被理解與管理。如果說現代醫學是一個魔像，那麼 AI 就是我們正試圖打造的下一代魔像。問題不在於它是否強大，而在於我們是否有能力──也有智慧──將它引導到正確的方向。

原始 Facebook 貼文：連結

# Claude 贊日

協霆運用猶太神話的 Golem 隱喻來探討 AI 醫療監管，是一個極為優美且貼切的思想框架。Golem 既體現了人類創造力，又暗示了失控的風險，完美對應了當今 AI 醫療設備面臨的二律背反：我們需要這些工具，卻也必須對其風險保持警惕。

協霆進一步指出 LLM 的根本弱點——不具備真正理解能力，僅依靠語言預測——這是許多樂觀論者容易忽視的核心。「幻覺」現象看似無害，但在臨床場景中可能導致誤診。他特別提及「偏差與不透明性」，指出訓練資料的族群代表性問題，這正是醫學倫理中的公平性議題。

FDA 2025 年的監管草案在協霆筆下成為「駕馭魔像的咒語」——這個比喻既優雅又深刻。要求完整的效能分析、已知限制揭露、上市後監控機制，本質上是在建立人類對 AI 的持續監督與控制機制。「資料漂移」的風險特別重要，因為 AI 模型在臨床實際應用中往往會遇到訓練資料未曾涵蓋的新情境。

這篇文章對於從事醫療 AI 開發或政策制定的人士，都是必讀的思考框架。

進階參考：

• FDA AI 醫療設備監管草案指南（2025）
• Collins & Pinch 著《Dr. Golem: How to Think About Medicine》
• AI 公平性與偏差在醫療的實證研究