最近有機會隨青年發展委員會到一所中學，與學生進行小組分享。討論期間，一位對醫療行業有濃厚興趣的學生向筆者坦言，眼見人工智能（AI）發展一日千里，他擔心將來醫生的角色，恐怕只淪為在AI報告上簽名確認，「醫生」這個身份會否變得可有可無，甚至懷疑是否還值得投身這條路。
每年DSE及IB放榜，總有不少成績優異的「狀元」表示希望入讀醫科，今年也不例外。不過，當我們回望這條路，漫長的醫學課程加上艱苦的實習訓練，究竟畢業後迎接他們的，是否如那位學生所憂心般，被AI取代得所剩無幾？人工智能與傳統寒窗苦讀、按部就班行醫之路，兩者之間的關係，又應該如何理解？AI對整個醫療行業帶來什麼影響？當中的倫理問題，我們又應該如何面對？
人工智能為醫療帶來前所未有的效率與精準，但科技從來不是絕對中立的工具。當我們讚嘆AI診斷的速度與準確度時，不能忽略背後兩個核心問題：偏見（bias）與黑盒（black box）。這正是智慧醫療持份者必須正視的倫理課題。
先談偏見。AI模型的能力來自訓練數據，而數據從來不是憑空而來。現時不少醫療AI工具，其訓練樣本主要來自歐美人口，套用在亞洲病人身上時，敏感度和準確度往往有所落差，這點在筆者參與的國際神經外科會議上，同業已多次提及。然而，問題其實比想像中更為細緻：「亞洲人」甚至「華人」這個標籤本身已經過於粗略，華南、香港病人的疾病譜與體質特徵，與東南亞人口，以至華北人口相比，其實已有明顯差異。此外，香港本身亦有其獨特的疾病生態，例如肺結核至今仍屬地方性傳染病，人口老化速度及與生活習慣相關的慢性病比率，均與海外訓練數據存在落差。正因如此，發展基於本地數據訓練的小型語言模型，在病情惡化預測及專科分流等高度依賴本地的場景，往往較通用的大型模型更為貼切。這提醒我們，AI的判斷從來不是中立的真理，而是它所學習過的世界的縮影。
再談黑盒效應。深度學習模型透過千萬個參數運算得出結論，但連開發團隊往往也難以逐步解釋，為何系統會建議某個診斷或治療方案。在其他行業，這或許只是效率與體驗的取捨；但在醫療現場，醫生需要向病人解釋病情、爭取知情同意，若連醫生自己也說不出「為何AI這樣判斷」，又如何取信於病人？我常提醒同業，AI的建議可以參考，但臨床決策的解釋責任，始終落在醫生身上，不能單靠一句「系統這樣顯示」帶過。
偏見與黑盒，說到底都指向同一個原則：AI愈強大，人類的監督與問責就愈不能鬆懈。未來的智慧醫療發展，除了追求準確度的提升，更需要建立多元數據集、透明度審查機制，以及跨學科的治理框架，讓科技的進步，真正建基於公平與可信賴之上。
