近年來，人工智慧在香港的城市肌理中滲透得非常迅速：從市民日常查詢的客服機器人、到政府內部的文書自動化，甚至延伸至醫療診斷輔助、金融風控與高等教育的教學實驗。政府力推全民與各部門採用人工智能，目的無可厚非——提升效率、促進創新、強化競爭力。
然而，身為一名長期投入實務滲透測試與安全審查的觀察者，筆者必須提出一個警醒：把工具普及化，並不等同於提升國家競爭力或社會韌性；若沒有分級治理、用途導向的技術控制與可執行的監督機制，這場普及化反而會放大既有弱點，甚至引發系統性危害，侵蝕公共信任與法治基礎。
首先要說明的是人工智能並非萬能的黑盒，它有明確的失靈模式與攻擊面。所謂幻覺（hallucination）並不是抽象的學術詞彙，而是在政策建議、法律草擬或醫療輔助中會實際產生錯誤資訊的現象。
筆者曾見過政府單位在沒有二次事實核查與可追溯審計的情況下，將機器輸出直接納入決策流程——短期內或許節省了人力，但當錯誤資訊被程序化放大並成為制度性依歸，造成的損害遠超過那些重視的效率。
身為滲透測試者，筆者關注的往往不是模型的「炫技能力」，而是那些看不見的邊界：API 金鑰如何存放、日誌是否分級保護、供應商是否具備可驗證的審計證明。一個權限錯置、一次日誌未加密備份，便可能把敏感資料、商業機密，甚至國家安全資訊推送到不該出現的地方。
除此之外，近年筆者為多個公營與私營人工智能系統進行滲透測試時，引入並常態化一類新的測試手法：透過模擬使用者對話，刻意誘使人工智能脫離其既定範疇或安全規範，以產生錯誤或不當回應。
實務上，筆者曾把本應只提供公共服務資訊的系統誘導成聊天機器人，或把聲稱不能生成不當影像的生成器騙成可以產生不雅照片；這類測試顯示許多系統在策略層面或內容過濾器上存在設計缺陷，能被語境操弄或prompt‑engineering所繞過，進一步證明單靠表面上的規範或防護並不足以防止錯誤或濫用。
香港是國際城市，面臨的另一層挑戰是多法域與多來源模型的混搭。不同來源的模型在訓練資料、偏誤與立場上有實質差異；當機構放任跨境模型無差別處理敏感資料，資料主權與合規風險便會在不知不覺中累積。
換句話說，如果我們以同一套採購或使用守則，同時允許低風險的公共查詢機器人與高風險的執法或金融監管工具存在，這份一刀切的守則在關鍵時刻勢必失靈：
．執法單位需要法律授權、證據保存與外部獨立監督；
．教育端需要教學隔離與成果審核；
．公共服務的客服系統則應着重透明度與個人資料保護。
這些職能之間的本質差異，決定了治理不能以同一把尺子衡量。
（待續）
