前文(從文學理論看AI（二）)提到，人類與人工智能（AI）雖然同樣運用社會文化符號系統去完成工作，但方式並不相同。人類會結合價值觀、經驗、情感與意圖來賦予符號意義；AI則主要依靠概率運算生成回應。
這種差異解釋了為何AI有時能產生看似合理，甚至與人類相近的內容，但經仔細覆核後卻可能發現嚴重錯誤。人類對AI輸出的預期與實際結果之間的落差，通常稱為「幻覺」（hallucination）。
然而，以「幻覺」形容AI的錯誤生成並不準確。幻覺原本指由精神健康問題、腦部變化或身體疾病引起的錯誤感官知覺，但AI並不是人。當AI虛構學術引文時，它並非突然「失常」，而是在按照自身設計運作，根據概率，生成最可能正確回應使用者指令的答案。
大型語言模型 （LLM）本質上是概率系統。因此，錯誤並非偏離正常運作，而是其基本架構所產生的結果。即使人類可以透過不同的指令技巧以收窄AI的回應範圍，提高準確性，但未必能徹底消除錯誤。
若果工作是範圍明確、程序固定而且高度重複的，這些指令技巧是有可能令系統接近「零幻覺」。這也解釋了為何重複性較高的工作，往往被視為最容易被AI所取代。
香港理工大學開發的「Write For You」便是一例。該工具專門處理文獻綜述與引文整理，並聲稱能在這類任務中實現「零幻覺」。暫且不論它能否杜絕所有錯誤，這項設計已隱含一個前提：文獻綜述與引文整理被開發者理解為固定、重複和可規範化的工作。
然而，學術寫作往往充滿變化，並高度依賴具體情境。追求「零幻覺」因此帶來更深層的憂慮：AI之所以變得可靠，會否不只是因為機器更完善，也因為人類被要求以更規律、更可預測的方式行事？
在人機協作的時代，我們如何保留人類活動的彈性與開放性？下一篇文章將從AI時代的教學與學習出發，繼續探討這個問題。
撰文︰卓嘉智博士
香港都會大學人文、語言與翻譯學系助理教授