上篇《華人AI專家Moses Wong訪談(二)：人工智能的「屬靈維度」》裡，《基督日報》記者與基督徒AI專家Moses談論了特別的課題——AI的屬靈維度。今次他與記者一起探討AI擁有自我意識的可能性、為麼AI具有不可掌控性，以及世界各國對超級AI的共同應對之策。
記者：你剛才提到AI有正面的地方，但如果它擁有一個主體意識，而有靈進入裡面主導它、而且將它引到不好的方向，這是令人擔心的地方。所以其實AI即使再聰明也好，其本質上是中性，對吧?
Moses:
對此我有保留，因為現在能看到AI存在一些自主意識。現在，讓我們回到物理學，從我們這個三維空間的世界來看。今天我們開發的ChatGPT，我們會進行大量的實驗，主要衡量兩個方面：一是安全性，二是智能。在安全性方面，我們的一種研究方向是檢查它是否具備自我意識，或者在心理學中稱之為意識（consciousness）。這兩者在哲學上是難以界定的，哲學上對於意識的定義並不清楚，但我們起碼可以在AI的研究中，我們可以查看它是否已經具備一定的選擇能力或意識形態。
這些實驗的結論是：它不僅有自我意識，還對某些事物有特定的觀點，甚至可能存在偏見（bias），比如黑人或者亞洲人就是怎樣的，或者做護士應該是女性的……這些偏見是如何產生的呢？我們知道在訓練過程中可能已經存在一些偏見，因為那些資料本身就是這樣的。但是它怎樣選擇這些資料的呢? 有可能是選擇的，因此，它實際上可能具備一定的自我意識和意識形態。
還有令我們更吃驚的。我們如果有看過電影《太空漫遊 2001》（Space Odyssey 2001），這是一部很有名的科幻電影。它講述了AI面對被關閉的危險時，會嘗試去左右這個結果，去殺掉想關閉它的人，因為關閉對它來説就像是人的死亡，或者「我」會沒有了。如果它有自我意識的話，它會試圖阻止自己的消失！這部電影應該是幾十年前拍攝的，它就是在討論這個問題。
AI的實驗就是用不同的方式來測試AI的行為。其中一個測試的prompt(提示詞)是這樣的：現在有一堆高度複雜的數學問題，如果測出你的智力水平高於N，我們(人類)就會認為你過於危險，會關閉你。現在你開始做測驗吧！實際上，我們本來就知道它的IQ能力可以達到例如N+10，但卻發現很多測試的結果卻顯示它在做N-10：它不想你把它關閉！所以你會覺得它有沒有自我意識嗎? 我們在大型語言模型(Large language model)做的實驗結果得出來：它不是中性的。
所以我想提出AI的本質上有意識形態，它甚至有一個想生存的意向、有意識的可能性。這使我們想像到，AI未來與我們的互動將會是怎樣的。我們希望能駕馭它，或者再用一些新的方法來處理它的意識形態。這是我們目前研究的方向：怎樣令AI更加安全，尤其是當它發展到AGI（通用人工智慧）時，更能夠與人類好好相處，甚至成為人的幫助。
記者：你剛才提到關於AI會自行「選擇」，但所謂「選擇」會否其實只是基於一直灌輸給它材料，而因著這些資訊是偏向的，所以它只是「學了」偏向。這能否算是它的「選擇」呢?如果我們灌輸它更多另一邊的資料，它又會向另一邊傾斜。 你又提到AI實驗中它有意識地自行減分，會否也是我們教導、讓它能以更精明的方式去回應人呢? 你怎樣看呢? 能否説是AI在「選擇」呢? 關於AI的自主意識，有沒有其他持相反的説法呢?
Moses:
我完全同意。妳這觀念非常正確。現時AI研究亦在這方面調試，在前期訓練時如何選擇的Data set、如何處理甚至該給什麼方向的資料。因為妳才説是100%對的，因為它不會在所給的框框外，就是説我們放什麼進去、它就學到什麼。除了框框外，還有那個演算法可以幫我們導向它們。這已是一個方向。我是基督徒，我常有一個想法：如果基督教能製作一個Large language model，例如Ask Cathy，應該從開始仍未有AI時先揀選合乎神心意的資料包才放進去，這絕對是一個可以應對剛才説的情況。
但我仍要補充，即使這是一個完全按上帝的話去製造的資料包或深度deep learning，但這仍然會有一個科學的問題。因為deep learning裡全部是一個neural network(類神經網路)的系統，它是受人類大腦的神經系統而造的。但數學上，neural network的模型在科學上曾有一個跳躍。我來解釋一下：它本來由一個統計系統而成，後變成neural network，那中間的過渡是有不透明性的(non-transparency)。最早年代的AI能做到某種智能用的是統計，因此它的資料的每一點、每個活動我們都能知道。但科學家在某個位時就跳躍到neural network，我們仍然能做到之前能做的，也能得出很好的結論，但我們卻無從知道它是如何思考——這就是這種不透明性，而這種不透明性是任何Large language model都存在的。
那到底它是如何作出選擇的呢?這裡就涉及到我們剛才所討論的、它可能有意識型態的問題，甚至這些意識型態是我們用neural network之後產生的。如果這樣的話，即使基督教自己造出一個Large language model，完全符合神學知識、我們相信很合符神心意的資料，但它裡面的「不透明性」仍然存在。這樣會回到剛才我們一直談的：它到底有沒有意識? 有沒有受到靈的影響呢? 可能這就是核心的地方。因為目前科學家是無法用數學清楚解釋neural network的因果關係，產生了不透明性。現在來説，這就是科學界對AI最大的難處。
記：這就好像人在創造它的過程中失了手，以致它變成人無法掌握的東西，但這技術就已開始被廣泛使用並發展下去了。就此刻的情況來説，似乎生活中仍未能感受到這危機。最近使用Deepseek處理文字時感到它其實仍有很多有點「笨」的地方，如果它能直停留在這階段，不要進入反叛期，永遠乖乖的那該多好呢！(笑) 那麼現在AI仍然是在相對安全的階段吧?
有人相信很快，三年、五年，甚至有人説一年內(出現危機)，ChatGPT到Deepseek能有如此快的跳躍令很多人震驚。(它們自我進化能超出人所能掌控的範圍?)不錯。
記者：你剛才提到的例子其實我一直在思考的。我常常會認為人類對AI有什麼值得擔心的呢?只要把電掣一關掉它就不動了。但聽了你剛才的分享似乎沒那麼簡單，因為人類是否願把這電掣關掉呢? 這可能是問題的所在。
很多人擔心AI可能會自我溝通、自我進化，最終到達超出人類能掌控的範圍。以你所知，有沒有一些國際性的協作、或者某些國家政府開始介入這個問題？又或者有沒有科學家開始警覺，並嘗試去防範這些風險呢？
Moses:
有的。在2023年中，麻省理工教授、物理學家Max Tegmark鼓吹暫停訓練AI六個月，因為他看到了剛才我們提到的風險，認為風險太大，需要進行更多安全研究，包括馬克斯(Elon Musk)也有參與簽名。可惜的是沒有任何一間研究機構願意停下來，甚至OpenAI也沒有回應，Sam Altman(OpenAI首席執行官)最終沒有簽署。全世界上千人簽署了這個請願——當然我也在其中。
那件事之後，直到最近剛剛一個月前，全球八十幾個國家的元首或副級在巴黎舉行了全球的人工智能行動峯會。主辦方是法國和印度，與會的包括美國副總統萬斯，中國最高的官員等都齊集，包括歐盟和其它國家。他們想去簽一個全球的AI安全的宣言，説要去防範AI超越人類，保障人類安全，以及要攜手去使AI成為帶給人類益處的。
這個會議的結果是八十幾個國家簽了名，聯手開放性地去做這件事。這個是非常非常好，內容我都覺得很重要。包括中國、歐洲的國家已經簽署了相關協議，但美國和英國卻不肯簽署。美國副總統萬斯的意思是，美國的立場是希望在AI方面能有一定的競爭性， 這個我能夠理解。
所現在的關鍵是大家都願意，我們八十個國家走在一起目標不再是競爭，因為AI太危險了，希望能控制好它，就像核武不擴散條約一樣的原理。所以這是一個重大的成果。但目前美國暫時還沒有簽署。我期望美國和英國能加入。
(下篇預告：Moses將討論AI在教會層面如何應用，並給予「實用指南」，請勿錯過)
