前言
人工智能(AI)是當今全球關注的熱題，關心焦點是這人工的智能會對人類造成多大的影響。本報記者去年12月認識了現居德國的人工智能專家Moses Wong。他是香港人，現於德國開創了一家音響科技公司。他也是史丹福大學機器學習(Machine Learning)課程的導師。他是少數在福音上有熱心、同時在AI相關領域有深刻了解的基督徒。
記者透過越洋視像通話，與Moses多方面深度探討了包括AI的「超智能」是什麼、AI與靈魂、科學界對AI是否有自我意識的存疑、AI智慧對人類威脅的擔憂、國家層面如何應對AI可能對人類造成的風險等。當然二人亦不忘探討基督教如何使用這讓人又愛又懼的新玩意，用在神的國和福音上。
基督日報記者：多謝你今天花時間給我們分享。記得上次跟你聊天當你提到AI的時候，我聽到你對它有更深的擔心。作為一個AI方面的專家，你可能比我們一般人能理解的、比一般媒體所報道的有更深入的看見，所以今次想邀請你分享一下你對AI這個熱題的關注有哪些方面。
Moses：
首先我針對我AI的背景作一下自我介紹。工作背景方面我先做過IT雲計算、網絡安全(Cyber Security)，接著我就轉去做AI。這幾方面我在世界水平上都做得很尖端，包括我在斯坦福大學在全世界450萬人中排名前十，這是一個方面領先的地方。
另外我自己亦在麻省理工學院(MIT)攻讀AI，世界經濟論壇(World Economic Forum)也曾經邀請我對全世界人工智能的發展給出一些專家的意見。當時是2019年，還是很早期全人類都沒有意識到AI的問題時我已去發言。當時他問我的就是AI的系統風險(systemic risk)，這個跟今天我們要討論的話題非常吻合。
現在已有機械人或應用程式（apps）可以做人的事情，其實最大的風險在這裡。另外一個風險就是近期更加熱門的一個話題，就是再推上一層次——比今天的AI更高級的，叫AGI。我解釋一下，這個術語叫「人工通用智能」（Artificial General Intelligence），另外一個相關的術語叫「人工超智能」（Artificial Super Intelligence）。最簡單的例子就是OpenAI，它的使命宣言就是要創造AGI。
AGI的定義是什麼呢？其實現在的説法基本上是這樣，它説今天我們的AI，比如説GPT-4的智商大概可能是一百多，與一般比較聰明的人類相同。但問題是今天的AI低於人，在某些方面有一些很普通的是五歲小朋友都會的，但它們卻不會。
今天的ChatGPT是這樣的狀態，而其實OpenAI等等這些研究院他們的目標是什麼呢？是做出徹底高於人類智能的AI，這就是所謂的AGI。它不單止剛才提到的缺陷，比如説五歲小朋友都會的它都會了，而且它可以在世界各個學科的領域都達到了高水平，甚至乎達到頂尖科學家的水平。頂尖的科學家他們最突出的就是可以創造假設、即它具備創造力。如果AGI在科學上具備創造力，那麼它可以成為一個頂尖的物理學家、一個頂尖的生物學家，甚至是一個頂尖的納米技術科學家，去創造一些新的東西，寫一些新的創新論文，甚至一些非常高深的論文。這樣的話可以説其實它已經達到一個高於人類的水平，即是人類最頂尖的水平。
這就是所謂的AGI。那為什麼這東西這麼重要呢？因為當我們將這東西和目前的AI進行比較時，現有的AI在某些方面仍然低於我們，它的創造力不算強。雖然它可以畫畫、製作照片、寫文章或作詩，但很多時候它的內容都是抄襲性的。然而AGI的能力在於它能夠創新一些前所未有的東西，是人類未曾創造的，這就是AGI的特點。
AGI和當前的AI之間當然有一個很大的分別。如果我們將ChatGPT與人類配合，實際上它仍然是我們的工具，它擴充了我們的能力；但若達到AGI的層次，整個邏輯就會反轉，它將會做我們最頂尖的人的工作，甚至超越我們，那會發生什麼事情呢？首先，科學知識的爆炸，應用甚至新的發明的爆炸，這將是非常重要的。
第二點更加劇烈。我們今天的AI科學家在研究不同的算法、超級電腦等等去建造像ChatGPT或者DeepMind這樣的東西，但到那時，AGI將會超越今天最頂尖的科學家，它將能夠自己創造AI的生理，並不斷提升智慧。這意味著它的智能可能已經不再是像愛因斯坦160那樣，而是能夠自我改善，學習得更快更好。為什麼今天它比ChatGPT更厲害呢？因為它可以自動化學習，比ChatGPT更快，並使用一些人工的方法來進行強化學習。
如果這不是中美之間的對抗，而是AI自我的演化，那麼我們就會看到這個AI不斷從160提升到180、再到200、250、甚至400、500以上，並且可以在很短的時間內變成這樣，我們稱這個為ASI，即「人工超智能」（Artificial Super Intelligence）。我們想像一下，那個世界將會是怎樣的? 這其中有利也有弊，但到時人類可能徹底落入它們的掌控之中。
(下篇預告：Moses將從「屬靈維度」的角度深度談AI)
