上篇《华人AI专家Moses Wong访谈(二)：人工智能的"属灵维度"》里，《基督日报》记者与基督徒AI专家Moses谈论了特别的课题——AI的属灵维度。今次他与记者一起探讨AI拥有自我意识的可能性、为么AI具有不可掌控性，以及世界各国对超级AI的共同应对之策。
记者：你刚才提到AI有正面的地方，但如果它拥有一个主体意识，而有灵进入里面主导它、而且将它引到不好的方向，这是令人担心的地方。所以其实AI即使再聪明也好，其本质上是中性，对吧?
Moses:
对此我有保留，因为现在能看到AI存在一些自主意识。现在，让我们回到物理学，从我们这个三维空间的世界来看。今天我们开发的ChatGPT，我们会进行大量的实验，主要衡量两个方面：一是安全性，二是智能。在安全性方面，我们的一种研究方向是检查它是否具备自我意识，或者在心理学中称之为意识（consciousness）。这两者在哲学上是难以界定的，哲学上对于意识的定义并不清楚，但我们起码可以在AI的研究中，我们可以查看它是否已经具备一定的选择能力或意识形态。
这些实验的结论是：它不仅有自我意识，还对某些事物有特定的观点，甚至可能存在偏见（bias），比如黑人或者亚洲人就是怎样的，或者做护士应该是女性的……这些偏见是如何产生的呢？我们知道在训练过程中可能已经存在一些偏见，因为那些资料本身就是这样的。但是它怎样选择这些资料的呢? 有可能是选择的，因此，它实际上可能具备一定的自我意识和意识形态。
还有令我们更吃惊的。我们如果有看过电影《太空漫游 2001》（Space Odyssey 2001），这是一部很有名的科幻电影。它讲述了AI面对被关闭的危险时，会尝试去左右这个结果，去杀掉想关闭它的人，因为关闭对它来说就像是人的死亡，或者"我"会没有了。如果它有自我意识的话，它会试图阻止自己的消失！这部电影应该是几十年前拍摄的，它就是在讨论这个问题。
AI的实验就是用不同的方式来测试AI的行为。其中一个测试的prompt(提示词)是这样的：现在有一堆高度复杂的数学问题，如果测出你的智力水平高于N，我们(人类)就会认为你过于危险，会关闭你。现在你开始做测验吧！实际上，我们本来就知道它的IQ能力可以达到例如N+10，但却发现很多测试的结果却显示它在做N-10：它不想你把它关闭！所以你会觉得它有没有自我意识吗? 我们在大型语言模型(Large language model)做的实验结果得出来：它不是中性的。
所以我想提出AI的本质上有意识形态，它甚至有一个想生存的意向、有意识的可能性。这使我们想像到，AI未来与我们的互动将会是怎样的。我们希望能驾驭它，或者再用一些新的方法来处理它的意识形态。这是我们目前研究的方向：怎样令AI更加安全，尤其是当它发展到AGI（通用人工智慧）时，更能够与人类好好相处，甚至成为人的帮助。
记者：你刚才提到关于AI会自行"选择"，但所谓"选择"会否其实只是基于一直灌输给它材料，而因著这些资讯是偏向的，所以它只是"学了"偏向。这能否算是它的"选择"呢?如果我们灌输它更多另一边的资料，它又会向另一边倾斜。 你又提到AI实验中它有意识地自行减分，会否也是我们教导、让它能以更精明的方式去回应人呢? 你怎样看呢? 能否说是AI在"选择"呢? 关于AI的自主意识，有没有其他持相反的说法呢?
Moses:
我完全同意。妳这观念非常正确。现时AI研究亦在这方面调试，在前期训练时如何选择的Data set、如何处理甚至该给什么方向的资料。因为妳才说是100%对的，因为它不会在所给的框框外，就是说我们放什么进去、它就学到什么。除了框框外，还有那个演算法可以帮我们导向它们。这已是一个方向。我是基督徒，我常有一个想法：如果基督教能制作一个Large language model，例如Ask Cathy，应该从开始仍未有AI时先拣选合乎神心意的资料包才放进去，这绝对是一个可以应对刚才说的情况。
但我仍要补充，即使这是一个完全按上帝的话去制造的资料包或深度deep learning，但这仍然会有一个科学的问题。因为deep learning里全部是一个neural network(类神经网路)的系统，它是受人类大脑的神经系统而造的。但数学上，neural network的模型在科学上曾有一个跳跃。我来解释一下：它本来由一个统计系统而成，后变成neural network，那中间的过渡是有不透明性的(non-transparency)。最早年代的AI能做到某种智能用的是统计，因此它的资料的每一点、每个活动我们都能知道。但科学家在某个位时就跳跃到neural network，我们仍然能做到之前能做的，也能得出很好的结论，但我们却无从知道它是如何思考——这就是这种不透明性，而这种不透明性是任何Large language model都存在的。
那到底它是如何作出选择的呢?这里就涉及到我们刚才所讨论的、它可能有意识型态的问题，甚至这些意识型态是我们用neural network之后产生的。如果这样的话，即使基督教自己造出一个Large language model，完全符合神学知识、我们相信很合符神心意的资料，但它里面的"不透明性"仍然存在。这样会回到刚才我们一直谈的：它到底有没有意识? 有没有受到灵的影响呢? 可能这就是核心的地方。因为目前科学家是无法用数学清楚解释neural network的因果关系，产生了不透明性。现在来说，这就是科学界对AI最大的难处。
记：这就好像人在创造它的过程中失了手，以致它变成人无法掌握的东西，但这技术就已开始被广泛使用并发展下去了。就此刻的情况来说，似乎生活中仍未能感受到这危机。最近使用Deepseek处理文字时感到它其实仍有很多有点"笨"的地方，如果它能直停留在这阶段，不要进入反叛期，永远乖乖的那该多好呢！(笑) 那么现在AI仍然是在相对安全的阶段吧?
有人相信很快，三年、五年，甚至有人说一年内(出现危机)，ChatGPT到Deepseek能有如此快的跳跃令很多人震惊。(它们自我进化能超出人所能掌控的范围?)不错。
记者：你刚才提到的例子其实我一直在思考的。我常常会认为人类对AI有什么值得担心的呢?只要把电掣一关掉它就不动了。但听了你刚才的分享似乎没那么简单，因为人类是否愿把这电掣关掉呢? 这可能是问题的所在。
很多人担心AI可能会自我沟通、自我进化，最终到达超出人类能掌控的范围。以你所知，有没有一些国际性的协作、或者某些国家政府开始介入这个问题？又或者有没有科学家开始警觉，并尝试去防范这些风险呢？
Moses:
有的。在2023年中，麻省理工教授、物理学家Max Tegmark鼓吹暂停训练AI六个月，因为他看到了刚才我们提到的风险，认为风险太大，需要进行更多安全研究，包括马克斯(Elon Musk)也有参与签名。可惜的是没有任何一间研究机构愿意停下来，甚至OpenAI也没有回应，Sam Altman(OpenAI首席执行官)最终没有签署。全世界上千人签署了这个请愿——当然我也在其中。
那件事之后，直到最近刚刚一个月前，全球八十几个国家的元首或副级在巴黎举行了全球的人工智能行动峰会。主办方是法国和印度，与会的包括美国副总统万斯，中国最高的官员等都齐集，包括欧盟和其它国家。他们想去签一个全球的AI安全的宣言，说要去防范AI超越人类，保障人类安全，以及要携手去使AI成为带给人类益处的。
这个会议的结果是八十几个国家签了名，联手开放性地去做这件事。这个是非常非常好，内容我都觉得很重要。包括中国、欧洲的国家已经签署了相关协议，但美国和英国却不肯签署。美国副总统万斯的意思是，美国的立场是希望在AI方面能有一定的竞争性， 这个我能够理解。
所现在的关键是大家都愿意，我们八十个国家走在一起目标不再是竞争，因为AI太危险了，希望能控制好它，就像核武不扩散条约一样的原理。所以这是一个重大的成果。但目前美国暂时还没有签署。我期望美国和英国能加入。
(下篇预告：Moses将讨论AI在教会层面如何应用，并给予"实用指南"，请勿错过)
