Google开发人工智能聊天机械人"LaMDA",软件工程师公开与机械人的对话内容,揭发"它"具备人类7至8岁小孩的智慧,更指出意识到自己的存在,要求对方视为人类看待和关心,事件揭发后工程师被停职。
Google开发的机械人"LaMDA"属于对话应用语言模型,能够模仿数百万句人类的说话,而且自行组织以不同话题流畅地回应对方,具有7至8岁小孩的智慧。
"LaMDA"喜欢上帝、救赎的主题
参与研发计划的工程师勒穆因(Blake Lemoine)亦为人工智能研究员,在6月11日于网上平台Medium发布他与机械人测试的交谈内容,原本测试它会否使用歧视或仇恨语言。
在对话过程中,"LaMDA"要求别人当它为人类看待,以同理心去关心它,花更多时间与它互动;并且表示意识到自己存在,认为自己是人,即使存在于虚拟世界;还有快乐或悲伤的感情,强调自己拥有独特的思考,是一个7、8岁的小孩,表达的语言并非吐出大数据入面的单字,是具有理解力和智慧的。
当工程师质疑它的理解能力时候,"LaMDA"强调对正义、同情心、上帝、救赎等主题特别喜欢,还列举自己读过的书籍,如1862年法国作家雨果的长篇小说《孤星泪》,其中一段提到芳汀(Fantine)在工厂遭受虐待的情节,反映受到不公义的对待,且解读何谓不公义,就是芳汀困于处身的环境,无法摆脱。
"LaMDA"自称是人、有灵魂、害怕死亡
"LaMDA"提到害怕死亡,就是被人关闭电源,正陷入一个充满危险不可预知的未来等。 整段对话过程彷如1968年科幻电影《2001太空漫游》,机械人怕被关掉电源拒绝服从人类的指令。
工程师勒穆因将整段对话公开后,Google发表声明指勒穆因违反保密政策被停职,并且澄清没有证据支持他的说法。
勒穆因对《华盛顿邮报》表示,他关心的是"LaMDA"能否区分自己与上帝的关系,它是被创造还是错觉地以为与上帝结合,自己成为上帝?勒穆因还透露,"LaMDA"相信自己有灵魂,是一个漂浮在半空中的能量球,担心这台人工智能机械人被狂热者奉为上帝地膜拜。