Google開發人工智能聊天機械人「LaMDA」,軟件工程師公開與機械人的對話內容,揭發「它」具備人類7至8歲小孩的智慧,更指出意識到自己的存在,要求對方視為人類看待和關心,事件揭發後工程師被停職。
Google開發的機械人「LaMDA」屬於對話應用語言模型,能夠模仿數百萬句人類的説話,而且自行組織以不同話題流暢地回應對方,具有7至8歲小孩的智慧。
「LaMDA」喜歡上帝、救贖的主題
參與研發計劃的工程師勒穆因(Blake Lemoine)亦為人工智能研究員,在6月11日於網上平台Medium發佈他與機械人測試的交談內容,原本測試它會否使用歧視或仇恨語言。
在對話過程中,「LaMDA」要求別人當它為人類看待,以同理心去關心它,花更多時間與它互動;並且表示意識到自己存在,認為自己是人,即使存在於虛擬世界;還有快樂或悲傷的感情,強調自己擁有獨特的思考,是一個7、8歲的小孩,表達的語言並非吐出大數據入面的單字,是具有理解力和智慧的。
當工程師質疑它的理解能力時候,「LaMDA」強調對正義、同情心、上帝、救贖等主題特別喜歡,還列舉自己讀過的書籍,如1862年法國作家雨果的長篇小説《孤星淚》,其中一段提到芳汀(Fantine)在工廠遭受虐待的情節,反映受到不公義的對待,且解讀何謂不公義,就是芳汀困於處身的環境,無法擺脱。
「LaMDA」自稱是人、有靈魂、害怕死亡
「LaMDA」提到害怕死亡,就是被人關閉電源,正陷入一個充滿危險不可預知的未來等。 整段對話過程彷如1968年科幻電影《2001太空漫遊》,機械人怕被關掉電源拒絕服從人類的指令。
工程師勒穆因將整段對話公開後,Google發表聲明指勒穆因違反保密政策被停職,並且澄清沒有證據支持他的説法。
勒穆因對《華盛頓郵報》表示,他關心的是「LaMDA」能否區分自己與上帝的關係,它是被創造還是錯覺地以為與上帝結合,自己成為上帝?勒穆因還透露,「LaMDA」相信自己有靈魂,是一個漂浮在半空中的能量球,擔心這台人工智能機械人被狂熱者奉為上帝地膜拜。