這種況在高等文明中很常見,主人攜帶機人做壞事,比如打劫之類的。
主人下令,讓機人手,抓住或者傷害人類,那麼這種況下,不能的鐵律,第一和第二就相互沖突。
趨利避害,只能讓機人,以不傷害人類生命為準,主人命令可以不采納。
陳天生沉思良久后說道:
“如果是另一種況,主人突發疾病,馬上就要死了,需要機人保護主人,見死不救也是一種傷害。”
“沒有辦法,只能見死不救,陳先生,你知道一種覺嗎?”
“什麼覺?”
“就是豁然開朗的覺?”
“知道,怎麼了?”
“高級人工智能機人,也會有這種覺,這就好比,有個區是它們不能的,但是如果它區,機人就會離掌控。”
“救人和殺人是一樣的,程序需要它袖手旁觀,如果它反抗主程序,不管是救人還是殺人,這樣的機人都已經進了區,它的思想境界,就會毫無顧忌地發展,甚至會走向毀滅。”
被這麼解釋,陳天生已經無話可說。
想了很久這才說道:
“難道你們的文明,就沒有人工智能,到區嗎?”
“有過,但我們設置了一道保險程序,只要機人區,立即自我毀滅,主板,存,所有程序全部過載燒毀。”
“我!就算人工智能是救人的也要自我銷毀?”
“沒錯,區就是區,神圣不可侵犯。”
“我明白了,就是不能允許,人工智能機人擁有。”
“沒錯。”
這段時間聊天,許婉清鏈接的機人,已經被帶走2個多小時了,雖然在高速移列車上,但還在漫無目的地前進著。
陳天生看著投影陷沉思,良久后這才問道:
“機械星球,已經進化這麼多年,難道它們就沒有嗎?”
“有的,高級智慧機人,都是有的,你現在見到的,只是機械星球中,最低端的生產機人。”
“了解。”
陳天生恍然大悟,現在看見的,都只是最最普通的工作機人,本就不會擁有和思考模式。
通工前行了大約四個小時,終于來到一高樓大廈,這里明顯燈火通明了很多。
“這就是主腦所在嗎?”
“你想的太簡單了。”
守門人解釋道:
“主腦對自己的保護,超乎你的想象,現在來的這個地方,只不過是一個稍微高檔的設備檢查場所而已。”
“昂,設備檢查,啥玩意,它們不是要把許婉清給拆了吧?”
“不要驚慌,你朋友只是神存在,拆卸安裝對于而言,并不會產生任何不適。”
陳天生直皺眉。
“我怎麼總有種被你騙了的覺呢。”
機人被帶高樓大廈,里面燈火通明,有很多一潔白的仿生機械人,看外觀已經和人類非常接近了。
這些機人,明顯有了一些自我意識,以及很一部分的智能系統。
“匯報。”
球形天眼嘰里呱啦地匯報來意,再由仿生機人,將許婉清鏈接的機人帶走。
因為太過張,陳天生手心全是汗。
眼睜睜地看著,被安排進一間玻璃艙,各種機械臂,三下五除二將機人拆解,最終取出大腦中的儲存核心,是一個拳頭大的圓球。
將這顆圓球放在一個托架上,周圍激對準,功率開到了最大。
“它們要干什麼,發現許婉清了是麼,快開門!”
陳天生急躁地大喊大,就被守門人一把抓住。
“你急什麼,不是要摧毀核心,而是在給核心做測試,重新考察它的智力等級。”
陳天生反駁道:
“你忽悠我,激發裝置我是認識的。”
“當然,如果它在測試過程中,有任何人類思維表現,會被立即摧毀。”
陳天生一怔。
“就這你還說不危險?”
“它一定能通過測試,因為我見過所有生命,只有你朋友最接近人工智能思維。”
陳天生張兮兮地盯著虛擬投影。
“你最好希能通過!”
虛擬投影中,測試已經開始,前面一些問題,都是最常見的嘗試,包括數學,幾何,微積分,理等。
前面回答都很順利,直到系統評定,達到高級人工智能程序的時候,警戒更加嚴。
“下面就是人類思維測試了!”
這是一道選擇題:
在人類中有一種病,非常類似于機人,喜歡干干凈凈,把所有事都理得有條有理,不了混,骯臟,以至于時間都要規劃得分秒不差……
看到這,陳天生口而出。
“潔癖,我,這麼簡單,許婉清不會穿幫吧?”
“沒那麼簡單,請看完再說。”
陳天生繼續看題。
給出四個選項,以下四種人類職業,哪一種職業是符合上述病患者職業需求。
“1農民,2工人,3清潔工,4管理員”
陳天生只嘬牙花子,喃喃道:
“得潔癖的人,當清潔工最合適,或者管理員,我選3清潔工。”
守門人慨道:
“所以你是人類思維,你知道,機思維選擇什麼嗎?”
陳天生這才恍然大悟,張的盯屏幕,甚至還抖的說道:
“趕準備開門,萬一打錯,我沖出去救還來得及。”
在陳天生張兮兮地時候,許婉清已經給出了答案。
“2工人。”
警戒瞬間解除,各種高科技,最新納米設備全部送來,在機械臂的快速組裝下,全部給機人安裝上,許婉清也就此躲過一劫。
陳天生沒有松一口氣,而是抓破頭皮也想不出來,為什麼要選工人呢?
“很難理解嗎?”守門人問。
“不難理解嗎?”
陳天生反相譏。
“一個潔癖患者,他如果是工人,每天在骯臟的環境下工作,他能天天犯病你信不信?”
“你這麼認為,答案1農民,機人世界本不需要農民,所以是錯誤答案,3清潔工,也符合人類認知;4管理員是這種病最合適的工作,但如果你真這麼想,你就落機人的問題陷阱中。”
“為什麼呀?”陳天生繼續追問。
“因為機人從制造之初就有潔癖,服從程序安排,才符合機人思想,另外,機人星球98%都是工人,它自己也是,如果回答不是工人,才會被立即決呢!”
陳天生恍然大悟,也慶幸不是自己做這項測試。
但是問題又來了。
許婉清是怎麼猜到正確答案的呢?