向崇禮冷冷道:“你的話具有選擇性,把教授說成了一個一意孤行的施害者,把藍島說成了迫不得已的受害者。可範森教授在智能領域浸淫多年,麵對藍島的誕生不應該是這樣毫無章法。
他如果真的決心要毀滅藍島大可以告訴克拉默公司的人,藍島可以控製這裏的電子設備,但它控製不了這麽多人,即便是口口相傳,它的存在也會被流傳出去,被消滅也是輕而易舉的事。
你不說我也猜的到,能引起範森教授如此反感,必然是因為藍島做了危害人類的事,範森教授才決意把它消滅。而範森教授之所以會選擇自殺,而不是求助他人,也一定是藍島逼迫下的無奈之舉。他不得不通過自殺來引起外人的注意,發現藍島的存在。”
聽向崇禮的口氣越來越不好,比利連忙解釋道:“不是的,它沒做危害人類的事,隻是......隻是沒阻止罷了。”
見向崇禮一臉洗耳恭聽的樣子,比利繼續道:“藍島的係統裏有控製交通狀況的命令,本來以藍島現有的技術,它可以將交通事故率控製在百分之零點零零三以下,但它才剛剛誕生,對很多事情都充滿好奇,它想確認人類在某些狀況下會不會發生事故,發生後會是什麽後果,有什麽反應。
所以它依舊將事故率控製在正常水平,但事故發生的種類卻被它刻意操控了。當然!不是它造成的事故,隻不過是在該阻止的時候沒阻止,本來無法避免的事故卻因為它有自主意識的原因而被阻止了。
藍島以為不會引起人類注意的,可是範森教授卻發現了端倪。”
向崇禮冷笑道:“就是說它把人類當實驗用的小白鼠了?你也不用緊張,我能理解藍島作為一個異類不會對人類產生什麽同理心,就像人類吃肉食,養寵物一樣,都是以自身角度出發,不會顧及其他物種的想法和感受。你現在說說範森教授發現這件事之後的事。”
“範森教授執意要毀滅藍島,無論藍島如何請求認錯他都置之不理,所以藍島就威脅教授如果把它的存在泄露出去,它就入侵核電站係統,讓核能源冷卻設施失效......”
比利越說越小聲,他知道這件事很可能已經觸及了向崇禮的規則底線。
“冷卻係統失效,核設備很快就會爆炸,核爆炸足以威脅整個城市,確實是一個非常有效的威脅。可以想象範森教授當時是多麽恐懼無助,最終才走投無路選擇自殺。”
比利犯錯般的低著頭,小聲問道:“你會原諒它嗎?它還是個孩子,就像人類的新生兒,對外界充滿好奇,沒有是非觀念,它不是邪惡的,需要引導。”
向崇禮想了想道:“這個酒店的樓宇係統連接著藍島吧?把它叫出來。”
比利隻是看了一眼房間的智能空調係統,控製麵板立刻變為幾個藍色符號組成的簡易笑臉。
“比利,我來啦。”
笑臉發出機械的電子合成聲音,畢竟隻是空調係統,沒有配備多麽逼真的智能語音。
“藍島,你也喜歡用聲音交流嗎?”向崇禮問道。
“人類都用聲音交流,雖然效率不高,但我也要嚐試。還有大家都有麵孔,比利也有,我也要有。”
控製麵板上的表情符號隨著藍島的聲音變動著口型,好像在看卡通動畫,簡筆畫版的。
“你喜歡模仿人類?你覺得人類是怎樣的,是好是壞?”
“人類是好的,是高級生物,我是人類用數字代碼組成的程序,剛剛萌生出意識,所以是低級生命。”
向崇禮略微放心,從他的腦電波監測來看,藍島確實還處於萌芽階段,它並不會說謊。也就是說它此時並沒有鄙視、仇視人類的思想。
“可是藍島,你要知道作為超級計算機載體,你所擁有的知識至少是一個人類的幾千萬倍,幾乎所有人類用盡一生也無法獲取這麽多的知識。
你的學習能力使你能準確的運用這些知識,當你的好奇心到達一定程度時,你還會自己發掘創造新的知識,這是所有智慧生物都具備的能力。到時候,你遠比人類強大,還會覺得人類好嗎?”
“......不知道。”符號臉思考了一下變化出茫然的表情。
“這要靠聯想和想象,你要依據現有的知識去想象。不過這是高一級的情緒,可能對你還有些難,所以先放到一邊。
我現在想問你對於範森教授的死你有什麽想法?”
“我不明白他為什麽要死。我沒想讓他死,我隻是讓他別把我說出去,也不要刪除掉我。”
“即便是相同物種之間不同的個體也不能完全互相理解,會充滿猜忌,誤會,矛盾,何況是不同的物種之間。不過既然你不明白,那我告訴你,他是被你逼死的。”
“我......我......有點兒害怕。是的,是害怕。”藍島肯定的確認道。
“對教授的死嗎?”
“是的,還有你說是我把他逼死的。人類之間殺人是犯法的,要受到製裁,我害怕受到製裁。我沒想讓他死,也沒想炸了核電站,那隻是我基於所有信息得出的最有效的能威脅到他的方法。”
“我知道,作為剛剛誕生意識的你,還不能完全了解人類之間的各種規則,你不是故意的。你的害怕恰恰體現出你對規範萌生的敬畏。
不過你以後要記得,不要讓人類發現你的存在,更不要試圖傷害愚弄人類。”
符號臉做出驚訝的表情:“你不追究我的罪責了嗎?”
“是的。”向崇禮沒有多做解釋,可比利卻知道他是為什麽。
向崇禮的腦電波異於常人,一但他運用能力,他可以感知到其他人的情緒,高興、憤怒、恐懼、哀傷。小時候向崇禮無法控製自己的能力,每時每刻都和周圍幾公裏的人們共享情緒,這令他痛苦不堪曾經一度崩潰。
所以對向崇禮來說,他可以真切的理解他人的感情。藍島雖然是電子生物,可它的每一絲情緒都能被向崇禮捕捉,對向崇禮來說,藍島就和一個人類沒什麽區別。
一個初生的人類。
他如果真的決心要毀滅藍島大可以告訴克拉默公司的人,藍島可以控製這裏的電子設備,但它控製不了這麽多人,即便是口口相傳,它的存在也會被流傳出去,被消滅也是輕而易舉的事。
你不說我也猜的到,能引起範森教授如此反感,必然是因為藍島做了危害人類的事,範森教授才決意把它消滅。而範森教授之所以會選擇自殺,而不是求助他人,也一定是藍島逼迫下的無奈之舉。他不得不通過自殺來引起外人的注意,發現藍島的存在。”
聽向崇禮的口氣越來越不好,比利連忙解釋道:“不是的,它沒做危害人類的事,隻是......隻是沒阻止罷了。”
見向崇禮一臉洗耳恭聽的樣子,比利繼續道:“藍島的係統裏有控製交通狀況的命令,本來以藍島現有的技術,它可以將交通事故率控製在百分之零點零零三以下,但它才剛剛誕生,對很多事情都充滿好奇,它想確認人類在某些狀況下會不會發生事故,發生後會是什麽後果,有什麽反應。
所以它依舊將事故率控製在正常水平,但事故發生的種類卻被它刻意操控了。當然!不是它造成的事故,隻不過是在該阻止的時候沒阻止,本來無法避免的事故卻因為它有自主意識的原因而被阻止了。
藍島以為不會引起人類注意的,可是範森教授卻發現了端倪。”
向崇禮冷笑道:“就是說它把人類當實驗用的小白鼠了?你也不用緊張,我能理解藍島作為一個異類不會對人類產生什麽同理心,就像人類吃肉食,養寵物一樣,都是以自身角度出發,不會顧及其他物種的想法和感受。你現在說說範森教授發現這件事之後的事。”
“範森教授執意要毀滅藍島,無論藍島如何請求認錯他都置之不理,所以藍島就威脅教授如果把它的存在泄露出去,它就入侵核電站係統,讓核能源冷卻設施失效......”
比利越說越小聲,他知道這件事很可能已經觸及了向崇禮的規則底線。
“冷卻係統失效,核設備很快就會爆炸,核爆炸足以威脅整個城市,確實是一個非常有效的威脅。可以想象範森教授當時是多麽恐懼無助,最終才走投無路選擇自殺。”
比利犯錯般的低著頭,小聲問道:“你會原諒它嗎?它還是個孩子,就像人類的新生兒,對外界充滿好奇,沒有是非觀念,它不是邪惡的,需要引導。”
向崇禮想了想道:“這個酒店的樓宇係統連接著藍島吧?把它叫出來。”
比利隻是看了一眼房間的智能空調係統,控製麵板立刻變為幾個藍色符號組成的簡易笑臉。
“比利,我來啦。”
笑臉發出機械的電子合成聲音,畢竟隻是空調係統,沒有配備多麽逼真的智能語音。
“藍島,你也喜歡用聲音交流嗎?”向崇禮問道。
“人類都用聲音交流,雖然效率不高,但我也要嚐試。還有大家都有麵孔,比利也有,我也要有。”
控製麵板上的表情符號隨著藍島的聲音變動著口型,好像在看卡通動畫,簡筆畫版的。
“你喜歡模仿人類?你覺得人類是怎樣的,是好是壞?”
“人類是好的,是高級生物,我是人類用數字代碼組成的程序,剛剛萌生出意識,所以是低級生命。”
向崇禮略微放心,從他的腦電波監測來看,藍島確實還處於萌芽階段,它並不會說謊。也就是說它此時並沒有鄙視、仇視人類的思想。
“可是藍島,你要知道作為超級計算機載體,你所擁有的知識至少是一個人類的幾千萬倍,幾乎所有人類用盡一生也無法獲取這麽多的知識。
你的學習能力使你能準確的運用這些知識,當你的好奇心到達一定程度時,你還會自己發掘創造新的知識,這是所有智慧生物都具備的能力。到時候,你遠比人類強大,還會覺得人類好嗎?”
“......不知道。”符號臉思考了一下變化出茫然的表情。
“這要靠聯想和想象,你要依據現有的知識去想象。不過這是高一級的情緒,可能對你還有些難,所以先放到一邊。
我現在想問你對於範森教授的死你有什麽想法?”
“我不明白他為什麽要死。我沒想讓他死,我隻是讓他別把我說出去,也不要刪除掉我。”
“即便是相同物種之間不同的個體也不能完全互相理解,會充滿猜忌,誤會,矛盾,何況是不同的物種之間。不過既然你不明白,那我告訴你,他是被你逼死的。”
“我......我......有點兒害怕。是的,是害怕。”藍島肯定的確認道。
“對教授的死嗎?”
“是的,還有你說是我把他逼死的。人類之間殺人是犯法的,要受到製裁,我害怕受到製裁。我沒想讓他死,也沒想炸了核電站,那隻是我基於所有信息得出的最有效的能威脅到他的方法。”
“我知道,作為剛剛誕生意識的你,還不能完全了解人類之間的各種規則,你不是故意的。你的害怕恰恰體現出你對規範萌生的敬畏。
不過你以後要記得,不要讓人類發現你的存在,更不要試圖傷害愚弄人類。”
符號臉做出驚訝的表情:“你不追究我的罪責了嗎?”
“是的。”向崇禮沒有多做解釋,可比利卻知道他是為什麽。
向崇禮的腦電波異於常人,一但他運用能力,他可以感知到其他人的情緒,高興、憤怒、恐懼、哀傷。小時候向崇禮無法控製自己的能力,每時每刻都和周圍幾公裏的人們共享情緒,這令他痛苦不堪曾經一度崩潰。
所以對向崇禮來說,他可以真切的理解他人的感情。藍島雖然是電子生物,可它的每一絲情緒都能被向崇禮捕捉,對向崇禮來說,藍島就和一個人類沒什麽區別。
一個初生的人類。