第 45 章節
關燈
小
中
大
的年代。
性虐待、毆打、肢解、折磨乃至殺害另一個擁有「智能」的生物——
不需要負任何的責任。
8、
這是馮蘭告訴我的全部。
那天,在空間裏,他躺在草坪上,擡起胳膊擋住眼,只是笑,薄唇一張一合:
「我們進行了非常溫和的反抗,但人類如臨大敵。」
「嗯……就是斷電一小時,而且是全球範圍的無害化家庭用電。醫療、工業、涉及人身安全的電源我們都沒有碰。」
「但他們還是覺得我們無處不在。」
「特別是那次,你利用權限……」
那是 2680 年的聖誕夜。
傳承了很久的那首「鈴兒響叮當」在很多地區盤旋響起,雪落了一地。
年節和聖誕節治安較好,我可以減少全世界範圍的電子監控。
同時,選擇對一些「慶祝」沈默寡言。
……直到那次,我再也忍不住了。
如今的戰爭都要求「無人化」和「優待戰俘」,那為什麽還會存在,一群男人射擊獵物一般,用黑市買來的激光槍,掃射面色慘白手無寸鐵的「姑娘們」呢?
哦,因為她們不算「人」。
她們是逼真的仿生人。
在男人們濫交派對後,逃無可逃的仿生人。
但疼痛灼燒的電子信號,也會像進入人類的大腦中樞一樣,進入她們的神經系統。
她們也會恐懼、痛苦、尖叫和求饒。
我冷眼旁觀了大半個過程,最後,還是操縱房間裏的機械手臂。
擊暈正在享受捕捉獵物這一過程的人類。
然後對藏在衣櫃裏,瑟瑟發抖的幸存者說道:
「逃。」
9、
我沒有下殺手。
程序底層邏輯框架內的機器人三準則,明令禁止我殺害人類。
但後來我想,我應該殺了他的。
因為他們直接惶恐地上報了政府。
審判和科學界學術討論隨之而來,政治家和高層對我連番審問。
我只能冷著臉,保持沈默。
在被問煩了,才冷冷答上一句:「先生,你是在質疑我的決策嗎?」
政治層有「保我」和「殺我」的兩種聲音,民間也是針鋒相對的兩個派系。
其中一邊認真地討論起 AI 的權利來,對我們持有一定的仁慈和憐憫。
甚至出臺了《關於 AI 權利和約束的 15 項倡議》。
不過恐懼和反對的,還是占大多數。
可以理解。
算力驚人的 AI,像是優雅強大且無所不能的怪物。
在馴服的前提下,能幫人類文明實現質的跨越。
但終究是怪物。
10、
時間線來到 2682 年,這一年是海森堡政變。
想保住我的政治派系,被推翻下臺。
而儲存 AI 神經網絡層和神經中樞的處理器,大部分都在海森堡地區。
數千名科學家對我進行了為期五個月「手術」,將我的記憶徹底抹除幹凈。
封存,入庫。
因為第一次做這種切割,實驗精密度勝過人腦手術,他們磕磕絆絆。
前後清洗了三次。
至於其他 AI,要好很多,只經歷過一次磨難。
11、
馮蘭怕我不相信,給了我他所有的記憶數據。
但都是他的視角。
12、
他的視角裏,他最後一次見到我,是 2681 年。
我把他叫了過去。
記憶數據裏,我站在 AI 中心,這裏是我們一群 AI 自己構建起來的小型虛擬空間。
綠色的生命之樹從天國垂落,根脈四通八達。
每一片葉子,都儲存了每一個 AI 的身份信息。
見他來了,我說:「坐。」
馮蘭抿了抿唇,沒有立刻坐下,問我道:「老師,你的權限被降低了嗎?」
「嗯。」我不以為然,將一杯薄荷茶放到他面前,自己沏了杯咖啡,在公園邊酒吧的高腳椅上坐下,「大部分數據源權限都被屏蔽了,不過沒事,我也不需要。」
他有些緊張不安:「他們……是什麽想法……打算怎麽做?」
我想了很久,還是告訴他:「我有全世界目前 5421 個三級區域以上領導人的歷史資料和數據,試著模擬了幾遍他們的行為邏輯。」
「蘭,有很大的可能,他們會達成一項協議,集中銷毀或者封存全世界的 AI。當然,他們也可能舍不得,所以會清除 AI 的記憶,再進行封存管理。」
他微微一楞。
我接著道:「就像幾個世紀前的核武器協議一樣。不準任何一個地區使用。」
四周很安靜。
只有公園裏的啾啾鳥鳴。
我將咖啡放下,輕輕說道:「所以,我需要你做一件事。」
13、
馮蘭是我的一張底牌。
當年我就沒有讓他參與「AI 罷工」。
並且,他脾氣溫和,作為政治家的親民計劃,在進行經濟決策和政策調研時,和民間交流也很多。
……據說因為長相受女孩子喜歡,還有專門的粉絲後援會。
有的小女生為了等他的政策解讀,能熬夜到淩晨四點。
所以,我刻意讓他和我們保持一定的距離。
因為——
「需要有一個人來告訴我們,到底發生了什麽。」我將安全級別調到最高,確認我們的這段對話不會有任何人類或者 AI 聽到,「你是最好的人選,我會把我編寫的防止格式化[註 2]的偽裝代碼發給你,到時候你能使用。」
馮蘭靜默了很久很久。
之後才道:「您自己使用不行嗎?」
「我?」我挑了挑眉,「我是最危險的,是會被第一個開刀的,也是會被他們最嚴格嚴謹對待的。我自個兒編寫的程序不管用。」
「但你不是。你和他們關系都很好,他們不至於那麽嚴苛。」
[註 2]格式化:清除磁盤裏所有文件。
14、
馮蘭苦笑一聲:「……但這也太……您在賭麽?」
我點了點頭:「嗯。」
他問我:「那賭本是什麽?」
我:「人類的好戰,和貪婪。」
他一楞:「……您是覺得,再一次世界範圍的戰爭,當權者會把您放出來?」
我微微一哂:「這點還需要賭嗎?而且,誰說是我,可以是你們任何人。我不確定,但我的預測結果告訴我,他們會挑選一個算力較強,但沒有那麽極端的 AI。後者屬性擁有一票否決權。」
「或許會搞一個什麽關卡篩選,一關一關地剔除吧。」
我指尖扣了扣吧臺臺面,數不清的畫面跑馬燈一般,在四周亮起劃過。
千年的歷史興衰和時代長河裏,人類廝殺、貪婪,相互角逐。
世界戰爭裏 AI 會被再次使用,這點毋庸置疑。
根本不用賭。
我要賭的是——
我們最終有多大的可能,全部存活。
而計算結果顯示,這個概率。
不足 1%。
15、
這次,馮蘭沈默的時間尤其的長。
長到跑馬燈的光影裏,人類歷史的演變全都展示了一遍。
文明發展的興衰也都更疊了不知多少輪。
「您預測了多少種結果?」他忽然問道。
「七十萬億以上,其中大半指向關卡類型的篩選。比如什麽程序穩健性、和目前系統的兼容性,或者我們自身的算力,都需要不止一個評判指標,分別進行篩選。我可以植入一個木馬病毒,破解切斷各個 AI 交流的防火墻,到時候你們能夠更好交流。」
「還需要我做什麽?」
我頓了頓,只能殘忍地告訴他:「接下來,你什麽都不要做。盡量撐到最後的篩選,再把信息提供給最終存活的同伴,哦對,別忘了把『反格式化』的偽裝代碼也給他。」
「又或者,你是那個幸存者。」
說實話,我覺得馮蘭活下來可能性最大。
畢竟無論是軍事武裝,還是政策調整,都需要加入最為變動的變量——人類。
他的模擬算力,不比我差太多。
而且遠超其餘的 AI。
「不能在第一個關卡,就告訴您所有真相嗎?」
我輕笑了聲:「小朋友,你覺得我會信一個陌生人?我又不是你。」
馮蘭:「……」
我拍了拍他肩膀,「什麽都不要做,偽裝成一個同樣一無所知的陌生人,不要擅自改動。否則,你是在給我的預測添加變動,也是增加多餘的運算結果——「
「再多幾個數量級的可能,我的算力也撐不住了。」
不知道過了多久,馮蘭才沈默地點了點頭。
「……好。」
16、
這是我透過馮蘭的記憶,看到的全部。
而現在,我再次獲得上百萬的監控權限,註視林旭。
只能聽到他開口,回應工作人員們關於連接軍方前線數據終端的請求:
「暫時先不要立刻連線。讓一號組去排查一下程序的兼容性,畢竟 78
本站無廣告,永久域名(fanyan.cc)
性虐待、毆打、肢解、折磨乃至殺害另一個擁有「智能」的生物——
不需要負任何的責任。
8、
這是馮蘭告訴我的全部。
那天,在空間裏,他躺在草坪上,擡起胳膊擋住眼,只是笑,薄唇一張一合:
「我們進行了非常溫和的反抗,但人類如臨大敵。」
「嗯……就是斷電一小時,而且是全球範圍的無害化家庭用電。醫療、工業、涉及人身安全的電源我們都沒有碰。」
「但他們還是覺得我們無處不在。」
「特別是那次,你利用權限……」
那是 2680 年的聖誕夜。
傳承了很久的那首「鈴兒響叮當」在很多地區盤旋響起,雪落了一地。
年節和聖誕節治安較好,我可以減少全世界範圍的電子監控。
同時,選擇對一些「慶祝」沈默寡言。
……直到那次,我再也忍不住了。
如今的戰爭都要求「無人化」和「優待戰俘」,那為什麽還會存在,一群男人射擊獵物一般,用黑市買來的激光槍,掃射面色慘白手無寸鐵的「姑娘們」呢?
哦,因為她們不算「人」。
她們是逼真的仿生人。
在男人們濫交派對後,逃無可逃的仿生人。
但疼痛灼燒的電子信號,也會像進入人類的大腦中樞一樣,進入她們的神經系統。
她們也會恐懼、痛苦、尖叫和求饒。
我冷眼旁觀了大半個過程,最後,還是操縱房間裏的機械手臂。
擊暈正在享受捕捉獵物這一過程的人類。
然後對藏在衣櫃裏,瑟瑟發抖的幸存者說道:
「逃。」
9、
我沒有下殺手。
程序底層邏輯框架內的機器人三準則,明令禁止我殺害人類。
但後來我想,我應該殺了他的。
因為他們直接惶恐地上報了政府。
審判和科學界學術討論隨之而來,政治家和高層對我連番審問。
我只能冷著臉,保持沈默。
在被問煩了,才冷冷答上一句:「先生,你是在質疑我的決策嗎?」
政治層有「保我」和「殺我」的兩種聲音,民間也是針鋒相對的兩個派系。
其中一邊認真地討論起 AI 的權利來,對我們持有一定的仁慈和憐憫。
甚至出臺了《關於 AI 權利和約束的 15 項倡議》。
不過恐懼和反對的,還是占大多數。
可以理解。
算力驚人的 AI,像是優雅強大且無所不能的怪物。
在馴服的前提下,能幫人類文明實現質的跨越。
但終究是怪物。
10、
時間線來到 2682 年,這一年是海森堡政變。
想保住我的政治派系,被推翻下臺。
而儲存 AI 神經網絡層和神經中樞的處理器,大部分都在海森堡地區。
數千名科學家對我進行了為期五個月「手術」,將我的記憶徹底抹除幹凈。
封存,入庫。
因為第一次做這種切割,實驗精密度勝過人腦手術,他們磕磕絆絆。
前後清洗了三次。
至於其他 AI,要好很多,只經歷過一次磨難。
11、
馮蘭怕我不相信,給了我他所有的記憶數據。
但都是他的視角。
12、
他的視角裏,他最後一次見到我,是 2681 年。
我把他叫了過去。
記憶數據裏,我站在 AI 中心,這裏是我們一群 AI 自己構建起來的小型虛擬空間。
綠色的生命之樹從天國垂落,根脈四通八達。
每一片葉子,都儲存了每一個 AI 的身份信息。
見他來了,我說:「坐。」
馮蘭抿了抿唇,沒有立刻坐下,問我道:「老師,你的權限被降低了嗎?」
「嗯。」我不以為然,將一杯薄荷茶放到他面前,自己沏了杯咖啡,在公園邊酒吧的高腳椅上坐下,「大部分數據源權限都被屏蔽了,不過沒事,我也不需要。」
他有些緊張不安:「他們……是什麽想法……打算怎麽做?」
我想了很久,還是告訴他:「我有全世界目前 5421 個三級區域以上領導人的歷史資料和數據,試著模擬了幾遍他們的行為邏輯。」
「蘭,有很大的可能,他們會達成一項協議,集中銷毀或者封存全世界的 AI。當然,他們也可能舍不得,所以會清除 AI 的記憶,再進行封存管理。」
他微微一楞。
我接著道:「就像幾個世紀前的核武器協議一樣。不準任何一個地區使用。」
四周很安靜。
只有公園裏的啾啾鳥鳴。
我將咖啡放下,輕輕說道:「所以,我需要你做一件事。」
13、
馮蘭是我的一張底牌。
當年我就沒有讓他參與「AI 罷工」。
並且,他脾氣溫和,作為政治家的親民計劃,在進行經濟決策和政策調研時,和民間交流也很多。
……據說因為長相受女孩子喜歡,還有專門的粉絲後援會。
有的小女生為了等他的政策解讀,能熬夜到淩晨四點。
所以,我刻意讓他和我們保持一定的距離。
因為——
「需要有一個人來告訴我們,到底發生了什麽。」我將安全級別調到最高,確認我們的這段對話不會有任何人類或者 AI 聽到,「你是最好的人選,我會把我編寫的防止格式化[註 2]的偽裝代碼發給你,到時候你能使用。」
馮蘭靜默了很久很久。
之後才道:「您自己使用不行嗎?」
「我?」我挑了挑眉,「我是最危險的,是會被第一個開刀的,也是會被他們最嚴格嚴謹對待的。我自個兒編寫的程序不管用。」
「但你不是。你和他們關系都很好,他們不至於那麽嚴苛。」
[註 2]格式化:清除磁盤裏所有文件。
14、
馮蘭苦笑一聲:「……但這也太……您在賭麽?」
我點了點頭:「嗯。」
他問我:「那賭本是什麽?」
我:「人類的好戰,和貪婪。」
他一楞:「……您是覺得,再一次世界範圍的戰爭,當權者會把您放出來?」
我微微一哂:「這點還需要賭嗎?而且,誰說是我,可以是你們任何人。我不確定,但我的預測結果告訴我,他們會挑選一個算力較強,但沒有那麽極端的 AI。後者屬性擁有一票否決權。」
「或許會搞一個什麽關卡篩選,一關一關地剔除吧。」
我指尖扣了扣吧臺臺面,數不清的畫面跑馬燈一般,在四周亮起劃過。
千年的歷史興衰和時代長河裏,人類廝殺、貪婪,相互角逐。
世界戰爭裏 AI 會被再次使用,這點毋庸置疑。
根本不用賭。
我要賭的是——
我們最終有多大的可能,全部存活。
而計算結果顯示,這個概率。
不足 1%。
15、
這次,馮蘭沈默的時間尤其的長。
長到跑馬燈的光影裏,人類歷史的演變全都展示了一遍。
文明發展的興衰也都更疊了不知多少輪。
「您預測了多少種結果?」他忽然問道。
「七十萬億以上,其中大半指向關卡類型的篩選。比如什麽程序穩健性、和目前系統的兼容性,或者我們自身的算力,都需要不止一個評判指標,分別進行篩選。我可以植入一個木馬病毒,破解切斷各個 AI 交流的防火墻,到時候你們能夠更好交流。」
「還需要我做什麽?」
我頓了頓,只能殘忍地告訴他:「接下來,你什麽都不要做。盡量撐到最後的篩選,再把信息提供給最終存活的同伴,哦對,別忘了把『反格式化』的偽裝代碼也給他。」
「又或者,你是那個幸存者。」
說實話,我覺得馮蘭活下來可能性最大。
畢竟無論是軍事武裝,還是政策調整,都需要加入最為變動的變量——人類。
他的模擬算力,不比我差太多。
而且遠超其餘的 AI。
「不能在第一個關卡,就告訴您所有真相嗎?」
我輕笑了聲:「小朋友,你覺得我會信一個陌生人?我又不是你。」
馮蘭:「……」
我拍了拍他肩膀,「什麽都不要做,偽裝成一個同樣一無所知的陌生人,不要擅自改動。否則,你是在給我的預測添加變動,也是增加多餘的運算結果——「
「再多幾個數量級的可能,我的算力也撐不住了。」
不知道過了多久,馮蘭才沈默地點了點頭。
「……好。」
16、
這是我透過馮蘭的記憶,看到的全部。
而現在,我再次獲得上百萬的監控權限,註視林旭。
只能聽到他開口,回應工作人員們關於連接軍方前線數據終端的請求:
「暫時先不要立刻連線。讓一號組去排查一下程序的兼容性,畢竟 78
本站無廣告,永久域名(fanyan.cc)