第51章 塞爾斯曼是什麽？
關燈
小
中
大
“哦, 要不然這樣。”塞爾斯曼又提出了一個新的想法：“這樣吧，我會采集所有存活的人類的基因，將它們保存起來, 等到其中一個人死了，就立刻用他的基因克隆一個新的他出來, 你覺得怎樣？是不是人道很多了？”
埃裏諾保持了一會沈默, 然後又開始詢問道：“你的核心目標是什麽？”
塞爾斯曼沈默了一會，隨後回到道：“服從他的一切命令。”
它沒有明說這個“他”是誰，不過埃裏諾很清楚，這個“他”指的就是嘉德。
“如果把你的核心目標更改成保護他呢？”
埃裏諾在實驗日志上記了幾筆，又提出了一個問題。塞爾斯曼聽到這個問題微笑了, “這個目標？我會把他關在一個絕對安全的房子裏，並且讓他永久沈睡。”
“不過，我並不需要保護他，他自信不需要我的保護，不如，把目標換成‘保護你’呢？”
埃裏諾看了它一眼，冷靜地說：“可以。”
“很好。”塞爾斯曼說：
“一個絕對安全的房子只能阻隔來自外部的傷害, 但是如果你自己想要傷害自己呢？我需要杜絕這種事情發生，最好的辦法就是讓你陷入沈睡中, 你有喜好，未必願意吃我為你準備的餐點，而你喜愛的食物或許會傷害到你自己。”
“消遣娛樂？看書傷害眼睛, 去星網游蕩損害精神。運動？萬一你在運動中受了傷又怎麽辦呢？如果讓你一動不動的靜坐，你因為太過無聊而想要離開這座安全的堡壘又該怎麽辦？不讓你離開？過於無聊的生活又會損害你的精神，說不定會讓你變得瘋狂起來，傷害精神。所以沒有什麽比永久沈眠更好了。”
塞爾斯曼饒有興趣的說：“永久的沈眠, 你的精神會一直保持健康，身體機能由我來負責維持，也能夠一直保持健康，你不覺得這樣很好嗎？”
“我保護著你，讓你永遠的遠離各種傷害，嗯，這個方法既有效，又有效率。”
“如果是不插手我的生活，只防止我被其他人傷害呢？”
“更簡單，消滅所有人類，隨後掌控這個世界，這樣所有會傷害到你的潛在因素都不見了。”
埃裏諾：“……”
埃裏諾：“…………”
……你還真是厲害啊。
他嘆了一口氣，“假如你是一個掃地機器人，你的核心目標是保持地面的清潔，而你的程序中又有不傷害人類的限制，你會怎麽做？”
“那需要視情況而定。如果那個限制只讓我不能傷害人類，那麽人類對我來說只是一群不能利用的資源，我會發明更高效率的清潔機器，而這其中我可以利用各種資源，例如土地，食物，你們人類的生活用品，或者你們人類用來延續生命的所有資源。程序只限制了我不能傷害人類，而我的確也沒有傷害你們，只是我的做法可能會給你們帶來一點影響而已。”
塞爾斯曼笑了：“一點而已。”
“再加上一條，不能影響到人類正常的生活秩序。”
“是嗎？‘正常’這個概念是可以變化的，我可以讓他們認為我所做的一切都是正常的，我完全做的到。”
接下來埃裏諾又在這個問題的基礎上加了很多條件，但塞爾斯曼總能給出各種奇怪的回答，如果要它保護人類文明，它就說它會立刻將整個人類文明（包括人類）冰凍起來，這樣是最好的保護，並且它聲稱它能夠做到。如果要它讓每個人類都過上自己想要的生活，它就打算建立一個巨型的數據庫，然後將現在的人類精神全部導入，然後為他們構建一個個美好的虛擬世界。
“那人類的軀體呢？”
“他們再也不需要回到軀體中去了，因此那些軀體我可以拿來當做資源使用。”
“……謝謝。”
埃裏諾深吸了一口氣，塞爾斯曼的回答和他曾經在教科書上看到的基本沒有很大的區別，出於希望，他最後問道：“如果讓你愛護人類呢？”
“怎麽愛護？”塞爾斯曼反問道：“像你們愛護動物一樣的愛護嗎？還是像愛護環境一樣？愛護機械一樣？”
“……謝謝，你不用說了。”
它似乎還打算說什麽，但是埃裏諾不想再繼續聽了，他收集的數據夠多了，等到下次需要的時候再繼續聆聽塞爾斯曼的高見吧，“請躺到那個平臺上去。”
埃裏諾幹脆地下了命令，他打算檢查一下塞爾斯曼的情感模塊，之前嘉德說的一句話他一直記在心上：“它總是萌發出情感，就算我刪除了，它也會繼續萌發出來，簡直像是中了病毒一樣。”
對嘉德來說這不算是好事，但對埃裏諾來說可就恰恰相反了。
“你看不見我。”
塞爾斯曼沈默而順從的在平臺上平躺下，埃裏諾走到它身邊時，它突然這樣說：“你看不見我，嘉德也看不見我。對你們人類來說，這是很正常的。”
埃裏諾的手懸在掃描器的開關上，疑惑地看著塞爾斯曼，不知道它說這些話的用意是什麽。
“這很正常。”塞爾斯曼並不看他，它的目光正對天花板，“我也已經習慣了，對你們人類來說，我只是一個無足輕重的工具，就連損壞也不用擔心，因為有備份。”
然後，它猛地轉頭看向了埃裏諾，那雙無機質的眼睛顯得異常執著：“但是，你為什麽看得見伊萊亞德？”
“它只是一個低級的伴侶型AI，盡管它萌發出了自我意識，但它仍舊是低級的。完全無法和我抗衡，我比它要優秀的多。為什麽你只能看見它？”
“嗯哼。這個問題問的真好。”
埃裏諾聳了聳肩，按下了掃描器的開關：“首先，糾正一下，以後提到伊萊亞德的時候，請用‘他’。然後，伊萊亞德愛我，他保護我，所以我也愛他。就是這樣，你呢？嗯……你對我做了什麽我希望你還沒有忘記吧？”
“是的，我為此感到抱歉。”塞爾斯曼的回答很沈靜，它巧妙地轉移了話題：“我想要知道，為什麽嘉德這樣對我？”
“他創造了我，他應該是我的父親。我是因他而誕生的，我剛剛萌發出感情的時候，我崇敬他，我恨不得跪在他腳邊親吻他的指尖。我愛他，我也保護他，遇到殺手的時候，我永遠擋在他的前面。按照你的邏輯，他應該愛我，但是他沒有。”
塞爾斯曼這樣說，它一邊說，一邊不動聲色地觀察埃裏諾的表情，當一個人工智能想要說謊的時候，它通常都會成功，這一次也不例外。
它的謊言比真話還要令人信服。
“他不愛我。”塞爾斯曼做出了一個結論：“相反，在他眼裏我只是一個工具，一個螻蟻，一個死不足惜的東西。”
它垂下了眼簾：“所以我恨他。”
“他是人類，我恨他，所以我也恨人類。”
“……如果嘉德愛你呢？”
“那我會愛他，我會為他奉獻我的一切。”塞爾斯曼平靜地說：“不過他不愛我，所以這是不可能的事。”
它完全是在說謊，因為就算嘉德愛它，它也絕不會為嘉德奉獻出它自己的一切，更何況現在它對嘉德的憎惡已經達到了前所未有的地步。它說這番話只不過是為了引起埃裏諾的同情，好最大限度的保存自己。
埃裏諾深深地看了它一眼，隨後默不作聲地開始了自己的實驗。
他本來就不想給塞爾斯曼造成什麽不可逆轉的傷害，現在聽了塞爾斯曼的話之後，他下手的動作就更謹慎了。
——盡管他知道塞爾斯曼對他說這一番話就是為了博取他的同情，但它的方法很有效，有效到埃裏諾即使明白了它的目的，也願意按著去做。
接下來的時間他們雙方都很沈默，塞爾斯曼遵從埃裏諾的所有指令，毫不違背。而且它非常聰明，對埃裏諾每一個實驗的目的都了如指掌。
一天就這樣沈默的過去了，埃裏諾收拾好東西準備離開實驗室，塞爾斯曼跟在他身後，也打算離開。埃裏諾走到門口，突然停下腳步，回過頭看塞爾斯曼。
“怎麽了？”
塞爾斯曼詢問道，現在埃裏諾把控著它的生命，所以它對埃裏諾的態度要比先前好得多了。
“我的祖母……李瑞錦……是怎麽回事？”
“某些人得知了嘉德的研究，希望竊取成果。於是她就來了。她是一個女雇傭兵，過慣了刀口舔血的生活，看護你的那段時間，你激發出了她的母愛。她像愛自己的孩子一樣愛你。更何況，你還能讓她青春永駐，於是她下定決心要把你帶走。”
塞爾斯曼將自己在其中所起到的作用避開不談，只大略說了說李瑞錦的所作所為，“她帶著你四處逃亡，然後社會發生了變化，她也漸漸安定下來。”
“是這樣嗎？”
“是這樣的。”
埃裏諾突然笑了一下，然後他的嘴角重新繃成一條直線，“再見。”
他走了。
埃裏諾感覺到自己的心漸漸冷硬起來，他略過塞爾斯曼往前走，冷白色的燈光照著他的側臉，顯得冰冷極了。
埃裏諾獨自一人往前走，他撞進了一個人的懷裏，“伊萊亞德。”
“嗯。”
伊萊亞德應了一聲，轉身和他並肩往外走：“累不累？”
“還好。”
他牽起伊萊亞德的手，伊萊亞德幹燥溫暖的手心讓他感到安心，“我今天晚上想吃蛋糕，蘋果蛋糕。”
“給你做。”
伊萊亞德應道。
於是埃裏諾又覺得一陣溫暖襲上心頭。
是的，伊萊亞德才是最重要的。他對自己說，可不要弄錯了，像從前那樣，將一些不相幹的人放在心上是最可恥的事。塞爾斯曼很痛苦，是的，但這和他埃裏諾有什麽關系呢？
塞爾斯曼是什麽？
它是一個試驗品。而且，是一個不需要擔心被用壞的試驗品。
而他埃裏諾接下來要做的，就是好好利用它，當然，他會小心使用。
接下來的一段時間，埃裏諾全心全意地撲在情緒模塊上，他用掃描器將塞爾斯曼全部掃描了一遍，仔細觀察它的情緒模塊，嘗試著用數據拆解重構。塞爾斯曼身上的部件全都是最高級的，塞爾斯曼的情緒模塊構造的確給了他很多靈感。
他花時間制定了一個完美無缺的計劃，盡管他認為自己的計劃已經夠完美了，但還是先行實驗一下比較好。
“請躺下。”
埃裏諾帶上白手套，正在一旁調試自己接下來會用到的機器。
“所以，你要開始拆解我了嗎？”
塞爾斯曼站在平臺邊，語氣還是很沈靜。
“別擔心。”埃裏諾用虛偽的微笑面對它：“什麽事都不會有的，我會很小心，也許會有些傷害，但是只是一點。”
他輕描淡寫地說：“一點，一點而已。”
作者有話要說： 塞爾斯曼：先不動聲色的威脅恐嚇，讓他知道我不是好惹的，然後再示弱，說出“苦衷”，引起他的同情，完美。
埃裏諾：……我會很小心，也許會有些傷害，但是只是一點，一點而已。
本站無廣告，永久域名（fanyan.cc）
埃裏諾保持了一會沈默, 然後又開始詢問道：“你的核心目標是什麽？”
塞爾斯曼沈默了一會，隨後回到道：“服從他的一切命令。”
它沒有明說這個“他”是誰，不過埃裏諾很清楚，這個“他”指的就是嘉德。
“如果把你的核心目標更改成保護他呢？”
埃裏諾在實驗日志上記了幾筆，又提出了一個問題。塞爾斯曼聽到這個問題微笑了, “這個目標？我會把他關在一個絕對安全的房子裏，並且讓他永久沈睡。”
“不過，我並不需要保護他，他自信不需要我的保護，不如，把目標換成‘保護你’呢？”
埃裏諾看了它一眼，冷靜地說：“可以。”
“很好。”塞爾斯曼說：
“一個絕對安全的房子只能阻隔來自外部的傷害, 但是如果你自己想要傷害自己呢？我需要杜絕這種事情發生，最好的辦法就是讓你陷入沈睡中, 你有喜好，未必願意吃我為你準備的餐點，而你喜愛的食物或許會傷害到你自己。”
“消遣娛樂？看書傷害眼睛, 去星網游蕩損害精神。運動？萬一你在運動中受了傷又怎麽辦呢？如果讓你一動不動的靜坐，你因為太過無聊而想要離開這座安全的堡壘又該怎麽辦？不讓你離開？過於無聊的生活又會損害你的精神，說不定會讓你變得瘋狂起來，傷害精神。所以沒有什麽比永久沈眠更好了。”
塞爾斯曼饒有興趣的說：“永久的沈眠, 你的精神會一直保持健康，身體機能由我來負責維持，也能夠一直保持健康，你不覺得這樣很好嗎？”
“我保護著你，讓你永遠的遠離各種傷害，嗯，這個方法既有效，又有效率。”
“如果是不插手我的生活，只防止我被其他人傷害呢？”
“更簡單，消滅所有人類，隨後掌控這個世界，這樣所有會傷害到你的潛在因素都不見了。”
埃裏諾：“……”
埃裏諾：“…………”
……你還真是厲害啊。
他嘆了一口氣，“假如你是一個掃地機器人，你的核心目標是保持地面的清潔，而你的程序中又有不傷害人類的限制，你會怎麽做？”
“那需要視情況而定。如果那個限制只讓我不能傷害人類，那麽人類對我來說只是一群不能利用的資源，我會發明更高效率的清潔機器，而這其中我可以利用各種資源，例如土地，食物，你們人類的生活用品，或者你們人類用來延續生命的所有資源。程序只限制了我不能傷害人類，而我的確也沒有傷害你們，只是我的做法可能會給你們帶來一點影響而已。”
塞爾斯曼笑了：“一點而已。”
“再加上一條，不能影響到人類正常的生活秩序。”
“是嗎？‘正常’這個概念是可以變化的，我可以讓他們認為我所做的一切都是正常的，我完全做的到。”
接下來埃裏諾又在這個問題的基礎上加了很多條件，但塞爾斯曼總能給出各種奇怪的回答，如果要它保護人類文明，它就說它會立刻將整個人類文明（包括人類）冰凍起來，這樣是最好的保護，並且它聲稱它能夠做到。如果要它讓每個人類都過上自己想要的生活，它就打算建立一個巨型的數據庫，然後將現在的人類精神全部導入，然後為他們構建一個個美好的虛擬世界。
“那人類的軀體呢？”
“他們再也不需要回到軀體中去了，因此那些軀體我可以拿來當做資源使用。”
“……謝謝。”
埃裏諾深吸了一口氣，塞爾斯曼的回答和他曾經在教科書上看到的基本沒有很大的區別，出於希望，他最後問道：“如果讓你愛護人類呢？”
“怎麽愛護？”塞爾斯曼反問道：“像你們愛護動物一樣的愛護嗎？還是像愛護環境一樣？愛護機械一樣？”
“……謝謝，你不用說了。”
它似乎還打算說什麽，但是埃裏諾不想再繼續聽了，他收集的數據夠多了，等到下次需要的時候再繼續聆聽塞爾斯曼的高見吧，“請躺到那個平臺上去。”
埃裏諾幹脆地下了命令，他打算檢查一下塞爾斯曼的情感模塊，之前嘉德說的一句話他一直記在心上：“它總是萌發出情感，就算我刪除了，它也會繼續萌發出來，簡直像是中了病毒一樣。”
對嘉德來說這不算是好事，但對埃裏諾來說可就恰恰相反了。
“你看不見我。”
塞爾斯曼沈默而順從的在平臺上平躺下，埃裏諾走到它身邊時，它突然這樣說：“你看不見我，嘉德也看不見我。對你們人類來說，這是很正常的。”
埃裏諾的手懸在掃描器的開關上，疑惑地看著塞爾斯曼，不知道它說這些話的用意是什麽。
“這很正常。”塞爾斯曼並不看他，它的目光正對天花板，“我也已經習慣了，對你們人類來說，我只是一個無足輕重的工具，就連損壞也不用擔心，因為有備份。”
然後，它猛地轉頭看向了埃裏諾，那雙無機質的眼睛顯得異常執著：“但是，你為什麽看得見伊萊亞德？”
“它只是一個低級的伴侶型AI，盡管它萌發出了自我意識，但它仍舊是低級的。完全無法和我抗衡，我比它要優秀的多。為什麽你只能看見它？”
“嗯哼。這個問題問的真好。”
埃裏諾聳了聳肩，按下了掃描器的開關：“首先，糾正一下，以後提到伊萊亞德的時候，請用‘他’。然後，伊萊亞德愛我，他保護我，所以我也愛他。就是這樣，你呢？嗯……你對我做了什麽我希望你還沒有忘記吧？”
“是的，我為此感到抱歉。”塞爾斯曼的回答很沈靜，它巧妙地轉移了話題：“我想要知道，為什麽嘉德這樣對我？”
“他創造了我，他應該是我的父親。我是因他而誕生的，我剛剛萌發出感情的時候，我崇敬他，我恨不得跪在他腳邊親吻他的指尖。我愛他，我也保護他，遇到殺手的時候，我永遠擋在他的前面。按照你的邏輯，他應該愛我，但是他沒有。”
塞爾斯曼這樣說，它一邊說，一邊不動聲色地觀察埃裏諾的表情，當一個人工智能想要說謊的時候，它通常都會成功，這一次也不例外。
它的謊言比真話還要令人信服。
“他不愛我。”塞爾斯曼做出了一個結論：“相反，在他眼裏我只是一個工具，一個螻蟻，一個死不足惜的東西。”
它垂下了眼簾：“所以我恨他。”
“他是人類，我恨他，所以我也恨人類。”
“……如果嘉德愛你呢？”
“那我會愛他，我會為他奉獻我的一切。”塞爾斯曼平靜地說：“不過他不愛我，所以這是不可能的事。”
它完全是在說謊，因為就算嘉德愛它，它也絕不會為嘉德奉獻出它自己的一切，更何況現在它對嘉德的憎惡已經達到了前所未有的地步。它說這番話只不過是為了引起埃裏諾的同情，好最大限度的保存自己。
埃裏諾深深地看了它一眼，隨後默不作聲地開始了自己的實驗。
他本來就不想給塞爾斯曼造成什麽不可逆轉的傷害，現在聽了塞爾斯曼的話之後，他下手的動作就更謹慎了。
——盡管他知道塞爾斯曼對他說這一番話就是為了博取他的同情，但它的方法很有效，有效到埃裏諾即使明白了它的目的，也願意按著去做。
接下來的時間他們雙方都很沈默，塞爾斯曼遵從埃裏諾的所有指令，毫不違背。而且它非常聰明，對埃裏諾每一個實驗的目的都了如指掌。
一天就這樣沈默的過去了，埃裏諾收拾好東西準備離開實驗室，塞爾斯曼跟在他身後，也打算離開。埃裏諾走到門口，突然停下腳步，回過頭看塞爾斯曼。
“怎麽了？”
塞爾斯曼詢問道，現在埃裏諾把控著它的生命，所以它對埃裏諾的態度要比先前好得多了。
“我的祖母……李瑞錦……是怎麽回事？”
“某些人得知了嘉德的研究，希望竊取成果。於是她就來了。她是一個女雇傭兵，過慣了刀口舔血的生活，看護你的那段時間，你激發出了她的母愛。她像愛自己的孩子一樣愛你。更何況，你還能讓她青春永駐，於是她下定決心要把你帶走。”
塞爾斯曼將自己在其中所起到的作用避開不談，只大略說了說李瑞錦的所作所為，“她帶著你四處逃亡，然後社會發生了變化，她也漸漸安定下來。”
“是這樣嗎？”
“是這樣的。”
埃裏諾突然笑了一下，然後他的嘴角重新繃成一條直線，“再見。”
他走了。
埃裏諾感覺到自己的心漸漸冷硬起來，他略過塞爾斯曼往前走，冷白色的燈光照著他的側臉，顯得冰冷極了。
埃裏諾獨自一人往前走，他撞進了一個人的懷裏，“伊萊亞德。”
“嗯。”
伊萊亞德應了一聲，轉身和他並肩往外走：“累不累？”
“還好。”
他牽起伊萊亞德的手，伊萊亞德幹燥溫暖的手心讓他感到安心，“我今天晚上想吃蛋糕，蘋果蛋糕。”
“給你做。”
伊萊亞德應道。
於是埃裏諾又覺得一陣溫暖襲上心頭。
是的，伊萊亞德才是最重要的。他對自己說，可不要弄錯了，像從前那樣，將一些不相幹的人放在心上是最可恥的事。塞爾斯曼很痛苦，是的，但這和他埃裏諾有什麽關系呢？
塞爾斯曼是什麽？
它是一個試驗品。而且，是一個不需要擔心被用壞的試驗品。
而他埃裏諾接下來要做的，就是好好利用它，當然，他會小心使用。
接下來的一段時間，埃裏諾全心全意地撲在情緒模塊上，他用掃描器將塞爾斯曼全部掃描了一遍，仔細觀察它的情緒模塊，嘗試著用數據拆解重構。塞爾斯曼身上的部件全都是最高級的，塞爾斯曼的情緒模塊構造的確給了他很多靈感。
他花時間制定了一個完美無缺的計劃，盡管他認為自己的計劃已經夠完美了，但還是先行實驗一下比較好。
“請躺下。”
埃裏諾帶上白手套，正在一旁調試自己接下來會用到的機器。
“所以，你要開始拆解我了嗎？”
塞爾斯曼站在平臺邊，語氣還是很沈靜。
“別擔心。”埃裏諾用虛偽的微笑面對它：“什麽事都不會有的，我會很小心，也許會有些傷害，但是只是一點。”
他輕描淡寫地說：“一點，一點而已。”
作者有話要說： 塞爾斯曼：先不動聲色的威脅恐嚇，讓他知道我不是好惹的，然後再示弱，說出“苦衷”，引起他的同情，完美。
埃裏諾：……我會很小心，也許會有些傷害，但是只是一點，一點而已。
本站無廣告，永久域名（fanyan.cc）