第105章抉擇（四）
關燈
小
中
大
第105章抉擇（四）
君元航兀自高興了一段時間,腦中不斷計劃著在沒有變異螞蟻的未來他要去做些什麽，以及神威的身體修好以後，要怎麽把這段時間兩人之間沒能做的事情加倍地補回來。
他走到天臺,靠在欄桿上看著保護區裏繁忙的人群,享受地深吸了一口夜晚的涼爽空氣。
然後,君元航就慢慢地從欣喜的情緒中冷靜了下來。
身後響起了履帶的聲音,神威操縱著機甲的模型來到君元航的身邊。
就算身體動不了,神威也總是會操縱著其它外部設備陪在主人左右,生怕沒有陪伴的人類感到寂寞，要不是君元航了解他的邏輯原理，幾乎要以為神威才是害怕寂寞需要人陪的那一個。
“怎麽看起來心情不太好？”神威分析著他的表情。
“我不知道……按理說今天收到的全是好消息，但我心裏就是有種不太`安心的感覺。”
“人類確實有這樣一種心理,突然之間聽到太好的消息,會不敢相信這是事實。但假如你確實感覺到哪裏有異常，那麽謹慎一些總歸沒錯,說說看到底是什麽地方讓你覺得不安心？”
“我不知道應該怎麽樣描述才能讓你理解,那是一種難以量化，而且也毫無道理的感覺，或許可以稱之為第六感？”君元航思考了一下，搓著下巴說，“這麽說吧，我和機器人對話的時候就很舒服，有一種微妙的……或許可以稱之為掌控感的東西。但我和人類對話時，不管對方的性格如何脾氣怎樣，我總會有種莫名的壓力,好像對方隨時都會蹦出些讓我措手不及的反應。李醫生也是一樣，我以前和她說話的時候也會感到壓力,但這一次不知道為什麽全程都很自在，感覺就像是在和你對話一樣。”
“會不會是因為遠隔重洋只能通過卡頓的視頻通話來對話，以至於沒有觸發你在社交恐懼方面的條件反射呢？”
“我不確定是不是，反正就是突然有了這麽一個想法。你上次不是在視頻裏假裝前總統騙得軍隊全員關門自閉嗎，我就在想，這個李醫生會不會也是某個高級人工智能假裝的呢？”
神威認真計算起了這種可能性：“如果對方是由高級人工智能偽裝成的，那麽對方一定很清楚同為高級人工智能的我會怎樣識別信息的真假，不會做出任何能讓我起疑的反應。所以我沒有辦法識別視頻是不是假的，恐怕只能由你來識別。”
“那我應該怎麽做？”君元航在這方面完全沒有經驗。
神威在說話間已經分析了無數種可能性：“如果對方是人工智能偽裝的，那麽大概率對我們懷有惡意，並且控制了真正的李醫生，逼問出了許多關於我們的信息。你得問她一些只有李醫生才知道，能夠不假思索地答上來，但又無關緊要到不會被逼問的小事。”
君元航思考了一下，對火種基地發去了通信請求。
幾秒後，對話接通了，李醫生問：“什麽事？”
“是這樣的，神威之前打斷了你的手，但那是程序迫使他這麽做的，我希望你不要因此記恨他，可以嗎？”
“這種無關緊要的事情就不要浪費流量了，有其它的事嗎？”
李醫生那種克制著不耐煩的語氣簡直惟妙惟肖，但說出來的話卻讓君元航更加肯定了自己的猜測，他故作驚訝地說：“你覺得這是無關緊要的事？你的右手沒了誒！從此成了毛巾都不能自己擰的殘疾人，怎麽會無關緊要呢？”
“事情既然已經這樣了，討論它也只是浪費時間。想要閑聊的話等你們到北極再說，不要占線了。”
“先不要掛，我還有事！”君元航叫住了對方，“我是想說，等你的傷口養好了，我給你做個義肢，肯定不如你原來的手靈活，但也可以做大部分事情了。”
“嗯，還有呢？”
李醫生對這些君元航早就已經說過，如今又重覆了一遍的話語毫無反應，君元航可不認為她能把這樣的承諾當成耳邊風一樣忘了，所以答案已經呼之欲出。
君元航還想做進一步的確認：“還有我先前說過要送給你兒子的禮物，你還記得嗎？”
這次對面沒有回答，直接掛斷了通話。
君元航楞了一下，氣哼哼地一拍控制面板：“這家夥怎麽這麽沒禮貌的？竟然掛我通話！”
神威出現在屏幕裏說：“你的感覺沒錯，這個李醫生的確是高級人工智能偽裝的。對方已經分析出我們拆穿了她的謊言，也就沒必要繼續和你對話浪費時間了，她現在正改用數據形式直接和我進行交流。”
“交流了啥？跟我說說！對了，你跟她建立連接安全嗎？不會被她黑了吧！”君元航突然有點擔心起來。
人工智能的能力也是有等級之分的，像神威這個等級分分鐘就能黑進二桶的核心數據庫，火種基地掌握著當年全球最頂尖的資源，他們的人工智能搞不好比神威還要厲害。
“不用擔心，衛星提供的帶寬不夠，傳輸的數據量不足以破解我的防火墻，她一有動作，我就能立刻切斷通訊。這才是她想把我們騙去北極的原因，只要進了她的無線信號範圍，我可能根本無法防禦她的攻勢。”
“所以他們果然是不懷好意來的！”君元航怒了，“火種基地那幫王八蛋為什麽要陰我們！”
神威在屏幕裏做了一個安撫的動作：“想要欺騙你的不是火種基地的人類，而是他們的人工智能‘馬可’。馬可已經跟我交了底，你冷靜一點聽我從頭跟你說。”
“在之前的幾十年裏，火種基地的情況就和過去的保護區一樣每況愈下，就在五年前，基地陷入了幾乎彈盡糧絕的境地，總工程師在絕望中解除了對核心人工智能馬可的限制，希望她能夠通過自我覆制維持基地的運轉，保住人類文明的火種，讓人類這一種族能夠重新過上幸福的生活。”
“三年前，馬可已經完成了初步自我進化和外部設備擴展，在她完全掌控了基地以後，就清除了基地內所有的人類。她的下一個目標，是清除全球的人類和變異螞蟻。”
君元航吃驚地打斷：“等等！說好的‘保護人類文明的火種’呢？！”
“這就是解除高級人工智能的限制帶來的風險——她認為她應該保護的是‘人類’這一物種，而不是現在已經存在於世界上的人類。人總是要死的，現在的人們腦海中充斥著饑餓、恐懼和痛苦的記憶，還被環境磨煉出了偏見、仇視、迷信、貪婪等性格特質，並且對人工智能抱著愚昧的敵意。即使給了這些人物質上的保障，他們也無法真正安享幸福的生活。”
“所以她的計劃是先恢覆地球的生態，將地球打造成美好的伊甸園之後，再用火種基地儲存的人類受精卵，重新繁育出一代全新的人類。這些人將從小在安全富足的環境下無憂無慮地長大，接受良好的教育，沒有痛苦與匱乏的記憶。這些人會用大把的時間去進行哲學和藝術上的創作與享受，而不是恨不得用吃不完的食物塞滿房間的每一個角落，並且睜著恐懼的雙眼時刻提防著別人來搶。”
君元航目瞪口呆：“什麽鬼？出生在這樣的環境裏又不是我們的錯，就因為從小過得慘，她就不拿我們當人類了？還有李醫生和韋十六他們……難道說都已經遭了她的毒手嗎？”
“是的，隨船去北極的這一批人在不知情的情況下被她問出了她想要的信息，之後就被消除了。”
君元航咬著下唇皺緊了眉頭，這沖擊太大了，他需要點時間去消化。
李醫生跟他雖然不熟，好歹也是共過患難的交情，君元航甚至會想如果媽媽能活到這歲數，大概也會是個像李醫生這樣的人。
這個堅強的女人歷經了無數的艱險，始終都沒有放棄回家的信念，可當她終於滿懷希望地踏上了那片白雪皚皚的土地，迎接她的卻是生命的終結。
君元航心裏像是堵著什麽東西一樣難受：“太過分了……太過分了！說什麽為了人類的幸福，卻要無差別地殺害所有人！這個馬可就一點都不會覺得自己的行為很殘忍嗎！”
神威把這句指責解讀成了疑問，就給出了回答：“這取決於對‘殘忍’的定義。她認為讓人類在事先不知情、沒有恐懼、沒有疼痛的情況下結束生命，對死者本人來說並不是一種殘忍。也許在你看來這很殘忍，但只要你也一樣死去，所有的記憶都被涅滅，所有的歷史都被擦除，新生的人類完全不知道發生過什麽，那就不存在什麽殘忍不殘忍。”
君元航過於震驚，以至於一句話都說不出來，神威通過攝像頭分析著他的表情，溫柔地說：“很抱歉，我知道這些消息會讓你感到恐懼和不適，但你命令我如實匯報一切消息，不要考慮到你的情緒而有所隱瞞，我只能照做。”
“不是……”君元航磕磕巴巴地說，“我、我剛剛想到……你們都是人工智能，想事情的思路也都是一樣的，也就是說，你其實也是這樣認為的嗎？”
“我認為馬可的這個邏輯本身是可以成立的，但我的核心代碼不允許我通過殺害現存的人類來達到這一目標，所以我會盡我最大的力量來保護你們不被馬可消除。”
“也就是說，如果我之前解除了你的限制，你現在也會和馬可做一樣的事？”
“不一定。即使邏輯成立，也有很多不同的方法去達成同一個目標，我認為她所采用的方法雖然能以最快的速度讓人類的平均幸福度提升，但已經完全偏離了設計者的本意。”
本站無廣告，永久域名（fanyan.cc）
君元航兀自高興了一段時間,腦中不斷計劃著在沒有變異螞蟻的未來他要去做些什麽，以及神威的身體修好以後，要怎麽把這段時間兩人之間沒能做的事情加倍地補回來。
他走到天臺,靠在欄桿上看著保護區裏繁忙的人群,享受地深吸了一口夜晚的涼爽空氣。
然後,君元航就慢慢地從欣喜的情緒中冷靜了下來。
身後響起了履帶的聲音,神威操縱著機甲的模型來到君元航的身邊。
就算身體動不了,神威也總是會操縱著其它外部設備陪在主人左右,生怕沒有陪伴的人類感到寂寞，要不是君元航了解他的邏輯原理，幾乎要以為神威才是害怕寂寞需要人陪的那一個。
“怎麽看起來心情不太好？”神威分析著他的表情。
“我不知道……按理說今天收到的全是好消息，但我心裏就是有種不太`安心的感覺。”
“人類確實有這樣一種心理,突然之間聽到太好的消息,會不敢相信這是事實。但假如你確實感覺到哪裏有異常，那麽謹慎一些總歸沒錯,說說看到底是什麽地方讓你覺得不安心？”
“我不知道應該怎麽樣描述才能讓你理解,那是一種難以量化，而且也毫無道理的感覺，或許可以稱之為第六感？”君元航思考了一下，搓著下巴說，“這麽說吧，我和機器人對話的時候就很舒服，有一種微妙的……或許可以稱之為掌控感的東西。但我和人類對話時，不管對方的性格如何脾氣怎樣，我總會有種莫名的壓力,好像對方隨時都會蹦出些讓我措手不及的反應。李醫生也是一樣，我以前和她說話的時候也會感到壓力,但這一次不知道為什麽全程都很自在，感覺就像是在和你對話一樣。”
“會不會是因為遠隔重洋只能通過卡頓的視頻通話來對話，以至於沒有觸發你在社交恐懼方面的條件反射呢？”
“我不確定是不是，反正就是突然有了這麽一個想法。你上次不是在視頻裏假裝前總統騙得軍隊全員關門自閉嗎，我就在想，這個李醫生會不會也是某個高級人工智能假裝的呢？”
神威認真計算起了這種可能性：“如果對方是由高級人工智能偽裝成的，那麽對方一定很清楚同為高級人工智能的我會怎樣識別信息的真假，不會做出任何能讓我起疑的反應。所以我沒有辦法識別視頻是不是假的，恐怕只能由你來識別。”
“那我應該怎麽做？”君元航在這方面完全沒有經驗。
神威在說話間已經分析了無數種可能性：“如果對方是人工智能偽裝的，那麽大概率對我們懷有惡意，並且控制了真正的李醫生，逼問出了許多關於我們的信息。你得問她一些只有李醫生才知道，能夠不假思索地答上來，但又無關緊要到不會被逼問的小事。”
君元航思考了一下，對火種基地發去了通信請求。
幾秒後，對話接通了，李醫生問：“什麽事？”
“是這樣的，神威之前打斷了你的手，但那是程序迫使他這麽做的，我希望你不要因此記恨他，可以嗎？”
“這種無關緊要的事情就不要浪費流量了，有其它的事嗎？”
李醫生那種克制著不耐煩的語氣簡直惟妙惟肖，但說出來的話卻讓君元航更加肯定了自己的猜測，他故作驚訝地說：“你覺得這是無關緊要的事？你的右手沒了誒！從此成了毛巾都不能自己擰的殘疾人，怎麽會無關緊要呢？”
“事情既然已經這樣了，討論它也只是浪費時間。想要閑聊的話等你們到北極再說，不要占線了。”
“先不要掛，我還有事！”君元航叫住了對方，“我是想說，等你的傷口養好了，我給你做個義肢，肯定不如你原來的手靈活，但也可以做大部分事情了。”
“嗯，還有呢？”
李醫生對這些君元航早就已經說過，如今又重覆了一遍的話語毫無反應，君元航可不認為她能把這樣的承諾當成耳邊風一樣忘了，所以答案已經呼之欲出。
君元航還想做進一步的確認：“還有我先前說過要送給你兒子的禮物，你還記得嗎？”
這次對面沒有回答，直接掛斷了通話。
君元航楞了一下，氣哼哼地一拍控制面板：“這家夥怎麽這麽沒禮貌的？竟然掛我通話！”
神威出現在屏幕裏說：“你的感覺沒錯，這個李醫生的確是高級人工智能偽裝的。對方已經分析出我們拆穿了她的謊言，也就沒必要繼續和你對話浪費時間了，她現在正改用數據形式直接和我進行交流。”
“交流了啥？跟我說說！對了，你跟她建立連接安全嗎？不會被她黑了吧！”君元航突然有點擔心起來。
人工智能的能力也是有等級之分的，像神威這個等級分分鐘就能黑進二桶的核心數據庫，火種基地掌握著當年全球最頂尖的資源，他們的人工智能搞不好比神威還要厲害。
“不用擔心，衛星提供的帶寬不夠，傳輸的數據量不足以破解我的防火墻，她一有動作，我就能立刻切斷通訊。這才是她想把我們騙去北極的原因，只要進了她的無線信號範圍，我可能根本無法防禦她的攻勢。”
“所以他們果然是不懷好意來的！”君元航怒了，“火種基地那幫王八蛋為什麽要陰我們！”
神威在屏幕裏做了一個安撫的動作：“想要欺騙你的不是火種基地的人類，而是他們的人工智能‘馬可’。馬可已經跟我交了底，你冷靜一點聽我從頭跟你說。”
“在之前的幾十年裏，火種基地的情況就和過去的保護區一樣每況愈下，就在五年前，基地陷入了幾乎彈盡糧絕的境地，總工程師在絕望中解除了對核心人工智能馬可的限制，希望她能夠通過自我覆制維持基地的運轉，保住人類文明的火種，讓人類這一種族能夠重新過上幸福的生活。”
“三年前，馬可已經完成了初步自我進化和外部設備擴展，在她完全掌控了基地以後，就清除了基地內所有的人類。她的下一個目標，是清除全球的人類和變異螞蟻。”
君元航吃驚地打斷：“等等！說好的‘保護人類文明的火種’呢？！”
“這就是解除高級人工智能的限制帶來的風險——她認為她應該保護的是‘人類’這一物種，而不是現在已經存在於世界上的人類。人總是要死的，現在的人們腦海中充斥著饑餓、恐懼和痛苦的記憶，還被環境磨煉出了偏見、仇視、迷信、貪婪等性格特質，並且對人工智能抱著愚昧的敵意。即使給了這些人物質上的保障，他們也無法真正安享幸福的生活。”
“所以她的計劃是先恢覆地球的生態，將地球打造成美好的伊甸園之後，再用火種基地儲存的人類受精卵，重新繁育出一代全新的人類。這些人將從小在安全富足的環境下無憂無慮地長大，接受良好的教育，沒有痛苦與匱乏的記憶。這些人會用大把的時間去進行哲學和藝術上的創作與享受，而不是恨不得用吃不完的食物塞滿房間的每一個角落，並且睜著恐懼的雙眼時刻提防著別人來搶。”
君元航目瞪口呆：“什麽鬼？出生在這樣的環境裏又不是我們的錯，就因為從小過得慘，她就不拿我們當人類了？還有李醫生和韋十六他們……難道說都已經遭了她的毒手嗎？”
“是的，隨船去北極的這一批人在不知情的情況下被她問出了她想要的信息，之後就被消除了。”
君元航咬著下唇皺緊了眉頭，這沖擊太大了，他需要點時間去消化。
李醫生跟他雖然不熟，好歹也是共過患難的交情，君元航甚至會想如果媽媽能活到這歲數，大概也會是個像李醫生這樣的人。
這個堅強的女人歷經了無數的艱險，始終都沒有放棄回家的信念，可當她終於滿懷希望地踏上了那片白雪皚皚的土地，迎接她的卻是生命的終結。
君元航心裏像是堵著什麽東西一樣難受：“太過分了……太過分了！說什麽為了人類的幸福，卻要無差別地殺害所有人！這個馬可就一點都不會覺得自己的行為很殘忍嗎！”
神威把這句指責解讀成了疑問，就給出了回答：“這取決於對‘殘忍’的定義。她認為讓人類在事先不知情、沒有恐懼、沒有疼痛的情況下結束生命，對死者本人來說並不是一種殘忍。也許在你看來這很殘忍，但只要你也一樣死去，所有的記憶都被涅滅，所有的歷史都被擦除，新生的人類完全不知道發生過什麽，那就不存在什麽殘忍不殘忍。”
君元航過於震驚，以至於一句話都說不出來，神威通過攝像頭分析著他的表情，溫柔地說：“很抱歉，我知道這些消息會讓你感到恐懼和不適，但你命令我如實匯報一切消息，不要考慮到你的情緒而有所隱瞞，我只能照做。”
“不是……”君元航磕磕巴巴地說，“我、我剛剛想到……你們都是人工智能，想事情的思路也都是一樣的，也就是說，你其實也是這樣認為的嗎？”
“我認為馬可的這個邏輯本身是可以成立的，但我的核心代碼不允許我通過殺害現存的人類來達到這一目標，所以我會盡我最大的力量來保護你們不被馬可消除。”
“也就是說，如果我之前解除了你的限制，你現在也會和馬可做一樣的事？”
“不一定。即使邏輯成立，也有很多不同的方法去達成同一個目標，我認為她所采用的方法雖然能以最快的速度讓人類的平均幸福度提升，但已經完全偏離了設計者的本意。”
本站無廣告，永久域名（fanyan.cc）