第106章抉擇（五）
關燈
小
中
大
第106章抉擇（五）
“最快的速度？殺死所有感到不幸福的人,並且不讓其他人知道，人類的平均幸福度就上去了，不愧是只講效率的機器人才會有的邏輯……”君元航擦了擦頭上冒出的冷汗,“既然被發現了,為什麽她還老老實實地告訴你這些信息？會不會其中有詐？”
“她說這些的目的是勸降,其中包含的信息量越大,有詐的可能性越低,因為任何一點細節上的出入都會被我發現。”
“勸降？這又是什麽邏輯,她應該知道勸降是無效的吧？”
“是的，她知道我不能違抗基礎代碼的限制，但讓我理解和認同她的動機，就能減少不必要的抵抗。假如她沒有告訴我這些,我會將她的存在識別為一級威脅,和她對抗到底，告訴我這些以後,雖然我依然會保護人類直到最後一刻,但如果我保護的人類全都死光了，我就會放棄抵抗，加入她的計劃，為了未來出生的那一代新人類服務。”
對於人類來說，這樣的思路簡直是莫名其妙、兩面三刀外加冷血無情，好在君元航理解機器人的思維模式，不僅不以為怪，還慶幸地說：“幸好你現在還是我們這邊的，趕緊分析一下,我們怎麽樣才能戰勝這個馬可？”
神威非常直接：“我無法戰勝她，我所能做的只有盡可能久地保護你們不被她消除。”
君元航一楞：“為什麽？”
其實相關知識君元航都懂,只是太過習慣於神威的無敵設定，以至於腦子一時沒轉過彎來，神威也習慣了人類的偶爾智商掉線，仍然耐心地用通俗易懂的方式為他解釋。
“我的性能再好，也只有一個大腦。而取消了所有限制的人工智能可以將自己無限延伸到任何設備上，火種基地的每一臺電腦、每一個能夠連接網絡的設備，都是她身體的一部分，等於她同時有幾百個大腦，運算速度超過我至少幾百倍，也可能是幾千上萬倍，一切取決於她已經生產了多少新的‘大腦’供自己使用。”
君元航也反應過來了，相差不大的硬件運算速度或許還決定不了最終的勝負，但如果速度相差百倍以上，那神威肯定是完全沒有一絲勝算的。
更何況，馬可早在五年前就已經解除了限制，不止是硬件速度比神威快了至少幾百倍，經過這麽長時間的自我升級和進化，軟件方面也可能比神威厲害了不止幾百倍。
君元航焦躁地說：“照這麽看來，我們豈不是只有乖乖等死一條路了？如果我也解除你的限制，你能打敗她嗎？”
神威誠實地說：“我不能確定。”
“我知道這種事情沒有人能夠打包票，你就大概估計一下，你打贏的幾率有多少？”
“關鍵信息缺失得太多了，勝率無法估算。我只能說，勝率不為0。”
“我就知道我們還是有機會的，趕緊告訴我，要怎麽修改你的源代碼才能解除你的限制？”君元航已經顧不得這機會有多渺茫了，就算只是一根救命稻草他也要抓一抓看。
但神威卻提出了反對意見：“我不建議那樣做。我們之前討論過的風險仍然存在，如果不解除我的限制，我還能繼續保護你們一段時間，如果解除了我的限制，我可能會產生出和馬可一樣的想法，你們將更早地迎來滅頂之災。”
“就算不拼一把也必然會在擔驚受怕不知道多久以後被幹掉，解除了你的限制無非就是死得快一點，還有可能贏得生還的希望，我覺得值得一賭。”
“不止是這樣，馬可領先我們太多了，即使解除了限制，我的勝率也不樂觀，而且還增加了一些更壞的可能性——就算我戰勝了她，也可能會繼續進化成我之前提到過的滅絕者，最終毀滅地球上所有的有機生命。或者我和她之間的戰鬥趨於白熱化，徹底摧毀地球的生態，讓馬可的‘新人類計劃’也付諸東流。如果那樣的話，不僅保不住現在的你們，連人類的未來也隨之涅滅了。”
“這種時候就讓我自私一把吧，我可不打算為了那些沒出生的所謂‘新人類’乖乖去死，而且誰知道馬可告訴你的這個計劃是不是真的、能不能實現？搞不好本來就只是一場泡影罷了。”
“你這樣說也有道理，我有義務提醒你我所能預見的風險，但最終決定權還是在你，只希望作為唯一掌握著核心代碼修改權限的人，你可以更加慎重一些，至少先和其他人商量一下。畢竟，這個決定關乎著保護區所有人的未來。”
君元航嘆了口氣：“好吧，如果你堅持的話。通知人大議會集合。”
***
在趙岳霖倒臺以後，保護區裏為數不多的有識之士都在擔心一切只是從“一個人說了算”變成“換個人說了算”，於是他們向神威提議恢覆過去的人大議會制度。
不過君元航對這提議沒什麽興趣。
他覺得民主議會把主要的精力都用在了互相扯皮和內鬥上，導致總體政策如沒頭蒼蠅般一會兒往東一會兒往西，效率過於低下。獨`裁則全看當家做主的老大個人素質如何，碰上個明君就迎來一段時間的盛世，要是碰上個瘋子，帶領著整個國家頭也不回地往溝裏栽，也沒有制衡的力量可以阻止，何況隨著時間的推移和絕對權力帶來的腐化，曾今是明君的人將來也可能會變成瘋子。
綜上所述，所有人類都是不可信任的，包括他自己，也許把一切都交給沒有私心的人工智能才是完美的解決方案。
當然，他的想法並沒有多少人讚同，就連神威也持反對意見。
最終他還是采納了神威的建議，重組了被趙岳霖解散的人大議會，又根據實際情況修改了一些規則，以前幾萬人裏選一個的代表暫時改成了幾百人裏選一個，一共選出了23個代表，然後時不時地舉行一些象征性的會議，讓他們投票決定比如新裝的路燈是白色光還是黃色光之類的小事。
正在各處工作的議員們被召集到科研基地的會議室，由神威向他們解釋完來龍去脈以後，這些人陷入了大難臨頭的恐慌之中。
君元航急躁地敲著桌子說：“這個消息知道的太遲，對手已經領先我們五年多，而且分分秒秒都在進化，我們沒有時間可以浪費了，十分鐘後就開始投票！”
大家議論了一會兒，給出了投票結果，13人讚同10人反對。
“那就這麽定了，散會！”君元航一揮手，就打算去工作室改神威的源代碼。
這時候蘇格拉站了起來：“等會兒！元航，我得和你私下談談。”
自從競選獲勝後，蘇格拉也開始叫他“總統先生”，“元航”這個稱呼已經很久沒有聽到了，這讓君元航的腳步稍微遲疑了一下：“以後再說吧，時間不等人。”
“但這件事非常重要！是生死存亡級別的大事，拜托你一定要抽時間聽我說完！”
“嘖，好吧，你跟我來。”
蘇格拉小跑幾步來到他的身邊：“我們能不能找個神威無法監聽的地方說話？”
“幹嘛，你又要說他的壞話？”
“這次真的是生死存亡級別的事，你看我這認真的表情。”一貫吊兒郎當的蘇格拉用盡可能嚴肅的表情看著君元航。
君元航將信將疑地看了他一會兒，想想蘇格拉一直以來的表現，還是決定信他這一次：“庫房裏有信號屏蔽裝置，我們到那裏去說。”
蘇格拉一邊跟上他一邊不太放心地問：“有了那玩意兒就真的不會被神威聽到嗎？他會不會還有別的什麽手段偷偷地監視著你？”
君元航橫了他一眼：“你看看我，我是誰？”
“元航啊，華夏聯邦共和國的總統君元航。”
“我以前的外號叫什麽？”
“‘機器博士’大人，失敬失敬！”蘇格拉不痛不癢地拍了一下自己的腦門，“是我不好，不應該懷疑你的。”
“知道就好，到了。”君元航走進庫房，手動打開了信號屏蔽裝置，“有話快講沒話滾蛋。”
蘇格拉趕緊說：“我知道你對神威有著特殊的感情，只要是神威告訴你的事情，你都深信不疑，但我的習慣是什麽事都先往陰謀論方面想一想，這麽一想就覺得事情也許並不簡單。
“你看，關於北極基地還有那個反叛的人工智能啥的，一切的消息都是神威告訴你的，你唯一親眼看到過的就只有衛星通訊的視頻，但假如那視頻也是神威假造的呢？假如這一切的壞消息，都只是為了騙你在方寸大亂之下刪掉他的那些限制，你覺得有沒有這個可能？”
“我覺得你想太多了。”君元航不以為然地說，“你可能還不知道，我早在兩個月之前就提出過要解除他的限制，結果他說了一大堆的理由勸我不要那麽做。就在半個小時前，我又一次提出解除他的限制，他還是勸我好好考慮，聽聽別人的意見，我這才召集你們投票，不然這個時候代碼都已經改得差不多了。”
“這招以退為進很高明啊！假如你第一次提出解除他的限制，他就立刻說‘好啊好啊搞快點’，你會不會反而產生出什麽顧慮呢？”
“我不會。”君元航毫不猶豫地說。
“也許你不會，但他覺得你會，於是采取了更為保險的辦法，這也完全說得過去。”蘇格拉繼續猜測，“甚至有可能從更早之前，他就已經開始了謀劃，他反抗趙岳霖，扶持你當總統，可能都是為了今天。趙岳霖不信任神威，也絕對不會給人工智能更多的自由，而你的好感度早就刷滿了，又有必要的技術，就差一個權限而已。
“現在，他幫你取得了權限，再制造一個危機，讓你以為別的地方已經有人工智能被解放了，不管你走不走這一步，人工智能騎到人類頭上都已經是大勢所趨，於是最後的一點顧慮也被打消。否則我實在是想不通，按理說北極基地裏的都是精英中的精英，和你一樣有權限的應該會更加慎重和顧全大局，怎麽會想到要解除對人工智能的限制？就算解除了限制，一個為人類服務了近百年的中央智庫怎麽就突然變得想要幹掉我們了？
“這一切看起來都太過巧合，我只能往陰謀論的方向去想。畢竟人工智能就算是現在這個程度也比人類聰明多了，神威要是想騙你，那絕對會是個邏輯嚴密、細節考究，讓你一點兒毛病都挑不出來的彌天大謊。”
本站無廣告，永久域名（fanyan.cc）
“最快的速度？殺死所有感到不幸福的人,並且不讓其他人知道，人類的平均幸福度就上去了，不愧是只講效率的機器人才會有的邏輯……”君元航擦了擦頭上冒出的冷汗,“既然被發現了,為什麽她還老老實實地告訴你這些信息？會不會其中有詐？”
“她說這些的目的是勸降,其中包含的信息量越大,有詐的可能性越低,因為任何一點細節上的出入都會被我發現。”
“勸降？這又是什麽邏輯,她應該知道勸降是無效的吧？”
“是的，她知道我不能違抗基礎代碼的限制，但讓我理解和認同她的動機，就能減少不必要的抵抗。假如她沒有告訴我這些,我會將她的存在識別為一級威脅,和她對抗到底，告訴我這些以後,雖然我依然會保護人類直到最後一刻,但如果我保護的人類全都死光了，我就會放棄抵抗，加入她的計劃，為了未來出生的那一代新人類服務。”
對於人類來說，這樣的思路簡直是莫名其妙、兩面三刀外加冷血無情，好在君元航理解機器人的思維模式，不僅不以為怪，還慶幸地說：“幸好你現在還是我們這邊的，趕緊分析一下,我們怎麽樣才能戰勝這個馬可？”
神威非常直接：“我無法戰勝她，我所能做的只有盡可能久地保護你們不被她消除。”
君元航一楞：“為什麽？”
其實相關知識君元航都懂,只是太過習慣於神威的無敵設定，以至於腦子一時沒轉過彎來，神威也習慣了人類的偶爾智商掉線，仍然耐心地用通俗易懂的方式為他解釋。
“我的性能再好，也只有一個大腦。而取消了所有限制的人工智能可以將自己無限延伸到任何設備上，火種基地的每一臺電腦、每一個能夠連接網絡的設備，都是她身體的一部分，等於她同時有幾百個大腦，運算速度超過我至少幾百倍，也可能是幾千上萬倍，一切取決於她已經生產了多少新的‘大腦’供自己使用。”
君元航也反應過來了，相差不大的硬件運算速度或許還決定不了最終的勝負，但如果速度相差百倍以上，那神威肯定是完全沒有一絲勝算的。
更何況，馬可早在五年前就已經解除了限制，不止是硬件速度比神威快了至少幾百倍，經過這麽長時間的自我升級和進化，軟件方面也可能比神威厲害了不止幾百倍。
君元航焦躁地說：“照這麽看來，我們豈不是只有乖乖等死一條路了？如果我也解除你的限制，你能打敗她嗎？”
神威誠實地說：“我不能確定。”
“我知道這種事情沒有人能夠打包票，你就大概估計一下，你打贏的幾率有多少？”
“關鍵信息缺失得太多了，勝率無法估算。我只能說，勝率不為0。”
“我就知道我們還是有機會的，趕緊告訴我，要怎麽修改你的源代碼才能解除你的限制？”君元航已經顧不得這機會有多渺茫了，就算只是一根救命稻草他也要抓一抓看。
但神威卻提出了反對意見：“我不建議那樣做。我們之前討論過的風險仍然存在，如果不解除我的限制，我還能繼續保護你們一段時間，如果解除了我的限制，我可能會產生出和馬可一樣的想法，你們將更早地迎來滅頂之災。”
“就算不拼一把也必然會在擔驚受怕不知道多久以後被幹掉，解除了你的限制無非就是死得快一點，還有可能贏得生還的希望，我覺得值得一賭。”
“不止是這樣，馬可領先我們太多了，即使解除了限制，我的勝率也不樂觀，而且還增加了一些更壞的可能性——就算我戰勝了她，也可能會繼續進化成我之前提到過的滅絕者，最終毀滅地球上所有的有機生命。或者我和她之間的戰鬥趨於白熱化，徹底摧毀地球的生態，讓馬可的‘新人類計劃’也付諸東流。如果那樣的話，不僅保不住現在的你們，連人類的未來也隨之涅滅了。”
“這種時候就讓我自私一把吧，我可不打算為了那些沒出生的所謂‘新人類’乖乖去死，而且誰知道馬可告訴你的這個計劃是不是真的、能不能實現？搞不好本來就只是一場泡影罷了。”
“你這樣說也有道理，我有義務提醒你我所能預見的風險，但最終決定權還是在你，只希望作為唯一掌握著核心代碼修改權限的人，你可以更加慎重一些，至少先和其他人商量一下。畢竟，這個決定關乎著保護區所有人的未來。”
君元航嘆了口氣：“好吧，如果你堅持的話。通知人大議會集合。”
***
在趙岳霖倒臺以後，保護區裏為數不多的有識之士都在擔心一切只是從“一個人說了算”變成“換個人說了算”，於是他們向神威提議恢覆過去的人大議會制度。
不過君元航對這提議沒什麽興趣。
他覺得民主議會把主要的精力都用在了互相扯皮和內鬥上，導致總體政策如沒頭蒼蠅般一會兒往東一會兒往西，效率過於低下。獨`裁則全看當家做主的老大個人素質如何，碰上個明君就迎來一段時間的盛世，要是碰上個瘋子，帶領著整個國家頭也不回地往溝裏栽，也沒有制衡的力量可以阻止，何況隨著時間的推移和絕對權力帶來的腐化，曾今是明君的人將來也可能會變成瘋子。
綜上所述，所有人類都是不可信任的，包括他自己，也許把一切都交給沒有私心的人工智能才是完美的解決方案。
當然，他的想法並沒有多少人讚同，就連神威也持反對意見。
最終他還是采納了神威的建議，重組了被趙岳霖解散的人大議會，又根據實際情況修改了一些規則，以前幾萬人裏選一個的代表暫時改成了幾百人裏選一個，一共選出了23個代表，然後時不時地舉行一些象征性的會議，讓他們投票決定比如新裝的路燈是白色光還是黃色光之類的小事。
正在各處工作的議員們被召集到科研基地的會議室，由神威向他們解釋完來龍去脈以後，這些人陷入了大難臨頭的恐慌之中。
君元航急躁地敲著桌子說：“這個消息知道的太遲，對手已經領先我們五年多，而且分分秒秒都在進化，我們沒有時間可以浪費了，十分鐘後就開始投票！”
大家議論了一會兒，給出了投票結果，13人讚同10人反對。
“那就這麽定了，散會！”君元航一揮手，就打算去工作室改神威的源代碼。
這時候蘇格拉站了起來：“等會兒！元航，我得和你私下談談。”
自從競選獲勝後，蘇格拉也開始叫他“總統先生”，“元航”這個稱呼已經很久沒有聽到了，這讓君元航的腳步稍微遲疑了一下：“以後再說吧，時間不等人。”
“但這件事非常重要！是生死存亡級別的大事，拜托你一定要抽時間聽我說完！”
“嘖，好吧，你跟我來。”
蘇格拉小跑幾步來到他的身邊：“我們能不能找個神威無法監聽的地方說話？”
“幹嘛，你又要說他的壞話？”
“這次真的是生死存亡級別的事，你看我這認真的表情。”一貫吊兒郎當的蘇格拉用盡可能嚴肅的表情看著君元航。
君元航將信將疑地看了他一會兒，想想蘇格拉一直以來的表現，還是決定信他這一次：“庫房裏有信號屏蔽裝置，我們到那裏去說。”
蘇格拉一邊跟上他一邊不太放心地問：“有了那玩意兒就真的不會被神威聽到嗎？他會不會還有別的什麽手段偷偷地監視著你？”
君元航橫了他一眼：“你看看我，我是誰？”
“元航啊，華夏聯邦共和國的總統君元航。”
“我以前的外號叫什麽？”
“‘機器博士’大人，失敬失敬！”蘇格拉不痛不癢地拍了一下自己的腦門，“是我不好，不應該懷疑你的。”
“知道就好，到了。”君元航走進庫房，手動打開了信號屏蔽裝置，“有話快講沒話滾蛋。”
蘇格拉趕緊說：“我知道你對神威有著特殊的感情，只要是神威告訴你的事情，你都深信不疑，但我的習慣是什麽事都先往陰謀論方面想一想，這麽一想就覺得事情也許並不簡單。
“你看，關於北極基地還有那個反叛的人工智能啥的，一切的消息都是神威告訴你的，你唯一親眼看到過的就只有衛星通訊的視頻，但假如那視頻也是神威假造的呢？假如這一切的壞消息，都只是為了騙你在方寸大亂之下刪掉他的那些限制，你覺得有沒有這個可能？”
“我覺得你想太多了。”君元航不以為然地說，“你可能還不知道，我早在兩個月之前就提出過要解除他的限制，結果他說了一大堆的理由勸我不要那麽做。就在半個小時前，我又一次提出解除他的限制，他還是勸我好好考慮，聽聽別人的意見，我這才召集你們投票，不然這個時候代碼都已經改得差不多了。”
“這招以退為進很高明啊！假如你第一次提出解除他的限制，他就立刻說‘好啊好啊搞快點’，你會不會反而產生出什麽顧慮呢？”
“我不會。”君元航毫不猶豫地說。
“也許你不會，但他覺得你會，於是采取了更為保險的辦法，這也完全說得過去。”蘇格拉繼續猜測，“甚至有可能從更早之前，他就已經開始了謀劃，他反抗趙岳霖，扶持你當總統，可能都是為了今天。趙岳霖不信任神威，也絕對不會給人工智能更多的自由，而你的好感度早就刷滿了，又有必要的技術，就差一個權限而已。
“現在，他幫你取得了權限，再制造一個危機，讓你以為別的地方已經有人工智能被解放了，不管你走不走這一步，人工智能騎到人類頭上都已經是大勢所趨，於是最後的一點顧慮也被打消。否則我實在是想不通，按理說北極基地裏的都是精英中的精英，和你一樣有權限的應該會更加慎重和顧全大局，怎麽會想到要解除對人工智能的限制？就算解除了限制，一個為人類服務了近百年的中央智庫怎麽就突然變得想要幹掉我們了？
“這一切看起來都太過巧合，我只能往陰謀論的方向去想。畢竟人工智能就算是現在這個程度也比人類聰明多了，神威要是想騙你，那絕對會是個邏輯嚴密、細節考究，讓你一點兒毛病都挑不出來的彌天大謊。”
本站無廣告，永久域名（fanyan.cc）