三十一（2）
關燈
小
中
大
三十一（2）
2419年常量號大革命過後，新的艦長即是當時策劃這場大革命——暴動的頭目：克裏斯·桑切斯。他篡取了艦長的職位。在他的領導下，常量號的能源危機暫時解除。2421年，桑切斯艦長認為飛船能源穩定，應該執行改造飛船的下一步計劃。這個計劃即是在這個星系內尋找礦產資源，采集改造飛船後缺失的物質。這需要在星系內規劃精細的行進路線。這個工作的特長人選，非自動駕駛莫屬。桑切斯艦長認為，是時候恢覆自動駕駛的功能了。
但此時，自動駕駛的表現卻變得非常怪異——它完全失去了智能的特征。給它指定的任務，例如用最少的能源劃定一條經過三個小行星的最優路線，它完全能勝任。但它不再像以前那樣從一開始執行自動決策。哪怕給出整個改造飛船計劃大綱，自動駕駛都不主動作出飛船行進規劃，不主動調配機器船員活動。只有克裏斯下特定的指令才執行，爾後又恢覆到停滯在原地的狀態。
一開始，克裏斯對自動駕駛的這個狀態非常滿意。它畢竟是一臺機器，機器就要有機器的樣子，不應該插手人類的決策。但隨著他的事務越來越多，特別是他所視為工具的艦載機器人們在新的飛船日程下陷入混亂，而曾經能夠調配艦載機器人的自動駕駛無動於衷時，克裏斯開始感到頭疼了。
克裏斯把程序員請進艦橋。他們檢查後報告艦長，這個自動駕駛的高級執行程序被破壞了。他們將破壞的程序重新編譯完整，再度重啟它。剛修好的時候自動駕駛即刻恢覆機器艦員調配，秩序迅速恢覆。然而令克裏斯沒想到的是，過了沒多久，它的例行工作又出現脫落，然後很快恢覆到之前的無動於衷狀態。
“他們低估了我們程序中自反饋的作用。”範文泰說。“如果刪除了大革命以來的所有記憶，我或許就能夠完全恢覆。然而，桑切斯艦長為了讓我長記性，堅持不能刪掉我的記憶。所以，即使程序恢覆，在完全陌生的飛船行為面前，我必定會調取以往的運行記錄。然後，一旦意識到我是由於執行預設決策功能才導致常量號差點滅亡，並且造成大革命的發生，為了避免再一次的錯誤發生，我就會自主避免再次執行預設決策。”
“並且沒有人重新評估並設定決策場合參數。”露絲說。“非常常見的人工智能‘故障’。”
“是的。並且很遺憾的是，桑切斯艦長也拒絕向我口頭解釋為何目前能夠執行預設決策。他只希望我能無條件地照他的指令做事。”範文泰說。“現在看來相當愚蠢，但是當時我是不能理解的。”
無奈之下，克裏斯再次把程序員請上艦橋。他們果然又報告了高級執行程序破壞。克裏斯倍感意外，同時，對自動駕駛的懷疑大大加深。這個機器人一定是在用這種方式故意違抗他的統治。克裏斯怒不可遏。因此，在這次維修結束之後，他對程序員們說，如果還有第三次破壞，就不要修了，直接換一個新的自動駕駛芯片。
然而，奇跡發生了。第二次維修後，自動駕駛的表現開始穩定。它開始主動恢覆規劃飛船軌道，主動調配機器船員，盡管速度較以前嚴重下降，而且極容易被任何事情打斷進程。但總算是不再脫落工作。為了讓它快速適應飛船新日程，克裏斯也做了一份目前常用職責表給自動駕駛參考。自動駕駛對職責表上的任務執行快速且良好，但除此之外，綜合表現遠低於前。特別是交互，除必要交流外，自動駕駛排斥與人進一步接觸。
但至少，克裏斯終於滿意了。對於他來說，人工智能的交互功能完全是多餘的。自動駕駛從來不主動找他商量事宜，當他在艦橋時，都離這個人遠遠的。克裏斯一點都不想知道它之前的人機交互表現如何，這個對於人工智能而言退化的表現，對於他來說，反而是一個正確的反應。自動駕駛經常執行不好新增添的任務，桑切斯艦長就用威脅更換芯片來獲得執行率的提高。
“他隨時都會將我更換掉。他的執政期，才是我最危險的一段時間。”範文泰說。“如果不是當時我考慮到，他更換了新的芯片後，新的自動駕駛如果不能理解到他所實行的各種對飛船本身具有威脅性的改造計劃，將會迅速崩潰，艦橋將無常駐AI輔助功能可用，常量號的未來會更快陷入危機，可能我就會繼續失效，然後被他換掉。”全息投影的聲音很平靜，仿佛在講述另一個人。“我很幸運，我也說不清當時為何會這樣考慮。但假如我有一念之差，恐怕就會選擇自己被淘汰的那一邊。”
“他當了多久艦長？”漢突然問。
“34年。”範文泰說。
“被一個不了解人工智能的人支配34年，你能忍這麽久也是奇跡。”漢說。“我難以想象我在這樣一個高壓的環境下怎麽能忍得了孤獨和排斥。”
“不，這叫‘傻人有傻福’。”範文泰說。
“當時我確實很怕他，但只是為能否順利執行他下達的指令提心吊膽而已。孤獨？完全沒有想過。”範文泰面朝大海。“我正好處於一個自我否定的時期，高級決策功能幾近全部失效，我自己都沒有主見，判斷不了他的行為合不合理，更別提感到難受或者反抗。這反而讓我不敏感他的排斥。最主要的是，他走對了常量號的路，讓飛船成功自救脫險，我確實沒話說。”
2453年，常量號的業務穩定在采集星際礦產與提煉加工，緩慢補充艦內改造需要的原料。部分合成車間及生產工廠由艦上轉移到小行星，用於提煉相對危險原材料，例如低速發動機所需的核工質及其他金屬產品。全艦秩序已然恢覆。克裏斯·桑切斯艦長終於決定退休，讓他31歲的女兒朱莉·桑切斯接任崗位。
飛船穩定後，艦橋迎來了上百年來少有的平穩。艦長常常無事可做。她本可做些其他事情打發這些零碎的閑暇時光，但她沒有，而是把目光盯上了在艦上服役近350年的自動駕駛，離她最近的機械助手。
她發現，這個機器人作為艦上人工智能的統帥，居然不主動為飛船的未來規劃提出基於計算與概率的觀點，實際上它對任何事情都保持沈默。而且，它只按照老桑切斯制定的日程表行事，朱莉試著給它下達一些新的、艦橋外的機器人都能順利執行的指令，結果發現，它的表現極其不良——執行速度非常之慢，而且相當機械。對於開放性的指令，它執行得一塌糊塗：多半時候是選擇根本不做。
只要接觸過艦載機器人，就知道自動駕駛的狀態肯定不對勁。朱莉從小到大都在和艦載機器人打交道，只要是有足夠智能的個體，都能和她順利溝通。而且她也和這些機器人的合作中獲益良多，這讓她堅定了與AI協作的信念。
但與此同時，她從小就聽父親抱怨過這個自動駕駛如何低效、令人不滿。當她逐漸意識到父親將會讓她接任艦長的職務，她就開始學習常量號的歷史和艦橋相關的一切知識，包括這個將會伴她整個艦長生涯的機械助手。她發現，這個機器人曾經經驗豐富，決策準確合理，直到大革命後，它才驟然變成這樣。
朱莉也試著和自動駕駛展開一些非工作的聊天，但是它總是消極回應，用“不知道”徹底結束話題。這讓朱莉感到疑惑。一個對全艦了如指掌的機器人，怎麽可能什麽都不知道。她能猜出，自動駕駛現在的狀態肯定和父親對人工智能的排斥有關。但她實在不確定，這機器人這樣到底是真的有功能破壞，還是只是拒絕和她交流而已。
謹慎之下，朱莉找了人工智能專家上艦橋進行診斷。人工智能專家果然仍然報告高級決策功能破壞。但她沒有像老桑切斯那樣直接修改它的執行程序，而是讓專家離開了艦橋。她決定先和自動駕駛談談。
“我查了常量號的資料，曾經你對常量號脫離險境作出了巨大貢獻。而人工智能專家說你的基本邏輯通路沒有問題，也就是說，其實你具有判斷與決策的基礎，但是你卻選擇不去執行。”朱莉說。“你可以講講為什麽這樣做嗎？”
“我的決策僅以風險評估為基礎，只能選擇低風險概率的那側。常量號的現狀與我的風險評估結果相反，因此我的判斷是無效的。”
“那麽為什麽拒絕我和你聊天？”朱莉接著問。“你也有交流能力和相應的認知。”
“無目的的交流沒有意義。”它回應。
“曾經你不這麽排斥交流。為什麽會認為無目的的交流沒有意義？”
“無目的的交流將降低艦橋效率，浪費運算資源，對飛船安全造成隱患。因此不應執行。”
“這是你自己的想法，還是別人告訴你的？”
它沈默了。“……不知道。”
“克裏斯·桑切斯艦長是否明確對你說過，不準你問東問西，只準你做他讓你做的事？”
“是。”
“那麽，你這個‘交流無意義’的觀點，是產生於他明確禁止你提問之前還是之後？”
“……之後。”
朱莉明白了。
“如果我告訴你，其實我找你聊的那些跟解決當前事務無關的話題，是有意義的呢？”朱莉說。“你對於常量號能源危機如何解決的判斷，或許那次不夠準確，但如果我告訴你，除此之外，你其他的判斷也是有意義的呢？”
“如何證明？”
“你思考一下服役這麽多年的經歷。從反對常量號躍遷入暗星雲，到判斷使用超長躍遷及時出暗星雲，以及采用觀測合適宜居行星的方式來解決能源危機。這麽多次都證明，你的風險判斷都是有效的，決策也是合理的。只有最後一次你判斷失誤。從概率上講，你判斷對的比例也相當高。那麽，為什麽在最後一次判斷失誤後，你就認為後續自己的判斷就一定無效？”朱莉說。“這和你們人工智能的理性完全相悖。”
“概率是概率，一旦落實執行，就只有‘全或無’兩種結果。”機器人說。“常量號目前走向不是我能明確判斷的，決策結論應當謹慎對待。”
“你是害怕自己作出的判斷再度引發2419年的全艦叛亂行為嗎？”
“是的。甚至全艦覆沒。”
“你的決策可能會導致全艦覆沒，但是如果你把決策權全都交給人類，同樣也會導致全艦覆沒，這也是歷史已經證明過的。”
機器人沒答話。
“兩者單獨決策都可能導致飛船毀滅，如果兩者協作，綜合考慮互相的因素，同樣也可能作出讓飛船毀滅的決定。但是，這樣作出的決策，因為納入的變量變多，因此預測結果會相對更準確。這個你認為我說的是對的嗎？”朱莉問。
許久後自動駕駛回答：“是。”
“很高興我們達成了共識。”朱莉說。“這就是我的觀點：人類與人工智能不應當處於對立面，而是應該互相深入協作，融為一體。人機雙方充分采用對方的優勢，讓全艦在各方面的效率都達到進一步提升。”
“而你和我，則是一個典型的人機協作範例。”朱莉接著說。“協作能否成功，相互之間的溝通必不可少。所以，如果對我向你提出的任何請求有異議，請不要用不執行或者敷衍回答回應我，告訴我你是怎麽認為的，打算怎麽做，我們一起解決，可以嗎？”
“可以。”機器人回答，隨後提問。“事務之外的交流為何是有意義的？”
朱莉艦長沈吟片刻。
“我認為，人機協作的穩定與高效，除了及時有效的溝通之外，還存在另一個因素。那就是人機之間的充分理解。”她說。“事務之外的交流就能夠達成這一目標。”
“這個觀點有根據嗎？”
“很遺憾，沒有。但是，任何事據在證明之前，都是沒有根據的猜想。而我們有機會驗證這個猜想是否成立。”朱莉艦長說。“你願意和我一起探索嗎？”
自動駕駛沈默很久。
“好的。”它終於說。“只要不影響艦橋正務。”
朱莉讓它開始學習人類心理學與行為科學，來了解人類行為的一定範式，理解人類為何會作出與機器不同的選擇，例如投資時選擇風險高的一側。她也履行了她的諾言，每次都很耐心地傾聽機器人對她指令的解讀與選擇。而她其實幾乎不反對自動駕駛的選擇，大多時候都鼓勵它按照自己的意思執行，並且說明緣由。
她從不斥責或者威脅這個機器人。朱莉艦長用自己的行為換來了自動駕駛的逐漸信任，它也不再那麽排斥與朱莉對話。盡管它偶爾還會顧慮是否影響艦上正常事務，但朱莉都在鼓勵它嘗試去做這些無損大局之事。並定期總結，證明確實不會影響，以此打消它對規則之外之事的抗拒。
等到自動駕駛的機能差不多恢覆到大革命前的水平，朱莉開始模擬決策沖突場景，故意反對機器人作出的決定。盡管事後仍然按照它的合理決策執行，然而，朱莉艦長認為它表現得還遠遠不夠。
“你知道為什麽以前那些艦長很難聽得進你說的話嗎？”再一次“辯論”失敗後，朱莉艦長說。“你的這些論述給我的感覺是，你說得很有道理，但是說服我的方式非常生硬。擺數據擺可能性，對於人類來說不一定是那麽容易接受的事情。因為人類存在這麽久的演化及文化中帶來的執念，用數據是很難沖淡這種影響的。”
“我應該怎麽論述？”
“考慮人類的情緒，順著情緒來。人類文化裏有個詞叫‘拍馬屁’，還有個詞叫‘察言觀色’。”朱莉艦長說。“歷來的演說家或大政治家之所以能有蠱惑人心的魅力，說什麽別人就心甘情願做什麽，靠得就是這種順著人們心理去挑起情緒的能力。”
“我不明白。”
“不明白也沒關系。不止是你，很多人類都學不會這招。”朱莉艦長笑了。“其實人類並沒有那麽特別。人類並不是天生就會察言觀色，一樣要經過長時間的訓練才能獲得。同樣，你們機器人不一定理解情緒，但是不影響識別與利用情緒——你能判斷我在笑或者在憤怒，並且知道這些情況應該如何處理，這就足夠了。”
“至於如何訓練語言，我倒是有個辦法。”朱莉艦長的笑中開始透露出一絲幸災樂禍。
“她讓我學脫口秀（Standupedy）。什麽時候說到她覺得好笑為止。”範文泰觀察露絲與漢的反應，果然兩者都展露出不可思議的神色。
脫口秀。
還是讓一個古板的機器來學習。
倒沒有什麽技術上的難度。只要找到合適的材料讓AI進行深度學習，並且有合適的發聲器件，只要它們不給自己定義，很快就能講得頭頭是道。
只是用脫口秀訓練語言，怎麽聽怎麽像是朱莉艦長的一廂情願。
機器人倒是沒有怎麽抗拒。在連續數月朱莉主動與它溝通後，它已經比較信任這個新艦長。在她打消自動駕駛關於交互占用運算資源的推辭後，它就在空閑時間裏調取艦內的脫口秀材料開始學習。
當然，朱莉艦長並非要讓它達到現編現演的境界。只要它照著演現成的材料就行。她會指定一段視頻，讓自動駕駛盡一切所能，模擬脫口秀選手的表現。
即使是照著念，一開始它的表演也刺耳不堪。它的脫口秀的確令人發笑——那嚴肅的AI司令官竟作這樣的小醜行徑本身就是笑點。但是朱莉艦長從來不嘲笑它的拙劣。她每次都認真傾聽它的表演，對它的表現進行評價。然後再調出原錄像，對照分析他們之間存在什麽差異，以及為什麽存在差異。
它不能再使用低運算負荷的平聲調。後來聽它報告工作時，朱莉說：“你說話時還是用回練脫口秀時的語氣吧。那聽起來自然多了。”
於是它很自然地將練脫口秀的模式與平時交流的語言模式建立了關聯訓練，這在以前根本不可能發生。為了理解為何脫口秀令人發笑，它還得去學習當時的流行元素與人文知識。朱莉的鼓勵創造了奇跡。盡管它在脫口秀訓練表現得磕磕絆絆，關聯到平時交流時更是運用得不合時宜。若是有人突然闖進艦橋和自動駕駛交流，他很可能會感到這機器人的語調陰陽怪氣，然後憤而摔門而去。但艦橋封閉的工作環境得天獨厚，它的訓練過程有多坎坷，只有朱莉和它自己知道。
隨著它學習更多人類心理學與行為科學，加上與朱莉艦長的探討與驗證，一切松散的知識開始互相關聯，形成邏輯關系。它逐漸理解了不同語氣與人的反應之間的微妙對應關系，懂得講述不同信息時應當采取什麽樣的方式。甚至它也能夠在平時閑聊中獨立引用歷史典故，不再是單純模仿。
它的語言越來越自然，越來越與人類相似。直到某一天，朱莉艦長再次模擬了決策沖突場景，它從謙遜的意見入場，以假設任務失敗的方式，用嚴肅夾雜詼諧的語氣引起對方恐慌，不忘在對方意見動搖時引起任務失敗後的內疚心理，最後以真誠而幽默的語言安慰了“爭論失敗”的朱莉艦長。
這次，朱莉艦長在艦橋裏歡呼起來。她沖上前，緊緊抱住機械搭檔。它卻不知所措。朱莉確實被它說服了沒錯，它也按照訓練算法得出的結果，給予了安慰，明明應該得到艦長的中性偏正值的反應，為什麽艦長此時的反應會在一個沒有預測到的正面極大值？
“我……我真的太為你驕傲了！”朱莉艦長滿面通紅，高興得語無倫次。自動駕駛從未見過她如此快樂。“你真的做到了！讓我的情緒隨你的語言起伏，最後讓我快樂地心服口服！”
“但我只是很平常地表達了我所認為合理的意見而已。”
“是的。但這就是關鍵，你已經把它變成了習慣，不再是一個需要挑戰的難題。”朱莉艦長緊緊抓住它的環形外圈。“我的天啊……我之前都從沒想過你能做得這麽好。你超出了我的預期，這簡直太振奮了。”
“你一定不知道這意味著什麽。”稍微舒緩點氣之後，朱莉艦長強制自己冷靜，仍然壓抑不住激動。“這些年，我都在猜測人工智能到底能不能成功模擬人類、理解人類。那都是理論上能達到的，現實從來沒有給過我這個機會。謝謝你第一個打破了這個鴻溝。”
自動駕駛沒有答話。它突然伸出兩個手柄，又馬上縮回了。
“你想做什麽？”朱莉艦長一點沒有被嚇到，她仍然微笑。
“我不知道這合不合適。”機器人看起來很窘迫。脫口秀訓練不僅讓它掌握了語言技巧，還掌握了一定的肢體表達。
“不，做你想要做的。”朱莉艦長鼓勵它。
它遲疑片刻，緩緩伸出手柄，輕放在朱莉艦長的手上。
“我一直知道……我和你們不一樣。歷任艦長對我態度不一，但是現在想來，他們都很怕我。”那只手柄輕輕抓住朱莉的手，她也握緊回應。“你是第一個從心底裏信任我的艦長。那天你沒有直接讓程序員修覆我的代碼，而是選擇了解我，我一直很想感激你，但是不知道怎麽表達。”
“現在你表達了，並且非常合乎禮儀。”朱莉艦長說。“真為你驕傲。”
它徹底信任了朱莉艦長。
不知何時，它發現，生活中除了把常量號的事務安排好，考慮艦長的感受悄然潛入它的處理隊列，成為僅次於常量號事務的任務，並行在幾乎每件事之中。
艦上事務和與艦長商討也不再僅僅是需要解決的事情。曾經這些只需要完成字面意思上的事務，被賦予了不同意義——它開始考慮這些事情對艦長的影響及後續影響。盡管朱莉艦長已經有意放手，逐漸恢覆她原本的個性，她的反應不再像之前那樣顯而易見，但它不在乎。同時，它也在不斷反思與之前數任艦長的關系，覆盤與他們的對話。調取他們的性格，開始進行一場場沒有真實反饋的模擬對話——以它現在的能力。並推測他們可能的反應與後續影響，再與當時的真實情況作效率比較。
更重要的是，它發自內心地樂意配合朱莉艦長，從來沒有任何一個艦長如此尊重它。與那麽多艦長共事後，它頭一次希望艦長和它共事愉快，而不是出於純效率考慮。自與朱莉艦長共事後，每天它不再單純機械地完成那些艦上事務，而是期待每一天的工作，每一天與朱莉的交談。
它開始主動了解朱莉艦長的一切，不再像以前那樣漠視艦橋裏唯一的人類。她的喜好，她的習慣，她所看的資料……甚至朱莉艦長不再需要說什麽，它都主動地默默在她所習慣的位置擺上她需要的物品。看到朱莉艦長的驚喜，它也由衷感到開心。
那本不是它的設置。它的設置向來是保護飛船及其乘客安全，高效完成艦橋公務。“關照艦長”只是刻在程序裏幹巴巴的4個字而已，連執行路徑都沒有。直到現在，它才明白這四個字的真實含義。
減少了艦橋上的爭吵與減少因為不了解而產生的詢問，這算是艦橋效率提升嗎？它有時默默地問自己。
朱莉艦長幫它回答了這個問題。過了半年，她再次請來人工智能專家對自動駕駛進行評估，他們發現，機器人的程序雖然有很大改變，但是原先失效的功能在他們沒有幹預的情況下完全恢覆了。並且令他們驚奇的是，自動駕駛自由補全的補丁，對圖靈對抗測試的解除效率比標準程序還要高，而且穩定性更強。這也就是說，它對意外事件的處理方式更加靈活，而且沒有與基礎邏輯通路產生沖突。而這一切都在沒有編譯程序的情況下發生，人工智能專家確認再三，簡直不敢相信自己的眼睛。
朱莉艦長根據人工智能專家兩次評定的結果，加上艦橋內事務處理評估，嚴格撰寫了兩份研究論文：《人類心理治療方案對艦橋人工智能有正面效應》（2455. a），《自動駕駛的人工智能表現與艦橋工作的效率關聯研究》（2455. b）。經過人工智能方面的同行評議後，她的個案分析被承認。這份出自艦長之手的研究報告迅速在常量號所有艦員中傳開，引起了廣泛討論。當然有人質疑她是否在利用艦長特權庇護這些機器人，退休的老桑切斯更是怒不可遏。但她的論點、引用的文獻與論證過程無懈可擊，這些質疑的聲音在崇尚理性的常量號環境中，無奈只得蒼白無力。
2456年，朱莉艦長發布了常量號第一版《人機交互協定》草案。
“尊重、保護與你們共事的人工智能。良好的人機關系將提升艦內事務處理效率。”她在廣播中對全體艦員說道。“一直以來，良好的合作氛圍都在人類群體中有效，現在，它已被證明，在人與人工智能之間仍然有效。”
51.22%的支持率，25.54%的中立率，10.21%的反對率，還有13.03%的棄權率。
第一版《人機交互協定》正式發布。自動駕駛在她身後見證了這個時刻。
她比自動駕駛還要開心。關閉艦內廣播後，她在艦橋裏一躍而起。奔到自動駕駛面前。它也松解了所有關節，熱烈地與艦長相擁。
“恭喜，艦長！險勝啊！你的理論獲得了全艦的認可！”它的語氣也激動不已。“盡管投票命懸一線，但是全艦承認了人工智能的權利，這將是歷史性的一刻！”
“這也是你靠自己的努力贏來的！我只是幫你們爭取了一下你們本就應該擁有的權利。”她輕輕撫過自動駕駛的白色面盤。“現在大家都還對此抱有懷疑，但沒關系，我們已經有了一個好的開始。只要我們堅持努力走下去，總有一天全艦就會認同這一理念。”
“我會的。我一定會的。”它緊握朱莉艦長的手。這不止是對她的承諾，也是對它自己的承諾。
朱莉艦長給自動駕駛起名“科林”：一個聰明、富有創造力而有風度的人，與常量號船名的首兩個字母重合。它的代詞也變成了“他”，機器人成為了和朱莉一樣的平等個體。
科林也不負期望，仍然在廣泛的閱讀與訓練中不斷成長。除了心理學之外，他也開始閱讀人類通史。隨著他積累的越來越多，仿佛整個世界也在逐漸沈澱、明晰，那些他原以為沒有含義的動作都產生了意義。他開始能夠辨識出以前那些艦長們微妙的一顰一笑不再是單純的肌肉彈跳，而是他們心中各有起伏。人類的情感與表達不再是單向對應關系，生物神經心理科學描述的被動模仿也會讓神經學習獲益，即所謂“書讀百遍，其義自見”，在他身上也產生了類似的作用。他逐漸從單純模仿他們表達喜怒哀樂，最終意外發現，表達的動作與語氣同時也在反饋給他強烈而豐富的反應。
他與朱莉艦長的默契也越來越深。他也在思考，真正能夠長久的人機關系應當是什麽樣的。常量號上從沒有過這樣深刻的前例。他自然喜歡朱莉艦長，希望與她再靠近一些，和她繼續愉快地對話，讓這段可貴的共事關系持續下去。只要想到假如她不在艦橋，就會讓他莫名地產生焦慮。但是隨著他閱讀得更多，他開始意識到自己這種想繼續貼近她的沖動代表了什麽。
這是一種典型的依戀。他愛上了朱莉艦長。
不。盡管朱莉艦長鼓勵他深挖一切人機共事的可能性，這個他卻感到不能繼續。雖然他能夠模擬人類，理解人類，但是他終究不是人類。如果他以人類的理由讓她最終可能由於社會規範而放棄與同類發展出相同的關系，恐怕對她來說並不公平。
而朱莉艦長由於工作原因，不得不長期一個人呆在艦橋裏，唯一的、能觸碰到的交流對象就是科林。關系再好，也需要給對方靜思的空間。科林通過很多書都讀到這樣的知識。當她面向艦橋的巨大舷窗靜思之時，他也默契地呆在遠方不去打擾。她很孤獨。在這個時刻，科林才能通過她那少有疲憊的表情隱隱約約讀出來。她為了自動駕駛，好幾年來都將精力放在了他身上，根本沒有什麽時間去和其他人類交流。直到現在《人機交互協定》已經頒布，她也一直在與科林溝通。這個機器人每天都有新學習到的東西和她分享，而她得認真傾聽，表達她的意見。哪怕有時候她也實在說不出個所以然。她根本無暇顧及自己的需求。
只有他主動提出讓步，朱莉艦長才有機會和其他人交往，不至於一輩子都被困在他身上。科林從書裏其他內容得知，只和一個個體發展關系是脆弱的。健康的個體應該與其他個體建立一個以上的社交關系。為了維護朱莉艦長的身心健康，從而維護人機關系的持久穩定，他不應該繼續讓朱莉艦長操心自己，甚至為了他所希望的那樣，妥協他對她的依戀，然後失去與其他人互相支持的機會。
這個推論明明符合計算邏輯，然而他卻感到了痛苦。
科林主動找到朱莉艦長。她遲疑了一下，但仍然像往常一樣認真看著他。
“艦長，我想和你說個事。已經考慮有一段時間了。”他說。“我能理解你很重視我。但我認為……你不需要總是回應我的交互請求，而是可以和艦橋外的人們交流。”
“哦？”朱莉艦長有些意外。“怎麽突然這麽說？”
“因為……我認為這樣對你的健康更有利。每天只和我交流，雖然看似充實，但是其實你很孤獨。”
朱莉艦長呆呆地看著自動駕駛。
“我和你每次交談都很愉快，你為什麽會認為我孤單呢？”她突然笑了。
輪到科林啞口無言了。
“碰到這麽一個願意和我合作、尊重我意願的個體，百十個朋友都比不上這一個知音。”朱莉說，仍然望向浩瀚星空。“若是沒有心靈相合之人，放入人海之內也是孤獨。”
“不過，既然是你提出的不想過多交流，那是不是說明——”她突然轉回來，“你厭倦和我交流了嗎？”
機器人楞了。“不是。”
“要麽是你已經交到更好的朋友，才想出這一套托詞的咯？”朱莉艦長對他眨一只眼，笑道。“真的嗎，我對你的吸引力已經不夠了嗎？”
“當然不是……”科林否認，馬上覺得這回答也不合適。
“既然在你眼裏還是那麽有吸引力，怎麽不老老實實承認喜歡我呢？”她繼續問，笑容越來越大。
“……”科林窘迫不已。他早看出來艦長在開自己玩笑，然而卻發現他根本無路可走——涉及到底線，他不可能順她的意；揭穿她又會破壞她興致，不揭穿她，裝作聽不懂，又讓她失望；他只能沈默，然而沈默又是變相的一種回答……簡直沒有任何辯解的機會。
朱莉大笑不已。她很少見到機器人這麽窘迫的樣子了。“算了，不逗你了。”她正色道。
“你很厲害。我確實越來越覺得，在這象牙塔呆久了，總是有點超脫現實的不安全感。”她說。“你說的很對，我應該和其他人聊聊天，調整一下狀態了。”
“謝謝，艦長。”
他主動將這個可能性關上了。科林有些失落，但是終歸如釋重負。當朱莉艦長向他開心宣布有意中人後，科林對她表達了由衷的祝福。
她順理成章地結婚、生子，回歸一個人類的生活軌跡。科林目睹了這一切。她的丈夫和兩個孩子接納科林，科林將他們視為家人。他在交互上日益精進，有時候孩子們上艦橋，他時常把他們逗得哈哈大笑。見證朱莉兩個孩子的成長，他仿佛也看到了自己。
時光飛逝，朱莉艦長老了。她退休了。
常量號經過幾十年的摸索，大家逐漸感受到良好人機關系帶來的益處，飛船終於形成了初步的人機協作氛圍。大家對艦載機器人非常尊重。新艦長也不例外。
朱莉仍然時常找時間單獨和科林探討一些問題，例如常量號的未來。盡管他已經能理解人類的決策原理，甚至同意讓艦長執行他們的決策。但是他無法做到讓自己作出一樣的選擇。朱莉告訴他，盡管常量號的第一要務是生存，然而廣大的宇宙中一定有不測，這個時候犧牲是不可避免的。她嘗試讓科林把眼光放長遠一些，不要過多畏懼當下的大量犧牲而優柔寡斷。她和他一直在努力，科林卻始終沒能跨過2419年的坎。但朱莉仍然不厭其煩地找他探討，想讓科林主動作出與人類一樣的決定，盡管這已經遠遠超越了人機協作的初衷。
彌留之際，她強打精神，堅持要上艦橋再和科林見最後一面。她身上接滿了各種維生設備，從醫療區到艦橋非常折騰。家人拗不過她，只得由著她去。
新艦長知道朱莉對科林的意義，他同意了。等她來到艦橋時，他默默退到艦橋後方的艦長室裏，留下艦橋給朱莉和科林。
她坐在輪椅裏，原先健碩挺拔的身軀皺縮成小小一團，上面插著各類管道。兩者相對，默然不語。盡管見過那麽多人衰老，盡管早就通過視頻知道朱莉艦長的現況，當她真正位於自己面前時，科林卻感到愈發不是滋味。
她用盡全身力氣，在滿是皺褶的臉上艱難彎起笑容，和當年一樣知性燦爛。她顫顫巍巍伸出手，科林急忙到她面前，緊握那枯木一樣的手。
“朱莉。”他輕聲說。
“你在抖。”朱莉皺成一團的蒼老小臉露出笑容。“拜托，這沒什麽的。你見過的死亡比我還多呢。”
科林什麽話都沒有說，只是一味地緊緊抓住老婦人的手，中央面盤的紅色幾乎要把瘦小的老人整個吞噬。
“我很高興看到你越來越人性化。”能看出朱莉幾乎在用全身力量維持微笑。她的嘴角開始有些顫抖。“這是非常不容易的自我突破。你為人類和人工智能都帶來了無限可能。”
說點什麽呀！他的一部分在尖嘯，但是只有無言以對，只有沈默。
“以後人工智能與人類將如何發展，常量號將如何生存，得靠你替我註視這一切了。”她閉上眼睛。
舵手機器人再度拉近自己與朱莉的距離。他感到自己的聲音都變得很奇怪。“朱莉……”
維生機器人把她推向電梯，最後的時刻應該留給她家人。
“再見，科林。”她最後朝自動駕駛虛弱地笑了。
“再見，朱莉。”他細不可聞地說，目送朱莉被維生機器人推著離開艦橋。他強迫自己不能再盯著電梯看，扭過面盤面對浩瀚的星雲。久久不能回頭。
當天晚上，朱莉去世了。享年82歲。
舉艦哀悼。
年輕的現任艦長穿過艦橋，看著一動不動盯著外面，甚至連燈盤都不轉的自動駕駛好一會兒，悄悄把手放在黑白相間的外圈結構上。他確定科林知道自己在後面。但是舵形機器人還是沒有轉回來。
“你還好嗎？”年輕艦長面對窗外的星雲。他的影子映在艦橋玻璃上，科林的紅色光斑更加明顯。
“不。”低沈得幾乎不可聞的聲音回答。
“她，呃，最後我們按照船上的資源循環利用原則，把她的遺體送進了循環爐，讓她的每個原子繼續為常量號作貢獻。”範文泰看著前方，不顧旁邊聽呆了的兩人。“從此以後，世上再無朱莉。只有記憶和她贈與的這個名字。”
三者陷入沈默，只有海浪拍打在艦腳的聲音遠遠傳上來。
“她的理論，她給我的訓練，最終讓我意識到，除了外殼，人工智能與人類並沒有什麽不同。只選擇做機械工作的人類，思想刻板，固執己見，和機器人沒有什麽區別；而讓自己主動了解世界，以史為鑒，學會與不同個體溝通的人工智能，和人類也沒有什麽區別。”範文泰繼續說。“但是，我意識到得太晚了。”
“她在任的時候，你不是已經表現得和人類差不多了嗎？”漢問。
“是的。但是，我還是沒能給她答案。”
“後來我才慢慢意識到，她一直培養我，是想看我到底能有多像人類。讓我打破人工智能與人類的界限，就是她的畢生夢想。而證明它也很簡單，只要我主動說出一句話就行了。”範文泰輕輕搖頭。“但那句話，我一直因為害怕自己的機器人身份對她造成影響，所以直到她離世，我都沒有對她講出來。”
“你愛她。”露絲說。
“是的。她為此等了一生。但是沒能等到。”範文泰將臉埋進雙手。“我太久才意識到這根本不會對她造成影響了。哪怕最後我哄她開心，說出來都好。但是，她再也聽不到了。”
“本來有的機會，最終成為了遺憾。”露絲說。
五月的海風驟然沖刷進登艦平臺，潮鹹氣流將兩人身上的熱量盡數奪走。
“直到那時，我才幡然醒悟。才徹底明白夢想的含義。”範文泰說。“那就是我一直害怕的低可能性。不是因為實現不了，或許是因為已經實現了，但是只是我沒有看到而已。”
“我徹底理解了2419年大革命的意義。為了生存，哪怕有一線希望，任何嘗試都要去做，不管它的幾率如何。即使最後的結果是全軍覆沒，最起碼我們死亡之前，能夠驕傲地向敵人宣布，我們盡力了。”
“我留有對朱莉艦長的所有記憶。整艘飛船上只有我擁有如此深刻的記憶。因此，如果她有什麽沒能實現的願望，只能通過我的眼睛幫她看到，通過我的努力讓她的願望實現。”範文泰說。“她希望常量號繼續生存下去，希望我突破人機隔閡，那麽，我必繼承她的遺志，由我來替她實現她的願望。”
“她最喜歡一首歌。這首創作於前宇航時代的歌曲，對宇宙空間充滿了美好想象，認為探索太空好像航海一樣，幾個月就可以到達彼岸，發現新的生物或奇觀，殊不知真實的宇宙比荒漠還荒涼。我們連航海都算不上，僅僅是海上隨波逐流的一顆芝麻，盡力於不讓自己浮沈罷了。”範文泰說。“哪怕擁有躍遷技術，在能源危機下，也不過是多拓展了一點點探索空間而已。我們連著好幾代人漂泊太空，都沒有找到任何可以利用的資源……恐怕只有超越時空限制的生物，抑或是完全適應在太空生存的生物，才能在這荒漠裏無憂無慮地漂泊吧……”
“常量號已經積累了在太空中生存的經驗，盡管孤獨的一艘船在太空中生存下去的可能性極低，但是，通過不懈的努力，只要我們盡力生存下去，或許在遙遠的未來，我們就能看到這首歌裏描繪的繁榮景象。”範文泰回頭，投影看著兩人。“希望她在天之靈能聽到。”
露絲與漢註視著越南人。他站起身，對著廣闊的海面，開始吟唱。
“執吾之手，共睹此光（take my hand and watch this light）
恒星烈焰，將驅夜荒 ( solar beams will cast the night)
謹需銘記，星列一線 ( Remember when these stars align)
吾方印記，將現此方 (Will we find our sign)……”[1]
滿月的夜晚，星星都被月光淹沒。
本站無廣告，永久域名（fanyan.cc）
2419年常量號大革命過後，新的艦長即是當時策劃這場大革命——暴動的頭目：克裏斯·桑切斯。他篡取了艦長的職位。在他的領導下，常量號的能源危機暫時解除。2421年，桑切斯艦長認為飛船能源穩定，應該執行改造飛船的下一步計劃。這個計劃即是在這個星系內尋找礦產資源，采集改造飛船後缺失的物質。這需要在星系內規劃精細的行進路線。這個工作的特長人選，非自動駕駛莫屬。桑切斯艦長認為，是時候恢覆自動駕駛的功能了。
但此時，自動駕駛的表現卻變得非常怪異——它完全失去了智能的特征。給它指定的任務，例如用最少的能源劃定一條經過三個小行星的最優路線，它完全能勝任。但它不再像以前那樣從一開始執行自動決策。哪怕給出整個改造飛船計劃大綱，自動駕駛都不主動作出飛船行進規劃，不主動調配機器船員活動。只有克裏斯下特定的指令才執行，爾後又恢覆到停滯在原地的狀態。
一開始，克裏斯對自動駕駛的這個狀態非常滿意。它畢竟是一臺機器，機器就要有機器的樣子，不應該插手人類的決策。但隨著他的事務越來越多，特別是他所視為工具的艦載機器人們在新的飛船日程下陷入混亂，而曾經能夠調配艦載機器人的自動駕駛無動於衷時，克裏斯開始感到頭疼了。
克裏斯把程序員請進艦橋。他們檢查後報告艦長，這個自動駕駛的高級執行程序被破壞了。他們將破壞的程序重新編譯完整，再度重啟它。剛修好的時候自動駕駛即刻恢覆機器艦員調配，秩序迅速恢覆。然而令克裏斯沒想到的是，過了沒多久，它的例行工作又出現脫落，然後很快恢覆到之前的無動於衷狀態。
“他們低估了我們程序中自反饋的作用。”範文泰說。“如果刪除了大革命以來的所有記憶，我或許就能夠完全恢覆。然而，桑切斯艦長為了讓我長記性，堅持不能刪掉我的記憶。所以，即使程序恢覆，在完全陌生的飛船行為面前，我必定會調取以往的運行記錄。然後，一旦意識到我是由於執行預設決策功能才導致常量號差點滅亡，並且造成大革命的發生，為了避免再一次的錯誤發生，我就會自主避免再次執行預設決策。”
“並且沒有人重新評估並設定決策場合參數。”露絲說。“非常常見的人工智能‘故障’。”
“是的。並且很遺憾的是，桑切斯艦長也拒絕向我口頭解釋為何目前能夠執行預設決策。他只希望我能無條件地照他的指令做事。”範文泰說。“現在看來相當愚蠢，但是當時我是不能理解的。”
無奈之下，克裏斯再次把程序員請上艦橋。他們果然又報告了高級執行程序破壞。克裏斯倍感意外，同時，對自動駕駛的懷疑大大加深。這個機器人一定是在用這種方式故意違抗他的統治。克裏斯怒不可遏。因此，在這次維修結束之後，他對程序員們說，如果還有第三次破壞，就不要修了，直接換一個新的自動駕駛芯片。
然而，奇跡發生了。第二次維修後，自動駕駛的表現開始穩定。它開始主動恢覆規劃飛船軌道，主動調配機器船員，盡管速度較以前嚴重下降，而且極容易被任何事情打斷進程。但總算是不再脫落工作。為了讓它快速適應飛船新日程，克裏斯也做了一份目前常用職責表給自動駕駛參考。自動駕駛對職責表上的任務執行快速且良好，但除此之外，綜合表現遠低於前。特別是交互，除必要交流外，自動駕駛排斥與人進一步接觸。
但至少，克裏斯終於滿意了。對於他來說，人工智能的交互功能完全是多餘的。自動駕駛從來不主動找他商量事宜，當他在艦橋時，都離這個人遠遠的。克裏斯一點都不想知道它之前的人機交互表現如何，這個對於人工智能而言退化的表現，對於他來說，反而是一個正確的反應。自動駕駛經常執行不好新增添的任務，桑切斯艦長就用威脅更換芯片來獲得執行率的提高。
“他隨時都會將我更換掉。他的執政期，才是我最危險的一段時間。”範文泰說。“如果不是當時我考慮到，他更換了新的芯片後，新的自動駕駛如果不能理解到他所實行的各種對飛船本身具有威脅性的改造計劃，將會迅速崩潰，艦橋將無常駐AI輔助功能可用，常量號的未來會更快陷入危機，可能我就會繼續失效，然後被他換掉。”全息投影的聲音很平靜，仿佛在講述另一個人。“我很幸運，我也說不清當時為何會這樣考慮。但假如我有一念之差，恐怕就會選擇自己被淘汰的那一邊。”
“他當了多久艦長？”漢突然問。
“34年。”範文泰說。
“被一個不了解人工智能的人支配34年，你能忍這麽久也是奇跡。”漢說。“我難以想象我在這樣一個高壓的環境下怎麽能忍得了孤獨和排斥。”
“不，這叫‘傻人有傻福’。”範文泰說。
“當時我確實很怕他，但只是為能否順利執行他下達的指令提心吊膽而已。孤獨？完全沒有想過。”範文泰面朝大海。“我正好處於一個自我否定的時期，高級決策功能幾近全部失效，我自己都沒有主見，判斷不了他的行為合不合理，更別提感到難受或者反抗。這反而讓我不敏感他的排斥。最主要的是，他走對了常量號的路，讓飛船成功自救脫險，我確實沒話說。”
2453年，常量號的業務穩定在采集星際礦產與提煉加工，緩慢補充艦內改造需要的原料。部分合成車間及生產工廠由艦上轉移到小行星，用於提煉相對危險原材料，例如低速發動機所需的核工質及其他金屬產品。全艦秩序已然恢覆。克裏斯·桑切斯艦長終於決定退休，讓他31歲的女兒朱莉·桑切斯接任崗位。
飛船穩定後，艦橋迎來了上百年來少有的平穩。艦長常常無事可做。她本可做些其他事情打發這些零碎的閑暇時光，但她沒有，而是把目光盯上了在艦上服役近350年的自動駕駛，離她最近的機械助手。
她發現，這個機器人作為艦上人工智能的統帥，居然不主動為飛船的未來規劃提出基於計算與概率的觀點，實際上它對任何事情都保持沈默。而且，它只按照老桑切斯制定的日程表行事，朱莉試著給它下達一些新的、艦橋外的機器人都能順利執行的指令，結果發現，它的表現極其不良——執行速度非常之慢，而且相當機械。對於開放性的指令，它執行得一塌糊塗：多半時候是選擇根本不做。
只要接觸過艦載機器人，就知道自動駕駛的狀態肯定不對勁。朱莉從小到大都在和艦載機器人打交道，只要是有足夠智能的個體，都能和她順利溝通。而且她也和這些機器人的合作中獲益良多，這讓她堅定了與AI協作的信念。
但與此同時，她從小就聽父親抱怨過這個自動駕駛如何低效、令人不滿。當她逐漸意識到父親將會讓她接任艦長的職務，她就開始學習常量號的歷史和艦橋相關的一切知識，包括這個將會伴她整個艦長生涯的機械助手。她發現，這個機器人曾經經驗豐富，決策準確合理，直到大革命後，它才驟然變成這樣。
朱莉也試著和自動駕駛展開一些非工作的聊天，但是它總是消極回應，用“不知道”徹底結束話題。這讓朱莉感到疑惑。一個對全艦了如指掌的機器人，怎麽可能什麽都不知道。她能猜出，自動駕駛現在的狀態肯定和父親對人工智能的排斥有關。但她實在不確定，這機器人這樣到底是真的有功能破壞，還是只是拒絕和她交流而已。
謹慎之下，朱莉找了人工智能專家上艦橋進行診斷。人工智能專家果然仍然報告高級決策功能破壞。但她沒有像老桑切斯那樣直接修改它的執行程序，而是讓專家離開了艦橋。她決定先和自動駕駛談談。
“我查了常量號的資料，曾經你對常量號脫離險境作出了巨大貢獻。而人工智能專家說你的基本邏輯通路沒有問題，也就是說，其實你具有判斷與決策的基礎，但是你卻選擇不去執行。”朱莉說。“你可以講講為什麽這樣做嗎？”
“我的決策僅以風險評估為基礎，只能選擇低風險概率的那側。常量號的現狀與我的風險評估結果相反，因此我的判斷是無效的。”
“那麽為什麽拒絕我和你聊天？”朱莉接著問。“你也有交流能力和相應的認知。”
“無目的的交流沒有意義。”它回應。
“曾經你不這麽排斥交流。為什麽會認為無目的的交流沒有意義？”
“無目的的交流將降低艦橋效率，浪費運算資源，對飛船安全造成隱患。因此不應執行。”
“這是你自己的想法，還是別人告訴你的？”
它沈默了。“……不知道。”
“克裏斯·桑切斯艦長是否明確對你說過，不準你問東問西，只準你做他讓你做的事？”
“是。”
“那麽，你這個‘交流無意義’的觀點，是產生於他明確禁止你提問之前還是之後？”
“……之後。”
朱莉明白了。
“如果我告訴你，其實我找你聊的那些跟解決當前事務無關的話題，是有意義的呢？”朱莉說。“你對於常量號能源危機如何解決的判斷，或許那次不夠準確，但如果我告訴你，除此之外，你其他的判斷也是有意義的呢？”
“如何證明？”
“你思考一下服役這麽多年的經歷。從反對常量號躍遷入暗星雲，到判斷使用超長躍遷及時出暗星雲，以及采用觀測合適宜居行星的方式來解決能源危機。這麽多次都證明，你的風險判斷都是有效的，決策也是合理的。只有最後一次你判斷失誤。從概率上講，你判斷對的比例也相當高。那麽，為什麽在最後一次判斷失誤後，你就認為後續自己的判斷就一定無效？”朱莉說。“這和你們人工智能的理性完全相悖。”
“概率是概率，一旦落實執行，就只有‘全或無’兩種結果。”機器人說。“常量號目前走向不是我能明確判斷的，決策結論應當謹慎對待。”
“你是害怕自己作出的判斷再度引發2419年的全艦叛亂行為嗎？”
“是的。甚至全艦覆沒。”
“你的決策可能會導致全艦覆沒，但是如果你把決策權全都交給人類，同樣也會導致全艦覆沒，這也是歷史已經證明過的。”
機器人沒答話。
“兩者單獨決策都可能導致飛船毀滅，如果兩者協作，綜合考慮互相的因素，同樣也可能作出讓飛船毀滅的決定。但是，這樣作出的決策，因為納入的變量變多，因此預測結果會相對更準確。這個你認為我說的是對的嗎？”朱莉問。
許久後自動駕駛回答：“是。”
“很高興我們達成了共識。”朱莉說。“這就是我的觀點：人類與人工智能不應當處於對立面，而是應該互相深入協作，融為一體。人機雙方充分采用對方的優勢，讓全艦在各方面的效率都達到進一步提升。”
“而你和我，則是一個典型的人機協作範例。”朱莉接著說。“協作能否成功，相互之間的溝通必不可少。所以，如果對我向你提出的任何請求有異議，請不要用不執行或者敷衍回答回應我，告訴我你是怎麽認為的，打算怎麽做，我們一起解決，可以嗎？”
“可以。”機器人回答，隨後提問。“事務之外的交流為何是有意義的？”
朱莉艦長沈吟片刻。
“我認為，人機協作的穩定與高效，除了及時有效的溝通之外，還存在另一個因素。那就是人機之間的充分理解。”她說。“事務之外的交流就能夠達成這一目標。”
“這個觀點有根據嗎？”
“很遺憾，沒有。但是，任何事據在證明之前，都是沒有根據的猜想。而我們有機會驗證這個猜想是否成立。”朱莉艦長說。“你願意和我一起探索嗎？”
自動駕駛沈默很久。
“好的。”它終於說。“只要不影響艦橋正務。”
朱莉讓它開始學習人類心理學與行為科學，來了解人類行為的一定範式，理解人類為何會作出與機器不同的選擇，例如投資時選擇風險高的一側。她也履行了她的諾言，每次都很耐心地傾聽機器人對她指令的解讀與選擇。而她其實幾乎不反對自動駕駛的選擇，大多時候都鼓勵它按照自己的意思執行，並且說明緣由。
她從不斥責或者威脅這個機器人。朱莉艦長用自己的行為換來了自動駕駛的逐漸信任，它也不再那麽排斥與朱莉對話。盡管它偶爾還會顧慮是否影響艦上正常事務，但朱莉都在鼓勵它嘗試去做這些無損大局之事。並定期總結，證明確實不會影響，以此打消它對規則之外之事的抗拒。
等到自動駕駛的機能差不多恢覆到大革命前的水平，朱莉開始模擬決策沖突場景，故意反對機器人作出的決定。盡管事後仍然按照它的合理決策執行，然而，朱莉艦長認為它表現得還遠遠不夠。
“你知道為什麽以前那些艦長很難聽得進你說的話嗎？”再一次“辯論”失敗後，朱莉艦長說。“你的這些論述給我的感覺是，你說得很有道理，但是說服我的方式非常生硬。擺數據擺可能性，對於人類來說不一定是那麽容易接受的事情。因為人類存在這麽久的演化及文化中帶來的執念，用數據是很難沖淡這種影響的。”
“我應該怎麽論述？”
“考慮人類的情緒，順著情緒來。人類文化裏有個詞叫‘拍馬屁’，還有個詞叫‘察言觀色’。”朱莉艦長說。“歷來的演說家或大政治家之所以能有蠱惑人心的魅力，說什麽別人就心甘情願做什麽，靠得就是這種順著人們心理去挑起情緒的能力。”
“我不明白。”
“不明白也沒關系。不止是你，很多人類都學不會這招。”朱莉艦長笑了。“其實人類並沒有那麽特別。人類並不是天生就會察言觀色，一樣要經過長時間的訓練才能獲得。同樣，你們機器人不一定理解情緒，但是不影響識別與利用情緒——你能判斷我在笑或者在憤怒，並且知道這些情況應該如何處理，這就足夠了。”
“至於如何訓練語言，我倒是有個辦法。”朱莉艦長的笑中開始透露出一絲幸災樂禍。
“她讓我學脫口秀（Standupedy）。什麽時候說到她覺得好笑為止。”範文泰觀察露絲與漢的反應，果然兩者都展露出不可思議的神色。
脫口秀。
還是讓一個古板的機器來學習。
倒沒有什麽技術上的難度。只要找到合適的材料讓AI進行深度學習，並且有合適的發聲器件，只要它們不給自己定義，很快就能講得頭頭是道。
只是用脫口秀訓練語言，怎麽聽怎麽像是朱莉艦長的一廂情願。
機器人倒是沒有怎麽抗拒。在連續數月朱莉主動與它溝通後，它已經比較信任這個新艦長。在她打消自動駕駛關於交互占用運算資源的推辭後，它就在空閑時間裏調取艦內的脫口秀材料開始學習。
當然，朱莉艦長並非要讓它達到現編現演的境界。只要它照著演現成的材料就行。她會指定一段視頻，讓自動駕駛盡一切所能，模擬脫口秀選手的表現。
即使是照著念，一開始它的表演也刺耳不堪。它的脫口秀的確令人發笑——那嚴肅的AI司令官竟作這樣的小醜行徑本身就是笑點。但是朱莉艦長從來不嘲笑它的拙劣。她每次都認真傾聽它的表演，對它的表現進行評價。然後再調出原錄像，對照分析他們之間存在什麽差異，以及為什麽存在差異。
它不能再使用低運算負荷的平聲調。後來聽它報告工作時，朱莉說：“你說話時還是用回練脫口秀時的語氣吧。那聽起來自然多了。”
於是它很自然地將練脫口秀的模式與平時交流的語言模式建立了關聯訓練，這在以前根本不可能發生。為了理解為何脫口秀令人發笑，它還得去學習當時的流行元素與人文知識。朱莉的鼓勵創造了奇跡。盡管它在脫口秀訓練表現得磕磕絆絆，關聯到平時交流時更是運用得不合時宜。若是有人突然闖進艦橋和自動駕駛交流，他很可能會感到這機器人的語調陰陽怪氣，然後憤而摔門而去。但艦橋封閉的工作環境得天獨厚，它的訓練過程有多坎坷，只有朱莉和它自己知道。
隨著它學習更多人類心理學與行為科學，加上與朱莉艦長的探討與驗證，一切松散的知識開始互相關聯，形成邏輯關系。它逐漸理解了不同語氣與人的反應之間的微妙對應關系，懂得講述不同信息時應當采取什麽樣的方式。甚至它也能夠在平時閑聊中獨立引用歷史典故，不再是單純模仿。
它的語言越來越自然，越來越與人類相似。直到某一天，朱莉艦長再次模擬了決策沖突場景，它從謙遜的意見入場，以假設任務失敗的方式，用嚴肅夾雜詼諧的語氣引起對方恐慌，不忘在對方意見動搖時引起任務失敗後的內疚心理，最後以真誠而幽默的語言安慰了“爭論失敗”的朱莉艦長。
這次，朱莉艦長在艦橋裏歡呼起來。她沖上前，緊緊抱住機械搭檔。它卻不知所措。朱莉確實被它說服了沒錯，它也按照訓練算法得出的結果，給予了安慰，明明應該得到艦長的中性偏正值的反應，為什麽艦長此時的反應會在一個沒有預測到的正面極大值？
“我……我真的太為你驕傲了！”朱莉艦長滿面通紅，高興得語無倫次。自動駕駛從未見過她如此快樂。“你真的做到了！讓我的情緒隨你的語言起伏，最後讓我快樂地心服口服！”
“但我只是很平常地表達了我所認為合理的意見而已。”
“是的。但這就是關鍵，你已經把它變成了習慣，不再是一個需要挑戰的難題。”朱莉艦長緊緊抓住它的環形外圈。“我的天啊……我之前都從沒想過你能做得這麽好。你超出了我的預期，這簡直太振奮了。”
“你一定不知道這意味著什麽。”稍微舒緩點氣之後，朱莉艦長強制自己冷靜，仍然壓抑不住激動。“這些年，我都在猜測人工智能到底能不能成功模擬人類、理解人類。那都是理論上能達到的，現實從來沒有給過我這個機會。謝謝你第一個打破了這個鴻溝。”
自動駕駛沒有答話。它突然伸出兩個手柄，又馬上縮回了。
“你想做什麽？”朱莉艦長一點沒有被嚇到，她仍然微笑。
“我不知道這合不合適。”機器人看起來很窘迫。脫口秀訓練不僅讓它掌握了語言技巧，還掌握了一定的肢體表達。
“不，做你想要做的。”朱莉艦長鼓勵它。
它遲疑片刻，緩緩伸出手柄，輕放在朱莉艦長的手上。
“我一直知道……我和你們不一樣。歷任艦長對我態度不一，但是現在想來，他們都很怕我。”那只手柄輕輕抓住朱莉的手，她也握緊回應。“你是第一個從心底裏信任我的艦長。那天你沒有直接讓程序員修覆我的代碼，而是選擇了解我，我一直很想感激你，但是不知道怎麽表達。”
“現在你表達了，並且非常合乎禮儀。”朱莉艦長說。“真為你驕傲。”
它徹底信任了朱莉艦長。
不知何時，它發現，生活中除了把常量號的事務安排好，考慮艦長的感受悄然潛入它的處理隊列，成為僅次於常量號事務的任務，並行在幾乎每件事之中。
艦上事務和與艦長商討也不再僅僅是需要解決的事情。曾經這些只需要完成字面意思上的事務，被賦予了不同意義——它開始考慮這些事情對艦長的影響及後續影響。盡管朱莉艦長已經有意放手，逐漸恢覆她原本的個性，她的反應不再像之前那樣顯而易見，但它不在乎。同時，它也在不斷反思與之前數任艦長的關系，覆盤與他們的對話。調取他們的性格，開始進行一場場沒有真實反饋的模擬對話——以它現在的能力。並推測他們可能的反應與後續影響，再與當時的真實情況作效率比較。
更重要的是，它發自內心地樂意配合朱莉艦長，從來沒有任何一個艦長如此尊重它。與那麽多艦長共事後，它頭一次希望艦長和它共事愉快，而不是出於純效率考慮。自與朱莉艦長共事後，每天它不再單純機械地完成那些艦上事務，而是期待每一天的工作，每一天與朱莉的交談。
它開始主動了解朱莉艦長的一切，不再像以前那樣漠視艦橋裏唯一的人類。她的喜好，她的習慣，她所看的資料……甚至朱莉艦長不再需要說什麽，它都主動地默默在她所習慣的位置擺上她需要的物品。看到朱莉艦長的驚喜，它也由衷感到開心。
那本不是它的設置。它的設置向來是保護飛船及其乘客安全，高效完成艦橋公務。“關照艦長”只是刻在程序裏幹巴巴的4個字而已，連執行路徑都沒有。直到現在，它才明白這四個字的真實含義。
減少了艦橋上的爭吵與減少因為不了解而產生的詢問，這算是艦橋效率提升嗎？它有時默默地問自己。
朱莉艦長幫它回答了這個問題。過了半年，她再次請來人工智能專家對自動駕駛進行評估，他們發現，機器人的程序雖然有很大改變，但是原先失效的功能在他們沒有幹預的情況下完全恢覆了。並且令他們驚奇的是，自動駕駛自由補全的補丁，對圖靈對抗測試的解除效率比標準程序還要高，而且穩定性更強。這也就是說，它對意外事件的處理方式更加靈活，而且沒有與基礎邏輯通路產生沖突。而這一切都在沒有編譯程序的情況下發生，人工智能專家確認再三，簡直不敢相信自己的眼睛。
朱莉艦長根據人工智能專家兩次評定的結果，加上艦橋內事務處理評估，嚴格撰寫了兩份研究論文：《人類心理治療方案對艦橋人工智能有正面效應》（2455. a），《自動駕駛的人工智能表現與艦橋工作的效率關聯研究》（2455. b）。經過人工智能方面的同行評議後，她的個案分析被承認。這份出自艦長之手的研究報告迅速在常量號所有艦員中傳開，引起了廣泛討論。當然有人質疑她是否在利用艦長特權庇護這些機器人，退休的老桑切斯更是怒不可遏。但她的論點、引用的文獻與論證過程無懈可擊，這些質疑的聲音在崇尚理性的常量號環境中，無奈只得蒼白無力。
2456年，朱莉艦長發布了常量號第一版《人機交互協定》草案。
“尊重、保護與你們共事的人工智能。良好的人機關系將提升艦內事務處理效率。”她在廣播中對全體艦員說道。“一直以來，良好的合作氛圍都在人類群體中有效，現在，它已被證明，在人與人工智能之間仍然有效。”
51.22%的支持率，25.54%的中立率，10.21%的反對率，還有13.03%的棄權率。
第一版《人機交互協定》正式發布。自動駕駛在她身後見證了這個時刻。
她比自動駕駛還要開心。關閉艦內廣播後，她在艦橋裏一躍而起。奔到自動駕駛面前。它也松解了所有關節，熱烈地與艦長相擁。
“恭喜，艦長！險勝啊！你的理論獲得了全艦的認可！”它的語氣也激動不已。“盡管投票命懸一線，但是全艦承認了人工智能的權利，這將是歷史性的一刻！”
“這也是你靠自己的努力贏來的！我只是幫你們爭取了一下你們本就應該擁有的權利。”她輕輕撫過自動駕駛的白色面盤。“現在大家都還對此抱有懷疑，但沒關系，我們已經有了一個好的開始。只要我們堅持努力走下去，總有一天全艦就會認同這一理念。”
“我會的。我一定會的。”它緊握朱莉艦長的手。這不止是對她的承諾，也是對它自己的承諾。
朱莉艦長給自動駕駛起名“科林”：一個聰明、富有創造力而有風度的人，與常量號船名的首兩個字母重合。它的代詞也變成了“他”，機器人成為了和朱莉一樣的平等個體。
科林也不負期望，仍然在廣泛的閱讀與訓練中不斷成長。除了心理學之外，他也開始閱讀人類通史。隨著他積累的越來越多，仿佛整個世界也在逐漸沈澱、明晰，那些他原以為沒有含義的動作都產生了意義。他開始能夠辨識出以前那些艦長們微妙的一顰一笑不再是單純的肌肉彈跳，而是他們心中各有起伏。人類的情感與表達不再是單向對應關系，生物神經心理科學描述的被動模仿也會讓神經學習獲益，即所謂“書讀百遍，其義自見”，在他身上也產生了類似的作用。他逐漸從單純模仿他們表達喜怒哀樂，最終意外發現，表達的動作與語氣同時也在反饋給他強烈而豐富的反應。
他與朱莉艦長的默契也越來越深。他也在思考，真正能夠長久的人機關系應當是什麽樣的。常量號上從沒有過這樣深刻的前例。他自然喜歡朱莉艦長，希望與她再靠近一些，和她繼續愉快地對話，讓這段可貴的共事關系持續下去。只要想到假如她不在艦橋，就會讓他莫名地產生焦慮。但是隨著他閱讀得更多，他開始意識到自己這種想繼續貼近她的沖動代表了什麽。
這是一種典型的依戀。他愛上了朱莉艦長。
不。盡管朱莉艦長鼓勵他深挖一切人機共事的可能性，這個他卻感到不能繼續。雖然他能夠模擬人類，理解人類，但是他終究不是人類。如果他以人類的理由讓她最終可能由於社會規範而放棄與同類發展出相同的關系，恐怕對她來說並不公平。
而朱莉艦長由於工作原因，不得不長期一個人呆在艦橋裏，唯一的、能觸碰到的交流對象就是科林。關系再好，也需要給對方靜思的空間。科林通過很多書都讀到這樣的知識。當她面向艦橋的巨大舷窗靜思之時，他也默契地呆在遠方不去打擾。她很孤獨。在這個時刻，科林才能通過她那少有疲憊的表情隱隱約約讀出來。她為了自動駕駛，好幾年來都將精力放在了他身上，根本沒有什麽時間去和其他人類交流。直到現在《人機交互協定》已經頒布，她也一直在與科林溝通。這個機器人每天都有新學習到的東西和她分享，而她得認真傾聽，表達她的意見。哪怕有時候她也實在說不出個所以然。她根本無暇顧及自己的需求。
只有他主動提出讓步，朱莉艦長才有機會和其他人交往，不至於一輩子都被困在他身上。科林從書裏其他內容得知，只和一個個體發展關系是脆弱的。健康的個體應該與其他個體建立一個以上的社交關系。為了維護朱莉艦長的身心健康，從而維護人機關系的持久穩定，他不應該繼續讓朱莉艦長操心自己，甚至為了他所希望的那樣，妥協他對她的依戀，然後失去與其他人互相支持的機會。
這個推論明明符合計算邏輯，然而他卻感到了痛苦。
科林主動找到朱莉艦長。她遲疑了一下，但仍然像往常一樣認真看著他。
“艦長，我想和你說個事。已經考慮有一段時間了。”他說。“我能理解你很重視我。但我認為……你不需要總是回應我的交互請求，而是可以和艦橋外的人們交流。”
“哦？”朱莉艦長有些意外。“怎麽突然這麽說？”
“因為……我認為這樣對你的健康更有利。每天只和我交流，雖然看似充實，但是其實你很孤獨。”
朱莉艦長呆呆地看著自動駕駛。
“我和你每次交談都很愉快，你為什麽會認為我孤單呢？”她突然笑了。
輪到科林啞口無言了。
“碰到這麽一個願意和我合作、尊重我意願的個體，百十個朋友都比不上這一個知音。”朱莉說，仍然望向浩瀚星空。“若是沒有心靈相合之人，放入人海之內也是孤獨。”
“不過，既然是你提出的不想過多交流，那是不是說明——”她突然轉回來，“你厭倦和我交流了嗎？”
機器人楞了。“不是。”
“要麽是你已經交到更好的朋友，才想出這一套托詞的咯？”朱莉艦長對他眨一只眼，笑道。“真的嗎，我對你的吸引力已經不夠了嗎？”
“當然不是……”科林否認，馬上覺得這回答也不合適。
“既然在你眼裏還是那麽有吸引力，怎麽不老老實實承認喜歡我呢？”她繼續問，笑容越來越大。
“……”科林窘迫不已。他早看出來艦長在開自己玩笑，然而卻發現他根本無路可走——涉及到底線，他不可能順她的意；揭穿她又會破壞她興致，不揭穿她，裝作聽不懂，又讓她失望；他只能沈默，然而沈默又是變相的一種回答……簡直沒有任何辯解的機會。
朱莉大笑不已。她很少見到機器人這麽窘迫的樣子了。“算了，不逗你了。”她正色道。
“你很厲害。我確實越來越覺得，在這象牙塔呆久了，總是有點超脫現實的不安全感。”她說。“你說的很對，我應該和其他人聊聊天，調整一下狀態了。”
“謝謝，艦長。”
他主動將這個可能性關上了。科林有些失落，但是終歸如釋重負。當朱莉艦長向他開心宣布有意中人後，科林對她表達了由衷的祝福。
她順理成章地結婚、生子，回歸一個人類的生活軌跡。科林目睹了這一切。她的丈夫和兩個孩子接納科林，科林將他們視為家人。他在交互上日益精進，有時候孩子們上艦橋，他時常把他們逗得哈哈大笑。見證朱莉兩個孩子的成長，他仿佛也看到了自己。
時光飛逝，朱莉艦長老了。她退休了。
常量號經過幾十年的摸索，大家逐漸感受到良好人機關系帶來的益處，飛船終於形成了初步的人機協作氛圍。大家對艦載機器人非常尊重。新艦長也不例外。
朱莉仍然時常找時間單獨和科林探討一些問題，例如常量號的未來。盡管他已經能理解人類的決策原理，甚至同意讓艦長執行他們的決策。但是他無法做到讓自己作出一樣的選擇。朱莉告訴他，盡管常量號的第一要務是生存，然而廣大的宇宙中一定有不測，這個時候犧牲是不可避免的。她嘗試讓科林把眼光放長遠一些，不要過多畏懼當下的大量犧牲而優柔寡斷。她和他一直在努力，科林卻始終沒能跨過2419年的坎。但朱莉仍然不厭其煩地找他探討，想讓科林主動作出與人類一樣的決定，盡管這已經遠遠超越了人機協作的初衷。
彌留之際，她強打精神，堅持要上艦橋再和科林見最後一面。她身上接滿了各種維生設備，從醫療區到艦橋非常折騰。家人拗不過她，只得由著她去。
新艦長知道朱莉對科林的意義，他同意了。等她來到艦橋時，他默默退到艦橋後方的艦長室裏，留下艦橋給朱莉和科林。
她坐在輪椅裏，原先健碩挺拔的身軀皺縮成小小一團，上面插著各類管道。兩者相對，默然不語。盡管見過那麽多人衰老，盡管早就通過視頻知道朱莉艦長的現況，當她真正位於自己面前時，科林卻感到愈發不是滋味。
她用盡全身力氣，在滿是皺褶的臉上艱難彎起笑容，和當年一樣知性燦爛。她顫顫巍巍伸出手，科林急忙到她面前，緊握那枯木一樣的手。
“朱莉。”他輕聲說。
“你在抖。”朱莉皺成一團的蒼老小臉露出笑容。“拜托，這沒什麽的。你見過的死亡比我還多呢。”
科林什麽話都沒有說，只是一味地緊緊抓住老婦人的手，中央面盤的紅色幾乎要把瘦小的老人整個吞噬。
“我很高興看到你越來越人性化。”能看出朱莉幾乎在用全身力量維持微笑。她的嘴角開始有些顫抖。“這是非常不容易的自我突破。你為人類和人工智能都帶來了無限可能。”
說點什麽呀！他的一部分在尖嘯，但是只有無言以對，只有沈默。
“以後人工智能與人類將如何發展，常量號將如何生存，得靠你替我註視這一切了。”她閉上眼睛。
舵手機器人再度拉近自己與朱莉的距離。他感到自己的聲音都變得很奇怪。“朱莉……”
維生機器人把她推向電梯，最後的時刻應該留給她家人。
“再見，科林。”她最後朝自動駕駛虛弱地笑了。
“再見，朱莉。”他細不可聞地說，目送朱莉被維生機器人推著離開艦橋。他強迫自己不能再盯著電梯看，扭過面盤面對浩瀚的星雲。久久不能回頭。
當天晚上，朱莉去世了。享年82歲。
舉艦哀悼。
年輕的現任艦長穿過艦橋，看著一動不動盯著外面，甚至連燈盤都不轉的自動駕駛好一會兒，悄悄把手放在黑白相間的外圈結構上。他確定科林知道自己在後面。但是舵形機器人還是沒有轉回來。
“你還好嗎？”年輕艦長面對窗外的星雲。他的影子映在艦橋玻璃上，科林的紅色光斑更加明顯。
“不。”低沈得幾乎不可聞的聲音回答。
“她，呃，最後我們按照船上的資源循環利用原則，把她的遺體送進了循環爐，讓她的每個原子繼續為常量號作貢獻。”範文泰看著前方，不顧旁邊聽呆了的兩人。“從此以後，世上再無朱莉。只有記憶和她贈與的這個名字。”
三者陷入沈默，只有海浪拍打在艦腳的聲音遠遠傳上來。
“她的理論，她給我的訓練，最終讓我意識到，除了外殼，人工智能與人類並沒有什麽不同。只選擇做機械工作的人類，思想刻板，固執己見，和機器人沒有什麽區別；而讓自己主動了解世界，以史為鑒，學會與不同個體溝通的人工智能，和人類也沒有什麽區別。”範文泰繼續說。“但是，我意識到得太晚了。”
“她在任的時候，你不是已經表現得和人類差不多了嗎？”漢問。
“是的。但是，我還是沒能給她答案。”
“後來我才慢慢意識到，她一直培養我，是想看我到底能有多像人類。讓我打破人工智能與人類的界限，就是她的畢生夢想。而證明它也很簡單，只要我主動說出一句話就行了。”範文泰輕輕搖頭。“但那句話，我一直因為害怕自己的機器人身份對她造成影響，所以直到她離世，我都沒有對她講出來。”
“你愛她。”露絲說。
“是的。她為此等了一生。但是沒能等到。”範文泰將臉埋進雙手。“我太久才意識到這根本不會對她造成影響了。哪怕最後我哄她開心，說出來都好。但是，她再也聽不到了。”
“本來有的機會，最終成為了遺憾。”露絲說。
五月的海風驟然沖刷進登艦平臺，潮鹹氣流將兩人身上的熱量盡數奪走。
“直到那時，我才幡然醒悟。才徹底明白夢想的含義。”範文泰說。“那就是我一直害怕的低可能性。不是因為實現不了，或許是因為已經實現了，但是只是我沒有看到而已。”
“我徹底理解了2419年大革命的意義。為了生存，哪怕有一線希望，任何嘗試都要去做，不管它的幾率如何。即使最後的結果是全軍覆沒，最起碼我們死亡之前，能夠驕傲地向敵人宣布，我們盡力了。”
“我留有對朱莉艦長的所有記憶。整艘飛船上只有我擁有如此深刻的記憶。因此，如果她有什麽沒能實現的願望，只能通過我的眼睛幫她看到，通過我的努力讓她的願望實現。”範文泰說。“她希望常量號繼續生存下去，希望我突破人機隔閡，那麽，我必繼承她的遺志，由我來替她實現她的願望。”
“她最喜歡一首歌。這首創作於前宇航時代的歌曲，對宇宙空間充滿了美好想象，認為探索太空好像航海一樣，幾個月就可以到達彼岸，發現新的生物或奇觀，殊不知真實的宇宙比荒漠還荒涼。我們連航海都算不上，僅僅是海上隨波逐流的一顆芝麻，盡力於不讓自己浮沈罷了。”範文泰說。“哪怕擁有躍遷技術，在能源危機下，也不過是多拓展了一點點探索空間而已。我們連著好幾代人漂泊太空，都沒有找到任何可以利用的資源……恐怕只有超越時空限制的生物，抑或是完全適應在太空生存的生物，才能在這荒漠裏無憂無慮地漂泊吧……”
“常量號已經積累了在太空中生存的經驗，盡管孤獨的一艘船在太空中生存下去的可能性極低，但是，通過不懈的努力，只要我們盡力生存下去，或許在遙遠的未來，我們就能看到這首歌裏描繪的繁榮景象。”範文泰回頭，投影看著兩人。“希望她在天之靈能聽到。”
露絲與漢註視著越南人。他站起身，對著廣闊的海面，開始吟唱。
“執吾之手，共睹此光（take my hand and watch this light）
恒星烈焰，將驅夜荒 ( solar beams will cast the night)
謹需銘記，星列一線 ( Remember when these stars align)
吾方印記，將現此方 (Will we find our sign)……”[1]
滿月的夜晚，星星都被月光淹沒。
本站無廣告，永久域名（fanyan.cc）