第11章 U盤裏的魔鬼
關燈
小
中
大
第11章 U盤裏的魔鬼
李娜給的U盤，趙琳花了兩天時間研究。
並非內容太多——文檔也就有一百來頁。
是她需要反覆確認每一個技術細節背後的倫理邊界，計算每一種濫用可能造成的連鎖反應，以及……評估李娜給她這份文檔的真實意圖。
是純粹的求助，還是一次深入的試探？
這決定了趙琳會把她放在什麽位置。
嚴格來說，兩人在過去並無交情，是缺乏信任基礎的。
盡管李娜周身散發出因醉心技術而極其精純的氣質，清爽幹凈的外表都讓她很難不產生好感，而她恰恰需要警惕這樣本能的好感。
羸弱的身體時刻都在用細微但無法忽略的痛提醒著她，她的盟友必須要經過確定性的考查。
隨著時間的流逝，命運給予她容錯的機會越來越少了。
第三天上午，趙琳在辦公室裏完成了分析報告的初稿。
她推開鍵盤，揉了揉太陽穴。連續兩天的高強度工作讓免疫系統的警報又拉響了，關節的鈍痛從早晨開始就沒停過。她看了眼藥盒，還沒到下一次服藥時間。
不能提前！卡爾森教授的警告言猶在耳，藥物間隔必須嚴格，否則會產生耐藥性。
她緩緩起身，走到窗邊，慢慢舒展一下身體。她早就習慣了這種靈魂被禁錮的無力感。
好在還有信仰足以支撐她的呼吸。
窗外是灰蒙蒙的燕京天空，像一塊臟了的毛玻璃。九十七層的高度讓街道上的行人和車輛都只是移動的色塊，聽不見聲音，只有一片沈寂。
桌上的手機震動了一下。
一條新消息，來自李娜：【十點半，A3會議室，“神諭”3.5版本功能評審會。如果你方便，可以來旁聽。】
沒有提報告的事。
趙琳回覆：【好。】
她看了眼時間，九點四十。還有五十分鐘。
她回到桌前，把分析報告的最後一部分寫完。結論很明確：
“情感預測”模塊在技術上可行，但存在三個致命倫理風險：
第一，它基於的“微表情-行為-生理數據”關聯模型，其訓練數據來源未經充分知情同意。超過60%的數據樣本來自社交媒體公開抓取和第三方數據販子，其中包含大量未成年人的信息。
第二，模塊的預測結果將被用於“動態定價”和“成癮性內容推送”。這意味著，系統檢測到你情緒低落時，可能向你推送高糖食品廣告並提高價格；檢測到你焦慮時，可能向你推薦付費心理咨詢服務並延長你的應用使用時間。
第三，也是最危險的——該模塊預留了一個隱藏接口，允許在“國家安全或重大商業利益需要時”，向第三方輸出“群體情緒趨勢預測”。這個接口沒有設置任何外部審計機制。
趙琳思考再三，在報告的末尾加了一行加粗的字：
【此功能上線之日，即天穹喪失用戶信任之始。】
她保存文檔，但沒有發給李娜。
現在還不到時候。
十點二十五，她起身，從衣架上取下大衣。穿上時，左手手腕傳來一陣刺痛——類風濕關節炎的早期癥狀之一。
她僅皺了皺眉，沒停頓，扣好扣子，拿起平板和筆記本，走出辦公室。
電梯下行到九十五層。
技術中心的氛圍和前兩天一樣，忙碌，嘈雜，帶著技術人員特有的專註感。
A3會議室的門關著，但透過磨砂玻璃能看到裏面已經坐了不少人。趙琳輕叩兩下，推門進去。
會議室裏坐了大約十五個人。長桌的一側是李娜和她的技術團隊，大約七八人，都穿著隨意；另一側是產品部、市場部、法務部的代表，西裝革履。
一邊面無表情如臨大敵，一邊職業微笑體態僵直，總之氣氛微妙。
李娜坐在主位左側，看到趙琳進來，對她點了點頭，示意她隨意。
技術團隊的人看到是自己老大邀請的林顧問，意外之餘有些勝券在握的興奮。技術人就是這麽簡單，他們儼然已經將趙琳當成自己人了。
倒是其他部門的人臉色除了意外，簡直可以用精彩紛呈來形容。
趙琳好像根本沒在意投過來的各方眼神，找了個能觀察到主位的角落，一派雲淡風輕坐下，打開平板。
會議開始了。
第一個發言的是李娜對面的產品部總監，一個四十多歲、頭發梳得一絲不茍的男人，名叫陳斌。他身後的大屏幕上投影著精美的PPT，標題是：
“神諭3.5——更懂你的AI夥伴”。
“……情感預測模塊是我們下一階段的王牌功能。”陳斌語氣激昂，“想象一下，AI不僅能理解你說的話，還能感知你的情緒狀態，在你需要的時候提供恰到好處的關懷和建議。這將是人機交互的革命！”
市場部的一個女經理接話：“我們的用戶調研顯示，68%的年輕用戶希望AI更有‘人情味’。情感預測能極大提升用戶粘性和付費意願。保守估計，這個模塊能讓‘神諭’的日均使用時長增加23%，相關廣告收入提升40%以上。”
法務部代表推了推眼鏡：“從合規角度，只要我們在用戶協議裏增加相關條款，明確告知數據用途，法律風險是可控的。歐洲的GDPR對情感數據有特殊規定，但我們可以通過架構設計把數據處理放在歐盟境外服務器。”
技術團隊這邊，一個年輕工程師舉手：“李總，我們測試時發現，情緒識別準確率目前只有71%，而且對文化差異、個體表達習慣的適應性很差。比如同樣的微笑，在東亞可能表示禮貌，在美國可能表示友好，在中東可能表示尷尬……模型很容易誤判。”
陳斌擺擺手：“71%已經比人類平均判斷準確率高了好嗎？再說，我們是商業產品，不是學術論文。先上線，再疊代。”
“可是誤判會導致錯誤的推送，可能引發用戶反感甚至訴訟……”
“那就加個開關，讓用戶自己選擇是否開啟。”陳斌不耐煩，“李總，您覺得呢？”
所有人的目光轉向李娜。
李娜雙手交疊放在桌上，手指無意識地在桌面輕輕輪擊。趙琳知道這是她思考的習慣。
而此時她到底是在思考如何回答陳斌的提問？還是思考怎麽讓這些人知道，這樣做的結果會很糟糕呢？
趙琳輕輕抿唇看著李娜。
“準確率低只是技術問題。”她開口，聲音平靜，“我更關心的是，這個功能的底層邏輯是什麽？我們預測用戶情緒，最終目的是什麽？是為了提供更好的服務，還是為了更高效地……操縱用戶？”
會議室安靜了一瞬。
陳斌笑了：“李總，您這話說得太難聽了。商業的本質就是滿足用戶需求，我們只是更精準地滿足了需求而已。”
“通過利用他們的情緒弱點？”李娜擡眼看他，毫不客氣。
“情緒不是弱點，是人性。”陳斌聳聳肩，“我們賣的不是藥品，是內容和商品。用戶自己可以選買或不買。”
“當推送時機精準到情緒最低點時，選擇還是自由的嗎？”李娜繼續逼問。
辯論開始升級。
趙琳坐在墻邊，快速但安靜地觀察並記錄著每個人的立場和說辭。
她能看出，技術團隊裏至少有一半人支持李娜，但不敢公開反駁產品部和市場部——那是掌握著項目資源和績效考評到兩個部門，在天穹，別說技術部，哪個部門都不敢輕易得罪他們。
恰恰所有能讓天花亂墜的人精還都集中在這個部門。
張天豪實在是谙熟人心。
陳斌顯然有備而來。他調出一組數據：“李總，這是競品分析。‘智心’科技下個月就要上線類似功能，‘雲圖’也在內測。如果我們不跟上，市場份額會被蠶食。而且……你看，董事會那邊，張總也明確表示要加快創新節奏。”
他搬出了張天豪。
李娜的手指停住了。
會議室裏的空氣凝固了幾秒。
就在這時，陳斌身後的PPT翻到了下一頁。
那是一張覆雜的系統架構圖，展示情感預測模塊如何與“神諭”的其他子系統對接。
趙琳的目光落在圖上的一個角落。
那裏有一個小小的、幾乎被忽略的註釋框，裏面寫著一行英文：
Backdoor: Emo_Export (v2.3)
情緒導出後門，版本2.3。
她的瞳孔微微收縮。
這個後門，在李娜給她的文檔裏沒有提及。
要麽是李娜也不知道，要麽是……李娜故意沒給她看完整版。
她擡起頭，不再是觀察到姿態，而是直接看向李娜。
李娜正盯著那張架構圖，眉頭緊鎖。顯然，她也看到了那個註釋。
“陳總監，”李娜的聲音冷了下來，“這個‘Emo_Export’接口是做什麽的？”
陳斌楞了一下，回頭看了眼屏幕，隨即笑了：“哦，那個啊，是技術上的冗餘設計。為了將來可能的數據合作預留的通道，目前沒有啟用。”
“預留給誰？”李娜根本沒打算放過他，追問。
“這個……要看未來的商業合作需求。”陳斌含糊道，“可能是研究機構，也可能是戰略合作夥伴。李總，技術細節我們稍後再討論，現在先敲定功能上線的……”
“可是……這個後門能繞過用戶授權，直接導出原始情緒數據。”一個清晰冷靜地聲音從墻邊響起。
所有人的目光轉向了發聲的趙琳。
她不知什麽時候已經站了起來，手裏拿著平板，屏幕對著眾人。上面是放大後的架構圖局部，那個註釋框被高亮標記。
陳斌的臉色變了變：“林……顧問對吧？這是我們……內部的技術會議，你作為安全顧問，剛剛到公司，可能不太了解具體情況……”
他刻意在“內部”“剛剛”兩個詞上加重了聲音。
“我了解。”趙琳打斷他，“Emo_Export接口在代碼層的定義是：‘允許在系統標記為高優先級時，將指定用戶的實時情緒波動數據流，以加密形式推送到預設的外部端點’。這個定義裏沒有‘用戶授權’字段，也沒有‘審計日志’要求。”
她頓了頓，環視會議室。
“也就是說，只要系統被設置一個標記，任何用戶的情緒數據都可以在未經其知曉的情況下，被發送到任何一個預設的服務器。而這個標記的權限等級，只需要Level-6——據我了解，在座的產品經理和市場經理，很多人都有這個權限。”
她的聲音依舊沒有情緒，僅僅是闡述事實。
卻讓會議室死寂。
幾個產品部的人下意識地移開了目光。
陳斌的臉漲紅了：“林顧問，你這是過度解讀！這個接口有嚴格的內部審批流程……”
“審批流程在哪裏呢？”趙琳調出另一份文檔，“我查了‘神諭’系統的權限管理規範，關於數據導出的審批，只針對‘個人可識別信息’。情緒數據被歸類為‘行為元數據’，不屬於PII，所以導出不需要特殊審批——只需直屬上級批準即可。而陳總監您，正是所有產品經理的直屬上級。”
她放下平板。淡淡地看向陳斌。語調沒有起伏。
“所以理論上，您一個人就可以決定，把所有用戶的實時情緒數據，發送到任何地方。雖然我剛剛來，但是我所有的工作內容是要向張總直接匯報的，我不能有‘重要的數據可以繞過他的授權’這件事，不告訴他。”
沒有質問勝似質問。這句話像一顆石子投入平靜的水面。漣漪蕩開。
所有人的表情都凝固了。
李娜看著趙琳，眼神裏有震驚，有感激，也有……一種覆雜的了然。
她知道趙琳開始入局了。
但她沒想到，趙琳會以這麽直接的方式。
陳斌張了張嘴，想反駁，卻找不到詞。
因為趙琳說的，每一個字，都是事實。
而事實，最無法反駁。
本站無廣告，永久域名（fanyan.cc）
李娜給的U盤，趙琳花了兩天時間研究。
並非內容太多——文檔也就有一百來頁。
是她需要反覆確認每一個技術細節背後的倫理邊界，計算每一種濫用可能造成的連鎖反應，以及……評估李娜給她這份文檔的真實意圖。
是純粹的求助，還是一次深入的試探？
這決定了趙琳會把她放在什麽位置。
嚴格來說，兩人在過去並無交情，是缺乏信任基礎的。
盡管李娜周身散發出因醉心技術而極其精純的氣質，清爽幹凈的外表都讓她很難不產生好感，而她恰恰需要警惕這樣本能的好感。
羸弱的身體時刻都在用細微但無法忽略的痛提醒著她，她的盟友必須要經過確定性的考查。
隨著時間的流逝，命運給予她容錯的機會越來越少了。
第三天上午，趙琳在辦公室裏完成了分析報告的初稿。
她推開鍵盤，揉了揉太陽穴。連續兩天的高強度工作讓免疫系統的警報又拉響了，關節的鈍痛從早晨開始就沒停過。她看了眼藥盒，還沒到下一次服藥時間。
不能提前！卡爾森教授的警告言猶在耳，藥物間隔必須嚴格，否則會產生耐藥性。
她緩緩起身，走到窗邊，慢慢舒展一下身體。她早就習慣了這種靈魂被禁錮的無力感。
好在還有信仰足以支撐她的呼吸。
窗外是灰蒙蒙的燕京天空，像一塊臟了的毛玻璃。九十七層的高度讓街道上的行人和車輛都只是移動的色塊，聽不見聲音，只有一片沈寂。
桌上的手機震動了一下。
一條新消息，來自李娜：【十點半，A3會議室，“神諭”3.5版本功能評審會。如果你方便，可以來旁聽。】
沒有提報告的事。
趙琳回覆：【好。】
她看了眼時間，九點四十。還有五十分鐘。
她回到桌前，把分析報告的最後一部分寫完。結論很明確：
“情感預測”模塊在技術上可行，但存在三個致命倫理風險：
第一，它基於的“微表情-行為-生理數據”關聯模型，其訓練數據來源未經充分知情同意。超過60%的數據樣本來自社交媒體公開抓取和第三方數據販子，其中包含大量未成年人的信息。
第二，模塊的預測結果將被用於“動態定價”和“成癮性內容推送”。這意味著，系統檢測到你情緒低落時，可能向你推送高糖食品廣告並提高價格；檢測到你焦慮時，可能向你推薦付費心理咨詢服務並延長你的應用使用時間。
第三，也是最危險的——該模塊預留了一個隱藏接口，允許在“國家安全或重大商業利益需要時”，向第三方輸出“群體情緒趨勢預測”。這個接口沒有設置任何外部審計機制。
趙琳思考再三，在報告的末尾加了一行加粗的字：
【此功能上線之日，即天穹喪失用戶信任之始。】
她保存文檔，但沒有發給李娜。
現在還不到時候。
十點二十五，她起身，從衣架上取下大衣。穿上時，左手手腕傳來一陣刺痛——類風濕關節炎的早期癥狀之一。
她僅皺了皺眉，沒停頓，扣好扣子，拿起平板和筆記本，走出辦公室。
電梯下行到九十五層。
技術中心的氛圍和前兩天一樣，忙碌，嘈雜，帶著技術人員特有的專註感。
A3會議室的門關著，但透過磨砂玻璃能看到裏面已經坐了不少人。趙琳輕叩兩下，推門進去。
會議室裏坐了大約十五個人。長桌的一側是李娜和她的技術團隊，大約七八人，都穿著隨意；另一側是產品部、市場部、法務部的代表，西裝革履。
一邊面無表情如臨大敵，一邊職業微笑體態僵直，總之氣氛微妙。
李娜坐在主位左側，看到趙琳進來，對她點了點頭，示意她隨意。
技術團隊的人看到是自己老大邀請的林顧問，意外之餘有些勝券在握的興奮。技術人就是這麽簡單，他們儼然已經將趙琳當成自己人了。
倒是其他部門的人臉色除了意外，簡直可以用精彩紛呈來形容。
趙琳好像根本沒在意投過來的各方眼神，找了個能觀察到主位的角落，一派雲淡風輕坐下，打開平板。
會議開始了。
第一個發言的是李娜對面的產品部總監，一個四十多歲、頭發梳得一絲不茍的男人，名叫陳斌。他身後的大屏幕上投影著精美的PPT，標題是：
“神諭3.5——更懂你的AI夥伴”。
“……情感預測模塊是我們下一階段的王牌功能。”陳斌語氣激昂，“想象一下，AI不僅能理解你說的話，還能感知你的情緒狀態，在你需要的時候提供恰到好處的關懷和建議。這將是人機交互的革命！”
市場部的一個女經理接話：“我們的用戶調研顯示，68%的年輕用戶希望AI更有‘人情味’。情感預測能極大提升用戶粘性和付費意願。保守估計，這個模塊能讓‘神諭’的日均使用時長增加23%，相關廣告收入提升40%以上。”
法務部代表推了推眼鏡：“從合規角度，只要我們在用戶協議裏增加相關條款，明確告知數據用途，法律風險是可控的。歐洲的GDPR對情感數據有特殊規定，但我們可以通過架構設計把數據處理放在歐盟境外服務器。”
技術團隊這邊，一個年輕工程師舉手：“李總，我們測試時發現，情緒識別準確率目前只有71%，而且對文化差異、個體表達習慣的適應性很差。比如同樣的微笑，在東亞可能表示禮貌，在美國可能表示友好，在中東可能表示尷尬……模型很容易誤判。”
陳斌擺擺手：“71%已經比人類平均判斷準確率高了好嗎？再說，我們是商業產品，不是學術論文。先上線，再疊代。”
“可是誤判會導致錯誤的推送，可能引發用戶反感甚至訴訟……”
“那就加個開關，讓用戶自己選擇是否開啟。”陳斌不耐煩，“李總，您覺得呢？”
所有人的目光轉向李娜。
李娜雙手交疊放在桌上，手指無意識地在桌面輕輕輪擊。趙琳知道這是她思考的習慣。
而此時她到底是在思考如何回答陳斌的提問？還是思考怎麽讓這些人知道，這樣做的結果會很糟糕呢？
趙琳輕輕抿唇看著李娜。
“準確率低只是技術問題。”她開口，聲音平靜，“我更關心的是，這個功能的底層邏輯是什麽？我們預測用戶情緒，最終目的是什麽？是為了提供更好的服務，還是為了更高效地……操縱用戶？”
會議室安靜了一瞬。
陳斌笑了：“李總，您這話說得太難聽了。商業的本質就是滿足用戶需求，我們只是更精準地滿足了需求而已。”
“通過利用他們的情緒弱點？”李娜擡眼看他，毫不客氣。
“情緒不是弱點，是人性。”陳斌聳聳肩，“我們賣的不是藥品，是內容和商品。用戶自己可以選買或不買。”
“當推送時機精準到情緒最低點時，選擇還是自由的嗎？”李娜繼續逼問。
辯論開始升級。
趙琳坐在墻邊，快速但安靜地觀察並記錄著每個人的立場和說辭。
她能看出，技術團隊裏至少有一半人支持李娜，但不敢公開反駁產品部和市場部——那是掌握著項目資源和績效考評到兩個部門，在天穹，別說技術部，哪個部門都不敢輕易得罪他們。
恰恰所有能讓天花亂墜的人精還都集中在這個部門。
張天豪實在是谙熟人心。
陳斌顯然有備而來。他調出一組數據：“李總，這是競品分析。‘智心’科技下個月就要上線類似功能，‘雲圖’也在內測。如果我們不跟上，市場份額會被蠶食。而且……你看，董事會那邊，張總也明確表示要加快創新節奏。”
他搬出了張天豪。
李娜的手指停住了。
會議室裏的空氣凝固了幾秒。
就在這時，陳斌身後的PPT翻到了下一頁。
那是一張覆雜的系統架構圖，展示情感預測模塊如何與“神諭”的其他子系統對接。
趙琳的目光落在圖上的一個角落。
那裏有一個小小的、幾乎被忽略的註釋框，裏面寫著一行英文：
Backdoor: Emo_Export (v2.3)
情緒導出後門，版本2.3。
她的瞳孔微微收縮。
這個後門，在李娜給她的文檔裏沒有提及。
要麽是李娜也不知道，要麽是……李娜故意沒給她看完整版。
她擡起頭，不再是觀察到姿態，而是直接看向李娜。
李娜正盯著那張架構圖，眉頭緊鎖。顯然，她也看到了那個註釋。
“陳總監，”李娜的聲音冷了下來，“這個‘Emo_Export’接口是做什麽的？”
陳斌楞了一下，回頭看了眼屏幕，隨即笑了：“哦，那個啊，是技術上的冗餘設計。為了將來可能的數據合作預留的通道，目前沒有啟用。”
“預留給誰？”李娜根本沒打算放過他，追問。
“這個……要看未來的商業合作需求。”陳斌含糊道，“可能是研究機構，也可能是戰略合作夥伴。李總，技術細節我們稍後再討論，現在先敲定功能上線的……”
“可是……這個後門能繞過用戶授權，直接導出原始情緒數據。”一個清晰冷靜地聲音從墻邊響起。
所有人的目光轉向了發聲的趙琳。
她不知什麽時候已經站了起來，手裏拿著平板，屏幕對著眾人。上面是放大後的架構圖局部，那個註釋框被高亮標記。
陳斌的臉色變了變：“林……顧問對吧？這是我們……內部的技術會議，你作為安全顧問，剛剛到公司，可能不太了解具體情況……”
他刻意在“內部”“剛剛”兩個詞上加重了聲音。
“我了解。”趙琳打斷他，“Emo_Export接口在代碼層的定義是：‘允許在系統標記為高優先級時，將指定用戶的實時情緒波動數據流，以加密形式推送到預設的外部端點’。這個定義裏沒有‘用戶授權’字段，也沒有‘審計日志’要求。”
她頓了頓，環視會議室。
“也就是說，只要系統被設置一個標記，任何用戶的情緒數據都可以在未經其知曉的情況下，被發送到任何一個預設的服務器。而這個標記的權限等級，只需要Level-6——據我了解，在座的產品經理和市場經理，很多人都有這個權限。”
她的聲音依舊沒有情緒，僅僅是闡述事實。
卻讓會議室死寂。
幾個產品部的人下意識地移開了目光。
陳斌的臉漲紅了：“林顧問，你這是過度解讀！這個接口有嚴格的內部審批流程……”
“審批流程在哪裏呢？”趙琳調出另一份文檔，“我查了‘神諭’系統的權限管理規範，關於數據導出的審批，只針對‘個人可識別信息’。情緒數據被歸類為‘行為元數據’，不屬於PII，所以導出不需要特殊審批——只需直屬上級批準即可。而陳總監您，正是所有產品經理的直屬上級。”
她放下平板。淡淡地看向陳斌。語調沒有起伏。
“所以理論上，您一個人就可以決定，把所有用戶的實時情緒數據，發送到任何地方。雖然我剛剛來，但是我所有的工作內容是要向張總直接匯報的，我不能有‘重要的數據可以繞過他的授權’這件事，不告訴他。”
沒有質問勝似質問。這句話像一顆石子投入平靜的水面。漣漪蕩開。
所有人的表情都凝固了。
李娜看著趙琳，眼神裏有震驚，有感激，也有……一種覆雜的了然。
她知道趙琳開始入局了。
但她沒想到，趙琳會以這麽直接的方式。
陳斌張了張嘴，想反駁，卻找不到詞。
因為趙琳說的，每一個字，都是事實。
而事實，最無法反駁。
本站無廣告，永久域名（fanyan.cc）