第2章 人工智能世界的道德秩
關燈
小
中
大
“法官來電話了，趙曉峰說原始載體在公司，法官把質證地點定在GL公司。”沈澹翻看著koala信封裏的幾份材料，擡眼道：“你最好祈禱這些東西能幫到那個還躺在床上的人。”
koala數了數信封裏的錢，露出滿意的笑容，絲毫沒有搭理沈澹，徑直朝花園的矮墻上走去。
胡玥就這麽看著一個身材高挑踩著至少五公分高跟鞋的女人，輕松一翻，翻過了花園的高墻
好吧，盡管不是很高的墻，胡玥目測，至少也有兩米吧。墻下並沒有臺階，剛才這一切，是怎麽發生的？
當然，比起這個，胡玥更好奇的是，沈澹手上拿到了什麽好東西，能讓他臉上浮現出已經把對方打得落花流水的得意神情。
“既然已經來到GL公司，我方申請SHE的主設計師肖尚東出庭作證。”
“反對。”趙曉峰有主場優勢，比起上次見面更加強勢了：“肖設計師與本案沒有關系。”
“原告，給我一個理由。”
沈澹早有準備：“本次質證的關鍵涉及到人工智能的專業問題，我方認為肖尚東應該作為專業人員出庭，便於法官和當事人對專業問題的理解。”
法官略作思考，同意了沈澹的申請。
“肖尚東，你要如實回答問題，不能做虛假陳述，否則應承擔作偽證的法律後果。”
“明白。”
“肖先生，請向法庭介紹你們公司設計生產的自動駕駛汽車。”
“嚴格來說，自動駕駛根據自主程度分為五個階段，在L1、L2階段，自動駕駛系統只是駕駛員的輔助，但能夠持續地承擔汽車橫向或縱向某一方面的自主控制，完成感知、認知、決策、控制、執行這一完整過程，但是其他如預警提示、短暫幹預的駕駛技術不能完成這一完整的流程。而達到L4、L5階段，汽車才能夠在限定環境乃至全部環境下完成全部的駕駛任務，才是真正意義上的自動駕駛。”
“本案的涉案車輛是屬於哪個階段呢？”
“還在L2向L3邁進的階段，遠未能達到L4階段。”
“肖先生，請你向法庭介紹SHE款汽車在遇到障礙物時是如何識別並分別會做出何種反應？”
“反對，請原告明確問題。”
“原告代理人，請明確你的問題。”
“好，我換個說法。”沈澹繼續問道：“根據SHE車輛宣傳手冊第34頁，提到：先進的識別能力，能夠迅速識別並規避危險。請問，汽車是通過什麽技術進行識別？”
肖尚東看向法官，得到示意後進行回答：“每輛車有六處雷達探測器和激光測距儀，探測到車身四周特別是前方的物體，來發現潛在危險，並且在駕駛員意識到危險並作出反應之前做出判斷並迅速規避。”
“請你進一步說明，這套系統是怎麽識別危險的？”
“這個解釋起來很覆雜，人工智能的特征就是通過不斷學習形成自己的判斷標準。”
沈澹身子不由得探向前：“能否深入淺出地解釋這個問題。”
“比如你想告訴人工智能，什麽是蘋果，可以給他看一千張蘋果的照片，每看一張就告訴他這是蘋果，一千個蘋果有一千個樣子，他會對蘋果的特征形成自己的數據庫，當他再看到一個新蘋果的時候，就能判斷出，這是一個蘋果”
“那麽，如果這個新蘋果長得和那一千個蘋果都不一樣，比如它長得很特別，很畸形，人工智能會不會識別不出來？”
“這是有可能的。”
“怎麽辦呢？”
肖尚東不慌不忙回答道：“這就是他一個學習的過程，下一次他就會知道，這也是蘋果了。”
“所以這輛車在出廠以後，哪怕已經學了一千個蘋果，也依然保持著繼續學習的狀態，而且會一直出現識別不出蘋果的情況，對嗎？”
“反對！”趙曉峰隱隱覺得有些不對，但也說不出理由，法官追問他，硬著頭皮說了原告代理人是在引導肖尚東進行推測。
法官看向沈澹，沈澹攤開手，一副我什麽都沒幹的表情。
“肖尚東可以回答這個問題。”
“我想先解釋一個問題，SHE使用的ADAS系統還稱不上是嚴格意義上的人工智能，它只是基於傳感器檢測和程序計算運行的一套特定程序，叫做自動駕駛輔助系統。”
“這與本案有什麽關系？”
“這很關鍵，在協會的安全分級中，SHE車系在L2級和L3級之間，在特定場景下確實能實現車輛的橫縱向連續控制，但在下大雨、下雪等特殊天氣或是當車道線不清晰、路面出現積水倒影、逆光等情況下，都可能會因為識別不準確而發生危險，所以我們會強調駕駛員仍然要對行車情況保持警醒，以防出現危險時及時剎車。”
趙曉峰在一旁插話道：“所以這又回到了第一次庭前會議時我方的觀點，事故發生前7秒， Autopilot系統已經發出視覺警告，駕駛員沒有及時剎車，導致事故，所以，與GL公司沒有關系。根據國際上通用的責任劃分標準，L1和L2階段汽車的駕駛仍然由駕駛員負責，系統只是在方向和加減速中提供駕駛輔助，如果事故不是因為方向的問題導致，就是駕駛員承擔責任，只有在因為方向的操作失誤導致了事故，才是由駕駛員和系統根據過錯程度承擔。駕駛員有責任全程監視駕駛環境並進行失效應對，如果駕駛員已經糾正了，但無法糾正，才是系統運營商來承擔責任。而到了L3階段，路況覆雜或出現系統難以判斷的情形時，系統會要求駕駛員支援，這期間系統會預留給駕駛員反應的時間，當警告時間到了，車輛就應該由駕駛員接管，相應的責任也轉嫁到駕駛員身上。也就是說，在本案中，駕駛員的責任和普通汽車駕駛員的責任沒有區別。”
胡玥在一旁，緊張地看著沈澹，見他不語，便弱弱地問道：“我有一個問題，不知道能不能問？”
所有人突然都看向她，特別是沈澹。
胡玥小小聲問道：“我就是有點不明白，這套系統，如果什麽都需要駕駛員註意，跟普通的小汽車有什麽區別？”
肖尚東有一種教了半天學生依然懵逼的無語：“剛才我們已經說過了，在AI檢測到是它們能夠識別且能規避的危險時，自動剎車系統會做出反應，只有在系統不能識別或情況危急時才會發出警示。”
“那麽，你們一直在說事故發生前7秒已經發出警告，難道那時候他是識別不出危險嗎？”胡玥突然靈光一閃，繼續問道：“如果它能識別到危險，按照你們剛才說的，雖然只是L2到L3階段，但實際上已經是L3階段了，我想想……對，如果可以識別出危險，他不是應該剎車嗎？為什麽要去警告駕駛員？為什麽要駕駛員接管車輛？”
肖尚東突然被問得語塞，就是這個點，沈澹抓到了，向法院提出回放事故發生前五分鐘的記錄。
系統曾在前方是紅燈時自動剎車停下，在前方有行人時自動剎車停下，在前方車輛緊急剎車時自動剎車停下，但是在事故發生前7秒，他沒有自動停下，只是發出了警示。
沈澹再次播放了事故路口的監控，和胡玥將二者時間一一對應地比對。
趙樂駕駛的車輛以50公裏的時速前行，在事故發生前三十秒，李康推著自行車通過人行橫道，在行至一半時他蹲了下來系鞋帶，背上的大書包正好垂在地上，擋住他蹲下來的部□□體，在事故發生前七秒，汽車發出警示，但沒有停止而是繼續前行，至事故發生前1.5秒，李康站起身，汽車緊急剎車制動突然啟動，但已經阻止不了把李康撞飛。
在場的所有人都沈默了，沈澹問道：“肖尚東先生，我可不可以理解為，在事故發生前7秒，如果系統識別出人行橫道上出現的是行人，他就會自動剎車，事故就不會發生。”
趙曉峰背上已經開始冒汗：“反對，原告在誤導證人，證人可以不用回答。”
“我們這裏並沒有證人，肖設計師是作為專家解答法庭的困惑。”沈澹沒有放過機會，繼續追問：“作為總設計師，我想你的專業知識足以回答這個問題。”
肖尚東並沒有膽怯，似乎沒有察覺到趙曉峰的緊張，而是從容地繼續回答：“正如我剛才說的，系統一直需要學習，包括路況、天氣、行人以及周圍一切物體，因為路上的狀況都是瞬息萬變的。”
“所以，他現在還不能應對所有路面可能出現的狀況，對嗎？”
“再高級的人工智能都需要不斷學習。”
“請回答我是與不是。”
肖尚東被沈澹盯著，回答道：“是。”
胡玥松了口氣，聽沈澹慢慢地向法官的方向，說道：“GL公司將一款尚不能應對覆雜行駛狀況的自動駕駛車輛上市出售，就相當於是將存在缺陷的車輛進行銷售，所以我方要求追加GL公司作為共同被告，並承擔共同賠償的責任。”
趙曉峰面色沈重地從座位上起來，邊打電話邊匆匆向外走去。
肖尚東這個技術宅，還沒從局勢中反應過來，待趙曉峰向上級匯報了情況後把他叫到一邊去苦口婆心地說一通，才知道被沈澹給繞進坑裏了。
他追出去，沈澹二人正在取車要走。
看到他氣勢洶洶地追過來，正準備拍老板馬屁的胡玥嚇了一跳：“怎麽，輸了不服還不放人走咋的？”
“你們，你們挖陷阱，你們顛倒黑白，我要去跟法官說。”
沈澹一把將胡玥扯到身後，車門一關，站在那裏，等著肖尚東走過來，問他：“我的當事人下半輩子連坐起來都是奢望，捍衛他的權利，是我的責任。”
“那你也不能……不能為了贏，就不擇手段。”
“你的意思是，剛才你對法官說的，都是假的？”
“當然不是。”
沈澹攤手，既然是真的，又有什麽好懊惱的，你只是把實話說出來而已。
“你們根本不知道人工智能對將來的社會能帶來多麽巨大的影響。全世界每年因為交通事故導致死亡的人數不下百萬，而95%的事故都是因為人類駕駛員的失誤，自動駕駛的出現將從根本上解決這一問題，更別說緩解道路擁堵和為人們提供的出行便利，整個社會將因此產生像工業革命那樣的變革。如果因為你們的私心導致自動駕駛車輛推廣受阻，因為你們的個案導致大眾對人工智能失去信任，就是在阻攔科技的發展，在和先進理念對抗啊。”
“你錯了。”胡玥從沈澹身後走出來，說道：“我們在做的，恰恰是推進自動駕駛技術的研發和完善。”
肖尚東搖搖頭：“現在的犧牲，是為了將來挽救更多的生命，這是每一項科技推進的必經之路，這就是代價。”
胡玥被他的回答震驚了，反駁道：“像你說的，拯救千千萬萬人生命的疫苗，哪怕會導致健康的人因不良反應死亡，也是可以忽略不計的，犧牲和代價嗎？”
“難道不是嗎？難道你會因為某些體質特殊的人接受了青黴素的註射產生反應，而阻止所有人使用青黴素嗎？”
“我們不是在阻止青黴素，我們是希望讓研究人員註意到會有對青黴素引發不良反應的人群，所以他們研究出了皮試。肖先生，你我的目標，其實是沒有沖突的。”
肖尚東還想再說下去，沈澹以還要去醫院探望當事人為由上車離開了。
本站無廣告，永久域名（fanyan.cc）
koala數了數信封裏的錢，露出滿意的笑容，絲毫沒有搭理沈澹，徑直朝花園的矮墻上走去。
胡玥就這麽看著一個身材高挑踩著至少五公分高跟鞋的女人，輕松一翻，翻過了花園的高墻
好吧，盡管不是很高的墻，胡玥目測，至少也有兩米吧。墻下並沒有臺階，剛才這一切，是怎麽發生的？
當然，比起這個，胡玥更好奇的是，沈澹手上拿到了什麽好東西，能讓他臉上浮現出已經把對方打得落花流水的得意神情。
“既然已經來到GL公司，我方申請SHE的主設計師肖尚東出庭作證。”
“反對。”趙曉峰有主場優勢，比起上次見面更加強勢了：“肖設計師與本案沒有關系。”
“原告，給我一個理由。”
沈澹早有準備：“本次質證的關鍵涉及到人工智能的專業問題，我方認為肖尚東應該作為專業人員出庭，便於法官和當事人對專業問題的理解。”
法官略作思考，同意了沈澹的申請。
“肖尚東，你要如實回答問題，不能做虛假陳述，否則應承擔作偽證的法律後果。”
“明白。”
“肖先生，請向法庭介紹你們公司設計生產的自動駕駛汽車。”
“嚴格來說，自動駕駛根據自主程度分為五個階段，在L1、L2階段，自動駕駛系統只是駕駛員的輔助，但能夠持續地承擔汽車橫向或縱向某一方面的自主控制，完成感知、認知、決策、控制、執行這一完整過程，但是其他如預警提示、短暫幹預的駕駛技術不能完成這一完整的流程。而達到L4、L5階段，汽車才能夠在限定環境乃至全部環境下完成全部的駕駛任務，才是真正意義上的自動駕駛。”
“本案的涉案車輛是屬於哪個階段呢？”
“還在L2向L3邁進的階段，遠未能達到L4階段。”
“肖先生，請你向法庭介紹SHE款汽車在遇到障礙物時是如何識別並分別會做出何種反應？”
“反對，請原告明確問題。”
“原告代理人，請明確你的問題。”
“好，我換個說法。”沈澹繼續問道：“根據SHE車輛宣傳手冊第34頁，提到：先進的識別能力，能夠迅速識別並規避危險。請問，汽車是通過什麽技術進行識別？”
肖尚東看向法官，得到示意後進行回答：“每輛車有六處雷達探測器和激光測距儀，探測到車身四周特別是前方的物體，來發現潛在危險，並且在駕駛員意識到危險並作出反應之前做出判斷並迅速規避。”
“請你進一步說明，這套系統是怎麽識別危險的？”
“這個解釋起來很覆雜，人工智能的特征就是通過不斷學習形成自己的判斷標準。”
沈澹身子不由得探向前：“能否深入淺出地解釋這個問題。”
“比如你想告訴人工智能，什麽是蘋果，可以給他看一千張蘋果的照片，每看一張就告訴他這是蘋果，一千個蘋果有一千個樣子，他會對蘋果的特征形成自己的數據庫，當他再看到一個新蘋果的時候，就能判斷出，這是一個蘋果”
“那麽，如果這個新蘋果長得和那一千個蘋果都不一樣，比如它長得很特別，很畸形，人工智能會不會識別不出來？”
“這是有可能的。”
“怎麽辦呢？”
肖尚東不慌不忙回答道：“這就是他一個學習的過程，下一次他就會知道，這也是蘋果了。”
“所以這輛車在出廠以後，哪怕已經學了一千個蘋果，也依然保持著繼續學習的狀態，而且會一直出現識別不出蘋果的情況，對嗎？”
“反對！”趙曉峰隱隱覺得有些不對，但也說不出理由，法官追問他，硬著頭皮說了原告代理人是在引導肖尚東進行推測。
法官看向沈澹，沈澹攤開手，一副我什麽都沒幹的表情。
“肖尚東可以回答這個問題。”
“我想先解釋一個問題，SHE使用的ADAS系統還稱不上是嚴格意義上的人工智能，它只是基於傳感器檢測和程序計算運行的一套特定程序，叫做自動駕駛輔助系統。”
“這與本案有什麽關系？”
“這很關鍵，在協會的安全分級中，SHE車系在L2級和L3級之間，在特定場景下確實能實現車輛的橫縱向連續控制，但在下大雨、下雪等特殊天氣或是當車道線不清晰、路面出現積水倒影、逆光等情況下，都可能會因為識別不準確而發生危險，所以我們會強調駕駛員仍然要對行車情況保持警醒，以防出現危險時及時剎車。”
趙曉峰在一旁插話道：“所以這又回到了第一次庭前會議時我方的觀點，事故發生前7秒， Autopilot系統已經發出視覺警告，駕駛員沒有及時剎車，導致事故，所以，與GL公司沒有關系。根據國際上通用的責任劃分標準，L1和L2階段汽車的駕駛仍然由駕駛員負責，系統只是在方向和加減速中提供駕駛輔助，如果事故不是因為方向的問題導致，就是駕駛員承擔責任，只有在因為方向的操作失誤導致了事故，才是由駕駛員和系統根據過錯程度承擔。駕駛員有責任全程監視駕駛環境並進行失效應對，如果駕駛員已經糾正了，但無法糾正，才是系統運營商來承擔責任。而到了L3階段，路況覆雜或出現系統難以判斷的情形時，系統會要求駕駛員支援，這期間系統會預留給駕駛員反應的時間，當警告時間到了，車輛就應該由駕駛員接管，相應的責任也轉嫁到駕駛員身上。也就是說，在本案中，駕駛員的責任和普通汽車駕駛員的責任沒有區別。”
胡玥在一旁，緊張地看著沈澹，見他不語，便弱弱地問道：“我有一個問題，不知道能不能問？”
所有人突然都看向她，特別是沈澹。
胡玥小小聲問道：“我就是有點不明白，這套系統，如果什麽都需要駕駛員註意，跟普通的小汽車有什麽區別？”
肖尚東有一種教了半天學生依然懵逼的無語：“剛才我們已經說過了，在AI檢測到是它們能夠識別且能規避的危險時，自動剎車系統會做出反應，只有在系統不能識別或情況危急時才會發出警示。”
“那麽，你們一直在說事故發生前7秒已經發出警告，難道那時候他是識別不出危險嗎？”胡玥突然靈光一閃，繼續問道：“如果它能識別到危險，按照你們剛才說的，雖然只是L2到L3階段，但實際上已經是L3階段了，我想想……對，如果可以識別出危險，他不是應該剎車嗎？為什麽要去警告駕駛員？為什麽要駕駛員接管車輛？”
肖尚東突然被問得語塞，就是這個點，沈澹抓到了，向法院提出回放事故發生前五分鐘的記錄。
系統曾在前方是紅燈時自動剎車停下，在前方有行人時自動剎車停下，在前方車輛緊急剎車時自動剎車停下，但是在事故發生前7秒，他沒有自動停下，只是發出了警示。
沈澹再次播放了事故路口的監控，和胡玥將二者時間一一對應地比對。
趙樂駕駛的車輛以50公裏的時速前行，在事故發生前三十秒，李康推著自行車通過人行橫道，在行至一半時他蹲了下來系鞋帶，背上的大書包正好垂在地上，擋住他蹲下來的部□□體，在事故發生前七秒，汽車發出警示，但沒有停止而是繼續前行，至事故發生前1.5秒，李康站起身，汽車緊急剎車制動突然啟動，但已經阻止不了把李康撞飛。
在場的所有人都沈默了，沈澹問道：“肖尚東先生，我可不可以理解為，在事故發生前7秒，如果系統識別出人行橫道上出現的是行人，他就會自動剎車，事故就不會發生。”
趙曉峰背上已經開始冒汗：“反對，原告在誤導證人，證人可以不用回答。”
“我們這裏並沒有證人，肖設計師是作為專家解答法庭的困惑。”沈澹沒有放過機會，繼續追問：“作為總設計師，我想你的專業知識足以回答這個問題。”
肖尚東並沒有膽怯，似乎沒有察覺到趙曉峰的緊張，而是從容地繼續回答：“正如我剛才說的，系統一直需要學習，包括路況、天氣、行人以及周圍一切物體，因為路上的狀況都是瞬息萬變的。”
“所以，他現在還不能應對所有路面可能出現的狀況，對嗎？”
“再高級的人工智能都需要不斷學習。”
“請回答我是與不是。”
肖尚東被沈澹盯著，回答道：“是。”
胡玥松了口氣，聽沈澹慢慢地向法官的方向，說道：“GL公司將一款尚不能應對覆雜行駛狀況的自動駕駛車輛上市出售，就相當於是將存在缺陷的車輛進行銷售，所以我方要求追加GL公司作為共同被告，並承擔共同賠償的責任。”
趙曉峰面色沈重地從座位上起來，邊打電話邊匆匆向外走去。
肖尚東這個技術宅，還沒從局勢中反應過來，待趙曉峰向上級匯報了情況後把他叫到一邊去苦口婆心地說一通，才知道被沈澹給繞進坑裏了。
他追出去，沈澹二人正在取車要走。
看到他氣勢洶洶地追過來，正準備拍老板馬屁的胡玥嚇了一跳：“怎麽，輸了不服還不放人走咋的？”
“你們，你們挖陷阱，你們顛倒黑白，我要去跟法官說。”
沈澹一把將胡玥扯到身後，車門一關，站在那裏，等著肖尚東走過來，問他：“我的當事人下半輩子連坐起來都是奢望，捍衛他的權利，是我的責任。”
“那你也不能……不能為了贏，就不擇手段。”
“你的意思是，剛才你對法官說的，都是假的？”
“當然不是。”
沈澹攤手，既然是真的，又有什麽好懊惱的，你只是把實話說出來而已。
“你們根本不知道人工智能對將來的社會能帶來多麽巨大的影響。全世界每年因為交通事故導致死亡的人數不下百萬，而95%的事故都是因為人類駕駛員的失誤，自動駕駛的出現將從根本上解決這一問題，更別說緩解道路擁堵和為人們提供的出行便利，整個社會將因此產生像工業革命那樣的變革。如果因為你們的私心導致自動駕駛車輛推廣受阻，因為你們的個案導致大眾對人工智能失去信任，就是在阻攔科技的發展，在和先進理念對抗啊。”
“你錯了。”胡玥從沈澹身後走出來，說道：“我們在做的，恰恰是推進自動駕駛技術的研發和完善。”
肖尚東搖搖頭：“現在的犧牲，是為了將來挽救更多的生命，這是每一項科技推進的必經之路，這就是代價。”
胡玥被他的回答震驚了，反駁道：“像你說的，拯救千千萬萬人生命的疫苗，哪怕會導致健康的人因不良反應死亡，也是可以忽略不計的，犧牲和代價嗎？”
“難道不是嗎？難道你會因為某些體質特殊的人接受了青黴素的註射產生反應，而阻止所有人使用青黴素嗎？”
“我們不是在阻止青黴素，我們是希望讓研究人員註意到會有對青黴素引發不良反應的人群，所以他們研究出了皮試。肖先生，你我的目標，其實是沒有沖突的。”
肖尚東還想再說下去，沈澹以還要去醫院探望當事人為由上車離開了。
本站無廣告，永久域名（fanyan.cc）