✪ 王樂兵
對外經濟貿易大學法學院
【導讀】3月29日晚，一輛小米SU7在高速公路發生碰撞後車輛爆燃，造成3人身亡。據多方報道，事故發生前車輛處於智慧輔助駕駛狀態，發出減速請求並被司機接管，然後車輛撞上水泥護欄，從接管到車禍發生，時間不到三秒。此次事故再次引發公眾對自動駕駛乃至新能源汽車產業的恐慌。
事實上，有關自動駕駛汽車的爭議已持續多年。其中一個焦點，就是自動駕駛汽車事故的責任認定。本文指出，對自動駕駛汽車缺陷與產品責任認定，在我國當前法律體系中仍屬空白、極富爭議。作者分析，目前國內外的現實情況是，因自動駕駛汽車的事故發生率低於人工駕駛汽車，作為原告的消費者很難以設計缺陷為由起訴汽車生產者；法院會以駕駛員擁有車輛型別的選擇權，卻選擇可能存在危險性的自動駕駛車輛為由，駁回原告訴訟主張。
作者認為，這種強行將責任推給消費者的做法，經不起推敲。若車輛系統未向用戶發出警示和接管請求而發生事故，就應排除使用者過失，直接推定產品存在缺陷而成立產品責任。作者進一步主張，宏觀層面的行業發展問題，不是產品責任制度的首要考慮目標。那種透過比較傳統人工駕駛與自動駕駛的事故數量和經濟損失數額，進而推斷自動駕駛比人工安全的觀點，毫無價值。因為生產者本應使消費者的生命安全得到最大程度的保護，兩者不能混為一談。
本文節選自《清華法學》2020年第2期，原標題為《自動駕駛汽車的缺陷及其產品責任》，篇幅所限，文章有所刪節，僅代表作者觀點，供諸君參考。
自動駕駛汽車的缺陷及其產品責任
▍引言：全球第一起自動駕駛致駕駛員死亡案
2016年1月，一輛特斯拉轎車在京港澳高速河北邯鄲段撞上一輛正在同向車道前方行駛作業的道路清掃車，司機高某不幸身亡。經交警認定，司機高某對追尾事故負主要責任。事後，司機高某的父母將生產商特斯拉公司告到法院，要求其承擔產品責任。在審理過程中，法院委託的鑑定機構透過讀取特斯拉公司提供的行車資料，確認司機高某當時開啟了自動駕駛系統，並直接導致了事故發生。由此，該案成為全球第一例因自動駕駛汽車致人死亡而導致的產品責任訴訟案件。同年5月，在美國佛羅里達州，駕駛員駕駛同款汽車，在開啟自動駕駛功能後觀看電影，因自動駕駛系統未能識別出突然進入車道的白色車輛，致使發生碰撞事故，駕駛員當場死亡。在此之後，義大利、美國蒙大拿州、加利福尼亞州和我國北京陸續發生了幾起因開啟自動駕駛(Autopilot)系統而引發的交通事故，並導致了人身財產損失。連續發生的事故，使得消費者對自動駕駛車輛的安全性產生了疑問，也使自動駕駛汽車的產品責任問題浮出水面。
與傳統的產品責任案件不同，自動駕駛汽車致人死亡的侵權案件呈現一些新的特徵：相比於傳統汽車，自動駕駛汽車因其軟、硬體的合成而使其製造技術和使用更加複雜，風險因素增加；人工智慧駕駛系統使得汽車的控制權和駕駛決策從駕駛員部分甚至全部轉移給了駕駛軟體；相比於硬體缺陷，自動駕駛汽車的軟體和演算法缺陷更為隱蔽，但其造成的損害後果卻更為嚴重、更加具有不可預防性。但是，如何認定自動駕駛汽車的缺陷在我國當前法律體系中仍屬空白，導致對其生產者適用產品責任極富爭議。自動駕駛汽車的產品缺陷應當採用何種標準進行認定？作為人工智慧應用的典型代表，自動駕駛汽車的軟體和演算法缺陷能否適用產品責任？《產品質量法》的修改和民法典“侵權責任編”的制定應當如何回應人工智慧對產品責任的影響？當前國內學界對自動駕駛汽車交通事故責任進行了較多研究，並對高度或完全自動駕駛汽車的產品責任問題進行了初步探討；但對“人機混合”模式下部分自動駕駛汽車的產品責任未予以系統深入的研究。有鑑於此，本文以當前國內外發生的部分自動駕駛汽車致人死亡案件作為切入點，結合《產品質量法》修改和民法典“侵權責任編”的制定，系統分析自動駕駛汽車的產品缺陷及其產品責任的適用問題，為自動駕駛技術的發展提供確定的法律預期，保護消費者的合法權益，亦為立法如何回應人工智慧的挑戰提供系統的思考視角和經驗借鑑。
▍自動駕駛汽車的技術特徵與法律定性
在我國當前的法律規範框架下，並無對自動駕駛汽車產品缺陷責任的特殊規定；“民法典侵權責任編草案”基本沿襲了現行《侵權責任法》和《產品質量法》的相關規定，未就其做出更細緻的規定。對於傳統汽車，其當然屬於《產品質量法》規定的“產品”之範疇；主管機關亦頒佈了《缺陷汽車產品召回管理規定》等配套規範，旨在確保產品安全、維護消費者合法權益。然而，人工智慧和大量軟體、程式在自動駕駛汽車上的應用，使其獲得了不同於傳統汽車的特性，由此產生的問題是人工智慧技術在汽車上的應用，是否會改變汽車的“產品”屬性及其產品缺陷的認定，從而會影響到其責任的承擔？為了避免“人工智慧法學研究中的概念附會”問題，本文先對自動駕駛汽車的技術特徵與法律性質進行分析，避免對人工智慧技術不切實際的空想，以便為其缺陷認定和產品責任分析提供紮實的基礎。
（一）自動駕駛汽車的安全效能與其設計本旨
與傳統汽車不同的是，自動駕駛汽車主要是透過整合化的、系統性的駕駛取代傳統的個性化色彩突出的駕駛習慣，透過大資料和系統化的駕駛行為避免駕駛員的各類錯誤，實現其防止碰撞和預防交通事故的首要目標。不同於傳統汽車，自動駕駛汽車不再強調駕駛車輛的操控性和駕駛樂趣，而是更注重車輛能否將乘客安全地送達目的地這一實用性目標。寓於實用性目標的車輛安全性，理應成為自動駕駛汽車行業發展的根本要求，只有在確保車輛安全使用的前提下，才能談及其合法性和商業推廣，否則，其不僅不能實現其所被期待實現的目標，反而對人類生命健康安全形成巨大威脅。
首先，就其感知系統而言，其可以透過視覺感知(攝像頭和視覺感測器)、雷射感知(雷射雷達)和微波感知(如毫米波雷達)等三種代表性技術完成對駕駛環境的識別和監測，識別道路狀況(如坡度、障礙物、坑洞、拐彎或繞道等)、交通狀況(路線標誌、訊號燈、限行限速、擁堵、事故等)、道路上的其他車輛和行人、天氣條件等，從而代替駕駛人的感知。因為配備了先進的感知裝置，其所能感知的距離更遠、對環境的變化更敏感，也不會像人類一樣感到疲倦、不會受到光線和雨霧等天氣因素的影響，因此，自動駕駛車輛的感知系統相比人類具有優勢。但是，從當前的技術發展角度來看，以上三類感知技術各有優點和缺點，如視覺感知容易受到光照和運動速度的影響，因此在強光和高速公路上行駛時，無法進行有效感知，並且其當前僅能用於識別特定目標(如人臉、文字、指紋等)，尚無法勝任複雜環境下的全要素識別任務，這也是為何佛羅里達州自動駕駛事故發生的主要原因；而雷射感測器和微波感知毫米波雷達則無法感知無距離差異的平面內目標資訊，無法有效應對複雜的城區駕駛環境，因此其無法識別靜止物體或低速行駛(如低於30km/小時)的車輛、偏航的車輛、路坑等，而這恰恰是河北邯鄲事故的主要原因。由此可見，當前自動駕駛的感知和識別技術，均無法有效的識別所有影響駕駛安全的要素，因此需要融合當前的幾種感知技術，並且輔以車輛定位導航技術，以更好地確定車輛的位置、速度、航向等。即使如此，也不能保證對相關物體完全實現有效識別。相對而言，人眼識別更加有效，相關障礙(尤其是不能被機器有效識別的障礙)均可被人眼有效識別並避免事故的發生。一個不能有效識別駕駛障礙的自動駕駛汽車，根本無法做出安全有效的駕駛決策，這一問題將從根本上動搖自動駕駛系統的安全性基礎。
其次，就其決策系統而言，因為計算機晶片更加先進，自動駕駛系統的決策系統資料處理能力相比人類明顯更為強大，決策反應更為迅速，電腦演算法可以綜合各類因素，如車輛速度、其他車輛的位置和行為方式、障礙物的位置和軌道燈，透過迅速地評估、比較、選擇並最終做出最佳的決策，因此可以有效避免人類的猶豫、驚慌、計算失誤等因素導致的錯誤決策和事故。與此同時，在當前的技術條件下，人工智慧也具有明顯的缺陷：
（1）其基礎演算法無法像人類一樣富有經驗並可以完全理解其所感知到的各類資料；在某些感知挑戰賽中，參賽隊提供的演算法對超市貨架上的物品甚至不能達到80%的準確率，因此需要不斷地完善電腦演算法以便更加準確地偵測、識別和定位各類物體。
（2）人工智慧的學習能力需要不斷進行訓練和培養，但對人工智慧深度學習的能力培養很大程度上體現了開發者的知識積累程度和價值觀，甚至帶有其在現實世界中的歧視和偏見，具有很大的侷限性。
如當前的自動駕駛系統對靜止物體或低速行駛車輛的識別問題，因為環境中靜止的物體很多，受限於識別能力和資料處理能力，車載雷達和電腦無法處理，因此當前的自動駕駛系統被設計為主要識別移動的物體、而無法識別靜止或低速移動的物體，這也是為什麼當前的自動駕駛系統均要求駕駛者始終保持對車輛的控制。這一問題在“河北邯鄲案”中體現的很明顯，其感知系統已經識別了這些情況，只是分析和決策系統決定忽略，不採取行動，最終導致事故發生。這一設計雖然大大減輕了機器的學習壓力，但也表明了設計者對消費者安全的漠視。此即機器學習過程的不透明所導致的常人難以知曉的“演算法黑箱”，但這一安全隱患通常不為普通消費者所知。人工智慧的演算法缺陷使得消費者對智慧機器的控制力下降，因為普通消費者根本不瞭解其所深藏的演算法缺陷，從而使得其行為具有更大程度的不可預測性。
從上述分析可知，自動駕駛系統的感知、識別和決策系統並非完美；受制於當前技術發展的不完備性和成本因素，當前的自動駕駛系統無法有效處理影響駕駛安全的各類因素，甚至某些因素因為經濟和效率原因而被設計者所刻意忽略，再加上行業從業人員的刻意誤導宣傳，自動駕駛汽車的安全隱患被人為掩蓋了，嚴重違背了產品的設計倫理和法律倫理。
（二）自動駕駛汽車與“產品”的界定
對於產品責任法意義上的“產品”，通常系經過加工、製作用於銷售的各類有形動產，原則上不動產和無形動產不能作為《產品質量法》規範的產品。從比較法上看，部分國家有將部分不動產、電力以及軟體作為產品對待的做法。自動駕駛汽車的一大特徵是由軟體或程式代替駕駛員做出駕駛決策，並且因為人工智慧的發展使其可以基於其演算法而具有自主學習和決策能力。隨著軟體在傳統汽車上的應用愈發重要，與軟體和電子器件有關的機動車缺陷導致汽車召回的數量日益增加；而自動駕駛汽車上融合了更多複雜技術，其所安裝的軟體的缺陷將直接影響到汽車功能的發揮和駕駛安全。隨著從傳統車輛向自動駕駛車輛的轉變和車輛智慧化程度的提升，事故更多源自產品軟體或“演算法”缺陷而非駕駛員的錯誤，因此生產者是否應當承擔軟體缺陷所導致的產品責任？
首先，對於軟體程式等智力產品是否構成“產品”及其生產者是否承擔產品責任，我國《產品質量法》《消費者權益保護法》等均未明確規定。從比較法上看，各國產品責任法中的“產品”原則上僅面向各類有形動產；而計算機軟體雖然是自動駕駛汽車的重要構成部分，但其並非經過加工的有形產品，故而缺陷理論能否適用於(自動駕駛汽車的)軟體或者演算法錯誤存在爭議。例如書籍可以被視為產品，但書籍中包含的資訊則不能視為產品，因為作者所表達的觀點是智慧財產權所保護的物件。典型的例子諸如包含錯誤資訊的導航軟體和地圖，因為導航軟體的錯誤指示，導致飛機墜毀；以及與波音737-MAX的“機動特性增強系統(MCAS)”，該軟體本來是為了應對因更換髮動機所可能導致的飛機失速問題，但因為感測器的錯誤導致軟體錯誤啟動，並最終致使飛機墜毀。在Aetna Cas.& Sur.Co.v.Jeppesen & Co.一案中，法院認為，導航圖主要是根據其物理特徵而非其所包含的資訊內容進行使用，因為“‘降落座標’是由聯邦航空管理局以表格形式規定的，傑普森公司(Jeppesen)獲得了聯邦航空管理局的表格並將其資訊描繪在圖示上，此即傑普森公司的產品”，並且駕駛員對導航圖的依賴直接導致了事故的發生。但亦有法院拒絕此種推理，其認為傑普森公司的圖示不過是將政府降落程式中的文字的再出版，其將政府程式中的文字轉化為圖示形式，並且表明該圖示包含了所有必要資訊。得克薩斯州上訴法院在Way v.Boy Scouts of America一案中認為，在事故發生時，導航自身被直接用於飛機的操作，不精確的資料直接導致了飛機事故的發生，就像損壞的羅盤或不精確的高度儀導致飛機墜毀一樣。因此，借鑑上述論證邏輯，鑑於自動駕駛軟體核心角色，其直接導致了事故的發生，因此自動駕駛軟體可以被視為產品進而適用嚴格責任。
將軟體視為產品的第二個理由是，若軟體在市場上進行大規模的批次銷售，則該軟體應當被視為“商業軟體”，進而應當被視為產品，因為商業軟體具有批次生產和規模化銷售、生產者處於控制風險的較好地位和具有分攤產品事故費用的較強能力等特點；當其缺陷導致消費者受到損害時，應當適用嚴格的產品責任；這一觀點也被《美國統一商法典》所採納。商業軟體區別於專門為滿足特定消費者(尤其是企業)需求而開發的軟體，後者應當被視為服務，因為該軟體系根據客戶要求而量身定做的，需滿足特定的技術要求並須提供培訓、維護等配套服務。透過商業軟體與服務軟體的區分，並將商業軟體作為產品對待，可以有效地實現對消費者的保護。從消費者的角度而言，將軟體視為產品並對其缺陷適用嚴格責任將鼓勵生產者進行充分的檢測以便在該軟體投入市場之前阻止可能存在的缺陷，而不是寄希望於消費者在使用過程中發現其存在的漏洞並向其報告。隨著軟體缺陷所導致的人身損害日益增加，我國《產品質量法》必須考慮是否以及在何種程度上將產品責任適用於軟體缺陷，從而實現保護消費者和鼓勵技術進步的平衡。
將軟體視為產品的第三個理由是，軟體構成了特定產品的一部分或者說是“固有軟體”，並直接塑造了該產品的核心效能和特徵，如安裝了自動駕駛軟體的汽車。其最典型的特徵是內置於該產品之中，成為產品具有特定效能的基礎要素或前提。亦因此，消費者並不完全知曉內置於車輛的各類軟體。實際上，軟體對於車輛安全的重要性在傳統車輛中也日益重要，某些品牌車輛內建的程式編碼已經超過了飛機，與車輛整合電子部件和軟體相關的車輛缺陷是近些年車輛召回的主要原因，如通用在2016年召回了360萬輛汽車，原因是其行車電腦會導致氣囊和安全帶發生故障。作為生產者內置於車輛內的軟體，包括產品銷售之後下載或更新的軟體，其均體現了生產者對產品功能和安全的控制，並對消費者的人身財產安全具有重大影響；相比於傳統車輛，自動駕駛車輛涉及更多複雜的技術整合，更容易受到內建軟體缺陷的影響；如果因為軟體存在缺陷導致產品致人損害，則應當視為該產品自身缺陷所導致的損害、應由生產者或銷售者承擔嚴格責任；至於生產者與該軟體的提供者或設計者之間因該軟體缺陷引發的糾紛，應當由雙方根據其既有合同約定進行解決，不應當影響到消費者向生產者主張產品責任。預置於車輛內的軟體已經成為車輛的一部分，使其獲得了自動駕駛這一功能，徹底改變了車輛的特性，因此，軟體缺陷應當被視為產品缺陷，生產者和銷售商應當承擔相關產品缺陷責任。
綜上，自動駕駛技術的發展階段與其設計所要求的安全目標之間仍然存在較大距離。雖然自動駕駛系統主要體現為機器學習，但自動駕駛軟體在車輛上的廣泛安裝和使用使其成為自動駕駛車輛的固定構成部分，是自動駕駛車輛區別於傳統車輛的核心特徵之所在，因此，自動駕駛軟體所具有的缺陷應當被視為自動駕駛車輛自身的產品缺陷，並非生產者所提供的滿足特定消費者需求的“服務”。
▍自動駕駛汽車缺陷的判斷
自動駕駛技術的出現，使得駕駛錯誤的來源從駕駛員(可能存在疲勞駕駛、注意力不集中、性格毛躁冒進、處置緊急路況時的猶豫或隨意等錯誤)轉向了設計和製造自動駕駛汽車的生產者。如前所述，在當前的技術條件下，自動駕駛汽車的感知、識別和決策系統等均存在不同程度的技術不成熟情況，從而影響到了駕駛安全。結合前文所述自動駕駛汽車的技術特徵，本文在此結合案件實際詳細分析自動駕駛汽車的製造缺陷、設計缺陷和警示缺陷及其認定標準。
1. 製造缺陷
製造缺陷主要是指在製造和銷售產品的過程中，產品偏離其預期設計的情況，即使生產者在製造和推廣產品時已盡到所有可能的注意。對於製造缺陷而言，不管生產者的質量控制是否滿足合理性標準，只要存在產品缺陷，其即應當承擔嚴格責任。典型的製造缺陷如物理上有缺陷、產品被損害或未被正確安裝。有學者武斷地認為“製造缺陷不太可能適用於自動駕駛汽車”，但這種論斷與實踐存在嚴重不符。實際上，不管自動駕駛汽車的技術如何先進和複雜，其仍有出現製造缺陷的可能，只不過其製造缺陷的判斷相對容易罷了，即：只要發現產品偏離其設計的情形，就可以對其生產者提起製造缺陷之訴，如車輛攝像頭、感測器、雷達等感知系統功能障礙或者安裝錯誤，從而導致無法發現周圍的物體、行人或車輛進而發生碰撞，這將構成製造缺陷的直接證據。但是，當自動駕駛汽車發生事故、沒有直接證據證明存在特定瑕疵時，如果原告能夠舉證證明其在正常使用期間發生故障，則可推定瑕疵的存在。
如前所述，因為雷射雷達、毫米波雷達和攝像頭等感知識別方式均存在其短板，故當前的自動駕駛車輛均同時整合安裝了上述三類感測裝置，從而揚長避短、共同探測各類影響駕駛安全的因素。但是從河北邯鄲和佛羅里達發生的事故來看，駕駛人使用了自動駕駛系統掌控車輛後，其雷達和攝像頭在其有效識別距離和安全剎車距離內均未識別出前方的風險障礙物(如車道內的垃圾清掃車、拐彎車輛等)，未能在逆光環境下對橫穿馬路的大貨車做出有效識別，導致事故發生，裝置的功能障礙表明其存在明顯的製造缺陷。
2.設計缺陷
設計缺陷主要是指生產者或銷售者對產品導致損害的可預見風險本可以透過採納合理的替代設計而減少或避免，但因為疏忽沒有采納該替代設計而使產品具有不合理危險。設計缺陷意味著其整個生產線存在缺陷，因此根據該缺陷設計生產出來的同一類產品均具有此類內在的危險或缺陷。與製造缺陷僅僅關注產品自身效能相比，設計缺陷的判斷需要綜合多種因素對產品設計進行復雜的“消費者期望”或“風險—效用”分析，這些要素包括自動駕駛技術的社會效益和成本，替代設計的技術可得性及其成本等。只有在綜合考慮這些因素的基礎上，才能夠對自動駕駛技術的風險和效用做出相對全面客觀的評估，進而判斷其是否具有缺陷。但是，對這些因素的考量更關注生產者的行為而非產品的自身效能。
首先，如前所述，從自動駕駛技術的設計初衷和其當前的實際技術發展階段來看，二者之間存在巨大的鴻溝：其設計目標是透過所有車輛均互聯互通實現資料共享，從而使車輛做出最佳的駕駛決策，減少交通事故和人身傷亡；因此，有學者認為自動駕駛汽車的有用性遠遠超過其所帶來的風險和成本，自動駕駛汽車的事故發生率遠遠低於人工駕駛汽車，目前很難找到自動駕駛技術的替代品，因此，原告很難以設計缺陷為由起訴生產者；但從其技術發展現狀來看，不僅自動駕駛車輛因為物聯網發展的滯後未能實現車輛之間的資料共享，而且因為自動駕駛車輛和人工駕駛車輛的並存，致使駕駛環境更加複雜，反而增加了自動駕駛的風險，這也是為何當前的事故多發生在自動駕駛車輛和人工駕駛車輛之間的原因。因此，對自動駕駛汽車風險、收益的比較，不能漫無邊際地著眼於毫無實證研究支撐的、片面的宏觀分析和價值選擇，而是應當尊重當前的技術發展狀況。
其次，因為技術的不完備性，當前自動駕駛汽車均要求駕駛員始終保持對車輛的控制。由此，有美國學者認為，對於配備2級或3級駕駛輔助系統的車輛所導致的事故，原告不能主張車輛具有設計瑕疵，因為知情的駕駛員具有車輛型別的選擇權，消費者選擇具有不合理危險的部分自動駕駛車輛，排除了其主張設計缺陷的基礎，法院可以駁回此類訴訟主張。
但本文認為，這種強行將責任推給消費者的行為是經不起推敲的。原因是：
（1）從產品設計角度來看，儘管當前的自動駕駛車輛均要求駕駛員將手放在方向盤上，否則自動駕駛系統會提供視覺化警告並將車輛逐漸減速，直到車輛檢測到手重新放在方向盤上。但從涉案車輛的情況來看，生產者並未對駕駛人可能放棄對車輛的控制的情形進行充分的預估並作出相應的安全預案，如對長時間不控制方向盤的行為沒有提供警示，也沒有如其使用說明所說的進行減速或停靠操作。而這種“替代設計”並非現行技術不能解決，因此，涉案車輛存在明顯的設計缺陷。
（2）就自動駕駛汽車的產品設計而言，不僅包括其外觀、功能、整體結構、材料、加工工藝、安全防護設計等，還包括做出駕駛決策的自動駕駛系統所配置的演算法和程式。但是，當前的自動駕駛軟體系統的設計存在嚴重的設計安全漏洞或“演算法黑箱”問題，即自動駕駛軟體的設計者刻意忽略了某些對人身財產安全具有重要影響的要素，故而其演算法執行過程中也不再考慮這些安全隱患。當前的自動駕駛汽車之所以不能識別靜止物體或低速行駛的車輛，是出於駕駛效率的考慮，即如果將所有的靜止物體均視為障礙物而進行剎車或降速的話，則車輛將無法有效行駛，為此其軟體程式設計者選擇了忽略靜止物體和低速行駛物體。這種“弱人工智慧”自身的函式設定決定了其內在的設計缺陷，無法有效識別駕駛環境中的風險，這也是為何當前的自動駕駛車輛均要求駕駛員保持對車輛進行控制的原因。
利用“風險—效用”標準認定自動駕駛系統的設計缺陷，不僅要認識到其對人類社會所帶來的收益，更應當清醒地認識到其技術侷限性以及對人類生命財產安全的巨大威脅。從上述分析來看，其社會效益的評估失於抽象宏觀而忽略了微觀層面上該技術自身的不成熟性和潛在風險。來自於自動駕駛軟體的設計缺陷或“演算法黑箱”，使自動駕駛汽車本質上具有不安全性，相比於某些人類駕駛錯誤的可修正性，自動駕駛軟體的設計錯誤或演算法黑箱所造成的損失具有不可避免性。對於其軟體設計中的明顯漏洞，應當直接認定為設計缺陷；而對於具有深度自主學習能力的人工智慧，其演算法和決策行為必須能夠可解釋，否則應當認定其具有設計缺陷。
3.警示缺陷
與設計缺陷緊密相關的是警示缺陷，主要是指產品所導致的可預見的損害風險本可以透過由生產者或銷售者提供合理的指導教育(instruction)或警示(warning)而減少或避免，但因為說明或警示不充分致使產品產生不合理的危險。教育或者警示主要指向生產者的行為，而非產品本身，因此對警示缺陷的認定應當根據一般人的理性標準，判斷警示是否足夠具體和明確，從而使產品的普通消費者知曉相關危險。因此，生產者在提供教育或警示方面的過失對於判斷警示缺陷具有決定意義。但是，生產者的警示義務僅限於“預見其正常使用的可能結果或者其能夠合理預測的用途”，其沒有義務對粗心的消費者就產品明顯的內在危險進行教育，也沒有義務就銷售時無法預見到的危險進行警示。
作為一種新產品，即使其被正確設計，自動駕駛汽車的駕駛效能對某些消費者而言仍是模糊的。比如，“自動駕駛”(Autopilot)這種表述對不同的消費者具有不同的含義，消費者是否能夠了解自動駕駛技術的不同分級以及(部分)自動駕駛技術的侷限？其是否瞭解相關操作行為的嚴重後果？尤其是對於剛剛進入中國市場的自動駕駛車輛而言。從一種駕駛模式向另一種駕駛模式的轉變產生了在傳統車輛中不存在的安全問題。在自動駕駛和人工駕駛並存的現狀下，因為生產者對“自動駕駛”的過度宣傳、駕駛人的麻痺大意以及其對自動駕駛的逐步信任而未能實現對車輛的隨時接管；車輛持續處於自動駕駛狀態將會使駕駛員放鬆注意力並過度依賴自動駕駛系統，其注意程度甚至不如其駕駛純粹的人工駕駛車輛時，駕駛環境變得更加複雜，影響駕駛安全的因素因此大量增加而非減少，進一步加劇了自動駕駛的安全風險。因此，自動駕駛技術不僅不能減少交通事故的發生，甚至成為道路風險的新來源。
對於自動駕駛汽車而言，其警示的重點應當放在自動駕駛系統軟體或演算法上，生產者必須對人工智慧做出駕駛決策的原理和方式、其潛在的駕駛風險做出明顯地警示並提供相應的指引。對當前的自動駕駛車輛而言，其通常要求“駕駛員始終將手放在啟動的機動車上，保持對車輛的控制，隨時準備接管車輛”，那麼，對於沒有將手放在方向盤上對車輛進行控制並因此在事故中傷亡的駕駛員，是否可以向生產者主張警示缺陷責任？還是將全部責任歸於沒有及時剎車的駕駛員從而使生產者免責？一個有趣的事實是，在出現一系列傷亡事故後，涉案的汽車生產者均將“自動駕駛”改為了“自動駕駛輔助”，雖然其英文表述仍使用“Autopilot”。這從某種程度上印證了其可能存在誇大宣傳的嫌疑。對產品進行虛假陳述或誇大宣傳的生產者將會催生應予保護的消費者合理期待。因此，對產品安全進行虛假或誇大宣傳的生產者應當承擔產品(警示)缺陷造成的損害。但是，生產者並未對自動駕駛系統軟體的“演算法黑箱”進行警示和說明，從而使消費者對人工智慧產生了盲目的自信。這恰恰構成了駕駛員放棄控制車輛的主要原因。
設計缺陷和警示缺陷在某些情況下可以相互轉化。《美國侵權法重述》(第三版)規定，“說明和警告可能會無效，因為產品使用者可能無法充分獲得、不注意，或者可能沒有充分的動力去遵循說明或留心警告。”因此，“當可以採取更安全的設計從而避免相關風險時，生產者被要求採取更安全的設計而非採取單純的警告，以避免此類重大風險。”不採取合理的安全容錯設計的生產者，應當承擔因此產生的人身損害的侵權責任。因此，生產者不能僅僅警告駕駛員保持“警醒”並承擔因駕駛輔助系統導致的駕駛責任，其必須採用針對駕駛輔助系統的容錯設計，從而減少駕駛員的錯誤。儘管自動駕駛汽車的生產者均對駕駛人監控駕駛系統的義務進行了提示，但是此種義務並不能直接等同於法律上的義務。因此，在自動駕駛模式下，若系統未向用戶發出警示和接管請求而發生事故，便可排除使用者過失，直接推定產品存在缺陷而成立產品責任。
▍更負責任的保護消費者安全
當前，自動駕駛的技術原理和最新進展尚未被大眾普遍理解、其安全水平並未經過有效地檢驗，與之形成鮮明對比的是生產者、銷售商、新聞媒體、監管者以及部分研究人員對自動駕駛技術的安全、經濟收益和行業發展前景進行了不切實際地宣傳和誇大。因此，有必要對其施加嚴格責任以促使所有利益相關方採取更負責任的行為保護消費者安全。
從駕駛安全形度來講，自動駕駛技術的採用使得駕駛環境更加複雜、駕駛安全面臨更多挑戰。人工駕駛汽車之所以事故頻發，是因為駕駛員駕駛習慣、個人身體和精神狀況、道路狀況、天氣情況以及諸多偶然因素所導致的駕駛環境的複雜性所造成的。在自動駕駛汽車誕生後，駕駛環境的複雜性並未改觀，甚至因為人類駕駛決策與自動駕駛汽車識別能力和演算法之間的並存而加劇了駕駛環境的複雜性，因此增加了事故機率和駕駛員傷亡的機率。與無人駕駛技術在飛機、輪船和軌道交通中的應用不同，其在普通機動車領域的應用所面臨的技術難度和風險要遠遠高於前者。與此同時，相比於初級自動駕駛和完全自動駕駛車輛，部分自動駕駛車輛的技術風險要更高，一方面其要求駕駛員時刻保持對車輛的控制，但同時自動駕駛會極大地懈怠駕駛員的精神注意力，使其盲目信任智慧軟體而在駕駛過程中可能分心做其他事情，從這個角度講，部分自動駕駛汽車的這種技術要求是違背普通人的駕駛習慣和人性的，極易引發事故。駕駛員對車輛的不完全控制和自動駕駛技術的缺陷疊加在一起，使得事故發生的原因和可歸責性更加複雜，但也從另一個側面表明了對生產者施加嚴格責任的必要性，以促使其改善設計理念、加快技術更新。受制於資料、確定性、不完全資訊、可預測性和適用範圍等問題，當前技術條件下的人工智慧顯然無法實現在日常駕駛環境下的完全自動駕駛，而這與當前某些廠商的宣傳是截然相反的。
從當前社會對自動駕駛技術的態度來看，政府、企業和研究者紛紛看好其發展前景。但是，對於自動駕駛汽車的發展前景，普通民眾要比監管者謹慎得多。美國自動駕駛協會2016年3月做的一項調查表明，3/4的美國駕駛員在駕駛自動駕駛汽車時感到害怕，只有1/5的受訪者信任自動駕駛汽車；而英國的一項調查也表明大多數英國公民在自動駕駛汽車裡面感到不舒服，超過3/4的駕駛員仍想控制方向盤。因此，關於自動駕駛汽車的討論在很大程度上被誤導了，關鍵的問題並不是計算機或人工智慧是否完美，而是其是否比人更安全？尤其是當自動駕駛系統存在某些設計缺陷時，人類有沒有機會方便地修正此類錯誤，還是必須以犧牲駕駛員和路人的生命為代價促進生產者進行技術改進？法律制度的設計不能受行業利益的綁架和蠱惑，產品責任制度設計的出發點和最終目標是透過對生產者施加嚴格責任而促使其提高產品質量、保證消費者人身財產安全，就此而言，宏觀層面上行業發展的問題不是產品責任制度的首要考慮目標。因此，那種透過分析傳統人工駕駛狀態下事故發生率、傷亡人數以及導致的經濟損失數額，並與當前自動駕駛汽車所導致的事故數量和損失數額進行比較，並認為自動駕駛汽車總體上比人工駕駛汽車更加安全的觀點是毫無價值的。因為嚴格產品責任關注的是生產者是否為改進產品設計和安全水平盡到了最大努力，從而使消費者的生命安全在交通事故中得到最大程度的保護，兩個問題不能混為一談。
▍結論
作為自動駕駛汽車的重要組成部分，其預置的軟體(包括演算法)應當被視為“產品”，因此，生產者應當就因軟體或演算法缺陷而導致的損害承擔嚴格責任。當前的人工智慧演算法的工作原理(機率統計和大數定理)表明，機器學習從本質上完全不同於人類的理性學習，其並不能發現駕駛的本質並據此做出安全的駕駛決策，因此，人工智慧技術無法在本質上確保駕駛安全。自動駕駛汽車不因人工智慧技術的使用而改變其產品性質，人工智慧及深度學習演算法的應用，並未使自動駕駛汽車獲得所謂的人工智慧人格，在當前討論高度自動駕駛汽車的產品責任甚至自動駕駛汽車的主體性問題純粹是學者的臆想或者“AI浪漫主義”。當前產業界、學界和監管者對於自動駕駛技術的發展願景顯得過於樂觀，忽視了其固有風險，放任未經過安全檢驗和具有根本安全缺陷的產品在市場上流通，體現了生產者對消費者生命財產安全的漠視。自動駕駛技術的發展必須遵守嚴格的機器倫理，最大程度體現對消費者生命安全和健康的尊重，如消費者有權獲得演算法解釋、有權退出演算法決策。法律制度必須為發展可信賴的人工智慧提供激勵，使其既符合倫理、也符合法律之規定。因此，自動駕駛汽車的產品缺陷必須含括其演算法或軟體缺陷，進而適用嚴格的產品責任，以鼓勵生產者關注駕駛安全。
本文節選自《清華法學》2020年第2期，原標題為《自動駕駛汽車的缺陷及其產品責任》，篇幅所限，文章有所刪節。歡迎個人分享，媒體轉載請聯絡版權方。
打賞不設上限，支援文化重建
長按下方二維碼打賞
訂閱服務熱線：