這份由國家科技倫理委員會人工智能倫理分委員會組織編寫的文件，意在指導(dǎo)駕駛自動化技術(shù)研究開發(fā)和應(yīng)用的規(guī)范開展，防范駕駛自動化技術(shù)研究開發(fā)與應(yīng)用過程中的科技倫理風(fēng)險，推動該領(lǐng)域健康發(fā)展，確保駕駛自動化技術(shù)研發(fā)和推廣符合社會公眾利益。

對生命安全的尊重和保護擺在首位

“駕駛自動化系統(tǒng)具有技術(shù)和社會‘雙重’屬性，相關(guān)技術(shù)創(chuàng)新和產(chǎn)業(yè)化過程必須充分考慮社會公眾的價值追求和倫理考量。”國家科技倫理委員會人工智能倫理分委員會委員、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克表示，提出符合我國國情的倫理指引，是為了規(guī)范駕駛自動化技術(shù)研發(fā)和推廣行為，防范和化解相關(guān)領(lǐng)域倫理風(fēng)險。

《指引》的適用對象是與駕駛自動化技術(shù)相關(guān)的責(zé)任主體，包括技術(shù)研發(fā)主體、生產(chǎn)制造主體、使用主體等，適用的客體化載體為具有駕駛自動化功能的汽車，既適用于具有先進駕駛輔助功能的汽車，也適用于裝載了自動駕駛系統(tǒng)的汽車。

《指引》提出了四個基本原則——以人為本、增進福祉；安全優(yōu)先、尊重生命；公平公正、避免偏見；知情保障、信息公開。同時，《指引》提出了合法合規(guī)、效益提升、控制風(fēng)險、及時調(diào)整、隱私保護等五項一般要求。

在龔克看來，《指引》呈現(xiàn)四大特點：倡導(dǎo)安全性、體現(xiàn)共識性、遵循漸進性、強調(diào)可應(yīng)用性。比如，將駕駛安全置于突出地位，提出駕駛自動化技術(shù)研究開發(fā)和應(yīng)用必須充分考慮安全性，其中既包括駕駛自動化參與者的生命主體安全，也包括道路交通環(huán)境安全和數(shù)據(jù)、算法等技術(shù)安全。

《指引》明確，駕駛自動化系統(tǒng)的研究開發(fā)和應(yīng)用要在注重技術(shù)提升效益的同時，更加強調(diào)相關(guān)風(fēng)險的防范和責(zé)任落實。

“在風(fēng)險防范方面，高度重視駕駛自動化系統(tǒng)對生命安全的尊重和保護，明確提出在不可避免的交通事故和極端行車環(huán)境中，應(yīng)最大限度降低對人的傷害。”龔克認(rèn)為，《指引》還注重防范數(shù)據(jù)隱私、算法歧視、算法解釋等因素可能對相關(guān)主體造成的風(fēng)險。

不同類型駕駛自動化系統(tǒng)皆“有規(guī)可循”

在綜合借鑒國際標(biāo)準(zhǔn)、國家政策和地方實踐的基礎(chǔ)上，基于《汽車駕駛自動化分級標(biāo)準(zhǔn)》等文件，《指引》將駕駛自動化劃分為先進駕駛輔助階段、有限制階段的自動駕駛、無限制階段的自動駕駛?cè)N類型，對不同類型駕駛自動化的責(zé)任主體進行劃分。

先進駕駛輔助階段是指2級及以下的駕駛自動化，其責(zé)任主體通常是人類駕駛員；有限制階段的自動駕駛包括3級和4級駕駛自動化，責(zé)任主體因具體運行場景而異，用戶和自動駕駛系統(tǒng)都可能成為責(zé)任主體；無限制階段的自動駕駛包括5級駕駛自動化，除非特殊情況下用戶主動介入操作，無限制階段自動駕駛的責(zé)任主體一般以自動駕駛系統(tǒng)為主。

《指引》明確，當(dāng)自動駕駛系統(tǒng)作為自動駕駛責(zé)任主體時，應(yīng)當(dāng)能夠根據(jù)有關(guān)法律法規(guī)、技術(shù)標(biāo)準(zhǔn)向相關(guān)自然人主體或法人主體（包括但不限于自動駕駛系統(tǒng)開發(fā)者、自動駕駛系統(tǒng)生產(chǎn)商、自動駕駛汽車權(quán)利人、自動駕駛系統(tǒng)用戶）清晰追責(zé)。

《指引》在“科普宣傳”部分指出，在發(fā)布重大研究成果時，相關(guān)主體應(yīng)堅持客觀準(zhǔn)確、實事求是，避免片面夸大、隱匿風(fēng)險，不得編造、傳播與駕駛自動化系統(tǒng)實際功能和效果不相符的虛假信息。

“由于受到專業(yè)知識限制，社會公眾容易陷入對駕駛自動化技術(shù)的認(rèn)知鴻溝，造成對相關(guān)產(chǎn)品的錯誤認(rèn)知和使用。”龔克告訴記者，在商業(yè)競爭誘導(dǎo)下，技術(shù)開發(fā)商和汽車生產(chǎn)商可能夸大技術(shù)能力或隱匿風(fēng)險，誘發(fā)駕駛自動化系統(tǒng)相關(guān)事故導(dǎo)致的技術(shù)恐慌和信任危機。為了推動駕駛自動化技術(shù)健康發(fā)展，構(gòu)建廣泛的社會信任和倫理共識，《指引》單獨列出了相關(guān)主體在“科普宣傳”方面需遵循的倫理規(guī)范。

后續(xù)，《指引》將根據(jù)技術(shù)迭代、應(yīng)用場景拓展，以及社會反饋動態(tài)修訂并適時發(fā)布。

關(guān)鍵詞：