我們面臨的法律和倫理挑戰(zhàn)可能在20年內(nèi)就會發(fā)生。因為屆時，機器人與人類能力相當(dāng)�！�—地平線創(chuàng)始人兼CEO余凱

今天的AI已經(jīng)走出來實驗室、象牙塔，快速滲透到人類社會生活中的，我們在享受技術(shù)進步的便利時，潛在的威脅也隨之而來——法律盲區(qū)、倫理挑戰(zhàn)、監(jiān)管的空白地帶……如何在發(fā)揮AI價值的同時，規(guī)避其帶來的風(fēng)險？

AI開啟“立法”新紀(jì)元

最近的兩會上，AI立法成了熱門話題。在十三屆全國人大二次會議4日舉行的新聞發(fā)布會上，大會發(fā)言人張業(yè)遂表示，全國人大常委會已將一些與人工智能密切相關(guān)的立法項目，如數(shù)字安全法、個人信息保護法和修改科學(xué)技術(shù)進步法等，列入本屆五年的立法規(guī)劃。同時把人工智能方面立法列入抓緊研究項目，圍繞相關(guān)法律問題進行深入的調(diào)查論證�？萍既Φ拇罄腥绨俣榷�事長李彥宏、中國移動通信集團有限公司黨組書記、董事長楊杰等，和學(xué)術(shù)屆的專家，紛紛建言獻策，共同探討AI立法的實踐。

盡管世界的各國政府對人工智能的重視程度有過之無不及，不過，有關(guān)AI立法和道德準(zhǔn)則的制定，僅有少數(shù)國家作出明確的規(guī)定，如德國的“道路交通法第八修正案”。目前，中國的人工智能實力已經(jīng)走在世界前列，而配套的法律法規(guī)，也理應(yīng)不甘人后。

AI是個新事物，覆蓋的領(lǐng)域廣，牽涉的利益也是方方面面，所以在立法上也就需要更多的探索與討論。作為AI行業(yè)的踐行者——AI企業(yè)是如何看待以及探索AI立法呢？動點科技采訪了人工智能獨角獸地平線和數(shù)坤科技。

自動駕駛的“新法”制定需多方共同參與

“技術(shù)層面其實沒有難題，難點在于企業(yè)的價值觀�！钡仄骄�創(chuàng)始人兼CEO余凱認為AI的發(fā)展中：我們面臨很大的挑戰(zhàn)是人與人、人與客觀世界的關(guān)系，以及要怎么定位人和機器之間的關(guān)系。余凱是技術(shù)發(fā)展的樂觀派，他預(yù)測，我們面臨的法律和倫理挑戰(zhàn)可能在20年里就會發(fā)生。因為屆時，機器人與人類能力相當(dāng)。那到時，人類應(yīng)該如何處理這種關(guān)系？

以備受關(guān)注的自動駕駛為例，曾有人提出“無人駕駛汽車在危險情況下是否可以不計后果地保護自己的主人？”，余凱認為這并不是一個單純的技術(shù)問題，而是一個永恒的倫理問題�！盁o人駕駛技術(shù)只是手段，機器智能不應(yīng)該凌駕于人類倫理之上�！彼�認為，其背后的決策邏輯涉及到法律和倫理問題，需要相關(guān)的政府機構(gòu)、學(xué)術(shù)專家、企業(yè)的共同參與制定相關(guān)的規(guī)定。

此外，自動駕駛還涉及一個富有爭議性的話題，即：事故發(fā)生后的定責(zé)問題。余凱認為這是技術(shù)發(fā)展到一定程度后必然會衍生出的法律問題，也是一個系統(tǒng)性的社會工程。其需要制定一套明確、清晰的機制來明確責(zé)任劃分�！八�以要完善地解決這個問題需要技術(shù)專家和法律專家共同來制定更加細節(jié)的法律細則。從具體操作流程來上來說，未來原則上應(yīng)該也是技術(shù)協(xié)助執(zhí)法部門定責(zé)，保險公司賠付�！彼�說。

顯然，針對自動駕駛領(lǐng)域的相關(guān)法律規(guī)則制定，需要多方參與，每一個細節(jié)都必不可少。

為新技術(shù)制定新法規(guī)，需謹慎使用現(xiàn)有政策工具

醫(yī)療行業(yè)是一個與倫理道德密不可分的領(lǐng)域。有的技術(shù)理想主義者發(fā)表了機器人代替醫(yī)生的觀點，引起了極大的爭議。“目前醫(yī)療AI的定位是輔助醫(yī)生，而非替代醫(yī)生直接面對患者�！睌�(shù)坤科技的創(chuàng)始人馬春娥認為決策者依舊是醫(yī)生，而技術(shù)則是工具。其實，這樣清晰的定位可以減少很多麻煩的倫理道德問題。

對于AI醫(yī)療來說，面臨的最明顯的法律法規(guī)問題則是審批問題�！搬t(yī)療AI產(chǎn)品涉及到醫(yī)CFDA三類證，目前國家相關(guān)部門正在制定針對AI的審批標(biāo)準(zhǔn)�！瘪R春娥表示，對于新一代的醫(yī)療AI產(chǎn)品，在之前的產(chǎn)品分類、審批、發(fā)證等流程和標(biāo)準(zhǔn)上沒有先例可循。“在評審數(shù)據(jù)庫建設(shè)和監(jiān)管方面，仍在摸索階段，但大方向已清晰。此外，醫(yī)療AI產(chǎn)品的性能、算法模型、應(yīng)用界面等都在快速更新，傳統(tǒng)增項或者升級審批無法滿足行業(yè)發(fā)展需求�！彼�補充解釋道。

那么，對于復(fù)雜嚴(yán)謹?shù)尼t(yī)療行業(yè)，AI在立法探索有哪些關(guān)鍵因素呢？首先，她認為，從以往經(jīng)驗來看，對于新技術(shù)，制定新法律法規(guī)，最好是評估現(xiàn)有政策工具，謹慎使用�！耙驗樾碌姆�律法規(guī)和稅收政策可能會阻礙AI的推廣和使用�！彼�解釋道，由于AI技術(shù)的應(yīng)用領(lǐng)域跨度很大，過度管理可能會無意間減少市場主體（尤其是創(chuàng)業(yè)公司和小型企業(yè)）創(chuàng)造和提供的技術(shù)的數(shù)量。“政策制定者需要和業(yè)內(nèi)及時溝通，制定有利于AI技術(shù)長遠發(fā)展的法律法規(guī)。”她說。企業(yè)是AI醫(yī)療產(chǎn)品的研發(fā)者和推廣者，本身最清楚面臨法律和倫理風(fēng)險。而建立一套完善行業(yè)規(guī)范，也需要行業(yè)協(xié)會、行業(yè)企業(yè)共同努力。

具體到產(chǎn)品審批方面，她認為，由于可能造成傷害大小的不一致，AI醫(yī)療產(chǎn)品的分級監(jiān)管也非常重要。如美國將能夠提供明確診斷結(jié)果的AI輔助診斷產(chǎn)品視為具有最高風(fēng)險等級的醫(yī)療器械進行監(jiān)管，除需進行一般監(jiān)管外，還需進行上市前審批（PMA）。對于低風(fēng)險的AI醫(yī)療產(chǎn)品，美國FDA采取“數(shù)字醫(yī)療軟件預(yù)認證計劃”。經(jīng)過預(yù)認證的開發(fā)主體即有資格直接銷售自己的低風(fēng)險醫(yī)療AI產(chǎn)品，而無需經(jīng)過FDA的額外審查和一系列入市審查。

AI作為一個新技術(shù)，我們花了很多時間實踐、試錯�，F(xiàn)在是時候集中各家智慧與經(jīng)驗，總結(jié)其規(guī)律。就如百度董事長李彥宏在在全國政協(xié)十三屆二次會議第三次全體會議發(fā)言時的建議一樣：由政府主管部門牽頭，組織跨學(xué)科領(lǐng)域的行業(yè)專家、人工智能企業(yè)代表、行業(yè)用戶和公眾等相關(guān)方，開展人工智能倫理的研究和頂層設(shè)計，制定人工智能倫理的指引性文件。每個AI業(yè)內(nèi)人都需要有這樣的責(zé)任感。