■汪洋主持會議。 新華社十三屆全國政協第45次雙周協商座談會12月23日在京召開，圍繞人工智能發展中的科技倫理與法律問題進行探討。中共中央政治局常委、全國政協主席汪洋主持會議。他強調，要深入學習領會習近平總書記關於推動人工智能健康發展的重要論述，牢牢把握人工智能對建設科技強國和實施創新驅動發展戰略的重大機遇，歷史、辯證、全面看待人工智能發展中的科技倫理與法律問題，堅持統籌發展和安全的原則，探索構建符合中國國情的人工智能治理框架，維護人民利益和國家安全。委員和專家們對人工智能潛在風險進行預判，研究構建倫理規則和法律規範的可能性。■香港文匯報·人民政協專刊綜合報道
大家認為，任何一項重大科技創新都會促進社會生產力和生產關係的變化，也會影響社會生活方式和倫理秩序的調整。人工智能技術具有廣泛滲透性和顛覆性，帶來的科技倫理與法律問題更加複雜多元，可能引發潛在倫理和法律風險，需要引起高度重視。
一些委員建議，構建人工智能倫理規範和法律法規要面向人民群眾、面向現代化、面向世界。要搞好頂層設計，同步開展倫理和法律層面對人工智能的引領和規範工作，健全相應組織體系和工作機制，加強資源統籌、部門協作、信息共享。建議聚焦人臉識別、語音合成、自動駕駛、服務機器人等領域，有計劃、有步驟制定相關法律。要重視數據產權問題研究，規範數據權屬、使用、交易、共享機制，解決數據所有權、使用權、收益權等問題。要加強行業自律，鼓勵行業協會和中介組織制定人工智能產業標準、技術標準和行業規範，引導相關企業制定倫理規則，強化企業保護個人信息、隱私的責任。要廣泛開展宣傳教育，普及人工智能相關知識，強化科研人員科技倫理與法律培訓，引導全社會正確認識和應用人工智能。要加強國際交流與對話，積極參與制定全球人工智能倫理規則。
完善制度設計 守住公平底線
每一次重大科技變革都會對既有社會秩序構成衝擊，人工智能也不例外。會上，張大方常委表達了自己的擔憂：「由於數據質量和算法的原因，很多人工智能軟件蘊含性別、年齡、種族歧視，很難發現也很難消除。一些掌握先進人工智能技術的企業或個人可能會利用優勢地位獲取更多的資源，影響社會公平。」張大方認為，應強化政府引導、行業自律、企業自覺及公民共識，讓每一個人都能成為人工智能受益者。
「既不要把人工智能看成洪水猛獸，也不能放任不管，要用發展的眼光看待發展中的問題。」汪鵬飛委員說。也許，相對於簡單的道德審判，我們更需要做的是完善相應的制度設計。守住現實社會的公平底線，「算法偏見」就不會有機可乘。
弱人工智能時代 數據安全風險突出
為籌備這次會議，全國政協調研組赴安徽、江蘇、北京開展專題調研。調研中，大家看到了人工智能在交通、家居、醫療、媒體等諸多領域的應用場景，也由此深化了一個認知：我們仍處於「弱人工智能時代」，現實中人工智能技術應用仍存在着數據隱私與安全的突出風險。
疫情期間，「刷臉」成為大多數人通行必不可少的步驟。「人臉、指紋、DNA等生物特徵數據，個人醫療檔案數據等都具有唯一性，一旦被採集到不安全的網絡上，極有可能引發巨大社會風險。」從事網絡安全技術行業的談劍鋒委員指出了問題的關鍵。他建議採取負面清單模式，限制企業自行採集收集和壟斷數據，同時對不可再生數據進行統一管控。
黃愛龍委員談到App個人信息被過度採集，姜偉委員談到數據的權屬不明確，黃錦輝委員談到要監管企業所使用數據的質量，雖意見各有不同，但立場都是一致的：保護數據安全刻不容緩。
作為一名數據安全領域的工作者，談劍鋒呼籲嚴格管控大數據的使用場景，在大力支持人工智能技術發展的同時，對唯一性、不可再生性的重要數據必須提前設防，在生物識別等技術使用規範上要制定更加嚴格的要求，防範相關各類風險。
談劍鋒還建議設立「數據銀行」，由國家成立專門機構來統一管控、存儲和應用不可再生性大數據，限制企業自行採集收集和壟斷，並運用區塊鏈技術分布式存儲，運用密碼技術嚴格保護數據。
姜偉認為，需要根據數據的屬性特點建立數據產權制度，化解「個人數據與企業產權」之間的矛盾，平衡「數據安全與數據利用」之間的關係，對各種類型數據合理確權，解決好數據屬誰所有、如何使用、收益歸誰等問題。
對於數據安全要明確法律上的紅線，這項工作已經開始--今年出台的民法典對收集、處理個人信息作出了明確規定，全國人大也把個人信息保護法、數據安全法列入了國家五年立法規劃第一序列。會上，相關部委負責同志的積極回應又給大家吃下一顆定心丸：數據權屬的界定與更嚴格的數據隱私保護規範已納入決策層的考量範圍。
搶佔國際競爭制高點 提升人工智能軟實力
探索建立人工智能發展「規則」，不僅是防範潛在風險的需要，也是搶佔國際競爭制高點的必然選擇。現在，美歐等國家以「共同價值觀」劃界全球人工智能治理版圖的趨勢日盛。倫理法律問題已成為全球人工智能話語權和主導權競爭的焦點。
全國政協社法委副主任陳智敏認為，應充分利用我國人工智能發展的比較優勢，在人工智能治理的國際規則制定上佔據主動、擁有更多話語權。
陳群常委建議在國家層面上加快相關制度創新，布局建設人工智能認證體系和全球賦碼系統，以我國超大規模應用市場為牽引，對全球人工智能產品開放登記和提供法律保護，推動我國相關法律法規更多成為國際通行規則。對此，清華大學法學院院長申衛星建議構建綜合性立法和具體場景立法相結合的「總-分」式立法體系，他說，這種設計將有利於增強國內外對於中國人工智能技術的信任度，提升人工智能國際競爭中的軟實力。