筑牢倫理基石，賦能創新發展

——深入解讀《人工智能科技倫理審查與服務辦法（試行）》

敖立   中國信息通信研究院副院長

工業和信息化領域科技倫理專家委員會副主任委員

引言

科技創新，倫理先行。科技倫理是人類社會倫理價值在科技領域的延伸與拓展，是開展科學研究、技術開發等科技活動需遵循的價值理念與行為規范。習近平總書記高度重視科技倫理建設，2021 年 12 月 17 日，在主持中央全面深化改革委員會第二十三次會議時強調：“科技倫理是科技活動必須遵守的價值準則，要堅持增進人類福祉、尊重生命權利、公平公正、合理控制風險、保持公開透明的原則，健全多方參與、協同共治的治理體制機制，塑造科技向善的文化理念和保障機制。”2023 年 10 月，習近平總書記提出《全球人工智能治理倡議》，明確“堅持倫理先行，建立并完善人工智能科技倫理準則、規范及問責機制，形成人工智能科技倫理指南，建立科技倫理審查和監管制度，明確人工智能相關主體的責任和權力邊界”。這些重要論述深刻闡明了科技倫理對保障科技安全的意義，為加強科技倫理治理提供了根本遵循。

近日，工業和信息化部等十部門聯合印發《人工智能科技倫理審查與服務辦法（試行）》（以下簡稱《辦法》），對人工智能科技倫理審查與服務提出明確要求，這是深入貫徹習近平總書記重要論述，促進人工智能產業科技創新高質量發展和高水平安全良性互動的重要舉措。

一、科技倫理引導人工智能健康有序發展

近年來，在技術創新與商業應用的雙輪驅動下，人工智能正加速與實體經濟深度融合。其不僅在互聯網等數字原生領域實現規模化應用，還逐步滲透到金融、醫療、交通等行業，在重要場景中的賦能成效顯著。然而，隨著技術快速演進與應用領域拓展，人工智能帶來的算法歧視、深度偽造等倫理問題愈發凸顯。

人工智能科技倫理治理是引導科技創新方向的 “指南針”。一方面，它能引導企業開展符合倫理要求的技術創新，推動研發團隊將倫理要求貫穿于人工智能研發應用全過程，避免單純追求技術性能而忽視潛在倫理風險；另一方面，能有效促進倫理相關技術研發，如可解釋性人工智能技術、隱私增強技術等。此類技術突破不僅有助于解決當前人工智能面臨的倫理困境，還能開拓新的技術應用領域。

人工智能科技倫理治理是促進產業健康發展的 “方向盤”。通過治理，能有效解決人工智能應用中的倫理問題，如隱私保護、偏見歧視等，增強公眾對人工智能的信任，為其廣泛應用奠定堅實基礎。以醫療領域為例，符合倫理要求的人工智能輔助診斷系統能更好地協助醫生進行疾病診斷與治療方案制定，提高醫療服務的準確性與效率，推動人工智能在醫療行業的深度融合，開拓龐大市場。同時，倫理治理能規范產業行為，降低倫理風險，為產業營造良好發展環境，促進其長期穩定發展。

人工智能科技倫理治理是提升國家競爭力的 “助推器”。當前，人工智能科技倫理治理已成為全球關注焦點。聯合國教科文組織于 2021年11月發布《人工智能科技倫理問題建議書》，歐盟、美國、日本等國家和地區也通過建立人工智能專家委員會等方式，推動負責任的人工智能技術發展。良好的倫理治理環境，一方面能吸引更多國際合作伙伴，促進產業合作與交流；另一方面，能在全球范圍內樹立我國人工智能企業負責任的形象，助力相關產品和服務獲得國際市場認可，提升國際競爭力。

二、服務人工智能行業發展，聚焦科技倫理治理重點問題

（一）加強科技倫理服務，支持促進人工智能科技倫理發展

與《科技倫理審查辦法（試行）》相比，《辦法》增設第二章 “服務與促進”，從標準建設、促進服務、鼓勵創新、宣傳教育、人才培養五個方面提出舉措，賦能產業發展。當前，全球人工智能科技倫理治理已進入快車道，治理重點從倫理原則轉向落地實施，推動治理技術化、工程化、標準化成為關鍵。我國人工智能科技倫理治理面臨技術手段待突破、治理缺乏統一標準、工具匱乏等挑戰，需通過鼓勵技術創新、制定倫理標準、推進倫理服務等方式應對。此外，人工智能科技倫理治理不僅是技術問題，更是社會問題，因此通過宣傳教育提升公眾倫理素養、通過人才培養加強科研人員倫理意識，是防范倫理風險的重要舉措。

（二）立足人工智能特點，促進人工智能科技倫理審查落地

《科技倫理審查辦法（試行）》是覆蓋各領域科技倫理審查的綜合性規定，對審查基本程序、標準、條件等提出統一要求。與生命科學、醫學相比，人工智能科技倫理因技術特征具有獨有特點。因此，《辦法》在遵循通用辦法基礎上，充分考慮人工智能特點，在適用范圍、申請材料、審查重點、簡易程序適用等方面進一步完善細化，以更適用于人工智能科技倫理審查。例如，《辦法》第十五條規定，人工智能科技倫理審查除關注科技人員資質、積極作用、風險控制方案等常規內容外，還需遵守增進人類福祉、公平公正、可控可信、透明可解釋、責任可追溯、隱私保護等人工智能科技倫理要求。

（三）優化倫理治理，盡量降低創新主體倫理管理成本

考慮到中小企業難以成立科技倫理委員會的現實，《辦法》提出建設專業性人工智能科技倫理服務中心（以下簡稱“服務中心”）。第十一條對 “服務中心” 的設立、業務、要求進行細化，明確其可接受中小企業委托，提供倫理服務。為避免重復監管，《辦法》第二十六條規定了與其他監管措施的銜接。此前，網信辦發布的《互聯網信息服務深度合成管理規定》《互聯網信息服務算法推薦管理規定》等文件，已將符合科技倫理要求作為審批條件或監管內容，針對此類人工智能科技活動，可不再開展專家復核，大幅降低了企業合規成本。

三、不斷完善人工智能治理生態，筑牢人工智能產業健康發展根基

當前，人工智能科技倫理治理仍面臨不少現實挑戰。一是技術迭代快于治理規則完善，新場景、新應用不斷涌現，倫理風險具有隱蔽性、突發性、不可預測性，現有規范難以全面覆蓋。二是倫理原則落地難，企業面臨產品性能和倫理要求的平衡，管理成本高。三是治理支撐體系尚不完善，缺乏國際權威的第三方倫理測評標準和認證體系。未來，應以《辦法》出臺為契機，堅持發展和安全并重，不斷完善治理生態，推動人工智能產業高質量和可持續發展。

（一）推行敏捷治理，以柔性監管護航技術創新

一是健全政府與創新主體常態化溝通協作機制，建立倫理風險信息共享、協同處置的工作格局。二是鼓勵企業創新，在守住安全底線的前提下，允許企業在盡到合理監管義務時容錯糾錯。三是建立技術發展與倫理風險動態監測機制，及時完善政策規范，實現治理與技術發展同頻共振。

（二）深化協同共治，以多元參與筑牢責任鏈條

一是完善政府、企業、科研機構、科技社團組織、社會公眾等共同參與的多元治理體系，明確各方定位與職責。二是健全“政府引導 + 企業自律 + 第三方支撐” 的協同運行模式，將倫理要求嵌入人工智能全生命周期。三是加強科技倫理科普與培訓，通過多種渠道、更加豐富的傳播方式，營造全社會共同關注、共同參與、共同監督的良好生態。

（三）夯實基礎支撐，以標準工具提升治理效能

一是加快出臺人工智能科技倫理風險評估、審查程序、審查委員會等配套標準，為創新主體提供可操作、可落地的規范指引。二是搭建科技倫理公共服務平臺，推進科技倫理服務中心建設，提供專業的倫理審查、教育培訓、專家咨詢等服務，降低中小企業治理成本。三是加強治理技術和工具研發，推動構建人工智能倫理治理開源社區，推動治理工具、數據集開源開放，以技術賦能提升治理成效。

四、結語

中國信息通信研究院作為工業和信息化領域科技倫理專家委員會秘書處單位，將在工業和信息化部的指導下，充分發揮在人工智能政策研究、標準制定、技術評測等方面的優勢，深化科技倫理治理支撐，保障《辦法》有效落實。一是搭建人工智能科技倫理產業服務平臺。開展科技倫理宣傳教育，開發人工智能科技倫理審查、測評工具，促進治理工具開源開放。二是探索成立人工智能科技倫理服務中心。接受相關部門委托，承擔人工智能科技倫理專家復核工作，并為企業、高校、科研院所等單位提供科技倫理審查、咨詢、培訓等服務。三是持續推動人工智能科技倫理標準制定工作。在工業和信息化部人工智能標準化技術委員會下，持續推動人工智能科技倫理風險評估、科技倫理委員會、科技倫理服務中心、科技倫理審查程序、科技倫理審查人員技術技能要求等標準制定工作。四是積極開展人工智能科技倫理治理國際交流合作。加強與國際研究機構的合作，依托國際人工智能領域的高端峰會等組織研討活動，宣傳人工智能科技倫理治理理念。