當前，人工智能作為引領新一輪科技革命和產業變革的戰略性力量，正在深刻重構全球創新版圖、發展范式與人類生產生活方式，同時其廣泛應用也帶來一系列風險挑戰。習近平總書記高度重視人工智能治理，強調“要把握人工智能發展趨勢和規律，加緊制定完善相關法律法規、政策制度、應用規范、倫理準則，構建技術監測、風險預警、應急響應體系”“形成具有廣泛共識的人工智能治理框架和標準規范，不斷提升人工智能技術的安全性、可靠性、可控性、公平性”等，系統回答了新時代為什么要加強人工智能治理、怎樣加強人工智能治理等一系列具有全局性、前瞻性、戰略性的重大理論和實踐問題，為確保我國人工智能始終沿著有益、安全、公平方向發展提供了根本遵循。

新形勢下加強人工智能治理具有重要意義

面對人工智能技術加速迭代、應用深度滲透、風險復雜交織的新形勢，準確把握人工智能發展趨勢和規律，加強人工智能治理，才能切實推動我國人工智能健康有序發展。

事關抓住新一輪科技革命和產業變革戰略主動權。習近平總書記指出：“人工智能是新一輪科技革命和產業變革的重要驅動力量”。當前，人工智能技術創新進入密集活躍期，產業化進程加快，為贏得未來發展先機創造了有利條件。世界主要大國均在布局加快人工智能發展，催生智能體、無人駕駛、具身智能、智能穿戴等新領域新賽道，成為改變商業格局、重塑世界經濟的新場域。加強人工智能治理，構建穩定、透明、可預期的治理環境，能夠為企業、科研單位等提供明確規則指引，使其敢于投入、安心創新，進而最大程度激發創新潛能，提升國家創新體系整體效能，進一步夯實我國人工智能技術與產業發展的根基，并在這場科技競賽中牢牢把握戰略主動。

事關推動我國經濟社會高質量發展。習近平總書記強調：“我們要深入把握新一代人工智能發展的特點，加強人工智能和產業發展融合，為高質量發展提供新動能。”人工智能作為發展新質生產力的重要推動力，是推動產業智能化升級、培育經濟新增長點的關鍵動能。截至2025年底，我國人工智能企業超過6000家，形成了從基礎底座、模型框架到行業應用的完整產業體系。一批國產大模型通過開源戰略引領全球生態，推動人工智能從少數企業的尖端科技轉變為千行百業可便捷調用的普惠性工具，為我國發揮超大規模市場與完整產業體系優勢、實現換道超車奠定了獨特生態基礎。根據有關測試，我國的大語言模型基礎能力與美國都居全球前列，模型復雜推理能力與美國的差距顯著縮小，視頻生成模型能力持續領先。在此背景下，探索科學有效的人工智能治理路徑，能夠更好防范風險，營造穩定的政策環境與發展預期，構建公平公正、健康有序、富有活力的產業生態，讓人工智能真正成為驅動經濟提質增效、社會全面進步的強大引擎。

事關維護國家安全和社會穩定。習近平總書記指出：“完善人工智能監管體制機制，牢牢掌握人工智能發展和治理主動權。”當前，人工智能安全風險日益凸顯，呈現復雜性、系統性和泛在化特征。一方面，技術發展伴生安全風險，人工智能大模型的內在特性增加了安全可控的難度與復雜性。與傳統網絡安全相比，人工智能安全領域的攻防非對稱性加劇，技術安全面臨“易攻難守”新形勢。另一方面，應用延展衍生安全新難題。人工智能大模型的廣泛應用既帶來應用形態迭代、開源生態濫用、軟件供應鏈漏洞等外部性安全難題，也引發個人、群體、社會多層面次生風險。例如，人工智能擬人化互動服務誘導情感過度依賴現象高發，智能體任務失控及安全問題初顯。因此，加強人工智能治理是貫徹落實總體國家安全觀的內在要求，必須建立健全覆蓋從技術研發、產品應用到社會影響全鏈條的風險防控體系，確保人工智能始終被用于維護國家利益和人民福祉。

事關構建人類命運共同體。習近平總書記指出：“人工智能應該是造福全人類的國際公共產品”“推動各方加強發展戰略、治理規則、技術標準的對接協調，早日形成具有廣泛共識的全球治理框架和標準規范”。當前，人工智能發展處于技術躍遷、應用爆發、治理探索的關鍵窗口期，地緣政治動蕩和逆全球化思潮，嚴重影響全球協作和可持續發展。加快推動我國人工智能治理理論創新、制度創新、實踐創新，主動提出蘊含中國智慧、符合世界各國共同利益的治理方案，有助于構建一個更加公平、合理、包容、共享的全球人工智能治理體系，反對以意識形態劃線或構筑“小院高墻”，防止全球人工智能治理的碎片化和陣營化，展現負責任大國擔當，推動構建人類命運共同體。

加強人工智能治理需要把握若干基本原則

有效的治理必須以科學理念和清晰的原則作為指導。加強人工智能治理，要以習近平總書記關于人工智能治理的重要論述為指引，準確把握以下基本原則。

確立智能向善的價值取向。加強人工智能治理，應確保技術發展的最終目的是增進人類福祉、推動人的全面發展，實現智能向善。增進人類福祉，就是以人民群眾獲得感、幸福感、安全感為衡量標準，保障各個社會群體智能服務可及性，加速彌合“數字鴻溝”；推動人的全面發展，就是要保證人的主體性永遠在場，讓人工智能成為拓展人類認知邊界和行動能力的“放大器”。只有將以人為本、智能向善作為人工智能治理的價值取向，才能確保技術進步不偏離人類價值坐標，使人工智能真正成為服務人民、造福社會的強大正能量。

貫徹統籌兼顧的系統思維。人工智能發展和安全具有高度內在一致性。從發展看，人工智能既是事關國家競爭力和國家安全的戰略性技術，也是推動生產力躍遷的關鍵通用技術，不發展就難以在激烈的國際競爭中占領先機、贏得優勢；從安全看，我國人工智能發展中面臨的風險觸點多、傳導快，各類風險跨界性、關聯性、穿透性較強，堅守安全底線才能在技術變革浪潮中行穩致遠。處理好發展和安全動態依存的關系，必須牢牢掌握人工智能發展和治理主動權，以前瞻性統籌、整體性謀劃、系統性布局，主動構建動態適配技術快速演進的治理框架，在可控邊界內釋放創新活力。

夯實良法善治的制度根基。加強人工智能依法治理是堅持在法治軌道上全面建設社會主義現代化國家的時代要求，能夠更好為人工智能發展提供制度保障。從原則要求看，加強人工智能依法治理既要適應生產力進步所帶來的新需求，也要回應技術產業發展伴生的新問題，進而實現以良法善治保障新業態新模式健康發展。從實踐路徑看，加強人工智能依法治理，需要把握人工智能發展趨勢和規律，建設涵蓋高中低位階的法律法規、監管政策、技術標準等制度體系，明確數據、知識產權、開源模型等相關權責邊界，統籌推進立法執法司法普法工作，真正做到科技發展到哪里、法治建設就跟進到哪里。

創新敏捷動態的治理模式。應將包容普惠導向貫穿人工智能治理全過程，推動算力、算法、數據等核心資源開放共享，降低技術應用門檻；支持開源社區建設和公共數據集開放，促進知識擴散與技術擴散；保障各社會群體在智能時代的平等參與權與發展權，讓人工智能發展成果更好惠及全體人民。針對人工智能應用的復雜性與不確定性，加快建立與技術演進相匹配的治理機制，探索“沙盒監管”、觸發式監管等新型監管方式，降低制度性成本，為處于初創期、成長期的人工智能技術和應用建立必要的容錯糾錯機制，為市場提供穩定預期。

多維協同推進人工智能治理加速落地

理論的科學性最終要體現為實踐指導力。貫徹落實習近平總書記關于人工智能治理的重要論述精神，應運用系統思維，構建覆蓋人工智能研發、部署、應用與影響全鏈條的人工智能治理體系。

夯實數據治理基礎。數據是人工智能發展的核心要素與戰略資源，其質量、規模與治理水平直接決定了人工智能發展的深度與廣度。加強數據治理，旨在突破數據要素化進程中的關鍵瓶頸，構建從原始數據到智能價值的安全可信通道。我國數據資源規模龐大、應用場景豐富，為人工智能發展提供了獨特優勢，但數據治理仍面臨挑戰，如數據基礎質量與供給效率有待提升、數據安全威脅持續演進、生成式技術濫用導致數據生態污染等。為此，要創新數據要素市場化配置機制與生態，建立數據產權結構性分置制度；開展常態化的數據安全風險評估，對各類數據來源開展合規性審查，提升訓練數據清洗效能；通過分場景、分層級、分應用進行數據管控，建立數據溯源體系，積極回應端云協同等新技術形態下用戶數據保護難題，夯實人工智能發展的數據根基。

提升模型治理效能。人工智能大模型已成為智能系統的核心載體與能力中樞。模型自身的可靠性、安全性與價值觀等，直接決定了立基于其上所有應用的品質與安全。因此，模型治理是人工智能治理體系中的關鍵環節。當前，模型安全面臨新挑戰，一是模型復雜度躍升，新型攻擊手段難防御，補丁式防護思路不適用；二是模型風險識別難度高，一些風險指標難量化；三是隨著智能體自主性的增強，其對物理世界和數字空間的運行秩序構成潛在威脅。我國已出臺《生成式人工智能服務管理暫行辦法》《人工智能生成合成內容標識辦法》等文件，推動算法備案、大模型安全評估、內容標識等治理手段取得積極成效。下一步，應構建制度建設與技術創新并重、風險防控與應用賦能協同的模型治理體系。一方面，加強模型安全能力建設。可加強人工智能測試驗證平臺建設，支持第三方審計、評估、認證機構發展，提供模型測試驗證、供需對接、內容標識檢測等服務，落地模型對抗安全、后門安全、可解釋性等檢測能力，推進加固工具等技術開發共享。另一方面，可構建多主體協同聯動的模型風險預警與應對機制。探索推動監管結果互認，統一監管要求與執行標準；推動企業定期報送風險階段性評估報告，建立完善內部監測與預警機制；充分發揮行業組織的協調作用，加強對行業企業發展態勢跟蹤監測和合規評估。

優化應用治理生態。隨著“人工智能+”行動縱深推進，人工智能正加速從“能思考”向“能實干”轉變，應用場景持續擴大。這在解放和發展生產力的同時，也導致技術應用呈現跨域融合與系統性外溢特征，風險從虛擬數字空間向物理實體空間、倫理價值范疇等不斷擴展和深化。優化人工智能應用治理生態，應確立場景化、精細化的治理導向，摒棄“一刀切”的監管模式，針對不同應用領域、具體應用場景實施科學的分級分類管理；著力厘清人機協作新形態下的權責邊界，確保在關鍵決策節點上人類始終掌握最終的價值判斷權與控制權，切實防范技術失控可能帶來的實質性傷害；致力于維護公平競爭的市場秩序，營造開放包容的創新環境，推動算力、模型、數據等核心要素開放共享，從而實現人工智能紅利的廣泛覆蓋與社會公平。

細化倫理治理要求。人工智能的倫理治理，不僅是技術規則的制定，更是價值秩序的構建。從全球來看，關于算法公平、數據隱私、機器責任的討論大都深植于各國的歷史文化傳統之中。中華優秀傳統文化中蘊含的“民為邦本”思想、“厚德載物”精神、“天人合一”理念、“執兩用中”方法等，為我們構建以人為本、智能向善的倫理框架提供了深厚文化根基。將中華優秀傳統文化融入人工智能倫理治理，是形成中國特色治理范式、為全球貢獻中國方案的關鍵路徑。應著力構建人工智能倫理治理的文化內核，系統挖掘中華優秀傳統文化資源，形成一套與社會主義核心價值觀相契合的人工智能倫理規則體系，推動研究機構、企業等將文化倫理理念轉化為具體的技術標準與評估工具，并以多種形式前置到產品開發流程中。

強化全球治理協同。人工智能治理關乎全人類命運，是世界各國面臨的共同課題。近年來，受地緣政治、文化傳統、體制差異等影響，全球人工智能治理導向發生深刻分化。特別是個別國家采取去監管化、去多邊化、出口管制等策略，將人工智能視為大國競爭的戰略工具而非共同治理對象，極大削弱了全球人工智能治理的協調性。為此，必須積極落實《全球人工智能治理倡議》，構建開放、公正、有效的治理機制，從對人類文明進步負責的高度，加快形成具有廣泛包容性的人工智能治理框架。堅定維護聯合國在國際治理中的作用，在充分尊重各國國家主權、法律體系及文化傳統的基礎上，形成具有廣泛共識的國際治理框架和標準規范。堅決反對以意識形態劃線或構建排他性集團，惡意阻撓他國人工智能發展。倡導并踐行真正的多邊主義，通過多種方式支持發展中國家提升人工智能研發與應用能力，確保不同地區、不同群體公平地獲取和受益于人工智能技術。

（作者為中國信息通信研究院院長）