文 | 劉亮

人工智能（AI）技術快速發展，賦能各行各業，也帶來難以預知的風險。如何平衡人工智能的應用與治理，是博鰲亞洲論壇2025年年會上與會人士熱議的話題。

人工智能的推廣應用與加強監管并不矛盾。專家認為，AI從信息智能到物理智能再到生物智能，風險會增加很多倍。與此同時，當人工智能大模型的安全性提升20%至30%，對其本身的求解能力幾乎沒有影響。

中國人工智能大模型的陸續發布改變了全球人工智能的版圖，并以其低成本和開放性促進了人工智能在全球的更公平應用，更多中小企業加入進來分享人工智能紅利，也豐富了人工智能應用場景。各國與會人士有一個共識，就是推進人工智能的全球治理需要中國發揮重要作用。

AI需要通過大量數據學習來提升能力。數據越多，數據的質量越高，系統的能力就越強，未來出現“幻覺”和推理謬誤的可能性就越小。中國龐大的制造業體系和巨大的消費市場為人工智能提供了用武之地，既提升了規模化生產效率，又促進了個性化需求滿足。

當前，全球標準化的數據服務商數量相對較少，很多大模型獲取的數據量雖然很大，但質量較低。如何構建一個完善而成熟的數據市場，是人工智能發展面臨的迫切問題。中國正在統籌開展數據領域規劃編制工作，致力于培育全國一體化數據市場，這將為人工智能的高質量應用奠定基礎。

算法透明化是監管人工智能的又一關鍵環節。對用戶而言，既要得到答案，又要知道這個答案的求解之道。例如，在交通和醫療領域，人工智能的推理偏差直接關系人們的生命安全和健康安全。在教育領域，算法的偏頗會影響教育體系的效能。因此，針對不同應用領域，需要建立風險等級測試評估體系，分類分級管理，快速有效響應。對人工智能技術研發企業而言，要保持人工智能的可解釋性和可預測性。

目前世界上一些欠發達國家和地區沒有廣泛使用互聯網，人工智能時代的來臨使得數字鴻溝變成智能鴻溝。彌補智能鴻溝，需要人工智能發展走在前列的國家探索共通標準，通過對話與合作，在充分尊重各國政策和實踐差異性基礎上，推動各利益相關方積極參與，在國際人工智能治理領域形成廣泛共識。

確保人工智能始終處于人類控制下是論壇年會與會人士的共識。不論人工智能如何發展，“不能自我復制”等紅線是永遠不能突破的。人工智能的創新要遵守現有的版權、專利、技術等制度設計，而不能置身于人類社會的倫理系統之外。只有將人類的道德價值投射到人工智能領域，才能確保其始終朝著有利于人類文明進步的方向發展。