人工智能在帶來發展機遇的同時，也引發了跨領域、多層次的系統性治理挑戰。全球人工智能安全誰來監管如何防范？

11月8日，《為人類共同福祉構建全球人工智能安全與治理體系》報告（以下簡稱《報告》）在2025年世界互聯網大會烏鎮峰會人工智能技術創新與治理論壇上正式發布。《報告》指出，人工智能技術發展迅猛，其安全與治理體系呈現出碎片化態勢，國際社會亟需構建具有廣泛共識的治理框架與標準。

世界互聯網大會人工智能專委會主任委員及安全與治理推進計劃聯合牽頭人、中國科學院自動化研究所人工智能倫理與治理中心主任、北京前瞻人工智能安全與治理研究院院長曾毅，專委會安全與治理推進計劃聯合牽頭人、劍橋大學教授及智能未來中心人工智能未來與責任項目主任肖恩·歐·海格緹（Seán Ó hÉigeartaigh）共同介紹了此項聯合研究成果的形成過程及主要內容。

《報告》系統性地證實了專家們的擔憂。它指出，2019至2024年間，全球記錄在案的人工智能風險事件由約400件躍升至7900余件，總量增長了近20倍。其中，涉及魯棒性與數字安全、人權與隱私治理、透明度與問責制等問題的事件占比超過60%，顯示技術安全性與倫理性議題已成為全球性挑戰。

《報告》回顧了聯合國、各國政府、區域組織及產業界在人工智能治理上的積極努力。聯合國通過成立咨詢機構、通過聯大決議等方式，推動全球治理議程；歐盟頒布《人工智能法案》，建成全球首部全面監管法律框架；中國發布《全球人工智能治理倡議》等文件，倡導發展和安全并重的原則。產業界和學術界也在積極探索自律機制，如Anthropic的“負責任擴展政策”和OpenAI的“應對準備框架”，旨在確保人工智能系統的安全部署。

《報告》指出，當前在人工智能治理上仍存在結構性局限，如治理規則更新速度慢于技術迭代、工具上不完善，技術支撐有限、跨境協作機制薄弱、責任歸屬模糊等。

《報告》強調，構建全球人工智能安全與治理體系需著力應對四大關鍵問題。第一，針對技術快速迭代與不確定性風險，報告建議建立技術跟蹤與風險預警協同機制，推動治理規則實現動態更新。第二，在平衡各國發展訴求方面，呼吁構建包容性多邊平臺，以保障各國平等發展和利用人工智能的權利。第三，為明確多利益相關方的權責邊界，報告提出建立履約審查、風險監測與爭端調解機制，從而形成協同有序的治理格局。第四，面對地緣政治障礙，報告倡導以聯合國為中心踐行多邊主義，推動共建人類命運共同體。另外，《報告》還借鑒了核安全、氣候變化等領域的全球治理經驗，提出具體機制舉措。

《報告》最后建議，形成應對人工智能技術失控風險共識，建立全球廣泛參與的前沿人工智能模型檢測與能力評估機制。此外呼吁國際社會凝聚“以人為本、智能向善”的共識，在聯合國框架下整合資源，建立分級分類對話機制。聯合國系統應發揮協調作用，推動價值共識、技術規范與風險治理的多維整合。

曾毅表示，當前人工智能安全與治理的國際合作已成為重要的全球公共議題。面對技術的快速演進和各國發展的不平衡，國際社會需凝聚共同的風險認知，建立一致的行動框架，并通過機制的設計與完善，確保人工智能技術在安全、可控、包容的軌道上發展。