全球AI治理報(bào)告發(fā)布，強(qiáng)調(diào)著力應(yīng)對(duì)四大關(guān)鍵問題

人工智能在帶來(lái)發(fā)展機(jī)遇的同時(shí)，也引發(fā)了跨領(lǐng)域、多層次的系統(tǒng)性治理挑戰(zhàn)。全球人工智能安全誰(shuí)來(lái)監(jiān)管如何防范？

11月8日，《為人類共同福祉構(gòu)建全球人工智能安全與治理體系》報(bào)告（以下簡(jiǎn)稱《報(bào)告》）在2025年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)人工智能技術(shù)創(chuàng)新與治理論壇上正式發(fā)布�！秷�(bào)告》指出，人工智能技術(shù)發(fā)展迅猛，其安全與治理體系呈現(xiàn)出碎片化態(tài)勢(shì)，國(guó)際社會(huì)亟需構(gòu)建具有廣泛共識(shí)的治理框架與標(biāo)準(zhǔn)。

世界互聯(lián)網(wǎng)大會(huì)人工智能專委會(huì)主任委員及安全與治理推進(jìn)計(jì)劃聯(lián)合牽頭人、中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理中心主任、北京前瞻人工智能安全與治理研究院院長(zhǎng)曾毅，專委會(huì)安全與治理推進(jìn)計(jì)劃聯(lián)合牽頭人、劍橋大學(xué)教授及智能未來(lái)中心人工智能未來(lái)與責(zé)任項(xiàng)目主任肖恩·歐·海格緹（Seán Ó hÉigeartaigh）共同介紹了此項(xiàng)聯(lián)合研究成果的形成過(guò)程及主要內(nèi)容。

《報(bào)告》系統(tǒng)性地證實(shí)了專家們的擔(dān)憂。它指出，2019至2024年間，全球記錄在案的人工智能風(fēng)險(xiǎn)事件由約400件躍升至7900余件，總量增長(zhǎng)了近20倍。其中，涉及魯棒性與數(shù)字安全、人權(quán)與隱私治理、透明度與問責(zé)制等問題的事件占比超過(guò)60%，顯示技術(shù)安全性與倫理性議題已成為全球性挑戰(zhàn)。

《報(bào)告》回顧了聯(lián)合國(guó)、各國(guó)政府、區(qū)域組織及產(chǎn)業(yè)界在人工智能治理上的積極努力。聯(lián)合國(guó)通過(guò)成立咨詢機(jī)構(gòu)、通過(guò)聯(lián)大決議等方式，推動(dòng)全球治理議程；歐盟頒布《人工智能法案》，建成全球首部全面監(jiān)管法律框架；中國(guó)發(fā)布《全球人工智能治理倡議》等文件，倡導(dǎo)發(fā)展和安全并重的原則。產(chǎn)業(yè)界和學(xué)術(shù)界也在積極探索自律機(jī)制，如Anthropic的“負(fù)責(zé)任擴(kuò)展政策”和OpenAI的“應(yīng)對(duì)準(zhǔn)備框架”，旨在確保人工智能系統(tǒng)的安全部署。

《報(bào)告》指出，當(dāng)前在人工智能治理上仍存在結(jié)構(gòu)性局限，如治理規(guī)則更新速度慢于技術(shù)迭代、工具上不完善，技術(shù)支撐有限、跨境協(xié)作機(jī)制薄弱、責(zé)任歸屬模糊等。

《報(bào)告》強(qiáng)調(diào)，構(gòu)建全球人工智能安全與治理體系需著力應(yīng)對(duì)四大關(guān)鍵問題。第一，針對(duì)技術(shù)快速迭代與不確定性風(fēng)險(xiǎn)，報(bào)告建議建立技術(shù)跟蹤與風(fēng)險(xiǎn)預(yù)警協(xié)同機(jī)制，推動(dòng)治理規(guī)則實(shí)現(xiàn)動(dòng)態(tài)更新。第二，在平衡各國(guó)發(fā)展訴求方面，呼吁構(gòu)建包容性多邊平臺(tái)，以保障各國(guó)平等發(fā)展和利用人工智能的權(quán)利。第三，為明確多利益相關(guān)方的權(quán)責(zé)邊界，報(bào)告提出建立履約審查、風(fēng)險(xiǎn)監(jiān)測(cè)與爭(zhēng)端調(diào)解機(jī)制，從而形成協(xié)同有序的治理格局。第四，面對(duì)地緣政治障礙，報(bào)告倡導(dǎo)以聯(lián)合國(guó)為中心踐行多邊主義，推動(dòng)共建人類命運(yùn)共同體。另外，《報(bào)告》還借鑒了核安全、氣候變化等領(lǐng)域的全球治理經(jīng)驗(yàn)，提出具體機(jī)制舉措。

《報(bào)告》最后建議，形成應(yīng)對(duì)人工智能技術(shù)失控風(fēng)險(xiǎn)共識(shí)，建立全球廣泛參與的前沿人工智能模型檢測(cè)與能力評(píng)估機(jī)制。此外呼吁國(guó)際社會(huì)凝聚“以人為本、智能向善”的共識(shí)，在聯(lián)合國(guó)框架下整合資源，建立分級(jí)分類對(duì)話機(jī)制。聯(lián)合國(guó)系統(tǒng)應(yīng)發(fā)揮協(xié)調(diào)作用，推動(dòng)價(jià)值共識(shí)、技術(shù)規(guī)范與風(fēng)險(xiǎn)治理的多維整合。

曾毅表示，當(dāng)前人工智能安全與治理的國(guó)際合作已成為重要的全球公共議題。面對(duì)技術(shù)的快速演進(jìn)和各國(guó)發(fā)展的不平衡，國(guó)際社會(huì)需凝聚共同的風(fēng)險(xiǎn)認(rèn)知，建立一致的行動(dòng)框架，并通過(guò)機(jī)制的設(shè)計(jì)與完善，確保人工智能技術(shù)在安全、可控、包容的軌道上發(fā)展。