日前，2024世界人工智能大會暨人工智能全球治理高級別會議在中國上海舉辦，主題為“以共商促共享 以善治促善智”。
近年來，人工智能的新技術不斷突破、新業(yè)態(tài)持續(xù)涌現(xiàn)、新應用加快拓展，已成為新一輪科技革命和產業(yè)變革的重要驅動力量。同時，人工智能發(fā)展在法律、安全、就業(yè)、道德倫理等方面也面臨著一系列新課題。作為負責任的人工智能大國，中國在大力推進人工智能創(chuàng)新發(fā)展的同時，積極致力于為國際社會提供更多公共產品，以開放姿態(tài)開展人工智能國際交流合作，為全球人工智能發(fā)展和治理作出積極探索，貢獻了建設性思路和方案。
積極探索全球人工智能治理共識機制
“2024世界人工智能大會暨人工智能全球治理高級別會議有很多亮點值得關注。”復旦大學發(fā)展研究院副研究員姚旭接受本報記者采訪時說，一是各方搭臺。來自全球50多個國家地區(qū)的上千位人工智能治理和產業(yè)發(fā)展的領軍人物齊聚中國，積極參與這場討論人工智能技術和產業(yè)前沿發(fā)展趨勢的盛會，引發(fā)對人工智能的關注熱潮，線下參觀人數突破30萬人次，再創(chuàng)新高。二是產業(yè)唱戲。參加大會的知名人工智能企業(yè)數量、發(fā)布的人工智能新品數量、參展的展品數量都創(chuàng)歷年新高，全球頂級的人工智能科研機構和企業(yè)充分交流，加速人工智能成果轉化。三是強調合作。大會發(fā)布《人工智能全球治理上海宣言》，為全球人工智能的治理范式和路徑提供了新思路，得到各界積極響應。
中國一直是人工智能全球治理的積極倡導者和踐行者。去年10月，中國提出《全球人工智能治理倡議》，系統(tǒng)回答了為什么要加強、如何加強人工智能全球治理的重大時代課題，提出了中國方案，貢獻了中國智慧，為凝聚國際社會共識、推進全球共享共治發(fā)揮了積極作用。日前，第78屆聯(lián)合國大會以協(xié)商一致方式通過了中方主提的“加強人工智能能力建設國際合作”決議，143個聯(lián)合國會員國參加聯(lián)署。這是全球首個聚焦人工智能能力建設的共識性文件。
對外經濟貿易大學數字經濟與法律創(chuàng)新研究中心主任張欣在接受本報記者采訪時表示，近年來，中國在全球人工智能治理方面作出了一系列積極貢獻。中國頒布的《生成式人工智能服務管理暫行辦法》是世界上首部以生成式人工智能為對象的正式立法。中國頒布的《科技倫理審查辦法（試行）》明確了科技倫理原則，是中國科技倫理治理的標志性事件，意味著中國科技倫理的頂層設計和治理體系日趨完善。中國提出的《全球人工智能治理倡議》是在凝聚中國多年來人工智能治理成熟經驗基礎上對全球人工智能治理共識機制的有力探索。
“近年來，中國在人工智能領域堅持統(tǒng)籌發(fā)展和安全，以發(fā)展促安全、以安全保發(fā)展，已取得令人矚目的成績。”姚旭介紹，2020年7月，中國發(fā)布《國家新一代人工智能標準體系建設指南》。2023年7月，中國的《生成式人工智能服務管理暫行辦法》正式發(fā)布，是全球范圍內最早的針對生成式人工智能的監(jiān)管方案。2024年3月1日，全國網絡安全標準化技術委員會發(fā)布了《網絡安全技術 生成式人工智能服務安全基本要求（TC260-003）》，對人工智能服務安全方面的基本要求做出了規(guī)定。
“此外，中國在人工智能全球治理中展現(xiàn)大國擔當，和美國、法國等建立高層級對話機制。2023年11月，中美元首舊金山會晤期間，兩國就建立人工智能政府間對話機制達成重要共識。2024年5月，中美人工智能政府間對話首次會議成功舉行。2024年5月7日，中法兩國發(fā)布《中華人民共和國和法蘭西共和國關于人工智能和全球治理的聯(lián)合聲明》。”姚旭說。
推動全球人工智能治理法治化進程
世界知識產權組織近日發(fā)布的報告顯示，2014年至2023年，中國生成式人工智能專利申請量超3.8萬件，居世界第一。高速發(fā)展催生了更為豐富的治理經驗和治理策略，中國通過各種國際對話平臺與世界交流分享。
“近年來，中國的人工智能技術和產業(yè)都發(fā)展迅速，處于世界領先水平。”姚旭介紹，國家數據局局長劉烈宏在中國發(fā)展高層論壇2024年年會上表示，中國10億參數規(guī)模以上大模型數量已超100個。中國信息通信研究院最新發(fā)布的《全球數字經濟白皮書（2024年）》顯示，全球人工智能大模型數量為1328個，中國大模型數量占比為36%，居世界第二。此外，中國正筑牢人工智能發(fā)展的人才培養(yǎng)底座。《紐約時報》援引保爾森基金會旗下智庫的研究稱，中國已經成為人工智能人才的最大出產國，幾乎培養(yǎng)了全球一半的頂尖人工智能研究人員。
“人工智能快速發(fā)展一方面是基于科技產業(yè)精英主導的技術突破，另一方面也必須考慮應用落地的普適性和易用性。”姚旭說，中國在人工智能技術發(fā)展和應用的過程中，始終關注場景落地時降本增效。在自動駕駛、智能制造、氣象預測、安全巡檢等各種場景中，中國產學研各界正在加速強化國際合作，將中國人工智能技術落地方案和世界各國尤其是南方國家充分共享。此外，共建“一帶一路”國家在傳統(tǒng)基礎設施、數字基礎設施和數據基礎設施領域的協(xié)同共建，是推動普惠發(fā)展、彌合智能鴻溝的重要基石。
據人工智能、算法、自動化事件和爭議數據庫顯示，2021年新報告的人工智能事件和爭議數量是2012年的26倍。其中生成式人工智能引發(fā)的虛假信息問題尤為突出。由于虛假信息面向的是互聯(lián)網信息內容領域，因此其產生的影響具有行業(yè)和場景的廣泛性。
“加強人工智能治理規(guī)則的全球協(xié)作日益成為各方共識。”張欣說，人工智能技術的突破式發(fā)展導致新舊風險疊加，影響社會倫理秩序，帶來了一系列安全和倫理挑戰(zhàn)。例如，生成式人工智能的發(fā)展既導致傳統(tǒng)技術風險加劇，又帶來了一系列新興風險。尤其在人工智能研發(fā)和應用環(huán)節(jié)對個人隱私和數據安全帶來了數據泄露、數據濫用、侵犯個人隱私等隱患。而與傳統(tǒng)技術風險有所不同，人工智能技術風險具有隱蔽性、跨域性、全球性、長期性，需要從國際層面展開持續(xù)性、系統(tǒng)性和協(xié)同性的治理努力。此外，由于人工智能的技術迭代以日為單位，若不在早期實施有效的介入治理，則可能出現(xiàn)后期風險難以控制的治理困境。各國雖在人工智能治理思路和具體方案上存在差異，但從數據安全和個人隱私保護的視角對人工智能訓練環(huán)節(jié)施加規(guī)制和約束已成為共識。
“全球人工智能治理還呈現(xiàn)‘法治化’特征，從早期以科技倫理、技術標準、自律承諾等為代表的軟法治理，逐步轉向一種更為成熟的‘軟法與硬法雙軌并行、剛柔并濟’的新型治理模式。”張欣說，各國雖就人工智能治理提出了多元化的治理理念和治理路徑，但通過法治化道路為人工智能治理提供“制度圍欄”已在國際層面形成廣泛共識。中國推出了《科技倫理審查辦法（試行）》和《生成式人工智能服務管理暫行辦法》，提出了人工智能治理的中國方案。《全球人工智能治理倡議》中關于逐步建立健全人工智能領域的法律和規(guī)章制度的提議，不僅是為國際社會貢獻中國智慧和中國經驗的重要舉措，也是中國在推動全球人工智能治理法治化進程中扮演關鍵角色的重要體現(xiàn)。
各國需在形成充分共識基礎上通力協(xié)作
由于技術發(fā)展水平和文化背景差異，各國對人工智能風險的感知也顯著不同。斯坦福大學人工智能研究所發(fā)布的《2023年人工智能指數報告》引用調查機構易普索（IPSOS）2022年的調查指出，部分發(fā)展中國家對人工智能普遍更加樂觀。如78%的中國受訪者同意“使用人工智能產品和服務的好處多于壞處”的觀點，76%的沙特阿拉伯受訪者和71%的印度受訪者認為人工智能產品“利大于弊”。德國、荷蘭、澳大利亞、比利時和加拿大等一些發(fā)達國家對人工智能產品和服務的評價則稍顯負面。
“當前，全球人工智能治理面臨不少挑戰(zhàn)。”姚旭說，一是一些國家將人工智能等科技領域安全泛化，在合作當中設置了諸多藩籬。二是人工智能全球治理的總體架構尚不明確。各個層面建立何種機制更為有效尚未明確，全球范圍內人工智能治理的制度競爭正變得愈發(fā)激烈。三是人工智能全球治理的思路尚未統(tǒng)一，具體的治理方案和標準上還有很多爭論，例如如何進行人工智能安全分級標準界定，如何確立重點治理的人工智能風險類別，如何將立法節(jié)奏和創(chuàng)新動力進行適配等。
張欣表示，現(xiàn)階段，全球人工智能發(fā)展面臨的監(jiān)管挑戰(zhàn)集中體現(xiàn)在5個方面：一是步伐困境。人工智能監(jiān)管框架發(fā)展跟不上技術發(fā)展迭代的速度。二是技術鴻溝。人工智能模型越來越復雜，參數量越來越大，這導致原來構建的基于透明度的人工智能治理框架應對乏力。三是資本逐利。人工智能發(fā)展過程中資本的逐利可能導致技術異化。四是歸責框架仍不清晰，對人工智能產生的風險和損害如何有效歸責仍然是一項亟待解決的問題。五是協(xié)作治理機制尚不健全。由于人工智能帶來的很多風險具有全球性，各國需要在形成充分共識的基礎上通力協(xié)作。但目前的人工智能全球治理格局初步形成，仍然有碎片化特征，需要采取更多措施構建共建共治共享的全球治理機制。
《人工智能全球治理上海宣言》提出，倡導開放與共享的精神，推動全球人工智能研究資源的交流與合作。建立合作平臺，促進技術轉移與成果轉化，推動人工智能基礎設施公平分配，避免技術壁壘，共同提升全球人工智能的發(fā)展水平；倡導建立全球范圍內的人工智能治理機制，支持聯(lián)合國發(fā)揮主渠道作用，歡迎加強南北合作和南南合作，提升發(fā)展中國家的代表性和發(fā)言權；鼓勵國際組織、企業(yè)、研究機構、社會組織和個人等多元主體積極發(fā)揮與自身角色相匹配的作用，參與人工智能治理體系的構建和實施。
作為全球最大的發(fā)展中國家，中國始終將發(fā)展中國家的期待與需求放在重要位置。《全球人工智能治理倡議》指出，增強發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權，確保各國人工智能發(fā)展與治理的權利平等、機會平等、規(guī)則平等，開展面向發(fā)展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。
中國常駐聯(lián)合國代表傅聰介紹加強人工智能能力建設國際合作決議草案時表示，大多數國家特別是發(fā)展中國家尚未能真正接觸、使用人工智能并從中受益，全球數字鴻溝仍有擴大之勢。在此背景下，中國順應廣大國家特別是發(fā)展中國家的期待，倡導人工智能能力建設國際合作，平等發(fā)展和利用人工智能技術，共享人工智能知識成果，體現(xiàn)了中國對人工智能發(fā)展和治理的負責任態(tài)度。
清華大學人工智能國際治理研究院副院長肖茜日前表示，作為推動人工智能技術和治理發(fā)展的重要國家，中國在不同場合提出為發(fā)展而治理，以聯(lián)合國為核心的治理模式，豐富了人工智能全球治理的理論與實踐，使大多數還沒有享受人工智能發(fā)展紅利、沒有從人工智能發(fā)展中受益的廣大發(fā)展中國家看到了希望。她還表示，發(fā)展與安全作為人工智能治理的一體兩翼，應當平衡推進。安全不是人工智能治理的全部，更不是發(fā)達國家俱樂部的專利。人工智能全球治理應致力于在聯(lián)合國框架內團結全球更多國家，調動多元力量。國際社會在持續(xù)推進人工智能安全治理進程的同時，應推動技術開源開放、人才交流互通，幫助更多的國家和人群享受人工智能發(fā)展成果。