中國正在認真對待人工智慧安全，美國也必須如此

(SeaPRwire) –   「中國不在乎人工智慧安全——那我們為什麼要在乎？」這種錯誤的邏輯充斥著美國的政策和科技圈，為華盛頓競相超越北京的人工智慧發展，以及不顧一切的逐底競爭提供了掩護。

根據這種說法，監管人工智慧可能會在所謂的「。」中落後。而且由於中國據說不優先考慮安全，因此即使是魯莽地向前衝——也是更安全的長期賭注。這種說法不僅是，而且是危險的。

具有諷刺意味的是，中國領導人可能給美國的人工智慧鼓吹者們上了一課：真正的需要控制。正如中國最高科技官員丁薛祥在2025年1月的達沃斯表示：「如果煞車系統不受控制，你就不能有信心地踩油門。」對於中國領導人來說，安全不是一種限制；而是一種先決條件。 

人工智慧安全已成為中國的政治。今年4月，習近平主席主持了一次罕見的政治局，就人工智慧發出「前所未有」的風險警告。中國現在將人工智慧安全與疫情和網路攻擊並列。監管機構要求對生成式人工智慧進行部署前的安全評估，並且最近從市場上移除了超過不合規的人工智慧產品。僅在今年上半年，中國就比過去三年加起來制定了更多的國家人工智慧標準。與此同時，過去一年中，中國對前沿人工智慧安全的研究論文數量增加了一倍多。

但美中兩國領導人上次會面討論人工智慧風險是在。今年9月，兩國官員暗示將在「適當時候」恢復對話。但在拜登政府領導下，沒有舉行任何會議，而且對於川普政府是否會接手此事，存在更大的不確定性。這是一個錯失的機會。

中國對合作持開放態度。2025年5月，它與英國啟動了雙邊人工智慧對話。受人尊敬的中國科學家為主要的國際努力做出了貢獻，例如由33個國家和政府間組織（包括美國和中國）支持的，以及關於全球人工智慧安全研究優先事項的。

必要的第一步是恢復休眠的美中人工智慧風險對話。如果沒有一個運作正常的政府間管道，協調的前景仍然渺茫。中國表示，它願意在拜登政府結束後繼續對話。它已經產生了一個不大但具有象徵意義的重要協議：確認人類決策必須保持對核武器的控制。該管道具有進一步發展的潛力。

展望未來，討論應側重於共同的、高風險的威脅。考慮到OpenAI最近對其最新ChatGPT Agent的描述，該Agent已根據該公司自己的通過了生物領域的「高能力」門檻。這意味著該Agent至少在原則上可以為用戶提供有意義的指導，從而可能促進危險生物威脅的產生。和北京都有防止非國家行為者將此類工具武器化的。人工智慧輔助的不會尊重國界。此外，來自西方和中國的領先專家和圖靈獎得主，對先進的通用人工智慧系統可能在人類控制之外運作，從而構成災難性和生存風險表示擔憂。

兩國政府都已經承認了其中的一些風險。川普總統的警告說，人工智慧可能「在不久的將來構成新的國家安全風險」，特別是在網路安全以及化學、生物、放射性和核（CBRN）領域。同樣，去年9月，中國主要的AI安全標準機構強調了針對網路安全、CBRN和失控風險的人工智慧安全標準的必要性。 

從那裡開始，雙方可以採取切實的步驟，在領先的標準組織之間建立技術信任——例如中國的National Information Security Standardization Technical Committee () 和美國的National Institute of Standards and Technology ()

此外，行業主管部門，例如中國人工智慧產業聯盟 (AIIA) 和美國的Frontier Model Forum，可以分享風險管理框架的最佳實踐。AIIA制定了「」，大多數中國領先的開發商都已簽署。一個新的中國，完全側重於前沿風險，包括網路濫用、生物濫用、大規模的說服和操縱以及失控情境，已在期間發布，可以幫助兩國保持一致。

隨著信任的加深，各國政府和領先的實驗室可以開始分享最先進模型的安全評估方法和結果。在WAIC上公佈的，明確呼籲創建「相互認可的安全評估平台」。正如Anthropic的聯合創始人所說，最近中國的人工智慧安全評估與西方的研究結果相似：前沿人工智慧系統會帶來一些重要的CBRN風險，並且開始顯示出自主自我複製和欺騙的早期預警信號。對模型漏洞（以及如何測試這些漏洞）的共同理解，將為更廣泛的安全合作奠定基礎。 

最後，雙方可以建立事件報告管道和應急響應協議。如果發生與人工智慧相關的事故或濫用，快速和透明的溝通將至關重要。兩國頂級人工智慧官員之間現代版的「熱線」可以確保在模型突破安全閾值或行為異常時發出實時警報。今年4月，習近平主席強調了人工智慧領域「監測、早期風險預警和應急響應」的必要性。在任何危險事件發生後，都應有一個預先商定的應對計劃。

參與並不容易——政治和技術障礙是不可避免的。但人工智慧風險是全球性的——治理應對也必須如此。美國決策者和行業領導者不應以中國為藉口，為國內在人工智慧監管方面的不作為辯護，而應直接參與。人工智慧風險不會等待。

“`