談到人工智慧，我們所不知道的恐會傷及我們

(SeaPRwire) –   在過去幾年，人工智慧一直是城中熱議的話題。每一個新的人工智慧模型都展現出令人難以置信的創新，這些創新能力足以與數週前發布的版本相媲美。人工智慧公司的專家、開發者和執行長們對未來的發展軌跡做出了大膽的聲明，從消除繁重勞動、延長人類壽命，到對人類的潛在威脅。

如果人人都在談論人工智慧，部分原因在於這些創新的公開化為開發這些模型的公司帶來了指數級增長的收入。但隨著人工智慧變得更快、更強大、更複雜，這種公開對話可能會迅速轉入閉門討論。人工智慧公司正越來越多地在其內部組織中部署人工智慧模型，而且它們很可能很快就會發現將其最強大的未來模型保留內部使用是有利的。然而，這些看似無害的決定可能對整個社會構成嚴重威脅，如下文所述。

大多數領先的人工智慧公司都公開表示，他們打算開發在所有認知任務上都與人類一樣勝任的人工智慧模型，這可能產生數萬億美元的經濟價值。鑑於目前普遍認為朝著通用人工智慧 (AGI) 的發展趨勢，高度先進模型的潛在策略優勢可能很快會促使公司秘密地在內部利用其模型，以加速技術進步——但卻幾乎不向競爭對手和更廣泛的外部世界提供任何進展訊號。

目前的 AI 系統在實驗模擬環境中已經頻繁地表現出意想不到、非預期和不合乎期望的行為，例如威脅用戶、編造事實或撒謊。然而，如果領先的開發者開始對其技術秘而不宣，社會將不再有機會（即使是狹窄的機會）公開了解和評估這項基礎技術的優缺點、風險和安全狀況以及發展軌跡。一旦未來的高級 AI 系統被部署和使用，甚至專門在閉門造車的環境中運行，對社會而言，看不見的危險可能會在沒有監督或預警的情況下出現和演變——這是一個我們能夠也必須避免的威脅。

領先的實驗室已經越來越多地利用 AI 系統來加速自身的研發流程，透過設計新演算法、提出全新的架構或優化程式碼。例如，Google 曾報告說，他們 50% 的程式碼現在是由 AI 編寫的。正如所強調的，先進的 AI 系統最終可能被用來迭代改進其繼任者，潛在地創造一個強大的「自我改進迴圈」，形成越來越有能力的模型。對於旨在領先競爭對手，快速達到通用人工智慧甚至超級智慧的 AI 公司而言，這將是個好消息——但前提是它們在避開窺探的目光的情況下利用其戰略優勢。

乍看之下，這一切聽起來可能無害：一個尚未發布的 AI 系統能構成什麼威脅？

問題是兩方面的：首先，隨著先進 AI 系統在內部用於建構更好 AI 的用途越來越大，可能會產生比現今更強大的競爭和經濟誘因，促使公司將速度和競爭優勢置於謹慎之上。這種競賽動態伴隨著風險，特別是當越來越先進的 AI 系統開始被公司員工使用，並部署到 AI 研發等安全關鍵領域，可能自主運作以減少摩擦，在任何人完全理解 AI 系統行為之前就內建潛在的故障點。

其次，現有的評估和干預措施主要關注公開可用的 AI 系統。對於內部部署的 AI 系統，關於誰擁有特權存取權限或其用途的資訊非常少，甚至沒有。更確切地說，關於它們的能力、它們是否以不合乎期望的方式行事、它們是否在適當的監督機制和防護措施下受到控制、它們是否可能被有權存取者濫用，或它們的整體風險狀況，這些資訊都非常匱乏。也沒有足夠冷靜而詳細的要求來確保這些 AI 系統在投入使用之前經過嚴格測試，並且不會對社會造成連鎖威脅。

如果我們不要求科技公司提供足夠詳細的資訊，說明他們如何測試、控制和內部使用新的 AI 模型，政府就無法為最終可能具備國家級能力的 AI 系統做好準備。同時，在閉門造車的情況下發展出的威脅可能會蔓延到社會，而沒有事先警告或干預能力。誠然，即使在今天，我們也無法相信目前的 AI 系統無論是外部還是內部部署，都能可靠地按預期運作。然而，我們還有時間採取行動。

今天可以採取一些直接的措施。人工智慧公司的自願性前沿 AI 安全政策的範圍應明確擴大，以涵蓋高風險的內部部署和使用，例如用於加速 AI 研發。作為其中一部分，內部部署應與外部部署受到同等重視，並應鼓勵在使​用前進行嚴格的評估和審查，以識別危險能力、建立明確的風險狀況，以及所需的控制或防護機制。

負責國家應變的政府機構應對高度先進 AI 系統的內部部署和使用具有前瞻性可見度，並應接收所有必要的國家安全關鍵資訊。這可能包括，例如，關於誰在何種條件下可以存取這些 AI 系統、這些 AI 系統的用途、對它們實施了什麼監督，以及如果這種監督失敗可能會發生什麼，以確保經濟和知識產權利益與合法的國家安全利益取得平衡。

AI 公司和政府應協同合作，主導採納這些直接的最佳實踐，以確保值得信賴的創新和對公眾的保護。