超人工智能的核武級風險

(SeaPRwire) –   一月份，中國迄今為止最先進的AI模型的揭幕，標誌著一個關鍵時刻的到來。正如 Donald Trump 總統最近在關於技術安全的演講中警告的那樣，這一發展無異於對美國領導地位的「警鐘」。危急關頭不僅僅是經濟競爭力，更可能是自原子彈以來地緣政治上最不穩定的技術。

在奧本海默創造原子彈之後的核時代，美國的技術壟斷大約持續了四年，然後蘇聯科學家就實現了同等水平。這種恐怖平衡，加上這些新武器前所未有的破壞潛力，催生了相互保證毀滅（MAD）—— 一個雖然存在缺陷，但幾十年來阻止了災難性衝突的威懾框架。核報復的風險阻止了任何一方率先發動攻擊，最終形成了一種緊張但穩定的僵局。

今天的AI競賽有可能比之前的核時代更加複雜，部分原因是AI是一項廣泛適用的技術，幾乎觸及從醫學到金融再到國防的每個領域。 強大的AI甚至可以自動化AI研究本身，使第一個擁有它的國家在防禦和進攻力量方面都獲得不斷擴大的領先優勢。 一個即將掌握超級智能AI的國家——一種在幾乎所有領域都比人類聰明得多的AI，對於其競爭對手來說將構成國家安全緊急事件，這些競爭對手可能會轉而威脅破壞而不是讓出權力。 如果我們正走向一個擁有超級智能的世界，我們必須清楚地認識到地緣政治不穩定的可能性。 在本週發布的一份新報告中，我們繪製了強大AI的一些地緣政治影響，並提出了一項有凝聚力的「超級智能戰略」。

讓我們想像一下，美國可能如何合理地應對尋求無法逾越的AI優勢的競爭對手。 假設北京在美國AI實驗室之前建立了領先地位，並且在我們之前達到了遞歸改進的超級智能的門檻。 無論北京是否能夠控制其正在構建的內容，美國的國家安全都將受到深刻而切實的威脅。 理性地說，美國可能會採取威脅破壞的形式，對AI數據中心進行網絡攻擊，以阻止中國實現其目標。 如果我們接近遞歸改進的超級智能，我們可能同樣預期習近平——或弗拉基米爾·普京（他幾乎沒有機會首先獲得該技術）——以類似的方式做出反應。 如果美國即將壟斷權力，他們不會袖手旁觀。

正如對核壟斷的破壞性追求最終讓位於核時代MAD的穩定一樣，我們可能很快會進入AI的平行威懾動態。 如果任何試圖奪取AI霸權的國家都可以預期先發制人破壞的威脅，那麼各國可能會因此而不敢追求單邊權力。 我們將此結果稱為相互保證AI故障（MAIM）。 隨著各國意識到這種可能性，我們預計它將成為默認的制度，我們現在需要為這個新的戰略現實做好準備。

MAIM 是一個旨在維持戰略優勢、防止局勢升級並限制競爭對手和惡意行為者野心的威懾框架。 為了使這奏效，美國必須明確表示，任何破壞穩定的AI項目，尤其是那些旨在實現超級智能的項目，都將引發報復。 在這裡，進攻——或至少是可信的進攻威脅——很可能是最好的防禦。 這意味著擴大我們的網絡攻擊能力並加強對敵對AI計劃的監視。

在建立這個威懾框架的同時，美國必須同時在另外兩個方面取得進展：AI不擴散和國內競爭力。

對於不擴散，我們應該制定更強有力的AI芯片出口管制和監控措施，以防止計算能力落入危險人物手中。 我們應該像對待鈾一樣對待AI芯片，嚴格記錄產品流動，建立對高端AI芯片授權功能的限制，並授予聯邦機構跟踪和關閉非法分銷途徑的權力。

最後，為了保持競爭優勢，美國應該專注於增強其軍事技術和計算能力供應鏈的彈性。 特別是，我們對台灣AI芯片的依賴是一個明顯的漏洞和關鍵的瓶頸。 雖然西方在AI芯片方面具有決定性的優勢，但中國的競爭可能會破壞這種優勢。 因此，美國應加緊其國內設計和製造能力。 超級智能AI構成的挑戰與政策制定者面臨的任何挑戰一樣難以捉摸。 這就是理論家Horst Rittel和Melvin Webber所稱的「棘手問題」，它不斷發展，沒有最終的解決方案。 MAIM，輔以強有力的不擴散和對美國工業的重新投資，提供了一項基於過去軍備競賽經驗的戰略。 沒有純粹的技術手段可以馴服這些力量，但是威懾、不擴散和競爭力措施的正確結合可以幫助美國應對超級智能的新興地緣政治現實。