2025年7月，蘭德公司（Rand Corporation）發(fā)布文章《在通用人工智能競(jìng)賽中關(guān)注地緣政治不穩(wěn)定的風(fēng)險(xiǎn)》（Heeding the Risks of Geopolitical Instability in a Race to Artificial General Intelligence），主要介紹了通用人工智能對(duì)國(guó)家的生存威脅、因此可能出現(xiàn)的預(yù)防性行動(dòng)場(chǎng)景、通用人工智能競(jìng)賽中可能導(dǎo)致預(yù)防性行動(dòng)的不穩(wěn)定因素、相關(guān)政策建議等等。啟元洞見(jiàn)編譯該文章主要內(nèi)容，旨在為讀者了解相關(guān)研究提供參考。

引言

在關(guān)于通用人工智能（以下簡(jiǎn)稱AGI）的諸多設(shè)想中，最電影化的噩夢(mèng)場(chǎng)景是它最終接管世界、奴役人類；還有一種雖不震撼卻更現(xiàn)實(shí)的可能：AGI使人類在經(jīng)濟(jì)上被淘汰。而更復(fù)雜的一種設(shè)想是，率先擁有AGI的國(guó)家將成為史上最強(qiáng)超級(jí)大國(guó)，有能力摧毀或征服對(duì)手、主導(dǎo)世界。這種設(shè)想雖未被搬上銀幕，卻在人工智能（以下簡(jiǎn)稱AI）投資倡導(dǎo)者的言論中頻繁出現(xiàn)——他們認(rèn)為世界大國(guó)正處于AGI競(jìng)賽中，每方都必須全力以赴取勝。這引發(fā)了一個(gè)重要卻未被充分探討的問(wèn)題：若都認(rèn)為輸?shù)鬉GI競(jìng)賽將給其地緣政治對(duì)手帶來(lái)優(yōu)勢(shì)，那么當(dāng)其中一方面臨對(duì)手可能率先研發(fā)出AGI的局面時(shí)，會(huì)采取何種行動(dòng)？率先研發(fā)出AGI的國(guó)家，又會(huì)如何應(yīng)對(duì)可能挑戰(zhàn)其技術(shù)壟斷地位的競(jìng)爭(zhēng)對(duì)手？它們會(huì)為避免威脅而訴諸戰(zhàn)爭(zhēng)或其他危險(xiǎn)的預(yù)防性行動(dòng)嗎？

一、通用人工智能：

國(guó)家間的生存威脅

理論上，單獨(dú)擁有AGI的國(guó)家擁有多種革命性能力，對(duì)自身及全球國(guó)家安全產(chǎn)生深遠(yuǎn)影響。這些能力可大致分為四類且相互重疊。一是進(jìn)攻性軍事與網(wǎng)絡(luò)能力，其他國(guó)家難以防御。二是戰(zhàn)略防御能力，能抵御敵方攻擊，尤其是大規(guī)模核打擊。三是爆炸性經(jīng)濟(jì)增長(zhǎng)能力，改變國(guó)際權(quán)力分配，使之有利于本國(guó)。四是信息控制能力，可以有效地操縱和重新規(guī)劃對(duì)手的政治體系。

盡管有人認(rèn)為AGI會(huì)同時(shí)帶來(lái)上述所有能力且速度極快，但這些能力也可能單獨(dú)、逐步顯現(xiàn)，甚至完全不出現(xiàn)。不過(guò)，若AGI競(jìng)賽的獲勝國(guó)能憑借其軍事和經(jīng)濟(jì)實(shí)力迅速遠(yuǎn)超其他國(guó)家，那么對(duì)非獲勝國(guó)（且不相信獲勝國(guó)會(huì)仁慈相待）而言，AGI無(wú)疑構(gòu)成了真正的生存威脅——可能意味著征服、奴役或國(guó)家消亡。值得注意的是，無(wú)論這些恐懼是否有依據(jù)，持有此類恐懼的國(guó)家領(lǐng)導(dǎo)人的行為都會(huì)受其影響，這就引出了一個(gè)問(wèn)題：他們會(huì)如何應(yīng)對(duì)對(duì)手可能研發(fā)出AGI的潛在危險(xiǎn)？

二、預(yù)防性行動(dòng)

一個(gè)強(qiáng)國(guó)若想避免在AGI競(jìng)賽中失利，或在獲勝后避免其他國(guó)家的挑戰(zhàn)，有多種政策選項(xiàng)可供選擇（弱國(guó)的選擇則更有限）。

最直接的應(yīng)對(duì)方式是加速競(jìng)爭(zhēng)——若在競(jìng)賽中勝出就能解決問(wèn)題，但成功與否取決于雙方的競(jìng)爭(zhēng)能力和意愿。在AGI競(jìng)賽中，全力以赴往往成本高昂，尤其是對(duì)資源較少、技術(shù)落后的追趕者而言。而且，在“贏家通吃”的局面中，超越對(duì)手很難。

也可以選擇與其他國(guó)家（包括可能贏得AGI競(jìng)賽的國(guó)家）合作達(dá)成互利安排以改善競(jìng)爭(zhēng)局面的方式。這種方式雖不如加速競(jìng)爭(zhēng)直接，但可能是最優(yōu)選擇，尤其對(duì)資源有限的國(guó)家而言。

最不友好的方式是預(yù)防性行動(dòng)，通過(guò)阻礙對(duì)手的進(jìn)展或削弱其能力來(lái)規(guī)避威脅，且這種行動(dòng)超出和平時(shí)期正常競(jìng)爭(zhēng)的范疇，可能包括出口管制、污染訓(xùn)練數(shù)據(jù)或炸毀數(shù)據(jù)中心等。預(yù)防性戰(zhàn)爭(zhēng)是預(yù)防性行動(dòng)的極端形式，指一個(gè)國(guó)家預(yù)計(jì)未來(lái)可能爆發(fā)沖突，認(rèn)為與其晚打不如早打。這種判斷通常源于對(duì)對(duì)手實(shí)力增長(zhǎng)、對(duì)手將獲得新強(qiáng)大能力（如核武器）、自身實(shí)力衰退或?qū)ΜF(xiàn)有盟友未來(lái)可能不會(huì)參戰(zhàn)等情況的擔(dān)憂。

例如，1914年德國(guó)領(lǐng)導(dǎo)人急于對(duì)協(xié)約國(guó)開(kāi)戰(zhàn)，部分原因是錯(cuò)誤地認(rèn)為俄羅斯的工業(yè)化會(huì)使其很快壓倒德國(guó)，且正確地意識(shí)到其唯一的大國(guó)盟友奧匈帝國(guó)正走向衰落。不過(guò)，現(xiàn)代國(guó)際體系中預(yù)防性戰(zhàn)爭(zhēng)并不常見(jiàn)，尤其是近一個(gè)世紀(jì)以來(lái)，政治家面對(duì)強(qiáng)大對(duì)手時(shí)，通常會(huì)選擇成本更低的行動(dòng)方案。

與阻止AGI突破最具可比性的歷史案例，是國(guó)家為阻止對(duì)手獲得危險(xiǎn)新軍事能力尤其是核武器而使用或考慮使用武力的情況。美國(guó)最終放棄對(duì)蘇聯(lián)、朝鮮等國(guó)的預(yù)防性打擊，原因包括大規(guī)模戰(zhàn)爭(zhēng)的高昂成本、對(duì)預(yù)防性打擊能否徹底消除威脅的懷疑以及意識(shí)到對(duì)手擁有核武器未必會(huì)導(dǎo)致美國(guó)毀滅或被征服。

預(yù)防性行動(dòng)還包括許多低調(diào)或非致命措施：破壞工業(yè)和研究設(shè)施、威脅或暗殺科學(xué)家及關(guān)鍵軍事人員、封鎖和攔截武器運(yùn)輸、開(kāi)展經(jīng)濟(jì)戰(zhàn)阻止對(duì)手獲取戰(zhàn)略物資或高科技產(chǎn)品等。暴力程度最低的預(yù)防措施如冷戰(zhàn)時(shí)期美國(guó)主導(dǎo)的多邊出口管制協(xié)調(diào)委員會(huì)（CoCom）限制向蘇聯(lián)出口先進(jìn)技術(shù)的制度，雖具有預(yù)防性，但是否超出和平時(shí)期正常經(jīng)濟(jì)行為的范疇仍有爭(zhēng)議。

三、兩種AGI預(yù)防性行動(dòng)場(chǎng)景

若各國(guó)對(duì)AGI出現(xiàn)對(duì)其安全影響的預(yù)期與前文描述大致一致，那么一般在兩種情況下，它們可能認(rèn)為為應(yīng)對(duì)AGI近期出現(xiàn)或即將出現(xiàn)而采取代價(jià)高昂或風(fēng)險(xiǎn)巨大的預(yù)防性行動(dòng)是值得的。

（一）防止霸權(quán)

在AGI競(jìng)賽中，若一個(gè)國(guó)家預(yù)計(jì)對(duì)手將率先達(dá)成目標(biāo)，只要有可行甚至是孤注一擲的方法，它就有動(dòng)力試圖規(guī)避或拖延威脅。現(xiàn)實(shí)主義國(guó)際關(guān)系理論家一直認(rèn)為，一個(gè)即將成為全球霸權(quán)的國(guó)家會(huì)促使其他大國(guó)聯(lián)合起來(lái)阻止其霸權(quán)地位的形成。主要?jiǎng)右蚴菗?dān)心AGI競(jìng)賽的贏家可能會(huì)利用其新獲得的超級(jí)大國(guó)力量發(fā)動(dòng)攻擊或進(jìn)行威脅，如果對(duì)受害者來(lái)說(shuō)這意味著不可避免的失敗或政權(quán)、國(guó)家毀滅，那么即使是針對(duì)更強(qiáng)大對(duì)手的冒險(xiǎn)行動(dòng)也可能被認(rèn)為值得一試。除非其他國(guó)家確信AGI競(jìng)賽的贏家會(huì)是仁慈的霸權(quán)，否則同樣的邏輯也適用于對(duì)其有效控制整個(gè)國(guó)際體系的擔(dān)憂。其他擔(dān)憂可能還包括AGI競(jìng)賽的贏家將致命能力分享給敵對(duì)且難以威懾的第三方，或AGI競(jìng)賽的贏家失去對(duì)AGI的控制從而威脅全球生存。這些也會(huì)促使相關(guān)國(guó)家采取行動(dòng)。

這種場(chǎng)景下的預(yù)防性行動(dòng)可能發(fā)生在AGI競(jìng)賽贏家身份明確的最后階段，或AGI出現(xiàn)初期、控制AGI的國(guó)家將其轉(zhuǎn)化為可用軍事能力之前。行動(dòng)形式取決于AGI及其擁有國(guó)的弱點(diǎn)，但目標(biāo)很可能是一個(gè)擁有核武器的強(qiáng)國(guó)，甚至比采取行動(dòng)的國(guó)家更強(qiáng)大。這可能使軍事打擊顯得無(wú)望或常規(guī)攻擊不足以達(dá)到目的，從而導(dǎo)致使用更極端的武器。

（二）保護(hù)優(yōu)勢(shì)

率先開(kāi)發(fā)出AGI的國(guó)家會(huì)為威懾、壓制或消除對(duì)其地位的潛在或?qū)嶋H威脅而采取預(yù)防性行動(dòng)。即使該國(guó)本身不想主宰世界或解決舊怨，也可能有強(qiáng)烈動(dòng)機(jī)對(duì)可能復(fù)制其成就的對(duì)手使用實(shí)體或虛擬武力進(jìn)行預(yù)防性打擊。這類似于冷戰(zhàn)初期，美英部分倡導(dǎo)者主張對(duì)蘇聯(lián)發(fā)動(dòng)預(yù)防性戰(zhàn)爭(zhēng)，在美國(guó)仍保留有效的原子或熱核壟斷權(quán)時(shí)消除核武裝敵人的威脅。

正如分析家所言，率先開(kāi)發(fā)出AGI的國(guó)家于對(duì)手而言有“不可逾越的戰(zhàn)略優(yōu)勢(shì)”，本質(zhì)上就是控制并在必要時(shí)壓制試圖挑戰(zhàn)其領(lǐng)先地位或違抗其要求的國(guó)家的能力。對(duì)核擴(kuò)散與AGI的預(yù)防性行動(dòng)有相似之處，如兩種技術(shù)的發(fā)展都難以監(jiān)控等，但兩者在攻擊目標(biāo)等方面存在差異，也不能過(guò)度類比。

四、不穩(wěn)定的驅(qū)動(dòng)因素和調(diào)節(jié)因素

當(dāng)競(jìng)爭(zhēng)對(duì)手之間的一方或多方有強(qiáng)烈動(dòng)機(jī)采取預(yù)防性行動(dòng)（尤其是高強(qiáng)度行動(dòng)）時(shí)，雙方關(guān)系中就會(huì)出現(xiàn)戰(zhàn)略和危機(jī)不穩(wěn)定性。許多因素會(huì)影響AGI競(jìng)賽的不穩(wěn)定程度，盡管以下因素都是客觀存在的，但在領(lǐng)導(dǎo)者的決策過(guò)程中，最重要的還是他們所相信的事實(shí)以及他們對(duì)未來(lái)的預(yù)期，無(wú)論其是否正確。

AGI的軍事優(yōu)勢(shì)。擁有AGI的國(guó)家能否以極低風(fēng)險(xiǎn)威脅大國(guó)對(duì)手的生存或者將其降為永久弱勢(shì)地位？能否通過(guò)控制對(duì)手的內(nèi)部信息流來(lái)重塑其社會(huì)？這不僅取決于AGI在初始及后續(xù)發(fā)展中的實(shí)力，還取決于其相對(duì)于先前較弱人工智能的優(yōu)勢(shì)。在AGI壟斷保護(hù)場(chǎng)景中，這些問(wèn)題同樣適用，因?yàn)閮?yōu)勢(shì)的大小決定了為保護(hù)優(yōu)勢(shì)值得付出的代價(jià)。

對(duì)手將AGI投入使用的速度。若開(kāi)發(fā)出AGI的國(guó)家能迅速將技術(shù)轉(zhuǎn)化為可用軍事能力或其他強(qiáng)制力，評(píng)估和應(yīng)對(duì)威脅的時(shí)間就會(huì)被壓縮（決策合理性可能會(huì)降低）。若開(kāi)發(fā)出AGI的國(guó)家受政治、組織、資源等因素阻礙而轉(zhuǎn)化速度較慢，應(yīng)對(duì)威脅的時(shí)間則會(huì)更長(zhǎng)，領(lǐng)先國(guó)家也可能更少擔(dān)心對(duì)手追趕，從而減少使用武力的動(dòng)機(jī)。

AGI降低其擁有者易受攻擊的程度。若擁有AGI的國(guó)家仍易受對(duì)手的核報(bào)復(fù)或其他嚴(yán)重反擊，其AGI優(yōu)勢(shì)的威懾力就會(huì)下降，對(duì)手采取預(yù)防性行動(dòng)的顧慮也會(huì)減少；反之，若其幾乎無(wú)懈可擊，對(duì)手的恐懼會(huì)加劇，可能更急于采取行動(dòng)。

AGI優(yōu)勢(shì)的持久性。若AGI優(yōu)勢(shì)擴(kuò)散迅速、難以維持，追隨者可能擔(dān)憂領(lǐng)先國(guó)家更急于在優(yōu)勢(shì)消失前使用武力壓制；也可能充滿希望，認(rèn)為其領(lǐng)先期短暫，選擇等待。當(dāng)然，若優(yōu)勢(shì)轉(zhuǎn)瞬即逝，國(guó)家投入巨資爭(zhēng)先開(kāi)發(fā)的動(dòng)力也會(huì)減弱。

AGI霸權(quán)國(guó)的行為預(yù)期。盡管國(guó)家應(yīng)關(guān)注潛在對(duì)手的能力，而不論其政權(quán)類型或過(guò)去的行為如何，但政治和聲譽(yù)因素也很重要。美國(guó)原則上全面反對(duì)核擴(kuò)散，20世紀(jì)40年代，美國(guó)核壟斷一詞與其他國(guó)家核壟斷引發(fā)的反應(yīng)不同。在當(dāng)前的背景下，任何AGI大國(guó)都可能無(wú)法向?qū)κ直ＷC自己將是一個(gè)良性霸權(quán)，但即使是陡峭的上坡路也值得一試。

AGI擴(kuò)散或失控的風(fēng)險(xiǎn)。在其他條件相同的情況下，安全措施松懈的核國(guó)家比擁有健全內(nèi)部控制機(jī)制的核國(guó)家更令人擔(dān)憂。AGI的特別之處在于，它潛在的新型軍事能力可能會(huì)主動(dòng)違抗其研發(fā)國(guó)的命令。無(wú)論是領(lǐng)先者還是追隨者，若一個(gè)國(guó)家被認(rèn)為是AGI的不負(fù)責(zé)任或無(wú)能管理者，其他國(guó)家更可能試圖阻止其獲得AGI。

對(duì)手AGI進(jìn)展情況的可見(jiàn)性。若AGI在出現(xiàn)或被武器化之前幾乎沒(méi)有預(yù)警，阻止對(duì)手在早期開(kāi)發(fā)AGI的動(dòng)機(jī)就會(huì)被放大，但很難基于想象或高度不確定的威脅發(fā)動(dòng)預(yù)防性戰(zhàn)爭(zhēng)。

預(yù)防性行動(dòng)的效果。即使上述因素都支持采取預(yù)防性行動(dòng)，國(guó)家最終是否行動(dòng)仍取決于成功的可能性?，F(xiàn)實(shí)中，領(lǐng)導(dǎo)人很難接受高失敗風(fēng)險(xiǎn)，尤其是當(dāng)收益不確定時(shí)。一個(gè)有彈性的人工智能開(kāi)發(fā)系統(tǒng)不太容易受到有限規(guī)模攻擊的影響，這對(duì)于考慮攻擊更強(qiáng)大對(duì)手的弱國(guó)來(lái)說(shuō)尤其具有挑戰(zhàn)性。

國(guó)家是否為“泥足巨人”。國(guó)家未必會(huì)遵循純粹的戰(zhàn)略邏輯行事，它們可能在戰(zhàn)爭(zhēng)中明知必?cái)s仍不投降。現(xiàn)代國(guó)家多數(shù)時(shí)候避免相互開(kāi)戰(zhàn)，因?yàn)楹推接袑?shí)際益處。因此，預(yù)防性戰(zhàn)爭(zhēng)并不常見(jiàn)，對(duì)AGI威脅的不確定性可能使國(guó)家更不愿冒險(xiǎn)采取行動(dòng)。

五、政策建議

我們有理由質(zhì)疑AGI是否會(huì)如預(yù)期的那樣迅速出現(xiàn)并武器化，但這種預(yù)測(cè)有可能正確多于錯(cuò)誤，而且有可能在很短的時(shí)間內(nèi)出現(xiàn)，這就需認(rèn)真考慮以下問(wèn)題。

核武器與人工智能的革命有一個(gè)共同點(diǎn)，我們不僅要比較AGI出現(xiàn)前后的世界，還需認(rèn)真審視從前者到后者的過(guò)渡過(guò)程及其中的危險(xiǎn)。獲取AGI的軍事動(dòng)機(jī)強(qiáng)烈的情景，往往也是采取極端預(yù)防性行動(dòng)的動(dòng)機(jī)強(qiáng)烈的情景。

認(rèn)為無(wú)人會(huì)努力阻止大國(guó)開(kāi)發(fā)AGI，從而使其成為全能霸權(quán)的觀點(diǎn)缺乏依據(jù)，需要反思。在AGI開(kāi)發(fā)競(jìng)賽后期和將AGI轉(zhuǎn)化為實(shí)際軍事力量及保護(hù)能力的初期，其他國(guó)家有各種軍事、非軍事和準(zhǔn)軍事選擇來(lái)阻礙這一進(jìn)程。其中，網(wǎng)絡(luò)攻擊和秘密破壞等準(zhǔn)軍事選擇如果能以有限風(fēng)險(xiǎn)產(chǎn)生顯著效果，可能會(huì)成為優(yōu)先選擇，但其影響也可能最不為人所知。

在大國(guó)推進(jìn)AGI的過(guò)程中，減少預(yù)防性行動(dòng)動(dòng)機(jī)應(yīng)成為國(guó)家和國(guó)際治理努力的重要目標(biāo)。加強(qiáng)戰(zhàn)略穩(wěn)定是美蘇核軍備控制最豐碩的成果，比限制武器系統(tǒng)的數(shù)量或能力本身更有意義。核競(jìng)賽中一些最重要的穩(wěn)定措施源于默契、單邊行動(dòng)和累積的政治實(shí)踐，而非正式談判。AGI治理或許也需類似路徑。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見(jiàn)。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見(jiàn)

研究所簡(jiǎn)介

國(guó)際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國(guó)務(wù)院發(fā)展研究中心的非營(yíng)利性研究機(jī)構(gòu)，主要職能是研究我國(guó)經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問(wèn)題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢(shì)，為中央和有關(guān)部委提供決策咨詢服務(wù)?！叭蚣夹g(shù)地圖”為國(guó)際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見(jiàn)。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話：010-82635522

微信：iite_er