-
基辛格:一切與數字網絡相連的地方,都將成為新的“戰場”
最后更新: 2023-06-02 08:22:33【導讀】 “很少有哪個時代面臨過如此局面:一方面,其遭遇的戰略和技術挑戰如此復雜;另一方面,對該挑戰的性質乃至討論其所需的詞匯卻鮮有共識”,2023年,曾親歷二戰和冷戰、在中美建交中發揮過重要作用的亨利·基辛格以百歲高齡發出了這樣的警告,“如果等到危機來臨才開始思考這些問題,那就為時太晚了?!?
近日,基辛格和谷歌前首席執行官埃里克·施密特、麻省理工學院蘇世民學院院長丹尼爾·胡騰洛赫爾共同推出新著《人工智能時代與人類未來》。在本書中,基辛格指出,新興的人工智能技術極有可能顛覆性地重塑全球安全格局,并有可能加劇中美等大國之間的競爭與對立。他呼吁技術領先國家對此加以重視,未雨綢繆,防患未然,就人工智能軍事用途的限制積極展開對話。
觀察者網刊出本書第五章《安全與世界秩序》,以供讀者參考。
【文/亨利·基辛格、埃里克·施密特、丹尼爾·胡騰洛赫爾】
數字時代的沖突
縱觀歷史,一個國家的政治影響力往往與其軍事力量和戰略能力大致匹配。所謂戰略能力,也就是說,通過這種能力,即使僅僅施加隱性威脅,也會對其他社會造成破壞。然而,這種基于力量權衡的均勢不是靜態的,不能自我維持。相反,均勢的維持首先依賴于各方就這一力量的構成要素及其使用的合法界限達成共識;其次,它需要體系內所有成員——尤其是對手——就各個國家的相對能力、意圖和侵略的后果進行一致的評估;最后,它需要一個實際的、公認的平衡。當體系中某一方的力量不成比例地增長、打破平衡時,體系將組織對抗力量或適應新的現實,以設法做出調整。當均勢的權衡變得不確定,或當各國對各自相對實力的權衡結果完全不同時,由誤算引發沖突的風險就會達到最高。
在當今時代,所謂“網絡武器”的出現使上述權衡更具抽象性。網絡武器涉及軍用和民用兩個領域,因此其作為武器的地位是模糊的。在某些情況下,網絡武器之所以能行使和增強軍事力量效用,主要是因為其使用者未披露其存在或未承認其全部能力。傳統上,沖突各方都不難認識到發生了交戰,或者認識到交戰各方是誰,會計算對方的戰力,并評估其部署武器的速度。可是,這些在傳統戰場上顛撲不破的道理卻不能直接套用到網絡領域。
常規武器和核武器存在于物理空間中,其部署可以被察覺,其能力可以被(至少粗略地)計算。相比之下,網絡武器的效用很大程度上源于其不透明性;若被公之于眾,其威力就會減損。網絡武器利用不為人知的軟件漏洞,在未經授權用戶許可或知情的情況下,侵入網絡或系統。在“分布式拒絕服務”(DDoS)攻擊(如對通信系統的攻擊)的突發事件中,攻擊者可能會使用大量看似有效的信息請求來壓垮系統,使之無法正常使用。在這種情況下,攻擊的真實來源可能被掩蓋,使人(至少在當時)難以或無法確定攻擊者。即使是最著名的網絡工業破壞事件之一—破壞了伊朗核項目中制造控制計算機的震網(Stuxnet)病毒,也從未被任何政府正式承認。
震網病毒對伊朗核項目造成了破壞(圖源:CyberHoot)
常規武器和核武器可以相對精確地瞄準目標,根據道德和法律的要求,其瞄準對象只能是軍事力量和軍事設施。而網絡武器可以廣泛影響計算和通信系統,往往可對民用系統造成有力打擊。其他行為體也可基于其他目的,對網絡武器進行吸納、修改和重新部署。某種程度上,網絡武器與生化武器類似,其影響能夠以非預期的、未知的方式傳播,往往不僅影響戰場上的特定目標,且波及大范圍的人類社會。
因此,網絡軍備控制難以被概念化,從而進一步推行。核軍備控制的談判人員可以公開披露或描述一類核彈頭,不必否認其功能。而(目前尚不存在的)網絡軍備控制談判人員則需要面對以下悖論:一旦對網絡武器的威力進行討論,可能就會導致這種威力的喪失(允許對手修補漏洞)或擴散(對手得以復制代碼或侵入方法)。
關鍵網絡術語和概念的模糊性使這些挑戰變得更加復雜。在不同的背景下,不同的觀察者將形式各異的網絡入侵、在線宣傳和信息戰稱為“網絡戰”、“網絡攻擊”或“戰爭行為”。但這些詞匯不固定,甚至有歧義。例如,侵入網絡以收集信息的活動,可能與傳統的情報收集類似,盡管涉及范圍有所不同;部分國家在社交媒體上干預選舉的活動,則是一種數字化宣傳、虛假信息傳播和政治干預的結合,其范圍和影響遠超以往任何時代。數字技術和網絡平臺的擴展,使依托其上的此類活動成為可能。此外,其他網絡行動也可能造成與傳統敵對狀態類似的實際影響。網絡行動的性質、范圍及歸屬的不確定性,可能會使看似基本無誤的因素成為各方爭論的焦點問題:沖突是否已經開始、與誰沖突、沖突涉及什么、沖突可能升級到何種程度,等等。從這個意義上說,各個大國正陷入一種網絡沖突,但這種沖突的性質和范圍尚無現成的定義。
我們所處的數字時代面臨一個核心悖論:一個社會的數字能力越強,就變得越脆弱。計算機、通信系統、金融市場、大學、醫院、航空公司、公共交通系統甚至民主政治都依托于系統,而這些系統或多或少可被網絡操縱或攻擊。隨著發達經濟體將數字指揮和控制系統整合到發電廠和電網中、將政府項目轉移到大型服務器和云系統中、將數據轉謄到電子賬簿中,它們在網絡攻擊面前也就變得倍加脆弱。這些行為提供了更豐富的目標集合,因此僅僅一次成功的攻擊就可能造成實質性的破壞。與此相對,面對數字破壞,低技術國家、恐怖組織甚至個人攻擊者所承受的損失可能要小得多。
網絡能力和網絡行動成本較低,且具有相對的可否認性,因此,一些國家可能會使用半自主行為體來執行該功能。與一戰前夕遍布巴爾干半島的準軍事集團一樣,這些半自主團體可能難以控制,在未經官方批準的情況下開展挑釁活動。網絡領域中行為的快速和不可預測性、各種行為體間關的復雜性,以及可以極大削弱一國網絡能力并攪亂國內政治格局(即使這些活動不會升級到傳統的武裝沖突水平)的泄密者和破壞者的存在,都可能誘使決策者“先發制人”,以防遭受致命打擊。
網絡領域行為的速度和模糊性有利于進攻方,并鼓勵以“積極防御”和“向前防御”尋求擾亂、排除攻擊。網絡威懾可能達到的程度,部分取決于防御者的目標及衡量成功的標準。最有效的攻擊往往不會達到武裝沖突的傳統定義門檻(通常未得到立即承認或正式承認)。即便是為了威懾,也沒有任何一個主要的網絡行為體公開其全部的能力或活動,無論該行為體是政府的抑或非政府的。因此,盡管新的能力正在涌現,相關戰略和理論仍處于隱蔽的陰影中,以不確定的方式演變。我們正處于全新的戰略前沿,需要進行系統性的探索,促進政府和工業界密切合作以確保有競爭力的安全能力,還需要大國之間在適當的保障措施下及時就網絡軍備限制進行討論。
人工智能與安全領域的動蕩
核武器的破壞性和網絡武器的神秘性,正日益與一種更新的能力相結合,也就是前幾章中所謂基于人工智能原理的能力。各國正在悄無聲息地、有時是試探性地、但又確鑿無疑地發展和部署人工智能,這將促進各種軍事能力的戰略行動,進而對安全政策產生革命性影響。
將非人類邏輯引入軍事系統和過程,會給戰略帶來改變。通過與人工智能共同培訓或與之合作,軍隊和安全部門的洞察力和影響力顯著提升,這既令人驚訝,也令人不安。軍隊與人工智能的伙伴關系,或將否定傳統戰略和戰術的某些方面,而加強另一些方面。如果人工智能被賦予權限,能夠在一定程度上控制(攻擊性或防御性的)網絡武器或飛機等物理武器,它可能會迅速執行人類難以執行的功能。例如,美國空軍的人工智能ARTUμ已經在飛行測試中成功駕駛飛機并操作雷達系統。ARTUμ的研發初衷是在無人干預的情況下做出“最后抉擇”,其能力僅限于駕駛飛機和操作雷達系統,但其他國家和設計團隊可能就沒有那么大的限制了。
ARTUμ成功駕駛U-2 Dragon Lady通過飛行測試(圖源:Air Force)
人工智能的自主和獨立邏輯能力不僅有可能推動變革,還具有一定的不可預料性。大多數傳統的軍事戰略和戰術都基于對人類對手的假設,即假設對手的行為和決策計算符合某種可識別的框架,或者可由經驗和傳統智慧界定。然而,當人工智能駕駛飛機或用雷達掃描目標,它遵循的是其自身的邏輯,難以被人類所理解,也不受傳統信號和佯攻的影響,而且,其邏輯執行速度往往高于人類的思維速度。
戰爭一向充滿不確定性和偶然性,但人工智能的進入將為其帶來新的變數。人工智能是不斷發展變化的新事物,因此,即使是那些創造出人工智能并使其設計或操作的武器的強國,可能也無法確定其威力、無法預判其行動。人工智能可以感知到人類無法或無法快速感知的環境,甚至能以超越人類的思維速度與思維廣度進行學習和改進,對于這樣一種事物,我們怎么可能制定有針對性的進攻或防御戰略呢?如果人工智能輔助武器的效果取決于人工智能在戰斗中的感知及從中得出的結論,那么,某些武器的戰略效果是否只能在使用中得到證明?如果競爭對手在靜默和保密的情況下訓練其人工智能,那么在沖突尚未發生時,領導人能知道己方在軍備競賽中是領先還是落后嗎?
在傳統的沖突中,對手的心理是戰略行動瞄準的關鍵點。但算法只知道指令和目標,而不知士氣或懷疑為何物。由于人工智能可以適應其所遇現象,當兩個人工智能武器系統彼此對抗時,交戰雙方都無法準確理解這一交互將產生何種結果、造成哪些附帶影響,也就無法清晰地把握對方的能力、預測沖突的代價。對人工智能武器的工程師和構建者而言,由于受到這些限制,他們在研發和制造過程中會更注重提高武器的速度、影響廣度和持久度,從而使沖突更激烈、廣泛、不可預測。
同時,即使有人工智能輔助,強大的防御也是安全的先決條件。新技術的普遍性使人們無法單方面放棄它。然而,即便是在整兵備戰時,各國政府也應該評估并嘗試將人工智能邏輯加入人類戰斗經驗,以使戰爭變得更人道、更精確。新技術對外交和世界秩序的影響也需加以反思。
人工智能和機器學習可以擴大現有武器的打擊能力,進而改變行為者的戰略和戰術選擇。人工智能不僅能提高常規武器的瞄準精度,還能改變瞄準方式,比如(至少在理論上)瞄準某個特定的個人或物體,而非某個地點。通過研究大量信息,人工智能網絡武器可以學習如何滲透防御,無需人類尋找可利用的軟件漏洞。同樣,人工智能也可用于防御,在漏洞被利用之前發現并修復它們。但是,由于攻擊者可以選擇目標而防御者不能,在人工智能的輔助下,進攻方即便不是戰無不勝,也能占得先機。
如果一個國家面對的對手已經訓練人工智能來駕駛飛機、獨立瞄準并決定開火,這將如何影響戰術、戰略或訴諸升級戰爭規模(甚至是核戰)的意愿?
人工智能開辟了信息空間能力,包括虛假信息領域。生成式人工智能可以創造大量似是而非的虛假信息,包括偽造的人物、圖片、視頻和演講等,以此為信息戰和心理戰推波助瀾。理論上,人工智能可以合成看似真實的沖突照片和視頻,讓公眾人物“發表”他們其實從未說過的言論,并將其以最有效地方式廣泛轉發給目標群體,迎合人們的偏見和期望。如果一個國家領導人的合成形象被對手操縱,以制造不和或發布誤導性指令,公眾(甚至其他政府和官員)能夠及時識破騙局嗎?
與核武器領域不同的是,對人工智能的使用并不存在公認的禁令,也沒有明確的威懾(或升級程度)概念。美國的競爭對手正在打造人工智能輔助武器,包括實體武器和網絡武器,據報道,其中一些已投入使用。人工智能大國有能力部署機器和系統,這些系統具有快速邏輯推理和不斷演化的行為能力,可用于攻擊、防御、監視、傳播虛假信息,以及識別和破壞敵方的人工智能。
隨著變革性人工智能能力的不斷發展和傳播,在沒有可驗證的限制因素的情況下,世界主要國家會繼續追求優勢地位。它們會假定,新的、可用的人工智能一旦出現,就必定會擴散。由于具備軍民雙重用途、易于復制和傳播,人工智能的基本原理和關鍵創新在很大程度上是公開的。即使對其加以監管,監管機制也很難做到無懈可擊:監管方式可能隨著技術進步而過時,也可能被竊取人工智能者發現漏洞。人工智能的新用戶可能會調整基礎算法,以實現迥然不同的目標,一個社會的商業創新可能會被另一個社會用于維護安全或信息戰。政府時常會采納尖端人工智能發展中最具戰略意義的方面,以滿足其國家利益設想。
平衡網絡力量平衡、將人工智能威懾概念化的相關工作尚處于起步階段。在對這些概念給出確切定義之前,對此類問題的規劃是抽象的。比如,在沖突中,交戰一方可能試圖使用或威脅使用一種效果未知的武器,以此摧垮對方的意志。
而最具顛覆性且不可預測的影響,可能發生在人工智能和人類智能遭遇之時。縱觀歷史,積極備戰的國家對其對手的理論、戰術和戰略心理,即便不是洞若觀火,至少也有大致了解。這使對抗性戰略和戰術得以發展,并形成了一系列象征性話語(例如攔截靠近邊境的飛機、通過爭議水域等)。然而,當由人工智能來制訂計劃或鎖定目標,甚至由人工智能在常規巡邏或沖突期間提供動態協助時,這些原本熟悉的概念和互動可能會變得陌生——人們需要與一種新型智能打交道,而該智能的運作方式和戰術都是未知的。
-
本文僅代表作者個人觀點。
- 責任編輯: 劉嘯云 
-
GPU獨角獸摩爾線程再推新品,成立兩年融資數十億
2023-06-01 08:12 觀網財經-科創 -
歷時9年,我國發掘谷子籽粒產量重要基因
2023-06-01 08:03 科技前沿 -
vivo推出S17系列,持續采用國產OLED屏幕
2023-06-01 00:20 觀網財經-科創 -
176比特!“祖沖之號”量子計算云平臺今日上線
2023-05-31 22:25 科技前沿 -
重大突破!全球首臺大坡度螺旋隧道掘進機成功轉彎
2023-05-31 18:27 科技前沿 -
兩院今起增選院士:首發增選指南,向這些領域傾斜
2023-05-31 13:26 -
“你導師呢?”“上天了”
2023-05-30 14:37 航空航天 -
神舟十六號載人飛船發射取得圓滿成功
2023-05-30 10:14 航空航天 -
工信部總工程師:把腦機接口作為培育未來產業發展的重要方向
2023-05-29 17:09 科技前沿 -
我國科學家實現千公里無中繼光纖量子密鑰分發
2023-05-27 21:24 科技前沿 -
國產數據庫openGauss開源三周年,“即將迎來生態拐點”
2023-05-26 23:35 觀網財經-科創 -
C919機票開售,上海虹橋飛成都天府919元起
2023-05-26 21:43 中國大飛機 -
2022年度上??萍吉勵C發:張文宏團隊摘得科普特等獎
2023-05-26 10:59 -
中興通訊發布2022年度可持續發展報告:以數智創新塑造可持續未來
2023-05-26 10:27 -
空箭上天:日本H3火箭二號機或將不帶衛星
2023-05-24 18:48 -
?iQOO新機首發聯發科新旗艦,中端機最卷時代到來?
2023-05-23 23:15 觀網財經-科創 -
內地與澳門合作研制首顆科學衛星“澳門科學一號”成功發射
2023-05-21 16:34 科技前沿 -
我國煤制烯烴催化劑研制取得重要突破
2023-05-19 06:39 科技前沿 -
張勇發布全員信:阿里云未來一年將分拆上市
2023-05-18 21:22 觀網財經-互聯網 -
我國成功研制超低溫“溫度計”,用于量子計算機
2023-05-18 15:51 科技前沿
相關推薦 -
被逼急了,格陵蘭島總理:是時候獨立了 評論 71美媒直呼:啥都能威脅國家安全,美國完全走偏了 評論 100司機留信曝光:同胞們醒醒吧,美國快病死了! 評論 263“沒想到拜登竟會如此對待盟友!” 評論 214事關中國FK-3,塞爾維亞:這是一個“里程碑” 評論 169最新聞 Hot
-
被逼急了,格陵蘭島總理:是時候獨立了
-
美媒直呼:啥都能威脅國家安全,美國完全走偏了
-
“到2030年,中國本土數學家將能引領世界”
-
密謀推翻馬爾代夫總統?印度回應
-
域外調查惹惱國際奧委會,“2034鹽湖城冬奧會有點懸”
-
欲爭奪歐洲最大電動車市場,但英國國內阻力不小
-
土耳其喊話歐盟:他不干,我干
-
“沒想到拜登竟會如此對待盟友!”
-
司機留信曝光:同胞們醒醒吧,美國快病死了!
-
特朗普炮轟:英國犯下了大錯!
-
盧卡申科:計劃訪華,事關未來
-
特朗普“封口費”案將于1月10日宣判,“但不會入獄”
-
“美國沒能改變中國”,布林肯一聽急了…
-
事關中國FK-3,塞爾維亞:這是一個“里程碑”
-
“中國真出手怎么辦?企業緊張研判…”
-
以己度人?“中方為了談判籌碼”
-