人工智能將繼續(xù)改變國防格局，在帶來一系列問題的同時，也帶來了前所未有的機遇。各國必須全面了解當(dāng)前和未來人工智能發(fā)展的潛在挑戰(zhàn)并利用機會，確保國防系統(tǒng)中人工智能的安全性、可靠性和平衡系統(tǒng)的能力，從而提高作戰(zhàn)效率、預(yù)測準(zhǔn)確性并獲得戰(zhàn)略優(yōu)勢。
人工智能是一個廣義術(shù)語，指的是設(shè)計用于模仿人類智能的計算機系統(tǒng)，可以通過編程來學(xué)習(xí)、推理、解決問題、感知甚至解釋語言。人工智能的兩個突出子集是機器學(xué)習(xí)和深度學(xué)習(xí)，機器學(xué)習(xí)即系統(tǒng)從數(shù)據(jù)中學(xué)習(xí)以提高其性能，深度學(xué)習(xí)是一種以人類大腦為模型的更復(fù)雜的機器學(xué)習(xí)形式。
人工智能在國防領(lǐng)域的潛力巨大。它可以簡化作戰(zhàn)、增強決策、提高軍事任務(wù)的準(zhǔn)確性和有效性。無人機和自動駕駛車輛可以執(zhí)行人類無法完成的危險任務(wù)。人工智能分析可以通過預(yù)測和識別威脅來提供戰(zhàn)略優(yōu)勢。
【資料圖】
1
人工智能在國防領(lǐng)域的潛力
目前，人工智能和機器學(xué)習(xí)在以下幾個領(lǐng)域獲得了關(guān)鍵進展，顯示出該技術(shù)對于重塑軍事和國防格局的巨大潛力：
自主系統(tǒng)：自主系統(tǒng)的發(fā)展，特別是無人機和無人駕駛車輛，一直是一個關(guān)鍵的領(lǐng)域。自主系統(tǒng)可以處理一系列任務(wù)，從偵察任務(wù)到后勤支援，甚至直接參與作戰(zhàn)。可以在危險環(huán)境中執(zhí)行任務(wù)，減少人類士兵的風(fēng)險。
預(yù)測分析：先進的人工智能/機器學(xué)習(xí)模型用于預(yù)測分析，可以預(yù)測潛在的威脅或維護的需求，可以分析大量的數(shù)據(jù)，以發(fā)現(xiàn)人類分析師可能無法辨別的模式和趨勢，從而有助于確定防御策略和有效的資源分配。
賽博安全：人工智能和機器學(xué)習(xí)在對抗賽博威脅方面至關(guān)重要。這些技術(shù)可以比傳統(tǒng)方法更快地實時識別和響應(yīng)潛在威脅。還可以從每次攻擊中學(xué)習(xí)，不斷提高防御能力。
人工智能也被用于模擬高度逼真的作戰(zhàn)環(huán)境以達到訓(xùn)練目的。這些虛擬環(huán)境可以復(fù)制各種作戰(zhàn)場景和條件，為士兵提供多樣化和全面的訓(xùn)練體驗。
通過智能化指揮控制系統(tǒng)，人工智能技術(shù)可以幫助處理和解釋現(xiàn)代戰(zhàn)爭中產(chǎn)生的大量數(shù)據(jù)，從而為指揮官提供全面的、接近實時的戰(zhàn)場圖像，幫助制定決策和戰(zhàn)略規(guī)劃。
2
人工智能存在的問題
上文對人工智能潛力的研究表明了人工智能對國防領(lǐng)域的深遠(yuǎn)影響，也意味著未來作戰(zhàn)效率、戰(zhàn)略優(yōu)勢和準(zhǔn)確性的提高。然而，也必須正視這項革命性技術(shù)帶來的一系列問題。必須全面了解潛在挑戰(zhàn)并利用機會，同時確保國防系統(tǒng)中人工智能的安全性、可靠性和平衡集成系統(tǒng)的能力。在國防領(lǐng)域采用人工智能值得注意的問題如下：
“一致性”（Alignment）指的是確保人工智能系統(tǒng)的目標(biāo)和行動與人類的意圖一致。人工智能的復(fù)雜性、獨立學(xué)習(xí)的能力以及決策過程中缺乏透明度，都導(dǎo)致了一致性問題。不一致的人工智能可能會導(dǎo)致意想不到的后果，在完成任務(wù)的同時也會造成不好的后果，能包括對軍事行動的間接影響，以及國防后勤的中斷。想要解決這一問題，需將明確的人類價值觀融入編程、持續(xù)監(jiān)控、提高人工智能決策過程的透明度以及建立糾正行為的反饋機制。
“能力衰弱”（enfeeblement）指的是擔(dān)心對人工智能的過度依賴，隨著時間的推移，這可能導(dǎo)致人類基本技能的下降。隨著人工智能接管更多任務(wù)，軍事人員在這些任務(wù)上可能會變得不那么熟練，這可能會影響作戰(zhàn)準(zhǔn)備。這就需要一種平衡的方法，即使用人工智能來增強而不是取代人類的能力。定期訓(xùn)練和技能更新對于保持人類在人工智能輔助軍事任務(wù)中的熟練程度至關(guān)重要。
“被侵蝕的知識系統(tǒng)”（eroded epistemics），指的是由于過度依賴人工智能而導(dǎo)致的知識系統(tǒng)的潛在退化。如果國防部門不加批判地接受人工智能系統(tǒng)的輸出，而沒有充分理解或質(zhì)疑這些輸出是如何產(chǎn)生的，這可能會導(dǎo)致錯誤的戰(zhàn)略和國家安全決策。為此，需要加強國防人員的人工智能教育和培訓(xùn)。這不僅包括如何使用人工智能系統(tǒng)的培訓(xùn)，還包括對其潛在決策過程的理解。除此之外，培養(yǎng)一種重視批判性思維、將人類直覺和機器智能視為互補力量的文化至關(guān)重要，在這種文化中，人們可以挑戰(zhàn)人工智能的輸出。此外，設(shè)計更透明的系統(tǒng)，為人工智能決策提供可理解的解釋，可以確保更好的審查和理解，有助于防止對人工智能的“黑箱”感知。
“價值鎖定”（Value lock-in）指的是人工智能系統(tǒng)放大或鞏固現(xiàn)有價值觀、信仰或偏見的風(fēng)險，可能對國防行動構(gòu)成挑戰(zhàn)。這可能導(dǎo)致基于固有偏見的決策失衡，甚至由于人工智能系統(tǒng)中反映的不同文化或倫理價值觀而影響國際合作。
減輕這種風(fēng)險需要一些必要的措施：首先，對人工智能系統(tǒng)的偏見進行持續(xù)測試和審計應(yīng)該作為一個標(biāo)準(zhǔn)程序。其次，在為人工智能系統(tǒng)設(shè)定目標(biāo)和價值觀時融入不同的觀點，讓來自不同領(lǐng)域的專家參與進來，可以幫助確保價值觀的平衡。最后，提高人工智能開發(fā)的透明度，使人工智能系統(tǒng)的決策過程和訓(xùn)練數(shù)據(jù)公開接受審查，可以幫助識別和解決潛在的價值鎖定偏見。
還有一個與價值鎖定相關(guān)的問題——“偏見”。人工智能系統(tǒng)反映了它們所接受訓(xùn)練的數(shù)據(jù)，可能會無意中存在偏見。在國防方面，這些偏見會影響關(guān)鍵功能，從指揮、控制、通信、計算機、情報、監(jiān)視與偵察（C4ISR）活動到威脅識別和任務(wù)規(guī)劃。
所有的系統(tǒng)都存在固有偏見，關(guān)鍵在于如何識別和減少可能影響軍事戰(zhàn)備和能力的偏見。如果缺乏謹(jǐn)慎的管理，偏見會影響戰(zhàn)略決策，可能會損害態(tài)勢感知和其他關(guān)鍵防御功能。針對這一問題提出的解決方案包括使用具有廣泛代表性的訓(xùn)練數(shù)據(jù)，對人工智能系統(tǒng)中的偏差進行持續(xù)審計，可以實時檢測和糾正。此外，人在回路的關(guān)鍵決策方法增加了額外的審查層，有助于管理和減輕可能影響軍事能力和任務(wù)執(zhí)行的偏見，最終最大限度地提高人工智能對國防行動的有益貢獻。
人工智能系統(tǒng)被利用進行“欺騙”的能力不僅限于“深度偽造”，即通過數(shù)字處理扭曲現(xiàn)實的視頻或圖像。一個擔(dān)憂是人工智能驅(qū)動的網(wǎng)絡(luò)欺騙，人工智能可能被用來發(fā)動復(fù)雜的賽博攻擊、掩蓋入侵，甚至制造誘餌目標(biāo)來轉(zhuǎn)移國防資源。這種欺騙策略會削弱威脅檢測能力，破壞通信渠道，威脅關(guān)鍵任務(wù)系統(tǒng)。
另一個擔(dān)憂是人工智能可以增強心理行動，人工智能可以用來制造虛假信息活動，利用個人或群體的脆弱性來影響士氣、造成混亂、破壞對指揮結(jié)構(gòu)的信任。人工智能還可以用于戰(zhàn)場欺騙。
為了減輕這些威脅，先進的基于人工智能的檢測工具可以幫助識別和打擊欺騙性的人工智能戰(zhàn)術(shù)。部署可識別人工智能欺騙模式的機器學(xué)習(xí)算法，對于預(yù)先防范賽博攻擊或虛假信息宣傳至關(guān)重要。數(shù)字取證是另一個關(guān)鍵技術(shù)。對數(shù)字證據(jù)的嚴(yán)格分析可以發(fā)現(xiàn)人工智能產(chǎn)生的欺騙跡象。在組織方面，提高國防人員的意識和應(yīng)變能力至關(guān)重要。定期對最新的人工智能欺騙策略進行培訓(xùn)，可以幫助人員識別潛在的威脅。對未經(jīng)證實的信息保持懷疑態(tài)度，也可以加強對人工智能引起的心理行動的防御。
人工智能的崛起引發(fā)了人們對失業(yè)的擔(dān)憂。這種轉(zhuǎn)變可能會擾亂關(guān)鍵任務(wù)，造成社會經(jīng)濟影響，影響士氣并減少軍隊積累的知識和經(jīng)驗。想要減輕這些擔(dān)憂需要制定積極的計劃，人員的技能提升和再培訓(xùn)計劃可以為未來與人工智能集成做好準(zhǔn)備，提高有效管理人工智能系統(tǒng)的能力。
最后，令人擔(dān)心的是人工智能本身的“武器化”，人工智能武器將突破科幻小說的限制，成為現(xiàn)實。人工智能和自主系統(tǒng)的快速發(fā)展使武器編程能夠獨立選擇和攻擊目標(biāo)，打開了潘多拉的盒子。由人工智能驅(qū)動的自主武器可能涵蓋所有領(lǐng)域，從具有先進瞄準(zhǔn)能力的導(dǎo)彈系統(tǒng)到能夠在最少人為干預(yù)的情況下進行監(jiān)視或打擊的自主無人機。人工智能還可以用于賽博作戰(zhàn)，以人類無法比擬的速度為自動化攻擊或防御提供動力。此外，人工智能可以進行廣泛的數(shù)據(jù)收集，幫助識別威脅和制定戰(zhàn)略決策。
然而，除了人工智能潛在的能力之外，存在的問題也令人擔(dān)憂。首先，人工智能自主決策的能力引發(fā)了關(guān)于戰(zhàn)爭問責(zé)制的嚴(yán)重倫理、道德和法律問題。如果自主武器做出錯誤的決定，導(dǎo)致意外的平民傷亡，誰來承擔(dān)責(zé)任？如何確保人工智能武器遵守戰(zhàn)爭規(guī)則和國際法？雖然這些問題至關(guān)重要，但并不是在人工智能武器化時代所面臨的所有問題，還有一個同樣緊迫的問題：在全球人工智能和軍事能力軍備競賽中落后的風(fēng)險。世界各國都在積極發(fā)展人工智能技術(shù)，以增強軍事能力。跟不上人工智能發(fā)展步伐的國家會發(fā)現(xiàn)自己在戰(zhàn)場上處于戰(zhàn)略劣勢。
3
解決方法
要解決這些復(fù)雜問題，必須采取多管齊下的辦法。應(yīng)該考慮嚴(yán)格的國際監(jiān)管、人工智能武器開發(fā)的透明度和健全的問責(zé)制度。但除此之外，各國還應(yīng)該投資自己的人工智能開發(fā)，以跟上全球進步的步伐。各國應(yīng)該合作，而不僅僅是競爭，為國防領(lǐng)域使用人工智能建立國際標(biāo)準(zhǔn)和規(guī)范。
解決這些問題需要采取綜合辦法。健全的道德準(zhǔn)則、嚴(yán)格的測試、透明度和培訓(xùn)至關(guān)重要。必須專注于使用人工智能來增強人類的能力，而不是取代人類。人工智能治理需要確保與人類價值觀保持一致，必須對潛在的欺騙或偏見保持警惕。
盡管存在這些擔(dān)憂，但人工智能在國防領(lǐng)域的應(yīng)用也帶來了巨大的機遇。當(dāng)前的發(fā)展目標(biāo)不應(yīng)該是阻止人工智能的進步，而應(yīng)該是深思熟慮地管理人工智能。通過主動承認(rèn)和積極解決這些問題，使人工智能在不損害安全、能力、戰(zhàn)備或社會價值觀的情況下為國防做出重大貢獻。
關(guān)鍵詞：
