【人工智慧運用於國防領域是大勢所趨】
2018-07-12解放軍報-編輯:李素
作為新一輪科技革命的重要代表之一，人工智慧是當今科技領域最前沿的課題。AlphaGo Zero通過自我學習碾壓“AI前輩”AlphaGo、百度無人汽車上路、蘋果手機開啟新的刷臉認證方式……近年來，人工智慧的實際應用顯示其技術巨大的驅動力。
在人工智慧技術不斷進步的背景下，人工智慧在國防領域目前發展如何？人工智慧在國防領域能發揮什麼作用？未來應如何發展人工智慧使其更好服務國防領域？圍繞這些問題，記者採訪了國防科技大學研究員朱啟超。
人工智慧成為國際競爭新焦點——
軍事強國紛紛搶灘部署
“從世界局勢來看，世界各國尤其是軍事強國都在搶先佈局人工智慧，美、俄等國家政府部門均發佈了人工智慧相關戰略或規劃，彰顯國家層面對人工智慧的高度重視。”朱啟超表示。
資料顯示，俄羅斯始於2008年的“新面貌改革”將人工智慧作為重點投資領域。此外，俄羅斯還發佈《2025年前發展軍事科學綜合體構想》，強調人工智慧系統將成為決定未來戰爭成敗的關鍵要素。歐盟在2013年提出為期10年的“人腦計畫”，擬斥資12億歐元進行人類大腦研究。2016年10月，美國白宮發佈《國家人工智慧研究和發展戰略規劃》，構建美國人工智慧發展的實施框架。
在朱啟超看來，不少國家都在推進人工智慧在國防領域的發展運用，從最初的無人機到智慧化資訊處理系統、仿生機器人等，人工智慧逐步滲透到國防和軍隊各個領域。
近年來，美國曾在阿富汗戰爭、伊拉克戰爭中大量運用無人機和後勤作業機器人。2014年以來，美軍已將智慧化無人系統作為“第三次抵消戰略”的顛覆性技術領域給予重點投資。去年4月，美國國防部宣佈成立演算法戰跨職能小組，旨在將人工智慧用於國防情報搜集和分析領域。據報導，日前美國國防部正式下令建立一個新的人工智慧研究中心，整合國防部所有的人工智慧相關工作。
其他國家也在這個領域加快步伐，推動軍隊智慧化建設。俄羅斯軍事工業委員會計畫在2025年之前實現俄軍裝備30%的機器人化，其軍隊輪式和履帶式地面作戰機器人已經投入敘利亞戰場。韓國和以色列開發和使用具有自動監視和自主決定開火能力的邊境巡邏機器，以色列已在其境內部署自主性很高的“哈比”無人機，韓國國防部也在近期表示將在2020年之前投入75億韓元用於推動人工智慧在情報偵察、指揮控制等領域的運用。
“可以預見，各類智慧化無人系統與作戰平臺將在地面、空中、水面、水下、太空、網路空間以及人的認知空間獲得越來越多的應用，深刻改變著未來戰爭人工智慧的技術比重。”朱啟超說。
人工智慧運用於國防領域是大勢所趨——
國防運用需求前景廣闊
從歷史發展趨勢和未來戰爭需求看，人工智慧越來越成為推動新一輪軍事革命的核心驅動力，未來戰爭需求也越來越呼喚人工智慧的軍事應用。新美國安全中心研究員葛列格里·艾倫在其主筆的一份題為《人工智慧與國家安全》的報告中強調：“人工智慧對國家安全領域帶來的影響將是革命性的，而不僅僅是與眾不同的。世界各國政府將會考慮制定非凡的政策，可能會像核武器剛出現時一樣徹底。”
縱觀歷史，世界歷次軍事變革經歷了從冷兵器時代、熱兵器時代、機械化時代到資訊化時代的發展歷程，從冶煉技術到火藥技術、機械化技術、原子能技術，再到資訊技術，四次軍事革命的發生都貫穿著技術革命的核心作用。“人工智慧逐步走向戰場，勢必會引起武器裝備、作戰樣式、部隊體制編制和戰鬥力生成模式顯著更新，進而引發一場深刻的軍事革命。”面對人工智慧在國防領域的發展態勢，朱啟超表示。
在朱啟超看來，人工智慧的國防運用需求非常廣闊。當下，戰爭形態由機械化、資訊化向智慧化轉型的趨勢愈發明顯，奪取未來戰爭的勝利越來越取決於軍隊的資訊優勢、智力資源和決策速度。而人工智慧在減少戰場人員數量、獲取和分析情報資訊、快速決策和反應等方面具有巨大的潛力。2016年，美國辛辛那提大學研發的人工智慧程式“阿爾法”在模擬空戰中擊敗了美軍資深飛行員，人工智慧技術對於軍事革命的顛覆性意義已初步顯現。
“人工智慧越來越成為推進國防和軍隊資訊化建設的重要驅動力，不斷提升國防領域的資訊處理能力、指揮控制效率、精確打擊能力和精准管理保障能力。”朱啟超對人工智慧提升國防領域智慧化運用非常期待，他表示，隨著軍民融合發展戰略的實施推進，人工智慧技術、大資料技術、雲計算技術等新一代資訊技術將在國防領域發揮越來越重要的作用，推動國防和軍事智慧化水準不斷提升。
警惕人工智慧成為“戰爭毒藥”——
人類是人機關係主導者
近年來，隨著人工智慧技術的發展，軍事領域湧現出各種人工智慧相關作戰概念和裝備技術專案，但朱啟超認為，目前人工智慧相關技術與應用還處於快速發展的初級階段，不應忽視人工智慧軍事應用的局限性。
“首先，人工智慧並不能取代人類智慧。人工智慧在解決可編程範圍外的戰爭問題時，需要人類的理性分析能力、靈活應變能力、道德分辨能力等，因此，要在遵循戰爭制勝機理的前提下進行人工智慧研究。”他分析道。
朱啟超進一步說明，長期來看，還需要警惕人工智慧可能帶來的安全、法律、倫理等諸多問題。
安全方面，軍事對抗環境下，人工智慧系統或武器裝備一旦被對手通過惡意代碼、病毒植入、指令篡改等手段攻擊，將帶來戰術失利甚至災難性後果；人為錯誤、機器故障、環境擾動等因素也可能使得系統失去戰鬥效力。
法律方面，國際武裝衝突法中的核心原則——必要性、區別性、相稱性和人道性都將面臨如何適用和調整的問題。比如，戰場機器人無法區分軍人與平民而造成濫殺無辜給區別性原則構成挑戰。
倫理方面，由於智慧化評估決策技術、無人機、機器人等的應用，人類奉為最高價值的生命和尊嚴可能受到漠視甚至踐踏，而戰爭的指揮者卻遠離戰場享受戰爭勝利的果實，戰爭或將成為搬上戰場的“電子遊戲”，這將衝擊人類的道德底線。是否應該將人類的道德標準嵌入日益智慧化的機器、嵌入什麼樣的道德標準以及如何嵌入？這些問題需要世界各國的廣泛研究和探討。
針對人工智慧在國防領域運用過程中可能出現的安全、法律、倫理等問題，朱啟超建議，應加強社會安全監督管控，形成適應人工智慧時代的社會治理模式；積極參與人工智慧國際軍備控制討論與談判，為應對人工智慧帶來的安全、法律與倫理問題貢獻中國智慧和中國方案；牢固確立人類是人機關係主導者的思想，實現對人工智慧的安全有效控制，讓其為人類的和平福祉服務，而不是使人工智慧成為“惡魔的幫兇”。
相關鏈結
無人潛航器
無人潛航器，也可稱為無人水下航行器和無人水下運載器等，是沒有人駕駛、靠遙控或自動控制在水下航行的器具。隨著無人潛航器及相關技術的發展，無人潛航器已經被用於執行掃雷、偵察、情報搜集及海洋探測等任務，在未來海戰中還可作為水下武器平臺、後勤支持平臺等裝備使用。
優勢：與潛艇相比，無人潛航器是無人作戰平臺，因此可以大大降低戰爭的傷亡；體形小，加上其他隱身高科技的應用使其隱身性能高於潛艇；多功能，多用途。
局限：續航性差限制無人潛航器使用範圍；所用鋰電池存在易著火等技術缺陷；目前導航功能尚需完善。
可以預見，在不久的將來，水下無人潛航器必將在未來戰爭中發揮巨大作用，並將改變未來海洋作戰的具體模式。
戰鬥機器人
軍用戰鬥機器人作為戰場上的一支新興力量，是配合人類士兵作戰的角色。按照軍用機器人作戰領域不同主要分為水下軍用機器人、地面軍用機器人、空中軍用機器人和空間軍用機器人等。
優勢：戰鬥機器人在執行低烈度作戰和危險任務時可以大大減輕人類士兵的負擔和傷亡。此外，其還具有較高智慧、全方位作戰能力、較強戰場生存能力、絕對服從命令等優勢。
局限：戰鬥機器人不具備複雜條件下的作戰能力；如今戰鬥機器人的智慧化和環境適應能力還未達到單獨作戰程度，很大程度依賴于人類士兵的操作和指揮。
從長遠來看，隨著智慧化牽引機械化和資訊化向更高水準、更高層次發展，戰鬥機器人發展潛力巨大，其智慧化程度將更高、武器平臺將更複雜、環境適應和生存能力也將更強，能夠參與的戰爭模式也將多種多樣。
無人機蜂群
無人機蜂群由若干配備多種任務載荷的低成本小型無人機組成，它們參照蜜蜂等昆蟲的集體行動模式，在人類指揮或監管下共同完成特定作戰任務。
優勢：作戰時無人機蜂群可專業化分工，因此能執行多種任務；每架無人機功能相對單一，可大幅降低研發和採購成本；無人機蜂群可增加戰場感測器和攻擊武器數量，使軍隊在局部戰場擁有空中裝備數量優勢；大量無人機可癱瘓敵人防空雷達，消耗敵人有限數量的高成本防空彈藥。
局限：由於無人機蜂群對協同和自主的要求更高，需要建立管理大規模蜂群的全新指揮控制模式，因此面臨攻克協同作戰演算法、集群個體間通信、遠端指揮控制等關鍵技術的挑戰。
未來，無人機蜂群將牽引未來空中作戰裝備呈現出機體廉價化、平臺自主化、載荷小型化等特點，可能對未來航空裝備體系的發展思路產生變革性影響。
【智能戰爭時代，誰來開火？】
來源：《軍事文摘》-張敏
科幻電影《終結者》中，原本作為軍方作戰網路的“天網”在強人工智慧推動下逐漸具備了自我意識，因而演變成未來世界機器人的領袖，帶領著掌握“開火權”的機器人肆意殘害人類。場景雖然科幻，但也表現出人們對於智慧化戰爭時代，對擁有高度智慧的無人作戰系統的深切擔憂。
人與武器的關係是軍事領域亙古不變的重要話題。隨著被譽為“人類智慧最後堡壘”的圍棋領域被人工智慧攻破，有理由相信人工智慧技術及無人自主作戰平臺將成為新型顛覆性作戰樣式，以戰鬥機器人為代表的人工智慧無人武器系統或將主宰未來戰場。美國早在其《21世紀戰略技術》中就直言：“20世紀的核心武器是坦克，21世紀的核心武器是無人系統。”然而，如果賦予智慧無人作戰系統“生殺大權”，甚至實施完全是機器人士兵的“機器代理人戰爭”，擁有高度智慧的無人作戰系統或將把《終結者》等電影中的場景變為現實。除禁止使用“攻擊性自主武器”外，避免無人作戰系統擁有“開火權”，或將成為智慧戰爭時代人類可行的“救贖”方式。
人工智慧叩開智慧化戰爭之門
早在2011年，白俄羅斯就曾推出過一款無人駕駛遙控武器平臺，這種擁有履帶系統的無人作戰平臺，可在遙控指令控制下使用配備的機槍和榴彈發射器攻擊800米距離內的目標。當然，這並不是目前惟一一款可“開火”的無人作戰平臺：美國海軍陸戰隊正在測試的模組化先進武裝機器人系統，可借助人工智慧控制持槍機器人；俄羅斯戰略導彈部隊研製的狼-2式移動機器人系統，可在5千米範圍內通過無線電頻道控制，能在時速35千米的情況下使用武器精確擊中目標；以色列研製的多戈武裝作戰機器人，自帶格洛克26型9毫米口徑手槍；還有諸如美國海軍陸戰隊角鬥士作戰機器人、以色列守護者無人駕駛戰車等，類似的攻擊型無人作戰平臺近年來不斷湧現。
目前，人工智慧已經被作為戰爭史上的“第三次戰爭革命”，正加速叩開未來智慧化戰爭的大門。曾幾何時，火藥的出現是“第一次戰爭革命”，槍支與火炮等“熱兵器”的實用化對軍隊組成結構和作戰方式產生了顛覆性變革；“第二次戰爭革命”伴隨著熱核武器實用化而來，意味著戰爭已經達到以破壞整個國家為前提的戰略對峙，戰爭方式再次發生巨大變化。人工智慧的出現同樣具備從根本上改變戰爭方式的潛力，未來戰爭或將演變成“機器VS人”乃至“機器殺人”的“機器人代理戰爭”。
本來，人們對於人工智慧無人作戰裝備的需求合情合理。戰爭不可避免會引發流血、傷殘與死亡，無人作戰系統由於“平臺無人”，既能打仗，又不存在人員傷亡，因而適用于執行各類高危險和高烈度戰爭任務，甚至可以完全取代士兵去衝鋒陷陣。因此，近年來無人作戰系統愈發得到各軍事大國研究投入，各類無人作戰系統的數量與規模也是越來越大。
在當前軍事鬥爭需求的刺激下，無人作戰系統正向著陸海空天等多維度快速拓展，任務領域也已覆蓋到包括電子干擾、偵察預警、通信中繼、排雷排爆和火力打擊等傳統有人作戰領域，尤其是其精確化、智慧化水準的不斷提升，已經成為各軍事大國武器裝備發展的重點方向。畢竟，目前公開亮相的人工智慧系統只是基於神經網路的深度學習弱人工智慧，即將到來的強人工智慧或將加速走向未來戰場，在智慧化感知與資訊處理、智慧化指揮控制輔助決策、無人軍用平臺及軍用機器人、人體體能技能及智慧輔助系統等領域發揮重要作用，推動著智慧化戰爭時代的加速到來。
智慧型武器正面臨諸多風險挑戰
未來戰爭，隨著人工智慧越來越多走上戰場，戰爭形態將從資訊化戰爭向著智慧化戰爭加速推進。但人工智慧機器人“大兵”真的在戰場上衝鋒陷陣之時，可別高興得太早，這些高度智慧化武器也會對人類帶來諸多風險挑戰。
2005年的伊拉克戰場上，美軍的劍戰鬥機器人就曾無故將槍口指向指揮官；2015年7月，美國一台“發瘋”的機器人也曾“失手”將一名裝配工人殺死，俄羅斯也出現了機器人莫名“越獄”的故事。可以說，在複雜戰場環境下，擁有高度智慧的無人作戰系統極有可能出現識別錯誤、通信降級甚至被敵電磁、網路攻擊後“倒戈反擊”等問題，而諸如濫殺無辜、系統失控等更是給智慧型武器的軍事應用帶來了無窮隱憂。
其實，人們對於智慧型武器系統的擔憂，從命名伊始就初見端倪。機器人的英文名為“Robot”，最早是由捷克作家卡雷爾·恰佩克在科幻作品中首創，其原意就是“農奴式被強迫的勞動者”，並借此稱呼那些造反的機器僕人。1991年出版的《無人戰爭—未來戰場上的機器人》，也對軍用機器人使用後的倫理問題提出了嚴肅的思考。未來的智慧化戰爭，戰場上的絕大多數作戰任務都將交由戰鬥機器人來完成，一旦人類授予了智慧型武器“開火權”，這群毫無感情、不知疲倦殺人的機器走上戰場，會不會濫殺無辜，會不會出現失控，甚至會不會調轉槍口成為“人類終結者”，都是我們必須思考的問題。
一方面，誰能為智慧型武器的“濫殺無辜”來買單。隨著相關技術的不斷發展，人工智慧在某些領域超越人類已是不爭的事實，完全脫離人類控制而實現自主攻擊或將成為人工智慧在未來戰爭中的終極作戰形式。但人工智慧武器的智慧化一旦超過一定程度，極有可能出現自作主張甚至濫殺無辜的行為。另一方面，智慧型武器的戰場失控程度難以估計。理論上講，武器的智慧化程度越高，其內部電腦控制軟體的規模就越龐大且複雜，出現故障的概率也就相應的越高。早在2005年，美國空軍的一架戰鬥機突然自動向地面重要設施發射了一枚導彈，事故原因是飛機的火控系統電腦出了故障。
事實上，智慧型武器在戰場複雜電磁環境下也會因干擾而失控。同時，戰場上的敵我識別對智慧型武器而言同樣並非易事，伊拉克戰爭期間美軍的導彈系統就曾把己方飛機擊落，原因就在於無法準確判斷而產生的戰場失控。
“戰爭回路”絕不能離開人這一主體
事實上，包括著名物理學家斯蒂芬·霍金在內的多名科學界知名人士及專家都曾多次呼籲全球禁止使用“自主攻擊性武器”。本來，人類對武器的發明也應當有一條不能觸碰的底線，就是武器不能威脅到整個人類的生存。戰爭技術與人工智慧的深度融合，不可避免將成為未來戰爭發展之路，但人工智慧帶給人類的究竟是威脅還是發展，關鍵在於如何利用。最關鍵的一點，就是人必須作為“戰爭回路”的主體存在，必須牢牢掌握未來智慧戰爭的“開火權”。
正是由於擔心諸如電影《終結者》中人類被完全排斥在“戰爭回路”之外而束手無策，目前在研製智慧無人作戰系統時，為防止因其失效而導致的意外事故，普遍要求指揮或操作人員可進行適當程度的干預以及必要時的啟動或解除系統功能。韓國三星公司研製的SGR-A1型武裝機器人，旨在為韓國哨兵提供作戰支援，儘管研發人員賦予了該機器人做出開火決策的能力，但這種自主開火權只有在特定的突發狀況下才會被啟動，也就是說“開火權”依舊掌握在人類手中。英國空軍研製的雷神智能無人飛行器可攜帶武器攻擊任何一個地方的目標，儘管該型無人機上裝備有可識別危險目標的機載電腦，但目前主要採用地面人員控制工作模式，發起攻擊要求時必須通過地面人員授予其武器開火權。
此外，我們還可以在人工智慧作戰平臺中提前“動手腳”。一方面，可以通過代碼控制智慧型武器的“思維”。一方面，可以在智慧型武器出廠啟用之前，提前設置“後門”式自毀模組，可在人類需要情況下實現智慧型武器的徹底死機或自行報廢。同時，由於智慧型武器的控制中樞是電腦，可在編寫智慧型武器控制軟體中就加入相關控制程式。另一方面，智慧型武器的攻擊目標和攻擊方式也應受到明確限制。美國國防部國防安全工作小組就曾討論過如何使“武裝自主系統”摧毀敵方武器而非作戰人員的做法，主要通過修改智慧型武器的設計，使其主要攻擊敵人所用的武器。當然，更為直接的做法就是只能為智慧型武器平臺配備失能武器等非致命性武器。諸如腦控武器、電磁脈衝武器、網路攻擊武器、高功率微波武器等新概念武器或將為智慧型武器平臺的應用提供新的解決思路。
可以說，如果無人作戰系統被賦予“生殺大權”，完全由機器替代人作戰，那麼自主機器人極有可能會有意或無意地傷及人類。只有人始終處於“觀察-判斷-決策-行動”的戰術迴圈過程中，牢牢掌握智慧型武器的“開火權”，使得智慧型武器按照人類預先編程設想作戰，才能避免人工智慧武器產生的一系列倫理問題。
人機協同或成為智慧戰爭“最優解”
其實，無論未來的智慧型武器系統如何高度智慧化，人作為戰爭的主導因素必須不能改變，智慧化戰爭允許改變的只是人與武器裝備的戰場協作方式。未來智慧戰爭，人機協同或將成為戰場運用的“最優解”。一方面，人仍然牢牢掌握戰爭的主導權以及“開火權”，作戰力量編成部署、作戰時機、打擊目標、作戰規模強度以及作戰節奏掌控等都要由人來主導，無人作戰與有人作戰依據各取其長的原則互補增效、聯合行動。另一方面，智慧型武器系統可按照為其設定的作戰程式、交戰規則，享有一定的“自主權”，可獨立完成具體作戰任務，充分發揮自身優勢。
目前，美軍正在進行“有人-無人”的協同作戰試驗，其中較為著名的就是“忠誠僚機”計畫。2017年盛況空前的巴黎航展上，美國克瑞托斯公司高調展出最新研製的XQ-222女戰神和UTAP-22灰鯖鯊兩款無人機，具有高機動性和隱身性，可攜帶攻擊性武器和偵察監視系統，恰恰就是專門為有人戰機設計的無人僚機。“忠誠僚機”計畫最早由美國空軍研究實驗室於2015年提出，說白了就是為現有的第五代戰鬥機找一群忠誠可靠的無人僚機，以大幅度提升美國空軍的有人/無人機協同作戰能力。作為美軍第三次“抵消戰略”重點發展的技術領域之一，“忠誠僚機”計畫有望首先發展出由第四代戰鬥機改進來的無人駕駛僚機，以充分利用第五代戰鬥機的作戰網路節點角色，發揮四代機機動性和火力充足的優勢，組成一個空中作戰“鐵三角”，由無人機在最前面衝鋒陷陣，進而避免己方的飛行員遭受來自對手的致命反擊。2017年4月，“臭鼬工廠”與美國空軍研究實驗室等機構一起成功完成了基於“忠誠僚機”概念的有人/無人機編組演示實驗，實現了無人僚機自主與長機編隊飛行並開展對地打擊，為美軍翹首以盼的新型空中作戰編組打上了一針“興奮劑”。
事實上，法國達索飛機製造公司在2017年3月份也成功實現了神經元無人機與陣風戰鬥機的數百里編隊飛行，為無人僚機的研究發展積攢了技術經驗。此次巴黎航展上，克瑞托斯公司展出的灰鯖鯊無人機目前已處於試飛階段，將在2017年秋季攜帶感測器與有人駕駛飛機組成編隊開展相關試驗，未來或將與F-22和F-35戰機強強聯合，成為美軍前線作戰的有力殺手。此外，日本防衛省早在數年前就提出過無人僚機的構想，一度設想在2040年前後服役無人僚機，用於與日本的下一代戰鬥機F-3一起協同作戰。
“忠誠僚機”計畫堪稱智慧型武器未來人機協同作戰的重要典範。近年來，無人機技術得到快速發展，已成為空中作戰體系的重要力量，以美國為代表的少數空中強國甚至開始了無人機空戰體系的研究，聚焦於分散式空戰系統的概念、架構和技術集成。然而，即便是擁有了極高計算能力的“大腦”，無人機在回應或執行指令時也通常會有2秒鐘的滯後，這在瞬息萬變的空中“角鬥場”中可是萬萬耽誤不得。考慮到人類大腦可以更為迅速地回應無法預料的事態發展，人類飛行員依舊是未來戰場不可或缺的作戰主力。如今，現代空戰模式已經由平臺中心戰加速向網路中心戰轉變，“無人僚機”編隊的出現恰恰是網路中心戰模式的一個聚焦點。一旦有了“無人僚機”，就可以利用無人機隱蔽接敵，實現真正的超視距空戰發射後不管，甚至實現無人機迎頭搶攻、連續交替攻擊和飽和攻擊等“狹路相逢”式的勇者對決，是一種通過有利戰術配置和作戰協同克敵制勝的作戰樣式。尤其是大量“無人僚機”的存在，將進一步保護飛行員安全，即便是對手消滅了僚機但也同時暴露了自己，勢必對未來空中作戰模式產生革命性的影響。
可以預見，隨著未來智慧型武器系統的發展成熟，在有人與無人作戰力量的協同模式上，智慧型武器系統將作為“戰場先鋒”實施偵察監視、障礙排除、火力摧毀等作戰任務，還可進一步實現有人與無人作戰力量的混合編組、協同行動，以少量人力指揮大量智慧型武器系統，或將深刻改寫未來戰爭的作戰樣式。
【人工智慧是否將顛覆戰爭形態？】文--現代軍事
國際海事安全中心2017年9月13日發表了美國海軍分析中心研究分析師馬約利•格林妮撰寫的文章《人工智慧是否將顛覆我們進行戰爭的方式》。文章編譯如下:
在伯克希爾哈撒韋最近的一次股東大會上,沃倫巴•菲特表示人工智慧——機器的自主學習,將對人類社會帶來“巨大的顛覆”。著名的物理學家斯蒂芬•霍金也預測說 , 人類在地球上的壽命將只剩下一百年。他認為隨著人工智慧的發展,機器將不再僅僅是輔助人類的工具,而會在認知性任務的指揮和管控上徹底取代人類。
弗吉尼亞州斯普林菲爾德舉行的年度人類系統研討會上,作者也表達了他的擔心:由於人類越發依賴人工智慧軍事應用來提高作戰能力,人類的決策影響在致命武器的使用中將逐漸弱化,而致命武器的控制使用權限必須始終掌握在人類手中。如何才能使人類在這個迴圈中不被淘汰,是人系統研究在未來需要著重研究的領域。
自組織
在自己的著作《控制論》中,諾伯特•維納可能是首個闡述“機器學習”概念的人。建立在諸如蟻群和鳥群的動物群體行為模型上,他描述了人類自組織的過程,這一過程也可以用於機器,它們可通過適應環境來學習。自組織是整體所具有的一種高等級的屬性 , 這種屬性是組成整體的各個個體所不具備的。系統各部分運行是按照邏輯資訊和全局的秩序進行的,而非需要外部的控制。群體智慧通常用於描述自組織系統的集體行為,是單個個體所不具備的整體性智慧。
集群作戰
軍事研究人員尤為關注群體智慧領域的突破性進展,這類技術突破能夠針對美國航母等作戰平臺發動非對稱的集群作戰。隨著電腦處理速度的提升以及自主增長演算法的發展,軍隊能夠更快速地執行更廣泛的任務,而不需要每一項任務都由人來控制。可以在不需要人類控制所有單獨任務的情況下,更迅速更廣泛的行使功能。
像“捕食者”和“死神”依舊是由人遙控操控的無人機,感測器的探測方向、無人機的作戰區域、導彈攻擊的目標都要由操作人員決定。美國海軍分析中心(CNA) 的研究指出,無人機在阿富汗的造成的平民傷亡是有人駕駛飛機的10倍。基於CAN對國家安全、合法性和平民傷亡的研究,作者在與美國海軍陸戰隊大學出版社聯合出版的書中建議,由於人工智慧持續蓬勃發展,國際人道主義法(IHL)應當重新思考無人機戰爭。
與此同時,中國的戰略學者已經深刻認識到無人和自主化戰爭的趨勢,並且試圖有效利用。解放軍已經將一系列無人飛行器納入其各個軍種的力量結構。解放軍的空軍和海軍也開始引進更先進的多工無人機。顯而易見,中國正在利用人工智慧來加強軍事應用。在最近的一次美國參議院聽證會上,我們也獲悉中國的國防工業已經在一系列尖端的無人系統領域以及集群能力中取得了顯著的進展。同時外太空也被中國視為要獲得未來戰爭勝利而必須拿下的領域。
在人工智慧的輔助下,中國發展已經不再僅僅局限於為作戰、指揮、控制概念的探索奠定技術,而是進入總體應用階段。這些發展對美國軍方產生了重要的影響,這意味著到人工智慧在中國著眼“打贏”的軍事能力構建中佔據主導地位。這種構建遵循的是非對稱戰略,抓手是關鍵性作戰平臺。
人機合編組
人機編組在國家安全事務上越發得到重視,最近由國防部和國土安全部組織的國防無人系統峰會上,很多演講者都明確提出,應該開發能夠與有人系統更好交互的先進無人系統。邁克爾•諾瓦克——N99無人系統理事會的代理主任,提到需要優化人機編組來擴展能力,加強信任。人系統培訓和生物系統理事會的副局長賓度•耐爾以及美國空軍研究實驗室的代表們,紛紛表示需要進一步開發更完善的無人駕駛系統,以便與載人能力和未來系統相結合。
最後還應該注意的是,美國國防高級研究計畫局(DRAPA)最近發佈了題為《集群性進攻戰術》的跨部門公告(BAA),這屬於國美防部抵消戰略的一部分。它著眼於城市環境下有人系統和無人集群系統的協作。這可以確保人的功能不會被未來的研究忽視,即使集群智慧已經可以在沒有任何外界的控制下達成全局性行動秩序。
結 論
隨著我們對人工智慧軍事應用的加劇,這樣的風險也在不斷加劇,即人的決策逐漸被排除在致命武力的使用流程之外。總而言之,人工智慧對人類控制功能的取代毋庸置疑將會重塑人類的社會形態,但是在認知性任務的指揮和控制中,特別在軍事領域,人絕不能被機器所替代。我們需要弄清楚怎樣才能把人保留在這個迴圈中。
文章定位：
