單純從科幻小說(shuō)的角度來(lái)看,軍事機(jī)器人似乎是個(gè)糟糕的主意。從《終結(jié)者》(The Terminator)到《黑客帝國(guó)》(The Matrix),流行文化充滿了強(qiáng)大機(jī)器肆虐橫行的故事,它們總是努力擺脫制造者的控制,擊敗任何試圖阻止它們的力量。早在20世紀(jì)20年代,捷克作家卡雷爾·查佩克(Karel Capek)就在舞臺(tái)劇《羅森的萬(wàn)能機(jī)器人》(Rossum's Universal Robots)中首次提出了機(jī)器人(robot)這個(gè)詞,并預(yù)言人類命運(yùn)將終結(jié)在人工生命之手。
盡管有這些電影發(fā)出警告,但是陸地、空中以及海上機(jī)器人依然不斷從科幻小說(shuō)中涌現(xiàn),成為現(xiàn)代武器庫(kù)的標(biāo)準(zhǔn)部分,現(xiàn)在甚至有人正認(rèn)真討論開(kāi)發(fā)殺手機(jī)器人和無(wú)人機(jī),它們不僅可獨(dú)立思考,甚至還能相互交流。
自從2011年9/11恐怖襲擊發(fā)生以來(lái),美國(guó)軍方已經(jīng)部署了數(shù)以萬(wàn)計(jì)的遙控機(jī)器人。在中東,無(wú)人機(jī)已成為一種常見(jiàn)的作戰(zhàn)武器。無(wú)人駕駛陸地戰(zhàn)車已經(jīng)幫助美國(guó)軍隊(duì)在伊拉克和阿富汗安全地摧毀了大量路邊炸彈。水下無(wú)人機(jī)被用來(lái)收集科學(xué)和偵察數(shù)據(jù),并幫助排除水雷。
其他國(guó)家軍隊(duì)和各種武裝組織也正在開(kāi)發(fā)自己的戰(zhàn)斗機(jī)器人,通過(guò)開(kāi)發(fā)進(jìn)攻性和防御性的機(jī)器人技術(shù),很可能引發(fā)類似冷戰(zhàn)式的軍備競(jìng)賽。支持者認(rèn)為,軍事機(jī)器人會(huì)拯救更多生命,而不是危及生命,比如那些已經(jīng)應(yīng)用到實(shí)踐中的炸彈排爆機(jī)器人。
各國(guó)軍隊(duì)正開(kāi)始著手進(jìn)行整合,包括考慮何時(shí)以及如何將越來(lái)越多的自主機(jī)器人應(yīng)用到各種軍事行動(dòng)中。然而與民用自動(dòng)化卡車、拖拉機(jī)或鏟車相似,他們也面臨安全性和有效性等相同的問(wèn)題。世界各國(guó)領(lǐng)導(dǎo)人也在積極考慮,如果沒(méi)有人類發(fā)出的明確命令,機(jī)器人是否應(yīng)被允許開(kāi)火或啟用其他武器。所以,以完成任務(wù)為使命、類似終結(jié)者的殺人機(jī)器可能不再那樣遙遠(yuǎn)。
美國(guó)軍方的機(jī)器人計(jì)劃同樣令人擔(dān)憂。2001年10月7日,也就是9/11恐怖襲擊發(fā)生1個(gè)月后,機(jī)器人首次證明了它是一種致命武器的價(jià)值。到阿富汗戰(zhàn)爭(zhēng)爆發(fā)時(shí),名為MQ-1的捕食者無(wú)人機(jī)首次發(fā)動(dòng)了致命空襲。這架無(wú)人駕駛飛機(jī)現(xiàn)在已成為華盛頓國(guó)家航空航天博物館的重要象征。
在小布什總統(tǒng)(George W. Bush)使用無(wú)人機(jī)取得初步成功后,捕食者和更大的收割者無(wú)人機(jī)的使用迅速增加。小布什的繼任者巴拉克·奧巴馬(Barack Obama)同樣大力支持使用無(wú)人機(jī),促使其數(shù)量進(jìn)一步擴(kuò)大。外交關(guān)系高級(jí)研究員邁卡·曾科(Micah Zenko)估計(jì),奧巴馬授權(quán)的無(wú)人機(jī)襲擊高達(dá)506次,而布什授權(quán)還不到50次。
批評(píng)人士表示,由數(shù)百或數(shù)千公里以外的操作員遠(yuǎn)程操控?zé)o人機(jī)很難做到萬(wàn)無(wú)一失。婚禮和其他平民集會(huì)遭到意外襲擊事件屢見(jiàn)不鮮,成為無(wú)人機(jī)項(xiàng)目的最大困擾之一。奧巴馬在2013年演講中說(shuō),利用無(wú)人機(jī)對(duì)恐怖分子發(fā)動(dòng)襲擊依然是最佳方案。他說(shuō):“與無(wú)人機(jī)相比,傳統(tǒng)的空軍或?qū)椄粶?zhǔn)確,并有可能造成更多平民傷亡和引發(fā)更多地方憤怒。這些入侵領(lǐng)土行為使我們被視為占領(lǐng)軍隊(duì),會(huì)產(chǎn)生許多意想不到而難以控制的后果,進(jìn)而造成大量平民傷亡,導(dǎo)致暴力沖突加劇。”
2013年,美國(guó)參議員林賽·格雷厄姆(Lindsey Graham)估計(jì),約有4700人在美國(guó)無(wú)人機(jī)襲擊中身亡。他說(shuō):“有時(shí)你會(huì)攻擊到無(wú)辜的人,我討厭這樣,但我們正處于戰(zhàn)爭(zhēng)中,我們已經(jīng)擊斃了許多基地組織高級(jí)成員。”唐納德·特朗普(Donald Trump)在就任總統(tǒng)后的頭幾個(gè)月里,繼續(xù)授權(quán)CIA增加無(wú)人機(jī)襲擊次數(shù)。在去年大選期間,他甚至提倡使用捕食者無(wú)人機(jī)進(jìn)行邊境巡邏。
據(jù)美國(guó)智囊機(jī)構(gòu)New America Foundation估計(jì),美國(guó)面臨裝備無(wú)人機(jī)的敵軍威脅日益加劇,現(xiàn)在已經(jīng)有86個(gè)國(guó)家擁有某種無(wú)人機(jī),其中包括19個(gè)已經(jīng)擁有或正在獲得武裝無(wú)人機(jī)技術(shù)的國(guó)家。該基金會(huì)報(bào)告說(shuō):“2011年研究發(fā)現(xiàn),世界各國(guó)政府、公司和研究機(jī)構(gòu)共有約680個(gè)活躍的無(wú)人機(jī)開(kāi)發(fā)項(xiàng)目,而六年前只有195個(gè)。”恐怖組織也在關(guān)注這項(xiàng)空中技術(shù):IS使用商業(yè)和定制無(wú)人機(jī)進(jìn)行監(jiān)視,最近甚至還向伊拉克部隊(duì)投放炸彈。
在伊拉克和阿富汗,路邊炸彈和簡(jiǎn)易爆炸裝置已經(jīng)造成數(shù)以千計(jì)的美軍士兵傷殘或者死亡,無(wú)人地面車輛可以幫助拆除它們,地面機(jī)器人已經(jīng)展示出拯救生命的巨大潛力。New America Foundation戰(zhàn)略專家、《連線戰(zhàn)爭(zhēng):機(jī)器人革命和21世紀(jì)沖突》(Wired for War: The Robotics Revolution and Conflict in the 21st Centur)的作者彼得·辛格(Peter Singer)2009年寫道,部署在伊拉克的軍用地面機(jī)器人數(shù)量2004年末大約為150個(gè),4年后已經(jīng)增加到大約12000個(gè)。
美國(guó)軍方發(fā)言人多弗·施瓦茨(Dov Schwartz)承認(rèn):“多達(dá)1000輛無(wú)人地面車輛已在伊拉克和阿富汗被炸毀,但它們挽救了無(wú)數(shù)生命。”早在2002年初,類似坦克的便攜式遙控汽車PackBots就被部署在阿富汗,幫助搜尋布滿陷阱的洞穴和隱藏的敵人。當(dāng)時(shí),這些機(jī)器由麻省理工學(xué)院分拆的公司iRobot制造,以Roomba和Braava等自動(dòng)地板清洗機(jī)為基礎(chǔ)。該公司的軍事部門去年剝離出來(lái),組建了總部位于馬薩諸塞州的Endeavor Robotics公司。
PackBot被證明在前線部隊(duì)中很受歡迎。一位陸軍上校在2003年稱,與損失士兵相比,更換機(jī)器人顯然更劃算。iRobot公司推出了新的模型,可以拆除拆除炸彈和應(yīng)對(duì)伏擊,也能用于偵察和處理炸彈。Endeavor Robotics首席執(zhí)行官肖恩·比拉特(Sean Bielat)表示:“在與客戶和最終用戶的協(xié)調(diào)中,我們?cè)诓粩鄬W(xué)習(xí)。因?yàn)榕c我們的遐想相比,他們總是知道自己更需要什么。我們總是需要這樣的迭代過(guò)程:把設(shè)備交給他們,他們提供反饋,然后我們進(jìn)行重新設(shè)計(jì),最終幫助他們完成任務(wù)。”
2005年,PackBot成為環(huán)納斯達(dá)克交易所首個(gè)開(kāi)市敲鐘的機(jī)器人,預(yù)示著iRobot公司7200萬(wàn)美元的IPO活動(dòng)開(kāi)市。到2012年,iRobot公司宣布已經(jīng)向國(guó)防機(jī)構(gòu)和警察機(jī)構(gòu)售出超過(guò)5000個(gè)機(jī)器人,包括能夠攜帶68公斤負(fù)重的超級(jí)戰(zhàn)士PackBot、重量?jī)H2.3公斤的FirstLook。其中,F(xiàn)irstLook屬于通常被稱為“異類”的機(jī)器人,因?yàn)樗鼈兛梢员蝗拥胶茈y看到的地方,或者從車上滾下去,甚至被扔到建筑物里面檢查潛在威脅。
專為軍方和執(zhí)法機(jī)構(gòu)提供各種設(shè)備的ReconRobotics公司首席執(zhí)行官兼總裁馬克·特雷納(Mack Traynor)表示:“軍隊(duì)將使用機(jī)器人偵察道路、下涵洞,以及進(jìn)入狹窄的地方。曾有海軍陸戰(zhàn)隊(duì)上士告訴我,當(dāng)他被外派執(zhí)行任務(wù)的時(shí)候,負(fù)責(zé)連隊(duì)里最大的家伙。他要做的,就是把它盡量扔到遠(yuǎn)處。”
同樣,美國(guó)海軍始終在使用機(jī)器人定位水雷。2003年,被稱為遠(yuǎn)程環(huán)境監(jiān)控單元(REMUS)的魚(yú)雷形無(wú)人潛艇第一次被用于在伊拉克港口城市烏姆蓋斯?fàn)?Umm Qasr)周圍尋找水雷。這些裝置幫助水手在水面下發(fā)現(xiàn)了幾十個(gè)可疑物體。
作為偵察工具,這些機(jī)器人過(guò)去幾十年已被證明非常有價(jià)值,包括1985年幫助找到泰坦尼克號(hào)的殘骸。它們還被用來(lái)尋找沉船和失事飛機(jī)的“黑匣子”。1999年,美國(guó)海軍水下無(wú)人機(jī)Deep Drone在楠塔基特附近成功找到發(fā)生空難的埃及航班飛行數(shù)據(jù)記錄儀。
但到目前為止,反水雷無(wú)人機(jī)大多辜負(fù)了人們的期望。所謂的遙控獵雷系統(tǒng)(Remote Minehunting System,簡(jiǎn)稱RMS)去年被正式取消,因?yàn)榇饲皡⒆h院武裝部隊(duì)委員會(huì)主席約翰·麥凱恩(John McCain)發(fā)表了一份措辭嚴(yán)厲的報(bào)告,稱該系統(tǒng)斥資7.06億美元、歷時(shí)開(kāi)發(fā)16年,卻依然沒(méi)有提供任何幫助。麥凱恩寫道:“簡(jiǎn)單地說(shuō),雖然RMS的總體支出只比原計(jì)劃略高一點(diǎn),但它只產(chǎn)出了半數(shù)系統(tǒng),這意味著超過(guò)了單位成本的兩倍,并要花兩倍的時(shí)間來(lái)解決這個(gè)問(wèn)題。而且,它也不起作用。”
存在爭(zhēng)議的地方在于,海軍始終在使用訓(xùn)練有素的海豚和海獅尋找水雷。官員們稱,一旦證明有機(jī)器能夠勝任這些工作,他們計(jì)劃執(zhí)行淘汰海洋哺乳動(dòng)物的計(jì)劃。2016年11月份,美國(guó)國(guó)防部總檢查官辦公室警告說(shuō),這個(gè)計(jì)劃中的機(jī)器名叫Knifefish,可部署在淺水區(qū),與海軍中新開(kāi)發(fā)的瀕海戰(zhàn)斗艦協(xié)同作戰(zhàn)??墒牵鼈兛赡軣o(wú)法在2017年使用。Knifefish是美國(guó)海軍淘汰海豚等動(dòng)物計(jì)劃的重要組成部分。
軍事機(jī)器人的革命還有很多需要改進(jìn)的地方。隨著美國(guó)五角大樓從快速的戰(zhàn)時(shí)收購(gòu)轉(zhuǎn)變?yōu)殚L(zhǎng)期的機(jī)器人項(xiàng)目,它面臨著許多挑戰(zhàn)。這些挑戰(zhàn)與普通科技項(xiàng)目差不多,而非像科幻小說(shuō)中描述的那樣恐怖。比如,它需要確保來(lái)自不同廠商的設(shè)備能夠很好地兼容,還要弄清楚哪些新工具能讓操作變得更安全、更高效。
2013年發(fā)布的25年路線圖強(qiáng)調(diào),確保未來(lái)機(jī)器人能夠共享數(shù)據(jù)并相互協(xié)作非常重要。該計(jì)劃要求機(jī)器人使用標(biāo)準(zhǔn)化接口,以便機(jī)器人可以使用其他廠商的傳感器以及工具等附加硬件,就像來(lái)自不同制造商的計(jì)算機(jī)可以與相同的USB設(shè)備進(jìn)行通信那樣。報(bào)告中警告稱:“升級(jí)現(xiàn)有的專有零部件可能是昂貴的,在后勤上也是不可行的,因?yàn)檎麄€(gè)平臺(tái)可能都需要更換。這種封閉的發(fā)展方式導(dǎo)致許多不利的特點(diǎn),阻礙了進(jìn)步技術(shù)的應(yīng)用和新能力的采用。”
施瓦茨透露,美國(guó)陸軍去年啟動(dòng)了兩個(gè)標(biāo)準(zhǔn)模塊化機(jī)器人平臺(tái)的采購(gòu)流程,初步計(jì)算需要采購(gòu)大約4400臺(tái)設(shè)備。他們的目標(biāo)是最終能夠從不同的供應(yīng)商那里購(gòu)買到能夠兼容的硬件,如輻射傳感器和機(jī)器人手臂,而不必更換車身,只需保持零部件更新即可。
這種做法至少得到了部分承包商的贊賞,這將使他們能夠把精力集中在專門的知識(shí)領(lǐng)域上。諾斯洛普-格魯曼公司地面部隊(duì)和防護(hù)系統(tǒng)主管林肯·哈德遜(Lincoln Hudson)說(shuō):“作為機(jī)動(dòng)性提供商,我們可以真正專注于那些使特定平臺(tái)能夠去做其他事情的東西,而不必跟上最新技術(shù)的發(fā)展,比如說(shuō)攝像頭。”
除了互操作性問(wèn)題外,國(guó)防部和國(guó)土安全部等機(jī)構(gòu)也越來(lái)越多地投資于跟蹤和擊落敵方無(wú)人機(jī)的技術(shù),從無(wú)線電干擾、黑客工具再到霰彈以及誘捕網(wǎng)等。專家擔(dān)心無(wú)人機(jī)可被用于對(duì)美國(guó)發(fā)動(dòng)恐怖襲擊。風(fēng)投公司Spectrum 28聯(lián)合創(chuàng)始人兼合伙人肯特·霍(Kent Ho)表示:“很顯然,無(wú)人機(jī)是提供類似生物制劑的完美武器。”
最終,未來(lái)無(wú)人機(jī)技術(shù)可能引發(fā)新一輪的軍備競(jìng)賽,無(wú)人機(jī)開(kāi)發(fā)人員正設(shè)計(jì)可以擊退或躲避敵方無(wú)人機(jī)攻擊的更先進(jìn)機(jī)器。巴德學(xué)院下屬無(wú)人機(jī)研究中心主任丹·蓋廷格(Dan Gettinger)說(shuō),到目前為止,美國(guó)在無(wú)人機(jī)領(lǐng)域還沒(méi)有迫切需求,這在很大程度上是因?yàn)闆](méi)有空中威脅。他說(shuō):“捕食者、收割者以及類似的灰鷹無(wú)人機(jī),它們都不是設(shè)計(jì)用于空對(duì)空戰(zhàn)斗的。”它們正在伊拉克、阿富汗、敘利亞、索馬里和也門上空飛行,那里沒(méi)有空對(duì)空作戰(zhàn)需求或防空威脅。”
與今天的同類機(jī)器人相比,未來(lái)幾代軍事機(jī)器人幾乎肯定會(huì)比它們擁有更大的自主性,但它們是否能做出攸關(guān)人類生死的決定呢?Endeavor Robotics首席執(zhí)行官肖恩·比拉特(Sean Bielat)說(shuō):“我無(wú)法想象這樣的情況,你絕對(duì)不想要能夠自主決定是否傷害人類的機(jī)器人。”
但是其他人正在想象這種可能,同時(shí)拉響警報(bào),包括梵蒂岡。前梵蒂岡駐聯(lián)合國(guó)代表、大主教西爾瓦諾·托馬西(Silvano Tomasi)曾在2015年相關(guān)會(huì)議上稱,這些該裝置有助于加大富國(guó)和窮國(guó)之間的權(quán)力差距。他說(shuō):“我們需要注意的另一個(gè)重要方面是武裝機(jī)器人的魅力和它們所產(chǎn)生的力量感。它們的使用可能會(huì)讓人產(chǎn)生‘無(wú)所不能’感覺(jué),而不再僅僅限于正當(dāng)防衛(wèi)。”
當(dāng)機(jī)器人處于支持角色時(shí),自主的論點(diǎn)達(dá)到最強(qiáng)。當(dāng)時(shí)并在地圖上進(jìn)行標(biāo)注時(shí),地面機(jī)器人可以預(yù)見(jiàn)性地準(zhǔn)備物資和導(dǎo)航通過(guò)困難地形。巴德學(xué)院下屬無(wú)人機(jī)研究中心主任丹·蓋廷格(Dan Gettinger)表示,在理想情況下,它們也足夠可靠,可以與部隊(duì)共同行軍,而不需要部隊(duì)人員專門注意它們。他說(shuō):“如果你想讓機(jī)器人帶著所有裝備,同時(shí)還不希望任何人在任何時(shí)候控制這個(gè)機(jī)器人,這只會(huì)增加額外的復(fù)雜性。”
自動(dòng)船只和潛艇將能夠與其他機(jī)器人進(jìn)行越來(lái)越復(fù)雜的機(jī)動(dòng)和協(xié)調(diào),即使是當(dāng)它們?cè)谂c人類指揮官失去聯(lián)系時(shí)。美國(guó)海軍研究所最近展示的水面艦艇顯示,它們能夠集體攻擊目標(biāo),將來(lái)甚至可以用于港口防御。海軍研究所發(fā)言人大衛(wèi)·薩馬利(David Smalley)稱:“在演示中,無(wú)人艦隊(duì)在大面積的開(kāi)放水域執(zhí)行了巡邏任務(wù)。當(dāng)未知船只駛?cè)朐摰貐^(qū)時(shí),這些無(wú)人船只合作確定哪艘巡邏能夠最快逼近未知船只,并把它歸類為無(wú)害的或可疑的。它們還能與其他船只協(xié)助追蹤未知船只,而其他船則繼續(xù)巡邏該區(qū)域。”
類似的船只也可在危險(xiǎn)區(qū)域巡邏或監(jiān)控更廣闊的海域,在很大程度上,這要比載人船只成本更便宜。美國(guó)海軍研究辦公室項(xiàng)目官羅伯特·布里佐拉拉(Robert Brizzolara)稱:“如果我們能用無(wú)人艇代替載人船只開(kāi)進(jìn)雷區(qū),這將是一個(gè)巨大的優(yōu)勢(shì)。”
海軍無(wú)人系統(tǒng)指揮部發(fā)言人卡拉·英林(Kara Yingling)指出,海軍機(jī)器人,特別是那些在水下操作的機(jī)器人,需要比無(wú)人機(jī)或陸地機(jī)器人有更強(qiáng)的自主性,因?yàn)樗鼈兏菀着c人類操作者失去聯(lián)系。“無(wú)人駕駛潛水艇(UUV)的態(tài)勢(shì)感知需要一定程度的自主能力,這與現(xiàn)有的無(wú)人系統(tǒng)不同。如果有飛行員遠(yuǎn)程操控,無(wú)人機(jī)(UAV)依然給人有人操控的感覺(jué)。而UUV不太可能在水下的通信回路中始終保持與人類的聯(lián)系。”
有些自主空中無(wú)人機(jī)可能會(huì)大群飛行,它們需要比人類給出轉(zhuǎn)彎指示更快的速度,根據(jù)自己所處環(huán)境做出群體決定并改變隊(duì)形。美國(guó)賓夕法尼亞大學(xué)工程學(xué)院院長(zhǎng)、被譽(yù)為空中機(jī)器人之父的維嘉?庫(kù)馬爾(Vijay Kumar)說(shuō):“如果你要我保護(hù)建筑,我可能會(huì)說(shuō),建筑太大了,我要招聘我的朋友。”
在公眾對(duì)“殺手機(jī)器人”橫行或自動(dòng)間諜無(wú)人機(jī)正巡邏城市的恐慌中,美軍和其他國(guó)家軍隊(duì)對(duì)于軍事機(jī)器人的自主程度顯得十分謹(jǐn)慎。Endeavor Robotics公司的比拉特說(shuō):“自主技術(shù)已經(jīng)領(lǐng)先于客戶的需求,我們正在與客戶密切合作,看看執(zhí)行他們?nèi)蝿?wù)最切實(shí)可行的方案。”
部分原因是人們本質(zhì)上不愿引進(jìn)新的、復(fù)雜的、具有潛在危險(xiǎn)的機(jī)器。比拉特表示:“引入的任何自主功能都必須以減少潛在傷害為目標(biāo)。”指揮官們可能會(huì)更傾向于把自我導(dǎo)航的機(jī)器人帶入戰(zhàn)場(chǎng),前提是它們更多地建立在平民生活之上。比拉特說(shuō):“我認(rèn)為,通過(guò)谷歌或者Uber的無(wú)人駕駛汽車,或者特斯拉的自動(dòng)駕駛模式,我們的社會(huì)將會(huì)越來(lái)越習(xí)慣于機(jī)器自主化,進(jìn)而軍事客戶也會(huì)變得更舒適。”
但軍方領(lǐng)導(dǎo)人也對(duì)所謂的“全自主武器”保持警惕:機(jī)器人可以在沒(méi)有人為干預(yù)的情況下選擇目標(biāo)、瞄準(zhǔn)以及射擊。這些設(shè)備也已經(jīng)成為可能,而且不僅僅是在美國(guó)出現(xiàn)。英國(guó)廣播公司2015年報(bào)道稱,韓國(guó)武器制造商已經(jīng)開(kāi)發(fā)出機(jī)槍炮塔,并部署在中東地區(qū)。這些設(shè)備可以向入侵者發(fā)出口頭警告,并發(fā)出明確的人類命令。它的初始版本可能自己決定是否開(kāi)火。但到目前為止,客戶始終堅(jiān)持,這些產(chǎn)品只有經(jīng)人類許可才會(huì)開(kāi)火。
這個(gè)領(lǐng)域的研究人員經(jīng)常將系統(tǒng)分為兩種,第一種是“人在回路中(humans in the loop)”或“人在回路上(humans on the loop)”,前者需要有人類選擇每個(gè)目標(biāo),而后者則有機(jī)器人選擇目標(biāo)并開(kāi)火,但人類擁有要求它停止行動(dòng)的絕對(duì)權(quán)力。第二種是“人在回路外(humans out of the loop)”,人類缺少控制機(jī)器的權(quán)威,也許是因?yàn)闄C(jī)器人超出了通信的有效距離。
到目前為止,當(dāng)涉及到機(jī)器人像人類開(kāi)火的多數(shù)情況下,美國(guó)軍方高級(jí)官員一直試圖保持“人在回路中”狀態(tài)。美國(guó)軍方在3月份公布的戰(zhàn)略文件中說(shuō):“軍隊(duì)力求維持對(duì)所有自主性系統(tǒng)的人為控制,主要通過(guò)確保當(dāng)前和未來(lái)‘人在回路中’的狀態(tài)來(lái)實(shí)現(xiàn)這個(gè)目標(biāo)。”
這符合2012年國(guó)防部長(zhǎng)卡特(Ash Carter)為自主武器制定的規(guī)則??ㄌ叵铝顚?duì)機(jī)器人進(jìn)行嚴(yán)格的測(cè)試,并要堅(jiān)決抵制黑客襲擊。他還特別要求,半自主機(jī)器人不允許選擇新的目標(biāo),即使是在無(wú)法與人類溝通的情況下。有人監(jiān)視的機(jī)器人可以選擇非人類目標(biāo),比如來(lái)襲導(dǎo)彈或者其他機(jī)器人,常識(shí)及時(shí)攔截或發(fā)動(dòng)飽和攻擊。完全自主機(jī)器人只限于對(duì)物質(zhì)目標(biāo)發(fā)動(dòng)“非致命的,非動(dòng)能的”攻擊,如某些形式的電擊。美國(guó)智庫(kù)“新美國(guó)安全中心”下屬未來(lái)戰(zhàn)爭(zhēng)計(jì)劃部主任、高級(jí)研究員保羅·沙雷(Paul Scharre)稱,在實(shí)踐中,可以攻擊類似機(jī)載雷達(dá)干擾器這樣的自動(dòng)化設(shè)備。
至少有19個(gè)國(guó)家和國(guó)際組織,包括人權(quán)觀察組織,呼吁國(guó)際上禁止研發(fā)和部署自主致命機(jī)器人,可能類似于現(xiàn)在對(duì)不可探測(cè)的地雷和致盲激光武器的限制。2012年,多個(gè)非政府組織啟動(dòng)了他們稱之為“禁止殺手機(jī)器人”的運(yùn)動(dòng),聯(lián)合國(guó)也就這個(gè)問(wèn)題舉行了一系列國(guó)際會(huì)議。
俄羅斯總統(tǒng)普京(Vladimir Putin)最近表示,很有興趣推進(jìn)本國(guó)的軍事自主性技術(shù),而俄羅斯對(duì)于是否參加限制機(jī)器人的國(guó)際討論猶豫不決,此類會(huì)談將在今年繼續(xù)進(jìn)行。美國(guó)國(guó)防部的“自主武器五年政策”也計(jì)劃在2017年進(jìn)行重新評(píng)估。這意味著,特朗普和普京很有可能最終決定自主武器系統(tǒng)如何從實(shí)驗(yàn)室轉(zhuǎn)移到戰(zhàn)場(chǎng)上。
人權(quán)觀察組織武器部門的宣傳總監(jiān)、“禁止殺手機(jī)器人”運(yùn)動(dòng)全球協(xié)調(diào)員瑪麗·韋勒姆(Mary Wareham)說(shuō):“有人擔(dān)心人類的生死將由機(jī)器決定,這似乎是大多數(shù)人無(wú)法接受的。” 人權(quán)觀察組織在2012年的報(bào)告中稱,完全自主的致命武裝機(jī)器甚至可能不符合現(xiàn)有國(guó)際法。它們可能不夠聰明,無(wú)法識(shí)別出戰(zhàn)斗人員與平民的區(qū)別。
報(bào)告中舉例稱:一個(gè)受驚的母親可能會(huì)追趕她的兩個(gè)孩子,并大聲要求他們停止在士兵附近玩玩具槍的行為。而人類士兵能識(shí)別出母親的恐懼,并確認(rèn)孩子們?cè)谕嬗螒颍瑥亩J(rèn)識(shí)到他們的意圖是無(wú)害的??墒峭耆灾鞯奈淦骺赡苤豢吹接腥伺苓^(guò)來(lái),還有2人手中持有武器。對(duì)于前者,它會(huì)保持克制,后者可能立刻發(fā)動(dòng)攻擊。
這些自主性武器還可能與國(guó)際法的其他要求相矛盾:這些機(jī)器決定是否發(fā)動(dòng)攻擊完全從軍事利益考慮,而不在乎是否對(duì)平民造成潛在危險(xiǎn),甚至必要時(shí)使用武力。它們也可能缺乏人性約束和同情心,這些都可以約束部隊(duì),以免做出不人道的事情。報(bào)告中警告稱:“沒(méi)有感情的機(jī)器人可能成為專制獨(dú) 裁者打擊異己的工具,而不擔(dān)心自己的軍隊(duì)會(huì)倒戈。”
但是有些專家說(shuō),自主機(jī)器人經(jīng)過(guò)嚴(yán)格的開(kāi)發(fā)和適當(dāng)?shù)臏y(cè)試,可能有助于在高危情況下保護(hù)平民安全。而且它們可能避免犯下人類的錯(cuò)誤,也不會(huì)危及手無(wú)寸鐵的旁觀者。佐治亞州理工學(xué)院下屬計(jì)算機(jī)學(xué)院主管研究和空間規(guī)劃的副院長(zhǎng)、移動(dòng)機(jī)器人實(shí)驗(yàn)室主任羅納德·阿爾金(Ronald Arkin)說(shuō):“它們的行動(dòng)可能比人類更保守,并承擔(dān)更多的風(fēng)險(xiǎn)。它們不會(huì)表現(xiàn)出恐懼、挫折、憤怒或是導(dǎo)致人判斷錯(cuò)誤的情緒。”
阿爾金反對(duì)完全禁止機(jī)器人,盡管他承認(rèn)應(yīng)該對(duì)它們進(jìn)行仔細(xì)監(jiān)管。他說(shuō),這些機(jī)器人不應(yīng)該被部署到戰(zhàn)斗中,直到他們被證明始終堅(jiān)守國(guó)際法,而且比人類軍隊(duì)做得更好。阿爾金還稱:“如果我們徹底禁止這種技術(shù),那么我們也失去了幫助非戰(zhàn)斗人員和減少非戰(zhàn)斗人員傷亡的潛力。”
阿爾金指出,機(jī)器人的開(kāi)發(fā)人員應(yīng)該避開(kāi)編程技術(shù),比如某些機(jī)器學(xué)習(xí)形式,這些技術(shù)可以引導(dǎo)產(chǎn)生人類無(wú)法輕易進(jìn)入的決策過(guò)程。他說(shuō):“如果這些系統(tǒng)將被使用,監(jiān)管是關(guān)鍵。機(jī)器人應(yīng)該以被分級(jí)和控制的方式進(jìn)入戰(zhàn)場(chǎng),而不是急匆匆地胡亂投放。”
將對(duì)機(jī)器人采取什么樣的監(jiān)管形式,很可能在未來(lái)幾年內(nèi)決定。國(guó)防部的政策(正式名稱為國(guó)防部第3000.09號(hào)指令)將在今年被重新審視:如果在11月份其簽署5周年時(shí)不補(bǔ)發(fā)或“重新認(rèn)證”,它的有效期會(huì)自動(dòng)延期五年。目前還不清楚特朗普總統(tǒng)和國(guó)防部長(zhǎng)詹姆斯·馬蒂斯(James Mattis)將如何選擇,五角大樓發(fā)言人拒絕評(píng)論該政策的潛在變化。
但在去年12月份,美軍現(xiàn)任參謀長(zhǎng)史蒂芬·格洛維斯(Steven Groves)曾表示,美國(guó)不太可能支持禁止自主武器,這有利于維持美軍的軍事優(yōu)勢(shì)。他在Heritage Foundation的2015年會(huì)議上說(shuō):“國(guó)會(huì)應(yīng)該資助自主技術(shù)的研究和開(kāi)發(fā),致命自主武器系統(tǒng)提高美國(guó)國(guó)家安全的能力尚未得到充分探索,禁止或暫停此類研究不符合美國(guó)利益。”
然而,格洛維斯提倡簽署國(guó)際協(xié)議,規(guī)定何時(shí)、何地以及如何在戰(zhàn)斗中合法使用自主機(jī)器人。這可以解決許多人的擔(dān)憂,包括擔(dān)心其會(huì)危及平民安全。美國(guó)國(guó)務(wù)院1名官員表示:“美國(guó)正加入《化學(xué)武器公約》,并在討論‘致命自主武器系統(tǒng)中的新興技術(shù)’?,F(xiàn)在還不知道這些專家討論會(huì)取得什么樣的結(jié)果。”普京總統(tǒng)也談到“自主機(jī)器人系統(tǒng)”研究對(duì)俄羅斯的重要性,稱其可能“從根本上改變常規(guī)軍隊(duì)的武器裝備”。