和軍用機(jī)器人談一談道德

巴黎高科評(píng)論

不論最終采取怎樣的預(yù)防措施，具有殺傷力的自主機(jī)器仍給世界帶來不安。成立于2009年的非政府組織國際機(jī)器人武器控制委員會(huì)由專門研究機(jī)器人、道德、國際關(guān)系與人權(quán)的專家們組成，這一組織反對(duì)一個(gè)充斥著武裝機(jī)器人的“反烏托邦”世界。委員會(huì)還推出相關(guān)宣傳活動(dòng)，目標(biāo)是防止機(jī)器人軍備競賽的發(fā)生，活動(dòng)已經(jīng)取得了一些進(jìn)展。2013年5月，聯(lián)合國在一份報(bào)告中呼吁，要對(duì)具有致命殺傷性的自主系統(tǒng)施加暫用禁令，直到成員國制定出使用規(guī)則為止。

美國在研究軍用機(jī)器人領(lǐng)域是不二的全球領(lǐng)跑者。研究原因無外乎是為了減少軍事行動(dòng)中的艱苦與危險(xiǎn)。上世紀(jì)九十年代早期人們提出了“干凈戰(zhàn)爭”的理念。除了通過“外科手術(shù)式”的精準(zhǔn)打擊做到盡量減少平民傷亡，或者是更廣義的人身傷害，“干凈戰(zhàn)爭”的理念也反映了公眾不愿讓前線士兵冒著生命危險(xiǎn)沖鋒陷陣，遭受可能來自生理和心理（創(chuàng)傷后精神緊張性障礙）的雙重打擊。在與無視戰(zhàn)爭規(guī)則的非正規(guī)軍交戰(zhàn)時(shí)，囚犯待遇也是十分敏感的問題。

正因如此，過去二十年機(jī)器人在軍事領(lǐng)域與作戰(zhàn)中的地位不斷提升，軍工行業(yè)在研發(fā)機(jī)器人過程中取得了長足進(jìn)步，在一定程度上也導(dǎo)致了民用機(jī)器人的進(jìn)步。

所謂“軍用機(jī)器人”，并非單指嚴(yán)格意義上的機(jī)器人（由算法操作的單一機(jī)器）。軍用機(jī)器人還包括其他可遠(yuǎn)程控制的儀器。每種機(jī)器人都有許多實(shí)地優(yōu)勢(shì)。它們的表現(xiàn)不受天氣環(huán)境（寒冷、雨水、黑暗）的影響；不會(huì)疲憊和分心，也無所畏懼。“受傷”之后簡單將其維修或銷毀即可。

但是，大規(guī)模使用軍用機(jī)器人會(huì)影響人力資源及收入問題。不論是在服役期間或退伍之后，要支付給士兵的開支都不菲。2012年，美國政府撥出1500億美元，用于支付服役和退伍士兵薪酬、社保與醫(yī)療服務(wù)，占當(dāng)年國防預(yù)算的四分之一。軍用機(jī)器人的興起一部分也是因?yàn)闇p支的需求。美國政府目標(biāo)于2015年底先裁軍6萬人，2019年底再縮減6萬人，最終將士兵總數(shù)裁減至42萬。

五角大樓一邊努力減少作戰(zhàn)單元的數(shù)量，一邊還要確保軍隊(duì)的整體效率。2014年初，美國陸軍訓(xùn)練及戰(zhàn)略思想司令部司令Robert　Cole將軍表示，在2030-2040年底，要將旅級(jí)作戰(zhàn)部隊(duì)（美國軍隊(duì)編制中可單獨(dú)作戰(zhàn)的最小單位）從4000人的規(guī)?？s減至3000人。五角大樓最大的技術(shù)實(shí)驗(yàn)室國防高等研究計(jì)劃署宣稱，其目標(biāo)簡單來說就是：發(fā)明機(jī)器人，精簡班組，節(jié)省交通開支。

專才還是通才？

機(jī)器人長久以來就是一種軍用儀器。比如說，要操作戰(zhàn)斗機(jī)，機(jī)載計(jì)算機(jī)就是不可或缺的一部分。在陸地作戰(zhàn)時(shí)，機(jī)器人可以完成無聊、骯臟或者危險(xiǎn)的任務(wù)。有些機(jī)器人具有多棲才能，有些則術(shù)業(yè)有專攻。

在完成拆除簡易爆炸裝置的任務(wù)中，機(jī)器人也起到了不可或缺的作用。這種做法是有其歷史原因的。在伊拉克和阿富汗戰(zhàn)爭中，工程師發(fā)現(xiàn)，37至53磅力每平方英寸的壓力足以引爆簡易爆炸裝置，遠(yuǎn)小于一個(gè)全裝備士兵所載的88磅力每平方英寸壓力。因此，他們發(fā)明了一臺(tái)由一個(gè)簡易機(jī)器人操控的迷你推土機(jī)來進(jìn)行排雷。自此，人們又發(fā)明了各種不同的掃雷機(jī)器人。大多數(shù)的體積都非常?。河煞▏鳨CA機(jī)器人公司生產(chǎn)的Miniroge僅重13磅。緊湊的設(shè)計(jì)允許其深入諸如水管或汽車底部等困難區(qū)域偵測。

美軍目前擁有7000架無人機(jī)與5000個(gè)地面機(jī)器人。其中最復(fù)雜的一款當(dāng)屬iRobot公司生產(chǎn)的Packbot　510型機(jī)器人。該款機(jī)器人能夠在跌倒后起身繼續(xù)作業(yè)、穿越崎嶇地形、修復(fù)損壞的無線電、傳回高清畫面。另外還有一種“機(jī)器騾馬”機(jī)器人，可負(fù)責(zé)馱運(yùn)武器與補(bǔ)給，減少后勤運(yùn)輸?shù)膲毫Α栏叩妊芯坑?jì)劃署也在研發(fā)一種新型的自主機(jī)器人（與之前型號(hào)有所不同），搭載二沖程發(fā)動(dòng)機(jī)與液壓泵。這個(gè)金屬的四足裝置目前仍處模型階段，平地上的運(yùn)行速度可達(dá)到16　英里每小時(shí)。

軍用機(jī)器人的核心理念就是“人造士兵”。其中一個(gè)研究重點(diǎn)就是如何將人和機(jī)器與一個(gè)外骨骼無縫接合——此高科技因電影《鋼鐵俠》一炮走紅。有此技術(shù)，步兵團(tuán)的戰(zhàn)斗速度、實(shí)力與打擊精度都會(huì)大幅提高。于2012年問世的XOS2型機(jī)器人，機(jī)身僅重22磅，卻可讓一名士兵背負(fù)超過200磅的重物！

自主度有多高？

機(jī)會(huì)不言自明，挑戰(zhàn)也不可小覷。對(duì)那些由算法系統(tǒng)而非人類操作的自主機(jī)器而言尤為如此。而要制造各行業(yè)中流水線上操作的機(jī)器人，難度來自于如何讓它們與人類保持同樣高效率以及形體和精神上的獨(dú)立完整。另外，法律上的不確定性或許也無可避免。機(jī)器人的行動(dòng)由程序員、制造商和操作員所決定。一旦發(fā)生事故，三方中的哪方應(yīng)承擔(dān)責(zé)任？

另外，這些半自動(dòng)或遠(yuǎn)程控制的機(jī)器的操作員也是機(jī)器行為的一部分，心理上難免會(huì)受到影響。有證據(jù)顯示，遠(yuǎn)程操作無人機(jī)的技術(shù)人員可能產(chǎn)生的紊亂，是由日常生活與他們所做決定之間的脫節(jié)所致。他們所做的都是數(shù)千英里之外奪人性命的決定。來自華盛頓大學(xué)的茱莉·卡彭特曾進(jìn)行過一項(xiàng)研究，發(fā)現(xiàn)在戰(zhàn)場上，士兵與掃雷機(jī)器人所建立起來的感情遠(yuǎn)超一般用戶和工具之間的關(guān)系。

但是，最大的隱患還是來自于自主機(jī)器本身。人們已經(jīng)開始擔(dān)心如何控制管理機(jī)器人的自主權(quán)。對(duì)于在戰(zhàn)地上沖鋒的軍用機(jī)器人，問題在于能否將做決定開槍射擊的權(quán)力下放到機(jī)器。許多強(qiáng)硬派人士已經(jīng)開始質(zhì)疑，人類究竟是否還能擁有投反對(duì)票的權(quán)力。

準(zhǔn)自動(dòng)機(jī)器人已經(jīng)問世。以色列的哈比無人機(jī)可以自動(dòng)飛入巡邏區(qū)域，偵查周圍是否存在敵軍的雷達(dá)信號(hào)，一旦發(fā)現(xiàn)信號(hào)源，便立即開火摧毀。諸如美國密集陣近程防御武器系統(tǒng)或以色列的“鐵穹”反火箭彈系統(tǒng)會(huì)自動(dòng)延遲發(fā)射導(dǎo)彈，人類根本無法進(jìn)行干預(yù)。三星Techwin所出品的SGR-A1機(jī)器人系統(tǒng)可以替代朝鮮半島邊界紛爭的前線士兵，它可以偵查到人類進(jìn)入設(shè)定區(qū)域的痕跡，并向其索取密碼獲得準(zhǔn)入權(quán)，甚至在經(jīng)過設(shè)置后，它也可以進(jìn)行自動(dòng)射擊。

那么，底線何在？機(jī)器人專家與倫理專家羅恩·阿爾金提出，要讓機(jī)器人具備一套道德準(zhǔn)則——也就是一套體現(xiàn)人為意識(shí)的規(guī)則——將這些規(guī)則直接植入機(jī)器內(nèi)，確保其所作所為完全符合國際人道主義法。

機(jī)器人要道德有何用？

軍用機(jī)器人有能力選擇并摧毀打擊目標(biāo)，因此不能將它們與安全和責(zé)任的概念脫鉤。編程中必須明確，對(duì)于包括“友方”目標(biāo)、平民與休戰(zhàn)狀態(tài)的敵軍等“值得道德考慮”的目標(biāo)需要手下留情。也可以在機(jī)器人中設(shè)置一張對(duì)手清單，在清單范圍內(nèi)，如果能卸去對(duì)方武裝就不要趕盡殺絕。機(jī)器人必須選擇一個(gè)行動(dòng)模式，在不同模式下遵守相應(yīng)的道德規(guī)則。工程師將其稱為“人工道德代理”。不過問題就在于機(jī)器人的靈活性到底有多強(qiáng)。當(dāng)機(jī)器人僅在一定的地理范圍內(nèi)活動(dòng)時(shí)，其行為完全受程序員與設(shè)計(jì)師的控制，他們可以提早預(yù)判各種情況，將相關(guān)應(yīng)對(duì)措施寫入機(jī)器人的程序內(nèi)。這種機(jī)器人屬于在“操作上道德”。

機(jī)器人本身是無需對(duì)自己進(jìn)行道德評(píng)估的，不用判斷行動(dòng)所產(chǎn)生的后果。該類機(jī)器人不需要在毫秒之內(nèi)就要為某個(gè)情況挑選道德規(guī)則，也不會(huì)面臨數(shù)條相抵觸的規(guī)則。

加州州立理工大學(xué)的“道德與新興科學(xué)”組織向美國海軍提交了一份報(bào)告，當(dāng)中寫到，單靠達(dá)到“操作上道德”是遠(yuǎn)遠(yuǎn)不夠的。在復(fù)雜環(huán)境下，機(jī)器人系統(tǒng)可能會(huì)因?yàn)閮?nèi)部過于簡單的結(jié)構(gòu)而在不可預(yù)知環(huán)境的影響下崩潰。研究人員指出，機(jī)器必須內(nèi)置“功能性道德”，它們需要擁有自主能力進(jìn)行道德判斷。但是，該類項(xiàng)目研發(fā)也引發(fā)了不小的難題。該學(xué)術(shù)團(tuán)體著力將最簡單的“道德”規(guī)則——機(jī)器人三定律寫入機(jī)器人程序內(nèi)。機(jī)器人三定律指：1.機(jī)器人不得傷害人類，或因不作為使人類受到傷害；2.除非違背第一法則，機(jī)器人必須服從人類的命令；3.在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。很明顯，機(jī)器本身不清楚什么行為會(huì)傷害人類，因此這些規(guī)則的效力是有限的。

有人提出了另一方案：拋棄康德所謂的“定言命令”，使用所謂“自動(dòng)道德觀”。但是，這一概念放在機(jī)器人的例子當(dāng)中行不通。機(jī)器人既無意志也無意愿，好壞也無從談起。其他研究團(tuán)隊(duì)建議索性放棄將道德植入機(jī)器人軟件的想法，而是要使用“奴隸道德”將軍用機(jī)器人定性為完全服從的機(jī)器。這種看似保險(xiǎn)的做法實(shí)際上會(huì)影響機(jī)器人的工作效率：軍用機(jī)器人的價(jià)值在于其快速的行動(dòng)和反應(yīng)能力。

有些哲學(xué)家提出了另行方案。他們認(rèn)為通過學(xué)習(xí)算法、使用情感探測器和了解社會(huì)機(jī)制能夠幫助提高機(jī)器人的道德感。但是，計(jì)算機(jī)科學(xué)家尚不清楚這一體系能否進(jìn)一步提高機(jī)器人的情商、認(rèn)知水平、道德判斷與意識(shí)。

（馮素雯/譯，本文由《上海交大巴黎高科評(píng)論》提供中文版權(quán)，欲了解更多科技評(píng)論請(qǐng)?jiān)L問www.sp-treview.org）