無人機變軍事武器？Google給美軍AI工具引爆員工不滿

科技的演進，尤其隨著人工智慧（AI）技術趨於成熟，人們對於「AI軍備競賽」以及「殺人機器人」都曾感到擔憂，而作為全球領導科技創新之一的佼佼者Google，最近與美國五角大廈(又稱美國國防部)合作，打算提供軍方AI工具來分析無人機影像，不僅許多內部員工對此舉感到憤怒，在全球擁有數十億用戶的Google將科技與軍事結合，自然也引起不少人的擔憂。

提供軍方AI開源工具，分析無人機影像

Netflix知名科幻影集《黑鏡》當中有一集「金屬頭（Metalhead）」，描述一隻金屬機械狗殘忍追殺拾荒者，讓人看見「殺人機器人」的黑暗面。

Google曾在2013年收購替美國軍方開發四足機器人的公司波士頓動力（Boston Dynamics），當時因為Google評估不太可能在近期推出商業產品，加上不願成為軍事武器的承包商，因此在2017年將這家公司賣給日本軟銀（SoftBank），當然最後Google並沒有製造任何軍事機器人，但也卻讓人看見科技大廠與軍方之間突破傳統的微妙性。

不過最近卻傳出，美國軍方打算使用Google的AI開源工具TensorFlow ，來分析無人機所拍攝到的影像。Google發言人表示，他們會提供TensorFlow的API給國防部代號「Maven」的計畫，強調僅會用於分析影像數據，並不會有任何侵入性的使用，但Google沒有透露詳細的合約細節。

美國國防部「Maven」計畫成立於2017年4月，主要目的是「加速國防部與大數據、機器學習技術的結合」，而「Maven」計畫的首要任務，就是幫美國國防部分析大量無人機影像。

Google正在危害自己最大的資產？

此消息一出，部分Google員工對公司向軍方提供涉及無人機監控技術的資源感到相當生氣，甚至認為這項合作引發了對於使用機器學習技術的道德問題。事實上為了確保科技不被濫用，2014年Google收購DeepMind 時，就有設立倫理委員會。

Google的AI技術可以清楚辨別手中拿著書本的學生，以及手中拿著槍械的敵人，這可能演變成軍方決定是否發動攻擊的參考依據；過去Google也曾有跟政府機關合作的經驗，像是提供雲端服務，聲明中Google強調，雙方的合約內容絕對沒有任何不妥。值得注意的是，前Google執行長艾立克·史密特（Eric Schmidt）於2016年3月被任命為國防創新顧問委員會主席，希望協助五角大廈跟上矽谷最新趨勢，將新技術應用在國防領域，他曾說：「在科技業普遍存在一種擔憂，就是科技公司與軍方的合作可能會使用技術來做不正確的事。」

對在全球擁有龐大用戶的Google來說，「用戶信任」絕對是公司最大的資產，不論是手機定位、照片備份、搜尋紀錄，Google掌握了多數人重要的個人資料，這些資料代表無比強大的力量。雖然Google與軍事單位合作不是一件錯事，也是Google本身的自由，不過要如何確保技術不被用於戰爭，甚至是利用軍事力量危害一般用戶權益，這恐怕也是Google需要跟用戶好好解釋的。

無人機變殺人武器，專家示警：AI濫用5年內看得到

上個月20日，春節假期的最後一天，一份名為「人工智慧的惡意使用：預測、預防和減輕」（The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation）報告，在國外媒體傳布開來。

包括牛津、劍橋、史丹佛、耶魯等英美頂尖學府的學者們，以及來自特斯拉(Tesla)執行長 Elon Musk 創辦的 OpenAI、電子前線基金（Electronic Frontier Foundation）、資安公司 Endgame 和美國安全智庫的政策制定者，一共26位 AI 領域專家，聯合發布這份報告。洋洋灑灑近百頁的內容，當中明白闡述，隨著人工智慧的快速發展和使用門檻降低，各種技術可能被有心人士惡意使用，在未來5年內，即會對數位世界、人身安全和政治等領域構成威脅。

無人機變殺人工具，濫用AI後果不堪設想

報告中指出，包括無人機、虛假影音和駭客攻擊，將是有心人士惡意使用人工智慧最普遍的三大途徑。

舉例來說，孤狼式攻擊者只要一台無人機，運用臉部辨識軟體強加訓練後，就可以鎖定特定人物攻擊，把無人機變成殺人工具。而透過機器學習，自動放送的虛假或不雅影音內容，人們很難分辨其真實性，可能被用於政治抹黑，操控公眾輿論。

惡意駭客也可能利用 AlphaGo、各類開源平台上的技術，找出海量數據組成的規則或漏洞，藉此破解密碼，竊取個人機密資料；或是使用 AI 語音合成來模擬目標，移花接木影音和圖片內容等，如日前在網路論壇 Reddit 發生的「換臉」製作假影片事件。

劍橋大學「存在風險研究中心」（Centre for the Study of Existential Risk）專家 Shahar Avin 表示，這些預測並非存在遙遠的未來，而是在未來5年內隨時都有可能發生，該報告進一步示警，隨著 AI 發展成熟，可能被流氓國家、罪犯和恐怖分子利用。

「存在風險研究中心」執行主任 Seán Ó hÉigeartaigh 是這份報告的共同撰寫人之一，他強調，人工智慧將改寫眾多領域的遊戲規則，「我們正身處在一個恐因濫用 AI 而淪陷的世界，這些風險都是真實的，我們必須面對這些問題，盡快做出選擇。」而這份報告就是呼籲全球各政府、機構和相關人士採取行動。

事先設想新技術負面影響，降低AI使用風險

對此，該報告提出四點建議。首先，政策制定者和 AI 專家應共同合作，徹底掌握可能的惡意利用。第二，雖然 AI 帶來很多正面的應用，但它就像一把雙面刃，人工智慧研究員和軟體工程師應預先推敲其被誤用的可能性，在開發階段就設下保護機制。

第三，從歷史經驗中汲取教訓，像是資安、電腦科學等，歸納出新技術帶來的負面影響。第四，積極擴大並拉攏相關產業利益者，以預防和減輕惡意使用 AI 的風險。

報告也提到，AI 正帶來全新的安全漏洞，虛擬與實體皆然，各國政府應盡速制訂相關法律，跟上時代需求。而個別使用者方面，除非已徹底了解 AI 新技術、新產品的風險性，否則不要貿然的傳播或分享。

牛津大學未來人類研究所（Oxford University's Future of Humanity Institute）研究員 Miles Brundage 表示，人工智慧將徹底改寫公民、企業組織和國家所面臨的風險，像是成為駭客犯罪時的訓練工具、介入隱私的管道等，對人類安全帶來顛覆性的影響。但他強調，雖然 AI 潛藏不少負面效應，但考量其帶來的正面助益，發展 AI 仍有其必要性。

EFF指Google高層說謊，聲援員工反對AI軍用化

媒體揭露Google正與美國國防部合作執行Maven計畫，以人工智慧（AI）技術辨識飛行器所拍攝的影片中的物體，這項計畫引發Google員工不滿，即便官方曾聲明，Google僅提供機器學習服務TensorFlow API，且參與的部分並未用於攻擊之用。員工仍無法信服，連署寫信要求Google執行長Pichai Sundararajan即刻停止Maven合作計畫，且訂立明確政策，保證Google未來也不會加入這類計畫。

電子前線基金會（Electronic Frontier Foundation，EFF）表示，目前看起來的情況完全不如Google官方聲明的那樣，員工寄給Pichai Sundararajan的信件暗示，Google不僅只有提供TensorFlow API，還提供公司最先進的機器學習專業，以及工程人員直接協助美國國防部。

而對於Google官方聲明，所參與的影像識別並無用於攻擊之用，EFF引述美國國防部自家的文章以及文件，其影像分析技術被經常性的用於反叛以及反恐任務。這些證據顯示Google所參與的Maven計畫內容，與官方宣稱的完全不同。

EFF表示，如果他們對這些公開文件理解正確，Google的系統會標記無人機拍攝到的物體及人物供軍方審查，並在某些情況，軍方會發射導彈襲擊這些目標。

EFF樂見Google內部對於此專案的辯論以及行動，也對人工智慧的應用提出看法。EFF認為，當社會就人工智慧的非軍事用途的透明度、風險以及問責制度，還未達一定程度的共識時，貿然地在軍事用途上使用，更是危險的行為。

EFF還提到，目前的人工智慧技術仍處在難以控制的階段，而且往往在令人意料之外的情況下失效，當這些失效發生在軍事行動的應用上，所造成的結果將可能使衝突升級或是更大的不穩定。

目前沒有任何人工智慧應用在軍事行動上的安全和道德的公共標準，EFF指出，Google高層不應假設，軍事機構已經充分評估了風險，或是不負責的認為不需考慮責任歸屬問題。

對於人工智慧應用在軍事上的現況，EFF提出4個問題，第一問、是否應該要建立具有約束力的國際組織，來限制人工智慧的軍事用途？EFF表示，或許這件事很困難，或是有其他方式代替，只是現行結構令人不安，以人工智慧用在目標識別上是一個明確的項目，應該制定法律來規範。

第二問、是否有可信的研究過程或是部署，來減緩人工智慧可能導致的安全以及地緣的不穩定問題。第三問、軍事承包機構是否可以保證不將人工智慧應用在自主攻擊性武器？或是確保任何防禦性的自主武器都經過精密設計，能夠避免意外傷害。第四問、是否可以建立獨立的倫理委員會？能以公開透明的方式進行責任監督，並且具備否決計畫的權利。

EFF認為，Maven計畫是這項議題的起點，而Maven計畫的細節並未對外公開，但儘管如此，顯然Google無論是對公司員工或是對社會大眾，都沒有以公開透明的負責態度處理此事。

高層決策越來越不透明？十多位Google員工集體離職，宣示反對Google參與美國軍方計劃

大約3個月前，Google提供人工智慧（AI）科技給美國軍方的消息公眾於世，而現在傳出Google內部許多員工不支持這項決定，甚至有十幾位已經因為這個緣故辭職。

Google的AI以及雲端運算技術目前被運用在美國軍方的實驗性計畫Project Maven，希望能夠運用AI來加速分析無人機拍攝的影像畫面，舉例來說，能自動分析影像中哪些是物體、哪些是人類。

有了Google的技術，美國軍方可望加速自動化武器的開發。

然而，Google企業內部一句知名的標語就是「Don't be evil.（別做惡事。）」當知道Google的科技被運用在軍方，可能涉及危害他人生命的事情時，許多員工都起身反對

群起的反對聲浪

大約有4千名Google員工簽署內部請願書，希望Google立刻取消這項與美國軍方的合約，更要設立相關政策防止未來參與軍方的技術發展。

美國科技員工聯盟也發起請願，希望Google別繼續參與Maven計畫；包含亞馬遜、IBM、微軟等公司，則是簽署了條款，表示拒絕參與美國軍方的技術發展；另外更有90個在AI、道德、電腦科學領域的學者們，公開叫Google停止涉入Maven計畫。

根據外媒Gizmodo報導，Google內部過去3個月，一直不斷討論這個話題，有些人反對，卻也有些人支持。

Google官方於4月時釋出聲明表示，他們幫助美國軍方的技術，是幫助機器自動辨識影像辨識，來節省人力使用，並且幫助救人。而關於Google機器學習技術應用相關的道德政策，他們內部正在擬定中。

「在某個時刻，當我發現我所知道的事實，我發現我沒辦法真心地推薦其他人加入Google。」一位辭職的Google員工表示。

有些辭職員工甚至提到，Google的高層決策變得愈來愈不透明，看起來也對聆聽員工聲音愈來愈沒興趣、不再是過去那個鼓勵員工挑戰決策的公司。

和美軍AI合作引員工反彈 傳Google不玩了

根據媒體報導，谷歌（Google）員工今天得知，Google將退出協助美軍使用人工智慧（AI）分析無人機影片的合作案。

Google與美國國防部的這項合作案，據稱引起Google內部員工反抗。

法新社報導，一封內部請願書呼籲Google拒絕「戰爭業務」，獲得數以千計的員工簽署，有些員工據稱憤而離職，抗議公司與軍方合作。

「紐約時報」與科技新聞網站Gizmodo引述不具名消息人士談話報導，一名Google雲端團隊主管告訴員工，這項引發爭議的合約明年到期後，Google不會尋求延展。

這項合約據稱價值不到1000萬美元（約新台幣2億9831萬元），但據信可能促成Google與美軍達成獲利更可觀的技術合作。Google沒有回覆置評要求。

Google對Maven計畫依舊三緘其口，這項計畫據稱使用機器學習與工程人才，為國防部區分無人機影片中的人員與物體。

張貼於網路的員工請願書寫道：「我們認為Google不應涉及戰爭業務。因此，我們要求取消Maven計畫，懇請Google擬定、公開並執行明確的政策，表明Google與承包商絕對不會建立戰爭科技。」

谷歌公布人工智慧原則 承諾不用於武器

谷歌今天公布一套人工智慧（AI）科技運用原則，強調公司不會將AI用於武器，或者「造成或直接促使人員受傷」的應用上。

法新社報導，谷歌（Google）執行長皮查伊（Sundar Pichai）在部落格公布公司的人工智慧政策，指出谷歌不會把AI應用在武器上，但「我們將繼續和政府及國防部在其他諸多領域合作」，比如網路安全、訓練和搜救行動。

這項AI科技原則公布的時間點，就在內部員工及其他人對谷歌和美國防部的合約表達不滿之後。谷歌上週表示，公司和國防部的合約不會續約。

皮查伊提出公司對於人工智慧，以及可模擬人類行為的先進電腦運算科技的7大原則。

他說，谷歌目前正在利用AI協助處理人類面臨的迫切問題，比如說，野火的預測，疾病的診斷、預防失明，以及協助農民。

皮查伊說：「我們不諱言這類功能強大的科技，在運用上也會引發同樣強烈的質疑。」

他說：「AI的發展和使用將在未來幾年對社會帶來巨大的衝擊。身為AI的領導者，我們肩負撥亂反正的重責大任。」

皮查伊表示，谷歌的AI計畫將打造對「社會有助益」，以及「避免製造或強化不公平偏見」的應用。

皮查伊說，谷歌也將禁止使用任何科技，從事違反國際法和人權的用途。

公司不會將AI用於武器？沒問題！山寨國絕對「會將AI用於武器」！