無人機變殺人武器，專家示警：AI濫用5年內看得到

這個月20日，春節假期的最後一天，一份名為報告，在國外媒體傳布開來。

包括牛津、劍橋、史丹佛、耶魯等英美頂尖學府的學者們，以及來自特斯拉(Tesla)執行長Elon Musk創辦的OpenAI、電子前線基金（Electronic Frontier Foundation）、資安公司Endgame和美國安全智庫的政策制定者，一共26位AI領域專家，聯合發布這份報告。洋洋灑灑近百頁的內容，當中明白闡述，隨著人工智慧的快速發展和使用門檻降低，各種技術可能被有心人士惡意使用，在未來5年內，即會對數位世界、人身安全和政治等領域構成威脅。

無人機變殺人工具，濫用AI後果不堪設想

報告中指出，包括無人機、虛假影音和駭客攻擊，將是有心人士惡意使用人工智慧最普遍的三大途徑。

舉例來說，孤狼式攻擊者只要一台無人機，運用臉部辨識軟體強加訓練後，就可以鎖定特定人物攻擊，把無人機變成殺人工具。而透過機器學習，自動放送的虛假或不雅影音內容，人們很難分辨其真實性，可能被用於政治抹黑，操控公眾輿論。

惡意駭客也可能利用AlphaGo、各類開源平台上的技術，找出海量數據組成的規則或漏洞，藉此破解密碼，竊取個人機密資料；或是使用AI語音合成來模擬目標，移花接木影音和圖片內容等，如日前在網路論壇Reddit發生的「換臉」製作假影片事件。

劍橋大學「存在風險研究中心」（Centre for the Study of Existential Risk）專家Shahar Avin表示，這些預測並非存在遙遠的未來，而是在未來5年內隨時都有可能發生，該報告進一步示警，隨著AI發展成熟，可能被流氓國家、罪犯和恐怖分子利用。

「存在風險研究中心」執行主任Seán Ó hÉigeartaigh是這份報告的共同撰寫人之一，他強調，人工智慧將改寫眾多領域的遊戲規則，「我們正身處在一個恐因濫用AI而淪陷的世界，這些風險都是真實的，我們必須面對這些問題，盡快做出選擇。」而這份報告就是呼籲全球各政府、機構和相關人士採取行動。

事先設想新技術負面影響，降低AI使用風險

對此，該報告提出四點建議。首先，政策制定者和AI專家應共同合作，徹底掌握可能的惡意利用。第二，雖然AI帶來很多正面的應用，但它就像一把雙面刃，人工智慧研究員和軟體工程師應預先推敲其被誤用的可能性，在開發階段就設下保護機制。

第三，從歷史經驗中汲取教訓，像是資安、電腦科學等，歸納出新技術帶來的負面影響。第四，積極擴大並拉攏相關產業利益者，以預防和減輕惡意使用AI的風險。

報告也提到，AI正帶來全新的安全漏洞，虛擬與實體皆然，各國政府應盡速制訂相關法律，跟上時代需求。而個別使用者方面，除非已徹底了解AI新技術、新產品的風險性，否則不要貿然的傳播或分享。

牛津大學未來人類研究所（Oxford University's Future of Humanity Institute）研究員Miles Brundage表示，人工智慧將徹底改寫公民、企業組織和國家所面臨的風險，像是成為駭客犯罪時的訓練工具、介入隱私的管道等，對人類安全帶來顛覆性的影響。但他強調，雖然AI潛藏不少負面效應，但考量其帶來的正面助益，發展AI仍有其必要性。

小心壞心AI的三大威脅，尤其無人機艦隊恐成真！AI專家聯名發表惡意AI報告來示警

來自14個不同組織的26名人工智慧（AI）專家於本周發表了長達100頁的《AI的惡意使用：預測、預防與緩解》研究報告，警告各種AI應用可能衍生的犯罪、實體攻擊或政治破壞等負面影響，並提出因應之道。

來自牛津大學、劍橋大學、OpenAI及電子前線基金會（EFF）等組織的專家們一方面認同AI與機器學習技術可造福諸如翻譯、醫學影像分析等應用，同時也可能遭到濫用，隨著AI能力愈來愈強大及普及，除了會擴大既有的威脅之外，也將帶來新的威脅，並有機會改變傳統的威脅型態。

該報告主要研究AI在三大方面的威脅，分別是數位安全、實體安全，以及政治安全。在數位安全上，專家們擔心的是自動化的網路攻擊行動將擴大現有攻擊的規模與效率，亦預期會出現專門開採人為疏失、軟體漏洞與AI系統漏洞的新型態攻擊行動。

也預期AI將能擴大藉由無人機或其它系統所展開的實體攻擊，或是顛覆傳統攻擊的新模式，如造成自駕車撞毀，或是遠端操控數千架無人機以展開攻擊等。

此外，AI還能被用來破壞政治安全，以AI分析大量資料以進行監控，建立有特定目的的宣傳活動或欺騙行為，或者發展出新型態的攻擊，像是進一步分析人類的行為、情緒及信仰以發動攻擊，此一破壞能力除了在極權國家特別明顯之外，也可能破壞民主國家的公共辯論。

為了避免或緩解隨著AI與機器學習技術而來的陰影，專家們建議立法者應與研究人員密切合作，尋求立法上的解決之道，也呼籲AI研究人員及工程師能認真看待相關技術的雙重面向，在預見可能造成的傷害時伸出援手。此外，研究領域應確認解決上述問題的最佳實作方法，並將它們導入至各種AI應用。