詐騙集團以AI軟體偽裝成老板聲音指示匯錢

網路釣魚（Phishing）的攻擊管道已逐漸從電子郵件擴大到人工智慧（AI）語音了。華爾街日報於上周報導，有一家英國能源公司的執行長誤以為接到德國總部執行長的電話，而被訛詐了22萬歐元（約24.3萬美元）。

根據報導，詐騙集團是在今年3月利用AI軟體模擬該名德國總公司執行長的聲音，並打電話要求英國子公司的執行長緊急匯款給位於匈牙利的供應商，還說會立即歸還，英國執行長在聽到熟悉的長官聲音之後，不疑有他地匯出了款項。

然而，食髓知味的詐騙集團還想再試第二次，但該名英國執行長因沒收到長官承諾償還的款項，因此拒絕再匯款。不過已然損失了22萬歐元。

以色列的國家網路局在今年7月就曾警告此類新型態的網路攻擊，指出有駭客集團使用AI技術來偽裝成公司的高階主管聲音，並要求屬下匯款。

過去這類的網釣事件通常是透過電子郵件，但隨著AI技術愈來愈成熟，所模仿的聲音愈來愈像，也讓以語音進行詐騙的攻擊開始登場，並衍生出「語音網釣」（Voice Phishing或Vishing）的新名詞，資安專家推測這類的詐騙案件應該會愈來愈頻繁。

AI 語音模仿德國老闆的聲音要求轉帳，成功騙走了 22 萬歐元

有騙子透過 AI 合成的語音，冒充了一家英國能源公司德國母公司的 CEO ，成功欺騙該公司員工進行了大額轉帳，成功騙走了 22 萬歐元。AI 語音真有這麼進步，已經能夠逼真到騙過了人類嗎？

報導指出這家英國能源公司的 CEO ，接到了自稱是德國母公司 CEO 的電話，要求他將一筆 22 萬歐元資金轉帳給一個匈牙利供應商，十萬火急，必須在一個小時之內完成。

這位英國 CEO 開始並沒有意識到有什麼問題，他表示對方操著德國口音，語調也跟德國母公司的 CEO 幾乎一樣，因此他也沒有覺得可疑，就把款項轉了過去。

有意思的是，在收到這筆轉帳之後，騙子還沒有收手，而是再次打來電話，要求英國公司向德國母公司進行一筆匯款來償還一些費用，不過這次的電話號碼卻顯示來自奧地利，英國公司這才開始懷疑，沒有再次轉帳。

這起案件發生在今年 3 月，事後調查發現，這 22 萬歐元並沒有轉到所謂的匈牙利供應商，而是被轉移到了墨西哥等多個國家。

幸運的是，這筆損失並不需要這家英國能源公司承擔，而是全部由該公司所投保的保險公司 Euler Hermes 負責。警方對這起事件進行調查後發現，騙子用了一種 AI 語音合成軟體來模仿德國母公司 CEO 的聲音，但至今仍無法找到幕後的詐騙者。

該保險公司的反詐騙專家 Rüdiger Kirsch 表示，他們以前從未處理過使用人工智慧進行犯罪而造成的索賠案件，這種透過 AI 技術進行詐騙的模式也被稱為 vishing（語音網路釣魚）。

更令人擔憂的是，這起案例很可能不會是個例，隨著這樣的 AI 技術不斷進步，且門檻逐漸降低，類似的 AI 語音詐騙很可能會一發不可收拾。

根據一家開發防範語音詐騙軟體的網路安全公司的調查報告，從 2013 年到 2017 年，語音詐騙的數量成長了 350%，其中每 638 個詐騙電話中就有一個是機器合成的。

實際上我們很多人可能已經接到過 AI 打來的電話，現在已經有利用AI語音打來的廣告電話，這些 AI 電話的對話、語調都和真人十分相近幾乎以假亂真，每個機器一天能打 1000 個電話，效率遠高於人類。

而 DeepFake 技術現在已經發展到可以任意篡改影片和語音，先前史丹佛等幾所學校發表了一項新研究，只要輸入任意文字，就能讓影片中的演講者說出對應的話，還能修改原影片的語句，例如將電視台主持人報導的「蘋果股價收盤於 191.45 美元」的數字改為「182.25 美元」。

儘管這兩個詞的發音和口型完全不同，但幾乎看不出修改痕跡。研究者經過調查發現，59.6% 的受試者認為被修改過的影片是真的，這項技術成功騙過了大部分人的眼睛。

這些 AI 技術不斷發展，逐漸就出現讓每個人可以使用的合成換臉影片，或者模仿別人的聲音，同時也難以避免被不法分子利用，用於實施犯罪。