英國人工智慧AI公司Eleven Labs音訊工具淪深度偽造幫凶!用來仿製名人的聲音、讓他們說一些種族歧視和恐同字

AI音訊工具淪深度偽造幫凶 鄉民借名人聲音罵髒話

英國人工智慧(AI)公司Eleven Labs的音訊工具被人用來仿製名人的聲音、讓他們說一些種族歧視和恐同字眼後,公司今天表示,正在檢討自身「防護措施」。

法新社報導,Eleven Labs推文稱,公司度過一個「瘋狂週末」,並坦承在公布這款工具的試用版幾天後,就發現「愈來愈多仿製聲音的濫用案例」。

Eleven Labs未提供這些案例的細節,但它表示,網路論壇4chan湧入假借名人聲音來罵種族、性別歧視和恐同字眼的深度偽造(deepfake)之作。

許多貼文都提到Eleven Labs,一些用戶宣稱已被這家公司禁絕,另一些人則提供這款工具的試用版連結。

4chan論壇充斥冒犯他人的笑話而惡名昭彰。被論壇用戶盜用聲音的名人包括「哈利波特」(Harry Potter) 電影的影星們,以及電影導演昆汀塔倫提諾(Quentin Tarantino)、喬治盧卡斯(George Lucas)等人。

Eleven labs號稱自家聲音仿製技術具備潛力,「可革新多種產業的內容製造、表達和互動方式」。

Eleven labs曾製作一段宣傳影片,內容仿製其他名人的聲音來替影星李奧納多狄卡皮歐(Leonardo DiCaprio)配音。

Eleven labs今天推文稱自家技術「絕大多數被用於正向用途」,但仍需要「額外防護措施」,考量中的選項包括手動核對每個仿製要求,或是讓帳戶認證措施變得更嚴格。

🍎たったひとつの真実見抜く、見た目は大人、頭脳は子供、その名は名馬鹿ヒカル!🍏