朱玉宸和公司員工等3人以Deepfake軟體、後製合成為性愛片,並製作換臉謎片銷售!小玉只涉2罪「易科罰金了事」

小玉賣變臉謎片!YouTuber圈全傻眼

去年宣布引退的百萬Youtuber小玉(朱玉宸)和笑笑(耶女)因為製作「變臉謎片」不當獲利遭到警方逮捕,受害者高達上百位,其中包括藝人、網紅甚至政客等等,震驚各界,消息曝光後,引發Youtuber界怒火,不少受害者紛紛挺身而出,而被偷臉的女YouTuber魚乾也爆氣直呼「垃圾」,甚至嗆爆那些落井下石的酸民。

據了解,警方是根據Telegram「台灣網紅挖面」群組上的金流上追查,發現該群組帳戶為百萬YouTuber小玉的,警方追查到,小玉和公司員工等3人涉嫌以Deepfake軟體偷臉名人,並製作影片銷售,不法所得至少有500萬元以上,昨上門逮人後,小玉於18日晚間9時50分諭令30萬元交保,全程一句話都沒說。

而在小玉爆出成為「變臉謎片」的背後主使者後,多位女Youtuber受害者紛紛跳出喊話,其中同為百萬YouTuber的魚乾就表示「真的是垃圾!更過分的事那些覺得我長這樣,為什麼還有人要看的,X!髒不髒啊!」;另外也是受害者的雪碧(方祺媛)也說:「小玉太道德淪喪了,用這個賺錢,那些買的人是腦袋壞了嗎?怎麼可能那些女生會拍謎片啊。」

男YouTuber們也看不下去,紛紛在社群更新發表看法,包括聖結石連發99個「垃圾」,並怒嗆「你們這對超級無敵大垃圾」;阿滴也在推特透露「真的不行,真的噁心,身邊太多受害者,怎麼做得出這種事」;這群人的尼克也上傳黑底白字表示「痛恨!完全不尊重女性」等等,小玉的作為自毀前程,也徹底激怒整個YouTuber圈。

換臉謎片票選 老司機最想看的是她

頻道擁有百萬人訂閱的YouTuber小玉(本名朱玉宸),今(18日)傳出主導製作、販售「換臉名人A片」,與搭檔笑笑遭警方逮捕,消息震驚網紅界。據悉,小玉會舉辦票選活動,調查會員買片「口味」,獲得最高票的是話題女王鄭家純(雞排妹)。

去年7月起,數支「名人謎片」在網上流竄,刑事局介入調查後發現,主嫌小玉等人利用AI技術的軟體Deepfake,將各界名人的臉換到AV女優身上,再把影片賣給群組「台灣網紅挖面」的會員,此外,小玉也會先藉由「票選」調查會員意象,再製作假A片販售,而最近1次票選中,人氣最高的就是鄭家純。

截至今年10月止,假謎片受害人包括男女網紅、政界名人、主播,人數超過百人,小玉等人不法獲利高達千萬元以上。針對無端「被」拍A片,鄭家純透過經紀人康姐向《NOWnews今日新聞》表示:「一旦確定是誰要負起責任,一定會提告。」

Deepfake有多可怕?蔡英文也慘中鏢

去年宣布引退的百萬Youtuber小玉(朱玉宸)和笑笑(耶女)因為製作「變臉謎片」不當獲利遭到警方逮捕,受害者高達上百位,其中包括藝人、網紅甚至政客等等,警方調查,小玉和公司員工等3人涉嫌以Deepfake軟體偷臉名人,並製作影片銷售。消息曝光後,也有網友熱議其Deepfake的恐怖程度,透露其實總統蔡英文早就成為受害者之一。

「這種變臉的影片早在國外已經興盛一段時間,只是這次爆出小玉事件才開始被關注」並且透露其實前幾天就有看過總統蔡英文的換臉影片,並且還有人做成動圖瘋傳,不過該則文章發出沒多久後,就立即刪文。

《NOWnews》記者實際追查來源發現,該影片來源出自一個抖音帳號,總統蔡英文的變臉影片,多數是將總統的臉合成到不同女子的身體,進行熱舞或是拍攝簡單影片,雖然不是所謂變臉謎片,但其逼真的程度也讓人看得毛骨悚然,不少網友直呼「真的要修法管制這種新興暴力犯罪」、「真的好可怕,誰發明這種技術==」、「Deepfake真的好母湯」、「已檢舉帳號」。

而針對小玉使用Deepfake變臉謎片牟利,總統蔡英文也在18日晚間發聲表示「會重新盤點法規,研擬推動修法工作。同時呼籲網路平台業者,應該多關心這類新型科技犯罪行為,我們都有責任阻止錯假影像傷害無辜的人,台灣的民主自由面臨許多挑戰,需要所有人來捍衛,請大家一起關注分享,一起遏止科技犯罪」。

小玉50萬元交保 共犯笑笑被釋回

YouTuber小玉被指控藉由製作「換臉謎片」牟利,其中除了知名網紅奎丁、龍龍、和實況主之外,連政治人物黃捷、高嘉瑜、主播張齡予等人也不放過,受害者女性高達上百位。稍早傳出女網紅笑笑也是共犯,且她竟然是被換臉的其中一員,馬上就被警方上銬逮捕,而經過檢方訊後,諭令小玉50萬元交保,諭知笑笑釋回。

據了解,笑笑在警方清查犯罪購片金流時,被發現有將近50多萬元的現金,流入到她帳戶內,而笑笑到案後供稱,該筆錢是小玉託她負責購買生活用品、付房租等,才會轉到她帳戶,因此笑笑才被認定為換臉謎片集團的「總帳房」,遭檢警視為共犯一併逮捕。

事實上,奎丁去年就已經出面控訴Telegram群組裡有人透過AI技術,取用網紅、YouTuber、藝人甚至是政治人物的臉來製作成謎片,在警方成立專案小組追查後,就查出始作俑者就是剛宣布引退、頻道坐擁百萬訂閱的小玉,而時常與他搭檔演出的網紅笑笑,也是其長期合作夥伴,2人目前年齡分別是26和24歲,年紀輕輕就涉嫌非法牟利,引發各界關注。

主播遭換臉 見2截圖驚喊天衣無縫

YouTuber小玉因製作女星「換臉謎片」牟利遭逮捕,經過檢方訊後,諭令小玉50萬元交保,諭知共犯笑笑釋回。該事件的受害女性高達上百位,包括知名網紅奎丁、龍龍,政治人物黃捷、高嘉瑜等,而被同事安慰是「主播界唯一代表」的張齡予,也透過臉書做出回應。

張齡予在臉書上自曝看過謎片中的2張截圖,坦言真的很像:「那個換臉App還真的天衣無縫!」也擔心家人們的看法:「我現在就擔心家人受影響,我們有受過這種(酸民、狂粉騷擾)歷練,但我爸媽看到一定會嚇壞。長輩們可能會覺得是真的,要是透過Line傳出去,他們一定心裡會想,『這主播怎麼這麼淫穢』。」同時呼籲大家不要再轉傳,以免成為共犯。

身為公眾人物,張齡予坦言面對過不少性騷擾,不過根本沒有多餘的時間、心力去一一訴諸司法,如今還無辜淪為換臉謎片女主角,且幕後的主使還是年輕人一度追捧的意見領袖、網紅,讓她備感擔憂:「我們下一代孩子到底接受了怎樣的價值觀?」對於個人名聲恐『有圖有真相』遭到抹黑,還在當事人不知情狀況下持續被毀壞,張齡予不禁直呼:「如果心臟不夠強的人,挺得過去嗎?」

小玉換臉謎片受害者曝!名單全公開

網紅奎丁去年曾經出面指控,遭到Telegram群組裡有人以AI技術,將網紅及名人的臉換到謎片成為女主角,並且公開在群組販售,其被偷臉的話題人物包括最近話題人物脫口秀演員龍龍、網紅蕾拉,甚至連政治人物黃捷、高嘉瑜等等都有,而在警方成立專案小組追查後,發現群組的背後主使者竟然是宣布引退的百萬YouTuber小玉,消息震驚各界。

據了解,警方是根據Telegram「台灣網紅挖面」群組上的金流上追查,發現該群組帳戶為朱玉宸所有,而朱男就是宣布引退的百萬YouTuber小玉,警方估計,小玉和公司員工等3人涉嫌以Deepfake軟體偷臉名人,並製作影片銷售,不法所得至少有500萬元以上。

消息曝光後,震驚各界,就有網友挖出去年奎丁的爆料影片表示「提告小玉的名單都準備好了,根據奎丁去年影片,以及推特預覽影片整理出詳細的肖像權,很多都是受侵害的可憐網紅們」只見影片中,奎丁去年就表示,最近有非常多女性直播主、網紅、YouTuber都被使用Deepfake的技術,將臉移植到謎片上去,我們更應該去注意科技所衍生的「新興性別暴力犯罪」。

奎丁也公開了所謂群組當中有的臉模,名單超級驚人,包括政治人物、女性Youtuber、外國人甚至連一線當紅的女藝人也全部中鏢,名單被挖出來後,不少網友紛紛傻眼表示「到底在幹嘛.....誰會去買這東西」、「傻眼連蔡依林都有」、「S級人物一堆==這真的告不完」、「怎麼連館長都有啊」。(編輯:張嘉哲)

政治人物:高嘉瑜立委、黃捷議員、學姐黃瀞瑩市府副發言人

YouTuber: 笑笑(小玉搭檔)、愛莉莎莎、白癡公主、滴妹、咪妃、球球、千千、本本、許瑜、奎丁、 美麗妄娜、泥泥汝、阿樂、艾瑞絲、蕾菈、這群人木星、鄭茵聲、關關、Skimmy、可凡、 阿民、陸子玄、解婕翎、妙見神小茉(老高老婆)、電獺少女宇恩、金魚腦、晨晨、品子、 閃亮亮、米砂、魚乾、媛媛、盛夏微涼Ryo、安啾咪、那個女生kiki、眾量級家寧、 一隻阿圓 實況主 桃園娜美、貝莉莓、小墨、小熊、小葵、大魚、老王、學長Abby、Leggy、LNG李迅、 Mita、Rami瑞咪、Sandykaka、葉子、阿寧、月希、開水小姐、蝴蝶兒、妮妮子、 凱琪K7、蛋捲、瑀熙、阿寧

外國人: 柏木由紀、新垣結衣、橋本環奈、伊織萌(伊織もえ)、阿部瑪麗亞、吳卓源、 陳芳語、馮提莫、李元玲、鄧紫棋

藝人:鄭家純、峮峮、粿粿、泱泱、溫妮、Albee、張景嵐、鄧福如、柯佳嬿、黑嘉嘉、苗可麗 、唐綺陽、周曉涵、梁凱莉、吳怡霈、蔡瑞雪、蔡依林、瑤瑤黃喬歆、郭書瑤、曾之喬、 陳意涵、許藍方、馬嘉伶、夏語心、李優、虎牙陳伊、梓梓、喬喬兒、鮪魚徐瑋吟、 邵雨薇、林明禎、愷樂蝴蝶姐姐、 網紅青青、龍龍、祈錦钥、林襄、主播張齡予

賣龍龍、高嘉瑜換臉A片 小玉遭逮

頻道擁有百萬人訂閱的YouTuber小玉,去年4月上傳把珍貴母乳加料的影片,引發輿論撻伐,神隱1年後,今年4月,他出席活動時宣布引退,沒想到,今(18日)再傳出消息,竟是因為販售「換臉名人A片」遭警方逮捕。

根據警方調查,26歲小玉(本名朱玉宸)涉嫌使用AI Deepfake軟體,把成人片女主角的臉換成名人,近來引發霸凌爭議的脫口秀演員龍龍、話題女王鄭家純(雞排妹)、知名網紅蕾拉、白癡公主、奎丁,甚至高雄市議員黃捷、民進黨立委高嘉瑜等人都是受害者,而小玉藉此收取的不法所得,據悉至少超過新台幣500萬。

去年10月,網紅奎丁出面控訴被Telegram群組「台灣網紅挖面」換臉變成A片女主角,註冊會員可以直購影片,也可以直接買雲端硬碟,觀看上百支名人換臉的不雅影片,怎料,刑事局成立專案小組介入調查,竟發現該群組的藏鏡人竟是百萬YouTuber小玉。

吹哨人奎丁聽聞小玉被逮,稍早在IG寫下:「如果是這樣也太讓人失望了,我一直很欣賞小玉的影片...只能說當出面的第一個人真的很慘,幸好有被機關正視到,也真的很不希望那個人就是小玉。」龍龍轉發相關新聞,氣憤寫下:「噁爛網紅只能拿我的假A片打手槍,要哪種流量我都給你!」

小玉賣換臉片被逮!網紅親弟曝心聲

前YouTuber小玉(朱玉宸)今(18)日驚傳主導販售名人換臉謎片遭檢警逮捕,受害人將近上百位,也紛紛跳出發聲。而Youtuber「人生肥宅x尊」,在聽聞親哥哥小玉的犯行後,首度在IG上吐露心聲直言「我比你們還震驚」,並向受害者致上歉意。

尊在個人IG上發文提到,「事情發生到現在,其實我比你們還震驚,直到昨天接到警察局的電話,才知道發生了什麼事情。因為他(小玉)對我或是我的家人,都沒提過他在做什麼,所以我到現在還覺得莫名其妙,我也不知道該對他說甚麼了」。

【偷臉藏鏡人小玉】小玉只涉2罪「易科罰金了事」 呂秋遠喊話修法:委員們在幹嘛

上百名網紅及政治人物遭到偷臉、後製合成為性愛片,並在Telegram上流傳販售,警方揪出幕後黑手正是百萬YouTuber「小玉」朱玉宸。呂秋遠今(19)日po文研判,檢方目前只能依散佈猥褻物品罪與妨害名譽罪起訴,「對於小玉而言,可以說是無足輕重,就算不能和解,大概也是易科罰金了事。」他更呼籲立委應盡快修法,「委員們,你們在幹嘛?」

針對小玉涉嫌使用AI深度造假技術(Deepfake)、偷取名人肖像後製合成性愛片牟利,知名律師呂秋遠今於臉書po文指出,想不到小玉透過這樣的方式才持續一年多,會員已累積至少有8,000人,「他也因此得利上千萬元,這才是我覺得訝異的事情」。

呂秋遠強調,這種透過Deepfake技術合成的不雅影片,與一般日本愛情動作片不同,至少愛情動作片被拍攝者知道自己在表演、在做什麼,「以工作來取得報酬,如此而已」;但是被冠上臉譜的這些人,卻是無辜的,檢方目前只能依散佈猥褻物品罪與妨害名譽罪起訴,「對於小玉而言,可以說是無足輕重,就算不能和解,大概也是易科罰金了事」。

呂秋遠呼籲立委可以儘快修法,針對不知情被偷拍,或是當時同意,但是分手時被散佈私密影片的情況,乃至於現在的「換臉」影片等狀況,不能只論妨害秘密罪、散佈猥褻物品罪或妨害名譽罪,「應該制訂新的刑法法條,甚至是全新的網路性暴力防治條例」,讓學校、檢調或法院在處理類似狀況時,不論是事先宣導、預防或加重刑度,都可以有所依據。

最後呂秋遠認為,若網路性暴力、性霸凌竟可以輕輕放下,搭配社會上許多人對於女性的偏見,例如「就是因為她平常的行為不檢點,才讓人家有機會」等論調,「台灣距離性別平等的目標,可能還有很長一段路要走。畢竟,今天我們不發聲,明天事情就會在我們身上發生」。

小玉偷臉做謎片!律師預言最終下場

去年宣布引退的百萬YouTuber小玉(朱玉宸)驚傳涉嫌在Telegram群組「台灣網紅挖面」將許多女性名人換臉成謎片主角,且受害者高達上百人。對此,律師呂秋遠在臉書上針對「數位性暴力」進行解釋,甚至預言小玉最終下場,無奈呼籲「針對這樣的數位性暴力,除了打架,立法院該做些什麼?修法啊!委員們,你們在幹嘛?」

呂秋遠律師於19日在臉書上貼文,表示數位性暴力是一種恐怖的犯罪型態,最基本款就是經過對方同意,拍攝兩人的性愛影片、照片,或是沒經過對方同意,偷拍兩人的私密紀錄。但當兩人分手以後,這些影片、照片就會莫名其妙在網路上流傳。通常男性的臉或特徵會完全遮蔽,僅留下女生可辨認,雖也會有男性受害,但多數情況用來勒索金錢居多,較少真正散佈在網路各大論壇中。

呂秋遠也提問「散佈這些影片的心態是什麼?」他解答當然是為了毀掉這個女人,一開始都說只是要自己欣賞、留存紀念,什麼保存最好的回憶之類等屁話,但最後都變成報復的工具。這對於女生來說是一輩子的夢魘,因為這些影片、照片,原本是基於信任才會同意拍攝,或者是在不知情的情況下被偷拍,現在卻被迫讓許多不認識的人「認識」,刑法上應該怎麼處罰呢?

呂秋遠說明,倘若是在知情的狀況下拍攝,但影片卻被散佈,恐涉犯散佈猥褻物品罪;若是在不知情的狀況下卻被散佈,則涉犯妨害秘密罪與散佈猥褻物品罪。不過呂秋遠坦言,在司法實務上,對於觸犯這兩項罪嫌,鮮少有判決入獄服刑,「一般而言,大概就是易科罰金。至於民事賠償,司法實務上,很少超過50萬元。如果被告沒財產,卻願意賠一點錢,法院還會勸受害人和解,給對方緩刑,免得什麼都拿不到。」

針對小玉事件,呂秋遠感嘆,這樣的行為竟持續一年多,且會員至少有8千人,小玉也因此得利上千萬元,而這點讓他覺得最訝異,忍不住砲轟「曾經看過這些影片的人,也就是你們這八千人,你們不會覺得,把藝人、政治人物或網紅的臉,移植到影片上,藉以滿足自己的性幻想,是一件很難令人原諒的事情嗎?這些行為,已經持續一年多,影片也早就到處流傳,你們這八千人,到底在想什麼?如果是自己的姊妹、母親、女兒的臉譜,被放到這些影片上,自己會作何感想?還能看得這麼理所當然、理直氣壯?」

呂秋遠說,這與觀看日本愛情動作片不同,至少被拍攝者知道自己在表演、知道自己在做什麼,以工作來取得報酬,「但是被冠上臉譜的這些人,他們是無辜的吧?現在檢方只能依法起訴他們散佈猥褻物品罪與妨害名譽罪,對於小玉而言,可以說是無足輕重,就算不能和解,大概也是易科罰金了事。」呂秋遠無奈喊話「針對這樣的數位性暴力,除了打架,立法院該做些什麼?修法啊!委員們,你們在幹嘛?」

最後呂秋遠也沉重表示,若網路性暴力、性霸凌可以輕輕放下,搭配這個社會許多人對於女性的偏見,例如「就是因為她平常的行為不檢點,才讓人家有機會」之類的論調,台灣距離性別平等的目標,可能還有很長一段路要走。

相關議題也在立院質詢時提及,國民黨立委賴士葆在質詢時指出,小玉未來面臨的刑責可能是誹謗跟散播猥褻物等,最後應該是易科罰金或緩刑,罪刑實在太輕,法務部是否會儘速修法?對此,法務部長蔡清祥則回應,依現行法太輕,行政院政務委員羅秉成在性平會上有要求儘速修法,目前已經啟動。目前修正的法案很快就會提出,1個月可送到行政院。

瘋傳小玉被抓「因動到不該動的人」 網看影片秒懂:慘了

百萬Youtuber小玉透過換臉技術,將藝人、網紅的臉合成到成人片女優身上,再製作成謎片販售遭到警方逮捕。今(18日)新北地檢複訊後,小玉以50萬交保;「小玉會被抓,會不會是動到不該動的人。」

網紅奎丁曾出面控訴,自己遭Telegram群組「台灣網紅挖面」換臉變成謎片女主角,受害者包含龍龍、白癡公主、蕾拉還有黃捷、高嘉瑜等人,警方也在第一時間成立專案小組調查,意外發現群組的藏鏡人,就是百萬YouTuber小玉,令他的粉絲相當震驚。

換臉影片在推特上都流傳好一段時間,甚至前幾天還看到,有總統蔡英文的換臉影片,儘管非色情,但也令人注意到換臉軟體的盛行;此文一出,鄉民也紛紛留言「這嚴重了」、「還玩到總統身上去」、「慘了,直接惹到不該惹的」。

直言「提告小玉的名單都準備好了」,原PO根據奎丁的影片及推特預覽影片,整理出完整的受害者名單,怒喊「請這些網紅告死小玉,讓他就算沒坐牢也要賠錢賠到死!」從名單中可以看到,其中不乏藝人及知名YouTuber、實況主,連政治人物及網紅館長都被小玉拿來合成。不過令人詫異的是,連笑笑都出現在名單中,這讓原PO不禁直呼:「連自己搭檔笑笑都不放過,這種人太噁心了吧!」

網友整理完整受害者名單如下:

政治人物:

民進黨立委高嘉瑜、高雄市議員黃捷、北市府副發言人黃瀞瑩

YouTuber:

笑笑(小玉搭檔)、愛莉莎莎、白癡公主、滴妹、咪妃、球球、千千、本本、許瑜、奎丁、美麗妄娜、泥泥汝、阿樂、艾瑞絲、蕾菈、這群人木星、鄭茵聲、關關、Skimmy、可凡、阿民、陸子玄、解婕翎、妙見神小茉(老高老婆)、電獺少女宇恩、金魚腦、晨晨、品子、閃亮亮、米砂、魚乾、媛媛、盛夏微涼Ryo、安啾咪、那個女生kiki、眾量級家寧、一隻阿圓、館長

實況主:

桃園娜美、貝莉莓、小墨、小熊、小葵、大魚、老王、學長Abby、Leggy、LNG李迅、Mita、Rami瑞咪、Sandykaka、葉子、阿寧、月希、開水小姐、蝴蝶兒、妮妮子、凱琪K7、蛋捲、瑀熙、阿寧

藝人

鄭家純、峮峮、粿粿、泱泱、溫妮、Albee、張景嵐、鄧福如、柯佳嬿、黑嘉嘉、苗可麗、唐綺陽、周曉涵、梁凱莉、吳怡霈、蔡瑞雪、蔡依林、黃喬歆、郭書瑤、曾之喬、陳意涵、許藍方、馬嘉伶、夏語心、李優、虎牙陳伊、梓梓、喬喬兒、鮪魚徐瑋吟、邵雨薇、林明禎、愷樂

外國籍藝人:

柏木由紀、新垣結衣、橋本環奈、伊織萌(伊織もえ)、阿部瑪麗亞、吳卓源、陳芳語、馮提莫、李元玲、鄧紫棋

網紅:

青青、龍龍、祈錦钥、林襄、Rita

主播:

張齡予

🍎たったひとつの真実見抜く、見た目は大人、頭脳は子供、その名は名馬鹿ヒカル!🍏

【偷臉藏鏡人小玉】小玉換臉AV賺翻! 「月砸10萬」請他看片警傻眼

網紅「小玉」朱玉宸被爆出使用AI軟體,利用多名女網紅、政治人物的臉換成A片主角,不法獲利超過千萬,昨(18日)遭警方逮捕,最終以30萬元允許小玉交保。而17日小玉同夥等三人也一併遭逮,警方透露小玉去年7月經營群組,花了數萬元從中國購買Deepface軟體「換臉」進行不法牟利,由於生意太好,再招攬莊男加入,而莊男到案後坦承一切,其中最令檢警吃驚的就是莊男的工作,不僅輕鬆且還每月有10萬元的高薪可領。

經檢警調查後透露,小玉去年7月起成立「台灣網紅挖面」推特群組,經營一段時間後更名為「台灣網紅影片合成」,招募網友加入加密通訊軟體Telegram的群組,提供可觀賞影片的雲端連結;入會員為400元,一般付400元可觀看短片,若想看完整版長版影片,必須掏出1900元才可觀看。

根據《CTWANT》報導,由於販售換臉A片生意太好,讓小玉忙不過來,因此找來莊男加入團隊,而莊男的工作內容只須將網友票選出的身材、三圍及膚色,挑選出較類似AV女優的條件當素材即可,最後換臉工作則由小玉進行。莊男遭逮捕後坦承,小玉給出每月10萬元的薪水,叫他幫忙「看A片」即可,工作內容讓檢警相當傻眼。

案經新北地檢署複訊,考量因小玉等人財產及犯罪所得已被查扣,無法交付高額保釋金,檢方決定將小玉、莊男保金降至30萬、5萬,而昨(18日)晚間接近10點,小玉步出北檢,全程低調不發一語。

網路換臉!小心你也是受害者 盧秀燕贊成修法嚴懲

網紅小玉涉嫌去年7月起利用網路換臉技術,將知名人物人頭像,移花接木成性愛影片,百人受害,各界譁然。台中市議員黃守達質詢指出,包含市長,官員、議員,未來都可能成為受害者,台中智慧城市如何預防。盧秀燕說,現有法律確實不足,她支持高嘉瑜立委主張,針對數位性暴力,盡速修法,嚴懲重辦。(寇世菁報導)

台中市議會進行專案報告,民進黨議員黃守達要求市長盧秀燕重視數位性暴力的嚴重性,他說,網紅小玉被拘提到案,被控將多名知名網紅、藝人或政治人物的臉部圖像移植到色情片女優身上,並後製成色情影片販售牟利。這波受害者以女性為主,包含藝人明星、網紅、甚至連市議員都在其中。這也不僅僅是這幾天的事,很多人長期深受其害,卻又求助無門,更害怕站出來會被報復。

黃守達說,包含市長,官員、議員,都極可能在未來成為受害者。因為Deepfake是使用人工智慧深度造假,公開影像越多,AI學習資料量越大,越容易達到仿真效果。可能被用在性侮辱,或拿來作為政治攻擊手段。這次因主嫌帳戶位於台灣,還有機會逮人,以後類似犯罪都有可能再進化,受害者可能只能自認倒楣。黃守達指出,製作、散布這類型的影片,可能觸犯誹謗罪或散播猥褻物品罪,但罪責不重,阻嚇效果不足。目前對數位性暴力,缺乏完善法規處罰,總統已經聲明要重新盤點法規,研擬推動修法工作。追問市長,台中作為智慧城市,盧秀燕市長作為女性首長,如何展現預防與杜絕數位性暴力犯罪的決心。

市長盧秀燕表示,現有法律確實不足,她支持高嘉瑜立委主張,針對數位性暴力,盡速修法,嚴懲重辦。此外台中轄內如果網路發現,警察法治機關會強力介入,移送法辦,絕不能小看縱容,一定要嚴罰送辦。

黃守達說,Deepfake人工智慧深度造假軟體衍生的犯罪問題越趨嚴重,要求市府各局處應加強宣導,積極查辦相關犯罪,嚇阻數位性暴力的氾濫,包括社會局、教育局等相關局處也應重視受害者的心理輔導作業。

販賣散佈「變臉謎片」刑罰太輕 法務部:1個月內提出修法

百萬網紅小玉涉嫌利用「Deepfake(深偽)」人工智慧技術偷換人臉製作不雅影片牟利,國民黨立委賴士葆今(19)日在立法院質詢時指出,這麼惡劣的行為,依照現行法律只能判處3到4到月,實在太輕,要求法務部修法,法務部長蔡清祥承諾,在1個月內提出修法。

立法院今日邀請行政院長蘇貞昌報告總預算案並備詢,賴士葆在質詢中指出,小玉透過科技犯下這麼惡劣的行為,現在卻只能依照散佈猥褻物品罪、妨害名譽罪判處3到4個月,且易科罰金,實在太輕。

蔡清祥則表示,現行法律處罰確實太輕,而政委羅秉成日前在主持性平委員會時,已經說明要儘速修法,法務部也啟動修法,1個月內就可以提出法案。蘇貞昌也答覆,利用科技犯罪,現在有罰,但刑罰太輕,應該加重。

網紅小玉偷臉製謎片牟利 蘇貞昌籲國人勿購買

百萬網紅小玉涉嫌利用「Deepfake(深偽)」人工智慧技術偷換人臉製作不雅影片牟利,震驚社會。總統蔡英文昨晚在臉書表示,政府將重新盤點法規,研擬推動修法工作。對此,行政院長蘇貞昌今(19日)赴立院備詢前受訪表示,科技進步但有人藉此犯罪,政府對於任何人不肖行為都必須依法制裁,法律有不足地方應盡快因應科技加以補足,並呼籲國人同胞不要轉傳、購買或使用,減少不肖之徒的獲利。

知名網紅小玉涉嫌去年7月起利用網路換臉技術,將知名人物雞排妹、高嘉瑜等人頭像移花接木成性愛影片,百人受害,不法所得逾新台幣上千萬元。

蔡英文昨在臉書表示,「針對換臉色情犯罪等多種類型的網路性別暴力,我們會重新盤點法規,研擬推動修法工作。同時,我也想呼籲網路平台業者,應該多關心這類新型科技犯罪行為,我們都有責任阻止錯假影像傷害無辜的人。台灣的民主自由面臨許多挑戰,需要所有人來捍衛,請大家一起關注分享,一起遏止科技犯罪。」

蘇貞昌今受訪也說,科技進步但有人藉此犯罪,政府對於任何人不肖行為都必須依法制裁,法律有不足地方應盡快因應科技進步後加以補足。同時呼籲國人同胞不要轉傳、購買或使用,減少不肖之徒的獲利。

談及日本台灣交流協會首席副代表日前直言,台灣加入CPTPP恐過於樂觀,以及日本首相岸田文雄日前考察福島核電站後對記者表示,福島核廢水排海計畫至關重要,不能推遲。對此,蘇貞昌說,台灣是以外貿為主的國家,任何有助於國人對外貿有助的事、組織,政府都會極力來爭取、促成,同時對於國人健康、產業安全、國家安全我們也會嚴格把關。

換臉謎片震驚全台 總統震怒要修法:有一天恐傷害到你我

百萬YouTuber「小玉」涉嫌販賣「變臉」後的不雅合成影片遭逮捕,今(18)日下午經檢方訊後,諭知50萬元交保。由於籌款拿不出50萬元,檢方考量他財產及犯罪所得基本上已進行查扣,無法交付高額保釋金,晚間改為30萬元交保。該事件包括明星、網紅、政治人物約上百人都慘淪為不雅片主角,震驚社會。對此,總統蔡英文今晚在臉書發聲譴責。

警方調查發現,小玉經營的換臉謎片「台灣網紅挖面」群組,以AI Deepfake(換臉)技術,將明星或網紅臉部圖像移植至不雅片上販售,不法獲利高達上千萬元。網友整理受害者名單高達百人,舉凡藝人雞排妹(鄭家純)蔡瑞雪、蔡依林、郭書瑤、網紅含奎丁、龍龍、白癡公主、蕾菈,而政治人物中,議員黃捷、立委高嘉瑜也都淪為謎片女主角。

蔡英文今晚在臉書發文指出,有人涉嫌利用科技軟體,製作換臉不雅影片在網路上牟利,造成許多人受害,使用的就是這種科技。她認為,科技的運用,是為了創造人類更好的生活,而非用來傷害他人。「這些受害者,可能是你我關心的對象,也可能是你我的親友,我們不能坐視這樣的事情發生。」

此外,蔡英文說,台灣也一直面臨假影片、假訊息的威脅,這些都是利用科技造假、威脅民主制度的挑戰。尤其疫情期間,我們看到大量假訊息的流傳,試圖擾亂人心、影響防疫工作。直言,「這些假訊息和影片有一天都可能傷害到你我」。

蔡英文表示,從幾年前開始,政府就積極展開作為,強化科技犯罪防制工作。除了各單位在社群網路上,對於假訊息進行即時澄清,調查局也成立 資安工作站,進一步提升政府打擊各類網路犯罪的能力。

針對換臉色情犯罪等多種類型的網路性別暴力,蔡英文強調,「我們會重新盤點法規,研擬推動修法工作」。同時也想呼籲網路平台業者,應該多關心這類新型科技犯罪行為,「我們都有責任阻止錯假影像傷害無辜的人。」她認為,台灣的民主自由面臨許多挑戰,需要所有人來捍衛,請大家一起關注分享,一起遏止科技犯罪。

換臉韓國瑜喊「網紅胸大」片外流 小玉買軟體金額驚曝光

百萬YouTuber「小玉」昨(17)日涉嫌販賣「變臉」後的不雅合成影片遭逮捕,今(18)日下午經檢方訊後,諭知50萬元交保。由於明星、網紅、政治人物都淪為不雅片女主角受害者高達上百人,引社會譁然。對此,有網友挖出,事實上去(2020)年小玉早就自爆花錢購買「Deepfake」換臉軟體,且高雄前市長韓國瑜也是「換臉」受害者。

警方調查發現,小玉透過AI Deepfake(換臉)技術,將明星或網紅臉部圖像移植至不雅片後進行販售,不法獲利高達上千萬元。淪為謎片受害者名單公開,包括高雄市議員黃捷、立委高嘉瑜,網紅名單則包括含奎丁、龍龍、白癡公主、蕾菈等。

有網友挖出小玉其實在去年愚人節早就使用換臉技術惡搞過韓國瑜,影片中,他透露,自己在中國大陸通訊軟體的QQ群中,僅花150元人民幣(約652元新台幣)購買一個名為「Deepfake」的換臉軟體,「只花30分鐘和一個配音員,我可以讓韓國瑜講出任何我想要他講的話」。

從這部「換臉」影片中可見,穿著招牌藍襯衫的韓國瑜指控,小玉這個人就是專門拍爛片,「可憐哪!」痛批他是垃圾、裝瘋賣傻,但網紅笑笑「胸部很大,我很喜歡」,直指小玉的影片「帶壞小孩」。小玉解釋,自己會拍這影片只是想呼籲大家重視假新聞議題,要民眾好好思考每一個新聞是否為媒體操作。

網友紛紛留言表示,「每個被他借臉的去告他,他賠不完」、「名單上每個人都告他求償就倒賠了」、「他那麼缺錢嗎?幹嘛老是走險棋」、「就敢試吧,只是有勇無謀總是一場空」。

另有網友去朝聖韓國瑜該部影片驚呼,「原來你這麼久以前就做好哏了,果然大哥還是大哥」、「原來這個就是在為今天鋪路啊」、「小玉的技術果然是一流的」、「一年後把這項技術發揚光大」、「 一年前就留下伏筆了」。

自己成「換臉」謎片主角 高嘉瑜喊修法:遏止數位性暴力

「換臉」成謎片主角一直時有所聞,受好者從網紅到政治人物都有,今(18)日警方逮捕幕後主謀,竟是百萬YouTuber小玉,引起社會譁然。據傳,民進黨立委高嘉瑜也成為其中一位「主角」,她也馬上對外發表聲明,目前針對類似事件的國內相關法制不足,「未來將推動修法,遏止無法可管的數位性暴力」。

高嘉瑜稍早於臉書發文表示,這樣的行為已經對女性名譽造成無可抹滅的侵害,她認為最可怕的就是,不管影片是否為真,很多人會認為是真的,「無論如何,沒人能接受未經自己同意的換臉影片在網路上流傳」。高嘉瑜認為,這樣的「AI換臉」影片是一種變相散播假訊息的行為,不過綜觀我國現行針對假訊息管制的法規,卻只針對災害、食品、傳染病等假訊息才有特別規範,對於「AI換臉」造假的影片,目前仍然「無法可管」。

高嘉瑜指出,以個人資料保護法的層面而言,由於現行遭到「AI換臉」的受害者多為公眾人物,照片等資料取得相對容易,臉部圖像若為合法公開或自行公開,自然也不會在個資法的保護範疇,「說來說去,最後有可能成立的,也只剩下刑法上的妨害名譽罪了」。高嘉瑜認為,網路危害所產生的侵害具有持續性,甚至可能跟隨被害人一輩子。妨害名譽罪立法之初,並未考量網路性暴力對被害人造成的深遠尹醒,因此刑度屬於相對輕微。高嘉瑜表示「如今繼續用就條文來處理新的犯罪現象,顯然有罪則不相當的疑慮」。

高嘉瑜同時表示,對於濫用AI技術換臉的管控,國際間多著眼於「AI技術倫理」的確立及將其列為「假訊息」予以管制,她以歐盟為例指出,他們所建立的「AI倫理指引」中,就包括影像的使用是否經過當事人同意、使用目的是否符合倫理性、是否落實資料保護措施等,一旦有違反上開規範等情形,行政單位就會即時介入並配合網路平台開罰違規用戶。

高嘉瑜也以美國法律為例,美國不僅要求所有經過AI換臉技術處裡的影像,皆必須以浮水印標明影像經過竄改、以文字明示影像經過改動並簡述改動程度。美國更直接將濫用「AI換臉」技術散播不實影像的行為納入刑罰規範。若使用AI換臉技術卻有「意圖以性行為與裸體等類似特徵,侮辱或騷擾特定人者」,可處高達5年有期徒刑及行政罰鍰15萬美金,同時也應負民事上的侵權損害賠償責任。

高嘉瑜表示自己會致力於推動我國「AI換臉」管制的相關法令,她同時提出5個關鍵:建立獨立的網路影像真實性查核單位、提高網路平台對於用戶發布內容之監督責任、將「AI換臉」之濫用視為獨立犯罪行為,並明文規範其刑事、民事與行政責任、於技術層面上,開發相關人工智慧工具以因應之,例如,美國新創公司Deeptrace已開始著手研發深度偽造辨識技術,以辨識影片之真偽。

上百偷臉謎片流出! 龍龍、黃捷「慘淪女主角」氣炸反擊

百萬YouTuber「小玉」今(2021)年4月無預警引退,怎料今(18)日卻爆出是換臉謎片「台灣網紅挖面」群組的幕後黑手,受害者高達上百人,其中脫口秀演員龍龍、高雄市議員黃捷都淪為受害者,兩人聞訊後氣炸發聲。

警方調查發現,小玉以AI Deepfake(換臉)技術,將明星或網紅臉部圖像移植至不雅片並將謎片販售,不法獲利高達上千萬元。受害者名單包括網紅含奎丁、龍龍、白癡公主、蕾菈,政治人物中,議員黃捷、立委高嘉瑜都淪為謎片女主角。

龍龍在臉書上砲轟小玉,原本想嗆「智X假帳號」只能拿她的哏圖DIY,沒想到是「噁爛網紅」只能拿她的假不雅片DIY。「要哪種流量我都給你,但我偏向握壽司,至少蠻好笑的。」

而同樣也是受害者的黃捷也在臉書氣炸回應,先前她受媒體專訪,發現有人用Deepfake技術,偷女性公眾人物的臉,再合成到不雅片上牟利,不法所得千萬元以上。經警政署刑事警察局的佈線追查,今日終於找到幕後首腦居然是百萬訂閱的Yuotuber小玉。

黃捷指出,小玉擁有百萬粉絲,很多學生、年輕族群都是他的忠實觀眾,想不到他竟然做出如此低劣行為。她認為,現在的網路使用太方便,這種新型態的性犯罪實在防不勝防,也讓女性朋友深陷恐懼,因為不知道何時自己的臉突然會變成不雅片女主角,加上科技能做到的逼真程度非常高,直呼「真的很變態!」

黃捷說,她在此嚴正譴責,女性權益絕不容許如此被踐踏,但同時她也擔憂會產生模仿效應,家中若有年齡層更低的孩童,也請爸爸媽媽都要留意他們對於網路隱私權的認識。她痛批,「這是違法、不道德的行為,不要以為隔著鍵盤就可以濫用女性照片作性犯罪用途!」

文末,黃捷透露,自己除了要求警政單位嚴加查辦外,她也會走法律程序提告,為所有受害女性討回公道。並藉此呼籲,「無論是和我一樣被惡意合成,或私密影像遭外流,請讓我陪著妳勇敢,一起把狼抓出來。這款惡意又下流的性犯罪者,一定要獲得應有的懲罰!不希望再有下一個受害者!」

🍎たったひとつの真実見抜く、見た目は大人、頭脳は子供、その名は名馬鹿ヒカル!🍏

用AI判別Deepfake造假的影片可行嗎?臉書:目前辨識成功率僅6成

臺灣一位知名網紅YouTuber,因用Deepfake變臉軟體製作名人不雅影片來販售牟利,遭到警方逮補,而引發熱議,連總統蔡英文都高度關注,在臉書公開回應將研擬修法,來防止這類新型科技犯罪行為再發生。

Deepfake是一種AI影像合成技術,透過深度學習將影片、照片中人物進行換臉處理。過去幾年,在不少影劇、娛樂,甚至一些重要政治場合,都能看到使用Deepfake偽造名人或政治人物的跡象,因為換過的人臉幾可亂真,有時連民眾自己都難以分辨真假。

面對AI造假影片的手法,微軟、臉書等大型科技公司,過去兩年開始有一些反制作法,針對AI反變臉偵測進行研究,還舉行AI造假影片辨真大賽找解方。不過直到,準確度最高只認得8成。另外有科學家想出辦法,以眼角膜上的光線反射圖像來提高AI變臉偵測的準確度,雖然辨識度有高達9成以上,但使用上仍受到不少限制。

近日一場Arm DevSummit 2021高峰會上,臉書AI基礎架構研究負責人李憲信也透露,目前臉書在Deepfake造假影片辨識研究的進展。李憲信也是臉書AI研究部門一員,帶領研究團隊專注AI與ML系統研究。

由於近幾年,在臉書上分享Deepfake造假內容,有逐漸增加的跡象,所以臉書自去年開始手規範及封鎖Deepfake內容,甚至2年前也開始嘗試結合AI技術,還舉辦挑戰賽,希望能改進這類AI假影片的辨識演算法,但李憲信坦言,目前辨識成功率約在60%左右,距離真正可用還有段距離。

不只用AI造假影片,臉書上還有不少濫用AI的例子,李憲信也舉例,一些獨裁政府,會利用臉書平臺來打壓反對聲音,並會引入political bots政治機器人大軍,運用像自然語言處理這類AI技術,自動回應一些文章,自動攻擊反對的聲音,這樣的情況,也有出現在如臺灣等民主國家,甚至一些國家獨裁者更拿它來統制人民,或用來打擊反對黨,這是我們在臉書上觀察到的現象。

遇到這類有違AI道德倫理的問題,臉書也以AI做為反制方法,以相對的AI技術移除這些機器人假帳號。不過,李憲信表示,臉書每天需要刪除這類的假帳號數量,超過數百萬戶,現階段用AI來處理,還是有其限制,需要人工介入。他也坦言,這是非常困難的問題。

除了要用AI辨識影片真假,他也提到,臉書目前正在投入的一些AI研究項目,像是讓AI具備有內容理解能力,能夠根據文意脈絡判斷出,這是否一個違反道德倫理的行為,例如圖文不符帶有攻擊他人的內容,進而將它移除。

🍎たったひとつの真実見抜く、見た目は大人、頭脳は子供、その名は名馬鹿ヒカル!🍏

遏止AI換臉危機!新偵測技術研發 可辨識影片真偽

網紅小玉以AI換臉技術,在情色片中換上知名演員、藝人、網紅及政治人物的臉部,遭到警方逮捕,引來各界撻伐,就連立委高嘉瑜也受害,甚至對小玉提出刑事妨害名譽及妨害風化並附帶民事求償,希望遏止AI換臉歪風。但除了靠警方在網路巡查外,現在國內一個新創團隊也研發出一款新的偵測技術,可效辨識影片真偽。

其實Deepfake的功能,除了能協助重建逝世演員、藝人及藝術家的樣貌,如鄧麗君、梅艷芳、超現實主義藝術家薩爾瓦多.達利等,使其可擬真重返舞台或美術館,讓民眾能懷念其風采;只不過隨著技術日漸成熟,反被有心人士利用從事非法換臉行為,在一般人不知情的狀況下,置換他人臉部,導致大眾對於Deepfake產生恐懼。

台北市立委高嘉瑜與高雄市議員黃捷也跳出來強調,這不只是數位性暴力,更會對受害者造成永久的身心傷害,嚴重恐導致國安危機,呼籲相關單位儘速修法,並立即遏止影片傳播。但除了呼籲政府修法討論外,國內一個新創的AuthMe團隊,則從科技的AI技術,去防禦Deepfake攻擊,從源頭開始驗證影片、照片中的用戶為真人且為本人,若影像經過偽造,也能有效驗證出是否為Deepfake合成變造,降低政府、企業及民眾被身分詐騙的風險。

對於AI換臉是否有法可解,新創團隊AuthMe指出,Deepfake技術不斷演進,自2017開始好萊塢女星被移花接木、2018年美國選戰都曾受過影響,雖然隨著詐欺技術的精進,Deepfake的取得越來越容易,防範也更加困難,但透過「被動活體偵測技術」,除了可立即辨識螢幕對面是否為真人,Deepfake偵測技術,也可有效識別影片中的人臉是否為真。

根據了解,這個新偵測技術的研發團隊AuthMe為LINE Bank合作夥伴,也是金管會指導之第一屆監理黑客松競賽的冠軍,目前這偵測技術泛用於金融產業的客戶身分認證程序(e-KYC),但若能與相關的通訊軟體、社群服務及防詐欺單位合作,向大眾開放服務,便可望在社群流出可疑影片前,先行偵測、攔截假影片的傳輸,並有效辨識影片真偽,幫助數位環境更安全。

🍎たったひとつの真実見抜く、見た目は大人、頭脳は子供、その名は名馬鹿ヒカル!🍏

涉製換臉謎片案首開準備庭 小玉認罪願和解

網紅「小玉」朱玉宸等人涉製換臉謎片案今天首開準備庭,朱玉宸等人當庭認罪,願和119名被害者和解,法官裁定6月9日開庭審理,將傳喚雞排妹、高嘉瑜、黃捷等所有被害人。

朱玉宸與莊姓男子利用人工智慧與合成軟體,合成119名被害人臉部圖像,製作猥褻與色情影片並散播,涉犯妨害風化、個資法、加重誹謗等罪,新北地檢署今年3月16日偵結起訴。

新北地方法院今天首度召開準備庭,朱玉宸等人當庭認罪,並同意以簡式審判程序進行。

法官裁定在6月9日下午開審理庭,屆時將傳喚包括雞排妹、高嘉瑜、黃捷等人在內共119名被害者,若被害人有意願再另行安排調解。

朱玉宸步出法庭接受媒體聯訪時僅說,「我已經坦承犯行,在這邊向所有被害人致上非常誠摯的歉意,對不起」,接著一鞠躬後便快步離去。

🍎たったひとつの真実見抜く、見た目は大人、頭脳は子供、その名は名馬鹿ヒカル!🍏
Forums  ›  新聞話題  ›  社會