AI生成|南韓「Deepfake版N號房」震驚全國 2人散布深偽色情片被捕

2024-08-31 19:25

會員可提交影像,要求生成深偽影片。 X
會員可提交影像,要求生成深偽影片。 X

南韓近日爆出「Deepfake版N號房」事件 ,有Telegram群組和頻道散布以深偽(Deepfake)技術製成的色情影片,成員多達數十萬人。警方近日拘捕2人,當局表示計劃要求Telegram和其他平台,更積極協助刪除和封鎖露骨的深偽色情內容。

相關新聞:

Deepfake欺凌|美國比華利山中學生用AI偽造同學裸照 5涉案學生全退學處分
慈禧「翻生」?|AI生成大跳「科目三」亂真 網民大驚:英叔快收了她
李顯龍賣加密貨幣? 本尊發文辟謠 籲提防AI詐騙
樂壇天后Taylor Swift深偽裸照網上瘋傳 粉絲抗議

人工智能(AI)可分析人類五官並生成影像。 路透社
人工智能(AI)可分析人類五官並生成影像。 路透社
南韓通訊標準委員會 (KCSC) 緊急開會商討深偽色情影片泛濫的問題。 路透社
南韓通訊標準委員會 (KCSC) 緊急開會商討深偽色情影片泛濫的問題。 路透社
Telegram上出現以製作深偽技術合成性剝削影片為目的的對話群組。 X
Telegram上出現以製作深偽技術合成性剝削影片為目的的對話群組。 X
有網民舉報探偽影片聊天室,顯示會員可提交影像要求生成深偽影片。 X
有網民舉報探偽影片聊天室,顯示會員可提交影像要求生成深偽影片。 X
有網民舉報探偽影片聊天室,顯示會員可提交影像要求生成深偽影片。 X
有網民舉報探偽影片聊天室,顯示會員可提交影像要求生成深偽影片。 X
有網民舉報探偽影片聊天室,顯示會員可提交影像要求生成深偽影片。 X
有網民舉報探偽影片聊天室,顯示會員可提交影像要求生成深偽影片。 X

據韓聯社報道,針對近來深偽技術犯罪氾濫,首爾警察廳成立集中對應專案小組,本月22日將在Telegram成立聊天群組「友人凌辱房」、製作並散播合成性剝削影像的20多歲男性嫌犯A某逮捕拘提到案,30日移送檢方。

A某被指於今年5月至7月,在Telegram開設聊天群組「友人凌辱房」,並從其他參加會員獲取女性友人們的臉部照片、年齡等個人資訊,合成279個性剝削影片並廣為散播,受害者多達246人。

接收材料幫會員製作深偽片

至於另一名30多歲男性嫌犯B某則已經營成人網站4年,從2020年12月起開始經營,為的是獲取賭博網站的廣告收益。直到被捕前,他已總共製作並散播2萬多部以兒童、青少年為對象的性剝削影像。

B某為了躲避司法機關的追緝和放送通信審議委員會的封鎖,竟然購買了85個網域名稱,以便隨時更換。除了並經營成人網站,他還同時經營另外5個網站以負責宣傳。

2019年韓國爆出「N號房」事件震驚全球。
2019年韓國爆出「N號房」事件震驚全球。
震驚全球的南韓「N號房事件」主謀趙主彬,因罪行惡劣被公開個人資料及長相。 路透社
震驚全球的南韓「N號房事件」主謀趙主彬,因罪行惡劣被公開個人資料及長相。 路透社
南韓再有類似N號房事件,小學教師竟性剝削120兒少拍近1200段影片,還曾性侵少女。 iStock配圖
南韓再有類似N號房事件,小學教師竟性剝削120兒少拍近1200段影片,還曾性侵少女。 iStock配圖
台灣也有「台版N號房」事件,受害人高達上千人。 中時資料照片
台灣也有「台版N號房」事件,受害人高達上千人。 中時資料照片
台中地檢署已偵結「台版N號房」案。 中時
台中地檢署已偵結「台版N號房」案。 中時

南韓共同民主黨籍國會議員楊富男從警察廳獲取相關統計資料,發現2021至2023年每一年深偽技術受害者的人數是逐年遞增,且光是未成年受害者就佔6成。

南韓政府官員與國會議員日前召開緊急會議,會上同意推動修例,將具散佈目的而製作深偽色情影片等罪行的刑罰,從最高判監5年提高至7年。當局將與Telegram的代表開會,推動設立定期協商的熱線機制,讓平台自主限制非法內容 。執政國民力量黨政策委員會主席金相勳表示,Telegram上廣泛傳播深偽色情內容,但由於伺服器位於南韓境外,國際合作似乎面臨挑戰。

關鍵字

最新回應

關鍵字

相關新聞

You are currently at: std.stheadline.com
Skip This Ads
close ad
close ad