AI生成｜南韓「Deepfake版N號房」震驚全國 2人散布深偽色情片被捕

南韓近日爆出「Deepfake版N號房」事件 ，有Telegram群組和頻道散布以深偽（Deepfake）技術製成的色情影片，成員多達數十萬人。警方近日拘捕2人，當局表示計劃要求Telegram和其他平台，更積極協助刪除和封鎖露骨的深偽色情內容。

相關新聞：

Deepfake欺凌｜美國比華利山中學生用AI偽造同學裸照 5涉案學生全退學處分
慈禧「翻生」？｜AI生成大跳「科目三」亂真 網民大驚：英叔快收了她
李顯龍賣加密貨幣？ 本尊發文辟謠 籲提防AI詐騙
樂壇天后Taylor Swift深偽裸照網上瘋傳 粉絲抗議

人工智能（AI）可分析人類五官並生成影像。 路透社

南韓通訊標準委員會 (KCSC) 緊急開會商討深偽色情影片泛濫的問題。 路透社

Telegram上出現以製作深偽技術合成性剝削影片為目的的對話群組。 X

有網民舉報探偽影片聊天室，顯示會員可提交影像要求生成深偽影片。 X

有網民舉報探偽影片聊天室，顯示會員可提交影像要求生成深偽影片。 X

有網民舉報探偽影片聊天室，顯示會員可提交影像要求生成深偽影片。 X

據韓聯社報道，針對近來深偽技術犯罪氾濫，首爾警察廳成立集中對應專案小組，本月22日將在Telegram成立聊天群組「友人凌辱房」、製作並散播合成性剝削影像的20多歲男性嫌犯A某逮捕拘提到案，30日移送檢方。

A某被指於今年5月至7月，在Telegram開設聊天群組「友人凌辱房」，並從其他參加會員獲取女性友人們的臉部照片、年齡等個人資訊，合成279個性剝削影片並廣為散播，受害者多達246人。

接收材料幫會員製作深偽片

至於另一名30多歲男性嫌犯B某則已經營成人網站4年，從2020年12月起開始經營，為的是獲取賭博網站的廣告收益。直到被捕前，他已總共製作並散播2萬多部以兒童、青少年為對象的性剝削影像。

B某為了躲避司法機關的追緝和放送通信審議委員會的封鎖，竟然購買了85個網域名稱，以便隨時更換。除了並經營成人網站，他還同時經營另外5個網站以負責宣傳。

2019年韓國爆出「N號房」事件震驚全球。

震驚全球的南韓「N號房事件」主謀趙主彬，因罪行惡劣被公開個人資料及長相。 路透社

南韓再有類似N號房事件，小學教師竟性剝削120兒少拍近1200段影片，還曾性侵少女。 iStock配圖

台灣也有「台版N號房」事件，受害人高達上千人。 中時資料照片

台中地檢署已偵結「台版N號房」案。 中時

南韓共同民主黨籍國會議員楊富男從警察廳獲取相關統計資料，發現2021至2023年每一年深偽技術受害者的人數是逐年遞增，且光是未成年受害者就佔6成。

南韓政府官員與國會議員日前召開緊急會議，會上同意推動修例，將具散佈目的而製作深偽色情影片等罪行的刑罰，從最高判監5年提高至7年。當局將與Telegram的代表開會，推動設立定期協商的熱線機制，讓平台自主限制非法內容 。執政國民力量黨政策委員會主席金相勳表示，Telegram上廣泛傳播深偽色情內容，但由於伺服器位於南韓境外，國際合作似乎面臨挑戰。