AI生成|南韩「Deepfake版N号房」震惊全国 2人散布深伪色情片被捕
2024-08-31 19:25
南韩近日爆出「Deepfake版N号房」事件 ,有Telegram群组和频道散布以深伪(Deepfake)技术制成的色情影片,成员多达数十万人。警方近日拘捕2人,当局表示计划要求Telegram和其他平台,更积极协助删除和封锁露骨的深伪色情内容。
相关新闻:
Deepfake欺凌|美国比华利山中学生用AI伪造同学裸照 5涉案学生全退学处分
慈禧「翻生」?|AI生成大跳「科目三」乱真 网民大惊:英叔快收了她
李显龙卖加密货币? 本尊发文辟谣 吁提防AI诈骗
乐坛天后Taylor Swift深伪裸照网上疯传 粉丝抗议
据韩联社报道,针对近来深伪技术犯罪泛滥,首尔警察厅成立集中对应专案小组,本月22日将在Telegram成立聊天群组「友人凌辱房」、制作并散播合成性剥削影像的20多岁男性嫌犯A某逮捕拘提到案,30日移送检方。
A某被指于今年5月至7月,在Telegram开设聊天群组「友人凌辱房」,并从其他参加会员获取女性友人们的脸部照片、年龄等个人资讯,合成279个性剥削影片并广为散播,受害者多达246人。
接收材料帮会员制作深伪片
至于另一名30多岁男性嫌犯B某则已经营成人网站4年,从2020年12月起开始经营,为的是获取赌博网站的广告收益。直到被捕前,他已总共制作并散播2万多部以儿童、青少年为对象的性剥削影像。
B某为了躲避司法机关的追缉和放送通信审议委员会的封锁,竟然购买了85个网域名称,以便随时更换。除了并经营成人网站,他还同时经营另外5个网站以负责宣传。
南韩共同民主党籍国会议员杨富男从警察厅获取相关统计资料,发现2021至2023年每一年深伪技术受害者的人数是逐年递增,且光是未成年受害者就占6成。
南韩政府官员与国会议员日前召开紧急会议,会上同意推动修例,将具散布目的而制作深伪色情影片等罪行的刑罚,从最高判监5年提高至7年。当局将与Telegram的代表开会,推动设立定期协商的热线机制,让平台自主限制非法内容 。执政国民力量党政策委员会主席金相勋表示,Telegram上广泛传播深伪色情内容,但由于伺服器位于南韩境外,国际合作似乎面临挑战。
最新回应