星岛申诉王 | 直击网上兜售AI犯罪技术 实测黑心IT公司换脸穿崩位
2023-07-18 08:00
「人工智能」(AI) 已经成为科技新趋势,但不幸的是同时遭到骗徒利用,作为网络诈骗工具。香港警方今年已经接获相关案件,事主都是因为被AI技术暪骗或遭勒索。《星岛申诉王》发现,有人在网上公然兜售AI换脸技术,还表示可用作不法用途。
科技公司提供AI犯罪技术
记者在社交网站联络一间马来西亚IT公司,对方宣称可以提供精品级AI换脸技术,除了适用于拍摄视频和直播外,亦适用于「网恋钓鱼」及「黑色产业」等网络犯罪。
【黑心IT服务收费大公开】:
![《星岛申诉王》发现,有马来西亚的IT公司,在网上公然兜售AI换脸技术,还表示可用作不法用途。](https://image.hkhl.hk/f/1024p0/0x0/100/none/fd728a51af06f7b9d1f765e4ef074775/2023-07/1_5_18.jpg)
![记者联络IT公司在Telegram开设的群组,发现对方收取虚拟货币「泰达币」(USDT)作报酬。实时AI换脸软件,年费索价3千美元(折合约港币2万3千元)。](https://image.hkhl.hk/f/1024p0/0x0/100/none/14c5ff6ab01baea59c912d3147c15d8a/2023-07/2_3_24.jpg)
![IT公司扬言可以提供精品级AI换脸技术,有二次开发,非坊间劣质技术可比。](https://image.hkhl.hk/f/1024p0/0x0/100/none/e5ec967adc1741a14e9329be17ec866b/2023-07/3_1_33.jpg)
![对方宣称付款后即可享有优质换脸服务,连成龙及迪丽热巴等名人明星的脸容,也能模仿。](https://image.hkhl.hk/f/1024p0/0x0/100/none/51b16522b46978d33067ac57f7e4f679/2023-07/4_3_3.jpg)
![对方宣称付款后即可享有优质换脸服务,连成龙及迪丽热巴等名人明星的脸容,也能模仿。](https://image.hkhl.hk/f/1024p0/0x0/100/none/866691368983f1e1c99f5f55916529ad/2023-07/5_3_33.jpg)
![香港创科发展协会主席陈迪源应邀参与测试,了解IT公司的技术到哪个水平。](https://image.hkhl.hk/f/1024p0/0x0/100/none/b95d98a99b919e3e56cd76194d53fd97/2023-07/6_1_15.jpg)
这间公司在Telegram开设群组,里面有700多人。记者假扮顾客查询,了解费用和服务,发现这间公司是收取俗称「U币」的虚拟货币「泰达币」(USDT)作报酬。实时AI换脸软件,年费索价3,000美元(折合约港币2.3万)。对方宣称付款后即可享有优质换脸服务,连成龙及迪丽热巴等名人明星的脸容,也能模仿。如果要创制指定人脸,则要做模,每个模要多加约4,300港币。
该黑心IT公司代表阿Luck,还邀请记者试用他们的直播换脸服务,让我们看看效果。记者遂邀请香港创科发展协会主席陈迪源参与测试,了解对方技术水平。
直播一开始,阿Luck已经换上一幅大叔脸孔,加上变声器与陈迪源通话,目的除了展示效果外,还要避免真实容貌或声线曝光。他转了几个角度后,开始换另一幅男子的脸孔,但陈迪源向阿Luck直言立体感变差,就像相片P过头(过度修图)的那种感觉。
【点击睇专家实测过程】:
![直播一开始,IT公司代表阿Luck已经换上一幅大叔脸孔,加上变声器与陈迪源通话,目的除了展示效果外,还要避免真实容貌或声线曝光。](https://image.hkhl.hk/f/1024p0/0x0/100/none/d892e87a31b7838d0f90e336328f06ff/2023-07/7_0_20.jpg)
![对方AI变脸后所用的大叔脸孔,最初尚算自然。](https://image.hkhl.hk/f/1024p0/0x0/100/none/a1ed4dda74c01a0f7f5cb569d5acf0f2/2023-07/8_0_21.jpg)
![未几IT公司换了另一幅男子的脸孔,立体感变差,就像相片P过头(过度修图)的感觉。](https://image.hkhl.hk/f/1024p0/0x0/100/none/1262d16815c5840c11aef77f573c62a4/2023-07/9_0_15.jpg)
![第3幅脸孔转了女性,陈迪源提出一些测试AI系统的难度要求,例如用手遮脸等。](https://image.hkhl.hk/f/1024p0/0x0/100/none/df9030c1f001eb2ad9fae3d1a32773fb/2023-07/10_1_40.jpg)
![对方以手指点向眼睛时,AI影像立即变得模糊,手指变成透明而穿崩。](https://image.hkhl.hk/f/1024p0/0x0/100/none/7161ca120ec03c37e96e692194c74c29/2023-07/11_0_11.jpg)
![阿Luck被测试得有点恼羞成怒,向专家陈迪源说「真实效果你能接受就接受,不能接受,AI就是这样子!」](https://image.hkhl.hk/f/1024p0/0x0/100/none/5e24d9a38c1cf4a5f9faebe511055164/2023-07/12_1_23.jpg)
![陈迪源形容黑心IT公司的AI技术,是业馀级的「天花板」,专业级的入门。](https://image.hkhl.hk/f/1024p0/0x0/100/none/168c483de7c46d5d38d4cf33926afbe1/2023-07/13_31.jpg)
![陈迪源强调,IT业界在AI换脸以至复制声音的技术,整体进步得非常快。](https://image.hkhl.hk/f/1024p0/0x0/100/none/fd784b81dc60290a1a8152e279c6a76b/2023-07/14_0_23.jpg)
![为针对各类诈骗案件,警方早前委任4名年轻警务人员为「防骗刑警」,化身防骗KOL提高公众防骗意识。](https://image.hkhl.hk/f/1024p0/0x0/100/none/f1c243e0a25057c22b9328fc70eee237/2023-07/15_39.jpg)
![网络安全及科技罪案调查科高级督察陈智颖称,要破解AI换脸,可要求对方在镜头前面用手指慢慢横过脸部。](https://image.hkhl.hk/f/1024p0/0x0/100/none/f8dd19ca844229444918e314944459e6/2023-07/16_30.jpg)
![商业罪案调查科高级督察张文瀚提醒市民,与人通电话或视像通话时,纵然觉得对方声音与自己亲友十分相似,亦要慎防被骗。](https://image.hkhl.hk/f/1024p0/0x0/100/none/cc1fb648179abcb8979802cbae93d0d5/2023-07/17_87.jpg)
陈询问能否模仿声线,阿Luck即化身「加钱哥」,扬言只要肯加钱和提供声线,便可以模仿得到,惟直言模仿粤语的话,相似度仅约6成。由于陈不断提出一些测试AI系统的难度要求,例如用双手遮脸等,AI影像立即变得模糊,手指变成透明,而男人勉强模仿女人脸孔,额头位置和脸容两边也显得不自然。阿Luck被测试得有点恼羞成怒,向专家陈迪源说「反正我演示的时候,真实效果你能接受就接受,不能接受,AI就是这样子!」
测试完毕后,陈迪源对这间黑心IT公司的技术评价一般。「开始的时候我是有些期望,怎么说也是拿出来卖给别人,应该有些斤両才敢这样做,我还在想要怎样才找到对方破绽,但结果你刚才也看到了,很多东西不攻自破。例如画面有些情况边界模糊,声音只是用上变声器、并非复制别人声音。这个水平,我会形容是业馀级的「天花板」,但以专业级来说,是很入门的工具。」
惟陈迪源强调,IT业界在AI换脸以至复制声音的技术,进步得非常快,他最担心复制广东话的技术,日后将会成为行骗工具。「暂时模拟声音的技术,在英语或普通话方面会成熟一点,粤语方面没那么成熟。不过科技一日千里,或许半年或一年后广东话语音的复制技术会开始普及,到时要更加小心。」
为针对各类诈骗案件,警方早前委任4名年轻警务人员为「防骗刑警」,化身防骗KOL提高公众防骗意识。对于AI技术遭利用犯案,警方亦公开防骗贴士。「防骗刑警」之一的网络安全及科技罪案调查科高级督察陈智颖称,要破解AI换脸除了留意影片内人物的眼神,以及口型有否不自然之处外,亦可要求对方在镜头前面用手指慢慢横过脸部,骗徒的电脑程式可能因为无法适应这突如其来的改变,因此出现穿崩。
商业罪案调查科高级督察张文瀚则提醒,当与他人通电话或进行视像通话时,纵然觉得对方的声音与自己亲友十分相似,亦不能排除被骗的机会,要尝试从对话内容、一些只有亲友间才知道的资讯,从而核实对方身份的真假。
______________________________________________________
《星岛申诉王》为民请命抱不平、追踪城中热话,亦会搜罗坊间温情小故事。你申诉,我跟进,WhatsApp搵91999933,《星岛申诉王》随时候命!
《星岛头条》APP经已推出最新版本,请立即更新,浏览更精彩内容:https://bit.ly/3yLrgYZ
最新回应