星岛申诉王 | 名人实测 AI「扮声」呃人有几似 潮甚么Christy:语气好似我
2023-12-19 08:30
《星岛申诉王》早前踢爆有骗徒利用AI人工智能模拟声音技术进行诈骗,惟当时有科技专家指,模拟英语声音技术较先进,模拟广东话没那么成熟。《星岛申诉王》今次与一间专门提供网络保安的跨国公司合作,邀请IT专家挑战这个模拟广东话技术难关,AI模拟著名股评人胡孟青「青姐」,以及经常带观众「潮什么」的旅游达人梁芷佩(Christy)声带,事前记者获得两人同意,复制她们声线去模拟一段诈骗录音,看看效果如何。
【点击睇AI模拟声线原理】
![《星岛申诉王》持续跟进骗徒利用科技诈骗的现象。](https://image.hkhl.hk/f/1024p0/0x0/100/none/fd1aa3705a7236dcb9f292e53149d801/2023-12/ts_1.jpg)
![香港创科业界代表称,人工智能(AI)模拟声音的技术,用来模拟广东话没那么成熟。](https://image.hkhl.hk/f/1024p0/0x0/100/none/3ee72d676724277d0fb89f646ed3ad5d/2023-12/ts_2.jpg)
![网络保安主管Nick Ng(Nick sir)表示,广东话很多俚语在字典上都是没有,加上人工智能的训练模式,原本设计用于英语,所以AI模拟广东话声线难度较高。](https://image.hkhl.hk/f/1024p0/0x0/100/none/34fb147b85115682cc209e08c99cfabc/2023-12/ts_3.jpg)
![今次AI要模拟的名人,分别是著名股评人胡孟青「青姐」。](https://image.hkhl.hk/f/1024p0/0x0/100/none/23be65ea912c1b5f45b36f1dccb711e5/2023-12/ts_4.jpg)
![以及经常带观众「潮什么」的旅游达人梁芷佩(Christy)。](https://image.hkhl.hk/f/1024p0/0x0/100/none/e49435cae20ac9de0de4890b2565df69/2023-12/ts_5.jpg)
![事前我们获得两位名人同意,复制她们声线去模拟一段诈骗录音,看看效果如何。](https://image.hkhl.hk/f/1024p0/0x0/100/none/fa32aacc5eadb0054cd36c0bdccf68b7/2023-12/ts_6.jpg)
![Nick sir与他的同事,客串诵读一段模拟的诈骗录音。](https://image.hkhl.hk/f/1024p0/0x0/100/none/6e43590f650c74f4eff2d350a73dc5a3/2023-12/ts_7.jpg)
![假扮青姐声线读出的内容,主要是她在股市已经「赚够了」,想帮其他人赚些钱。](https://image.hkhl.hk/f/1024p0/0x0/100/none/87865c3eafb5322fd5d6f820be4a600a/2023-12/ts_8.jpg)
![Nick sir表示AI扮声,若果要做一个好的『模』,电脑大概需要学习2万多步,以网上云端设备运算的话,大概要用1天左右。](https://image.hkhl.hk/f/1024p0/0x0/100/none/281ae81dce6c4bcad7fae1e11d16be81/2023-12/ts_9.jpg)
![经过AI处理后,两条声音分别产生,可以让名人点评。](https://image.hkhl.hk/f/1024p0/0x0/100/none/eeb189f2d2db30acec94031f84495a9e/2023-12/ts_10.jpg)
![股评人胡孟青(青姐),觉得AI青姐的声线刻意模仿她说话没有尾音的特色,学到音调但学不到神韵。](https://image.hkhl.hk/f/1024p0/0x0/100/none/61c918d6c35a4d73ce1f256139d382ac/2023-12/ts_11.jpg)
![青姐指自己说话一向中气十足,而AI青姐则不够气,好像中了COVID下的青姐状态。(资料相片)](https://image.hkhl.hk/f/1024p0/0x0/100/none/44a17fcac9d1e736dbaa3871020d734d/2023-12/ts_12.jpg)
![接下轮到Christy。她近年开办旅行社,并亲身带团,所以《星岛申诉王》模拟骗徒利用这一点来行骗。](https://image.hkhl.hk/f/1024p0/0x0/100/none/faa00c8158eacaa1442c550e1188508c/2023-12/ts_13.jpg)
![Christy听过模拟她声线的录音后,觉得语气很像,但声线不太像。](https://image.hkhl.hk/f/1024p0/0x0/100/none/24af5e5b2c6770e74e6a021c7bd9c967/2023-12/ts_14.jpg)
![她指现时办旅行社,已不是靠门市逐一见客,而是透过电话或WhatsApp确认所有交易。如果有人模拟到她的声音,会有很大麻烦。(网上截图)](https://image.hkhl.hk/f/1024p0/0x0/100/none/a344d94c23a5b5757e457ae0d399750c/2023-12/ts_15.jpg)
![Nick sir表示,青姐的访问一般很长,所以要拿她的声音做「模」很简单,效果亦较好,相对Christy每个访问较短,又夹杂其他人的访问及英语,会影响效果。](https://image.hkhl.hk/f/1024p0/0x0/100/none/3d69c15a539b06b44ab62c37e78b753b/2023-12/ts_16.jpg)
经过AI处理后,两条声音分别产生。胡孟青的模拟对白是「大家好,多谢大家一直支持青姐。老实说,我在股市都赚够了,可能之后都会集中做教育和培训,希望帮大家赚到一点钱。我今天公开一只股票号码,编号1234,这股票庄家我是认识的,接下来应该会大升,大家有兴趣的话可以买少少。我退休了,应该不会再做股评人,如果想再交流,可以进入以下群组。」
《星岛申诉王》细听AI「青姐」,发现声线有7、8分相像。惟真青姐听过AI声线后点评说:「它的声音是平的,我说话的时候声音不是这样平的,他们想学我!因为我出了名说话没有尾音,但现时出来的声音,是好像不够气,认识青姐的人,也知道我很够中气,而它就好像中了COVID之下的青姐状态。人工智能学到音调,但它学不到那种神韵,神韵很难学的。」
接下轮到Christy。她近年开办旅行社,并亲身带团,所以《星岛申诉王》模拟骗徒利用这一点来行骗,对白为「大家好,我是Christy梁芷佩。你想跟我一起出团玩、一起『潮什么』吗,立即点击以下的连结吧。」
Christy听过模拟她声线的录音后表示:「我觉得语气很像,但声线不太像,只是语气像。」她表示现在办旅行社,已不是靠门市逐一见客,而是透过电话或WhatsApp确认所有交易。如果有人模拟到她的声音,欺骗对方直接存款,对于她们这类旅行社可能有很大影响。
今次实验模拟了两条声音,效果有点分别。以声论声,AI模拟青姐的效果稍胜模拟Christy,该公司网络保安主管Nick Sir有以下解释:「青姐的访问一般很长,所以要拿她的声音做『模』很简单;相对地Christy那个难度高一点,因为她每个访问只有10分钟或更短时间,中间又夹杂其他人的访问及英语,因此效果会有点影响。」
诈骗大趋势 AI助搵料写诈骗电邮
![AI用于诈骗所带来的威胁,绝对不止于模拟声音。Nick sir指近年不少骇客,都会用AI技术配合诈骗,入侵企业的电脑系统。](https://image.hkhl.hk/f/1024p0/0x0/100/none/9178fd44dffdafe033bff3271e826b48/2023-12/ts_17.jpg)
![骇客会在网上搜寻目标人物的个人资料,用大数据学习后,找到与目标人物有关系的朋友,再用这些资料去做一个AI的诈骗,成功率就会大大提高。](https://image.hkhl.hk/f/1024p0/0x0/100/none/99c69c60a9fd95c86443aa7b3aebfa11/2023-12/ts_18.jpg)
![骇客普遍瞄准一些大公司高层,把他们背景以至子女的名字都找到了,放在诈骗电邮的内容,令他们的同事及朋友,戒心因而降低。](https://image.hkhl.hk/f/1024p0/0x0/100/none/7e651197c8158daf851df9b7a2c95c9c/2023-12/ts_19.jpg)
![企业电脑一旦遭到骇客入侵,后果可以很严重。今年7月,名古屋港就是因为被骇客入侵,令物流因此停摆,为日本史上首次发生的事件。(资料来源:TVBS)](https://image.hkhl.hk/f/1024p0/0x0/100/none/c94806a4ca7049ed192b06398784e437/2023-12/ts_20.jpg)
![部分企业遇上骇客勒索,愿意支付赎金换取骇客解锁,但专家认为骇客有机会在系统埋下「后门」,准备下次再勒索,建议企业宁愿忍痛重建系统。](https://image.hkhl.hk/f/1024p0/0x0/100/none/46c197768341258e04c80a11725672ec/2023-12/ts_21.jpg)
![大部分已知案件,接近9成案件是经过电邮入侵,所以在电邮安全做了足够防范,已经很大程度保障到企业。](https://image.hkhl.hk/f/1024p0/0x0/100/none/8fc8925078a11853fa295853eb138384/2023-12/ts_22.jpg)
![针对近期涌现、利用AI配合诈骗的情况,香港警方一直提醒市民跟人通电话或进行视像通话时,就算觉得对方声线与自己亲友有多相似,都不能够排除被骗的机会。(资料相片)](https://image.hkhl.hk/f/1024p0/0x0/100/none/1d57d74a69cbb74699973cca1f013c00/2023-12/ts_23.jpg)
![警方建议市民尝试从对话内容,例如说一些亲友之间才知道的资讯,从而核实电话对方身份的真假。(资料相片)](https://image.hkhl.hk/f/1024p0/0x0/100/none/fba5f2de6e68f4243e385f514ecb3c8d/2023-12/ts_24.jpg)
鉴于近年人工智能技术(AI)愈趋成熟,有机会成为犯罪行为的辅助工具,当中利用「深伪技术」(Deepfake)换脸,「深伪技术」是透过收集个人样貌、声音等生物特徵,再合成或修改影片,假扮成受害人亲友与其视像通话,目的是更容易接近受害人而已,之后的行骗过程均与其他骗案相似;警方提醒市民跟人通电话,或者进行视像通话时,就算觉得对方声线与自己亲友有多相似,都不能够排除被骗的机会,应尝试从对话内容,例如说一些亲友之间才知道的资讯,从而核实对方身份的真假。
人工智能相关骗案防罪贴士:
- 要求对方在镜头前做指定动作,如手指于脸上横扫、头部上下左右转头等
- 提出个人问题测试对方身份真伪
- 切勿轻易提供人脸、指纹等生物辨识资料
- 提防亲友在视述或录音中提出汇款要求
- 避免接听陌生视像通话来电
Nick Sir指,近年不少骇客都会用AI技术配合诈骗,入侵企业的电脑系统。「在网上搜寻你的个人资料,用大数据学习后,找到你有关系的朋友,再用这些资料去做一个AI的诈骗,成功率就会大大提高。骇客普遍瞄准一些大公司高层,把他们背景以至子女的名字都找到了,放在电邮内容,令他们的同事及朋友,戒心因而降低。」
Nick Sir表示,企业电脑一旦遭到骇客入侵,后果可以很严重,部分企业愿意支付赎金,换取骇客解锁,但他认为骇客随时有机会在系统内埋下「后门」,准备下次再勒索,建议企业做好预防工作。「其实很大部分的已知案件,接近9成是经过电邮入侵,所以在电邮安全做了足够防范,已经很大程度保障到公司。」
______________________________________________________
《星岛申诉王》推出全新项目「区区有申诉」,并增设「我要赞佢」栏目,现诚邀市民投稿赞扬身边好人好事,共建更有爱社区。立即「我要赞佢」︰ https://bit.ly/3uJ3yyF
《星岛申诉王》为民请命抱不平、追踪城中热话,亦会搜罗坊间温情小故事。你申诉,我跟进,WhatsApp搵91999933,《星岛申诉王》随时候命!立即报料:https://bit.ly/3IMunqd
最新回应