新型诈骗|AI语音以假乱真 扮家属求救呃赎金

2023-06-13 07:00

AI语音以假乱真,扮家属求救呃赎金。
AI语音以假乱真,扮家属求救呃赎金。

电话里头传来的声音听来跟真的没两样!住在美国亚利桑那州的德斯特凡诺(Jennifer DeStefano)听到「女儿」啜泣求救,之后一名男子接过电话,要求100万美元赎金。所幸她冷静认对,没有受骗。

接到AI语音诈骗电话的德斯特凡诺(Jennifer DeStefano)与女儿布里(Brie)。 Facebook
接到AI语音诈骗电话的德斯特凡诺(Jennifer DeStefano)与女儿布里(Brie)。 Facebook
诈骗电话传来布里(Brie)求救的声音,但她人很安全,不知道母亲的可怕经历。 Facebook
诈骗电话传来布里(Brie)求救的声音,但她人很安全,不知道母亲的可怕经历。 Facebook
人工智能(AI)越来越强劲,令人分不清虚幻与现实。美联社
人工智能(AI)越来越强劲,令人分不清虚幻与现实。美联社
人工智能(AI)越来越强劲,令人分不清虚幻与现实。 美联社
人工智能(AI)越来越强劲,令人分不清虚幻与现实。 美联社
网上有大量AI换脸软件。
网上有大量AI换脸软件。

德斯特凡诺说,她一般都不接不知明电话,但当时15岁的女儿去了滑雪,她怕有意外就接听了那通可疑电话。「救我,妈,救我。」她听到女儿啜泣的声音。然后一名男子接过电话,要胁100万美元赎金,不过她说没钱,对方便「大减价」只要5万美元。

德斯特凡诺让对方保持通话。所幸她接电话时,身处于另一个女儿的舞蹈室,其他家长纷纷帮忙,报警和找她丈夫。在短短4分钟内,她确认女儿安全无事,之后她便挂断电话。

但她挂电话后,仍一直觉得电话里的就是她女儿。「完全是她的声音。抑掦顿挫,那就是她哭的方式。我没有一秒怀疑那不是她。就是这个怪异的部分让我陷入困境。」

电话传来的女孩的声音,原来是由人工智能(AI)合成,绑架当然也是假的。新型诈骗震撼美国当局,歹徒使用网路上垂手可得、几可乱真的AI语音复制工具,假冒家庭成员来诈骗亲人。

美国资讯安全公司McAfee Labs上月发布的民调显示,在美国等9个国家针对7000人的民调中,1/4表示自己遇过AI语音诈骗,或听过别人有类似经验。70%受访者表示,没有信心能「分辨真假语音」。

有专家指出,AI最大的危险是模糊了真实和虚幻的界线,让网路罪犯能有廉价又有效的技术来散播假讯息。

加州大学柏克莱分校资讯学院教授法里德(Hany Farid)告诉法新社:「因为现在制作高仿真的语音非常容易…网路上几乎无人能幸免。这些诈骗正广为流行。」

今年初AI新创公司ElevenLabs坦承自家语音合成工具可被用于「恶意用途」,先前就有用户发布透过「深伪技术」(Deepfake)合成的语音,假冒英国女星爱玛屈臣(Emma Watson)读希特拉自传《我的奋斗》(Mein Kampf)。

---

《星岛头条》APP经已推出最新版本,请立即更新,浏览更精彩内容:https://bit.ly/3yLrgYZ

關鍵字

最新回应

關鍵字

相關新聞

You are currently at: std.stheadline.com
Skip This Ads
close ad
close ad