新型诈骗|AI语音以假乱真 扮家属求救呃赎金
2023-06-13 07:00
电话里头传来的声音听来跟真的没两样!住在美国亚利桑那州的德斯特凡诺(Jennifer DeStefano)听到「女儿」啜泣求救,之后一名男子接过电话,要求100万美元赎金。所幸她冷静认对,没有受骗。
德斯特凡诺说,她一般都不接不知明电话,但当时15岁的女儿去了滑雪,她怕有意外就接听了那通可疑电话。「救我,妈,救我。」她听到女儿啜泣的声音。然后一名男子接过电话,要胁100万美元赎金,不过她说没钱,对方便「大减价」只要5万美元。
德斯特凡诺让对方保持通话。所幸她接电话时,身处于另一个女儿的舞蹈室,其他家长纷纷帮忙,报警和找她丈夫。在短短4分钟内,她确认女儿安全无事,之后她便挂断电话。
但她挂电话后,仍一直觉得电话里的就是她女儿。「完全是她的声音。抑掦顿挫,那就是她哭的方式。我没有一秒怀疑那不是她。就是这个怪异的部分让我陷入困境。」
电话传来的女孩的声音,原来是由人工智能(AI)合成,绑架当然也是假的。新型诈骗震撼美国当局,歹徒使用网路上垂手可得、几可乱真的AI语音复制工具,假冒家庭成员来诈骗亲人。
美国资讯安全公司McAfee Labs上月发布的民调显示,在美国等9个国家针对7000人的民调中,1/4表示自己遇过AI语音诈骗,或听过别人有类似经验。70%受访者表示,没有信心能「分辨真假语音」。
有专家指出,AI最大的危险是模糊了真实和虚幻的界线,让网路罪犯能有廉价又有效的技术来散播假讯息。
加州大学柏克莱分校资讯学院教授法里德(Hany Farid)告诉法新社:「因为现在制作高仿真的语音非常容易…网路上几乎无人能幸免。这些诈骗正广为流行。」
今年初AI新创公司ElevenLabs坦承自家语音合成工具可被用于「恶意用途」,先前就有用户发布透过「深伪技术」(Deepfake)合成的语音,假冒英国女星爱玛屈臣(Emma Watson)读希特拉自传《我的奋斗》(Mein Kampf)。
---
《星岛头条》APP经已推出最新版本,请立即更新,浏览更精彩内容:https://bit.ly/3yLrgYZ
最新回应