星島申訴王 | 名人實測 AI「扮聲」呃人有幾似 潮甚麼Christy:語氣好似我
2023-12-19 08:30
《星島申訴王》早前踢爆有騙徒利用AI人工智能模擬聲音技術進行詐騙,惟當時有科技專家指,模擬英語聲音技術較先進,模擬廣東話沒那麼成熟。《星島申訴王》今次與一間專門提供網絡保安的跨國公司合作,邀請IT專家挑戰這個模擬廣東話技術難關,AI模擬著名股評人胡孟青「青姐」,以及經常帶觀眾「潮什麼」的旅遊達人梁芷珮(Christy)聲帶,事前記者獲得兩人同意,複製她們聲線去模擬一段詐騙錄音,看看效果如何。
【點擊睇AI模擬聲線原理】
![《星島申訴王》持續跟進騙徒利用科技詐騙的現象。](https://image.hkhl.hk/f/1024p0/0x0/100/none/fd1aa3705a7236dcb9f292e53149d801/2023-12/ts_1.jpg)
![香港創科業界代表稱,人工智能(AI)模擬聲音的技術,用來模擬廣東話沒那麼成熟。](https://image.hkhl.hk/f/1024p0/0x0/100/none/3ee72d676724277d0fb89f646ed3ad5d/2023-12/ts_2.jpg)
![網絡保安主管Nick Ng(Nick sir)表示,廣東話很多俚語在字典上都是沒有,加上人工智能的訓練模式,原本設計用於英語,所以AI模擬廣東話聲線難度較高。](https://image.hkhl.hk/f/1024p0/0x0/100/none/34fb147b85115682cc209e08c99cfabc/2023-12/ts_3.jpg)
![今次AI要模擬的名人,分別是著名股評人胡孟青「青姐」。](https://image.hkhl.hk/f/1024p0/0x0/100/none/23be65ea912c1b5f45b36f1dccb711e5/2023-12/ts_4.jpg)
![以及經常帶觀眾「潮什麼」的旅遊達人梁芷珮(Christy)。](https://image.hkhl.hk/f/1024p0/0x0/100/none/e49435cae20ac9de0de4890b2565df69/2023-12/ts_5.jpg)
![事前我們獲得兩位名人同意,複製她們聲線去模擬一段詐騙錄音,看看效果如何。](https://image.hkhl.hk/f/1024p0/0x0/100/none/fa32aacc5eadb0054cd36c0bdccf68b7/2023-12/ts_6.jpg)
![Nick sir與他的同事,客串誦讀一段模擬的詐騙錄音。](https://image.hkhl.hk/f/1024p0/0x0/100/none/6e43590f650c74f4eff2d350a73dc5a3/2023-12/ts_7.jpg)
![假扮青姐聲線讀出的內容,主要是她在股市已經「賺夠了」,想幫其他人賺些錢。](https://image.hkhl.hk/f/1024p0/0x0/100/none/87865c3eafb5322fd5d6f820be4a600a/2023-12/ts_8.jpg)
![Nick sir表示AI扮聲,若果要做一個好的『模』,電腦大概需要學習2萬多步,以網上雲端設備運算的話,大概要用1天左右。](https://image.hkhl.hk/f/1024p0/0x0/100/none/281ae81dce6c4bcad7fae1e11d16be81/2023-12/ts_9.jpg)
![經過AI處理後,兩條聲音分別產生,可以讓名人點評。](https://image.hkhl.hk/f/1024p0/0x0/100/none/eeb189f2d2db30acec94031f84495a9e/2023-12/ts_10.jpg)
![股評人胡孟青(青姐),覺得AI青姐的聲線刻意模仿她說話沒有尾音的特色,學到音調但學不到神韻。](https://image.hkhl.hk/f/1024p0/0x0/100/none/61c918d6c35a4d73ce1f256139d382ac/2023-12/ts_11.jpg)
![青姐指自己說話一向中氣十足,而AI青姐則不夠氣,好像中了COVID下的青姐狀態。(資料相片)](https://image.hkhl.hk/f/1024p0/0x0/100/none/44a17fcac9d1e736dbaa3871020d734d/2023-12/ts_12.jpg)
![接下輪到Christy。她近年開辦旅行社,並親身帶團,所以《星島申訴王》模擬騙徒利用這一點來行騙。](https://image.hkhl.hk/f/1024p0/0x0/100/none/faa00c8158eacaa1442c550e1188508c/2023-12/ts_13.jpg)
![Christy聽過模擬她聲線的錄音後,覺得語氣很像,但聲線不太像。](https://image.hkhl.hk/f/1024p0/0x0/100/none/24af5e5b2c6770e74e6a021c7bd9c967/2023-12/ts_14.jpg)
![她指現時辦旅行社,已不是靠門市逐一見客,而是透過電話或WhatsApp確認所有交易。如果有人模擬到她的聲音,會有很大麻煩。(網上截圖)](https://image.hkhl.hk/f/1024p0/0x0/100/none/a344d94c23a5b5757e457ae0d399750c/2023-12/ts_15.jpg)
![Nick sir表示,青姐的訪問一般很長,所以要拿她的聲音做「模」很簡單,效果亦較好,相對Christy每個訪問較短,又夾雜其他人的訪問及英語,會影響效果。](https://image.hkhl.hk/f/1024p0/0x0/100/none/3d69c15a539b06b44ab62c37e78b753b/2023-12/ts_16.jpg)
經過AI處理後,兩條聲音分別產生。胡孟青的模擬對白是「大家好,多謝大家一直支持青姐。老實說,我在股市都賺夠了,可能之後都會集中做教育和培訓,希望幫大家賺到一點錢。我今天公開一隻股票號碼,編號1234,這股票莊家我是認識的,接下來應該會大升,大家有興趣的話可以買少少。我退休了,應該不會再做股評人,如果想再交流,可以進入以下群組。」
《星島申訴王》細聽AI「青姐」,發現聲線有7、8分相像。惟真青姐聽過AI聲線後點評說:「它的聲音是平的,我說話的時候聲音不是這樣平的,他們想學我!因為我出了名說話沒有尾音,但現時出來的聲音,是好像不夠氣,認識青姐的人,也知道我很夠中氣,而它就好像中了COVID之下的青姐狀態。人工智能學到音調,但它學不到那種神韻,神韻很難學的。」
接下輪到Christy。她近年開辦旅行社,並親身帶團,所以《星島申訴王》模擬騙徒利用這一點來行騙,對白為「大家好,我是Christy梁芷珮。你想跟我一起出團玩、一起『潮什麼』嗎,立即點擊以下的連結吧。」
Christy聽過模擬她聲線的錄音後表示:「我覺得語氣很像,但聲線不太像,只是語氣像。」她表示現在辦旅行社,已不是靠門市逐一見客,而是透過電話或WhatsApp確認所有交易。如果有人模擬到她的聲音,欺騙對方直接存款,對於她們這類旅行社可能有很大影響。
今次實驗模擬了兩條聲音,效果有點分別。以聲論聲,AI模擬青姐的效果稍勝模擬Christy,該公司網絡保安主管Nick Sir有以下解釋:「青姐的訪問一般很長,所以要拿她的聲音做『模』很簡單;相對地Christy那個難度高一點,因為她每個訪問只有10分鐘或更短時間,中間又夾雜其他人的訪問及英語,因此效果會有點影響。」
詐騙大趨勢 AI助搵料寫詐騙電郵
![AI用於詐騙所帶來的威脅,絕對不止於模擬聲音。Nick sir指近年不少駭客,都會用AI技術配合詐騙,入侵企業的電腦系統。](https://image.hkhl.hk/f/1024p0/0x0/100/none/9178fd44dffdafe033bff3271e826b48/2023-12/ts_17.jpg)
![駭客會在網上搜尋目標人物的個人資料,用大數據學習後,找到與目標人物有關係的朋友,再用這些資料去做一個AI的詐騙,成功率就會大大提高。](https://image.hkhl.hk/f/1024p0/0x0/100/none/99c69c60a9fd95c86443aa7b3aebfa11/2023-12/ts_18.jpg)
![駭客普遍瞄準一些大公司高層,把他們背景以至子女的名字都找到了,放在詐騙電郵的內容,令他們的同事及朋友,戒心因而降低。](https://image.hkhl.hk/f/1024p0/0x0/100/none/7e651197c8158daf851df9b7a2c95c9c/2023-12/ts_19.jpg)
![企業電腦一旦遭到駭客入侵,後果可以很嚴重。今年7月,名古屋港就是因為被駭客入侵,令物流因此停擺,為日本史上首次發生的事件。(資料來源:TVBS)](https://image.hkhl.hk/f/1024p0/0x0/100/none/c94806a4ca7049ed192b06398784e437/2023-12/ts_20.jpg)
![部分企業遇上駭客勒索,願意支付贖金換取駭客解鎖,但專家認為駭客有機會在系統埋下「後門」,準備下次再勒索,建議企業寧願忍痛重建系統。](https://image.hkhl.hk/f/1024p0/0x0/100/none/46c197768341258e04c80a11725672ec/2023-12/ts_21.jpg)
![大部分已知案件,接近9成案件是經過電郵入侵,所以在電郵安全做了足夠防範,已經很大程度保障到企業。](https://image.hkhl.hk/f/1024p0/0x0/100/none/8fc8925078a11853fa295853eb138384/2023-12/ts_22.jpg)
![針對近期湧現、利用AI配合詐騙的情況,香港警方一直提醒市民跟人通電話或進行視像通話時,就算覺得對方聲線與自己親友有多相似,都不能夠排除被騙的機會。(資料相片)](https://image.hkhl.hk/f/1024p0/0x0/100/none/1d57d74a69cbb74699973cca1f013c00/2023-12/ts_23.jpg)
![警方建議市民嘗試從對話內容,例如說一些親友之間才知道的資訊,從而核實電話對方身份的真假。(資料相片)](https://image.hkhl.hk/f/1024p0/0x0/100/none/fba5f2de6e68f4243e385f514ecb3c8d/2023-12/ts_24.jpg)
鑑於近年人工智能技術(AI)愈趨成熟,有機會成為犯罪行為的輔助工具,當中利用「深偽技術」(Deepfake)換臉,「深偽技術」是透過收集個人樣貌、聲音等生物特徵,再合成或修改影片,假扮成受害人親友與其視像通話,目的是更容易接近受害人而已,之後的行騙過程均與其他騙案相似;警方提醒市民跟人通電話,或者進行視像通話時,就算覺得對方聲線與自己親友有多相似,都不能夠排除被騙的機會,應嘗試從對話內容,例如說一些親友之間才知道的資訊,從而核實對方身份的真假。
人工智能相關騙案防罪貼士:
- 要求對方在鏡頭前做指定動作,如手指於臉上橫掃、頭部上下左右轉頭等
- 提出個人問題測試對方身份真偽
- 切勿輕易提供人臉、指紋等生物辨識資料
- 提防親友在視述或錄音中提出匯款要求
- 避免接聽陌生視像通話來電
Nick Sir指,近年不少駭客都會用AI技術配合詐騙,入侵企業的電腦系統。「在網上搜尋你的個人資料,用大數據學習後,找到你有關係的朋友,再用這些資料去做一個AI的詐騙,成功率就會大大提高。駭客普遍瞄準一些大公司高層,把他們背景以至子女的名字都找到了,放在電郵內容,令他們的同事及朋友,戒心因而降低。」
Nick Sir表示,企業電腦一旦遭到駭客入侵,後果可以很嚴重,部分企業願意支付贖金,換取駭客解鎖,但他認為駭客隨時有機會在系統內埋下「後門」,準備下次再勒索,建議企業做好預防工作。「其實很大部分的已知案件,接近9成是經過電郵入侵,所以在電郵安全做了足夠防範,已經很大程度保障到公司。」
______________________________________________________
《星島申訴王》推出全新項目「區區有申訴」,並增設「我要讚佢」欄目,現誠邀市民投稿讚揚身邊好人好事,共建更有愛社區。立即「我要讚佢」︰ https://bit.ly/3uJ3yyF
《星島申訴王》為民請命抱不平、追蹤城中熱話,亦會搜羅坊間溫情小故事。你申訴,我跟進,WhatsApp搵91999933,《星島申訴王》隨時候命!立即報料:https://bit.ly/3IMunqd
最新回應