星島申訴王 | 直擊網上兜售AI犯罪技術 實測黑心IT公司換臉穿崩位
2023-07-18 08:00 
「人工智能」(AI) 已經成為科技新趨勢，但不幸的是同時遭到騙徒利用，作為網絡詐騙工具。香港警方今年已經接獲相關案件，事主都是因為被AI技術暪騙或遭勒索。《星島申訴王》發現，有人在網上公然兜售AI換臉技術，還表示可用作不法用途。
科技公司提供AI犯罪技術
記者在社交網站聯絡一間馬來西亞IT公司，對方宣稱可以提供精品級AI換臉技術，除了適用於拍攝視頻和直播外，亦適用於「網戀釣魚」及「黑色產業」等網絡犯罪。
【黑心IT服務收費大公開】：
這間公司在Telegram開設群組，裡面有700多人。記者假扮顧客查詢，了解費用和服務，發現這間公司是收取俗稱「U幣」的虛擬貨幣「泰達幣」(USDT)作報酬。實時AI換臉軟件，年費索價3,000美元(折合約港幣2.3萬)。對方宣稱付款後即可享有優質換臉服務，連成龍及迪麗熱巴等名人明星的臉容，也能模仿。如果要創製指定人臉，則要做模，每個模要多加約4,300港幣。
該黑心IT公司代表阿Luck，還邀請記者試用他們的直播換臉服務，讓我們看看效果。記者遂邀請香港創科發展協會主席陳迪源參與測試，了解對方技術水平。
直播一開始，阿Luck已經換上一幅大叔臉孔，加上變聲器與陳迪源通話，目的除了展示效果外，還要避免真實容貌或聲線曝光。他轉了幾個角度後，開始換另一幅男子的臉孔，但陳迪源向阿Luck直言立體感變差，就像相片P過頭(過度修圖)的那種感覺。
【點擊睇專家實測過程】：
陳詢問能否模仿聲線，阿Luck即化身「加錢哥」，揚言只要肯加錢和提供聲線，便可以模仿得到，惟直言模仿粵語的話，相似度僅約6成。由於陳不斷提出一些測試AI系統的難度要求，例如用雙手遮臉等，AI影像立即變得模糊，手指變成透明，而男人勉強模仿女人臉孔，額頭位置和臉容兩邊也顯得不自然。阿Luck被測試得有點惱羞成怒，向專家陳迪源說「反正我演示的時候，真實效果你能接受就接受，不能接受，AI就是這樣子！」
測試完畢後，陳迪源對這間黑心IT公司的技術評價一般。「開始的時候我是有些期望，怎麼說也是拿出來賣給別人，應該有些斤両才敢這樣做，我還在想要怎樣才找到對方破綻，但結果你剛才也看到了，很多東西不攻自破。例如畫面有些情況邊界模糊，聲音只是用上變聲器、並非複製別人聲音。這個水平，我會形容是業餘級的「天花板」，但以專業級來說，是很入門的工具。」
惟陳迪源強調，IT業界在AI換臉以至複製聲音的技術，進步得非常快，他最擔心複製廣東話的技術，日後將會成為行騙工具。「暫時模擬聲音的技術，在英語或普通話方面會成熟一點，粵語方面沒那麼成熟。不過科技一日千里，或許半年或一年後廣東話語音的複製技術會開始普及，到時要更加小心。」
為針對各類詐騙案件，警方早前委任4名年輕警務人員為「防騙刑警」，化身防騙KOL提高公眾防騙意識。對於AI技術遭利用犯案，警方亦公開防騙貼士。「防騙刑警」之一的網絡安全及科技罪案調查科高級督察陳智穎稱，要破解AI換臉除了留意影片內人物的眼神，以及口型有否不自然之處外，亦可要求對方在鏡頭前面用手指慢慢橫過臉部，騙徒的電腦程式可能因為無法適應這突如其來的改變，因此出現穿崩。
商業罪案調查科高級督察張文瀚則提醒，當與他人通電話或進行視像通話時，縱然覺得對方的聲音與自己親友十分相似，亦不能排除被騙的機會，要嘗試從對話內容、一些只有親友間才知道的資訊，從而核實對方身份的真假。
______________________________________________________
《星島申訴王》為民請命抱不平、追蹤城中熱話，亦會搜羅坊間溫情小故事。你申訴，我跟進，WhatsApp搵91999933，《星島申訴王》隨時候命！
《星島頭條》APP經已推出最新版本，請立即更新，瀏覽更精彩內容：https://bit.ly/3yLrgYZ
最新回應