AI换脸 恶名远播 侦破技术 辨真伪 ｜STEM教室
2025-01-01 14:00 
民间常言「有片有真相」，但原来今日的人工智能技术，可肆意操纵你的脸，说出你没说过的话、做出你没做过的事，甚至在韩剧《黑色太阳》里，就有凶手在监控镜头，借主角的脸犯罪的桥段。
Deepfake（深伪技术），以人工智能伪造脸部图像，合成影片。近年，还因不断传出犯罪事件而「恶名远播」，各地政府对此忧心忡忡，研究立例监管之外，更促请专家研发辨伪技术，对抗泛滥的「Deepfake」。一场真与假的攻防战，掀起帷幕。
「合成相」概念的换脸技术
探讨「真与假」之前，先和各位同学玩玩游戏。以下只有一张是真实存在的脸孔，其馀都是用AI技术合成的「假面」。大家能够一眼看出端伪，找出真正的人脸吗？
如果大家对 Deepfake 一头雾水，只要知道它与「合成相」的概念相似，再进一步加上深度学习（Deep Learning）与人工智能技术（Artificial intelligence，AI），利用既有的图像进行加工、重叠，便可合成新照片甚至影片。
人类表情千变万化，小小脸皮下藏着43条肌肉，有十分丰富的图像讯息，一向难以合成造假。2014年，Google Brain 的研究员 Ian Goodfellow 首次提出了 Deepfake 深度学习的原创概念，加上 AI 深度学习技术「生成式对抗网络」（Generative Adversarial Networks，GAN）出现，电脑能高速而精确地运算，把人脸分析、拆解再重构，组合成想要的面貌和表情，逐渐达到以假乱真的效果，便是大家现时见到的「换脸技术」。
进入「造假」大时代
2017年，外国网上讨论区 reddit 有不良分子藉此技术制作色情短片，不少人争相模仿，更滥用于假新闻、抹黑名人等等恶意用途，自此人们称其为「Deepfake」。由于 Deepfake 技术容易取用，网上流传不少开源程式，使用者甚至毋须理解任何原理，安坐家中便可以自动生成「假片」，使得乱象丛生。
2019年，网上已有逾1万部公开的 Deepfake 影片，至2020年，数字达到5万部，增长速度以倍数上升，当中更陆续传出有关 Deepfake 的犯罪活动，情况堪忧。
换脸：从图片到影片
Deepfake 到底如何把你的表情和说话套上另一个人的脸呢？原来，演算法会先经过「训练」，当你把A和B两人的照片交付 Deepfake 编码器，演算法通过大量真实照片，拆解并分析他们的五官特徵，储存于极少的潜在空间（latent space），演算法的解码器用这些碎片还原成完整的人脸；接着，编码器便可以A的表情、嘴形等特徵，套用于B的脸孔上，生成一段以假乱真的换脸影片。
临摹画家与鉴画师
Deepfake 的核心技术是「生成式对抗网络」，概念就如一个临摹画家与鉴画师的矛盾大对决，前者尽力绘制仿品，后者则负责拆穿谎言，至死方休。
演算法内部会分成两个对立的部门，「生成」（ Generator） 与「鉴别」（Discriminator），当鉴别器认出仿品，便会作出误差反向传播（backpropagation），生成器因应反向的结果，作出更新和改良，然后再次挑战，直到成功骗过鉴别器的法眼。过程中，不需人手操作，全是演算法的内部斗争，属于非监督式学习（Unsupervised learning）的一种。
应用程式犯案
其实，即使 Deepfake 背后涉及复杂人工智能的科学原理，但坊间流传各种开源「换脸程式」，用家毋须理解 AI 如何运作亦可随意应用。因此，技术面世至今短短数年，世界各地也传出不少有关的罪案，使 Deepfake 臭名远播：
【台湾】
2022年10月，台湾网络红人「小玉」利用 Deepfake 换脸技术制作色情影片，获利超过一千万台币。当地政府以「散播猥亵物」与「妨害名誉」等罪拘捕涉案者，事件引起社会关注「数码化的性暴力」罪案。
【英国】
2019年3月，据《华尔街日报》报道，英国一家能源公司被骗取超过 24 万美金。骗徒利用 Deepfake 技术制作录音，假冒公司高层向员工指示提款，由于录音仿真度极高，不论是声綫，还是语气都毫无破绽，员工不虞有诈，依言行事。直至贪心的骗徒三度要求提款，惹起疑心，才最终落网。事件反映 Deepfake 与商业诈骗或会成为新的犯罪组合。
英国驻港公司女职员堕Deepfake骗局 遭AI「上司」视像会议呃400万元
深伪技术呃跨国企业2亿元案 工程公司奥雅纳证遇骗 有份建设港珠澳大桥
补充资料
创伤数位化（The Digitisation of Trauma）
数码科技的进步，为我们带来便利的同时，亦衍生出相关的罪案。除了常见的金钱损失之外，网络罪案亦经常对受害人心理带来严重创伤，这种数位时代特有的情况称为「创伤数位化」（The Digitisation of Trauma）。常见有网络欺凌、恶意中伤、散播谣言等，皆借助网络传播的威力伤害他人。而 Deepfake 最为人诟病之处，便是 「偷取」受害者（以女性为主）的脸孔，制造不雅影片，散播谋利，使受害人承受莫大的心理压力。
Deepfake欺凌｜美国比华利山中学生用AI伪造同学裸照 5涉案学生全退学处分
破解Deepfake有法
1. 双目有神 侦测角膜反光度
Deepfake 犯罪活动日益猖獗，促使各地政府和专家不得不严肃对待，纷纷创制出不 同的识别技术，侦破肉眼真假难分的换脸影片。其中，美国纽约一所大学（University at Buffalo）的科学家利用眼球反光度，识别照片中的人到底是真人，还是Deepfake合成的假脸。
原来，人类双眼角膜有镜面般的表面，当我们看着一件物品，两眼反射的光綫几近相同。相反，Deepfake 合成的人脸，两眼角膜的反光度通常不会一致，呈现不同形状和角度的反射。专家藉此研发出一种分辨率达九成的演算法，有效分辨出真假照片。不过，道高一尺，魔高一丈，项目负责人表示，生成假照片的人可以后期调整眼睛的反光度，避过这套系统的侦测。
2. 脸有颜色 新法侦破假影片
2022年六月，美国的电机电子工程师学会（IEEE）网站刊出一篇论文，专家研发出一套以血氧仪为基础的演算法。人脸血管密布，虽然肉眼难以察觉到脸部血液流动的变 化，但以仪器量度，便能发现人类皮肤上区域性颜色变化，这套技术名为「光体积变化描记图法」（Photoplethysmography，PPG），并早已应用于一些穿戴式智能产品，如 Apple Watch。专家指出，真实影片中的人脸会呈现一种符合规律的颜色变化，而合成的影片则呈现出一堆不稳定的 PPG 信号，在这套技术下无所遁形。
Deepfake 的正面应用
虽然 Deepfake 经常被滥用于犯罪用途，但技术本身无善恶之分，端看使用者的选择而得出不同的结果。
- 无人驾驶：上文提到的 GAN 常应用于开发无人驾驶车辆，开发人员藉 GAN 生成大量虚构场景，模仿一些现实中难以大量取得的路况数据，如雪地等极端天气，完善无人车上的人工智能，在突发情况下有更理想的应对方案。
- 电影制作：愈来愈多电影公司在影片中运用 Deepfake 技术，例如迪士尼研究室就与苏黎世联邦理工学院合作，以 Deepfake 为基础，研发高解像度的换脸技术，使人物的五官和光綫更逼真和自然。有电影人表示，新技术可以使年老，甚至已逝的明星，以最佳面貌「出演」，满足影迷的心愿。
由此可见，科技的好与坏，很大程度上取决于使用者的目的，随着新技术的普及和进步，学者开始担心人类是否具备足够的道德和智慧去运用这些力量，因而提出「科技伦理」专门讨论如何应用科技的问题。
补充资料
科技伦理
美国哈佛大学开设一门名为「Embedded EthiCS」的课程，处理人类社会如何看待科技进步带来的伦理问题，常见的议题例如修改人类基因、制造复制人、保障大数据下的私隐权 等。
而 Deepfake 的发展同样带来科技伦理的问题，因为其高度仿真的成品，使网络出现大量真假难分的影片，加上大部分可靠的辨伪技术都掌握在专家手上，大众难以辨别真相。令人担忧这将会演变成一种新常态，即传释可靠资讯的权利被个别单位牢牢控制，而大众将失去监督作用，最终大多数人成为少数人能够轻易愚弄的对象。不过，这些大胆推测会否成真，就留待各位同学仔细思考。
答案：第四张是真实人脸
文：卢家彦 图：星岛图片库、网上图片
相关文章：STEAM｜眼见未为真！拆解Deepfake｜星岛教室
最新回应