DSE备战公民科｜资讯素养—AI聊天工具注意资料外泄风险

2024-03-29 14:00

有关AI工具的3个数据

#近80%香港青年曾使用生成式AI工具
#去年全球有超过10万个ChatGPT用户的资料外泄
#有骗徒成功利用AI换脸程式假冒身份骗取7万元

个资被聊天程式储存

近年生成式人工智能（AI）及聊天机械人崛起，例如ChatGPT、Bard、文心一言等，成为不少市民及企业的「福音」，惟用户使用时或在无形中泄漏个人私隐及敏感资料，引起全球各地及不同行业关注。
生成式AI是基于「深度学习」技术，通过「学习」庞大原始数据生成新数据，当中或涉及机密或敏感的个人资料，例如身份证号码、财务资料等，均有可能被储存到人工智能工具的训练资料库中，并根据演算法提供予其他用户使用，增加资料外泄风险。去年6月至今年5月期间，亚太地区便有超过4万个ChatGPT用户的资料外泄，大部分个案因帐号装置接触带有窃密的恶意程式，导致用户资料被盗并遭转售图利。
此外，早于2008年，英国伦敦大学一份研究已将深度伪造技术（Deepfake）评级为最具威胁的人工智能犯罪隐患。由于近年应用深度伪造技术的应用门槛不断降低，生成的资料及成品几可乱真，近期更有不法之徒利用人工智能换脸程式冒认已报失身份证的市民，成功骗取巨额贷款及开设银行户口，可见人工智能骗局令人防不胜防！

要「自保」建防御意识

生成式人工智能工具越趋普及，带来私隐及资料外泄及被滥用的隐患，全球多国亦正研究通过立法及规管等措施减轻私隐及道德风险。本港方面，私隐专员公署早于2021年发布人工智能国际性道德标准指引，如行为监督、问责性、私隐保障等，近日更特别推出《使用AI聊天机械人「自保」十招》，冀市民能慎用这项变革性技术，保障个人资料私隐。
首先，大众在登记或使用相关程式前应细阅私隐政策，慎防假冒的AI聊天机械人及恶意应用程式、网站等，以免堕入欺诈陷阱。此外，AI聊天机械人依靠原始数据建构对答内容，稍有不慎则会泄漏私隐，因此在对话过程中，应避免分享个人敏感资料，包括姓名、职位、住址等，同时删除不必要的聊天记录或移除资料，减低资料外泄风险。
生成式人工智能技术的训练数据亦涉及道德问题，其生成的内容或带有现实世界的歧视、偏见，例如种族、性别歧视等，甚至因训练不足而出现虚假或不准确的资料，因此大众在使用相关资料时应明辨慎思，从不同途径查证资料真确性及避免侵犯知识产权。
科技发展一日千里，大众应时刻保持网络安全防御意识，同时安全及负责任地应用相关技术及工具，建立符合人类福祉的人工智能生态系统。