来论｜AI模范框架切合业界需要 促进人工智能安全

随着人工智能（AI）急速发展，越来越多企业有意将AI应用于营运之中，以提升其生产力或业务板块。AI的应用涵盖各行各业，例如营销人员可利用AI分析每个客户的喜好，并自动生成个人化的推广讯息；医生可透过AI技术分析病人的病历及医疗数据，协助他们确认病因；保险公司亦能够借助AI软件自动处理客户的索偿文件，提升效率。
韩聊天机械人误泄商业机密

无可置疑，AI世代已经来临，AI极可能为我们的生活带来翻天覆地的变化。虽然企业采用AI的资金门槛及技术要求渐渐降低，但企业亦要留意采用AI的风险，包括私隐风险及道德风险，包括审查AI系统会不会生成不准确或泄露客户的个人资料的资讯，或会不会作出不公平或不当的决策。

若员工不清楚AI的风险，而企业也没有提供足够的培训及支援，亦可能引致「AI事故」发生。举例而言，AI聊天机械人或会将员工输入的资料储存至其资料库，并且在回答其他员工的问题时提供这些资料。若这些资料包含个人资料或商业机密，则会为企业带来资料外泄风险。去年正正有韩国科技巨企的员工使用聊天机械人时错误地输入了公司的机密资料，包括程式的原始码，引起轩然大波。

面对人工智能带来的潜在风险，人工智能安全不容忽视。国家去年10月发布的《全球人工智能治理倡议》也强调各国都应秉持发展与安全并重的原则。事实上，人工智能安全乃国家安全的重点领域之一，日前第二十届三中全会通过的《中共中央关于进一步全面深化改革 推进中国式现代化的决定》正正提到要建立人工智能安全监管制度，推进国家安全体系和能力现代化。

根据个人资料私隐专员公署（私隐专员公署）和香港生产力促进局于去年11月发表的一项调查，事实上不少企业都意识到AI，尤其是生成式AI，所带来的风险。尽管他们对使用AI充满兴趣，但碍于资源有限，他们担心在缺乏专业指导的情况下，会在合规方面遇到困难，甚至不慎违反法律规定。

私隐专员公署明白企业在使用AI时需要得到适切的指引，从而提升其AI管治水平，以妥善保障客户的个人资料私隐，并减低AI的风险。为了体现国家的《全球人工智能治理倡议》，私隐专员公署出版了《人工智能（AI）：个人资料保障模范框架》（《模范框架》），旨在协助机构在采购、实施及使用AI，包括生成式AI时，遵从《个人资料（私隐）条例》的相关规定。
四大范畴内容易明助掌精髓

《模范框架》就以下四个范畴提供了国际认可及切实可行的建议及最佳行事常规：（一）制订AI策略及管治架构；（二）进行风险评估及人为监督；（三）实行AI模型的定制与实施及管理AI系统；以及（四）促进与持份者的沟通及交流。《模范框架》乃参照一般企业的业务流程而设计，内容显浅易明，并无太多技术用语，相信一般机构都容易理解当中的建议措施，可以在日常营运之中付诸实行。为了帮助业界理解《模范框架》的建议，公署亦已出版了介绍《模范框架》的懒人包，摘录《模范框架》的主要建议，让各界可轻易掌握《模范框架》的精髓。

有见不同机构应用AI的目的、方式各异，为贴合业界的实际情况，《模范框架》建议机构以「风险为本」的方式管理AI，根据AI可能对持份者构成的风险高低而采取相应的风险缓减措施，包括决定人为监督的程度。以用于评估个人信贷的AI系统为例，它的决定可导致申请信贷人士无法获得信贷安排，对他们的影响较大、构成的风险水平较高，机构应考虑实施人为监督；若AI系统不太可能对持份者造成重大影响，例如是用于内部翻译或文书工作的生成式AI，其运作则可考虑完全自动化。

《模范框架》推出以来，业界反应十分正面。我深信《模范框架》将有助孕育AI在香港的健康及安全发展，促进香港成为创新科技枢纽，并推动香港以至大湾区的数码经济发展。

欢迎大家浏览私隐专员公署网站pcpd.org.hk，参阅《模范框架》及懒人包。

锺丽玲
个人资料私隐专员