【科技直talk】AI推荐系统 有被奸商操控之虞

自动推荐系统在内地每年的「双十一」购物节中大行其道，成为电子商务的关键技术。顾名思义，它的任务是根据潜在用户的兴趣，把合适的产品推荐给他们。在网购系统设计中，不论任何产品，如何跟踪用户的购物意图、识别合适的产品，是推荐技术的任务目标。

线上用户的意图，可以从其网上足迹及购物习惯可知一二。实际上，获取这些资讯轻而易举，然而在不同网络环境下，系统会采用不同的方法。在互联网商务，推荐系统可以透过记录及分析「用户点击」（User Clicks）而达到目标，例如用户访问过那些网站、在每个网站花了多少时间、过程中在那个网站购买或拒绝了那些产品等，资讯都可以帮助提升推荐任务的效能。

在社交网络商务环境中，同样的资讯可透过用户对话来获取，例如利用「自然语言处理」（NLP）AI技术分析用户的说话，从而了解用户喜欢或讨厌那类产品，甚至作出购物决定的理由，例如：在句子「我不想看『鱿鱼游戏』，因为画面太残忍了」中，「不想看」和「太残忍」分别表达了用户的「情感」和「理由」。然而，利用NLP分析句子，去判断出各词组的语意，并非容易。

概括而言，推荐系统的目标，是进行用户意向和产品特徵的配对。表面看来很简单，但落实时经常踫到两个困难：一是当系统碰上陌生用户（例如一个网购公司的新会员）时，由于系统之前并没有他的购物历史，所以未能有效推测他的意向。

这问题学术界称之为「冷启动」（Cold Start）。解决这问题的常用方法是「协同过滤」（Collaborative Filtering）。这技术通过分析用户和其他用户之间的相似性，来预测新用户可能感兴趣的产品，继而把产品推荐给他。例如甲与乙是好朋友，甲喜欢看金庸武侠小说，那麽系统估计乙也有相似的阅读兴趣，而把《鹿鼎记》推荐给他。

二是不少用户只顾在网上徘徊，无心购物。社交网络的推荐算法假设用户是具有明确意向，即他很清楚自己想要买的产品，因此系统能从用户的说话中识别出其意向。但在现实中，不少潜在顾客只在社交网络中漫无目的地与其他网友聊天，并没有意向去购物。在这情况之下，业界可以利同AI「对话系统」技术，模拟人类推销技巧，鼓其如簧之舌，在社交网络中引导及游说潜在用户「落叠」购买其公司的产品。

近期，「元宇宙」成为创科业界的热门话题。Meta、微软、腾讯等科技巨擘对「元宇宙」市场无不垂涎三尺，争相巨额投资。未来的网购活动必然会扩展至这三维「虚拟世界」，产品推荐工作将会由「虚拟推销员」执行，它会利用「行为分析」技术去了解每个虚拟人的生活（包括购物）、文化和习惯，例如它们经常光顾的「元宇宙」商店、玩的游戏等，从中找出潜在顾客，然后一步一步地「o氹佢落叠」，最后向他推销合适产品。

有效的推荐系统当然能为用户带来许多方便，但是不论是一维的互联网市场，二维的社交网络市场，或者三维的「元宇宙」市场，若然系统被不良分子或奸商操纵，用户便很容易「上当」受骗。正如某哲学家所言，人工智能有其美好的一面，然而「另一面可能会流淌着邪恶的资本基因，让不愿意思考的人把精神和灵魂交给虚拟世界，而这些人会成为供养资本的原料」。此言甚是，很值得还活在现实世界的你和我好好三思。

香港中文大学副院长（外务）

香港资讯科技联会荣誉会长

黄锦辉教授