【科技直talk】AI推薦系統 有被奸商操控之虞

自動推薦系統在內地每年的「雙十一」購物節中大行其道，成為電子商務的關鍵技術。顧名思義，它的任務是根據潛在用戶的興趣，把合適的產品推薦給他們。在網購系統設計中，不論任何產品，如何跟蹤用戶的購物意圖、識別合適的產品，是推薦技術的任務目標。

線上用戶的意圖，可以從其網上足迹及購物習慣可知一二。實際上，獲取這些資訊輕而易舉，然而在不同網絡環境下，系統會採用不同的方法。在互聯網商務，推薦系統可以透過記錄及分析「用戶點擊」（User Clicks）而達到目標，例如用戶訪問過那些網站、在每個網站花了多少時間、過程中在那個網站購買或拒絕了那些產品等，資訊都可以幫助提升推薦任務的效能。

在社交網絡商務環境中，同樣的資訊可透過用戶對話來獲取，例如利用「自然語言處理」（NLP）AI技術分析用戶的說話，從而了解用戶喜歡或討厭那類產品，甚至作出購物決定的理由，例如：在句子「我不想看『魷魚遊戲』，因為畫面太殘忍了」中，「不想看」和「太殘忍」分別表達了用戶的「情感」和「理由」。然而，利用NLP分析句子，去判斷出各詞組的語意，並非容易。

概括而言，推薦系統的目標，是進行用戶意向和產品特徵的配對。表面看來很簡單，但落實時經常踫到兩個困難：一是當系統碰上陌生用戶（例如一個網購公司的新會員）時，由於系統之前並沒有他的購物歷史，所以未能有效推測他的意向。

這問題學術界稱之為「冷啟動」（Cold Start）。解決這問題的常用方法是「協同過濾」（Collaborative Filtering）。這技術通過分析用戶和其他用戶之間的相似性，來預測新用戶可能感興趣的產品，繼而把產品推薦給他。例如甲與乙是好朋友，甲喜歡看金庸武俠小說，那麽系統估計乙也有相似的閱讀興趣，而把《鹿鼎記》推薦給他。

二是不少用戶只顧在網上徘徊，無心購物。社交網絡的推薦算法假設用戶是具有明確意向，即他很清楚自己想要買的產品，因此系統能從用戶的說話中識別出其意向。但在現實中，不少潛在顧客只在社交網絡中漫無目的地與其他網友聊天，並沒有意向去購物。在這情況之下，業界可以利同AI「對話系統」技術，模擬人類推銷技巧，鼓其如簧之舌，在社交網絡中引導及游說潛在用戶「落疊」購買其公司的產品。

近期，「元宇宙」成為創科業界的熱門話題。Meta、微軟、騰訊等科技巨擘對「元宇宙」市場無不垂涎三尺，爭相巨額投資。未來的網購活動必然會擴展至這三維「虛擬世界」，產品推薦工作將會由「虛擬推銷員」執行，它會利用「行為分析」技術去了解每個虛擬人的生活（包括購物）、文化和習慣，例如它們經常光顧的「元宇宙」商店、玩的遊戲等，從中找出潛在顧客，然後一步一步地「o氹佢落疊」，最後向他推銷合適產品。

有效的推薦系統當然能為用戶帶來許多方便，但是不論是一維的互聯網市場，二維的社交網絡市場，或者三維的「元宇宙」市場，若然系統被不良分子或奸商操縱，用戶便很容易「上當」受騙。正如某哲學家所言，人工智能有其美好的一面，然而「另一面可能會流淌着邪惡的資本基因，讓不願意思考的人把精神和靈魂交給虛擬世界，而這些人會成為供養資本的原料」。此言甚是，很值得還活在現實世界的你和我好好三思。

香港中文大學副院長（外務）

香港資訊科技聯會榮譽會長

黃錦輝教授