釣魚訊息成網絡最大威脅 黑客利用大語言模型 令人更易上當

2023-10-02 10:30

眾創時代,生成式AI進入主流,大語言模型(LLM)有如雨後春筍,應用普及化加速。由於市場嚴重缺乏技術人手,初期應用均集中在協助設備設定。

透過生成式AI,廠商可協助用戶簡化設定設備,節省管理人手。近期思科終於宣布推出生成式AI應用,未來擴展至全線保安產品,目前Cisco Policy Assistant可為防火牆建議設定規則,簡化管理工作。

長遠來說,思科會推出針對保安營運中心(Security operations centre,SOC)生成式AI助手,從電子郵件、Web、端點和網絡日誌檔,直接推論出網絡威脅和影響的範圍,建議修復方法,設置最佳的防禦步驟。

分析日誌快速應變

類似生成式AI協助網絡和保安設定越來越普遍。據Juniper Networks亞太區企業總監梁定康說,以Juniper全球首創的虛擬網絡協定助手Marvis為例,透過Mist AI的自然語言對話,協助全域網絡設備設定和維護,生成式AI學習最佳設定,自動找出適合建議,降低維護人員技術要求,其實越來越成為常態。

「生成式AI應用於保安分析研究,正是方興未艾,以自然語言處理分析日誌,已呈現不少優勢,潛力不容忽視。」梁定康指出。

近期多間公營機構受攻擊,更多機構考慮安裝「保安資訊及事故管理」(SIEM),及早識別入侵威脅。SIEM的原理是分析系統內多個來源紀錄或日誌檔,全面了解網絡狀況後,通過關聯性引擎(Correlation Engine)的分析,識別和回應威脅入侵,問題在於SIEM經常產生大量報告和雜音,難以逐一以人手分析,缺乏專業分析人員,管理SIEM往往要延聘專業外判商,不少廠商加入AI功能,以減少SIEM的誤鳴。

但是,生成式AI不但可減少以人工分析數據,還可在關聯性的分析以外,加入新分析機制,更快速識別攻擊,營運成本也更低。

梁定康指出,以全球最大數據科學比賽平台Kaggle為例,一直舉辦比賽透過高額獎金,鼓勵開發人員創新算法和預測分析,解決網絡和保安難題。以往不少透過機器學習分析;近期Kaggle流行以LLM開發識別威脅方案,效果甚至比機器學習算法,還更勝一籌。從Kaggle上趨勢推測,生成式AI應用於保安分析研究,正是方興未艾,以自然語言處理分析日誌,已呈現不少優勢,潛力不容忽視。

他提到,「以往,數據科學家先分類不同數據,暸解結構和相關性後,建立起預測性算法;LLM則透過自然語言處理(NLP)深度學習,直接讀取日誌內容,建立相關性再產生可能答案,幾乎毋須編程,就可找出相關性,新一代LLM具「多模態」(Multi -Modal)能力,結合蛛絲馬跡,獲得更準確答案。」

AI保安雨後春筍

近代的LLM透過Transformer技術,利用自注意力機制,免除大量標注數據和數據分類,又解決多層深度學習的失真,準確分析大量日誌,可迅速找出可疑活動。

梁定康說,LLM深刻影響網絡管理和保安,以Skyhawk、Microsoft、Google Cloud三間公司推出LLM工具為例,可直接評估識別網絡的威脅。Skyhawk以LLM提高識別威脅準確性,甚至可自我改進的AI威脅分析框架,套用不同LLM分析日誌檔後,均可加快識別惡意行為,而且準確度更高。

Skyhawk曾利用ChatGPT4,加快識別速度達78%,Skyhawk推出基於不同LLM的預測評分,發現部署Meta開源Llama2,識別威脅的準確率,竟還高於ChatGPT4。Llama2免費授權又可本地部署,再結合API擴展用途。不少保安應用傾向以本地部署,Skyhawk發現可本地部署LLM,檢測能力較收費版本更佳,LLM用於威脅應用,帶來更多啟示。

Microsoft推出Security Copilot工具,而Google Cloud推出了Security AI Workbench,兩者利用LLM配合保安技術和網上最新情報,亦可更快反應消除威脅。

以子之矛攻子之盾

梁定康認為,不少研究也集中以LLM作終端防禦。網絡釣魚電郵和訊息,已成為網絡上最大威脅。黑客已經利用LLM,通過學習攻擊目標的個人訊息,編寫更易令人上當個人化欺詐內容,研究人員也開發LLM應用,自動識別出類似的詐騙訊息。「生成式AI透過學習後,就產生適當建議,小量數據已可作分析,毋須累積大量數據作訓練,已可獲得準確結論。多間初創正開發方案,自動分析可疑意圖訊息,以識別網絡欺詐。」

不少人預期,LLM加速普及化,很快成為手機和個人電腦標準應用,其中一個用途可過濾接收的訊息,警告用戶加以提防,隨身保安助手的出現,不再是天方夜譚。

--

《星島頭條》APP經已推出最新版本,請立即更新,瀏覽更精彩內容:https://bit.ly/3yLrgYZ

關鍵字

最新回應

You are currently at: std.stheadline.com
Skip This Ads
close ad
close ad