IG用AI系統識別欺凌內容　遇關鍵字即警告

2019-12-17 14:51

為打擊網絡欺凌，社交平台Instagram（IＧ）宣布，利用人工智能（AI）系統偵測用戶帖文有否包含語言爆力及冒犯的內容，提醒用戶修改。有關功能陸續開放予不同地區用戶，預計明年擴展至全球用戶。不過，系統過度敏感，只要出現「肥」、「死」、「醜」等關鍵字，都會出現提示字句。

IG為加強反欺凌，運用AI工具檢查並過濾用戶帖文內容，如發現含有令人不悅或帶有攻擊性的內容，會出示提示未句，警告用戶內容與其他被舉報的文字相似，給予用戶修改的機會。

類似的功能早在今年7月已開始，當時是針對用戶的冒犯性的留言進行提示，現時只是將功能範圍擴大至帖文內容。收到警告的用戶，可選擇修改留言或忽略警告。

開玩笑還是冒犯系統未能分辨

不過，IG的AI系統被網民批評過度敏感，只要偵測到相關字眼就會出現警告，未能分析整句文字的真正意思，笑指IG的人工智能系統不太聰明。

雖然香港仍未開放帖文辨識功能，但《星島網》記者灣測試留言辨識功能時，發現即使在美食圖片留下「肥死了」、「笑死人」、「醜死鬼」等開玩笑式留言，都會出現提示字句。

近年，IG陸續推出多項打擊網絡欺凌的功能，去年增設「限制」（Restrict）功能，允許用戶選封鎖個別帳戶及禁止個別帳戶留言。