IG用AI系统识别欺凌内容 遇关键字即警告

2019-12-17 14:51

Instagram利用人工智能(AI)系统侦测用户帖文内容,打击网络欺凌。。
Instagram利用人工智能(AI)系统侦测用户帖文内容,打击网络欺凌。。

为打击网络欺凌,社交平台Instagram(IG)宣布,利用人工智能(AI)系统侦测用户帖文有否包含语言爆力及冒犯的内容,提醒用户修改。有关功能陆续开放予不同地区用户,预计明年扩展至全球用户。不过,系统过度敏感,只要出现「肥」、「死」、「丑」等关键字,都会出现提示字句。

IG为加强反欺凌,运用AI工具检查并过滤用户帖文内容,如发现含有令人不悦或带有攻击性的内容,会出示提示未句,警告用户内容与其他被举报的文字相似,给予用户修改的机会。

类似的功能早在今年7月已开始,当时是针对用户的冒犯性的留言进行提示,现时只是将功能范围扩大至帖文内容。收到警告的用户,可选择修改留言或忽略警告。

开玩笑还是冒犯   系统未能分辨  

不过,IG的AI系统被网民批评过度敏感,只要侦测到相关字眼就会出现警告,未能分析整句文字的真正意思,笑指IG的人工智能系统不太聪明。

虽然香港仍未开放帖文辨识功能,但《星岛网》记者湾测试留言辨识功能时,发现即使在美食图片留下「肥死了」、「笑死人」、「丑死鬼」等开玩笑式留言,都会出现提示字句。

近年,IG陆续推出多项打击网络欺凌的功能,去年增设「限制」(Restrict)功能,允许用户选封锁个别帐户及禁止个别帐户留言。

若留言「肥死人」亦会出现提示字句。
若留言「肥死人」亦会出现提示字句。

關鍵字

最新回应

關鍵字

相關新聞

You are currently at: std.stheadline.com
Skip This Ads
close ad
close ad