IG用AI系统识别欺凌内容 遇关键字即警告
2019-12-17 14:51
为打击网络欺凌,社交平台Instagram(IG)宣布,利用人工智能(AI)系统侦测用户帖文有否包含语言爆力及冒犯的内容,提醒用户修改。有关功能陆续开放予不同地区用户,预计明年扩展至全球用户。不过,系统过度敏感,只要出现「肥」、「死」、「丑」等关键字,都会出现提示字句。
IG为加强反欺凌,运用AI工具检查并过滤用户帖文内容,如发现含有令人不悦或带有攻击性的内容,会出示提示未句,警告用户内容与其他被举报的文字相似,给予用户修改的机会。
类似的功能早在今年7月已开始,当时是针对用户的冒犯性的留言进行提示,现时只是将功能范围扩大至帖文内容。收到警告的用户,可选择修改留言或忽略警告。
开玩笑还是冒犯 系统未能分辨
不过,IG的AI系统被网民批评过度敏感,只要侦测到相关字眼就会出现警告,未能分析整句文字的真正意思,笑指IG的人工智能系统不太聪明。
虽然香港仍未开放帖文辨识功能,但《星岛网》记者湾测试留言辨识功能时,发现即使在美食图片留下「肥死了」、「笑死人」、「丑死鬼」等开玩笑式留言,都会出现提示字句。
近年,IG陆续推出多项打击网络欺凌的功能,去年增设「限制」(Restrict)功能,允许用户选封锁个别帐户及禁止个别帐户留言。
關鍵字
最新回应