意禁聊天機械人Replika收集資料
2023-02-13 00:00
(星島日報報道)美國三藩市企業Luka於2017年推出的人工智能聊天機械人Replika,能與客戶談話及傾聽說話,但意大利近日禁止Replika使用意國用戶個人資料。「虛擬伴侶」Replika的部分用戶只是想要陪伴,但也有些人想要發展戀情、性愛聊天,甚至想看聊天機械人的性感照。去年底,有用戶開始投訴Replika使用過於露骨的文字和圖片,有些人認為已經屬於性騷擾範疇。意大利監管機構對這樣的情況感到不滿,在發現Replika違反歐盟《通用資料保護規則》(GDPR)後,上周禁止Replika收集數據。
歐盟定則或成AI天敵
目前,歐盟是討論管控這些新一代機械人的中樞,他們的人工智能法案(AI Act)已經在高層之間琢磨好幾個月,可能會在今年定案。
這些新一代聊天機械人和支撐它們的所謂生成式人工智能,有望徹底改變網絡搜尋等領域。但專家警告,監管機構需要擔心許多問題,尤其是當機械人變得如此強大,以至於無法辨識它們跟人類的不同。
關鍵字
最新回應