意禁聊天機械人Replika收集資料

2023-02-13 00:00

用戶以手機與Replika虛擬伴侶聊天。
用戶以手機與Replika虛擬伴侶聊天。

(星島日報報道)美國三藩市企業Luka於2017年推出的人工智能聊天機械人Replika,能與客戶談話及傾聽說話,但意大利近日禁止Replika使用意國用戶個人資料。「虛擬伴侶」Replika的部分用戶只是想要陪伴,但也有些人想要發展戀情、性愛聊天,甚至想看聊天機械人的性感照。去年底,有用戶開始投訴Replika使用過於露骨的文字和圖片,有些人認為已經屬於性騷擾範疇。意大利監管機構對這樣的情況感到不滿,在發現Replika違反歐盟《通用資料保護規則》(GDPR)後,上周禁止Replika收集數據。

Replika現在恐又面臨歐盟更嚴格規範。歐盟根據《通用資料保護規則》,已對多家屢次違規的大型科技公司,處以數十億美元的罰款。意大利當局的決策表明,這項規則可能成為最新一代聊天機械人的天敵。
歐盟定則或成AI天敵

目前,歐盟是討論管控這些新一代機械人的中樞,他們的人工智能法案(AI Act)已經在高層之間琢磨好幾個月,可能會在今年定案。

這些新一代聊天機械人和支撐它們的所謂生成式人工智能,有望徹底改變網絡搜尋等領域。但專家警告,監管機構需要擔心許多問題,尤其是當機械人變得如此強大,以至於無法辨識它們跟人類的不同。

關鍵字

最新回應

相關新聞

You are currently at: std.stheadline.com
Skip This Ads
close ad
close ad