「蘋果卡」涉性別歧視 監管當局查演算法
2019-11-11 00:00(星島日報報道)科技巨擘蘋果公司數月前與高盛集團聯手發行信用卡「蘋果卡」,但美國一位持卡人因其妻子的信用評級較他好,但獲批的信用額度反低他二十倍,指控發行機構信用額度程式採用的「黑箱」演算法,涉及性別歧視。他的推文在網上瘋傳。紐約金融監管機關周日表示正在調查此事。
他指發行機構採用「黑箱」演算法,給他高於他太太二十倍的信用額度,然而他們是合併報稅,而且太太的信用評分也比他好。但他沒有披露他與妻子的收入詳情。在電腦界,「黑箱」演算法指其所作決定無法解釋的人工智能系統。
漢森的推文闡述與蘋果客戶服務專員對話毫無用處,因對方表示無法解釋這樣的差異,將此歸咎於判定申請人信用度的演算法。漢森說:「高盛和蘋果將信用額度評級交給『黑箱』(演算),其原意並非性別歧視,但卻產生性別歧視的結果。」
漢森是流行程式語言Ruby on Rails的發明人,且是網上軟件開發公司Basecamp的合夥人。紐約州金融服務署署長萊斯威爾的發言人表示,該監管機關將「調查此事以確定是否違反紐約法律,並確保任何性別的消費者都會被公平對待」。發言人又說:「任何演算法不論有意或無意造成女性或任何其他受保護階級,遭到歧視待遇,都違反紐約法律。」
高盛發言人說:「我們對信用程度的判定,根據的是客戶的信譽,而非如性別、種族、年齡、性取向或任何法律禁止的因素。」
傳統銀行現正增加使用人工智能系統評定客戶的信用額度,以減省成本及增加借貸申請宗數。美國眾議院金融服務委員會六月聆訊有關(人工智能系統)演算決定的案例,因為研究人員發現,雖然系統本身無歧視意圖,但出現偏向針對特定群體的事件。
關鍵字
最新回應