內地嚴管生成式AI 要申報安全評估 用戶需實名使用
2023-04-11 14:07
官媒日前批評ChatGPT概念股有估值泡沫化跡象後,國家網信辦周二發布《生成式人工智能服務管理辦法(徵求意見稿)》,要求該類產品應體現社會主義核心價值觀,不得含有顛覆國家政權等內容;產品向公眾提供服務前,需向國家網信部門申報安全評估;而用戶使用亦需要「實名制」。違反規定者最高判處10萬元(人民幣,下同)罰款,嚴重者或被追究刑事責任。
目前已推出生成式AI模型的國內科技企業,包括阿里巴巴(9988)「通義千問」、商湯(020)「日日新」及百度(9888)「文心一言」。消息令科技股及ChatGPT概念股倒跌,其中昨日宣佈推出大模型人工智能(AI )產品「日日新」的商湯,股價大坐過山車,由意見稿公布前急升逾一成,高見3.7元,倒跌低見3.13元,跌6%,收報3.3元,跌0.9%。騰訊(700)跌2.3%,收報376.6元;美圖(1357)挫5.6%,報2.2元;百度跌5.4%,報135.2元。阿里巴巴升1.6%,收報99.3元。
相關新聞:官媒批ChatGPT概念股有估值泡沫化跡象 板塊市盈率達136倍
不得含有顛覆國家政權內容
意見稿建議,利用生成式人工智能生成的內容應當體現社會主義核心價值觀,及應當真實準確,不得含有顛覆國家政權、推翻社會主義制度,煽動分裂國家,及可能擾亂經濟秩序和社會秩序的內容。服務提供者應採取措施防止生成虛假信息;防止出現種族、年齡等歧視;不得利用算法、數據、平台等優勢實施不公平競爭;需採取適當措施防範用戶過分依賴或沉迷生成內容。
內地科企爭相推生成式AI:
![商湯近日公布,推出自家的類ChatGPT應用——「商量 (SenseChat)」,其為基於商湯大模型體系「日日新(SenseNova)」的中文語言大模型應用平台。](https://image.hkhl.hk/f/1024p0/0x0/100/none/bdb9c0b5f95572a1b22816484153eab7/2023-04/i_src_004209693.jpg)
![阿里巴巴的大模型「通義千問」已開始邀請企業用戶測試體驗。阿里所有產品未來將接入「通義千問」,進行全面改造。](https://image.hkhl.hk/f/1024p0/0x0/100/none/215ac20eed475c90c726453d9d455252/2023-04/%E4%B8%8B%E8%BC%89%20%2810%29.jpg)
![百度最早推出類似ChatGPT的「文心一言」,並支援文字生成圖片功能。](https://image.hkhl.hk/f/1024p0/0x0/100/none/6d9aee8bc08681c58b33b69311703717/2023-04/i_src_008283724.jpg)
![在文心一言輸入「初中生,女孩,黑頭髮,校園,二次元」,其生成圖片中的女孩,面部扭曲、比例失調。](https://image.hkhl.hk/f/1024p0/0x0/100/none/47f156021979fe3dc10762ac81cbc8c9/2023-03/2130871.jpg)
![文心一言文生圖功能所製作的女孩圖片比例失調,被指畫工欠佳](https://image.hkhl.hk/f/1024p0/0x0/100/none/f39515117693414db58e8357a460b50c/2023-03/6912475.jpg)
![文心一言的「文生圖」能力,經實測部分結果引起網民質疑](https://image.hkhl.hk/f/1024p0/0x0/100/none/e5e0b1bf4ef6ecb245b7d356efd9fc52/2023-03/167922514832_n.jpg)
![文心一言文生圖功能所製作的女孩圖片比例失調,被指畫工欠佳](https://image.hkhl.hk/f/1024p0/0x0/100/none/c8eb9fe81bc7ea399aa4fe9567188a2f/2023-03/167922515777_n.jpg)
![文心一言繪圖「炒車」,主要是因為它完全根據字面上的意思來繪畫。](https://image.hkhl.hk/f/1024p0/0x0/100/none/46d912ccc1aa2153eee57d29409edf3c/2023-03/6da17e26gy1hc9n0wdxgaj20pm13w794.jpg)
![網民指示文心一言畫中國名菜「夫妻肺片」,結果出現恐怖圖片。](https://image.hkhl.hk/f/1024p0/0x0/100/none/222f09fa032289420a6a695ca49e9b1f/2023-03/6da17e26gy1hc9n0x2i0pj20u01fw470.jpg)
![文心一言亦被質疑聽不懂指令,網民揭其反饋邏輯是先將中文指令翻譯成英文再作圖](https://image.hkhl.hk/f/1024p0/0x0/100/none/7dd24584738fba3a5a5518855e653721/2023-03/6da17e26gy1hc9n0xg2cvj20lh0wg78p.jpg)
![文心一言最驚嚇畫仍之一,一道「魚香肉絲」由於過於寫實,網友直喊「看完都不敢吃魚了」。](https://image.hkhl.hk/f/1024p0/0x0/100/none/ef15a87e68260edcfd5d4f0618eea649/2023-03/6da17e26gy1hc9n3hqoxoj20u01e7doa.jpg)
![文心一言另一「傑作」。](https://image.hkhl.hk/f/1024p0/0x0/100/none/baa042d7f2c295b97d0f51b20d0784f4/2023-03/6da17e26gy1hc9n3i1ld0j20u012btee.jpg)
![文心一言另一「傑作」。](https://image.hkhl.hk/f/1024p0/0x0/100/none/39a20b81c45e07f3d311d4c7231c304b/2023-03/6da17e26gy1hc9n3idi72j20u011xq5j.jpg)
![文心一言另一「傑作」。](https://image.hkhl.hk/f/1024p0/0x0/100/none/4eff7a73645656be3a9b8f757a38172a/2023-03/s_ced0c7c996c547c8a925567d2a931720.jpg)
![百度首席執行官李彥宏反駁,稱ChatGPT本身沒有文生圖能力,「在另一個角度比較的話,ChatGPT落後百度,文心一言早就有這個能力」](https://image.hkhl.hk/f/1024p0/0x0/100/none/54e2f65d043732ca6851190c7a412fa1/2023-04/China_Baidu_98621--e4871.jpg)
服務商須申報安全評估
此外,利用生成式人工智能產品向公眾提供服務前,應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估,並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。
用戶需實名制
意見稿亦建議,提供生成式人工智能服務應當按照《網絡安全法》規定,要求用戶提供真實身份信息,另對生成的圖片、視頻等內容進行標識。
3個月內修正不當內容
若於運行中發現、用戶舉報的不符合監管要求的生成內容,除採取內容過濾等措施外,意見稿要求應在3個月內通過模型優化訓練等方式防止再次生成。此外,提供者發現用戶利用生成式人工智能產品過程中違反法律法規,違背商業道德、社會公德行為時,包括從事網絡炒作、惡意發帖跟評、製造垃圾郵件、編寫惡意軟件,實施不正當的商業營銷等,應當暫停或者終止服務。
若提供者違反該辦法規定的,由網信部門和有關主管部門按照《網絡安全法》、《數據安全法》及《個人信息保護法》等法律、行政法規的規定予以處罰。法律、行政法規沒有規定的,由網信部門和有關主管部門依據職責給予警告、通報批評,責令限期改正;拒不改正或者情節嚴重的,責令暫停或者終止其利用生成式人工智能提供服務,並處1萬元以上、10萬元以下罰款。構成違反治安管理行為,依法給予治安管理處罰;構成犯罪的,依法追究刑事責任。
相關新聞:美國政府研究監管ChatGPT等AI工具
ChatGPT禁止在中國使用
事實上,內地嚴控生成式AI早有先兆。早於今年2月,號稱首個國產ChatGPT、由初創公司元語智能研發的對話式AI「ChatYuan」運作僅數日,疑回覆不「符合國情」而被消失。
美國科技公司OpenAI今年初推出聊天機器人「ChatGPT」,在全球掀起AI熱潮,但禁止內地用戶使用,未有解釋原因,有傳內地監管機構要求內地大型科企禁止向公眾提供ChatGPT服務,並引述國內科技巨頭之一的高管指,中國需要有自己版本的ChatGPT,因受審查問題所限,ChatGPT永遠無法入華。
儘管無法在內地使用,ChatGPT概念在內地仍相當熱門,許多中國用戶會利用VPN等方式使用境外的ChatGPT,中國也出現過許多仿製ChatGPT的微信公眾號、小程序等,不過自從公安部官方提醒該類產品為釣魚郵件,「具有欺騙性和迷惑性」之後,多個電商平台封禁此類產品,相關關鍵字也被遮蔽。現如今,百度、阿里巴巴、商湯等科技公司均陸續推出自己的「ChatGPT」產品。
最新回應