大陸國家互聯網信息辦公室, 中共網信辦 CCP Internet Cyberspace Admin China

[Henryincen]

內地嚴管生成式AI 要申報安全評估 用戶需實名使用
https://std.stheadline.com/realtime/arti...F%E7%94%A8


官媒日前批評ChatGPT概念股有估值泡沫化跡象後，國家網信辦周二發布《生成式人工智能服務管理辦法（徵求意見稿）》，要求該類產品應體現社會主義核心價值觀，不得含有顛覆國家政權等內容；產品向公眾提供服務前，需向國家網信部門申報安全評估；而用戶使用亦需要「實名制」。違反規定者最高判處10萬元（人民幣，下同）罰款，嚴重者或被追究刑事責任。

目前已推出生成式AI模型的國內科技企業，包括阿里巴巴（9988）「通義千問」、商湯（020）「日日新」及百度（9888）「文心一言」。消息令科技股及ChatGPT概念股倒跌，其中昨日宣佈推出大模型人工智能（AI ）產品「日日新」的商湯，股價大坐過山車，由意見稿公布前急升逾一成，高見3.7元，倒跌低見3.13元，跌6%，收報3.3元，跌0.9%。騰訊（700）跌2.3%，收報376.6元；美圖（1357）挫5.6%，報2.2元；百度跌5.4%，報135.2元。阿里巴巴升1.6%，收報99.3元。

相關新聞：官媒批ChatGPT概念股有估值泡沫化跡象 板塊市盈率達136倍

不得含有顛覆國家政權內容
意見稿建議，利用生成式人工智能生成的內容應當體現社會主義核心價值觀，及應當真實準確，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家，及可能擾亂經濟秩序和社會秩序的內容。服務提供者應採取措施防止生成虛假信息；防止出現種族、年齡等歧視；不得利用算法、數據、平台等優勢實施不公平競爭；需採取適當措施防範用戶過分依賴或沉迷生成內容。

內地科企爭相推生成式AI：

服務商須申報安全評估
此外，利用生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

用戶需實名制
意見稿亦建議，提供生成式人工智能服務應當按照《網絡安全法》規定，要求用戶提供真實身份信息，另對生成的圖片、視頻等內容進行標識。

3個月內修正不當內容
若於運行中發現、用戶舉報的不符合監管要求的生成內容，除採取內容過濾等措施外，意見稿要求應在3個月內通過模型優化訓練等方式防止再次生成。此外，提供者發現用戶利用生成式人工智能產品過程中違反法律法規，違背商業道德、社會公德行為時，包括從事網絡炒作、惡意發帖跟評、製造垃圾郵件、編寫惡意軟件，實施不正當的商業營銷等，應當暫停或者終止服務。

若提供者違反該辦法規定的，由網信部門和有關主管部門按照《網絡安全法》、《數據安全法》及《個人信息保護法》等法律、行政法規的規定予以處罰。法律、行政法規沒有規定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停或者終止其利用生成式人工智能提供服務，並處1萬元以上、10萬元以下罰款。構成違反治安管理行為，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

相關新聞：美國政府研究監管ChatGPT等AI工具

老虎國際推AI投資助手TigerGPT 將支援粵語

ChatGPT禁止在中國使用
事實上，內地嚴控生成式AI早有先兆。美國科技公司OpenAI今年初推出聊天機器人「ChatGPT」，在全球掀起AI熱潮，但禁止中國用戶使用，未有解釋原因，有傳中國監管機構要求內地大型科企禁止向公眾提供ChatGPT服務，並引述中國科技巨頭之一的高管指，中國需要有自己版本的ChatGPT，因受審查問題所限，ChatGPT永遠無法入華。

儘管無法在中國使用，ChatGPT仍相當熱門，許多中國用戶會利用VPN等方式使用境外的ChatGPT，中國也出現過許多仿製ChatGPT的微信公眾號、小程序等，不過自從公安部官方提醒該類產品為釣魚郵件，「具有欺騙性和迷惑性」之後，多個電商平台封禁此類產品，相關關鍵字也被遮蔽。現如今，百度、阿里巴巴、商湯等科技公司均陸續推出自己的「ChatGPT」產品。