近日，國家(jiā)互聯網信息辦公室就《生(shēng)成式人(rén)工智能服務管理(lǐ)辦法（征求意見稿）》（以下簡稱“辦法”）公開(kāi)征求意見，引發廣泛關注。《規定》通(tōng)過系統性、創新性制(zhì)度設計(jì)，首次回應了對深度合成服務的管理(lǐ)要求，為(wèi)互聯網信息服務深度合成的規範發展提供了基本遵循和(hé)合法依據。

國內(nèi)首個(gè)AIGC監管辦法将至

辦法提到，國家(jiā)支持人(rén)工智能算(suàn)法、框架等基礎技(jì)術(shù)的自主創新、推廣應用、國際合作(zuò)，鼓勵優先采用安全可(kě)信的軟件、工具、計(jì)算(suàn)和(hé)數(shù)據資源。其中辦法涉及的生(shēng)成式人(rén)工智能包括基于算(suàn)法、模型、規則生(shēng)成文本、圖片、聲音(yīn)、視(shì)頻、代碼等內(nèi)容的技(jì)術(shù)。

辦法對利用生(shēng)成式人(rén)工智能産品提供聊天和(hé)文本、圖像、聲音(yīn)生(shēng)成等服務的組織和(hé)個(gè)人(rén)（簡稱“提供者”）的責任進行(xíng)了規定。提供者應當承擔該産品生(shēng)成內(nèi)容生(shēng)産者的責任、個(gè)人(rén)信息保護義務。利用生(shēng)成式人(rén)工智能産品向公衆提供服務前，需按規定向國家(jiā)網信部門(mén)申報安全評估。

此外，提供者需對預訓練數(shù)據、優化訓練數(shù)據來(lái)源的合法性負責，對标注人(rén)員進行(xíng)必要培訓，明(míng)确并公開(kāi)其服務的适用人(rén)群、場(chǎng)合、用途，對用戶的輸入信息和(hé)使用記錄承擔保護義務。

對于生(shēng)成式人(rén)工智能産品，提供者需要按照《互聯網信息服務深度合成管理(lǐ)規定》對生(shēng)成的圖片、視(shì)頻等內(nèi)容進行(xíng)标識等。

《辦法》關鍵要點

治理(lǐ)原則——AI技(jì)術(shù)研發者應遵循《辦法》草案中的治理(lǐ)原則。該原則部分沿襲了《數(shù)據安全法》相關內(nèi)容，即提供生(shēng)成式AI産品或服務應當尊重社會(huì)公德、公序良俗、他人(rén)合法利益以及法律法規。《辦法》草案還(hái)強調，利用生(shēng)成式AI生(shēng)成的內(nèi)容應當避免歧視(shì)、尊重知識産權并真實準确。此外，如防止算(suàn)法訓練中的歧視(shì)、避免不公平競争等算(suàn)法治理(lǐ)原則8也在《辦法》草案中得(de)到了呼應，體(tǐ)現了我國為(wèi)實現數(shù)據安全和(hé)個(gè)人(rén)信息保護社會(huì)責任9承諾的不懈努力。這些(xiē)原則顯然值得(de)提倡，然而，對剛剛問世的新興技(jì)術(shù)直接施加上(shàng)述責任是否操之過急，依然是值得(de)討(tǎo)論的命題。

價值觀——除了要求生(shēng)成內(nèi)容應當“體(tǐ)現社會(huì)主義核心價值觀”以外，《辦法》草案還(hái)沿用了《網絡信息內(nèi)容生(shēng)态治理(lǐ)規定》10中的要求，禁止生(shēng)成其規定的違法內(nèi)容。與《辦法》草案相似，其他國家(jiā)亦有(yǒu)将國家(jiā)安全、政治立場(chǎng)與商業聯系在一起的作(zuò)法。《辦法》草案一經實施，可(kě)能為(wèi)跨國公司在應對各國差異化營商環境時(shí)增加挑戰。

守門(mén)人(rén)責任——生(shēng)成式AI企業應當承擔使用其産品和(hé)服務生(shēng)成內(nèi)容的內(nèi)容生(shēng)産者責任。此外，《辦法》草案進一步規定這些(xiē)企業有(yǒu)義務指導用戶進行(xíng)良性的內(nèi)容生(shēng)産。生(shēng)成式AI企業是否應承擔內(nèi)容生(shēng)産者責任這一問題實質上(shàng)延續了美國和(hé)歐盟對社交媒體(tǐ)平台是否需承擔用戶內(nèi)容責任的漫長討(tǎo)論，而反對方的主要論點是過于嚴格的監管可(kě)能會(huì)遏制(zhì)技(jì)術(shù)發展。

安全評估——與網絡社交平台相似，生(shēng)成式AI産品和(hé)服務應當接受網信辦的安全評估11。由于安全評估的範圍可(kě)能随着産品和(hé)服務的技(jì)術(shù)細節而變化，人(rén)工智能企業在進行(xíng)研發時(shí)需要格外注意安全評估的時(shí)間(jiān)和(hé)金錢(qián)成本。

透明(míng)度要求——《辦法》草案規定，在産品研制(zhì)中采用人(rén)工标注時(shí)，生(shēng)成式AI的提供者必須制(zhì)定清晰、具體(tǐ)、可(kě)操作(zuò)的标注規則，對标注人(rén)員進行(xíng)必要培訓，抽樣核驗标注內(nèi)容的正确性。此外，提供者還(hái)應當提供預訓練和(hé)優化訓練數(shù)據的來(lái)源、規模、類型、質量等描述，以及基礎算(suàn)法和(hé)技(jì)術(shù)體(tǐ)系等。生(shēng)成的圖片、視(shì)頻等內(nèi)容還(hái)應當按照《互聯網信息服務深度合成管理(lǐ)規定》12進行(xíng)标識，以避免公衆的混淆和(hé)誤認。透明(míng)度的要求在受到用戶的歡迎的同時(shí)，也将給研發者帶來(lái)沉重的合規負擔和(hé)披露要求，可(kě)能會(huì)增加研發者潛在的商業秘密洩露風險。

實名制(zhì)——與互聯網領域的其他規則13相一緻，生(shēng)成式AI用戶必須實名注冊。關于實名制(zhì)，國家(jiā)在平衡互聯網監管與個(gè)人(rén)隐私保護的長期實踐中形成的做(zuò)法是将用戶的真實身份信息與手機号碼綁定，而互聯網服務提供者通(tōng)過手機号碼核實用戶的真實身份。

社會(huì)責任——提供者應當采取适當措施以防範用戶過分依賴或沉迷生(shēng)成內(nèi)容。目前互聯網實行(xíng)的防沉迷機制(zhì)于2021年引入，一經生(shēng)效便對網絡遊戲行(xíng)業14産生(shēng)了極大(dà)的沖擊。但(dàn)目前尚不清楚生(shēng)成式AI提供者是否同樣需要在其産品中嵌入類似的防沉迷機制(zhì)以限制(zhì)易受影(yǐng)響群體(tǐ)的使用。

用戶畫(huà)像和(hé)數(shù)據共享——用戶畫(huà)像和(hé)人(rén)工智能平台與其關聯實體(tǐ)之間(jiān)的數(shù)據共享被明(míng)确禁止。雖然這一禁止有(yǒu)利于隐私保護，但(dàn)該做(zuò)法可(kě)能會(huì)增加生(shēng)成式AI企業的研發成本，并減少(shǎo)企業利用用戶行(xíng)為(wèi)數(shù)據集獲利的機會(huì)。

投訴渠道(dào)——與《個(gè)人(rén)信息保護法》和(hé)中國《民法典》的要求相似，《辦法》草案規定生(shēng)成式AI的提供者應當建立用戶投訴接收處理(lǐ)機制(zhì)。完備的人(rén)工智能平台一般已經設置了熱線電(diàn)話(huà)和(hé)客服政策，但(dàn)初創企業則相應背上(shàng)了較重的合規負擔。

持續性要求——《辦法》草案要求提供者提供“持續”的服務。這一要求與傳統電(diàn)信行(xíng)業的要求相似，即要求服務始終能夠正常使用。對此的一種解釋是，網信辦希望将生(shēng)成式AI服務建設為(wèi)一項公共基礎設施，以此推動中國數(shù)字化進程，并希望能夠取得(de)突破性進展。這一要求雖然對用戶有(yǒu)利，但(dàn)對初創企業來(lái)說則非常困難。

模型優化——如果發現生(shēng)成內(nèi)容違反了《辦法》草案，提供者必須在三個(gè)月內(nèi)找到解決方案，防止該內(nèi)容再次生(shēng)成。這一規定對于人(rén)工智能産業的發展具有(yǒu)積極意義。該寬限期可(kě)以解讀為(wèi)，網信辦在違規企業采取內(nèi)容過濾措施和(hé)其他補救行(xíng)動的前提下，有(yǒu)意願允許企業繼續進行(xíng)生(shēng)成式AI的研發。

處罰——提供者違反《辦法》草案規定的，按照《網絡安全法》《數(shù)據安全法》《個(gè)人(rén)信息保護法》《刑法》等法律、行(xíng)政法規予以處罰。法律、行(xíng)政法規沒有(yǒu)規定的，由網信部門(mén)和(hé)有(yǒu)關主管部門(mén)依據職責予以處罰，罰款範圍在人(rén)民币一萬元以上(shàng)十萬元以下。

巨龍智立方數(shù)據建模平台

智立方，是一款适應各類主流大(dà)數(shù)據技(jì)術(shù)的一站(zhàn)式可(kě)視(shì)化建模服務平台。基于核心大(dà)數(shù)據建模技(jì)術(shù)的積累，采用知識圖譜建模、特征工程、機器(qì)學習、深度學習等技(jì)術(shù)，對數(shù)據進行(xíng)分析與挖掘，提煉業務信息和(hé)業務知識，構建行(xíng)業專業知識圖譜，實現業務智能化場(chǎng)景的賦能和(hé)業務價值輸出。