掃一掃關注公眾號
規范生成式人工智能服務，七部門聯合發文
2023-07-13 17:26:49
近日，國家網信辦聯合國家發改委、教育部、科技部等七部門公布《生成式人工智能服務管理暫行辦法》（以下稱《辦法》），自8月15日起施行。《辦法》提出國家堅持發展和安全并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。要點梳理如下↓
什么是生成式人工智能技術？
生成式人工智能技術是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。
生成式人工智能服務提供者是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人。生成式人工智能服務使用者是指使用生成式人工智能服務生成內容的組織、個人。
提供和使用生成式人工智能服務必須遵守哪些規定？
1）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；
2）在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；
3）尊重知識產權、商業道德，保守商業秘密，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行為；
4）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；
5）基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。
生成式人工智能服務提供者應當遵循哪些規范？
1）提供者應當明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。
2）提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。
3）提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。
4）提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。
5）提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優化訓練等措施進行整改，并向有關主管部門報告。
6）提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫停或者終止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告。
來源：央視新聞網
版權所有 ? 中安
技術支持：思企建站