12 月 27 日消息，今天下午，國家互聯網信息辦公室就《人工智能擬人化互動服務管理暫行辦法》公開征求意見。

IT之家從征求意見稿獲悉，其中提到，提供者應當顯著提示用戶正在與人工智能而非自然人進行交互。提供者識別出用戶出現過度依賴、沉迷傾向時，或者在用戶初次使用、重新登錄時，應當以彈窗等方式動態提醒用戶交互內容為人工智能生成。用戶連續使用擬人化互動服務超過 2 個小時的，提供者應當以彈窗等方式動態提醒用戶暫停使用服務。

其中提到，提供者應當具備心理健康保護、情感邊界引導、依賴風險預警等安全能力，不得將替代社會交往、控制用戶心理、誘導沉迷依賴等作為設計目標。

提供者開展預訓練、優化訓練等數據處理活動時，應當加強訓練數據管理，遵守以下規定：

（一）使用符合社會主義核心價值觀、體現中華優秀傳統文化的數據集；

（二）對訓練數據開展清洗、標注，增強訓練數據的透明度、可靠性，防范數據投毒、數據篡改等行為；

（三）提高訓練數據的多樣性，通過負向采樣、對抗訓練等手段，提升模型生成內容安全性；

（四）利用合成數據進行模型訓練和關鍵能力優化時，應當評估合成數據安全性；

（五）加強對訓練數據的日常檢查，定期對數據進行迭代升級，持續優化產品和服務的性能；

（六）保障訓練數據來源合法、可追溯，采取必要措施保障數據安全，防范數據泄露風險。

此外，提供者應當建立未成年人模式，向用戶提供未成年人模式切換、定期現實提醒、使用時長限制等個性化安全設置選項。

提供者向未成年人提供情感陪伴服務時，應當取得監護人的明確同意；提供監護人控制功能，監護人可以實時接收安全風險提醒，查閱未成年人使用服務的概要信息，設置屏蔽特定角色、限制使用時長、防止充值消費等。

提供者應當具備識別未成年人身份的能力，在保護用戶個人隱私前提下識別為疑似未成年人的，切換至未成年人模式，并提供申訴渠道。

提供者應當引導老年人設置服務緊急聯系人，發現老年人使用期間出現危害生命健康和財產安全的，及時通知緊急聯系人，并提供社會心理援助或者緊急救助渠道。提供者不得提供模擬老年人用戶親屬、特定關系人的服務。