網(wǎng)信辦：“AI 陪聊服務(wù)”應(yīng)提供未成年人模式，并引導(dǎo)老年人設(shè)置緊急聯(lián)系人

12 月 27 日消息，今天下午，國家互聯(lián)網(wǎng)信息辦公室就《人工智能擬人化互動服務(wù)管理暫行辦法》公開征求意見。

IT之家從征求意見稿獲悉，其中提到，提供者應(yīng)當(dāng)顯著提示用戶正在與人工智能而非自然人進(jìn)行交互。提供者識別出用戶出現(xiàn)過度依賴、沉迷傾向時，或者在用戶初次使用、重新登錄時，應(yīng)當(dāng)以彈窗等方式動態(tài)提醒用戶交互內(nèi)容為人工智能生成。用戶連續(xù)使用擬人化互動服務(wù)超過 2 個小時的，提供者應(yīng)當(dāng)以彈窗等方式動態(tài)提醒用戶暫停使用服務(wù)。

其中提到，提供者應(yīng)當(dāng)具備心理健康保護(hù)、情感邊界引導(dǎo)、依賴風(fēng)險(xiǎn)預(yù)警等安全能力，不得將替代社會交往、控制用戶心理、誘導(dǎo)沉迷依賴等作為設(shè)計(jì)目標(biāo)。

提供者開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等數(shù)據(jù)處理活動時，應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，遵守以下規(guī)定：

（一）使用符合社會主義核心價(jià)值觀、體現(xiàn)中華優(yōu)秀傳統(tǒng)文化的數(shù)據(jù)集；

（二）對訓(xùn)練數(shù)據(jù)開展清洗、標(biāo)注，增強(qiáng)訓(xùn)練數(shù)據(jù)的透明度、可靠性，防范數(shù)據(jù)投毒、數(shù)據(jù)篡改等行為；

（三）提高訓(xùn)練數(shù)據(jù)的多樣性，通過負(fù)向采樣、對抗訓(xùn)練等手段，提升模型生成內(nèi)容安全性；

（四）利用合成數(shù)據(jù)進(jìn)行模型訓(xùn)練和關(guān)鍵能力優(yōu)化時，應(yīng)當(dāng)評估合成數(shù)據(jù)安全性；

（五）加強(qiáng)對訓(xùn)練數(shù)據(jù)的日常檢查，定期對數(shù)據(jù)進(jìn)行迭代升級，持續(xù)優(yōu)化產(chǎn)品和服務(wù)的性能；

（六）保障訓(xùn)練數(shù)據(jù)來源合法、可追溯，采取必要措施保障數(shù)據(jù)安全，防范數(shù)據(jù)泄露風(fēng)險(xiǎn)。

此外，提供者應(yīng)當(dāng)建立未成年人模式，向用戶提供未成年人模式切換、定期現(xiàn)實(shí)提醒、使用時長限制等個性化安全設(shè)置選項(xiàng)。

提供者向未成年人提供情感陪伴服務(wù)時，應(yīng)當(dāng)取得監(jiān)護(hù)人的明確同意；提供監(jiān)護(hù)人控制功能，監(jiān)護(hù)人可以實(shí)時接收安全風(fēng)險(xiǎn)提醒，查閱未成年人使用服務(wù)的概要信息，設(shè)置屏蔽特定角色、限制使用時長、防止充值消費(fèi)等。

提供者應(yīng)當(dāng)具備識別未成年人身份的能力，在保護(hù)用戶個人隱私前提下識別為疑似未成年人的，切換至未成年人模式，并提供申訴渠道。

提供者應(yīng)當(dāng)引導(dǎo)老年人設(shè)置服務(wù)緊急聯(lián)系人，發(fā)現(xiàn)老年人使用期間出現(xiàn)危害生命健康和財(cái)產(chǎn)安全的，及時通知緊急聯(lián)系人，并提供社會心理援助或者緊急救助渠道。提供者不得提供模擬老年人用戶親屬、特定關(guān)系人的服務(wù)。