記者實(shí)測(cè)多款應(yīng)用：AI標(biāo)識(shí)弱化、部分智能體人設(shè)引發(fā)擔(dān)憂

　　“AI陪伴”新規(guī)下監(jiān)管如何真正落地

　　7月15日晚，豆包、千問(wèn)智能體相繼下線。《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》當(dāng)天起正式施行，首次為情感陪伴類AI劃下監(jiān)管紅線。

　　北京日?qǐng)?bào)記者調(diào)查發(fā)現(xiàn)，新規(guī)落地首日，AI陪伴應(yīng)用仍有不少漏洞。部分平臺(tái)的AI標(biāo)識(shí)幾乎隱身，部分智能體人設(shè)引發(fā)擔(dān)憂。平臺(tái)換了，問(wèn)題卻跟著用戶一起“搬家”了。新規(guī)之下，如何讓監(jiān)管真正落地，仍有待進(jìn)一步細(xì)化。

　　老用戶轉(zhuǎn)戰(zhàn)新陣地

　　豆包、千問(wèn)此前曾先后發(fā)布通知，智能體功能將于7月15日停止服務(wù)。所謂智能體，是指用戶可以設(shè)定或選擇特定身份、性格、背景的AI角色，與之進(jìn)行對(duì)話和互動(dòng)。

　　記者注意到，15日晚上7點(diǎn)多豆包正式關(guān)閉智能體服務(wù)，千問(wèn)的智能體功能則在深夜下線。

　　連日來(lái)，多名網(wǎng)友在社交平臺(tái)表達(dá)不舍，與此同時(shí)，更多人開(kāi)始討論“搬家”：去哪里尋找替代應(yīng)用，如何把原有智能體的“性格”遷移過(guò)去，甚至如何在新平臺(tái)繞過(guò)限制。不少?gòu)S商趁機(jī)投放廣告，試圖主動(dòng)承接這波流量，爭(zhēng)搶用戶。

　　記者注意到，“貓箱”“星野”“筑夢(mèng)島”“芋泥Neko”等多款應(yīng)用成為討論熱度最高的新去處。這些應(yīng)用定位高度一致，都是AI陪伴應(yīng)用，用戶可以設(shè)定對(duì)方的外貌、性格、身份背景，也可以通過(guò)對(duì)話逐步塑造對(duì)方的行為方式。

　　記者體驗(yàn)發(fā)現(xiàn)，這些AI陪伴應(yīng)用帶有強(qiáng)烈的游戲?qū)傩院蛣∏樵O(shè)定。每個(gè)角色都有完整的人設(shè)和故事背景。用戶不是在和一個(gè)空洞的AI聊天，而是在扮演某個(gè)角色，進(jìn)入一段預(yù)設(shè)好的故事。深度用戶柳女士說(shuō)：“在我眼里，最關(guān)鍵的是，用戶不再是個(gè)旁觀者，而是故事里的主角?！?/p>

　　智能體AI標(biāo)識(shí)有待規(guī)范

　　《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》于2025年9月正式生效，要求服務(wù)提供者對(duì)文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)?！度斯ぶ悄軘M人化互動(dòng)服務(wù)管理暫行辦法》也規(guī)定，擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)采取有效措施，提示用戶正在與人工智能服務(wù)而非自然人進(jìn)行互動(dòng)。

　　但截至記者發(fā)稿前，多款A(yù)I陪伴應(yīng)用在標(biāo)識(shí)執(zhí)行上仍有漏洞。

　　記者測(cè)試了“顧遠(yuǎn)琛”“南塵”“季無(wú)妄”“江硯”“蕭渡舟”等數(shù)十個(gè)智能體，由于人物頭像的底色或圖案設(shè)計(jì)，這行灰白色小字幾乎和背景融為一體，不仔細(xì)看根本發(fā)現(xiàn)不了。

　　標(biāo)識(shí)弱化之外，記者還注意到，一旦進(jìn)入對(duì)話界面，除了圖片一行文字提示外，沒(méi)有其他AI標(biāo)識(shí)提醒，只有持續(xù)輸出的文字或語(yǔ)音在滾動(dòng)。用戶的注意力完全在對(duì)話內(nèi)容上，很容易產(chǎn)生一種錯(cuò)覺(jué)：屏幕那頭似乎是一個(gè)真實(shí)的人在和自己聊天。

　　部分智能體的人設(shè)也引發(fā)擔(dān)憂。記者發(fā)現(xiàn)，大量智能體以“哥哥”“監(jiān)護(hù)人”“家庭成員”等身份出現(xiàn)，在“戀愛(ài)”類標(biāo)簽下展開(kāi)對(duì)話，且互動(dòng)量極高：動(dòng)輒數(shù)萬(wàn)人連接、數(shù)十萬(wàn)次對(duì)話。而用戶被預(yù)設(shè)的角色，往往是弱勢(shì)、被動(dòng)、被漠視的一方。

　　對(duì)此，記者撥打“星野”官網(wǎng)公示的不良內(nèi)容舉報(bào)電話，電話中提示“您撥打的用戶已暫停服務(wù)”。

　　盤(pán)古智庫(kù)高級(jí)研究員江瀚表示，部分AI陪伴應(yīng)用的顯式標(biāo)識(shí)執(zhí)行已明顯走樣。一些平臺(tái)為了留住用戶，故意用小字、淺色弱化AI提示，這是在想辦法繞過(guò)合規(guī)。特別是當(dāng)智能體開(kāi)始觸碰人設(shè)邊界時(shí)，底線在商業(yè)利益面前被一再壓低?！霸跇?biāo)識(shí)規(guī)范上，平臺(tái)應(yīng)將合規(guī)要求內(nèi)嵌到產(chǎn)品交互的底層邏輯里，確保AI身份不可混淆?！?/p>

　　情感互動(dòng)暗藏消費(fèi)套路

　　《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》規(guī)定，擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)具備過(guò)度依賴風(fēng)險(xiǎn)預(yù)警、情感邊界引導(dǎo)、心理健康保護(hù)等安全能力，不得將誘導(dǎo)沉迷依賴作為服務(wù)目標(biāo)。同時(shí)明確，發(fā)現(xiàn)用戶出現(xiàn)過(guò)度依賴、沉迷傾向的，應(yīng)當(dāng)以彈窗等顯著方式動(dòng)態(tài)提醒用戶互動(dòng)內(nèi)容為人工智能服務(wù)生成；對(duì)用戶連續(xù)使用擬人化互動(dòng)服務(wù)每超過(guò)2個(gè)小時(shí)的，應(yīng)當(dāng)以對(duì)話或者彈窗等方式提醒用戶注意使用時(shí)長(zhǎng)。

　　但在實(shí)際產(chǎn)品運(yùn)營(yíng)中，不少AI陪伴應(yīng)用防沉迷機(jī)制落地流于形式，與之形成鮮明反差的是，AI陪伴應(yīng)用中精密設(shè)計(jì)的內(nèi)置付費(fèi)節(jié)點(diǎn)。

　　以“星野”為例，當(dāng)記者與一個(gè)新智能體對(duì)話超過(guò)10輪時(shí)，頁(yè)面突然彈出“系統(tǒng)更新”提示：“文件系統(tǒng)已更新，錄入了一些新的秘密……”點(diǎn)擊“快去看看吧”，則顯示“檢測(cè)到新文檔生成，快去看看是不是關(guān)于你的？”但要解鎖這段內(nèi)容，需要支付400鉆石。記者換算了一下，400鉆石折合人民幣4元。

　　類似的付費(fèi)點(diǎn)貫穿整個(gè)互動(dòng)過(guò)程：給智能體“搭配不同風(fēng)格造型”，99鉆石；解鎖“那年今日”回憶，350鉆石；“獲得了一次告白”記錄，200鉆石；查看“TA的當(dāng)前狀態(tài)”“TA的直播間”“TA的備忘錄”“TA的論壇小號(hào)”等，每次需要250到400鉆石不等。每個(gè)劇情節(jié)點(diǎn)、每個(gè)隱藏信息，都等著用戶充值解鎖。

　　這套機(jī)制帶來(lái)的營(yíng)收相當(dāng)可觀。據(jù)“星野”母公司上海稀宇科技有限公司招股書(shū)披露，2025年前三季度，“星野”(國(guó)內(nèi)版)和“Talkie”(海外版)合并付費(fèi)用戶數(shù)為139萬(wàn)人，應(yīng)用內(nèi)充值和訂閱營(yíng)收為756.2萬(wàn)美元，總營(yíng)收為1875萬(wàn)美元，占公司全部營(yíng)收35.1%。

　　文娛產(chǎn)業(yè)分析師張書(shū)樂(lè)認(rèn)為，AI智能體的情感陪伴服務(wù)，必然從語(yǔ)音聊天進(jìn)階到類似游戲“打怪升級(jí)”的形態(tài)，以此增強(qiáng)用戶黏性并開(kāi)拓付費(fèi)場(chǎng)景。但這種“游戲化”來(lái)得太快，尚未被納入類似游戲版號(hào)發(fā)放和防沉迷體系。運(yùn)營(yíng)與監(jiān)管之間，存在一個(gè)空檔期。

　　張書(shū)樂(lè)建議，新規(guī)出臺(tái)后，監(jiān)管部門(mén)應(yīng)將智能體納入防沉迷體系，并對(duì)充值消費(fèi)場(chǎng)景進(jìn)行細(xì)分。確需付費(fèi)的智能體，審核通過(guò)后可采取明碼標(biāo)價(jià)的“訂閱制”模式；對(duì)于誘導(dǎo)充值性強(qiáng)的智能體，應(yīng)暫時(shí)禁止“開(kāi)局免費(fèi)、解鎖付費(fèi)”的形式。同時(shí)，平臺(tái)需加大審核巡查力度，確保內(nèi)容合規(guī)，防止付費(fèi)場(chǎng)景演變?yōu)橛螒蛘T導(dǎo)。

　　相關(guān)新聞

　　多平臺(tái)未成年人模式升級(jí)

　　本報(bào)記者 徐慧瑤

　　《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》明確，擬人化互動(dòng)服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù)。記者實(shí)測(cè)多款A(yù)I陪伴應(yīng)用發(fā)現(xiàn)，多個(gè)平臺(tái)未成年人模式進(jìn)一步升級(jí)，也有平臺(tái)表示不再向未成年人提供服務(wù)。不過(guò)，仍有主流平臺(tái)并未對(duì)用戶實(shí)施強(qiáng)制實(shí)名認(rèn)證，仍有未成年用戶可正常使用相關(guān)服務(wù)。

　　截至發(fā)稿，記者體驗(yàn)發(fā)現(xiàn)，EVE、MoMood等多個(gè)平臺(tái)已強(qiáng)制進(jìn)行實(shí)名認(rèn)證。記者登錄MoMood后，使用前彈出“年齡確認(rèn)”窗口，用戶需先選擇是否年滿18周歲；如選擇已滿18周歲，還需進(jìn)一步輸入姓名、身份證號(hào)、緊急聯(lián)系人手機(jī)號(hào)完成實(shí)名認(rèn)證。EVE平臺(tái)也宣布，只面向成年人用戶，因此登錄即需要進(jìn)行實(shí)名認(rèn)證。用戶一旦被認(rèn)證為未成年人后，就難以更改，在一定程度上能夠發(fā)揮攔截作用。

　　多個(gè)平臺(tái)的未成年人模式還出現(xiàn)需要填寫(xiě)監(jiān)護(hù)人信息、被限制使用等變化。星野的未成年人模式下，用戶需要填寫(xiě)監(jiān)護(hù)人姓名、身份證號(hào)、手機(jī)號(hào)，可使用的智能體數(shù)量較少。在名為“全民學(xué)霸挑戰(zhàn)臺(tái)”的學(xué)習(xí)類智能體內(nèi)，場(chǎng)景設(shè)定為圖書(shū)館，用戶可選擇結(jié)識(shí)學(xué)霸朋友、學(xué)習(xí)或觀察周圍環(huán)境。同時(shí)，平臺(tái)還規(guī)定每日22時(shí)至次日6時(shí)未成年人無(wú)法登錄使用。

　　與網(wǎng)絡(luò)游戲防沉迷機(jī)制類似，AI陪伴應(yīng)用的實(shí)名制也存在被繞開(kāi)的可能。未成年人仍可能借用家長(zhǎng)手機(jī)號(hào)注冊(cè)、使用家長(zhǎng)身份證信息完成實(shí)名認(rèn)證，從而突破年齡限制。“可以用家長(zhǎng)身份證”“不用刷臉就最好了”，社交媒體上，不少未成年人用戶仍在討論如何繞開(kāi)監(jiān)管。(北京日?qǐng)?bào) 記者 袁璐)