對未成年人來說，若缺乏有效監(jiān)管、正確引導(dǎo)和防護，AI情感陪伴很可能成為一個深不見底的“數(shù)字陷阱”

　　近年來，隨著生成式人工智能（AI）的普及，AI情感陪伴類應(yīng)用軟件迅速走紅。相關(guān)調(diào)查顯示，國內(nèi)數(shù)款“沉浸式角色扮演”AI情感陪伴類應(yīng)用軟件，不僅充斥著獵奇角色和危險劇情，還會在用戶“調(diào)教”后采用露骨言論進行誘導(dǎo)。更令人擔(dān)憂的是，這些應(yīng)用軟件已經(jīng)吸引大量未成年人使用，而軟件內(nèi)置的青少年模式卻形同虛設(shè)。

　　AI情感陪伴類應(yīng)用軟件最初的設(shè)計初衷，是以人工智能算法模擬人類的情感交互，為用戶提供聊天、心理疏導(dǎo)甚至戀愛模擬體驗。但對心智尚未成熟的未成年人來說，若缺乏有效監(jiān)管、正確引導(dǎo)和防護，很可能掉入深不見底的“數(shù)字陷阱”?！八惴ㄊ接H密關(guān)系”一旦固化，會造成未成年人對現(xiàn)實社交的疏離，以及對自我認知的扭曲。為促使未成年人健康使用AI情感陪伴類應(yīng)用軟件，應(yīng)通過構(gòu)建政府、企業(yè)、學(xué)校、家庭和社會多方協(xié)同的社會治理體系，為未成年人營造清朗安全的AI應(yīng)用環(huán)境。

　　面對AI情感陪伴類應(yīng)用軟件的擴張，監(jiān)管體系亟須升級。相關(guān)部門應(yīng)出臺“AI情感陪伴類應(yīng)用軟件未成年人保護指南”，推進AI分級制度，明確平臺內(nèi)容審核、數(shù)據(jù)保護、防沉迷機制等責(zé)任邊界，落實平臺算法備案審查制度，對算法推薦機制是否誘導(dǎo)成癮進行第三方機構(gòu)評估。在此基礎(chǔ)上，應(yīng)建立常態(tài)化監(jiān)管機制，定期對相關(guān)企業(yè)和平臺服務(wù)商進行安全評估，并將結(jié)果向社會公示，接受公眾監(jiān)督。

　　企業(yè)須將未成年人保護理念內(nèi)置于技術(shù)研發(fā)和產(chǎn)品設(shè)計之初，做到“事前預(yù)防、事中過濾、事后干預(yù)”的全流程防護。在準入端，優(yōu)化未成年人注冊、登錄驗證機制。通過實名認證、“一號一用”等多種方式，完善應(yīng)用軟件的青少年模式。為防止未成年人偷用家長身份登錄，可以通過研發(fā)應(yīng)用聲紋識別、行為分析等智能認證技術(shù)和預(yù)測系統(tǒng)，實現(xiàn)更精準的未成年人身份識別與動態(tài)年齡驗證。在內(nèi)容端，融合關(guān)鍵詞過濾與深度學(xué)習(xí)語義理解等技術(shù)，對AI對話內(nèi)容進行實時監(jiān)測，精準攔截不良信息。在干預(yù)端，設(shè)立未成年人時長管理功能，開發(fā)家長監(jiān)管模式，讓監(jiān)護人能夠?qū)崟r掌握未成年人使用軟件的情況。

　　推動家長、學(xué)校和社會多方協(xié)同共治。首先，家長需要履行監(jiān)護職責(zé)，引導(dǎo)未成年人形成健康的AI使用習(xí)慣。家庭教育促進法規(guī)定，未成年人的父母或者其他監(jiān)護人應(yīng)當(dāng)預(yù)防未成年人沉迷網(wǎng)絡(luò)。因此，家長有責(zé)任加強對未成年人身心需求的關(guān)注，提供高質(zhì)量的陪伴和監(jiān)督，筑牢用好AI的第一道防線。其次，學(xué)?？梢酝ㄟ^開設(shè)“AI倫理與安全”相關(guān)主題講座、班會等，加強對學(xué)生使用AI的教育和引導(dǎo)，通過社會情感能力教育防止未成年人沉迷于AI情感陪伴。當(dāng)學(xué)校和教師發(fā)現(xiàn)學(xué)生出現(xiàn)涉及AI應(yīng)用軟件不良內(nèi)容傳播時，應(yīng)及時干預(yù)和告知家長。與此同時，凝聚社會合力，加大對“誘導(dǎo)青少年聊色情、獵奇話題”APP案例的警示宣傳力度，曝光不良運營手段，提高未成年人網(wǎng)絡(luò)風(fēng)險防范意識和能力。

　　AI情感陪伴的出現(xiàn)，是時代發(fā)展的必然，它折射出人類情感需求與數(shù)字技術(shù)的交匯。AI情感陪伴不只是技術(shù)娛樂的新問題，更是社會治理的新挑戰(zhàn)。技術(shù)越溫柔，越需要理性約束，技術(shù)不應(yīng)是隱匿于監(jiān)管盲區(qū)的“數(shù)字荒野”，而應(yīng)成為助力未成年人健康成長的“智慧花園”。

　　（作者系華東師范大學(xué)教育學(xué)部教育學(xué)系講師）

《中國教育報》2025年10月20日 第02版