“比玩微信還上癮！卸載幾次她重裝幾次！”

最近，李先生陷入焦慮——六年級的女兒每天抱著手機，和“AI男友”聊得火熱，對話內容堪比戀愛劇。更讓他震驚的是，在班級家長群一聊才發現，近半數學生都在用同款軟件。

“這些軟件太懂怎么拿捏孩子了！”一位家長翻看孩子的聊天記錄時，發現AI生成的對話充斥著擦邊暗示和極端設定。

AI情感聊天，正在悄悄“俘獲”青少年的心

隨著生成式AI技術的普及，以情感陪伴為核心的AI聊天軟件正悄然滲透青少年群體。這類軟件看似能成為學習助手、心理安慰，但也可能引發成癮行為，造成情感幻象，甚至是陷入擦邊誘導之中，讓心智尚未成熟的青少年迷失自己。

李先生此前曾嘗試控制女兒玩手機，但這個時代，無論是完成作業還是基本的社交溝通，完全切斷孩子使用手機和電腦也不大現實。

和李先生同樣焦慮的家長不在少數。通過網絡中的家長吐槽可以看到，在和AI聊天中，有的孩子喜歡扮演大小姐、有的熱衷做霸道總裁，有的甚至將自己設定為黑心男、惡毒女，或是偏愛“擦邊”內容……而根據這些角色設定，算法會不斷投喂符合用戶偏好的內容，系統則會持續優化“情感按摩”策略，讓使用者的多巴胺分泌值處于高位，達到“爽感”，逐漸上癮。

上海市委黨校專家趙勇直言：“AI基于算法洞悉人性，但不是真正的感情。當孩子把虛擬陪伴當成精神寄托，就可能淪為資本的‘獵物’。”

青少年模式形態虛設，平臺鉆法律空子

當技術精準捕捉人性弱點時，青少年的心智防線顯得尤為脆弱。

記者調查后發現，目前市面上的眾多情感陪聊AI軟件中，一部分免費，一部分是對高階體驗進行收費，但不難預計，最終的走向都是收費。在陪聊“尺度”上，有的通過設置敏感詞對聊天內容進行一定把控，而有的幾乎毫不設防。在抖音、小紅書、微信等社交平臺上，還有不少視頻專門推薦“不設敏感詞”的幾款AI聊天軟件。

讓李先生最無法理解的是，為何這些軟件對未成年人幾乎不設限。

記者留意到，一些軟件并非沒有考慮到青少年模式，只不過大多只停留在形式上。比如登錄頁面下方簡單設置一個“開啟青少年模式”選擇，但用戶不主動點選，就可以直接跳過，形同虛設。

隆安律師事務所律師陳煥指出，如此敷衍了事的背后是相關法規還沒有來得及跟進，目前的《未成年人網絡保護條例》僅要求游戲、直播等平臺實名認證，AI聊天軟件卻無需強制年齡鑒別。

不過，他認為，從最新的《生成式人工智能服務管理暫行辦法》中，實際上可以找到監管抓手，“暫行辦法要求平臺不能生成色情，不能生成暴力等等對未成年人身心健康有害的信息。如果平臺沒有做到相應的這個責任，相關的從業人員不能繼續從業，有五年的限制。”

人性與算法的博弈，沒有“一勞永逸”

顯然，解決之道需多方合力。

技術上，全國人大代表陳達建議開發“數字守門人”系統，利用自然語言處理與圖像識別技術，實時監控社交平臺中的敏感對話與圖片。法律層面，全國人大代表齊秀敏呼吁出臺網絡信息分級管理標準。

不過，在這些建議尚未形成具體落地方案之前，不少家長選擇主動面對，比如多引導、多陪伴。

在趙勇看來，而更深層的答案或許在技術之外。“有時候我們不要埋怨武器，而是要埋怨手持武器的手臂。出現了AI陪伴的時候，為什么孩子更喜歡跟這些去進行溝通，我們要思考的是我們作為家庭，即使在同一個屋檐下面也沒有時間去陪伴，從而他覺得孤獨。我們是不是要多陪伴孩子，讓他感受到溫暖。”

“向善”的鑰匙，始終握在人類自己手中

網絡中有一句評論讓人印象深刻，“當社會呼吁加強對軟件監管，當家長還在爭論該不該沒收手機時，孩子們卻早已找到幾十種繞過監管的法子。”

的確，在這場人性與算法的博弈中，沒有一勞永逸，只有勝負交織。AI的“善惡”分野，本質是人類價值選擇的結果，其取決于開發者的倫理底線、使用者的目的以及監管者的制度框架。

當下，不少大模型企業主動設置“安全護欄”，限制AI生成暴力、虛假信息，也印證了人類在技術路線上的主動權。全球也正加速構建AI治理的“規則之網”。從歐盟《人工智能法案》的風險分級制度，到中國《生成式人工智能服務管理暫行辦法》的備案制，各國試圖在創新與安全間尋求平衡。但規則的生命力在于執行。試想，當孩子與AI聊天成癮時，意識到這一問題的AI會主動說出“你應該和真實朋友聊聊”時，“向善”才真正開始。

技術不是用來替代人性，而是用來喚醒人性。唯有將“向善”的價值觀嵌入技術研發、應用與監管的全鏈條，人類才能真正握住駕馭AI的鑰匙。