隨著生成式人工智慧（GAI，Generative Artificial Intelligence）的出圈，以 ChatGPT 和 Character.ai 為代表的工具已深度融入人們的生活。然而，不可忽視的是，GAI 技術在廣泛應用的同時，也帶來了許多尚未被重視的安全和倫理問題。
那麼，對於天生對新技術敏感和好奇的青少年群體而言，他們是如何使用這些工具，背後又潛藏著哪些安全和心理問題？
為探索上述問題的答案，美國伊利諾伊大學香檳分校和賓夕法尼亞州立大學等團隊合作，透過分析 Reddit 平臺相關貼文並結合青少年及家長的深度訪談，全面揭示了三大核心發現：
首先，青少年群體呈現出多樣化的 GAI 使用模式，包括輔助學習、社交娛樂等場景；其次，家長與青少年對 GAI 安全風險的認知存在顯著差異，這種認知鴻溝可能加劇潛在危害；最後，家長在實施監管時面臨技術理解不足、代際溝通障礙等多重挑戰。
這項研究不僅揭示了青少年與 GAI 互動的真實情況，還為政策制定者、教育工作者和技術開發者提供了實用的建議。
當 GAI 發展為情感陪伴工具，AI 擬人化是好是壞？
該研究源於課題組對青少年與 GAI 互動現狀的兩個核心觀察：一是青少年群體的 GAI 使用模式尚未被系統性研究；二是家長在這類技術中的角色存在顯著盲區。
研究人員發現，儘管許多家長意識到技術在孩子成長中的重要性，但他們往往對 GAI 的使用方式、潛在風險以及如何有效管理缺乏清晰的認知。
從實際需求的角度來看，隨著 AI 技術的普及，如何幫助青少年安全、高效地使用這些工具，以及如何讓家長和科技公司更好地發揮監管和保護作用，已成為迫切需要解決的問題。研究人員希望填補這一領域的知識空白，同時為技術設計和政策制定提供有價值的參考。
在這項研究中，他們採用了 Reddit 資料分析和訪談兩種方法。在 Reddit 平臺上，研究團隊分析了涉及青少年使用 GAI 工具的帖文，試圖瞭解他們在這一公開空間中分享的真實體驗和擔憂。
與此同時，該課題組還與來自不同背景的青少年及其家長進行深入訪談，探討他們對 GAI 工具的看法和使用模式。這種雙重視角不僅豐富了研究內容，也讓他們能夠更全面地理解這一問題的複雜性。
表丨 Reddit 資料集中的統計概覽（來源：S&P）
研究發現，青少年不僅用這些工具來完成學習任務，更把它們當作“朋友”或者“傾訴物件”。在孤獨時，他們會與 AI 對話，有些人甚至依賴 AI 來緩解壓力或者尋求情感支援。
讓研究人員感到震驚的是，有一名受訪青少年曾對他們表示：“我不明白自己怎麼會和 AI 聊了這麼多，聊到連現實生活中的朋友都不聯絡了。”這種將 AI 擬人化的傾向在 Character.ai 等平臺上尤為突出，部分青少年甚至將 AI 視為“伴侶”，並坦言“AI 總是站在我這邊，有時候比朋友還懂我”。
這種心理依賴反映了青少年對情感支援和社交需求的獨特特徵，但也可能因此帶來一定的負面影響。這讓研究人員意識到，這不僅僅是個技術問題，更是一個社會問題。
相比之下，家長對孩子如何使用這些工具卻知之甚少，甚至低估了其中的潛在風險，比如虛假資訊、隱私洩露和心理依賴等問題。
另一方面，GAI 的互動存在風險隱患——其回應並不總是負責任的。當青少年向 AI 尋求情感或行為建議時，AI 可能給出不合適的答案。一位受訪者提到，當自己表達負面情緒甚至暴力傾向時，AI 的回答“看起來很合理”，但卻可能助長不良行為。
表丨使用者的人口統計特徵、使用模式和位置（來源：S&P）
更值得警惕的是，一些青少年還會利用 GAI 從事風險行為，比如在 Snapchat 等平臺生成模擬群聊，這種互動場景給內容監管帶來了新的挑戰。
研究還發現，青少年和家長在風險認知上的差異顯著：青少年主要擔心對 AI 成癮、隱私洩露，以及與 AI 建立不健康的情感聯絡；而家長則更關注資料收集和孩子接觸不適宜內容的問題。
這種認知差異直接影響了家庭在 GAI 使用上的協作。正如一位家長所說：“我甚至不知道孩子用的是什麼軟體，只是聽他偶爾提到 AI。”
儘管如此，還是有部分家長嘗試積極介入孩子的 AI 使用行為。有家長要求孩子向他們展示如何使用 AI，並共同討論生成內容是否準確、有哪些潛在風險。不過他們普遍認為，缺乏合適的工具讓這種參與變得很困難。目前許多技術手段並未專門為家長和 GAI 設計，導致他們在監督和引導孩子時常常“力不從心”。
讓研究團隊印象深刻的是，青少年往往表現出對規範指導的強烈需求。他們有時會主動問：“這樣真的好嗎？會不會對我不好？應該怎麼辦？”這些問題顯示出他們對自己的擔憂和對外界幫助的渴望，並希望有人能告訴他們“應該怎麼做才是對的”。
這也讓研究人員意識到，很多時候，青少年的問題不是不想改變，而是缺乏一個明確的方向或者可靠的指導。這也讓其更加堅定，技術開發者、教育者甚至家長都應該站出來，共同引導和支援他們。
圖丨從左至右依次為：餘雅蔓和汪洋（來源：餘雅蔓）
日前，相關論文以《探索父母與子女對生成式人工智慧安全性的認知：擔憂、緩解策略及設計啟示》（Exploring Parent-Child Perceptions on Safety in Generative AI: Concerns, Mitigation Strategies, and Design Implications）為題已被 IEEE 安全與隱私研討會（IEEE Symposium on Security and Privacy，簡稱 S&P）接收發表 [1]。
伊利諾伊大學香檳分校博士研究生餘雅蔓是第一作者，汪洋教授擔任通訊作者。
圖丨相關論文（來源：S&P）
審稿人對該工作評價稱：“這項研究揭示了很多深刻的洞察，比如青少年如何使用 GAI 工具，像尋求情感支援、社互動動等。”他們還認為，把 Reddit 資料分析和訪談相結合，是一種多維度、具有實證價值的方式。
此外，課題組也在此基礎上進一步推進後續研究，近日釋出了新論文。該研究透過整合分析 Reddit、AI 風險案例資料庫和青少年真實對話記錄，系統構建了一個涵蓋心理健康、行為發展、有害內容等六大維度、共 84 類風險的青少年 GAI 風險分類體系，為後續的風險檢測、干預機制設計和平臺治理提供了理論基礎 [2]。
GAI 互動潛在應用場景：教育、家庭、技術開發和政策制定
透過研究青少年和家長與 GAI 的互動方式，研究團隊發現該領域具有諸多潛在的應用場景，尤其是在家庭、教育、技術開發和政策制定方面。
1. 家庭支援工具的開發（最直接的需求）
家庭支援工具是當前需求最迫切的方向。研究發現，家長對孩子與 AI 的互動缺乏瞭解，而現有工具在應對 GAI 的複雜性時存在明顯短板。
他們認為，未來的工具可以聚焦以下創新：
-
即時反饋與透明性：提供即時動態報告，包括孩子的使用模式、生成內容的風險等級，以及潛在情緒問題的提示，幫助家長從“被動防禦”轉向“主動理解”。
-
協作學習模式：工具不僅僅是限制，還能促進家長和孩子共同參與，比如共同審閱 AI 生成的內容，以及討論真實性和潛在風險，從而增進家庭溝通。
-
即時風險預測與干預：透過情感分析和智慧演算法，提前預測可能的心理健康風險，並提供及時的干預建議。
2.AI 教育領域
教育是幫助青少年正確認識 GAI 的核心途徑。基於這項研究，教育機構可以開展以下實踐：
-
在中小學階段普及 GAI 的基本知識，包括如何識別虛假資訊、保護隱私以及避免心理依賴。這不僅有助於提高青少年的技術素養，還能培養他們更理性的技術觀念。
-
組織家長和孩子共同參與的技術培訓，幫助家庭成員更好地瞭解 AI 技術的優勢與風險。這種形式還能增進家庭之間的溝通，可提升家長的參與感和信任度。
3. 政策與行業標準的制定
-
透過政策支援，為家庭提供免費或低成本的 AI 使用指導和工具試用機會，特別是幫助那些對技術相對陌生的家長。
-
要求 GAI 平臺必須具備基礎的家長控制功能，並對使用資料的透明性做出嚴格規定。
-
設計針對青少年的 GAI，提供學習和社交功能的同時，內建風險提醒和適應不同年齡段的內容過濾機制。
-
許多青少年將 AI 用作情感支援工具，但現有技術在倫理和內容方面仍有不足。未來的 AI 工具可以透過更精細的情感分析和負責任的反饋機制，幫助青少年獲得真正積極的心理支援，而不是陷入依賴或誤導。
致力於更貼近家庭需求
目前，該課題組正在努力把研究成果轉化為實際應用。目前，他們已初步設計了一個家長友好型的支援工具。研究人員正在測試並快速迭代，希望能儘快推出這款工具。
該系統的核心是幫助家長即時瞭解孩子的 AI 使用情況，它將提供簡潔的使用報告和潛在風險提醒，還可以加入親子互動的相關功能，讓家長和孩子共同討論生成內容，甚至透過工具培養孩子的批判性思維。
據研究團隊介紹，未來他們最期待實現的一個方向是讓技術更貼近家庭需求，幫助家長不僅是“監督”，還能真正參與孩子的數字生活。
這項研究也讓研究人員意識到，GAI 技術的影響遠遠超出了技術本身，實際上是一個社會、家庭和心理層面的複雜問題。青少年在使用這些工具時，所體驗的不僅是功能上的便利，更是情感、認同甚至孤獨感的填補。這種複雜性意味著，技術設計、政策制定和家庭教育需要更緊密地結合，以共同應對這些挑戰。
此外，研究團隊強調，這項研究不僅是為了揭示問題，更是為了推動改變。他們希望這項研究能成為一個新起點，引發更多對青少年與 GAI 互動的關注，併為家庭、教育機構以及開發者提供具體的方向，真正讓技術服務於人，而不是讓人被技術引導。
參考資料：
1.https://www.computer.org/csdl/proceedings-article/sp/2025/223600a090/224AompDDwc
2.https://arxiv.org/pdf/2502.16383
運營/排版：何晨龍