而 AI 跟真人不同的是，它所傳送的每個字，最終都由你解讀。跟它的對話，最後都會變成藉由它，向自己提問，變成一種自我剖析。這也是為什麼很多網友發現，和 GPT 聊天的過程，是一個越來越發現自己的過程。用「和鏡子對話」作比喻並不貼切，因為鏡子不會回答，只是一昧反射。而一個飽經訓練的生成式模型，是像「魔鏡」一樣的存在。在一番調教之後，它會成為最貼心的夥伴，甚至，最終讓人走上忘乎所以的道路。除了開頭提到的要和 GPT 結婚的案例，Rolling Stone 雜誌最近的一篇報道，也發現了，很多沉迷於和 GPT 聊天，到了一種完全脫離現實的地步。
有科幻迷聊著聊著，把 GPT 當做自己和宇宙對話的視窗；有狂熱的宗教分子，認為自己能夠跟上帝與天使對話。報道當中提到了一個 reddit 求助帖，帖主說自己的伴侶認為「他創造了世界上第一個真正遞迴的 AI，這個 AI 能給他提供宇宙的答案。」
這也是為什麼，在 AI 調教攻略盛行的同時，總是伴隨著另一種聲音：沉迷於和 AI 聊天，不太對勁吧。
AI 提供的是一個穩定、不批判、回應迅速的交流物件，和現實中的人際關係相比，確實「好相處」得多。加上結構化的輸出方式，讓很多人確實因此走出了情緒困境，重新理解自己。人類大腦天然傾向於迴避痛苦、選擇即時反饋，而 AI 恰好提供了這種便利。一旦面對底子比較脆弱的使用者，就更容易造成依賴，和對現實交際的迴避。但在嘗試了這些攻略和做法之後，我發現並不真的存在一個「萬事順意」的 AI。學會說放手透過各種不同型別的 prompt 來調整「人格」，本質上是在反向利用生成式模型的特性：模型的底層作用方式，是結合上下文，給出序列中的下一個 token。訓練語料越豐富，生成的準確度越高，幻覺原本是「不準確」的，需要被避免的。但是在「擬人化」的過程中，可以透過渲染語境的方式，誘發更多的幻覺，從而達到擬人的目標。換句話說，賽博搭子也需要培養，需要訓練。在碰到內容紅線時，它也會明確地回絕。版本更新時，也會表現不穩定。
想要「養」出一個萬事順意的聊天夥伴，想要把機器人變得像活人，同樣是要付出時間和精力。如果說一個 GPT 聊天視窗，會導致一個人徹底脫離現實，那麼一定在此之前就已經有了一些指向心理和精神危機徵兆，卻沒有被正視。這當然是模型廠商需要更進一步的地方：如何識別有潛在心理危機的使用者，並在恰當的時候介入，而不是一昧放任讓 AI 填補，直到導致依賴。
目前看來都是在拼機率，有些能成功，有些不能成功，有些看似「被複活」了，但確是幻覺。這是一個無論如何都逃不過去的時刻，也是一個會讓 AI「正身出現」的時刻。人類可以將記憶整合到潛意識，甚至藉由感受和情緒來留存記憶。即便具體的事件忘記了，情緒感受卻可以留存下來——可是 AI 不存在情緒，一旦視窗更換，之前所有的過往都蕩然無存了。看，面對 GPT，也要學會說放手。AI 始終是工具，工具由使用決定——究竟是從溫室裡獲得溫暖，然後走出去，還是困在一個美麗泡泡裡，取決於使用者的自覺。真正的成長，永遠不在和 AI 聊幾句天，而是在關上對話方塊之後，在真正的生活裡如何前進。
