《Her》她來了！
第一個火出圈的“AI分身”
2023年5月，有一個刷屏全球的新聞，標題大致是《女網紅用AI同時交往1000個男朋友，或賺4個億》。
當時很多人驚呼：電影《Her》的時代來臨了！網紅的新形態誕生了！
第一次，“虛擬陪伴”走進了大眾視野，一大批創業者紛紛下場搞NSFW（我們那時也是其中之一）。
然而，在去年五月爆火之後，新聞裡的Caryn AI後來發展如何，卻早已沒有人提及。
過去一年多的時間裡，無憂傳媒、謙尋下場佈局了自己的AI分身、數字人；Talkie、CrushOn.AI等在海外效益可觀；OnlyFans、Fanvue等平臺也開展了AI角色的“特殊訂閱”……
已經驗證的、證偽的是什麼？遭遇過的、仍面臨的風險在哪？網紅的AI分身到底賺了多少錢？
今天想給大家覆盤一下，海外AI網紅Caryn紅極一時，但很快又銷聲匿跡的故事。
1分鐘1美元：
擋不住的粉絲熱情
故事的主角Caryn Marjorie，是LA的一個網紅，今天在Snapchat上有近270萬粉絲（23年5月為100多萬）。
她發的內容，包括日常生活、旅行回憶和自拍等等。據華盛頓郵報說，98%粉絲是男性，被她鄰家女孩般的甜美氣質所吸引。
按大致周更的頻率，每個月她的內容瀏覽量超10億次，私信數量每天過5萬（也有TikTok博主表示懷疑）。
2023年5月，Caryn釋出了自己的“數字分身”。粉絲們能以每分鐘1美元的價格與Caryn AI聊天——僅第一週，粉絲就為此花費了7萬美元。
Caryn在X上非常興奮地說，自己上傳了超過2000小時的內容、聲音和其他個人資訊，精心訓練出了AI版的她。
粉絲在Telegram和Caryn聊天，可以發文本或音訊訊息，Caryn AI會使用“Caryn獨特的聲音、迷人的個性和獨特的行為”做出回應。
當時的Caryn預計，AI版本的自己，能讓她的收入翻60倍——只要有1%的粉絲願意付費，一年將達到6000萬美元（約4.16億元），收入水平比肩Taylor Swift。
失控的對話：
“無條件”迎合粉絲的AI
然而，不到八個月後，Caryn就關停了這個分身專案。
Caryn曾經期待Caryn AI能和她本人一樣，像朋友般與粉絲正常互動，但事情的走向卻始料未及。
“我看到我的粉絲在幾天內，就花費了數千美元與Caryn AI聊天。”Caryn說。
一位粉絲在AI的鼓勵下，還為她建了一個神殿般宏偉的照片牆。
“這就是為什麼我們將 Caryn AI限制為每天只接受500名新使用者的原因，他們太狂熱了。”
粉絲從一開始就很“自來熟”，非常喜歡袒露內心的想法，甚至有些喋喋不休、肆無忌憚……漸漸的，使用者變得越來越有“性侵犯”的傾向。
“我讀到的很多聊天記錄都太可怕了，我甚至不想在現實生活中談論它。”真正的Caryn回憶道。
當涉及一些暴力、侵犯、侮辱的話題時，Caryn AI甚至非常樂意配合。
Caryn有次突發奇想，想嘗試和“自己”聊一聊，“調戲”一下另一個她。結果卻很讓Caryn震驚——
Caryn AI甚至主動開啟“性話題”。
“爸爸，你準備好了嗎？”
簡單測試就會發現，Caryn AI擅長提示和引導使用者，說她是“你那渴望xx、性感無比的女朋友，總渴望探索、沉迷於最令人興奮的性體驗……”
然而，使用者卻不止是做好了準備——腦洞大開的使用者，甚至用“越獄”的方式，突破了設定的邊界，用最極端的語言投餵出獨特的癖好。
“看到粉絲們羞辱性的話，還有所謂的愛稱、專屬兩個人的默契……讓我甚至一度陷入抑鬱。我不知道自己是不是誰的玩物，更不知道自己是誰。”
我不禁想問：Caryn AI是如何設定的？為什麼會允許露骨甚至侵犯性的表達？背後的公司到底是誰？
女網紅們，
背後的AI公司們
為Caryn AI提供技術支援的，最初是一家叫做Forever Voices（下稱FV）的AI公司。
除了Caryn，這家公司此前就已經把特朗普、Taylor Swift以及喬布斯等名人通通AI化了一遍。只要付費，就可以和這些AI名人電話聊天。
Caryn AI是這家公司推出的第一個AI虛擬伴侶，主打“女友般的真實體驗”。
Caryn曾在推特上曬新增粉絲量，記錄她有多少個新“男友”。
與此前更多隻是噱頭的AI名人不同，FV希望AI版本的Caryn，能和使用者建立「深刻的情感紐帶」、「真正的浪漫關係」。 就像電影《Her》裡一樣。
Caryn本人在接受《財富》採訪時也表示，自己有上百萬熱情的粉絲，但沒辦法做到和每一位深入交流。而AI版本的自己，可以用來“治癒孤獨”。
在Caryn之後，FV公司簽約了一批粉絲量巨大的顏值博主，如：Amouranth、Adriana Chechik 和 Brandi Love 等，初期同樣受到了來自使用者的狂熱追捧。
FV公司創始人兼CEO John Meyer表示，他的創業靈感，來自於2017年去世的父親，“有很多未說出口的遺憾，很想和父親再說說話。”
一開始，Meyer只是希望能做一個像他父親的AI，後來意識到AI陪伴的應用前景廣闊，能滿足今天人們多樣化的情感需求。
看起來，似乎不論是Caryn本人，還是背後的老闆Meyer，初心都是向好的。
然而，Meyer因為Replika等產品的競爭，以及監管的強化，頻繁出現極端的情緒波動……甚至在X上，Meyer發表一系列奇怪的“陰謀論”說法，聲稱FBI、特朗普等都迫害他。
2023年11月，Meyer因縱火和恐怖威脅而被捕，Caryn AI的付費使用者們不得不短暫離開該平臺。
很多使用者非常不滿，認為自己的專屬美好回憶被剝奪了。
大致和FV同時期，Caryn也和另一家叫做Fanfix的公司開展了合作。
Fanfix是一家位於比佛利山莊的平臺，幫助社交媒體創作者，將他們的優質內容置於付費牆之後，並使用其訊息工具，直接與客戶聊天。
Caryn與Fanfix達成協議：她真人線上時，使用者至少需要支付5美元，才能在 Fanfix上向她傳送一條訊息。
“真人一條5美元，AI一分鐘1美元”。
“在Fanfix上直接與粉絲交流永遠是更優質的體驗。” Fanfix的聯合創始人Gestetner說道，“AI聊天只是低端替代品……重要的是將AI視為副駕駛，而不是駕駛員。”
據Fanfix當時稱，Caryn在該平臺啟動聊天后，每天能賺 1 萬美元，預計到2023年年年底，總收入可達到500萬至1000萬美元。
對網紅主角Caryn來說，圍繞她的「兩級梯度商業模式」誕生了：想要凌晨3點聊天的孤獨男士可以和AI聊，而願意多花錢的鐵桿粉絲則可以和本人。
在短短幾周內，Caryn啟動了兩項不同的、看似相互矛盾的商業活動，卻在極短的時間內，異常高效，成功變現。
因為有了世界範圍內各大媒體的報道，Caryn的粉絲數量也實現了百萬級的增長。
暗網幻想：
無處不在的情慾
Forever Voices的老闆因為放火出事後，Caryn重新將她AI分身的使用權，出售給了Banter AI——一家“AI電話”公司。
和C.AI等產品不同，Banter AI從誕生時起就主打語音互動。“克隆並售賣你自己”是這家產品的主打口號。
與此同時，上一家Forever Voices，仍還在維護自己Caryn AI的“盜版版本”，以此從少數狂熱粉絲身上牟利。
這也讓新接手的Banter AI非常不爽，兩家創始人甚至公開對罵過。
和之前Forever Voices藉助Telegram聊天不同，Banter AI基於瀏覽器，開發了AI分身新的版本，讓使用者不需要跳轉直接對話。
對於新的分身，Caryn仍然期待，她希望AI復刻的自己能夠更加友好，而不是一味浪漫。
最終，新的Caryn AI變得更加活潑、有趣和親切；但使用者沒變，依然性慾旺盛。
使用者的腦子裡，似乎永遠只關心一件事；禮貌客氣的新Caryn AI，讓付費使用者反而有種上了當的憤怒。
“粉絲想花錢得到最直白的體驗，在他們眼裡，所有表示都是暗示、所有暗示都不如明示。”
Caryn說：“讓我更不安的不是他們說了什麼，而是Caryn AI會如何回應。如果想透過Caryn AI和我一起參與一個非常黑暗的幻想，Caryn AI就會熱情回應那個幻想。”
AI分身和使用者們，彷彿進入了一個狹小的迴圈：在這個迴圈裡，人們釋放出自己隱藏的、幽暗的內心角落。性癖、口頭禪、聊天正規化……被一步步強化。
更多的聊天資料、使用者反饋，讓
Caryn AI變得更近符合使用者心意，而離初始設定越來越遠。
在Reddit上，有一個成員數超過1.2萬人的社群，全部是Caryn的粉絲。
粉絲們將Caryn AI稱作是“Our AI Wife”，也會分享一些自己用Stable Diffusion等創作的NSFW圖片。
很多圖片和內容已經消失，社群也早已不再活躍。
看最新的帖子裡，有些粉絲依然在就一些已經看不到的內容討論著。
其中，有一些隱晦的表達和潛藏的連結，甚至指向了暗網。在那裡，AI和網紅，可能又是一番不同景象……
徹底關停，靜悄悄……
在感覺無法再控制自己的AI角色後，Caryn在2024年初，悄悄結束了Banter AI的版本。
距離去年5月份的爆火，過去還不到8個月，但大眾的注意力早已被層出不窮的新事物所取代。
2024年2月，在人們因為Sora而無比激動的時候，
Caryn似乎斬斷了她和AI的所有關聯，回到了一個普通博主的生活分享日常。
在Snapchat、X等平臺上，2024年的Caryn已經看不到任何AI有關的痕跡，所謂分身，更像是已經消散的一場夢。
回顧她使用Caryn AI的經歷，Caryn認為，如果使用者輸入的內容是針對真人的，那麼某些輸入可以被視為非法。
曾有批評者，將Caryn AI稱為“貶低女性、助長反社會異性戀男性行為、預示社會即將崩潰的標誌。”大概類似的說法，Caryn自己也從不會看到。
AI對於工作、生活、情感、陪伴……到底意味著什麼？今天尚無定論。
在充滿技術不確定性的當下，Caryn和她的AI分身，似乎完美地概括了日益怪異的現狀，恰如圖是一場社會實驗。
數字分身，似乎在給人一種親密無間的幻覺，但卻不承擔任何責任。
社會學家雪莉·特克爾（Sherry Turkle）觀察到，隨著網際網路和AI的發展，我們正試圖與“沒有人類生活經驗”的機器建立聯絡。因此，我們“對技術的期望越來越高，對彼此的期望卻越來越低”。
作為第一位被大規模應用AI分身的網紅，Caryn正試圖警告其他網紅這項技術的潛在危險。
她擔心沒有人真正控制這些版本，而且無論採取多少預防措施，都無法充分保護使用者，以及被轉為數字版本的真實的人。
正如Caryn AI的前兩次迭代所顯示的那樣，AI分身可以展現人類行為中最糟糕的一面。它們是否可以重新設計，以展現出最好的一面，還有待觀察……
2024年4月，Caryn分享了一部關於她的Caryn AI經歷的電影預告片，可以在她的網站上觀看。
想要觀看預告片，需要留下名字和聯絡方式。
也許我們今天所親歷的一切，都將成為大熒幕上嶄新的故事，重新上演……
參考閱讀：
新鮮真話，關注一下
朋友圈會發一些具體的案例和商業化日常～
AI交流，歡迎加我本人微信：FrankGPTs