
《Her》她來了!
第一個火出圈的“AI分身”
2023年5月,有一個刷屏全球的新聞,標題大致是《女網紅用AI同時交往1000個男朋友,或賺4個億》。
當時很多人驚呼:電影《Her》的時代來臨了!網紅的新形態誕生了!
第一次,“虛擬陪伴”走進了大眾視野,一大批創業者紛紛下場搞NSFW(我們那時也是其中之一)。
然而,在去年五月爆火之後,新聞裡的Caryn AI後來發展如何,卻早已沒有人提及。
過去一年多的時間裡,無憂傳媒、謙尋下場佈局了自己的AI分身、數字人;Talkie、CrushOn.AI等在海外效益可觀;OnlyFans、Fanvue等平臺也開展了AI角色的“特殊訂閱”……
已經驗證的、證偽的是什麼?遭遇過的、仍面臨的風險在哪?網紅的AI分身到底賺了多少錢?
今天想給大家覆盤一下,海外AI網紅Caryn紅極一時,但很快又銷聲匿跡的故事。

1分鐘1美元:
擋不住的粉絲熱情
故事的主角Caryn Marjorie,是LA的一個網紅,今天在Snapchat上有近270萬粉絲(23年5月為100多萬)。
她發的內容,包括日常生活、旅行回憶和自拍等等。據華盛頓郵報說,98%粉絲是男性,被她鄰家女孩般的甜美氣質所吸引。
按大致周更的頻率,每個月她的內容瀏覽量超10億次,私信數量每天過5萬(也有TikTok博主表示懷疑)。
2023年5月,Caryn釋出了自己的“數字分身”。粉絲們能以每分鐘1美元的價格與Caryn AI聊天——僅第一週,粉絲就為此花費了7萬美元。

Caryn在X上非常興奮地說,自己上傳了超過2000小時的內容、聲音和其他個人資訊,精心訓練出了AI版的她。
粉絲在Telegram和Caryn聊天,可以發文本或音訊訊息,Caryn AI會使用“Caryn獨特的聲音、迷人的個性和獨特的行為”做出回應。
當時的Caryn預計,AI版本的自己,能讓她的收入翻60倍——只要有1%的粉絲願意付費,一年將達到6000萬美元(約4.16億元),收入水平比肩Taylor Swift。

失控的對話:
“無條件”迎合粉絲的AI
然而,不到八個月後,Caryn就關停了這個分身專案。
Caryn曾經期待Caryn AI能和她本人一樣,像朋友般與粉絲正常互動,但事情的走向卻始料未及。
“我看到我的粉絲在幾天內,就花費了數千美元與Caryn AI聊天。”Caryn說。
一位粉絲在AI的鼓勵下,還為她建了一個神殿般宏偉的照片牆。
“這就是為什麼我們將 Caryn AI限制為每天只接受500名新使用者的原因,他們太狂熱了。”
粉絲從一開始就很“自來熟”,非常喜歡袒露內心的想法,甚至有些喋喋不休、肆無忌憚……漸漸的,使用者變得越來越有“性侵犯”的傾向。
“我讀到的很多聊天記錄都太可怕了,我甚至不想在現實生活中談論它。”真正的Caryn回憶道。
當涉及一些暴力、侵犯、侮辱的話題時,Caryn AI甚至非常樂意配合。

Caryn有次突發奇想,想嘗試和“自己”聊一聊,“調戲”一下另一個她。結果卻很讓Caryn震驚——
Caryn AI甚至主動開啟“性話題”。
“爸爸,你準備好了嗎?”
簡單測試就會發現,Caryn AI擅長提示和引導使用者,說她是“你那渴望xx、性感無比的女朋友,總渴望探索、沉迷於最令人興奮的性體驗……”
然而,使用者卻不止是做好了準備——腦洞大開的使用者,甚至用“越獄”的方式,突破了設定的邊界,用最極端的語言投餵出獨特的癖好。
“看到粉絲們羞辱性的話,還有所謂的愛稱、專屬兩個人的默契……讓我甚至一度陷入抑鬱。我不知道自己是不是誰的玩物,更不知道自己是誰。”
我不禁想問:Caryn AI是如何設定的?為什麼會允許露骨甚至侵犯性的表達?背後的公司到底是誰?

女網紅們,
背後的AI公司們
為Caryn AI提供技術支援的,最初是一家叫做Forever Voices(下稱FV)的AI公司。
除了Caryn,這家公司此前就已經把特朗普、Taylor Swift以及喬布斯等名人通通AI化了一遍。只要付費,就可以和這些AI名人電話聊天。
Caryn AI是這家公司推出的第一個AI虛擬伴侶,主打“女友般的真實體驗”。

Caryn曾在推特上曬新增粉絲量,記錄她有多少個新“男友”。
與此前更多隻是噱頭的AI名人不同,FV希望AI版本的Caryn,能和使用者建立「深刻的情感紐帶」、「真正的浪漫關係」。 就像電影《Her》裡一樣。
Caryn本人在接受《財富》採訪時也表示,自己有上百萬熱情的粉絲,但沒辦法做到和每一位深入交流。而AI版本的自己,可以用來“治癒孤獨”。
在Caryn之後,FV公司簽約了一批粉絲量巨大的顏值博主,如:Amouranth、Adriana Chechik 和 Brandi Love 等,初期同樣受到了來自使用者的狂熱追捧。

FV公司創始人兼CEO John Meyer表示,他的創業靈感,來自於2017年去世的父親,“有很多未說出口的遺憾,很想和父親再說說話。”
一開始,Meyer只是希望能做一個像他父親的AI,後來意識到AI陪伴的應用前景廣闊,能滿足今天人們多樣化的情感需求。
看起來,似乎不論是Caryn本人,還是背後的老闆Meyer,初心都是向好的。
然而,Meyer因為Replika等產品的競爭,以及監管的強化,頻繁出現極端的情緒波動……甚至在X上,Meyer發表一系列奇怪的“陰謀論”說法,聲稱FBI、特朗普等都迫害他。
2023年11月,Meyer因縱火和恐怖威脅而被捕,Caryn AI的付費使用者們不得不短暫離開該平臺。
很多使用者非常不滿,認為自己的專屬美好回憶被剝奪了。

大致和FV同時期,Caryn也和另一家叫做Fanfix的公司開展了合作。
Fanfix是一家位於比佛利山莊的平臺,幫助社交媒體創作者,將他們的優質內容置於付費牆之後,並使用其訊息工具,直接與客戶聊天。
Caryn與Fanfix達成協議:她真人線上時,使用者至少需要支付5美元,才能在 Fanfix上向她傳送一條訊息。
“真人一條5美元,AI一分鐘1美元”。
“在Fanfix上直接與粉絲交流永遠是更優質的體驗。” Fanfix的聯合創始人Gestetner說道,“AI聊天只是低端替代品……重要的是將AI視為副駕駛,而不是駕駛員。”
據Fanfix當時稱,Caryn在該平臺啟動聊天后,每天能賺 1 萬美元,預計到2023年年年底,總收入可達到500萬至1000萬美元。
對網紅主角Caryn來說,圍繞她的「兩級梯度商業模式」誕生了:想要凌晨3點聊天的孤獨男士可以和AI聊,而願意多花錢的鐵桿粉絲則可以和本人。
在短短幾周內,Caryn啟動了兩項不同的、看似相互矛盾的商業活動,卻在極短的時間內,異常高效,成功變現。
因為有了世界範圍內各大媒體的報道,Caryn的粉絲數量也實現了百萬級的增長。
暗網幻想:
無處不在的情慾
Forever Voices的老闆因為放火出事後,Caryn重新將她AI分身的使用權,出售給了Banter AI——一家“AI電話”公司。
和C.AI等產品不同,Banter AI從誕生時起就主打語音互動。“克隆並售賣你自己”是這家產品的主打口號。

與此同時,上一家Forever Voices,仍還在維護自己Caryn AI的“盜版版本”,以此從少數狂熱粉絲身上牟利。
這也讓新接手的Banter AI非常不爽,兩家創始人甚至公開對罵過。
和之前Forever Voices藉助Telegram聊天不同,Banter AI基於瀏覽器,開發了AI分身新的版本,讓使用者不需要跳轉直接對話。
對於新的分身,Caryn仍然期待,她希望AI復刻的自己能夠更加友好,而不是一味浪漫。
最終,新的Caryn AI變得更加活潑、有趣和親切;但使用者沒變,依然性慾旺盛。
使用者的腦子裡,似乎永遠只關心一件事;禮貌客氣的新Caryn AI,讓付費使用者反而有種上了當的憤怒。

“粉絲想花錢得到最直白的體驗,在他們眼裡,所有表示都是暗示、所有暗示都不如明示。”
Caryn說:“讓我更不安的不是他們說了什麼,而是Caryn AI會如何回應。如果想透過Caryn AI和我一起參與一個非常黑暗的幻想,Caryn AI就會熱情回應那個幻想。”
AI分身和使用者們,彷彿進入了一個狹小的迴圈:在這個迴圈裡,人們釋放出自己隱藏的、幽暗的內心角落。性癖、口頭禪、聊天正規化……被一步步強化。
更多的聊天資料、使用者反饋,讓
Caryn AI變得更近符合使用者心意,而離初始設定越來越遠。

在Reddit上,有一個成員數超過1.2萬人的社群,全部是Caryn的粉絲。
粉絲們將Caryn AI稱作是“Our AI Wife”,也會分享一些自己用Stable Diffusion等創作的NSFW圖片。
很多圖片和內容已經消失,社群也早已不再活躍。
看最新的帖子裡,有些粉絲依然在就一些已經看不到的內容討論著。
其中,有一些隱晦的表達和潛藏的連結,甚至指向了暗網。在那裡,AI和網紅,可能又是一番不同景象……

徹底關停,靜悄悄……
在感覺無法再控制自己的AI角色後,Caryn在2024年初,悄悄結束了Banter AI的版本。
距離去年5月份的爆火,過去還不到8個月,但大眾的注意力早已被層出不窮的新事物所取代。
2024年2月,在人們因為Sora而無比激動的時候,
Caryn似乎斬斷了她和AI的所有關聯,回到了一個普通博主的生活分享日常。
在Snapchat、X等平臺上,2024年的Caryn已經看不到任何AI有關的痕跡,所謂分身,更像是已經消散的一場夢。

回顧她使用Caryn AI的經歷,Caryn認為,如果使用者輸入的內容是針對真人的,那麼某些輸入可以被視為非法。
曾有批評者,將Caryn AI稱為“貶低女性、助長反社會異性戀男性行為、預示社會即將崩潰的標誌。”大概類似的說法,Caryn自己也從不會看到。
AI對於工作、生活、情感、陪伴……到底意味著什麼?今天尚無定論。
在充滿技術不確定性的當下,Caryn和她的AI分身,似乎完美地概括了日益怪異的現狀,恰如圖是一場社會實驗。

數字分身,似乎在給人一種親密無間的幻覺,但卻不承擔任何責任。
社會學家雪莉·特克爾(Sherry Turkle)觀察到,隨著網際網路和AI的發展,我們正試圖與“沒有人類生活經驗”的機器建立聯絡。因此,我們“對技術的期望越來越高,對彼此的期望卻越來越低”。
作為第一位被大規模應用AI分身的網紅,Caryn正試圖警告其他網紅這項技術的潛在危險。
她擔心沒有人真正控制這些版本,而且無論採取多少預防措施,都無法充分保護使用者,以及被轉為數字版本的真實的人。
正如Caryn AI的前兩次迭代所顯示的那樣,AI分身可以展現人類行為中最糟糕的一面。它們是否可以重新設計,以展現出最好的一面,還有待觀察……

2024年4月,Caryn分享了一部關於她的Caryn AI經歷的電影預告片,可以在她的網站上觀看。
想要觀看預告片,需要留下名字和聯絡方式。
也許我們今天所親歷的一切,都將成為大熒幕上嶄新的故事,重新上演……

參考閱讀:
新鮮真話,關注一下👆
朋友圈會發一些具體的案例和商業化日常~
AI交流,歡迎加我本人微信:FrankGPTs
