有競爭的思想，有底蘊的政治
文｜梅根·沃德
譯｜王立秋
智慧、友善、體貼、有創造力、有愛和好奇。這些不只是人夢寐以求的屬性，也都是Facebook、Instagram和Thread上新上線的聊天機器人Meta AI被認為具有的特徵。[1]當2024年4月，Meta推出其社交媒體專案的最新成員的時候，他們宣傳它具有“學習、完成任務、創造內容和連線”的能力。[2]但作為對話式AI，它也被打造得彷彿具有像人一樣的人格。
就此而言，Meta AI是建立在像Replika和Character那樣的對話式AI平臺日益流行的基礎上的。AI提供了各種各樣的機器人程式，其中許多都可以在表現、背景和特徵上進行定製。Meta不是第一家釋出應用內聊天機器人的公司——比如說，My AI早在2023年就釋出了SnapChat——但Meta AI的佈局最廣。[3]我們已經超越Alexa和Siri，走向了AI朋友。
“到本十年末”，馬克·扎克伯格預言說，“我認為很多人會終日頻繁地與AI交談”。[4]除顯然自利的考慮外，扎克伯格的主張也響應了許多關於聊天機器人的研究，後者主張聊天機器人“可以滿足一些熟人能夠滿足的相同需求”。隨著它們變得更加複雜，社會學家和心理學家的工作指出，“這些對話智慧體不久之後將有望給各種各樣的使用者提供個人化的社會支援”。[5]根據這一思路，技術創新是阻礙持續的、令人滿足的人與AI互動的唯一障礙。從研究者到公司的領導層，都充滿了對大語言模型提供陪伴的希望和炒作，有人甚至指出，它們可以緩解美國醫務總局認定的“孤獨流行病”。[6]
然而，墨菲的報告又把線上互動識別為孤獨流行病的一大原因。在缺乏有意義的親身參與關係的情況下，人們轉向線上互動，後者又進一步消耗他們的注意力，使他們無暇關注自己身邊的人。墨菲寫道，這種型別的互動“取代了親身參與，壟斷了我們的注意力，降低了我們互動的品質，甚至貶低了我們的自尊”。[7]
扎克伯格的技術解決主義思維想象技術可以解決它創造出來的那些問題。這種思維方式認為，只要聊天機器人足夠好，它就會是對人類互動的有效替代。研究者經常從聊天機器人的真實性和它們執行所依賴的大語言模型來討論這個“足夠好”的閾值。[8]比如說，2018年的一個研究把聊天機器人的真實性定義為“透過經驗來學習、擬人化、帶有容易看穿的目的，展現出（高階的）對話行為並前後一致”。他們提出，在這一方針的指示下，“研究者將能夠改進新興技術的社會-倫理”。[9]但真實性對AI——它的名字就包含“人工”——來說是一個複雜的問題，它受到了對智慧機器和人類交流的文化想象的塑造。人類與機器接觸、透過機器來接觸彼此的歷史，也塑造了我們對今天那些互動的期望，從對AI的恐懼，到技術解決主義的幻想。
人把自己和計算機的對話擬人化的傾向，和最古老的聊天機器人一樣老。一些人在與計算機互動時體驗到的那種人性錯覺，被稱為“Eliza效應”，它得名自第一個聊天機器人，MIT教授約瑟夫·魏岑鮑姆在二十世紀六十年代中期發明的Eliza。
社會學家雪莉·特克（Sherry Turkle）把Eliza的發明稱作一場“真實性的危機”。[10]Eliza帶來了關於真實關係的新問題。真實關係是一個“傳統上留給這樣的關係，即其中每一方都能感到[信任、關心和共情]的，也就是說，各方都是人的關係”的術語。[11]新的、對互動技術的依賴，再加上相互理解的錯覺——特克稱——是誘人的，但最終是空洞的。她相信，缺乏關係的真實性會讓人容易被控制機器人程式的人——騙子、公司、政府——愚弄。但更兇險的是，它還會阻礙與其他人形成有意義的連線的能力。特克相信，Eliza效應用對關係的模擬取代了真實的關係。
隨著聊天機器人越來越融入日常生活，AI真實性的概念也變得更加複雜。一些真實性模型沿著特克的思路努力，試圖創造一種讓使用者覺得真實的，好的模擬。比如說，2018年一個對客服聊天機器人的研究認為“資訊代理必須擬人化以變得真實。”[12]作者引用了訪談物件的說法，他們都使用源自虛構的模擬的語言：機器人應該“創造一個你可以與之產生聯絡、可以當作自己模範的人類人格”，即作者所說的“性格”。[13]在這樣的思維方式中，AI真實性關乎讓使用者相信聊天機器人像人。
然而，隨著近來大語言模型的爆發式創新，研究者也試圖在模仿之外的其他方向上改進AI真實性的概念。2023年商業和計算機科學研究者做的一個研究沒有把AI真實性定義為“像人”，而是把它定義為這樣的期望，即“作為與人交流的結果，陪伴聊天機器人會以它自己獨一無二的方式演化”。[14]使用者更可能在機器人不像人一樣交流、但提供一種令人愉快的互動體驗的時候，把機器人評價為合法的伴侶。這樣，最近的研究從2018年的研究得出了這樣的結論——“我們不需要智慧，相反，我們需要在社交上聰明的智慧體”，並給了它深度。在這裡，真實性不是成功的複製，而是一種新的原創。[15]
不過，在這兩種情況下，研究都讓人類使用者來評價AI的真實性，後者被視作一組預期，這些預期早在聊天機器人發明之前就已經形成了。在二十世紀六十年代的時候，Eliza效應要成立，使用者必須已經具備這樣的思維框架，即認為脫離身體的、沒有手寫或聲音的具身接觸的文字是人性的標誌。對脫離身體的即時交流的體驗並非始於二十世紀六十年代的Eliza，而是始於十九世紀的電報。隨著電報的發明，遠距離同時交流第一次成為可能。兩個或更多的人能夠在沒有聽到一個詞的情況下打趣，能夠在相隔數百或數千英里，看不到對方的情況下調情。
新聞故事警示了以這樣的方式把身體和語言分開的危險，它們詳細描述了現在我們所說的網路交友詐騙醜聞。其他故事——通常是虛構的——則更加浪漫。艾拉·齊弗·塞耶（Ella Cheever Thayer）1879年的暢銷小說《連線之戀：一段點與劃中的愛情》（Wired Love: A Romance in Dots and Dashes）講述了兩個年輕電報員克萊姆和娜塔莉遠距離談戀愛的故事。小說開啟了這樣一個問題，即有沒有可能只靠文字形成連線。愛情可以只以語言的形式存在多久？身體，如果重要的話，在什麼時候重要？
《連線之戀》展示了對另一邊的身體的期望是如何持續的。在小說的中間部分，克萊姆在沒有事先通知的情況下，油膩、歪斜地帶著麝香味出現在娜塔莉的辦公室。他帶著“廉價的自信”走進來，炫耀他的小飾品，身上散發著廉價古龍水的味道，頭髮上塗滿了熊油。[16]他朝娜塔莉擠眉弄眼，讓她狼狽不堪。她怎麼會為這樣一個人的文字而傾倒呢？
事實證明，這次來訪只是同一線路一名心懷嫉妒的電報員搞的一次惡作劇，他一直透過電報偷聽他們調情。這一情節設計，是建立在這樣的基礎之上的，即1879年的讀者在對脫離身體的交流心存懷疑的同時，又為之而感到著迷。最終，真正的克萊姆以和他的文字一樣優雅的形象出現。書的最後幾行是以摩爾斯電碼的形式出現的，對讀者來說，是一個謎。甚至在克萊姆和娜塔莉為面對面互動而發誓戒掉點和劃的時候，小說依然捕捉到了連線之戀的誘惑。那就是這樣一種幻想：真實的連線只通過語言發生，沒有肉體性、社會情境或物質環境的複雜。
學者們已經相信，如今，這些中介化的、即時的對話定義了現代的交流體驗。也就是說，我們把自己與他人的互動理解為骨子裡和技術糾纏在一起的，或者，就像勞拉·奧提斯（Laura Otis）指出的那樣，使“使用者認為他們是網路的一部分”。[17]甚至在面對面說話的時候，我們也會感到一種迂迴，即那種矛盾的，電話、網路或者就像在娜塔莉那裡一樣由電報線路網路帶來的，隔著距離的親近感。換言之，當我們的個人互動已經有了中介化的感覺的時候，把中介化的對話想象為個人的甚至更容易了。
合在一起，這給了我們兩種有時相互衝突的信念：真正的連線只通過語言發生，這解釋了我們能在AI那裡感到的人性或真實。同時，還有這樣一種感覺，即我們的親身互動已經有了中介化的感覺，這讓連線變得更加困難。此外，許多關於AI真實性的研究來自商業導向的研究。對這些研究來說，創造對聊天機器人的信任，是一種提高銷量而非解決孤獨感的辦法。
這些信念會隨技術的變革而發生變化，但為了理解Meta AI和其他聊天機器人兜售的幻想，我們必須首先理解我們技術中介化的歷史。這些歷史又反過來塑造了我們當下對這種技術的評價。我相信，與AI關係中的真實性，不以模仿人類的關係、完全對應地用AI來取代人為標誌，相反，它將是一種對人工智慧的人造性的承認，是我們中介化（且經常是孤獨的）世代的一種新關係。
*本文原文為Megan Ward，“Can Chatbots Be Authentic?”, Public Humanities （2025）, 1, e37, 1-5。按CC BY4.0協議譯介。梅根·沃德為美國俄勒岡大學文理學院助理教授。
註釋
[1] AffectionateTrips 2024.
[2] Meta 2024.
[3] 比如說，《紐約時報》說Meta AI的釋出是“大科技公司迄今為止最聲勢浩大的，把這種人工智慧——所謂的生成式AI——推向主流的舉措”（Chen 2024）。
[4] Zuckerberg 2024.
[5] Drouin et al. 2022.
[6] Murthy 2023.
[7] Murthy 2023, 20.
[8] Meta AI是在Meta Llama 3的基礎上執行的，而ChatGPT則基於一個來自GPT-3.5系列的模型（Open AI 2023; Meta 2024）.
[9] Neururer et al. 2018.
[10] Turkle 2007, 502.
[11] Turkle 2007, 504.
[12] Neururer et al. 2018.
[13] Neururer et al. 2018.
[14] Pentina et al. 2023.
[15] Neururer et al. 2018.
[16] Cheever 1880, 94.
[17] Otis 2002, 2.
參考文獻
AffectionateTrips. 2024. “A Loving Chat with Meta’s AI.” Reddit 16: 2024. https://www.reddit.com/r/ChatGPT/
comments/1asvb99/a_loving_chat_with_metas_ai/.
Cheever, Ella Thayer. 1880. Wired Love: A Romance of Dots and Dashes. New York: W. F. Johnston. https://babel.hathi
trust.org/cgi/pt?id=nyp.33433044170904&seq=9.
Chen, Brian X. 2024. “Meta’s AI Assistant is Fun to Use, but It Can’t Be Trusted.” New York Times, April 24, 2024.
https://www.nytimes.com/2024/04/24/technology/personaltech/meta-ai-facebook-instagram-chatbot.html.
Drouin, Michelle, Susan Sprecher, Robert Nicola, and Taylor Perkins. 2022. “Is chatting with a sophisticated chatbot
as good as chatting online or FTF with a stranger?” Computers in Human Behavior 128: 107100. https://doi.
org/10.1016/j.chb.2021.107100
Meta. 2024. “Introducing Meta Llama 3: The most capable openly available LLM to date.” Posted April 18, 2024.
https://ai.meta.com/blog/meta-llama-3/.
Murthy, Vivek H. 2023. “Our Epidemic of Loneliness and Isolation: The U.S. Surgeon General’s Advisory on the
Healing Effects of Social Connection and Community.” https://www.hhs.gov/sites/default/files/surgeon-gen
eral-social-connection-advisory.pdf.
Neururer, Mario, Stephan Schlögl, Luisa Brinkschulte, and Aleksander Groth. 2018. “Perceptions on Authenticity in
Chatbots.” Multimodal Technologies and Interactions 2: 60. https://doi.org/10.3390/mti2030060
Open AI. 2023. “Introducing ChatGPT.” Posted November 30, 2022. https://openai.com/index/chatgpt.
Otis, Laura. 2002. Networking: Communicating with Bodies and Machines in the Nineteenth Century. Ann Arbor: University
of Michigan Press.
Pentina, Iryna, Tyler Hancock, and Tianling Xie. 2023. “Exploring relationship development with social chatbots: A
mixed method study of Replika.” Computers in Human Behavior 140: 107600. https://doi.org/10.1016/j.
chb.2022.107600
Turkle, Sherry. 2007. “Authenticity in the Age of Digital Companions.” Interaction Studies 8 （3）: 501–517.
Zuckerberg, Mark （@zuck）. 2024. “Some updates on our AI efforts.” Threads. Janurary 18, 2024. https://
www.threads.net/@zuck/post/C2QBoRaRmR1/?igshid=MzRlODBiNWFlZA%3D%3D.
投稿郵箱：[email protected]
本文責編：朱凡。本期微信編輯：朱凡。本文為思想市場原創內容，點選“閱讀原文”進入澎湃新聞網站閱讀更多精彩內容。