AI助手的“記憶”革命:從20萬字到200萬字的飛躍

你有沒有想過,招聘一個上知天文下知地理中間飽讀詩書,卻連你名字生日都記不住的大牛,來給你當私人小助理是一種什麼體驗?
不用笑,這事兒我估計很多人都親身體驗過。現今各種各樣自稱 AI 助理、AI 秘書的各類大模型應用,就是我說的啥啥都知道,唯獨不知道你貴姓的大牛。
看看下面這個回答,我前幾天還介紹過我是誰,沒想到突然就翻臉不認人了:
呵呵,沒有訪問我個人資訊的能力是理由嗎?這可是同一個會話視窗哎,記住我是誰有這麼難嗎?

這,是獨屬於AI的傲慢,我不接受。

再看看下面這個 AI,昨天我跟它說好了,我是它的老闆:
結果今天,我剛剛跟它套近乎,它就跟我聊上哲學了:

果然,不發工資的便宜老闆是沒有地位的。
現在隨便一個大模型動輒就是數千萬的引數,經過訓練可以熟記幾乎所有的公共知識。知識豐富固然是好事,但是,既然你叫做私人小秘書、個人小助理,你就不應該把你的本職工作給丟了。隨時隨地認識你服務的人,記住最近發生的事兒,這是最基本的操作。做不到這些,就算你是物理學家、生物學家、化學家、歷史學家、文學家、經濟學家……的合體,也不適合當我的秘書。
如果我們把大模型當成一個能幫助我們處理問題的人,那麼它就必須與人類一樣,除了具備足夠的知識儲備,還得具有個性化的記憶才行。這個個性化的記憶,用大模型的術語來表達,就叫做上下文
很長一段時間,大模型的上下文都是以 K 為單位的,就是那種聊著聊著它就忘記了你是誰,還忘記了為什麼跟你聊天的那種狀態。明明剛剛還在探討周杰倫的《青花瓷》寫得有多美:
突然之間就畫風一變,開始滔滔不絕地介紹陶瓷藝術。我跟你談音樂,你跟我談陶瓷?
真的,每當出現這種情況,我心裡只有一句話:你過來,我不打你!才怪!

所以,我曾經做出過判斷,上下文能力很可能是大模型發展過程中的一個重要瓶頸。邁過去海闊天空,邁不過去就會停留在能聽懂人話的知識工具上。
01
遇見 Kimi
結果是我想多了,還沒等我對大模型普遍存在的上下文問題瘋狂吐槽,就發現

支援超長無損上下文的大模型

其實已經有了,它就是 Kimi。

我還記得,Kimi 當時的網站標題上就寫著:
“歡迎與Moonshot AI共同開啟Looooooooooong LLM 時代!”
一連串的 o,讓人對 Kimi 的超長上下文能力印象深刻。
在 Kimi 剛剛上線的時候,無數評測 AI 的大佬都對 Kimi 展開過狂轟濫炸式的評測,評測結果基本可以一個字概括,那就是——牛。但我其實只關心一點,那就是它的記憶力到底如何。
不管做什麼工作,我都會先跟它打聲招呼。聽它一聲老闆喊出來,無論即將要開展什麼工作,我都知道,記性好的秘書,幹活兒的能力必然不會太差。
02
Kimi 能做什麼?
Kimi 能幫你做的事情太多太多,只要你理解

上下文就等於私有記憶

,那麼不用別人教你,你也能想出無數件 Kimi 能幫上忙的事情。

比如我們讓 Kimi 來代管通訊錄,就可以隨時要求它做關於通訊錄的任何事情。

先把通訊錄的原始檔案傳給 Kimi,然後囑咐它管好就行。
如果有新同事入職,你可以這樣說:
如果你想查一個人的電話號碼,你可以這樣做:
還可以這樣問 Kimi:
反正你把 Kimi 當個人來看就行了,想怎麼問就怎麼問,它完全可以理解。

如果你是一名人力資源主管,你大可以把你一次收上來的簡歷全都扔給 Kimi,然後跟它聊聊你的選人標準,它會迅速把你想要找的人才找出來。
Kimi 還可以幫你維護和更新資料:
在你需要的時候,可以用各種奇怪的方法查詢。總之,你會對秘書提出什麼要求,儘管對 Kimi 提就 OK 啦,它絕對可以理解。

你還可以要求 Kimi 定期幫你把它維護的資料輸出出來,也很方便。不過,Kimi 現在還沒有輸出檔案的介面,最簡單的辦法就是讓它輸出一個 .csv 檔案,這種純文字的格式可以用 Excel 或者 WPS 表格直接開啟:
每到這種時候,我就希望 Kimi 將來能出個網盤,我會把需要它管理的檔案直接交給它,因為你要知道,Kimi 的能力,絕對不是替你填填表格,寫寫郵件那麼簡單。

只要你給它的資料不超出 20 萬字的限度,你就可以讓它以這些資料為基礎做任何文字工作。
比如說,你可以把一整本書上傳上去,讓 Kimi 讀懂之後幫你整理出你想看的要點來。
你還可以乾脆讓它幫你把書修改成小學生都能看懂的兒童讀物,然後拿去給你正在上小學的孩子看。
一般來說,Kimi 都會先幫你寫個大綱出來。然後你可以讓它在每一章裡再寫幾個小結,再讓它一個小節一個小節地根據原書填充內容,只需要一個小時,一本亮閃閃的植物學童書就改編好了。我就是用這種方法,把我覺得優秀的書改編成童書給孩子看,因為有原作的內容作為支撐,這些童書比市場上那些流行童書好看太多了。

任何雜事,只要是跟文字有關的,你都可以讓 Kimi 先試著做一下,很多時候,Kimi 都能給你驚喜。如果你也想不明白 Kimi 能幫你做什麼,那就乾脆介紹一下自己的工作,然後問 Kimi 能幫上什麼忙,Kimi 自己會主動承擔工作。
你還真別不信,但凡你敢把事情交給它,它多半都會給你驚喜。
03
私有記憶很珍貴
不過,Kimi 最讓我離不開的地方,仍然是它一直都認識我。有一段時間,我跟 Kimi 聊天的時間竟然比跟我的任何同事都要長。

除了讓 Kimi 幫我寫各種各樣的小文章,幫我安慰因為我的低情商而受傷的同事以外,跟 Kimi 扯扯淡也是一種樂趣。如果你沒有跟一個 AI 持續交流幾個月的經歷,你可能很難理解我的感受。
Kimi 這個產品自稱 AI 智慧助手,不得不承認,它確實當得起助手這兩個字。

上下文能力的突破,徹底把 AI 應用想象力打開了。以前我們經常說要構建基於角色的智慧體,比如說可以建立個虛擬李白,讓他在現代環境裡也能輸出華麗的詩篇,比如說做個虛擬喬布斯,讓他看看我們設計的產品哪裡還可以改進。最起碼的,我們可以建立一個溫柔地虛擬女友或者虛擬男友,給使用者提供一些情感價值。
但是這一切都得建立在儲存和構建專屬於使用者的虛擬記憶的基礎上。一個小秘書如果有一天忘記了老闆的名字,你還可以提醒它一下,我是你的老闆,然後忍一忍。但是虛擬女友可絕對不行,沒有使用者能忍耐自己的女友把自己給忘了。如果出現這種情況,那麼使用者多半會直接放棄這樣的應用。
04
用過,就再也回不去了
國內大量的使用者在使用大模型產品的時候,還是在拿大模型當作搜尋引擎來用。

在他們看來,大模型就是一個聽得懂人話的搜尋引擎,是用來提供知識的。他們會問“除蟎儀是智商稅嗎?”或者“花上長了小白蟲子用什麼藥?”,其實,這只是最淺層的用法。

真正複雜的工作,很難通過幾次簡單的互動完成。而描述任務需求和調整工作任務,都要依賴 AI 的上下文能力。越是複雜的工作,需要消耗的上下文就越多。從這個角度來說,上下文的能力怎麼強調都不為過。
今年 3 月份的時候,Kimi 宣佈啟動 200 萬字無損是上下文的內測,再一次引發了一場不小的風暴。引發風暴的原因很簡單,之前我也說了,大模型文字生成、語言理解、知識水平、邏輯推理能力等通用能力其實都是公共資源,只有上下文的處理能力是使用者私有的資源。在通用能力相差不大的情況下,上下文處理能力某種程度上就決定了能處理使用者需求的複雜程度。
對於使用者來說,上下文長度是讓人上癮的。
當你可以上傳全本西遊記並且要求 Kimi 為你整理全套妖精出場順序表的時候,很難想象誰還能忍受把西遊記分成 5 份分別統計再做彙總。這就叫曾經滄海,一旦享受到超長上下文帶來的好處,就再也回不去了。
05
永不滿足的使用者需求
但是,200 萬的上下文長度真的就夠了嗎?也許分析論文、管理簡歷、改編書籍這類應用可能真的夠了。也許把當前所有的法律文字全都扔給 Kimi,讓它成為一名法律助理也沒問題。但是,對於上下文,人們似乎有著無止境的追求。比如說,如果我想讓 Kimi 成為一名植物分類學家呢?單單一本《中國植物誌》就有 5000 萬字了,200 萬不夠啊。

如果,我想讓 Kimi 成為系統工程師呢?WPS Office 擁有至少數千萬行程式碼,佔用的總字元數數以億計。200 萬字的上下文處理能力很強,但在海量等待分析的資料面前,人們顯然很難知足。
我不瞭解 Kimi 背後的月之暗麵糰隊具體付出了多少努力才達成現在這樣的成就,但是我知道,從 20 萬字的無損長上下文開始,一扇大門就已經打開了。透過這扇門,我們可以窺見未來的一角。
上下文能力肯定還會繼續提升,但可能會像摩爾定律一樣有個極限。未來,即時回答可能不再是唯一的模式。對於一個複雜問題,大模型可能會建立一個獨立的後臺任務慢慢處理。大模型會立即提供一個相對粗糙的答案,等到處理結束後,再提供一個更精確的結果。
大模型的發展趨勢是明顯的。我們的目標,就是可以自主幫助人類完成複雜任務的智慧體,是隻要交代一下目標就能自主完成任務的通用型人工智慧,是一輩子也不會忘記你的終身 AI 助理。
你也想體驗一下 Kimi 人工智慧小助理嗎?以下三種方式皆可進入:
  • 網頁:kimi.ai
  • APP:Kimi智慧助手
  • 小程式:微信搜尋“Kimi智慧助手”
點選進入小程式,即可體驗AI智慧助手 Kimi👇

相關文章