昨晚，OpenAI 的聯合創始人、前首席科學家 Ilya Sutskever 宣佈，其正在創辦一家專注於安全領域的新人工智慧公司 Safe Superintelligence Inc. (SSI)。Sutskever 透露，該公司的目標和產品只有一個：建立安全而強大的人工智慧系統。“超級智慧觸手可及。構建安全的超級智慧是我們這個時代最重要的技術問題。”

根據官方的公告介紹，SSI 被描述為一家 "將安全和能力結合在一起 "的初創公司，在快速推進其人工智慧系統的同時仍能將安全放在首位。公告還提到了 OpenAI、谷歌和微軟等公司的人工智慧團隊經常面臨的外部壓力，表示 SSI 的 "單一關注點 "使其能夠避免 "管理費用或產品週期的干擾"。

"我們的業務模式意味著安全、保障和進步都不受短期商業壓力的影響，這樣我們就可以安安心心地擴大規模"。據 Sutskever 介紹，SSI 的第一個產品將是“安全的超級智慧”，在此之前，該公司不會做任何其他事情。

然而，對於 SSI 的運營理念，有一些網友提出了不同角度的犀利質疑。一方面是其追求的安全準則：“我們離‘超級智慧’還差得很遠，安全是重中之重嗎？如果萊特兄弟專注於安全，我不確定他們會飛得很遠。”

另一方面是訓練和人才資源：“如何設法支付真正有天賦的人工智慧研究人員可以從其他更商業化的公司那裡獲得的薪酬待遇？也許可以找到有意識形態驅動或已經在經濟上獨立的人，但至少需要在合理的時間範圍內給出對未來收入的承諾和希望，以整合真正能夠與大型人工智慧超級實驗室競爭所需的各種資源，比如計算和 GPU 資料。”

雖然目前尚不清楚誰將為這個新企業的發展提供資金，也不清楚其最終的商業模式究竟是什麼，但 Sutskever 表示“籌集資金不會成為公司的問題”，並正在向業內感興趣的人傳達一個資訊：SSI 將在美國和以色列設立總部，目前正在招聘。現在，在 X 社交平臺上，已有一位 @signulll 的網友，聲稱自己剛剛加入 SSI。

除 Sutskever 之外，SSI 還由蘋果前 AI 負責人、Y-Combinator 合夥人、Cue 聯合創始人 Daniel Gross 和曾在 OpenAI 擔任技術人員的 Daniel Levy 共同創立。

安全以外，對於新公司，Sutskever 似乎也做了更多產品競爭能力方面的考量。

Sutskever 認為，在人工智慧領域佔據主導地位的大型語言模型，將在安全超級智慧系統中發揮重要作用，但它的目標是實現更強大的功能。他表示，對於目前的系統，"你和它說話，進行對話，然後就完成了"；SSI 的人工智慧系統在準備就緒後，將比目前的大型語言模型更具通用性和擴充套件性。

據瞭解，SSI 的創始人之一 Levy 在 OpenAI 時就以訓練大型人工智慧模型而聞名。並且，他也是在 Sutskever 離開 OpenAI 之後幾天離職的研究人員之一。讀書時期，Levy 是斯坦福大學計算機科學專業的博士生，研究方向是機器學習、最佳化和隱私；碩士期間，他在斯坦福大學研究機率模型和強化學習。畢業後，他還曾在 Facebook 和谷歌工作過。

而 SSI 的另一位創始人 Daniel Gross，有著更加豐富的研發、創業與投資經驗。不僅與他人共同創立了 Cue，曾擔任 Y-Combinator 的合夥人，並且是 Uber、Instacart、Figma、GitHub、Airtable、Rippling、CoreWeave、Character.ai 等公司的著名技術投資者，還在蘋果領導了多年的人工智慧工作。

今年 3 月，Gross 宣佈投資了一家 AI 晶片公司 MatX。4 月，他還表示自己迴歸了搜尋領域，並領導 Perplexity 的最新一輪融資。

值得一提的是，在前不久的 WWDC24 大會上，OpenAI 宣佈與蘋果公司建立合作伙伴關係，將 ChatGPT 深度整合在蘋果產品矩陣中，包括最新的 iOS、iPadOS 和 macOS。這將影響全球 20 多億活躍裝置， OpenAI 的使用者覆蓋範圍得以進一步地擴大。當時，這一訊息還引起了不少人對於資料及隱私安全的擔憂與熱議，包括埃隆·馬斯克（Elon Musk）。

對此，也有網友表示，SSI 接下來應該去和埃隆·馬斯克去年成立的人工智慧公司 xAI 合作。

據外媒報道，Sutskever 這樣詳細闡述新公司 SSI 的方法：“我們所說的安全，是指像核安全一樣的安全，而不是像'信任和安全'一樣的安全；OpenAI 的核心安全原則之一是成為信任和安全的先驅。”

在 OpenAI 時，Sutskever 是該公司提高人工智慧安全性工作中不可或缺的一員。很長一段時間以來，Sutskever 一直在關注人工智慧安全的棘手問題。

去年，Sutskever 帶頭推翻了 OpenAI 執行長 Sam Altman 的職務。但幾天後，Altman 在沒有 Sutskever 的新董事會領導下重返公司。今年 5 月，Sutskever 和前 Alignment 主管 Jan Leike 都宣佈離開 OpenAI。

據瞭解，Sutskever 和 Leike 曾共同領導 OpenAI 的 Superalignment 團隊。該團隊不僅致力於使人工智慧的行為和目標與人類的價值觀和目標保持一致，還致力於防止超級智慧人工智慧 "失控"。而他們的同時離職，可能預示著 OpenAI 可能並不重視安全問題。此前 OpenAI 的政策研究員格雷琴 – 克魯格（Gretchen Krueger）在宣佈離職時，也提到了安全問題。

離職後，Leike 還在社交媒體上連續發帖指責 OpenAI："安全文化和流程已經被閃亮的產品所取代"，"我一直不同意 OpenAI 的做法。我與 OpenAI 領導層就公司的核心優先事項產生分歧已經有一段時間了，直到我們最終達到了一個爆發點”。當時，Altman 和 OpenAI 總裁 Greg Brockman 回應了 Leike 的指控，承認還有更多工作要做，他說：“我們非常認真地對待我們在這裡的角色，並仔細權衡對我們行動的反饋。

Sutskever 在辭職時，看似與 Leike 的立場不同，表示他 "相信 OpenAI 將在 Altman 的領導下，打造出既安全又有益的 AGI"，但又暗示其將獨自啟動一個新專案，而預熱的大概就是現在官宣的新公司 SSI 了。

談及 SSI 的成立，Sutskever 表示，他花了數年時間考慮安全問題，並且已經想到了一些方法。“在最基本的層面上，安全的超級智慧應該具有不會大規模傷害人類的特性。”Sutskever 稱，“我們的最終目標是創造一個“安全的超級智慧”，它不會傷害人類，並將基於自由和民主等價值觀運作。

事實上，這已經不是 OpenAI 的員工第一次脫離 ChatGPT 製造商，去製造 "安全 "的人工智慧系統了。2021 年，該公司前人工智慧安全主管 Dario Amodei 分拆出了自己的初創公司 Anthropic。據知情人士透露，Anthropic 已從亞馬遜融資 40 億美元，還從風險投資者那裡融資數億美元，估值超過 180 億美元。

目前，SSI 雖然沒有對外披露公司的財務支持者以及迄今為止籌集的金額，但 SSI 的三位創始人表示，開發安全的超級智慧——一種可以取代人類認知能力的機器智慧是該公司的“唯一重點”。該計劃將不受投資者收入要求的限制，例如呼籲頂尖人才加入。

也就是說，SSI 將是一個純粹以研究為重點的組織，而不是 OpenAI 目前的商業模式，其中包括其人工智慧模型的商業化。

令人感嘆的是，OpenAI 成立最初宣佈的使命與 SSI 類似，旨在做一個創造造福人類的超級智慧人工智慧的非營利性研究實驗室。現在，雖然 Altman 聲稱這仍然是 OpenAI 的指導原則，但在他的領導下，該公司似乎已經變成了一家快速增長收入為主的企業。

有網友對 SSI 抱有高期待，希望其能成為一個做開源 AI 產品的公司。也有網友調侃到，“Sutskever 幹嘛要創辦一家新公司，而不是直接加入 Anthropic 或 Google？是否應該將此解釋為含蓄地對他們投出了不信任票？”

InfoQ 將於 8 月 18 日至 19 日在上海舉辦 AICon 全球人工智慧開發與應用大會，匯聚頂尖企業專家，深入端側AI、大模型訓練、安全實踐、RAG應用、多模態創新等前沿話題。現在大會已開始正式報名，6 月 30 日前可以享受 8 折優惠，單張門票節省 960 元（原價 4800 元），詳情可聯絡票務經理 13269078023 諮詢。