來源 | 機器之心
僅僅過了一天，阿里開源的新一代推理模型便能在個人裝置上跑起來了！
昨天深夜，阿里重磅開源了引數量 320 億的全新推理模型 QwQ-32B，其效能足以比肩 6710 億引數的 DeepSeek-R1 滿血版。
基準測試資料顯示，QwQ-32B 在數學推理、程式碼生成及通用任務處理能力上實現了顯著突破，充分展現了強化學習應用於預訓練基礎模型的巨大潛力。
QwQ-32B 與原始 DeepSeek-R1、DeepSeek-R1-Distilled-Qwen-32B、DeepSeek-R1-Distilled-Llama-70B、o1-mini 的基準測試結果比較。
可以說，QwQ-32B 的開源不僅代表著大模型技術的又一次飛躍，更預示著「最強模型」走入個人裝置的時代正式到來。
然而，這只是模型一側的改進。對於大多數人來說，高效能大模型的部署門檻一直居高不下，常面臨著「存不下、跑不動、散不了熱、供不起電」等諸多挑戰，是阻礙個人使用者體驗前沿技術的最大障礙。
不過大模型時代，技術的進步永遠很快。
這不，一家利用閒時 GPU 算力資源支援科學研究和 AI 推理並獲得收益的平臺「算了麼」，為普通使用者體驗並一鍵部署阿里最新推理模型提供了便捷途徑。
備註：參照此一鍵部署 DeepSeek-32B 的影片，也可一鍵部署 QwQ-32B。
全球首發：3090 顯示卡跑 QwQ-32B 只需幾步
此次，「算了麼」平臺首個推出了 QwQ-32B 模型在個人電腦上的一鍵部署方案，只需簡單幾步即可輕鬆體驗比肩 DeepSeek-R1 的強大推理能力。
這意味著，普通人也能分分鐘把這幾百億引數的模型跑起來，完全不用懂程式碼，門檻極低。
實測資料顯示，在消費級 RTX 3090 顯示卡上，QwQ-32B 模型的推理速度可達 30-40tokens/秒。流暢高效得到保證，可以完全滿足日常使用場景。
當然，沒有 90 系顯示卡的使用者也無需擔憂。
目前，「算了麼」平臺基於共享的資源，將 QwQ-32B 以免費 API 和 Chat 的方式提供給廣大使用者，歡迎試用！當然，平臺也呼籲身邊有 90 系顯示卡裝置的同學，可以共享出來給更多人使用。
-
免費 API 獲取：qwq.aigpu.cn
-
免費試用 Chatbot：aigpu.cn
開啟個人算力共享新紀元
一鍵部署只是開胃菜，算力普惠是「算了麼」平臺想要實現的更長遠目標。
作為國內領先的分散式算力共享平臺，「算了麼」透過一種全新的方法破解算力不均衡問題——其支援使用者在部署模型之後，在空閒不用時選擇將本地算力共享給社群的使用者使用，並可以獲取一定的積分收益。
一邊是排隊使用 GPU 的專案，另一邊是大部分時間閒時的算力，一個平臺解決兩邊的問題。這就是「算了麼」平臺一直以來的做法——降低算力使用門檻，釋放個人裝置潛能。
具體來講，平臺利用動態閒時資源，構建安全穩定的分散式計算網路，目前已經接入超萬臺個人電腦、數十萬臺網吧的閒時算力資源，為靈活、臨時的彈性算力需求提供安全、穩定、低價的算力服務。
此前已有非常成功的落地案例，2024 年 10 月，「算了麼」平臺利用百餘臺共享個人電腦裝置，為清華大學 AI 課堂上的 100 多位學生提供了長達 2 個多小時的線上穩定算力服務。此舉不僅驗證了彈性共享算力的可行性和穩定性，也為未來普惠 AI 教育、算力生態建設提供了典型示範樣本。
平臺官網：suanleme.cn
團隊介紹
「算了麼」團隊擁有深厚的學術和技術背景，核心成員來自清華大學、北京大學以及 Intel、字節跳動等知名企業。
團隊在分散式資源排程領域深耕多年，曾獲 2024 年中國國際大學生創新大賽亞軍（金獎，創業組冠軍），並已獲得奇績創壇、水木創投等知名機構的投資。
早在平臺創立之初，「算了麼」團隊就敏銳洞察到大模型發展的兩大趨勢：「小型化」與「分散式」。兩者均對當前大模型的實際應用落地具有重要的推動作用。
團隊堅信，隨著模型技術的不斷演進，大模型將不再是少數巨頭的專屬，而是遵循密度定律不斷「小型化」，在更小算力下釋放更強能力。同時，分散式算力將成為支撐未來 AI 發展的關鍵基礎設施，個人算力的價值將得到前所未有的凸顯。
「算了麼」平臺正是基於這一前瞻性認知而生，致力於構建開源、普惠、共贏的算力生態，讓每一份個人算力都能匯聚成推動 AI 發展的強大力量。
隨著單卡跑最強模型的時代已經到來，「算了麼」平臺期待廣大開發者、AI 愛好者的踴躍加入，共同開啟個人算力共享新篇章！
技術交流群邀請函
△長按新增小助手
掃描二維碼新增小助手微信
請備註：姓名-學校/公司-研究方向
（如：小張-哈工大-對話系統）
即可申請加入自然語言處理/Pytorch等技術交流群
關於我們
MLNLP 社群是由國內外機器學習與自然語言處理學者聯合構建的民間學術社群，目前已經發展為國內外知名的機器學習與自然語言處理社群，旨在促進機器學習，自然語言處理學術界、產業界和廣大愛好者之間的進步。
社群可以為相關從業者的深造、就業及研究等方面提供開放交流平臺。歡迎大家關注和加入我們。
掃描二維碼新增小助手微信
關於我們