海歸學者發起的公益學術平臺
分享資訊，整合資源
交流學術，偶爾風月
近日，《國家科學評論》（National Science Review, NSR）線上發表了華南理工大學數學學院劉銳教授團隊和中國科學院分子細胞科學卓越研究中心陳洛南研究員的研究成果。
該研究團隊開發了一種基於單神經元的“小模型”深度學習框架（one-core-neuron system, OCNS），這一系統僅透過單個核心神經元實現了高精度且可解釋的時序預測，為構建高效深度學習提供了新的思路和潛力。
當前，深度學習領域的“大模型”正面臨嚴峻挑戰。這些模型通常包含數十億甚至上千億的引數，訓練和執行需要大量的計算資源，耗費巨大的能源，並帶來不可持續的碳排放問題。這不僅限制了這些模型在資源受限場景中的應用，還對環境產生了潛在威脅。在這樣的背景下，如何實現高效、低能耗的人工智慧成為學術界和工業界關注的焦點。
基於延遲嵌入理論，該團隊透過時空資訊（spatiotemporal information transformation）轉換和多延遲反饋設計的單核心神經元框架“小模型”，將高維繫統的狀態資料編碼為一維時間序列，不僅理論上和計算上可保證由一維時間序列表徵高維資料，而且能夠極大地減少引數規模，同時保持甚至超越“大模型”的時間序列預測效能。
圖1 OCNS的整體框架
圖2 OCNS在基準資料集上和其他方法的預測效能比較
這一突破不僅為深度學習和類腦科學研究開闢了高效新路徑，展現了廣泛的應用潛力和深遠的影響，也為綠色人工智慧的未來提供了有力支援。
華南理工大學數學學院劉銳教授和中國科學院分子細胞科學卓越研究中心陳洛南研究員為該論文共同通訊作者，華南理工大學數學學院彭昊博士和陳培教授為論文共同第一作者。該研究感謝蘇州大學馬歡飛教授的建議和幫助。該工作得到了國家自然科學基金、上海市科學技術委員會、廣東省基礎與應用基礎研究基金等專案的資助。
點選“閱讀原文”閱讀原文。
媒體轉載聯絡授權請看下方