TimeDP：創新時間序列生成模型，突破跨領域應用侷限性

（本文閱讀時間：7分鐘）

編者按：隨著人工智慧技術的飛速發展，時間序列資料的應用價值在眾多領域嶄露頭角。然而，現有方法往往難以有效應對不同領域之間的差異性，這在很大程度上限制了其廣泛應用。在此背景下，微軟亞洲研究院提出了一種創新的時間序列擴散生成模型 TimeDP。該模型透過引入時間序列原型和領域提示，突破了傳統方法的侷限，實現了高效的跨領域時間序列生成，顯著提升了模型的泛化能力和靈活性。

人工智慧技術的持續演進，讓時間序列資料在眾多領域中的應用價值愈發凸顯，尤其是在醫療健康、金融市場、氣象預測和交通管理等行業。時間序列生成技術不僅可以彌補資料的不足，還能在無實際風險的環境中進行模擬和預測，因此具有重要的實際應用意義。

例如，在醫療領域，生成高質量的時間序列資料可以在保護隱私的前提下，幫助解決資料的稀缺問題，為疾病預測、個性化治療等提供更加豐富的資料支援。金融行業則可以利用生成的市場資料進行策略測試與風險管理，而無需暴露於真實市場的波動風險中。無論是電力負荷預測、交通流量模擬，還是氣象資料生成，時間序列生成技術都能為各行業提供更豐富、可靠的資料支援。

隨著需求的多樣化，傳統的時間序列生成模型面臨著跨領域生成能力不足的問題。許多現有方法僅限於單一領域的資料生成，難以有效應對不同領域之間的差異性，大大限制了其廣泛應用。為此，微軟亞洲研究院的研究員們提出了一個具備跨領域泛化能力的創新時間序列擴散生成模型 TimeDP。透過少樣本提示（few-shot prompting）與領域提示（domain prompts），使用者無需手動描述風格，TimeDP 即可實現高效的跨領域時間序列生成。

TimeDP: Learning to Generate Multi-Domain Time Series with Domain Prompts

論文連結：

https://arxiv.org/abs/2501.05403

創新洞察：示例驅動的時間序列生成

過往研究雖已開發出諸多時間序列生成模型，但這些模型大多侷限於特定領域，難以在不同領域資料間實現有效泛化。更為關鍵的是，許多模型依賴於明確的領域標籤或手工指定的條件輸入，極大地限制了其在現實應用中的靈活性。

此外，如何精準描述所要生成的時間序列風格也是一大挑戰，尤其是對於未見領域（unseen domain）而言。傳統方法通常依賴使用者提供顯式的條件，如標籤或文字描述，但由於時間序列的複雜性，使用者很難精準地把資料的趨勢、週期性和隨機性等特徵表達出來。

TimeDP 的創新之處在於其獨特的示例驅動生成機制：

使用者僅需提供少量目標領域的時間序列樣本，無需手動描述風格
模型透過原型分配模組（Prototype Assignment Module, PAM）提取樣本的關鍵特徵，自動構建領域提示
領域提示作為條件輸入，引導模型生成符合目標領域特徵的時間序列資料，從而實現零樣本或少樣本情況下的高質量資料生成

這種方法的優勢在於：無需使用者明確描述風格，避免了主觀判斷的不準確性；適應未見領域，可提升跨領域的泛化能力；僅需少量示例資料，就能夠實現高效精準生成，大幅降低了資料的獲取和標註成本。

時間序列原型：跨領域生成的關鍵

TimeDP 的核心方法依託於時間序列原型（Time Series Prototypes）。這一創新設計使得模型能夠在沒有領域標籤的情況下高效生成跨領域的時間序列資料。類似於單詞（word）和大語言模型之間的關係，時間序列原型被視為描述時間序列風格的最小單元。TimeDP 透過學習這些基礎單元，構建適應不同領域的領域提示，從而更精準地引導時間序列生成。

圖1：時序生成模型和大語言模型類比示意圖。時序序列原型構建的領域提示用以描述時序風格資訊，類比於語言模型中的提示詞。

具體來說，TimeDP 的核心模組包括以下幾個部分。

時間序列原型：在 TimeDP 中，時間序列原型代表了時間序列中的基本特徵，如趨勢、季節性波動、週期性變化等。透過這些原型，模型能夠理解並生成不同領域的時間序列資料。每個原型可以看作是時間序列的“基礎單元”，對這些單元進行組合，TimeDP 就能夠靈活地生成符合目標領域特徵的資料。

原型分配模組：原型分配模組是 TimeDP 的關鍵元件之一。它的作用是根據輸入的時間序列資料，為每個資料樣本分配適當的原型。這一機制使模型能夠在訓練過程中學習到每個領域的獨特特徵，並且保持跨領域生成的靈活性。在生成階段，PAM 可根據目標領域的示例資料自動調整生成條件，以確保生成的資料符合目標領域的規律。

跨領域生成與領域提示：TimeDP 是透過領域提示來實現跨領域生成的。傳統的生成模型通常需要明確的領域標籤來指導生成過程。而 TimeDP 則可以從目標領域中提取的少量樣本來自動生成領域提示，這些提示將幫助模型在生成時明確目標領域的特徵。無需顯式的領域標籤，TimeDP 就能夠靈活地透過少量資料實現跨領域生成，從而適應多領域的應用需求。

圖2：TimeDP 模型結構圖

實驗驗證：優秀的跨領域生成能力

為了驗證 TimeDP 的生成能力，研究員們在四大領域（能源、交通、氣象、金融）的12個真實資料集上進行了全面的實驗。透過採用最大均值差異（MMD）、Kullback-Leibler 散度（KL 散度）等指標，研究員們對生成資料的質量進行了嚴格評估。實驗結果表明，TimeDP 在多個領域和資料集上均表現出了卓越的生成效果。

針對領域內生成， TimeDP 在多個數據集上生成的資料都與真實資料的分佈高度一致。TimeDP 生成的時間序列與真即時間序列樣本之間的最大均值差異（MMD）平均較基線模型降低了25.9%，KL 散度平均降低53.0%，表現出色。

表1：領域內生成結果

TimeDP 在未見領域（即在訓練階段未接觸過的資料領域）的少樣本提示生成表現同樣優秀。TimeDP 僅需要未見領域的少量樣本充當領域提示，不需要經過微調，即可超越基線模型用同樣數量樣本微調後的生成質量。當示例樣本數量增加時，少樣本提示生成的時間序列分佈逐漸接近真即時間序列，展現了 TimeDP 強大的跨領域泛化能力。

表2：未見領域生成結果

透過引入時間序列原型和領域提示等創新技術，TimeDP 為跨領域時間序列生成提供了一種全新的解決方案。實驗結果表明，該模型不僅能生成高質量的時間序列資料，還能夠在多個領域和資料集上展現出強大的泛化能力。透過自動構建領域提示和少樣本提示，TimeDP 解決了多領域時間序列建模中使用者難以描述目標時間序列模式的問題，極大提升了模型的適應性和應用價值。

你也許還想看：