

論文標題:
MICAS: Multi-grained In-Context Adaptive Sampling for 3D Point Cloud Processing
論文連結:
https://arxiv.org/abs/2411.16773
收錄會議:
CVPR 2025

研究背景
3D 點雲處理(PCP)涉及多種任務,如重建、去噪、配準、分割等,傳統做法往往為每個任務設計特定模型,導致模型繁雜、成本高昂。雖然多工學習(MTL)能緩解模型數量問題,但在任務衝突、引數調優方面仍存在挑戰。
近年來興起的 In-Context Learning(ICL)技術,不依賴引數更新,僅透過 “提示示例” 即可適配多個任務,展示出任務泛化潛力。但將 ICL 用於點雲處理時,當前方法面臨任務間和任務內的顯著敏感性問題。


MICAS 方法:從取樣出發,讓上下文學習更“懂點雲”
本論文提出 MICAS,首個專為點雲上下文學習設計的多粒度自適應取樣方法,從 “點級” 和 “提示級” 兩個維度提升 ICL 在 3D 任務中的穩健性和適應性。
2.1 MICAS 的兩大核心模組

Task-Adaptive Point Sampling:利用任務資訊,引導點級取樣策略,提升模型對任務特徵的適配能力。(同一個點雲在不同任務中能夠產生差異化的取樣結果,從而提升任務適應性與表達能力。)
Query-Specific Prompt Sampling:針對每個查詢輸入,動態選擇最優的提示示例,緩解同一任務內提示樣本多樣性帶來的敏感問題。
2.2 MICAS 的具體實現

任務自適應點取樣(Task-adaptive Point Sampling)
目標:利用任務相關的資訊,最佳化每個點的取樣過程,以提高不同任務間(例如重建、去噪、配準、分割)對點的選擇精度。
實現步驟:
-
提示理解(Prompt Understanding):使用 PointNet 作為編碼器,從輸入的 prompt 中提取任務特徵。透過將輸入點雲和目標點雲的特徵進行拼接,生成任務特徵。
-
Gumbel 取樣(Gumbel Sampling):利用 Gumbel-softmax 實現可微分的取樣。這個機制將任務特徵和當前點雲的特徵結合,透過正態化的 sampling weights 生成最終的取樣結果。這一過程允許模型在訓練期間得到更高的效能。
查詢特定提示取樣(Query-specific Prompt Sampling)
目標:在相同任務中,針對不同的查詢提高提示的相關性,以克服任務內部的各種敏感性。
實現步驟:
-
偽標籤生成:透過 ICL 模型生成預測結果,並評估其與真實值之間的差異,利用這些模型效能作為偽標籤。
-
取樣分值計算:對於每個查詢點雲,根據不同候選提示計算取樣分值,選取分值最高的提示作為最終輸入。
-
損失函式:使用 List-wise ranking loss 來最佳化提示的選擇順序,從而提高模型的整體效能。

實驗設定
評估資料集:使用 ShapeNet In-Context Dataset,該資料集包含了多種“輸入-目標”點雲的對,以便進行全面的任務評估。
評估指標:使用 Chamfer Distance(CD)和 Mean Intersection over Union(mIOU)來衡量不同任務的效能。例如,CD 用於重建、去噪和配準任務,mIOU 用於分割任務。

結果與討論
效能提升:透過對任務自適應點取樣和查詢特定提示取樣的聯合使用,MICAS 在所有被評估任務中均顯著超越現有技術,特別是在部件分割任務中,效能相較於前作提升了 4.1%。
嚴謹性與可靠性:進行了一系列對比實驗和消融研究,驗證了 MICAS 在不同場景下的魯棒性,同時展示了各元件在整體效能提升中的協調作用。
複雜度管理:在模型訓練過程中,透過分步驟訓練來降低複雜度,使得模型既能有效學習任務特徵,又可輕鬆適應不同的提示。



模型訓練和推理視覺化

實驗結果對比視覺化
▲ 重建任務的取樣結果對比
▲ 去噪任務的取樣結果對比
▲ 配準任務的取樣結果對比
▲ 分割任務的取樣結果對比
更多閱讀

#投 稿 通 道#
讓你的文字被更多人看到
如何才能讓更多的優質內容以更短路徑到達讀者群體,縮短讀者尋找優質內容的成本呢?答案就是:你不認識的人。
總有一些你不認識的人,知道你想知道的東西。PaperWeekly 或許可以成為一座橋樑,促使不同背景、不同方向的學者和學術靈感相互碰撞,迸發出更多的可能性。
PaperWeekly 鼓勵高校實驗室或個人,在我們的平臺上分享各類優質內容,可以是最新論文解讀,也可以是學術熱點剖析、科研心得或競賽經驗講解等。我們的目的只有一個,讓知識真正流動起來。
📝 稿件基本要求:
• 文章確係個人原創作品,未曾在公開渠道發表,如為其他平臺已發表或待發表的文章,請明確標註
• 稿件建議以 markdown 格式撰寫,文中配圖以附件形式傳送,要求圖片清晰,無版權問題
• PaperWeekly 尊重原作者署名權,並將為每篇被採納的原創首發稿件,提供業內具有競爭力稿酬,具體依據文章閱讀量和文章質量階梯制結算
📬 投稿通道:
• 投稿郵箱:[email protected]
• 來稿請備註即時聯絡方式(微信),以便我們在稿件選用的第一時間聯絡作者
• 您也可以直接新增小編微信(pwbot02)快速投稿,備註:姓名-投稿

△長按新增PaperWeekly小編
🔍
現在,在「知乎」也能找到我們了
進入知乎首頁搜尋「PaperWeekly」
點選「關注」訂閱我們的專欄吧
·
