SAM 1/2 想做的是PVS,SAM3想做的是PCS
而上下文分割分为广义的CS和狭义的ICS,
两者的关系为:PCS(文本 + 视觉) ⊃ ICS (仅视觉),ICS连概念名字都不用给、给个示例就行
FSS:更强调“换新类别————先在 base classes 上专门训练一个“如何用 support 样例分割 novel class”的模型,然后测试时仍然做固定粒度的类别级分割
ICS: 更强调“推理时用上下文重新定义要分割的概念,包括改变概念粒度”————同一个通用模型在推理阶段,由当前的 reference image + mask 来临时定义“这次到底要分什么
ICS与FSS的差别:推理时仅靠上下文样例来定义当前要分割的概念和粒度,实验时通过分数据集来评估————INSID3 本身算法不换,换的是 reference-target 的任务定义和对应 GT。
ICS 的代表工作:INSID3:想借助一个免训练冻结 VFM➕一个上下文实例对任意概念进行分割, 并不是给“物体 / 部分 / 个性化实例”分别设计三个分割头,而是让上下文实例来决定当前要分割的语义粒度,实现方法 .
| ICS 任务 | 数据集 | 数据基本信息 | 模型分割目标 |
|---|---|---|---|
| Semantic | COCO-20ᵢ | 通用物体图像,80 个物体类别 | 某个类别的所有实例,如“所有狗” |
| Semantic | LVIS-92ᵢ | 通用物体图像,920 个类别,明显长尾分布 | 某个类别的所有实例 |
| Semantic | ISIC2018 | 医学图像,皮肤镜下的皮肤病灶 | 对应的病灶区域 |
| Semantic | Chest X-Ray | 医学 X 光图像,肺部筛查 | 对应的肺部区域 |
| Semantic | iSAID-5ᵢ | 遥感/航拍图像,15 类 | 某类遥感目标,如建筑、车辆等 |
| Semantic | SUIM | 水下图像,8 类 | 某类水下目标 |
| Part | PASCAL-Part | 物体的部件标注,15 个物体类别、56 种部件 | 同一种物体部件,如“狗耳朵” |
| Part | PACO-Part | 更细粒度的部件数据,75 类物体、303 种部件 | 同一种具体部件 |
| Personalized | PerMIS | 个性化实例分割数据集,16 个类别 | 与参考图中同一个具体实例,如“我的这只狗” |
| 方法 | 本文采用/不采用的原因 |
|---|---|
| K-means | ICS 是开放任务、目标粒度也变化 不适合事先指定聚类个数 (K) |
| DBSCAN | 在 DINOv3 提取的高维特征空间里 “密度”本身会变得不可靠,且通常还得先做降维 |
| Agglomerative Clustering | 从局部相似 patch 开始自底向上逐步合并 不需要预先指定簇数量,而且和 DINOv3 特征的空间平滑性很契合 |
todo
名词解释:开放概念分割
Promptable Visual Segmentation-可提示视觉分割,实现“指哪里切哪里“
- prompt:point / box / mask———空间锚点(哪里)
- 答:这个位置是哪个对象?这一个对象是什么?
Promptable Concept Segmentation,可提示概念分割,实现“描述什么切什么“
- prompt:文本 / 图像 exemplar———语义概念(什么)
- 答:这个概念包含哪些对象?这一类[^对象都在哪?]
定义
- 一句话定义:Contextual Segmentation,利用图像上下文信息进行分割,是一种思路
代表工作
- PSPNet 金字塔
- ASPP
定义
- 一句话定义:In-Context Segmentation,情景分割|上下文分割,给定一张参考图以及它对应的标注 mask,在查询图上分割任意概念(物体|部件|个性化实例-如”我家的猫”)
- 来源:思路灵感直接搬自 LLM 的 in-context learning:你给我一个例子,我就能照着切。
代表工作
- SegIC(ECCV 2024):DINOv2 + 分割解码器微调,域内强泛化差
- GF-SAM(NeurIPS 2024):DINOv2 语义对应 + SAM 画 mask 的免训练组合
- INSID3(CVPR 2026):极简派,单一 DINOv3 自监督骨干,零训练,SOTA +7.5 mIoU,300ms 出 mask
三种细粒度
- objects-物体-狗
- parts-部件-狗耳朵
- personalized instances-个性化实例-我的这只狗
即“参考图➕Mask”
- 特征提取与去偏
- 候选生成与种子定位
- 从种子恢复目标