
# CluB: 集群与BEV用于基于LiDAR的3D目标检测

Yingjie Wang$^{1,2*}$、Jiajun Deng$^{3\dagger}$、Yuenan Hou$^{2}$、Yao Li$^{1}$、Yu Zhang$^{1}$

Jianmin Ji$^{1}$, Wanli Ouyang$^{2}$, Yanyong Zhang$^{1\dagger}$

$^{1}$中国科学技术大学，

$^{2}$上海人工智能实验室，$^{3}$阿德莱德大学，AIML

## 摘要

目前，基于LiDAR的3D检测器通常分为两类，即基于BEV的检测器和基于集群的检测器。基于BEV的检测器从鸟瞰图（BEV）中捕获上下文信息，并通过一系列卷积层将特征扩散到中心体素中，这会削弱其呈现具有中心点的对象的 capability。另一方面，基于集群的检测器利用投票机制，将前景点聚合到面向对象的集群中，以便进行进一步的预测。在本文中，我们探讨如何有效地将这两种互补表示形式整合到一个统一的框架中。具体来说，我们提出一种新的3D目标检测框架，称为CLuB，它通过在特征和查询级别丰富对象表示，在基于BEV的检测器中引入一个辅助的基于集群的分支。从技术上讲，CLuB由两个步骤组成。首先，我们构建一个集群特征扩散模块，以微妙和自适应的方式建立集群特征和BEV特征之间的关联。在此基础上，引入了一个模仿损失，将面向对象的知识从集群特征蒸馏到BEV特征中。其次，我们设计了一个集群查询生成模块，直接利用来自集群分支的投票中心，从而丰富了对象的查询的多样性。同时，采用了一个方向损失，以鼓励每个集群具有更准确的投票中心。我们在Waymo和nuScenes数据集上进行了广泛的实验，我们的CLuB在两个基准测试中都实现了最先进的性能。

## 1 引言

由于其在各个领域的广泛应用，如自动驾驶和机器人技术[^29] [^17] [^11] [^28] [^32]，基于点云的3D感知越来越受到学术界和工业界的关注。基于LiDAR的3D目标检测是至关重要的任务之一，它将稀疏点云作为输入，以估计对象的3D位置和类别[^20] [^7] [^30] [^40]。

目前，主流的3D目标检测器[^35] [^21] [^18] [^38] [^22] [^1] [^39] 将非结构化点云转换为鸟瞰图（BEV）中的规则网格，用于特征表示（图1 (a)），称为基于BEV的3D目标检测器。BEV中的规则网格有利于特征提取和上下文信息捕获。由于用于进行预测的关键点，即对象的中心点，可能为空，因此中心点的特征通常通过一系列卷积层从周围点扩散。这种做法会显著削弱其呈现具有中心点的对象的 capability。

---

![Image](images/94799806580873da8044beef80223258d80c97aa9e9b63504061da310e65293d.jpg)

<div style="text-align: center;">(a) BEV-based Representation</div>

<div style="text-align: center;">(b) Cluster-based Representation</div>

<div style="text-align: center;">Figure 1: Illustration of (a) context-aware BEV-based representation $^{[10]}$ and (b) object-centric cluster-based representation. The BEV representation can capture the rich contextual information of an object. However, the missing feature of the center point (red square), which is also the key to making the prediction, is diffused from occupied voxels. The cluster-based representation is generated using the voting mechanism by aggregating the foreground points into the object-specific feature for the voting center (red dot). This representation mainly focuses on the foreground points and fails to utilize the contextual information.</div>

另一个检测器流 [^10] [^19] [^13] [^36] 采用基于聚类的特征表示方法（图 1（b））。这种方法利用投票机制，将前景点分组为以对象为中心的聚类，用于进一步的预测。聚类特征在很大程度上保留了每个对象的 3D 结构细节，同时避免了基于中心点的检测，而原始数据中不存在中心点。然而，聚类操作主要关注前景点，未能充分利用上下文信息。它在很大程度上依赖于前景分割的准确性。基于这两种范式之间的潜在协同作用，在本文中，我们重点探索将上下文感知 BEV 表示和以对象为中心的聚类表示相结合，以提高 3D 目标检测的准确性，这在文献中仍然鲜为人知。

为了实现这一目标，一种直观的解决方案是将所有聚类特征基于预测投票中心的 locations $^{1}$ 分散到 BEV 空间中，并将获得的投票 BEV 特征（简称投票 BEV）直接与密集 BEV 特征（简称密集 BEV）连接起来。然而，聚类特征和 BEV 特征之间的既定硬关联 $^{2}$ 严重依赖于投票聚类的质量，更不用说这两种表示之间的对齐程度不佳，这可能会影响表示学习的整体稳定性 [^5]。这种潜在的问题使得直观的策略无法充分探索这两种表示之间的特征相互作用。

因此，为了利用聚类表示的对象中心特性和 BEV 表示的上下文信息，我们提出了一种新的 3D 目标检测框架，即 $\text{CluB}$，它通过在主流 $\text{Cluster-based}$ 检测器中添加一个辅助分支 $\text{BEV-based}$，从而在特征和查询级别上增强对象表示。具体来说，$\text{CluB}$ 首先将两种特征投影到 BEV 空间中（投票 BEV 和密集 BEV），以统一来自相应分支的对象表示。然后，我们提出了一种两步方法来增强来自两个方面（特征和查询）的表示能力。

首先，为了解决聚类特征和 BEV 特征之间的硬关联问题，我们提出了一种聚类特征扩散 (CFD) 模块，该模块根据每个投票的预测类别自适应地将有效的投票扩散到其相邻区域，从而将关联从硬关联转变为软关联。基于此，引入了一种模仿损失，将对象中心知识传递到 BEV 分支，并鼓励表示学习的整体稳定性。通过这种方式，可以通过融合来自两个分支的特征来联合增强对象表示。

其次，由于大多数 BEV 检测器将对象检测为中心点，因此直接使用来自聚类分支的投票中心来丰富对象查询的多样性并不容易。因此，我们设计了一种聚类查询生成 (CQG) 模块，该模块激活然后根据投票 BEV 选择排名最高的候选对象。然后，选择的前几名聚类查询与原始对象查询一起用于更好的预测。一方面，我们还利用方向监督来缓解紧密聚类的重叠问题，从而生成更准确的聚类查询。

---

CluB的设计通过特征集成和查询扩展来加强对象表示，最终带来显著的性能提升。 总结一下，我们做出了以下贡献：

- 我们开发了CluB框架，同时利用基于BEV和基于聚类的范式优势，提升3D目标检测的准确率。

- 针对在特征层和查询层融合上下文感知BEV表示与目标中心聚类表示这一非平凡问题，我们提出了一种简洁优雅的解决方案。

- 我们的方法在Waymo Open Dataset和nuScenes这两个主流数据集上，以显著优势优于现有一流方法，证明了所提方法的有效性和通用性。

## 2 相关工作

基于BEV的LiDAR探测器。将点云转换为BEV表示的主要有两种方法。一种是在二维空间中提取BEV特征，并设计高效的网络来基于BEV特征生成预测 [^15] [^21] [^9]。PointPillars [^15] 引入了柱表示（一种体素的形式），并使用二维卷积对其进行处理。PillarNet [^21] 利用强大的编码器网络进行特征提取，并设计颈部网络以实现空间-语义特征融合，从而大大提高了基于柱模型的检测性能。另一种方法是在三维空间中提取点云特征，并将它们散布到BEV平面上，从而获得更准确的检测结果 [^37] [^33] [^35]。在BEV表示的基础上，CenterPoint [^35] 设计了一种无锚的单阶段检测器，它从体素化的点云中提取BEV特征，以估计物体中心以及所有物体的属性，例如3D尺寸和方向。后来，采用流行的Transformer架构作为检测头，大大提高了基于BEV方法的准确性和鲁棒性 [^38] [^1] [^27] [^39]。SWFormer [^27] 在LiDAR BEV特征上应用基于窗口的Transformer。特别是，SWFormer 使用体素扩散策略解决了BEV平面上3D稀疏特征的中心特征缺失问题，但没有考虑语义一致性。Transfusion [^1] 设计了一个有效且强大的基于Transformer的LiDAR-相机融合框架，该框架也可以作为一种强大的基于BEV范式的3D检测特征。

基于聚类的 LiDAR 检测器。基于聚类的算法侧重于直接从聚类点云中提取具有区分性的特征，并在各种基准测试中显示出有前景的结果 [^10] [^19] [^13] [^36]。VoteNet [^19] 是一项在基于聚类的 LiDAR 检测器领域中的开创性工作。它采用投票机制，根据输入点云预测物体中心。受此启发，FSD [^10] 在户外场景中使用点聚类和组校正设计了完全稀疏网络。PSA-Det3D [^13] 提出了一种支柱集抽象方法 (PSA)，用于学习小型对象稀疏点云的代表性特征，这主要受益于点对点特征聚合。当前的基准测试 [^26] [^2] [^31] 受到前面提到的基于 BEV 和基于聚类的 3D 检测器的主导。值得注意的是，一项相关工作 VoxelNext [^4] 直接基于稀疏体素特征预测对象，而无需依赖聚类代理或密集 BEV 表示。

总而言之，基于聚类的检测器擅长捕获由前景点组成的单个对象的精细特征，而基于 BEV 的检测器非常适合捕获点云的上下文信息，但可能在中心点表示方面表现较弱。因此，通过结合这两种方法，我们可以利用各自的优势来提高检测性能。我们的方法旨在将基于 BEV 的检测器与辅助的基于聚类的分支集成，从而利用这两种范式的优势来提高整体检测性能。

## 3 方法论

在本节中，我们详细介绍了所提出的 CluB，如图 2 所示。

概述。我们的 CluB 是从头开始构建的，包括以下三个步骤。首先，我们使用稀疏体素编码器提取体素特征并聚合投票聚类特征，这被认为是

---

![Image](images/3aa861936795a905bf6290cffbab470b00bc0e41ab3d67e5eb0c54fba8b2578e.jpg)

<div style="text-align: center;">Figure 2: The overall framework of CluB. The cluster-based side branch (a) is integrated into the BEV-based main branch (b) through a two-step scheme, i.e., feature-level integration (c) and query-level expansion (d). Specifically, the raw point clouds are first voxelized and then fed into the sparse U-Net to extract both 3D voxel features and sparse voxel features. The former is used to obtain the dense BEV feature. The latter is processed in the cluster branch to generate a set of vote cluster features  $\mathbf{F}_{clu}$ and corresponding voting centers  $\mathbf{C}_{clu}$. Based on the two outputs, i.e.,  $\mathbf{F}_{clu}$ and  $\mathbf{C}_{clu}$, the Cluster Feature Diffusion (CFD) module obtains a diffused vote BEV feature  $\mathbf{F}_{voteB}$ to enhance the dense BEV feature  $\mathbf{F}_{denseB}$ supervised by an imitation loss, and the Cluster Query Generation (CQG) module outputs a set of top-ranking cluster queries  $\mathbf{Q}_{clu}$, which are concatenated to the BEV queries  $\mathbf{Q}_{BEV}$ obtained from the heatmap. The decoder takes hybrid object queries as input and makes the final predictions based on the concatenated BEV features.</div>

基于聚类的辅助分支（第 3.2 节）。接下来，一个基于 BEV 的主分支（第 3.1 节）作为检测主干。最后，基于聚类的侧面分支通过双层增强方案集成到基于 BEV 的主分支中，即特征级集成（第 3.3 节）和查询级扩展（第 3.4 节）。

### 3.1 基于 BEV 的主分支

主 BEV 分支将体素化的 3D 点云作为输入，然后利用由稀疏卷积层组成的稀疏编码器生成 3D 体素特征 [^24]。然后，我们将 3D 体素特征压缩为 BEV 空间中的 2D 特征图。2D BEV 特征图被输入到基于 2D 卷积的骨干网络以生成密集 BEV 特征图 $\mathbf{F}_{denseB} \in \mathbb{R}^{C \times H \times W}$（表示为密集 BEV），其中 $(H, W)$ 表示特征图的高度和宽度。与基于锚点/中心点的检测头 [^35] [^37] 相比，Transformer 解码器在特征融合方面具有巨大潜力，并且在性能方面也得到了显著提高 [^34] [^8]。因此，我们使用基于 Transformer 的检测头 [^1] 从密集 BEV 中提取类别级别的特征表示，以进行对象预测。解码器层遵循 DETR [^3] 的设计。我们从类别特定的热图中生成对象候选，并选择排名最高的候选对象作为我们的初始 BEV 查询 $\mathbf{Q}_{BEV}$。融合的 BEV 特征也用作 Transformer 解码器的键-值序列。

### 3.2 基于集群的辅助分支

集群侧分支使用与主分支相同的体素化 3D 点云作为输入，通过基于稀疏卷积的编码器-解码器提取稀疏体素特征。这些稀疏体素特征被输入到两个分支中，用于前景分类和物体中心投票。基于投票结果，我们使用聚类策略（例如，球查询）将前景点聚类成集群，然后使用一个投票集群模块来聚合每个集群的特征。投票集群模块可以实现为简单的投票聚合，遵循 [^19]。为了提取更强大的投票集群特征，我们利用一个高效的稀疏实例识别模块进行进一步提取 [^10]。最终

---

![Image](images/1bbb96404c1066bb2848f16748b46b282982e7cb1513259d6de5b50ba6aea914.jpg)

<div style="text-align: center;">Figure 3: Illustration of Cluster Feature Diffusion (CFD) module. We first transform the vote cluster features to the BEV space based on the position of each vote, forming a sparse representation termed vanilla vote BEV features. Next, the non-empty grids of vanilla vote BEV are adaptively expanded to their neighboring regions according to the predicted class of the vote through a class-aware BEV diffusion block. Finally, we use a fully connected layer to project the class-aware vote BEV to the same channel dimension as the vanilla vote BEV, thus obtaining a diffused vote BEV feature.</div>

投票集群模块的输出由两部分组成，即与物体相关的集群特征 $\mathbf{F}_{clu}$ 和它们对应的集群中心 $\mathbf{C}_{clu}$。

### 3.3 特征级别的集成

在本节中，我们介绍了一种称为集群特征扩散 (CFD) 的模块，用于在统一的鸟瞰图 (BEV) 空间中生成扩散的投票特征，这些特征与密集 BEV 特征融合，以增强表示。统一的 BEV 特征由模仿损失监督。

集群特征扩散。为了在特征级别上建立集群特征和 BEV 特征之间的软性和自适应关联，以更好地融合这两种表示，我们提出了一种 CFD 模块，如图 3 所示，该模块涉及两个步骤，即首先将集群特征转换为 BEV 空间，然后使用一种与类别相关的 BEV 扩散块来生成扩散的集群特征。在第一步中，给定来自集群分支的一系列投票中心 $\mathbf{C}_{clu} = \{c_1, c_2, \cdots, c_N\} \in \mathbb{R}^{N \times 3}$ 和投票集群特征 $\mathbf{F}_{clu} = \{f_1, f_2, \cdots, f_N\} \in \mathbb{R}^{N \times C}$，我们首先使用以下方程 1 将投票中心映射到 BEV 平面。

 $$ p_{x}=\frac{c_{i}^{x}-B_{x}}{v\cdot d},p_{y}=\frac{c_{i}^{y}-B_{y}}{v\cdot d},i=1,2,\cdots,N, $$

其中 $c_{i}^{x}$ 是第 i 个投票中心的 x 轴坐标，$B_{x}$ 是给定场景的 x 轴边界，v 是 BEV 平面的体素大小，d 是 BEV 特征图的下采样因子。因此，每个集群特征对应于 BEV 平面上一个非空像素，位于 $p = (p_{x}, p_{y})$，从而生成原始的投票 BEV 特征（简称投票 BEV）。然而，集群特征和 BEV 特征之间的这种硬性关联在很大程度上依赖于投票集群的质量。事实上，集群中心代表了特定区域内物体中心的潜在位置。

为了解决这个问题，在第二步中，我们提出了一种与类别相关的 BEV 扩散块。具体来说，我们首先将来自集群分支的分类结果与 BEV 平面中的相应非空网格进行匹配。其次，通过在 BEV 平面上使用简单的最大池操作将非空网格扩散到其相邻位置，以生成扩散的集群特征，其中扩散因子在不同的投票类别中变化，以控制扩展幅度。第三，生成的与类别相关的投票 BEV 与完全连接层一起输入，生成所需的扩散投票 BEV $\mathbf{F}_{voteB} \in \mathbb{R}^{C \times H \times W}$ 作为输出。使用完全连接层进行通道级投影。最终，我们可以以一种软性和自适应的方式成功地将集群特征转换为统一的 BEV 平面，从而有利于联合特征学习。

模仿损失。考虑到扩散投票 BEV $F_{voteB}$ 和密集 BEV $F_{denseB}$ 的中心特征没有很好地对齐，这可能会影响表示学习的整体稳定性 [^5]。因此，为了更好地从聚类分支蒸馏面向对象的知识，并同时避免模仿不感兴趣的区域（即对象的边缘信息），我们在 BEV 空间中使用方程 2 和 3 对两个特征应用模仿损失。

 $$ \mathcal{L}_{i m i}=\mathbf{M a s k}\left(\mathbf{F}_{v o t e B}\right)\cdot\left\|\mathbf{F}_{v o t e B}-\mathbf{F}_{d e n s e B}\right\|_{2}, $$

---

 $$ \mathbf{M a s k}\left(\mathbf{F}_{{v o t e B}}(p)\right)=\left\{\begin{aligned}{}&{{}0,{~i f~}\mathbf{F}_{{v o t e B}}(p){~i s~v a i l d},}\\ {}&{{}1,{~e l s e},}\\ \end{aligned}\right. $$

其中 $\mathbf{F}_{voteB}$ 和 $\mathbf{F}_{denseB}$ 分别表示来自 CFD 模块的扩散投票 BEV 特征和来自基于 BEV 的主分支的密集 BEV 特征。掩码 (Mask(·)) 操作仅关注扩散投票 BEV 特征上突出显示的特定面向中心的区域，这表明了对象中心的潜在区域。

### 3.4 查询级扩展

在本文的本节中，我们介绍通过扩展所选的聚类查询来丰富对象表示的查询级模块，这些查询在一定程度上受到方向损失的监督。

查询级生成。大多数 BEV 检测器将对象检测为中心点。直接利用聚类分支的投票中心来丰富对象查询的多样性非常重要。因此，我们对原始投票 BEV 使用 $3 \times 3$ 卷积，并使用 sigmoid 函数，以生成一个投票激活图。选取前 K 个激活得分的位置，将其用作聚类查询 $Q_{clu}$。然后，将聚类查询直接与 BEV 查询 $Q_{BEV}$（从 BEV 特征中选择的前 M 个候选查询）连接起来。混合查询的位置和特征 $\{Q_{BEV}, Q_{clu}\}$ 用于初始化初始对象的查询位置和查询特征。然后，将查询嵌入馈送到 Transformer 解码器中以预测对象。

方向损失。聚类查询的质量由所有聚类的投票中心隐式确定。为了确保每个聚类具有更准确的投票中心，我们采用方向损失来约束预测的偏移向量的方向，这鼓励所有前景色点精确地指向其投票中心。方向损失 [^14] 是基于使用方程 4 的余弦相似度定义的。

 $$ \mathcal{L}_{d i r}=-\frac{1}{\sum_{i}m_{i}}\cdot\frac{o_{i}}{\left\|o_{i}\right\|_{2}}\cdot\frac{b_{i}-p_{i}}{\left\|b_{i}-p_{i}\right\|_{2}}\cdot m_{i}, $$

其中 $m_{i}$ 是来自分割头的掩码，$o_{i}$ 是偏移向量，$p_{i}$ 是点坐标，$b_{i}$ 对应于地面真实框的中心，其中包含 $p_{i}$。

## 4 实验

在本节中，我们首先将提出的 CluB 与 Waymo 和 nuScenes 数据集上的最先进方法进行比较。然后，我们进行消融研究，以检查所提出的 CluB 的每个组件的影响。

Waymo Open 数据集。在 Waymo Open 数据集 [^26] (WOD) 中，分别使用 798、202 和 150 个序列进行训练、验证和测试。我们采用官方评估指标，即平均精度均值 (mAP) 和 mAPH（按标题加权平均精度均值）用于车辆 (Veh.)、行人 (Ped.) 和骑自行车者 (Cyc.)。这些指标进一步分为两个难度级别，具体取决于地面真实框中的点数：LEVEL_1 (>5) 和 LEVEL_2 (≥1)。

NuScenes 数据集。NuScenes [^2] 数据集包含 1000 个驾驶场景，其中 700 个、150 个和 150 个场景分别用于训练、验证和测试。NuScenes 的点云由 32 束激光雷达收集。总共有 10 个类别。NuScenes 使用的评估指标是 mAP 和 NuScenes 检测分数 (NDS)。mAP 由 BEV 中心距离定义，而不是 3D IoU，最终的 mAP 通过对十个类别的 0.5m、1m、2m、4m 距离阈值进行平均计算得出。NDS 是 mAP 和其他属性指标的综合指标。

### 4.1 实施细节

训练。对于 Waymo，我们遵循以前的基于体素的方法 [^22] [^35] [^23] [^21]，使用 $[-75.2\mathrm{m},75.2\mathrm{m}]\times[-75.2\mathrm{m},75.2\mathrm{m}]\times[-2.0\mathrm{m},4.0\mathrm{m}]$ 的点云范围，体素大小为 $[0.1\mathrm{m},0.1\mathrm{m},0.15\mathrm{m}]$，分别对应 x、y 和 z 轴。对于 NuScenes，我们使用点云范围

---

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td rowspan="2">Methods</td><td style='text-align: center; word-wrap: break-word;'>mAP/mAPH</td><td colspan="2">Vehicle 3D AP/APH</td><td colspan="2">Pedestrian 3D AP/APH</td><td colspan="2">Cyclist 3D AP/APH</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>L2</td><td style='text-align: center; word-wrap: break-word;'>L2</td><td style='text-align: center; word-wrap: break-word;'>L1</td><td style='text-align: center; word-wrap: break-word;'>L2</td><td style='text-align: center; word-wrap: break-word;'>L1</td><td style='text-align: center; word-wrap: break-word;'>L2</td><td style='text-align: center; word-wrap: break-word;'>L1</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>IA-SSD $\triangle$[^36]</td><td style='text-align: center; word-wrap: break-word;'>62.3/58.1</td><td style='text-align: center; word-wrap: break-word;'>61.6/61.0</td><td style='text-align: center; word-wrap: break-word;'>70.5/69.1</td><td style='text-align: center; word-wrap: break-word;'>60.3/50.7</td><td style='text-align: center; word-wrap: break-word;'>69.4/58.5</td><td style='text-align: center; word-wrap: break-word;'>65.0/62.7</td><td style='text-align: center; word-wrap: break-word;'>67.7/65.3</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>FSD $\triangle$ $\dagger$[^10]</td><td style='text-align: center; word-wrap: break-word;'>72.9/70.8</td><td style='text-align: center; word-wrap: break-word;'>70.5/70.1</td><td style='text-align: center; word-wrap: break-word;'>79.2/78.8</td><td style='text-align: center; word-wrap: break-word;'>73.9/69.1</td><td style='text-align: center; word-wrap: break-word;'>82.6/77.3</td><td style='text-align: center; word-wrap: break-word;'>74.4/73.3</td><td style='text-align: center; word-wrap: break-word;'>77.1/76.0</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>CenterPoint [^35]</td><td style='text-align: center; word-wrap: break-word;'>-/67.4</td><td style='text-align: center; word-wrap: break-word;'>-/67.9</td><td style='text-align: center; word-wrap: break-word;'>-/-</td><td style='text-align: center; word-wrap: break-word;'>-/65.6</td><td style='text-align: center; word-wrap: break-word;'>-/-</td><td style='text-align: center; word-wrap: break-word;'>-/68.6</td><td style='text-align: center; word-wrap: break-word;'>-/-</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>PV-RCNN [^22]</td><td style='text-align: center; word-wrap: break-word;'>66.8/63.3</td><td style='text-align: center; word-wrap: break-word;'>69.0/68.4</td><td style='text-align: center; word-wrap: break-word;'>77.5/76.9</td><td style='text-align: center; word-wrap: break-word;'>66.0/57.6</td><td style='text-align: center; word-wrap: break-word;'>75.0/65.6</td><td style='text-align: center; word-wrap: break-word;'>65.4/64.0</td><td style='text-align: center; word-wrap: break-word;'>67.8/66.4</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>AFDetV2 [^12]</td><td style='text-align: center; word-wrap: break-word;'>71.0/68.8</td><td style='text-align: center; word-wrap: break-word;'>69.7/69.2</td><td style='text-align: center; word-wrap: break-word;'>77.6/77.1</td><td style='text-align: center; word-wrap: break-word;'>72.2/67.0</td><td style='text-align: center; word-wrap: break-word;'>80.2/74.6</td><td style='text-align: center; word-wrap: break-word;'>71.0/70.1</td><td style='text-align: center; word-wrap: break-word;'>73.7/72.7</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>SST_TS [^9]</td><td style='text-align: center; word-wrap: break-word;'>-/-</td><td style='text-align: center; word-wrap: break-word;'>68.0/67.6</td><td style='text-align: center; word-wrap: break-word;'>76.2/75.8</td><td style='text-align: center; word-wrap: break-word;'>72.8/65.9</td><td style='text-align: center; word-wrap: break-word;'>81.4/74.1</td><td style='text-align: center; word-wrap: break-word;'>-/-</td><td style='text-align: center; word-wrap: break-word;'>-/-</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>PillarNet-34 [^21]</td><td style='text-align: center; word-wrap: break-word;'>71.0/68.5</td><td style='text-align: center; word-wrap: break-word;'>70.9/70.5</td><td style='text-align: center; word-wrap: break-word;'>79.1/78.6</td><td style='text-align: center; word-wrap: break-word;'>72.3/66.2</td><td style='text-align: center; word-wrap: break-word;'>80.6/74.0</td><td style='text-align: center; word-wrap: break-word;'>69.7/68.7</td><td style='text-align: center; word-wrap: break-word;'>72.3/71.2</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>PV-RCNN++ [^23]</td><td style='text-align: center; word-wrap: break-word;'>71.7/69.5</td><td style='text-align: center; word-wrap: break-word;'>70.6/70.2</td><td style='text-align: center; word-wrap: break-word;'>79.3/78.8</td><td style='text-align: center; word-wrap: break-word;'>73.2/68.0</td><td style='text-align: center; word-wrap: break-word;'>81.3/76.3</td><td style='text-align: center; word-wrap: break-word;'>71.2/70.2</td><td style='text-align: center; word-wrap: break-word;'>73.7/72.7</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>TransFusion-L [^1]</td><td style='text-align: center; word-wrap: break-word;'>-/64.9</td><td style='text-align: center; word-wrap: break-word;'>-/65.1</td><td style='text-align: center; word-wrap: break-word;'>-/-</td><td style='text-align: center; word-wrap: break-word;'>-/63.7</td><td style='text-align: center; word-wrap: break-word;'>-/-</td><td style='text-align: center; word-wrap: break-word;'>-/65.9</td><td style='text-align: center; word-wrap: break-word;'>-/-</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>CenterFormer [^38]</td><td style='text-align: center; word-wrap: break-word;'>71.2/69.0</td><td style='text-align: center; word-wrap: break-word;'>70.2/69.7</td><td style='text-align: center; word-wrap: break-word;'>75.2/74.7</td><td style='text-align: center; word-wrap: break-word;'>73.6/68.3</td><td style='text-align: center; word-wrap: break-word;'>78.6/73.0</td><td style='text-align: center; word-wrap: break-word;'>69.8/68.8</td><td style='text-align: center; word-wrap: break-word;'>72.3/71.3</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>ConQueR [^39]</td><td style='text-align: center; word-wrap: break-word;'>70.3/67.7</td><td style='text-align: center; word-wrap: break-word;'>68.7/68.2</td><td style='text-align: center; word-wrap: break-word;'>76.1/75.6</td><td style='text-align: center; word-wrap: break-word;'>70.9/64.7</td><td style='text-align: center; word-wrap: break-word;'>79.0/72.3</td><td style='text-align: center; word-wrap: break-word;'>71.4/70.1</td><td style='text-align: center; word-wrap: break-word;'>73.9/72.5</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>ConQueR $\star$[^39]</td><td style='text-align: center; word-wrap: break-word;'>74.0/71.6</td><td style='text-align: center; word-wrap: break-word;'>71.0/70.5</td><td style='text-align: center; word-wrap: break-word;'>78.4/77.9</td><td style='text-align: center; word-wrap: break-word;'>75.8/70.1</td><td style='text-align: center; word-wrap: break-word;'>82.4/76.6</td><td style='text-align: center; word-wrap: break-word;'>75.2/74.1</td><td style='text-align: center; word-wrap: break-word;'>77.5/76.4</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>VoxelNext [^4]</td><td style='text-align: center; word-wrap: break-word;'>70.9/68.2</td><td style='text-align: center; word-wrap: break-word;'>69.7/69.2</td><td style='text-align: center; word-wrap: break-word;'>77.9/77.5</td><td style='text-align: center; word-wrap: break-word;'>72.2/65.9</td><td style='text-align: center; word-wrap: break-word;'>80.2/73.5</td><td style='text-align: center; word-wrap: break-word;'>70.7/69.6</td><td style='text-align: center; word-wrap: break-word;'>73.3/72.2</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>VoxelNext-K3 $\ddagger$ [^4]</td><td style='text-align: center; word-wrap: break-word;'>72.2/70.1</td><td style='text-align: center; word-wrap: break-word;'>69.9/69.4</td><td style='text-align: center; word-wrap: break-word;'>78.2/77.7</td><td style='text-align: center; word-wrap: break-word;'>73.5/68.6</td><td style='text-align: center; word-wrap: break-word;'>81.5/76.3</td><td style='text-align: center; word-wrap: break-word;'>73.3/72.2</td><td style='text-align: center; word-wrap: break-word;'>76.1/74.9</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>CluB $_{light}$ (ours)</td><td style='text-align: center; word-wrap: break-word;'>71.2/69.3</td><td style='text-align: center; word-wrap: break-word;'>68.4/68.0</td><td style='text-align: center; word-wrap: break-word;'>76.5/76.0</td><td style='text-align: center; word-wrap: break-word;'>71.1/66.1</td><td style='text-align: center; word-wrap: break-word;'>79.4/73.9</td><td style='text-align: center; word-wrap: break-word;'>74.3/73.0</td><td style='text-align: center; word-wrap: break-word;'>76.7/75.3</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>CluB (ours)</td><td style='text-align: center; word-wrap: break-word;'>73.4/71.4</td><td style='text-align: center; word-wrap: break-word;'>70.4/69.9</td><td style='text-align: center; word-wrap: break-word;'>79.1/78.6</td><td style='text-align: center; word-wrap: break-word;'>74.3/69.5</td><td style='text-align: center; word-wrap: break-word;'>83.1/77.9</td><td style='text-align: center; word-wrap: break-word;'>75.6/74.9</td><td style='text-align: center; word-wrap: break-word;'>78.2/77.5</td></tr></table>

<div style="text-align: center;">Table 1: Performances on the WOD validation split. All models take single-frame input, no pretraining or ensembling is required. light denotes a light version that involves simple feature aggregation without further feature extraction for cluster features [^19]. † denotes using a longer input range for the point cloud. ‡ denotes using larger model size (e.g., 5× kernel size for 3D sparse encoder) for enhancement. ★ denotes an enhancement version (i.e., wider backbone network and additional NMS for Pedestrian and Cyclist). △ denotes that belonging to the 3D detector featured by cluster-based paradigm. We highlight the top-2 entries with bold font.</div>

为 $[-51.2m, 51.2m] \times [-51.2m, 51.2m] \times [-5.0m, 3.0m]$，体素大小为 $[0.1m, 0.1m, 0.2m]$，分别对应 x、y 和 z 轴。我们采用与 [^35] 相同的增强数据设置，包括随机翻转、全局缩放、全局旋转以及地面真值 (GT) 采样 [^33]，用于 Waymo 数据集。这些设置与 NuScenes 数据集的设置相似，参见 [^1]。我们使用单周期 [^25] 学习率调度器和 AdamW [^16] 优化器，最大学习率为 0.001。除了用于消融研究的 12 个 epoch 之外，我们还采用更长的调度（36 个 epoch），以在验证和测试集中获得最佳性能。在评估过程中，我们使用 NMS IoU 阈值为 [0.7, 0.25, 0.25]。我们的代码基于 MMdetection3D [^6]。

网络。3D 稀疏编码器和解码器基于 PartA2 [^24] 中的稀疏 U-Net。对于 BEV 主干网络，我们使用与 SECOND [^33] 相同的架构，并使用 FPN 结构获得多尺度的 BEV 特征。从预测的热图中选择前 300 个 BEV 查询，方法与 [^1] 类似。投票聚类模块通过简单的聚合 [^19] 或进一步的实例级特征提取 [^10]，生成具有 128 维的聚类特征。对于 CFD 模块，我们根据不同类别的尺寸设置扩散因子。例如，我们为行人、骑自行车者和车辆在 Waymo 中设置了 1、3 和 5。对于 CQG 模块，我们从激活图中生成排名最高的聚类查询。由于 Waymo 和 NuScenes 数据集中每帧的最大物体数量分别为 185 和 142 [^1]，因此聚类查询的数量分别设置为 200 和 150。我们设置了 3 个 Transformer 层和 8 个头，类别标签被简单地编码为 one-hot 嵌入，方法与 [^1] 类似。

### 4.2 主要结果

Waymo 结果。我们在表 1 和表 2 中总结了 CluB 和最先进 (SOTA) 的 3D 检测方法在 WOD 验证和测试集上的性能。如表 1 所示，我们的 CluB 实现了具有竞争力的单帧性能，并在 WOD 验证集的骑自行车者和行人类别上创下了新记录。CluB 在验证集上实现了与以前基于 Transformer 的模型 ConQueR [^39] 相当的 mAPH/L2 性能。

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Methods</td><td style='text-align: center; word-wrap: break-word;'>All</td><td style='text-align: center; word-wrap: break-word;'>Veh.</td><td style='text-align: center; word-wrap: break-word;'>Ped.</td><td style='text-align: center; word-wrap: break-word;'>Cyc.</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>CenterPoint [^35]</td><td style='text-align: center; word-wrap: break-word;'>69.0</td><td style='text-align: center; word-wrap: break-word;'>71.9</td><td style='text-align: center; word-wrap: break-word;'>67.0</td><td style='text-align: center; word-wrap: break-word;'>68.2</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>PV-RCNN++ [^23]</td><td style='text-align: center; word-wrap: break-word;'>70.2</td><td style='text-align: center; word-wrap: break-word;'>73.5</td><td style='text-align: center; word-wrap: break-word;'>69.0</td><td style='text-align: center; word-wrap: break-word;'>68.2</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>AFDetv2 [^12]</td><td style='text-align: center; word-wrap: break-word;'>70.0</td><td style='text-align: center; word-wrap: break-word;'>72.6</td><td style='text-align: center; word-wrap: break-word;'>68.6</td><td style='text-align: center; word-wrap: break-word;'>68.7</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>PillarNet-34 [^21]</td><td style='text-align: center; word-wrap: break-word;'>69.6</td><td style='text-align: center; word-wrap: break-word;'>74.7</td><td style='text-align: center; word-wrap: break-word;'>68.5</td><td style='text-align: center; word-wrap: break-word;'>65.5</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>ConQueR [^39]</td><td style='text-align: center; word-wrap: break-word;'>72.0</td><td style='text-align: center; word-wrap: break-word;'>73.3</td><td style='text-align: center; word-wrap: break-word;'>70.9</td><td style='text-align: center; word-wrap: break-word;'>71.9</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>CluB (Ours)</td><td style='text-align: center; word-wrap: break-word;'>72.2</td><td style='text-align: center; word-wrap: break-word;'>73.4</td><td style='text-align: center; word-wrap: break-word;'>70.8</td><td style='text-align: center; word-wrap: break-word;'>72.2</td></tr></table>

<div style="text-align: center;">Table 2: Performance comparison of different single-frame models on the WOD test set. APH/L2 results are reported.</div>

---

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Methods</td><td style='text-align: center; word-wrap: break-word;'>NDS</td><td style='text-align: center; word-wrap: break-word;'>mAP</td><td style='text-align: center; word-wrap: break-word;'>Car</td><td style='text-align: center; word-wrap: break-word;'>Truck</td><td style='text-align: center; word-wrap: break-word;'>Bus</td><td style='text-align: center; word-wrap: break-word;'>Trailer</td><td style='text-align: center; word-wrap: break-word;'>C.V.</td><td style='text-align: center; word-wrap: break-word;'>Ped.</td><td style='text-align: center; word-wrap: break-word;'>Motor.</td><td style='text-align: center; word-wrap: break-word;'>Bicyc.</td><td style='text-align: center; word-wrap: break-word;'>T.C.</td><td style='text-align: center; word-wrap: break-word;'>Barrier</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>AFDetV2 [^12]</td><td style='text-align: center; word-wrap: break-word;'>68.5</td><td style='text-align: center; word-wrap: break-word;'>62.4</td><td style='text-align: center; word-wrap: break-word;'>86.3</td><td style='text-align: center; word-wrap: break-word;'>54.2</td><td style='text-align: center; word-wrap: break-word;'>62.5</td><td style='text-align: center; word-wrap: break-word;'>58.9</td><td style='text-align: center; word-wrap: break-word;'>26.7</td><td style='text-align: center; word-wrap: break-word;'>85.8</td><td style='text-align: center; word-wrap: break-word;'>63.8</td><td style='text-align: center; word-wrap: break-word;'>34.3</td><td style='text-align: center; word-wrap: break-word;'>80.1</td><td style='text-align: center; word-wrap: break-word;'>71.0</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>CenterPoint [^35]</td><td style='text-align: center; word-wrap: break-word;'>67.3</td><td style='text-align: center; word-wrap: break-word;'>60.3</td><td style='text-align: center; word-wrap: break-word;'>85.2</td><td style='text-align: center; word-wrap: break-word;'>53.5</td><td style='text-align: center; word-wrap: break-word;'>63.6</td><td style='text-align: center; word-wrap: break-word;'>56.0</td><td style='text-align: center; word-wrap: break-word;'>20.0</td><td style='text-align: center; word-wrap: break-word;'>84.6</td><td style='text-align: center; word-wrap: break-word;'>59.5</td><td style='text-align: center; word-wrap: break-word;'>30.7</td><td style='text-align: center; word-wrap: break-word;'>78.4</td><td style='text-align: center; word-wrap: break-word;'>71.1</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>TransFusion-L [^1]</td><td style='text-align: center; word-wrap: break-word;'>70.2</td><td style='text-align: center; word-wrap: break-word;'>65.5</td><td style='text-align: center; word-wrap: break-word;'>86.2</td><td style='text-align: center; word-wrap: break-word;'>56.7</td><td style='text-align: center; word-wrap: break-word;'>66.3</td><td style='text-align: center; word-wrap: break-word;'>58.8</td><td style='text-align: center; word-wrap: break-word;'>28.2</td><td style='text-align: center; word-wrap: break-word;'>86.1</td><td style='text-align: center; word-wrap: break-word;'>68.3</td><td style='text-align: center; word-wrap: break-word;'>44.2</td><td style='text-align: center; word-wrap: break-word;'>82.0</td><td style='text-align: center; word-wrap: break-word;'>78.2</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>VoxelNext [^4]</td><td style='text-align: center; word-wrap: break-word;'>70.0</td><td style='text-align: center; word-wrap: break-word;'>64.5</td><td style='text-align: center; word-wrap: break-word;'>84.6</td><td style='text-align: center; word-wrap: break-word;'>53.0</td><td style='text-align: center; word-wrap: break-word;'>64.7</td><td style='text-align: center; word-wrap: break-word;'>55.8</td><td style='text-align: center; word-wrap: break-word;'>28.7</td><td style='text-align: center; word-wrap: break-word;'>85.8</td><td style='text-align: center; word-wrap: break-word;'>73.2</td><td style='text-align: center; word-wrap: break-word;'>45.7</td><td style='text-align: center; word-wrap: break-word;'>79.0</td><td style='text-align: center; word-wrap: break-word;'>74.6</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>CluB (Ours)</td><td style='text-align: center; word-wrap: break-word;'>71.2</td><td style='text-align: center; word-wrap: break-word;'>66.0</td><td style='text-align: center; word-wrap: break-word;'>87.2</td><td style='text-align: center; word-wrap: break-word;'>57.0</td><td style='text-align: center; word-wrap: break-word;'>66.4</td><td style='text-align: center; word-wrap: break-word;'>59.0</td><td style='text-align: center; word-wrap: break-word;'>28.8</td><td style='text-align: center; word-wrap: break-word;'>87.2</td><td style='text-align: center; word-wrap: break-word;'>69.0</td><td style='text-align: center; word-wrap: break-word;'>45.4</td><td style='text-align: center; word-wrap: break-word;'>82.1</td><td style='text-align: center; word-wrap: break-word;'>78.2</td></tr></table>

<div style="text-align: center;">Table 3: Performance comparison of different models on the nuScenes dataset.</div>

与此同时，CLuB在mAPH/L2性能上比强大的基于聚类方法的探测器FSD [^10]提高了0.6%，即使FSD使用更远距离的点云。CLuB在mAPH/L2上比基于BEV的方法TransFusion-L（这也是我们的BEV基准）提高了6.5%。值得注意的是，与使用更大的模型尺寸进行模型增强（例如，3D稀疏编码器的5倍核大小）的VoxelNext [^4]相比，CLuB在mAPH/L2性能上提高了1.3%。此外，通过进一步的聚类特征提取，CLuB提高了轻量级版本CLuB $_{light}$在所有类别的检测性能。值得注意的是，CLuB $_{light}$在单帧方法中，在APH/L1和APH/L2方面始终表现出具有竞争力的性能，尤其是在骑自行车者类别。

除了离线结果外，我们还报告了CluB在Waymo测试集上的检测性能，以探索其潜力。如表2所示，我们的CluB在测试集上优于之前的单帧LiDAR-only方法，例如，与PV-RCNN++ / ConQueR相比，mAPH/L2提高了2.0% / 0.2%。

此外，我们还分析了为什么CluB在骑自行车者和行人类别上表现更好。实际上，当点云更紧凑时，基于聚类的分支效果更好，这意味着对骑自行车者的改进比对车辆的改进更显著。由于固定的体素化和过度下采样，很难用基于BEV的分支捕捉小对象的足够细节。相反，聚类分支通过更小的聚类体素大小，对从较稀疏的点中提取细粒度特征非常有利，从而带来显著的性能提升。

NuScenes结果。我们在表3中总结了CluB和不同基线在nuScenes测试集上的性能。值得注意的是，与同时期的完全稀疏探测器VoxelNext [^4]相比，CluB在NDS/mAP上提高了1.2% / 1.5%（从70.0提高到71.2，从64.5提高到66.0）。与强大的基于BEV的基线Transfusion-L相比，CluB在NDS和mAP上分别提高了1.0%和0.5%（从70.2提高到71.2，从65.5提高到66.0）。Waymo和nuScenes基准上的实验结果验证了通过双层增强方案将聚类表示集成到BEV分支中的有效性。

### 4.3 消融研究

为了验证CluB中每个组件的效果，我们对WOD进行了消融研究。本节中比较的模型使用WOD的20%的训练样本进行训练，并在整个验证集上进行评估。

CLuB中组件的影响。 为了了解每个模块如何为最终性能做出贡献，我们独立测试每个组件，并在表4中报告其性能。 我们的基线检测器（a）采用主流的BEV范式，起始于60.5%的mAPH/L2。 当应用CFD模块时，方法（b）的mAPH/L2提高了1.4%，这表明以柔和的方式自适应地集成聚类特征可以有效地提高3D检测性能。 方法（c）通过引入模仿损失，将mAPH/L2提高2.0%，这验证了明确地将知识（特定于对象的特征）转移到BEV流是必要的。 另一方面，方法（d）基于方法（a）添加了CQG模块，通过利用查询扩展，总共提高了0.5%的mAPH/L2。 方法（e）进一步引入了方向损失，以确保集群查询的质量，提高了1.1%。 方法（f）中的所有组件的组合实现了63.9%的mAPH/L2（绝对提高了3.4%），验证了CLuB的有效性。 这表明从特征和查询级别增强对象表示对提高检测精度非常有帮助。

---

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td rowspan="2">Method</td><td colspan="2">Feature-level</td><td colspan="2">Query-level</td><td rowspan="2">mAPH/L2</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>CFD Module</td><td style='text-align: center; word-wrap: break-word;'>Imitation Loss</td><td style='text-align: center; word-wrap: break-word;'>CQG Module</td><td style='text-align: center; word-wrap: break-word;'>Direction Loss</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(a)</td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'>60.5</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(b)</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'>61.9 \uparrow 1.4</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(c)</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'>62.5 \uparrow 2.0</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(d)</td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'>61.0 \uparrow 0.5</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(e)</td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>61.6 \uparrow 1.1</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(f)</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>63.9 \uparrow 3.4</td></tr></table>

<div style="text-align: center;">Table 4: Effect of each component in CluB. This experiment reveals that the combined object representation is indeed strengthened by elaborately fusing the context-aware BEV representation and object-centric cluster representation at both the feature level and the query level.</div>

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Strategy</td><td style='text-align: center; word-wrap: break-word;'>Operation</td><td style='text-align: center; word-wrap: break-word;'>Using diffusion</td><td style='text-align: center; word-wrap: break-word;'>Using class infor.</td><td style='text-align: center; word-wrap: break-word;'>Veh.</td><td style='text-align: center; word-wrap: break-word;'>APH/L2 Ped.</td><td style='text-align: center; word-wrap: break-word;'>Cyc.</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(a)</td><td style='text-align: center; word-wrap: break-word;'>Direct concatenation</td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'>61.9</td><td style='text-align: center; word-wrap: break-word;'>63.0</td><td style='text-align: center; word-wrap: break-word;'>63.9</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(b)</td><td style='text-align: center; word-wrap: break-word;'>2D convolution</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'>61.4 $\downarrow$ 0.5</td><td style='text-align: center; word-wrap: break-word;'>62.5 $\downarrow$ 0.5</td><td style='text-align: center; word-wrap: break-word;'>63.7 $\downarrow$ 0.4</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(c)</td><td style='text-align: center; word-wrap: break-word;'>Max pooling</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'>61.0 $\downarrow$ 0.9</td><td style='text-align: center; word-wrap: break-word;'>63.4 $\uparrow$ 0.4</td><td style='text-align: center; word-wrap: break-word;'>64.1 $\uparrow$ 0.2</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(d)</td><td style='text-align: center; word-wrap: break-word;'>Max pooling</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>62.9 $\uparrow$ 1.0</td><td style='text-align: center; word-wrap: break-word;'>64.4 $\uparrow$ 1.4</td><td style='text-align: center; word-wrap: break-word;'>64.5 $\uparrow$ 0.6</td></tr></table>

<div style="text-align: center;">Table 5: Effect of different strategies for the CFD module. This experiment reveals the importance of establishing the association between cluster and BEV features in a soft and adaptive way when enhancing object representation at the feature level.</div>

CFD模块中扩散策略的影响。 我们将我们提出的基于类别的BEV扩散，即策略（d），与其他策略进行比较，这些策略在表5中显示。 直观上，我们可以直接将聚类特征与BEV特征基于投票中心的location连接，这是一种次优策略，如第1部分讨论的。 我们将依赖于硬关联的朴素策略（a）视为表5中的基线策略。 策略（b）使用一个2D卷积层来扩散有效的特征到邻居，这不仅会引入额外的参数，而且会降低整体检测性能。 相比之下，策略（c）使用最大池化操作，这是一种优雅的解决方案，可以避免一些不必要的计算，从而实现更有效的表示学习过程。 与无类别方式（c）相比，我们的扩散方案（d）可以获得更好的性能，例如，在车辆和行人方面，$61.0 \rightarrow 62.9$，$63.4 \rightarrow 64.4$ APH/L2。 策略（d）在聚类特征和BEV特征之间建立了软性和自适应的关联，从而成功地增强了特征级别的对象表示。

聚类模块设计选择的影响。 我们在表6中检查了聚类模块的不同设计选择的影响。 基本竞争对手方法（a）是一个我们实现的基于BEV的3D检测器。 与CLuB相比，它放弃了聚类分支。 如方法（a）和方法（b）所示，通过使用简单的聚合策略（即K近邻（KNN））集成聚类分支，方法（b）表现更好，例如，在车辆方面，$61.0 \rightarrow 61.4$，$60.4 \rightarrow 64.3$。 结合每个聚类更多的局部特征（KNN的8个邻居），我们的方法（c）在车辆类别上取得了显着改进，即，$61.0 \rightarrow 63.2$。 但是，对于行人类别，性能从60.4降至59.9，因为不属于行人的点被聚合。 这表明，精心设计的聚类算法可以提高整体性能。 受到此启发，方法（d）用球查询算法替换KNN算法，检测性能在三个类别中稳步提高。 方法（e）使用参考[^10]中描述的复杂聚类模块，将点分组为实例级别的聚类，从而实现了令人满意的检测性能，如表6的最后一行所示。

## 5 结论

在本文中，我们介绍了 CluB，一个统一的 3D 对象检测框架，它利用基于鸟瞰图 (BEV) 和基于聚类的范式，以提高 3D 对象检测的准确性。为了有效地结合上下文感知的 BEV 表示和以对象为中心的聚类表示，

---

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td rowspan="2">Methods</td><td rowspan="2">Cluster Branch</td><td rowspan="2">Cluster Module Design</td><td colspan="3">APH/L2</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Veh.</td><td style='text-align: center; word-wrap: break-word;'>Ped.</td><td style='text-align: center; word-wrap: break-word;'>Cyc.</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(a)</td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'></td><td style='text-align: center; word-wrap: break-word;'>61.0</td><td style='text-align: center; word-wrap: break-word;'>60.4</td><td style='text-align: center; word-wrap: break-word;'>60.1</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(b)</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>KNN-4</td><td style='text-align: center; word-wrap: break-word;'>61.4</td><td style='text-align: center; word-wrap: break-word;'>64.3</td><td style='text-align: center; word-wrap: break-word;'>64.1</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(c)</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>KNN-8</td><td style='text-align: center; word-wrap: break-word;'>63.2</td><td style='text-align: center; word-wrap: break-word;'>59.9</td><td style='text-align: center; word-wrap: break-word;'>64.4</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(d)</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>Ball query</td><td style='text-align: center; word-wrap: break-word;'>62.7</td><td style='text-align: center; word-wrap: break-word;'>63.8</td><td style='text-align: center; word-wrap: break-word;'>64.4</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>(e)</td><td style='text-align: center; word-wrap: break-word;'>✓</td><td style='text-align: center; word-wrap: break-word;'>SIR</td><td style='text-align: center; word-wrap: break-word;'>62.9</td><td style='text-align: center; word-wrap: break-word;'>64.4</td><td style='text-align: center; word-wrap: break-word;'>64.5</td></tr></table>

<div style="text-align: center;">Table 6: Effects on different design choices of vote cluster modules. The experimental result reveals that integrating the cluster branch is beneficial for detection performance, and a more elaborately designed grouping strategy may bring more gains.</div>

我们提出了一种将辅助的基于聚类的分支集成到主流的基于 BEV 的检测器中，通过在特征和查询级别加强对象表示。一方面，我们首先使用 CFD 模块以软适应的方式在聚类和 BEV 特征之间建立关联。基于这种关联，我们将对象特定的知识从聚类传递到通过模仿损失监督的 BEV 分支。另一方面，我们设计了一个 CQG 模块，通过直接从聚类分支获取投票中心，来丰富对象查询的多样性。同时，采用方向损失来鼓励每个聚类获得更准确的投票中心。CLuB 的两级增强设计（即特征集成和查询扩展）极大地提高了对象表示能力。通过我们提出的框架，CLuB 在 Waymo 和 nuScenes 数据集上检测 3D 对象的性能优于之前的单帧模型。

局限性。值得注意的是，CLuB 提供了一个优雅的视角，展示了如何在统一的检测框架中结合上下文感知的 BEV 表示和以对象为中心的聚类表示，并通过两级增强（特征、查询）来提高对象表示，从而获得有前景的性能。然而，BEV 特征图上的计算和空间复杂度与感知范围呈平方关系，这使得难以将我们的 CLuB 用于长距离检测。我们将探索我们方法的计算效率版本作为未来的工作。

## 6 致谢

我们在此感谢彭飞 罗为他的贡献。本工作得到了中国科学院前沿科学重点研究项目 ZDBS-LY-JSC001、中国国家重点研发计划 (No.2022ZD0160100) 以及上海市科学技术委员会 (No.21DZ1100100) 的支持。

## 参考文献

[^1]: Xuyang Bai, Zeyu Hu, Xinge Zhu, Qingqiu Huang, Yilun Chen, Hongbo Fu, and Chiew-Lan Tai. Transfusion: Robust lidar-camera fusion for 3d object detection with transformers. In CVPR, pages 1080–1089. IEEE, 2022.

[^2]: Holger Caesar, Varun Bankiti, Alex H. Lang, Sourabh Vora, Venice Erin Liong, Qiang Xu, Anush Krishnan, Yu Pan, Giancarlo Baldan, and Oscar Beijbom. nuscenes: A multimodal dataset for autonomous driving. In CVPR, pages 11618–11628. Computer Vision Foundation / IEEE, 2020.

[^3]: Nicolas Carion, Francisco Massa, Gabriel Synnaeve, Nicolas Usunier, Alexander Kirillov, and Sergey Zagoruyko. End-to-end object detection with transformers. In ECCV (1), volume 12346 of Lecture Notes in Computer Science, pages 213–229. Springer, 2020.

[^4]: Yukang Chen, Jianhui Liu, Xiangyu Zhang, Xiaojuan Qi, and Jiaya Jia. Voxelnext: Fully sparse voxelnet for 3d object detection and tracking. In CVPR, pages 21674–21683. IEEE, 2023.

[^5]: Zehui Chen, Zhenyu Li, Shiquan Zhang, Liangji Fang, Qinhong Jiang, and Feng Zhao. Bevdistill: Cross-modal BEV distillation for multi-view 3d object detection. CoRR, abs/2211.09386, 2022.

## [^6]: MMDetection3D Contributors. MMDetection3D: OpenMMLab next-generation platform for general 3D object detection. <https://github.com/open-mmlab/mmdetection3d>, 2020

---

[^7]: Jiajun Deng, Shaoshuai Shi, Peiwei Li, Wengang Zhou, Yanyong Zhang, and Houqiang Li. Voxel R-CNN: towards high performance voxel-based 3d object detection. In AAAI, pages 1201–1209. AAAI Press, 2021.

[^8]: Alexey Dosovitskiy, Lucas Beyer, Alexander Kolesnikov, Dirk Weissenborn, Xiaohua Zhai, Thomas Unterthiner, Mostafa Dehghani, Matthias Minderer, Georg Heigold, Sylvain Gelly, Jakob Uszkoreit, and Neil Houlsby. An image is worth 16x16 words: Transformers for image recognition at scale. In ICLR. OpenReview.net, 2021.

[^9]: Lue Fan, Ziqi Pang, Tianyuan Zhang, Yu-Xiong Wang, Hang Zhao, Feng Wang, Naiyan Wang, and Zhaoxiang Zhang. Embracing single stride 3d object detector with sparse transformer. In CVPR, pages 8448–8458. IEEE, 2022.

[^10]: Lue Fan, Feng Wang, Naiyan Wang, and Zhao-Xiang Zhang. Fully sparse 3d object detection. In NeurIPS, 2022.

[^11]: Yulan Guo, Hanyun Wang, Qingyong Hu, Hao Liu, Li Liu, and Mohammed Bennamoun. Deep learning for 3d point clouds: A survey. IEEE Trans. Pattern Anal. Mach. Intell., 43(12):4338–4364, 2021.

[^12]: Yihan Hu, Zhuangzhuang Ding, Runzhou Ge, Wenxin Shao, Li Huang, Kun Li, and Qiang Liu. Afdetv2: Rethinking the necessity of the second stage for object detection from point clouds. In AAAI, pages 969–979. AAAI Press, 2022.

[^13]: Zhicong Huang, Zhijie Zheng, Jingwen Zhao, Haifeng Hu, Zixin Wang, and Dihu Chen. Psa-det3d: Pillar set abstraction for 3d object detection. Pattern Recognit. Lett., 168:138–145, 2023.

[^14]: Jean Lahoud, Bernard Ghanem, Martin R. Oswald, and Marc Pollefeys. 3d instance segmentation via multi-task metric learning. In ICCV, pages 9255–9265. IEEE, 2019.

[^15]: Alex H. Lang, Sourabh Vora, Holger Caesar, Lubing Zhou, Jiong Yang, and Oscar Beijbom. Pointpillars: Fast encoders for object detection from point clouds. In CVPR, pages 12697–12705. Computer Vision Foundation / IEEE, 2019.

[^16]: Ilya Loshchilov and Frank Hutter. Decoupled weight decay regularization. In ICLR (Poster). OpenReview.net, 2019.

[^17]: Yuexin Ma, Tai Wang, Xuyang Bai, Huitong Yang, Yuenan Hou, Yaming Wang, Yu Qiao, Ruigang Yang, Dinesh Manocha, and Xinge Zhu. Vision-centric BEV perception: A survey. CoRR, abs/2208.02797, 2022.

[^18]: Jiageng Mao, Yujing Xue, Minzhe Niu, Haoyue Bai, Jiashi Feng, Xiaodan Liang, Hang Xu, and Chunjing Xu. Voxel transformer for 3d object detection. In ICCV, pages 3144–3153. IEEE, 2021.

[^19]: Charles R. Qi, Or Litany, Kaiming He, and Leonidas J. Guibas. Deep hough voting for 3d object detection in point clouds. In ICCV, pages 9276–9285. IEEE, 2019.

[^20]: Charles Ruizhongtai Qi, Hao Su, Kaichun Mo, and Leonidas J. Guibas. Pointnet: Deep learning on point sets for 3d classification and segmentation. In CVPR, pages 77–85. IEEE Computer Society, 2017.

[^21]: Guangsheng Shi, Ruifeng Li, and Chao Ma. Pillarnet: Real-time and high-performance pillar-based 3d object detection. In ECCV (10), volume 13670 of Lecture Notes in Computer Science, pages 35–52. Springer, 2022.

[^22]: Shaoshuai Shi, Chaoxu Guo, Li Jiang, Zhe Wang, Jianping Shi, Xiaogang Wang, and Hongsheng Li. PV-RCNN: point-voxel feature set abstraction for 3d object detection. In CVPR, pages 10526–10535. Computer Vision Foundation / IEEE, 2020.

[^23]: Shaoshuai Shi, Li Jiang, Jiajun Deng, Zhe Wang, Chaoxu Guo, Jianping Shi, Xiaogang Wang, and Hongsheng Li. PV-RCNN++: point-voxel feature set abstraction with local vector representation for 3d object detection. Int. J. Comput. Vis., 131(2):531–551, 2023.

[^24]: Shaoshuai Shi, Zhe Wang, Jianping Shi, Xiaogang Wang, and Hongsheng Li. From points to parts: 3d object detection from point cloud with part-aware and part-aggregation network. IEEE Trans. Pattern Anal. Mach. Intell., 43(8):2647–2664, 2021.

[^25]: Leslie N. Smith and Nicholay Topin. Super-convergence: very fast training of neural networks using large learning rates. In Artificial Intelligence and Machine Learning for Multi-Domain Operations Applications, volume 11006, page 1100612. SPIE, 2019.

## [^26]: Pei Sun, Henrik Kretzschmar, Xerxes Dotiwalla, Aurelien Chouard, Vijaysai Patnaik, Paul Tsui, James Guo, Yin Zhou, Yuning Chai, Benjamin Caine, Vijay Vasudevan, Wei Han, Jiquan Ngiam, Hang Zhao, Aleksei Timofeev, Scott Ettinger, Maxim Krivokon, Amy Gao, Aditya Joshi, Yu Zhang, Jonathon Shlens, Zhifeng Chen, and Dragomir Anguelov. Scalability in perception for autonomous driving: Waymo open dataset. In CVPR, pages 2443–2451. Computer Vision Foundation / IEEE, 2020

---

[^27]: Pei Sun, Mingxing Tan, Weiyue Wang, Chenxi Liu, Fei Xia, Zhaoqi Leng, and Dragomir Anguelov. Swformer: Sparse window transformer for 3d object detection in point clouds. In ECCV (10), volume 13670 of Lecture Notes in Computer Science, pages 426–442. Springer, 2022.

[^28]: Luequan Wang, Hongbin Xu, and Wenxiong Kang. Mycontrast: Unsupervised pretraining for multi-view 3d object recognition. Machine Intelligence Research, pages 1–12, 2023.

[^29]: Yingjie Wang, Qiuyu Mao, Hanqi Zhu, Yu Zhang, Jianmin Ji, and Yanyong Zhang. Multi-modal 3d object detection in autonomous driving: a survey. CoRR, abs/2106.12735, 2021.

[^30]: Yue Wang and Justin M. Solomon. Object DGCNN: 3d object detection using dynamic graphs. In NeurIPS, pages 20745–20758, 2021.

[^31]: Benjamin Wilson, William Qi, Tanmay Agarwal, John Lambert, Jagjeet Singh, Siddhesh Khandelwal, Bowen Pan, Ratnesh Kumar, Andrew Hartnett, Jhony Kaesemodel Pontes, Deva Ramanan, Peter Carr, and James Hays. Argoverse 2: Next generation datasets for self-driving perception and forecasting. In NeurIPS Datasets and Benchmarks, 2021.

[^32]: Dong Wu, Man-Wen Liao, Wei-Tian Zhang, Xing-Gang Wang, Xiang Bai, Wen-Qing Cheng, and Wen-Yu Liu. Yolop: You only look once for panoptic driving perception. Machine Intelligence Research, 19(6):550–562, 2022.

[^33]: Yan Yan, Yuxing Mao, and Bo Li. SECOND: sparsely embedded convolutional detection. Sensors, 18(10):3337, 2018.

[^34]: Chenyu Yang, Yuntao Chen, Hao Tian, Chenxin Tao, Xizhou Zhu, Zhaoxiang Zhang, Gao Huang, Hongyang Li, Yu Qiao, Lewei Lu, Jie Zhou, and Jifeng Dai. Bevformer v2: Adapting modern image backbones to bird's-eye-view recognition via perspective supervision. CoRR, abs/2211.10439, 2022.

[^35]: Tianwei Yin, Xingyi Zhou, and Philipp Krähenbühl. Center-based 3d object detection and tracking. In CVPR, pages 11784–11793. Computer Vision Foundation / IEEE, 2021.

[^36]: Yifan Zhang, Qingyong Hu, Guoquan Xu, Yanxin Ma, Jianwei Wan, and Yulan Guo. Not all points are equal: Learning highly efficient point-based detectors for 3d lidar point clouds. In CVPR, pages 18931–18940. IEEE, 2022.

[^37]: Yin Zhou and Oncel Tuzel. Voxelnet: End-to-end learning for point cloud based 3d object detection. In CVPR, pages 4490–4499. Computer Vision Foundation / IEEE Computer Society, 2018.

[^38]: Zixiang Zhou, Xiangchen Zhao, Yu Wang, Panqu Wang, and Hassan Foroosh. Centerformer: Center-based transformer for 3d object detection. In ECCV (38), volume 13698 of Lecture Notes in Computer Science, pages 496–513. Springer, 2022.

[^39]: Benjin Zhu, Zhe Wang, Shaoshuai Shi, Hang Xu, Lanqing Hong, and Hongsheng Li. Conquer: Query contrast voxel-detr for 3d object detection. In CVPR, pages 9296–9305. IEEE, 2023.

[^40]: Xinge Zhu, Yuexin Ma, Tai Wang, Yan Xu, Jianping Shi, and Dahua Lin. SSN: shape signature networks for multi-class object detection from point clouds. In ECCV (25), volume 12370 of Lecture Notes in Computer Science, pages 581–597. Springer, 2020.
