
# 面向移动机器人基于3D激光雷达人体检测的多传感器在线迁移学习

闫智$^{1}$，孙力$^{2}$，汤姆·达克特$^{2}$，尼古拉·贝洛托$^{2}$

摘要——人体检测与跟踪是服务机器人的一项核心任务，多传感器结合在该任务中的潜在优势尚未得到充分挖掘。本文提出一种框架，借助多传感器跟踪系统，让机器人随时间推移从其他传感器学习全新的基于3D激光雷达的人体分类器。本文的核心创新在于，利用现有传感器（即RGB-D相机、2D激光雷达）的不同检测器，基于一种新的「轨迹概率」在线训练新的3D激光雷达人体分类器。我们的框架使用该概率判断新检测结果是否属于由不同传感器和/或检测器估计得到的人体轨迹，并以半监督方式学习人体分类器。该框架已在移动机器人采集的真实数据集上完成实现与测试。实验表明，我们的系统能够有效从不同传感器和环境中学习，基于3D激光雷达的人体分类性能随所用传感器/检测器数量的增加而提升。

## I. 引言

人体检测与跟踪是服务机器人领域的一项重要任务，掌握人体位置、速度、方向等运动属性能够优化机器人行为，例如提升避障能力，让机器人速度适配周围行人的速度。使用多传感器跟踪行人相比单传感器更具优势。最明显的一点是，多传感器通常拥有更宽的视场，因此能够在更大范围内跟踪更多行人 [^1]，[^2]。另一个优势是，多传感器提供的冗余信息能够提升跟踪的准确性和可靠性 [^3]，[^4]，[^5]，[^6]。

不同传感器拥有不同的特性。我们机器人平台搭载的3D激光雷达（图1）拥有16个扫描通道，$360^{\circ}$ 水平视场和 $30^{\circ}$ 垂直视场，最远探测距离可达100米。然而该传感器仅能提供稀疏点云，由于缺少颜色、纹理等有用特征，人体检测难度很大。2D激光雷达显然存在类似问题，且受限于单个扫描通道和更小的视场，局限性更明显。但这类传感器价格也低于3D激光雷达，已经在移动机器人领域应用了很长时间，催生了大量人体检测算法 [^7]，[^8]。而RGB-D相机的人体检测可靠性更高，但仅能在短距离和有限视场下实现可靠检测 [^9]，[^10]。

![Image](images/fdc5036053e681edc54b09560cb736db52cd2bd7d78849cb573c50cfffa37cef.jpg)

![Image](images/76d60f5f9b67095d034bb93d08b135b0d13ef17b4f78bcbafc4f58a984acab4c.jpg)

<div style="text-align: center;">Fig. 1. Left: Pioneer 3-AT mobile robot with Velodyne VLP-16 3D LiDAR (1), ASUS Xtion PRO LIVE RGB-D camera (2), and HOKUYO UTM-30LX 2D LiDAR (3). Right: visualized sensor data (only depth information is shown for RGB-D camera) annotated with corresponding sensor numbers.</div>

现有文献中已经存在多种算法，能够在特定条件下配合特定传感器可靠检测人体（例如近距离RGB-D检测）。然而，另一类传感器目前尚未普及，因此无法拥有成熟好用的人体检测软件（例如3D激光雷达）。在许多实际应用场景中，往往没有足够多的此类传感器数据集，用于训练鲁棒的人体分类器。因此，本文希望通过从现有的基于RGB-D和2D激光雷达的检测器中学习，以半监督方式训练基于3D激光雷达的人体分类器。尽管性能更优的人体检测器最终会带来更好的人体跟踪系统，但本文仅聚焦于检测这一环节，跟踪部分留待未来工作开展。

通常来说，分类器的数据采集和训练都是离线完成的，存在明显的人工成本，还可能引入人为错误。而本文提出的迁移学习框架中，基于3D激光雷达的人体分类器可以在线训练，同时利用跟踪子系统的时空信息，该子系统使用针对2D激光雷达和RGB-D传感器的静态（即预训练）人体检测器。该框架让新传感器可以从跟踪得到的人体轨迹中学习，每条轨迹都附带对应的属于人体生成的置信度或概率，再根据半监督学习方案融合不同的基于模型（有标注）和无模型（无标注）的检测结果[^11]。与以往的研究方法[^12]、[^13]不同，我们的方案不需要任何人工标注数据，可以完全从零开始完成在线学习。除了减轻数据标注的负担外，这一特性还让我们的系统能够轻松适配机器人所处的部署环境。

本文的贡献可以总结为

---

如下：1）我们针对多传感器人体跟踪提出了一种基于新型轨迹概率的在线迁移学习框架，该框架同时兼顾了检测阶段的传感器独立性和轨迹估计阶段的多传感器交互；2）我们在真实场景数据集上，针对移动机器人基于3D激光雷达的人体分类任务，使用不同传感器组合对本文系统进行了实验评估。

本文其余部分的组织结构如下：第二节概述人体检测与跟踪领域的相关研究。第三节介绍本文提出的在线迁移学习解决方案框架。第四节描述所提框架在基于3D激光雷达的人体分类问题中的应用。第五节展示不同传感器配置下的实验结果。最后，第六节总结全文，归纳研究贡献并提出未来的研究方向。

### 二、相关工作

多目标多传感器跟踪问题在过去数十年中得到了广泛研究。目前现有大多数系统都基于贝叶斯方法[^14]，这类方法计算传感器数据中检测到的特征与待跟踪不同人体之间的对应关系估计。在机器人应用领域，单机器人或多机器人系统都可以部署多个传感器[^15]，本文关注的是单机器人系统场景。

在现有研究中，RGB/RGB-D相机搭配二维激光雷达（2D LiDAR）是文献中最常用的传感器组合方案。[^3]针对户外环境下移动机器人对快速移动行人的跟踪与跟随任务，提出了两种不同方法，该机器人配备了一台全向相机和一台二维激光雷达。[^16]基于自动驾驶汽车搭载的相机和二维激光雷达获取的信息，提出了一套可在户外场景下检测和跟踪行人和车辆的集成系统。[^2]针对处于高度拥挤动态环境中的移动机器人，提出了一套行人跟踪系统，该系统在配备两台RGB-D相机、一台立体相机和两台二维激光雷达的机器人上完成了评估。

我们此前采用上述传感器组合的研究工作包括[^8]和[^17]。其中前者提出了适用于人口密集环境下移动服务机器人的行人跟踪系统，后者则将该系统扩展为一套完整集成的感知流水线，可实现机器人近邻区域的行人检测与跟踪。所提出的跟踪系统的工作逻辑为：从二维激光雷达数据中提取腿部检测结果，再结合相机检测到的人脸或上半身信息，通过无迹卡尔曼滤波（Unscented Kalman Filter, UKF）的序贯实现完成融合，最终实现行人跟踪。

随着三维激光雷达（3D LiDAR）技术的发展，结合三维激光雷达的传感器组合应用越来越多。利用三维激光雷达的高精度优势，[^4]开发了一种将三维激光雷达数据与五台相机获取的高分辨率图像对齐的算法，以实现对移动车辆的精准跟踪。其他已报道的研究成果包括[^18]和[^19]，它们主要聚焦于行人检测而非跟踪。此外，早期研究曾开展多目标跟踪研究，所采用的传感器配置为

![Image](images/8ad23e72ee63f499be8be60281d3e2461e3f3914e92d150eb44f9a54de0a0ddc.jpg)

<div style="text-align: center;">Fig. 2. Block diagram of the online transfer learning framework.</div>

一台搭载两台二维激光雷达的移动机器人，两台激光雷达分别布置在机器人的前端和后端[^1]。因此该机器人可获得$360^{\circ}$的水平视场，两个传感器的每一次扫描都能覆盖机器人的整个周边区域，角分辨率为$1^{\circ}$。

将机器学习算法用于跟踪任务具有独特的优势。与我们研究最接近的工作是[^13]，该工作的作者基于期望最大化（Expectation-Maximization, EM）算法，提出了一种半监督学习方法解决三维激光雷达数据中的航迹分类问题。与我们的方法不同，他们的学习过程需要一小部分种子航迹和大量背景航迹，这些数据最初需要人工或半人工标注，而我们的方法不需要任何手工标注数据。

据我们所知，目前机器人领域还没有任何现有工作像本文这样，明确利用多传感器跟踪得到的信息实现不同传感器之间的迁移学习。我们的工作结合了多传感器的优势与半监督学习的效率，将二者整合到一个统一的在线框架中，应用于基于三维激光雷达的行人检测任务。

### 三、在线迁移学习

本文在线迁移学习解决方案框架的整体概览如图2所示。该框架包含四个主要组件：静态检测器记为$\mathcal{D}_{s}$，动态检测器记为$\mathcal{D}_{d}$，此外还有目标跟踪器T和标签生成器G。为便于说明，我们按照一次完整迭代的流程依次介绍各个组件，从行人检测环节开始。

### A. 行人检测与跟踪

 $D_s$可通过离线训练或启发式检测器检测人类，通常置信度较高，而$D_d$则通过在线框架获得该能力。两种检测器都为$\mathcal{T}$提供新的观测结果，并为$\mathcal{G}$提供对应的概率。$D_s$提供带标注的检测结果，而$D_d$同时提供带标注和未标注的检测结果。本文假设初始训练集被替换，取而代之的是初始$D_s$与最终$D_d$之间的迁移学习过程。

跟踪流程$\mathcal{T}$收集观测结果，对其进行融合并生成人体运动估计。运动目标和静止目标都可被跟踪。对于静止目标，其轨迹长度被认为为零，或至少极小。$\mathcal{T}$将不同传感器得到的人体检测结果关联到同一对应的估计，关联$D_{s}$和$D_{d}$的检测结果。

---

因此使得迁移学习成为可能。为了在配备多传感器的移动机器人上实现该功能，$\mathcal{T}$需要满足：a）对传感器噪声和部分遮挡具有鲁棒性；b）融合多传感器数据；c）能够同时处理多个目标；d）应对机器人运动引入的噪声。

### B. 迁移学习

标签生成器$\mathcal{G}$融合来自$\mathcal{D}_s$、$\mathcal{D}_d$和$\mathcal{T}$的信息，随后为$\mathcal{D}_d$生成训练标签。$\mathcal{G}$基于贝叶斯定理计算轨迹概率，核心思想是衡量一条轨迹属于人类的似然，定义如下。给定一个无目标候选样本$x_i$及其类别标签$y_i$，$P(y_i|x_i,d_j)$表示在时刻t，检测器$x_i$（$d_j\in\mathcal{D}$）观测到样本$\mathcal{D}=\mathcal{D}_s\cup\mathcal{D}_d$为人类的预测概率。对于完整的检测轨迹$X_T\{x_i\}$及其类别标签$Y_T$，完整轨迹$P(Y_T|X_T,\mathcal{D})$的预测概率通过以下公式对不同检测器的观测结果进行积分计算得到：

 $$ P(Y_{T}|X_{T},\mathcal{D})=\frac{o d d s_{X_{T}}}{1+o d d s_{X_{T}}} $$

其中

 $$ o d d s_{X_{T}}=\prod_{i=1}^{t}\prod_{j=1}^{K}o d d s_{x_{i}}^{j} $$

 $$ o d d s_{x_{i}}^{j}=\frac{P(y_{i}|x_{i},d_{j})}{1-P(y_{i}|x_{i},d_{j})} $$

且

在此处，根据具体场景，$P(y_i|x_i,d_j)$可能需要经过一些特定变换，相关内容会在本文的应用案例（第IV-A节和第IV-B节）中说明。理论与实验分析均已证明，上述公式在利用不同传感器生成栅格占据图时是有效的[^20]，[^21]，因为对数优势法考虑了传感器之间的相互作用。据我们所知，将该方法应用于人体轨迹分析是全新的尝试。

一种直观的标签生成方法是对式(1)中的轨迹概率进行阈值处理。设$\sigma_{t}$为预定义的阈值，则：

 $$ \begin{aligned}\forall x_{i}\in X_{T}&\operatorname{assign}y_{i}=z(z\in\mathbb{Z}^{+}),\operatorname{get}X_{T},Y_{T}=\{x_{i},y_{i}\}_{T}\\&\operatorname{if}P(Y_{T}|X_{T},\mathcal{D})\geq\sigma_{t}\end{aligned} $$

其中$\mathbb{Z}^{+}$表示正整数值。本文框架采用批量增量训练（Batch Incremental Training, BIT）策略在$\mathcal{D}_{d}$中学习分类器，原因在于：$a)$新生成的训练样本数量始终大于1；$b)$该批次样本可用于近似在线学习中全部样本的分布[^22]。

每隔一定间隔，会生成一批新的训练样本$[X_{new}, Y_{new}]$：

 $$ \begin{align*}[X_{new},Y_{new}]=\{(x_{i},y_{i})\mid x_{i}\in X_{T}\subseteq\mathbb{R}^{n},\\y_{i}\in Y_{T}\subseteq\mathbb{Z}^{+},1\leq i\leq n_{i}\}_{\forall T}\end{align*} $$

其中$X_{T}$由跟踪器获取，$Y_{T}$由式4得到，$D_{d}$的分类器将在BIT过程中更新：

 $$ \mathcal{D}_{d}^{i}=\operatorname{B I T}([X_{n e w},Y_{n e w}],\mathcal{D}_{d}^{i-1})) $$

其中下标i表示迭代次数，而非时间。

### C. 学习过程的收敛性

当$D_{d}$输出的正确检测数量达到稳定状态时，学习过程收敛：

 $$ \lim_{I\to\infty}\frac{stability_{I}}{I}=0 $$

其中I为重训练的总迭代次数。在本文系统中，第i次迭代的稳定性定义如下：

 $$ s t a b i l i t y(I)=\sum_{i=1}^{I}\|u_{i}-u_{i+1}\| $$

 $$ \begin{align*}u_{i}=&\sum_{N_{i}}y_{i}\cdot\psi(P(y|X^{i}_{valid},\mathcal{D}^{i}_{d}))\\&+(1-y_{i})\cdot\psi(1-P(y|X^{i}_{valid},\mathcal{D}^{i}_{d}))\end{align*} $$

其中$u_{i}$为分类正确的样本数量，$X_{valid}$为验证集，$\psi$为经0.5阈值处理得到的二元函数。当稳定性不再上升，或其他停止条件（例如迭代次数条件）被触发时，即可终止学习过程。

### IV. 多传感器人体检测应用

本节中，我们利用图1所示的机器人，针对三维激光雷达扫描中的人体分类任务提出一种在线迁移学习方法。本文的传感器配置与欧盟FLOBOT项目开发的工业洗地机器人所采用的配置相似$^{1}$，除顶部安装的三维激光雷达外，还包括一个安装在前方的RGB-D相机和一个二维激光雷达。下文将介绍如何利用现有先进检测器在线训练基于三维激光雷达的人体检测器，无需手动标注样本进行离线训练。

本文实现方案的详细框图如图3所示。每次迭代中，首先将三维激光雷达扫描点云分割为点簇。多目标跟踪系统实时估计这些点簇的二维位置和速度，输出所有点簇的轨迹。同时，训练分类器将点簇分为人体或非人体两类，并为每个点簇分配归一化置信度值。该置信度就是基于三维激光雷达的检测器的预测概率$P(y_i|x_i,d_j)$，是计算式1-3中轨迹概率所需的参数。分类器完成在线初始化和重训练后，轨迹和概率会被发送至标签生成器，由标签生成器生成下一次迭代的训练标签。

分别基于RGB-D相机和二维激光雷达的上半身检测器[^10]和腿部检测器[^7]属于静态检测器$D_s$。二者通过发送检测位置实现人体跟踪，此外还会向标签生成器提供对应的概率$P(y_i|x_i, d_j)$（即归一化检测置信度）。基于三维激光雷达的点簇检测器与

---

![Image](images/dc52098d8c837ff8c7a7d4f679401d1b375c799cf89e02e006baf0944f77e1a7.jpg)

<div style="text-align: center;">Fig. 3. Process details of the online transfer learning for human detection.</div>

![Image](images/0a313d71a2c78859f3c236e68f5b103a55f15b7f7687db1c1238d11fb28949df.jpg)

<div style="text-align: center;">Fig. 4. A screenshot of our multisensor-based detection and tracking system in action. The sparse colored dots represent the laser beams with reflected intensity from the 3D LiDAR. The white dots indicate the laser beams from the 2D LiDAR. The colored point clouds are RGB images projected on depth data of the RGB-D camera. The robot is at the center of the 3D LiDAR beam rings. The numbers are the tracking IDs and the colored lines represent the people trajectories generated by the tracker. For example, the person with tracking ID 49 has been detected by the RGB-D upper-body detector (green cube), the 2D LiDAR leg detector (green circle), and the 3D LiDAR cluster detector (blue bounding box).</div>

人体分类器共同构成了我们需要在线重训练的动态检测器$D_{d}$。如需直观了解各类检测器及其输出，请参考图4中的示例。下文将详细介绍每个模块。

### A. 上半身检测器与腿部检测器

上身探测器利用预定义模板，在二维距离（深度）图像中识别上身（肩部和头部）。检测置信度与观测距离成反比。腿部探测器基于14个特征在二维LiDAR扫描中检测腿部，这些特征包括光束数量、圆形度、半径、平均曲率、平均速度等。它的检测性能会受移动人员和拥挤人群的限制。由于上身探测器和腿部探测器都不是概率性方法，且为了简化数学转换，若$x_{i}$被检测为人体，则将其概率赋值为0.5。

### B. 聚类探测器与人体分类器

基于三维LiDAR的聚类探测器与人体分类器最初出自我们近期的研究工作[^12]，其中聚类探测器已被应用于多个不同问题的研究中[^23]、[^24]。作为该模块的输入，三维LiDAR扫描首先会通过自适应聚类方法被正确分割为不同的聚类簇。该方法可根据扫描距离为点云聚类设置不同的最优阈值。随后，我们在线训练了一个包含6组特征（共61维）的支持向量机（SVM）分类器[^25]。这些特征的选择满足了机器人对实时在线计算性能的要求。更多实现细节请参考[^12]。

在我们基于LIBSVM的方法中[^26]，我们将SVM未校准的误差函数拟合为logistic函数（此处为sigmoid函数），以得到预测概率$P(y_i|x_i,d_j)$（用于式(3)）。具体来说，我们在每次迭代中训练一个二分类器（即区分人体或非人体）。正负训练样本的比例设置为1:1，所有数据被缩放到$[-1,1]$，采用高斯径向基核函数[^27]，生成概率输出。由于当前LIBSVM不支持增量学习，系统会存储从初始阶段积累的所有训练样本，并在每次新迭代中重新训练整个分类器。但该解决方案框架也支持使用其他分类器和学习算法。

### C. 贝叶斯跟踪器

人体跟踪由一个鲁棒的多传感器多目标贝叶斯跟踪器实现，该跟踪器已在以往的研究工作中被广泛使用和介绍[^2]、[^8]、[^12]、[^17]、[^28]。状态估计分为两个步骤：第一步，在已知$t-1$处的前一状态的前提下，使用恒速模型预测t时刻的目标状态。第二步，如果探测器输出了一个或多个新观测值，则会根据传感器类型，使用笛卡尔观测模型或极坐标观测模型更新预测状态。若同一传感器或多个传感器同时生成多个检测结果，最后我们会采用高效实现的最近邻数据关联方法解决歧义，为每个人体分配正确的检测结果。正如[^2]、[^17]、[^28]中所述，我们的跟踪器满足第三节A部分列出的要求。更多细节请读者参考这些文献。

### D. 标签生成器

正训练标签$X^{+}$根据式(4)生成，而负训练标签$X^{-}$则基于体积滤波器生成：

 $$ \begin{aligned}\boldsymbol{X}^{-}=\left\{x_{i}\mid\mathrm{W}_{i}<0.2,\mathrm{~W}_{i}>1.0,\right.\\ \left.\mathrm{D}_{i}<0.2,\mathrm{~D}_{i}>1.0,\mathrm{~H}_{i}<0.2,\mathrm{~H}_{i}>2.0\right\}\end{aligned} $$

其中$W_i$、$D_i$、$H_i$分别是三维聚类$x_i$的宽度、深度和高度。该方法的思路是：不满足预定义类人体积模型的聚类将被视为下一训练迭代的负样本。在我们的应用中，动态分类器从零开始训练，不需要任何人工标注的初始数据集。由于没有可用的验证集，我们将最大迭代次数作为停止训练的判据。

---

### A. 数据集

我们在真实场景数据集$^{2}$上评估了所提框架，该数据集由图1所示的机器人在室内公共区域采集得到。机器人运行机器人操作系统（ROS）[^29]，由操作人员通过游戏手柄手动操控。实验共录制了多个rosbag文件，总时长约49分钟，包含两段时长分别为19分钟和30分钟的连续采集数据。传感器数据均以原始参考帧存储，坐标变换由ROS的tf包处理。

### B. 实验设置

实验采用时长为19分钟的连续数据段开展，我们在该数据上在线学习二分类SVM人体分类器。分类器每新增300个由标注生成器标注的新正样本（人体）和300个新负样本（非人体）就重新训练一次，计为一次迭代。本文报告前七次迭代的结果，共收集到2100个正样本和2100个负样本。此外，我们还离线训练了一个分类器作为对比基线：该分类器使用2100个人工标注正样本和同等数量随机抽取的负样本训练得到。另外，我们从数据集中随机选取了100个扫描帧并进行了完整标注（包含站立和坐姿的人体），将其作为测试集。测试集共包含1197个人体标注，这些人体与机器人的距离从几厘米到二十米不等。若检测结果与真值的重叠率超过50%，则将该检测判定为真阳性。

我们的框架已完全在模块化ROS架构中实现，所有组件可供其他研究人员下载$^{3}$和使用。数据集采集和本文报道的所有实验均在机器人的嵌入式PC上完成，该PC搭载Intel i7-4785T处理器、8GB内存，运行64位Linux Ubuntu 14.04 LTS系统和ROS Indigo。值得注意的是，我们的系统快速且性价比高：仅使用低成本CPU就能在数分钟内学习得到人体检测器，无需使用昂贵GPU训练数小时甚至数天。

### C. 人体分类

我们首先在每次在线训练迭代后，评估基于三维LiDAR的人体分类性能。我们对比了所有可能传感器组合的结果：仅使用三维LiDAR，即不进行任何知识迁移，仅从轨迹学习；三维LiDAR搭配RGB-D相机；三维LiDAR搭配二维LiDAR；三维LiDAR同时搭配RGB-D相机和二维LiDAR。我们采用平均精度（AP）[^30]而非其他方法使用的分类准确率（ACC）[^13]，因为平均精度能提供更多信息。实际上，在我们的二分类问题中，真阴性样本的数量远多于真

<div style="text-align: center;">Fig. 5. Comparison of different 3D LiDAR-based human classifiers trained offline (red line) and online using different sensor combinations. Best viewed in color.</div>

阳性样本，因此对于每次训练迭代和每种传感器组合，ACC始终高于80%（概率阈值为$\sigma_{t}=0.5$）。在所有实验中，式(4)的轨迹概率阈值$\sigma_{t}$被设置为0.7。

![Image](images/1acee8920e08c80f806b0b455c442e313d4526ebf7230329e3fcee136d384da3.jpg)

图5的实验结果表明，“仅使用3D LiDAR”方案与（3D LiDAR）“搭配2D LiDAR”方案的AP值随迭代次数增加而上升，而“搭配RGB-D相机”方案没有出现显著变化。不过，“搭配RGB-D相机和2D LiDAR”方案的结果呈现出有趣的趋势：在前5次迭代中持续下降，随后上升，最终性能远高于其他所有组合。这一结果展现了我们多传感器系统的优势，该系统最终能够改进在线迁移学习过程。

我们另外评估了离线训练分类器与最终（即第7次迭代后）在线训练分类器的精确率-召回率性能，实验结果如图6所示。RGB-D相机与2D LiDAR的组合再次取得了最优性能。与“仅使用3D LiDAR”方案仅能从移动人体样本学习不同，“搭配RGB-D相机和2D LiDAR”方案能够从移动、站立和坐姿的人体样本中学习，大幅提升了人体分类性能。同样值得指出的是，离线训练分类器尽管精度相对较高，但其真阳性率（即召回率）普遍更低，这是因为离线训练集中缺少远距离样本，这类样本很难由人工标注者完成标注。

### 六、结论

本文提出了一种在线迁移学习框架，应用于基于3D LiDAR的人体分类任务，充分利用了多传感器跟踪的优势。该框架依托人体轨迹概率计算，能够让机器人借助现有人类检测器，随运行时间推移逐步学习得到新的人体分类器。为此，我们提出了一种半监督学习方法，该方法融合了基于模型（带标注）和无模型（无标注）的

---

![Image](images/f168d9884ed68b44c472824b4bc1424f406c648be8790f480d3f12d5dbb0495a.jpg)

<div style="text-align: center;">Fig. 6. Performance evaluation of human detection. Best viewed in color.</div>

尽管目前取得的结果令人振奋，但仍有多个方面可以改进：例如，由于我们数据集中记录的环境复杂度较高，在线学习得到的分类器AP值仍然相对较低，采用更先进的负样本生成模型可以进一步提升该性能。此外，基于在线训练分类器的新型人体检测器会如何影响系统稳定性与跟踪性能，仍有待验证。

来自不同传感器的检测结果。本文所提方案一个极具前景的特点是，新的人体分类器可直接从部署环境中学习，因此消除了对预标注数据的依赖。基于真实场景数据集的实验结果证明了我们系统的有效性。

## 致谢

本文提出的框架已经以高度模块化的方式完整实现于ROS中。为方便研究界对不同机器人的识别能力开展客观、系统的比较，我们向学术界公开了相关软件与数据集。此外，我们的框架很容易扩展到其他传感器和其他运动目标，例如汽车、自行车和动物。

本研究得到了欧盟地平线2020研究与创新计划的资助，资助协议编号分别为No. 645376（FLOBOT）和No. 732737（ILIAD）。

## 参考文献

[^1]: D. Schulz, W. Burgard, D. Fox, and A. B. Cremers, “People tracking with mobile robots using sample-based joint probabilistic data association filters,” International Journal of Robotics Research, vol. 22, no. 2, pp. 99–116, 2003.

[^2]: T. Linder, S. Breuers, B. Leibe, and K. O. Arras, “On multi-modal people tracking from mobile platforms in very crowded and dynamic environments,” in Proc. of ICRA, 2016, pp. 5512–5519.

[^3]: M. Kobilarov, G. Sukhatme, J. Hyams, and P. Batavia, “People tracking and following with mobile robot using an omnidirectional camera and a laser,” in Proc. of ICRA, 2006, pp. 557–562.

[^4]: D. Held, J. Levinson, and S. Thrun, "Precision tracking with sparse 3d and dense color 2d data," in Proc. of ICRA, 2013, pp. 1138–1145.

[^5]: K. Misu and J. Miura, “Specific person detection and tracking by a mobile robot using 3D LIDAR and ESPAR antenna,” in Proceedings of IAS, 2012, pp. 705–719.

[^6]: K. Koide and J. Miura, “Person identification based on the matching of foot strike timings obtained by LRFs and a smartphone,” in Proc. of IROS, 2016, pp. 4187–4192.

[^7]: K. O. Arras, O. M. Mozos, and W. Burgard, “Using boosted features for the detection of people in 2d range data,” in Proc. of ICRA, 2007, pp. 3402–3407.

[^8]: N. Bellotto and H. Hu, “Multisensor-based human detection and tracking for mobile service robots,” IEEE Transactions on Systems, Man, and Cybernetics – Part B, vol. 39, no. 1, pp. 167–181, 2009.

[^9]: M. Munaro and E. Menegatti, “Fast RGB-D people tracking for service robots,” Autonomous Robots, vol. 37, pp. 227–242, 2014.

[^10]: O. H. Jafari, D. Mitzel, and B. Leibe, “Real-time RGB-D based people detection and tracking for mobile robots and head-worn cameras,” in Proc. of ICRA, 2014, pp. 5636–5643.

[^11]: X. Zhu and A. B. Goldberg, Introduction to Semi-Supervised Learning. Morgan & Claypool, 2009.

[^12]: Z. Yan, T. Duckett, and N. Bellotto, “Online learning for human classification in 3d lidar-based tracking,” in Proc. of IROS, 2017, pp. 864–871.

[^13]: A. Teichman and S. Thrun, “Tracking-based semi-supervised learning,” International Journal of Robotics Research, vol. 31, no. 7, pp. 804–818, 2012.

[^14]: Y. Bar-Shalom and X.-R. Li, Multitarget-multisensor tracking: principles and techniques. Storrs, CT: University of Connecticut, 1995.

[^15]: Z. Yan, N. Jouandeau, and A. Ali Cherif, “A survey and analysis of multi-robot coordination,” International Journal of Advanced Robotic Systems, vol. 10, no. 399, December 2013.

[^16]: L. Spinello, R. Triebel, and R. Siegwart, “Multiclass multimodal detection and tracking in urban environments,” International Journal of Robotics Research, vol. 29, no. 2, pp. 1498–1515, 2010.

[^17]: C. Dondrup, N. Bellotto, F. Jovan, and M. Hanheide, “Real-time multisensor people tracking for human-robot spatial interaction,” in ICRA Workshop on Machine Learning for Social Robotics, 2015.

[^18]: C. Premebida, J. Carreira, J. Batista, and U. Nunes, “Pedestrian detection combining RGB and dense LIDAR data,” in Proc. of IROS, 2014, pp. 4112–4117.

[^19]: A. González, G. Villalonga, J. Xu, D. Vázquez, J. Amores, and A. M. López, “Multiview random forest of local experts combining RGB and LIDAR data for pedestrian detection,” in Proc. of IV, 2015, pp. 356–361.

[^20]: W. Burgard, M. Moors, D. Fox, R. Simmons, and S. Thrun, “Collaborative multi-robot exploration,” in Proc. of ICRA, 2000, pp. 476–481.

[^21]: H. P. Moravec, “Sensor fusion in certainty grids for mobile robots,” AI magazine, vol. 9, no. 2, p. 61, 1988.

[^22]: J. Read, A. Bifet, B. Pfahringer, and G. Holmes, “Batch-incremental versus instance-incremental learning in dynamic and evolving data,” in Proc. of IDA, 2012, pp. 313–323.

[^23]: L. Sun, Z. Yan, S. M. Mellado, M. Hanheide, and T. Duckett, “3DOF pedestrian trajectory prediction learned from long-term autonomous mobile robot deployment data,” in In Proceedings of ICRA, Brisbane, Australia, May 2018.

[^24]: L. Sun, Z. Yan, A. Zaganidis, C. Zhao, and T. Duckett, “Recurrent-octomap: Learning state-based map refinement for long-term semantic mapping with 3d-lidar data,” IEEE Robotics and Automation Letters, 2018.

[^25]: C. Cortes and V. Vapnik, “Support-vector networks,” Machine Learning, vol. 20, no. 3, pp. 273–297, 1995.

[^26]: C.-C. Chang and C.-J. Lin, "LIBSVM: A library for support vector machines," ACM Transactions on Intelligent Systems and Technology, vol. 2, pp. 1–27, 2011.

[^27]: S. S. Keerthi and C.-J. Lin, “Asymptotic behaviors of support vector machines with gaussian kernel,” Neural Computation, vol. 15, no. 7, pp. 1667–1689, 2003.

[^28]: N. Bellotto and H. Hu, “Computationally efficient solutions for tracking people with a mobile robot: an experimental evaluation of bayesian filters,” Autonomous Robots, vol. 28, pp. 425–438, 2010.

[^29]: M. Quigley, K. Conley, B. P. Gerkey, J. Faust, T. Foote, J. Leibs, R. Wheeler, and A. Y. Ng, “ROS: an open-source robot operating system,” in ICRA Workshop on Open Source Software, 2009.

[^30]: M. Everingham, L. J. V. Gool, C. K. I. Williams, J. M. Winn, and A. Zisserman, “The pascal visual object classes (VOC) challenge,” International Journal of Computer Vision, vol. 88, pp. 303–338, 2010.
