
# 基于形状匹配的三维距离数据鲁棒高效人体检测

丹尼尔·霍登 内森·基希纳

悉尼科技大学

{Daniel.Hordern, Nathan.Kirchner}@eng.uts.edu.au

## 摘要

人体位置信息是人机交互（HRI）的必备基础，它能让机器人做出符合人类感知的决策，还便于进一步提取手势、视线这类低层次有用信息。本文提出一种鲁棒的人体检测方法，利用三维距离数据并基于形状匹配实现。该方法将三维数据投影到二维平面，从而高效地表示数据，完成场景分割和形状提取。本文采用傅里叶描述子（FD）描述形状，随后通过支持向量机（SVM）完成分类。我们收集了包含25个人的数据集测试该方法，结果表明，计算高效的形状特征可以鲁棒地检测出人体位置。

## 1 引言

机器人感知世界并与世界交互的基础能力正不断走向成熟。这些能力包括同步定位与地图构建（SLAM）、路径规划、避障和探索，是数十年来机器人领域大量研究取得的成果。如今，机器人在各类应用场景中运用这些能力已经越来越普遍。这些能力的成熟与鲁棒性意味着机器人对普通社会大众而言愈发具备可行性、也更易获得。但这也给机器人领域带来了新的挑战：如何让机器人自然融洽地与人类共处同一环境。具备与人类自然、直观交互的能力，很可能会推动机器人被社会接纳并融入社会。因此，为需要和人类互动的机器人配备这类交互能力十分重要。

人类进行交互时，底层肢体语言、互动距离、视线、言语以及其他这类线索都会为交互提供宝贵信息。这些信息可用于对交互进行高层理解，例如识别出：是否有人想要发起交互、是否有人想要获得对方的注意力、当前交互有哪些参与者、谁是说话者、谁是受话者。如果机器人也具备做出这些判断的能力，将有助于消除歧义，进而促成自然直观的交互。但要实现这一点，首先需要获取这些底层信息，因此显然有必要提取这些人类行为线索。

实现这一目标的第一步是在环境中可靠地定位人员。要提取邻近度、姿态和手势这类重要信息，必须先获取人员的位置。HRI可能发生的条件和环境多变，例如家庭场景，这给人员定位带来了诸多挑战，比如视觉复杂度高、光照条件多变等。光照变化可由强度不同的人工光源、自然光源，以及不同房间独特的光照布局导致。人员所处的物理环境中存在大量可变物体，例如各式家具，且结构上具有动态性；人员会与环境互动，例如移动家具位置。因此，需要一种对这些因素具备鲁棒性的方法。

视觉领域已经在人员检测方向开展了大量研究工作。人脸检测是该领域检测人员存在的常用方法，[Viola and Jones, 2004; yu Lin, 2005; Waring and Liu, 2005; Rowley et al., 1998; Buciu et al., 2001]。尽管已有研究证明这些方法能够有效检测人脸，但在视觉复杂、特征丰富的环境中，它们很可能会产生误报。基于Haar特征的人脸检测器是一种应用广泛、广为人知的人员检测方法，[Viola and Jones, 2004]，图1展示了该方法得到的部分误报结果。人脸检测方法无法提供相关信息，因此也限制了提取低级肢体语言这类进一步信息的能力。

---

![Image](images/8b5903b7bdfb7c79513db1ac1964318ebfbf80ae37642d07f99c2c31e589fe7f.jpg)

<div style="text-align: center;">Figure 1: False positives of the Haar feature based on face detection.</div>

也无法给出人员身体其余部分的相关信息，也无法为分割过程提供支持。

背景减法技术常被用于监控应用中的行人检测与追踪任务。尽管背景减法方法能够对光照变化保持鲁棒性[Cezar Silveira Jacques et al., 2006]，但这类方法所能应对的都是相对缓慢平缓的光照变化，比如日光的推移变化。此外，背景减法技术仅能完成将场景分割为背景和前景的任务，因此这些前景物体还需要额外的技术进行分类，例如方向梯度直方图（HOG）[Zeng et al., 2008]。背景减法要求采用静态传感方案，因此无法应用于我们的动态机器人系统。

文献[Dalal and Triggs, 2005]提出了基于HOG的行人检测算法。HOG描述子描述了图像中强度梯度的局部分布特征，HOG特征会与线性SVM结合来检测行人。[Bertozzi et al., 2007]给出了HOG的一个应用实例，将其用于行人检测。[Li et al., 2009]将HOG特征与Viola-Jones类分类器结合，利用代表人体头肩区域的类omega特征进行行人检测，利用该区域检测行人取得了良好的结果，这支撑了我们在本文方法中使用该特征。

许多视觉技术存在的一个问题源自传感器本身。光照变化会降低许多视觉应用的性能。正如前文所述，自然HRI会发生在无约束环境中，这类环境的不同区域很可能出现光照变化。此外，相机数据的二维特性无法让我们直接完全获知行人在环境中的位置，这也限制了提取姿态和手势等后续信息的能力。

尽管上述多数技术已在特定应用中被验证成功，但它们并非满足我们需求的理想解决方案。此外，提取和识别额外线索需要三维（3-D）信息，这意味着利用三维数据的检测算法更为理想。

目前，飞行时间（Time-of-Flight，TOF）相机可提供低分辨率、高帧率的场景三维成像，其自发光的特性使其能够适应环境中光照变化的影响。这些优良特性推动了不少使用该传感器进行人体检测与跟踪的相关技术研究。在[Tanner等人，2008]和[Bevilacqua等人，2006]的研究中，TOF相机被用于静态监控类部署场景下的人体检测与跟踪。类似地，[Hansen等人，2008]提出了一种使用静态TOF相机结合背景模型的人体跟踪系统。为辅助跟踪，作者将三维数据投影到二维平面，并将其称为平面映射图（flat-map）。这些研究中的人体检测区分能力并不强。在我们的应用中，具备描述区分能力的人体检测方法必不可少，因为平台（以及相应搭载的传感器）是动态的，观测场景中出现的新物体不一定都是人体。

[Tanner等人，2008；Bevilacqua等人，2006；Hansen等人，2008]使用三维数据进行人体检测的研究表明，三维数据适用于该应用场景。[Hansen等人，2008]中用于辅助检测的三维数据投影与聚类方法兼具信息丰富性与高效性。[Li等人，2009]的研究证明，头肩部是人体检测中可靠的特征。

综上所述，机器人感知人员位置的能力是实现HRI必不可少的信息。人员位置和相关的3-D信息有助于从人员身上提取更多有用线索，例如姿态和手势。此外，HRI所处的复杂环境要求该方法必须具备鲁棒性。因此，显然亟需一种利用3-D信息的鲁棒性人员检测方法。

本文提出了一种利用3-D距离数据的鲁棒性人员检测方法。论文结构安排如下：首先全面概述该方法，描述定位人员涉及的全部流程：场景分割、形状提取、形状描述和形状分类。随后分析该方法的详细结果。我们整理了一个包含25名年龄在20-50岁男性的数据库，用于测试形状匹配的准确率。最后，本文对该方法进行了讨论，探讨了可能的未来研究方向，并给出总结。

## 2 方法

本工作使用Swissranger 4000 TOF相机开展研究，不过该方法适用于所有能够提供场景三维表示的传感器。这一新颖方法利用3-D信息的2-D表示，以便实现高效且鲁棒的

---

![Image](images/eccbb8d511db2b47d2ba21ce6bbe78c9fae6e80282583bc5f1dc2c8cdb267ed7.jpg)

<div style="text-align: center;">Figure 2: Process and information flow for the person detection.</div>

在保留定位人体所需信息的前提下对场景进行处理，该方法还利用头肩区域特性稳定的特点，将其作为形状匹配的特征。从鲁棒性和效率来看，该方法的一个重要特点是，它属于选择性序列方法，能够在多个阶段剔除无关信息。为了将形状匹配技术用于人体检测，必须从场景中提取稳定一致的形状用于分类。图2展示了该方法涉及的完整处理流程。

从图2可以看出，实现这一目标的第一步是对场景进行分割，识别出可能是人体的候选目标。为此，三维点云数据会被投影到水平面上，如图3所示，这样就可以通过二维平面上的斑点检测提取出聚类簇。随后该表示会根据传感器特性进行加权，从而实现可靠分割。每个聚类对应的三维信息接着会被投影到另一种二维表示——轮廓图中，这也展示在图3中。对轮廓进一步分割后，即可提取出可能包含人体头肩的区域。之后提取形状特征FDs，再通过SVM完成分类，判断该形状是否提取自人体。下一节将详细介绍上述每个步骤。

![Image](images/dacbd7496c5a600cfd11958e7151971bc5847036c3f772a060158a58091c63d2.jpg)

<div style="text-align: center;">Figure 3: Illustration of the density and silhouette projections.</div>

### 2.1 场景分割

本节将详细介绍一种考虑传感器特性的新型场景分割方法，该方法将传感器特性纳入考量。我们方法的第一步是分割场景中呈现出人体物理特征的区域。人体的纵向尺寸与横向尺寸比值较大，这意味着当目标人物处于Swissranger的视场（FOV）内时，从人体返回的点投影到水平面后会落在一个密集区域中，如图3所示。我们将水平面离散化为大小相等的正方形网格，统计每个网格上方的点数量。实际上，这种二维直方图由一幅图像表示，我们将其称为密度图，每个像素对应一个网格。随后将点云投影到该平面上，每有一个点落在某个网格上，密度图中对应像素的强度就会增加$C_{inc}$。图4展示了该场景的密度图，目标人物清晰地由高亮度像素簇呈现。然而，由于传感器的聚焦特性，感知密度$D_z$会随距离z递减，这一关系可以表示为距离z的函数。图5描绘了该规律，公式1给出了更正式的定义。该公式说明了点密度如何受视场常数$\theta$、$\sigma$，以及影响更为显著的深度z的影响。

因此，同一物体处于不同距离时会在直方图中得到不同的强度值，这不利于获得可靠的分割结果。为此我们开发了一个加权函数，即公式2，来解决感知密度分辨率下降的问题。为了在密度图中实现稳定的提取，该加权函数消除了距离和视场对感知密度的负面影响。

原始直方图和加权直方图可以在

---

![Image](images/35381e741fb52518bdd7c00cd0e760087c03e74373957fb3fe03521fdcfdb0a9.jpg)

<div style="text-align: center;">Figure 4: Annotated density image showing the axes, sensor position and FOV.</div>

 $$ \begin{aligned}D_{z}&=\frac{N_{points}}{A_{z}}&\\&=\frac{N_{points}}{l_{z}\times h_{z}}\\ &=\frac{N_{points}}{[2\times z\times\tan(\theta)]\times[2\times z\times\tan(\sigma)]}\\ &=\frac{N_{points}}{4\times z^{2}\times tan(\theta)\times tan(\sigma)}\\ \end{aligned} $$

其中：

 $$ \begin{array}{l}ere:\quad\\ \theta\text{is the horizontal FOV}\\ \sigma\text{is the vertical FOV}\\ N_{points}\text{is the sensor resolution}\end{array} $$

分别对应图6(a)和图6(b)。传感密度降低带来的影响被清晰展现：当人员远离传感器时，强度会随之下降。而在加权直方图中，人员对应的强度始终保持相对稳定，因此可以不受距离影响，轻松完成目标提取。加权密度图的生成过程如算法1所示。

随后，通过对直方图进行阈值处理，并定位尺寸符合人员身体特征的斑点，即可提取场景中的感兴趣目标。接着在每个目标的中心周围定义感兴趣区域（ROI），包裹聚类簇，从而包含该人员的所有相关信息。场景分割过程会选择性地将大量原始数据压缩为数量可控的感兴趣区域，如图6所示。接下来需要将这些ROI中的信息以高效、具备描述性的格式表示，以便后续分类。

![Image](images/9636eff21852df7dc34984f7ef51b73fef8e827b7fdbcc40a803da0473cd2378.jpg)

<div style="text-align: center;">Figure 5: Illustration of the increasing sensing as a function of distance, thus illustrating how the sensing density diminishes.</div>

 $$ w_{z}=\frac{1}{4z^{2}tan(\theta)tan(\sigma)} $$

其中，针对Swissranger 4000型号：

 $$ \theta=43.6^{\circ} $$

 $$ \sigma=34.6^{\circ} $$

![Image](images/79f71c061ab7afe73004db770fc72287de7176f558b77a0772eec13a8257bea5.jpg)

<div style="text-align: center;">(a) Raw histogram</div>

![Image](images/3b5b408834019fa405e6105b2b7070c63cb7266c370c200ed91ae28e3fe6c31d.jpg)

<div style="text-align: center;">(b) Weighted histogram with ROI</div>

<div style="text-align: center;">Figure 6: This figure demonstrated the affect of the density weighting function. Figure 6(b) illustrates the ROI around the clusters; one a person and the other an object in the scene.</div>

```pseudo
// Algorithm 1: Weighted density image

for $i = 1$ to $N_{points}$ do
```

```text
$i_x = \text{round}(P_x(i) \times h_{res})$
$i_z = \text{round}(P_z(i) \times h_{res})$
$h(i_x, i_z) = h(i_x, i_z) + (C_{inc} \times w_z)$
```

end for

其中：
$P_x(i)$, $P_z(i)$ 为点i的x值和z值，单位：米
$i_x$ 和 $i_z$ 为密度图像的索引
$h_{res}$ 为密度图像分辨率，单位：像素/米
$C_{inc}$ 为像素强度增量值

---

![Image](images/596570872b0010503a36f8764eef4511762118ec1a4e5bed2d5caec779e6dc0b.jpg)

![Image](images/8fe0a1a94377b996296afcfea1820434cc5285aad79c5c8bcd51ab54470109b7.jpg)

<div style="text-align: center;">(a) Projected silhouette image</div>

<div style="text-align: center;">(b) Extracted head and shoulders shape</div>

<div style="text-align: center;">Figure 7: Illustration of shape extraction process.</div>

### 2.2 形状提取

头部和肩部是人体中特征明确且相对稳定的部位。人在行走时不仅会移动腿部，手臂通常也会随之摆动。下半身和躯干区域的这类运动意味着，该区域的外观变化极大，还经常发生自遮挡。此外，头部通常与外界环境在物理上相互分隔，能够提供可靠的参考点，这是它相较于身体其他部位的优势：身体其他部位经常会和环境产生交互，比如脚接触地面、躯干和下半身接触座椅，这些交互都会让分割变得十分困难。另外，人类活动环境中的很多障碍物，例如桌椅，也较少会遮挡头肩区域的传感探测。这些特性使得头肩区域非常适合作为基于形状特征进行人物检测的目标特征。

若要利用形状匹配检测行人，无论被测者的身高或朝向如何，都需要稳定一致地提取出头肩区域。提取该特征的第一步，是将感兴趣区域ROI内的三维信息投影为二维轮廓图像表示。随后利用距离信息保证形状大小恒定，实现方式为：首先搜索轮廓图像中每个正像素对应的距离数据，找到最大值$y_{max}$。接着如公式3所示，计算出第二个值$y_{thresh}$，该值确定了当前形状的高度阈值。随后对形状进行处理，移除对应高度小于该阈值的像素。图7(b)展示了该过程的一个输出示例。由于阈值高度$y_{thresh}$是相对于形状高度$y_{max}$的，因此该分割结果不随行人身高变化。形状高度常数$C_{y}$以米而非像素定义形状的垂直高度，以此保证形状高度恒定。这有利于该方案的泛化，因为它

 $$ y_{t h r e s h}=y_{m a x}-C_{y} $$

其中：

 $y_{thresh}$ 是形状的阈值高度 [米]

 $y_{max}$ 是形状的高度 [米]

 $C_{y}$ 是形状高度常数 [米]

适用于不同身高的行人，也可适配行人落座等类似场景。经实验测定，$C_{y}$取值为0.4米时可以很好地捕捉头肩区域，因此采用该恒定值。

该过程最终会得到一幅高度一致的二值形状图像。接下来需要提取描述该形状的特征，以便后续进行分类。

### 2.3 形状描述

对距离信息执行分割处理后，可得到感兴趣目标的形状表示，这使得人体检测任务转变为形状匹配任务。已有研究表明，FDs在基于形状的分类任务中能取得优异效果[Zhang and Lu, 2002]。形状特征提取过程如算法2所示，该算法接收前述分割与形状提取过程输出的一组形状，提取它们的傅里叶描述子特征用于分类。

```pseudo
// Algorithm 2: Summary of feature extraction

for $i = 1$ to $N_{shapes}$ do
```

```text
Extract contour: $c(t)$
Find contour centroid: $c(t) \rightarrow (x_c, y_c)$
Sample contour: $c(t) \rightarrow s(t)$
Calculate centroid distance vector: $s(t) \rightarrow r(t)$
Find FDs: $r(t) \rightarrow F_k$
```

end for

提取FDs的第一步是获取形状的轮廓$c(t)$，随后对轮廓进行采样，得到一组精简后的边界点集合$s(t)$。采样按等弧长规则执行，图8(a)展示了采样后的轮廓。弧长L可通过周长P除以采样数量N计算得到：

 $$ L=\frac{P}{N} $$

接下来需要定义从二维采样闭合曲线$s(t) = (x(t), y(t))$到一维表示$r(t)$的映射，该映射被称为形状签名。目前已有多种形状签名被用于提取

---

![Image](images/19a54bb9029e703546edc23deb63e79f0da2e2f9d0408e572fa52a511eda8c45.jpg)

<div style="text-align: center;">(a) Sampled contour</div>

![Image](images/735f80a8a1d5b6b1b564f1b0074037955d27f7730cb7ce9bd03a839e265bee7e.jpg)

<div style="text-align: center;">(b) Centroid Distance vs Samples</div>

<div style="text-align: center;">Figure 8: Illustration of the centroid shape signature. Figure 8(a) portrays the sampling of the centroid distance shape signature,  $r(t)$. Figure 8(b) is a plot of the shape signature vs the sample number for 50 instances of two types of shape; blue represents the shape signature for a frontal shape and red for profile.</div>

FDs，包括累积角、曲率函数、复坐标和质心距离。[Zhang and Lu, 2002]的研究表明，质心距离形状签名的性能优于其他签名，因此本文采用它作为形状特征。该形状签名需要先计算形状的质心：

 $$ x_{c}=\frac{1}{N}\sum_{t=0}^{N-1}x(t)\quad y_{c}=\frac{1}{N}\sum_{t=0}^{N-1}y(t) $$

质心距离形状签名将二维轮廓表示为$s(t)$、$(x_t, y_t)$中每个采样点与轮廓质心$(x_c, y_c)$之间欧氏距离构成的向量，如式6所示。图8(a)展示了从轮廓中提取质心距离形状签名的过程，其中N = 32。图8(b)展示了形状签名沿轮廓绕行一周生成的波形，该波形取自三个不同受试者的50个独立样本；正面样本用蓝色表示，侧面样本用红色表示。

 $$ r(t)=\sqrt{([x_{t}-x_{c}]^{2}+[y_{t}-y_{c}]^{2})},t=0,1,\ldots,N-1 $$

FDs由形状签名向量的离散傅里叶变换（Discrete Fourier Transform, DFT）得到，如式7所示。

 $$ F D_{k}=\frac{1}{N}\sum_{t=0}^{N-1}r(t)e^{-j2\pi n k/N},k=0,1,\ldots,N-1 $$

快速傅里叶变换（Fast Fourier Transform, FFT）是DFT的一种计算高效实现，用于FDs的计算。为获得FFT的最优计算效率，形状签名的采样点数量被设置为2的幂次。

质心距离形状签名为实值，因此仅存在$N/2$个不同频率，特征向量仅需要一半的FDs。为实现尺度不变性，将FDs的幅值除以直流分量的幅值：

 $$ f_{k-1}=\frac{\left|FD_{k}\right|}{\left|FD_{0}\right|},k=1,\cdots,N/2 $$

既然已经得到了描述形状的特征向量，还需要一种方法来判断这些特征是否表征人体。。

### 2.4 形状分类

最后一步是对特征向量进行分类。本研究采用SVM作为分类器，因为SVM运算速度快，且已被证实在大量应用中都能取得出色的分类准确率。我们先对特征向量做缩放处理，再使用缩放后的数据通过五折交叉验证离线训练SVM [Chang and Lin, 2001]。我们训练了多个不同模型，以便分析不同形状特征的类别分离准确率。

## 3 结果

本节详细介绍了对本文提出方法开展实证评估得到的结果。首先，我们讨论了得到本文实验结果的实验设置。随后，我们概述了不同场景下，将加权函数应用于密度图像和形状提取过程得到的结果。最后，我们对形状分类过程进行了全面分析。

### 3.1 实验设置

![Image](images/3f69e75688f124cac5842a60ac5cee396a4bd23d7888ed5d2e92ca0827a8cfa5.jpg)

<div style="text-align: center;">Figure 9: Illustration of experiment set-up.</div>

我们利用机器人平台采集得到了包含两种不同场景的TOF相机数据库，这

---

<div style="text-align: center;">Table 1: Distribution of training and testing data</div>

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Classes</td><td style='text-align: center; word-wrap: break-word;'>Train Samples</td><td style='text-align: center; word-wrap: break-word;'>Test Samples</td><td style='text-align: center; word-wrap: break-word;'>Total</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Negatives</td><td style='text-align: center; word-wrap: break-word;'>457</td><td style='text-align: center; word-wrap: break-word;'>825</td><td style='text-align: center; word-wrap: break-word;'>1282</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Frontal</td><td style='text-align: center; word-wrap: break-word;'>301</td><td style='text-align: center; word-wrap: break-word;'>680</td><td style='text-align: center; word-wrap: break-word;'>981</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Profile</td><td style='text-align: center; word-wrap: break-word;'>371</td><td style='text-align: center; word-wrap: break-word;'>1836</td><td style='text-align: center; word-wrap: break-word;'>2207</td></tr></table>

两种场景中的第一种如图9所示，用于该方法的测试、训练与评估。该数据库包含25名年龄在20-50岁之间的男性受试者。涉及的场景如下：

- 正面：受试者面向机器人站立，如图9所示

• 侧面：受试者在机器人前方侧身站立

### 3.2 场景分割

下文将概述将加权函数应用于密度图像得到的结果。在原始密度图像（图10(a)和图10(b)）中可以看到，人物的强度会随着其远离传感器而降低。应用加权函数后（图10(c)和图10(d)）可以看到，人物的强度在远离过程中仍保持恒定，因此可以通过斑点检测实现可靠提取。

除这些数据集外，研究人员还使用Swissranger采集了一批不代表行人的形状样本，用于构建负类。这些数据集被用于训练和测试不同的SVM模型，表1概述了本次实验的数据分布情况。正面和侧面训练数据取自前6名受试者，在剩余19名受试者的数据上进行测试，训练数据未用于测试。

### 3.3 形状提取

下文将展示用于形状匹配的头肩形状提取能力。图11显示，该方法在正面场景（图11(a)）和侧面场景（图11(b)）中均成功提取了目标区域。此外，该方法能够成功提取实验中所有受试者的头肩区域。

### 3.4 分类模型分析

为分析特征的可分性，研究人员训练了三种不同的SVM分类模型：负类vs正面、负类vs正面+侧面，以及负类vs正面vs侧面。下文将给出这些模型在测试数据上的分类结果。

![Image](images/610f7644c951a6ecb469f61f8e8f79e7a595fd089deb40099a92a29499c99fe7.jpg)

<div style="text-align: center;">(a) Raw Histogram at  $slice_{t1}$</div>

![Image](images/fea29ca5c52a91a6933ad9abcde254c7778a028e17685a55b103fe9573e35fb5.jpg)

<div style="text-align: center;">(b) Raw Histogram at slice_{t2}</div>

![Image](images/07a641df6beb2feb831b2828c192916d5b49dd05fa6249747587c2d2e3ec85a2.jpg)

<div style="text-align: center;">(c) Weighted Histogram slice $_{t1}$</div>

![Image](images/5fe4be66b294560bf2d1125d068bfb3370a7181196e89508310b712ee7ef11bb.jpg)

<div style="text-align: center;">nt (d) Weighted Histogram at slice $_{t2}$</div>

<div style="text-align: center;">Figure 10: Histogram representations of the scene at two time slices. 10(a) and 10(c) portray the first time instance for the raw and weighted histograms. The cluster of high intensity points to the left of the histograms represent the person. The person then moves away from the sensor as is shown in 10(b) and 10(d).</div>

![Image](images/e41596ab87cf2d7278cee4e6f294af879e19838b5b61658d9250dbd29f3e17b7.jpg)

<div style="text-align: center;">(a) Frontal</div>

![Image](images/0e4783fd0f265b62309e91551336737eb0a2b772c31ab85427c560d8e9c7c15e.jpg)

<div style="text-align: center;">(b) Profile</div>

<div style="text-align: center;">Figure 11: Example shape extraction results from the experiment dataset.</div>

## 负类 vs 正面

我们测试了二分类负样本 vs 正面模型，检验这些类别的分离鲁棒性，从而实现对正面朝向人物的可靠检测。表2给出了该模型测试的混淆矩阵。结果表明该分类器能够很好地分离这两个类别，分别以99.27%和99.7%的准确率正确标注了负样本和正面测试数据。

---

<div style="text-align: center;">Table 2:  $\underline{\text{Confusion matrix for Negative vs Frontal model}}$</div>

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Test Data</td><td style='text-align: center; word-wrap: break-word;'>Negative</td><td style='text-align: center; word-wrap: break-word;'>Frontal</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Negative</td><td style='text-align: center; word-wrap: break-word;'>819</td><td style='text-align: center; word-wrap: break-word;'>6</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Frontal</td><td style='text-align: center; word-wrap: break-word;'>2</td><td style='text-align: center; word-wrap: break-word;'>678</td></tr></table>

## 负样本 vs 正面与侧面

在负样本 vs 正面与侧面模型中，正面特征和侧面特征被合并为单个类别，因此这同样是一个二分类SVM模型。表3以混淆矩阵的形式展示了测试数据的实验结果。尽管正面与侧面合并类别的准确率高达96%，但负类的准确率下降到了80%，有大量负样本被错误标注为有人。这说明将正面与侧面合并为一个类别的设置可能过于宽泛。

<div style="text-align: center;">Table 3: Confusion matrix for Negative vs Frontal and  $\underline{\text{Profile model}}$</div>

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Test Data</td><td style='text-align: center; word-wrap: break-word;'>Negative</td><td style='text-align: center; word-wrap: break-word;'>Frontal and Profile</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Negative</td><td style='text-align: center; word-wrap: break-word;'>660</td><td style='text-align: center; word-wrap: break-word;'>165</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Frontal and Profile</td><td style='text-align: center; word-wrap: break-word;'>101</td><td style='text-align: center; word-wrap: break-word;'>2415</td></tr></table>

## 负样本 vs 正面 vs 侧面

原本合并的正面与侧面类别现在被拆分，形成了负样本 vs 正面 vs 侧面三分类模型。该模型测试的混淆矩阵如表4所示。与负样本 vs 正面与侧面合并模型相比，负类的准确率大幅提升，达到了92.6%。正面类的准确率为99.4%，与仅包含负样本 vs 正面的二分类模型的准确率非常接近。侧面类的准确率也达到了94.2%，表现十分良好。从混淆矩阵可以明显看出，最大的分类混淆出现在负类和侧面类之间，这说明侧面形状特征的区分能力弱于正面形状特征。

<div style="text-align: center;">Table 4: Confusion matrix for Negative vs Frontal vs Profile model</div>

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Test Data</td><td style='text-align: center; word-wrap: break-word;'>Negative</td><td style='text-align: center; word-wrap: break-word;'>Frontal</td><td style='text-align: center; word-wrap: break-word;'>Profile</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Negative</td><td style='text-align: center; word-wrap: break-word;'>764</td><td style='text-align: center; word-wrap: break-word;'>4</td><td style='text-align: center; word-wrap: break-word;'>105</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Frontal</td><td style='text-align: center; word-wrap: break-word;'>4</td><td style='text-align: center; word-wrap: break-word;'>676</td><td style='text-align: center; word-wrap: break-word;'>0</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Profile</td><td style='text-align: center; word-wrap: break-word;'>105</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>1730</td></tr></table>

分类结果表明，新型形状特征能够很好地表征人体，可实现有区分性的人体检测。此外，该方法还具备区分人体正面与侧面朝向的能力，这一特性在HRI应用中十分实用。

## 4 讨论

需要重申的是，尽管本文的人体检测技术采用TOF相机实现，但只要能够获取3-D点云，形状分割、特征提取与分类流程就是一套通用解决方案。TOF相机具备的光照不变性对于该应用十分理想，它能够适应光照的极端变化，例如开灯或关灯的场景。需要指出的是，TOF相机存在相位解包裹问题：这意味着超出传感器最大探测范围（即模糊范围）的物体会产生错误读数，因为相位偏移无法被准确解包裹。目前已有文献提出多种解决该问题的方法，有待进一步研究。但正如前文所述，本文提出的方法并非传感器特定方法，仅需要3-D数据即可，解决该传感器的固有问题并非本文的研究重点。

## 5 结论与未来工作

本文提出了一种基于形状、使用3-D数据的人体检测方法。通过处理3-D数据的2-D投影，得到了一种计算高效的方法，可分割场景并提取用于人体检测的形状信息。研究结果表明，该方法可以针对不同人物、不同姿态完成目标分割，提取出头肩区域。分类结果显示，该方法能够高精度区分环境中的人和物体，这在HRI领域十分有价值，因为它可以在家庭这类复杂环境中工作；此外研究还证明，该分类方法可以区分人体的正面姿态和侧面姿态。这一特性对HRI而言十分有用，它不仅能让机器人获知人物在场景中的位置，还可以得到人物的大致姿态。

目前，本研究的数据库仅包含成年男性的正面和侧面姿态数据，因此未来需要扩展该数据库，以验证该方法对不同姿态、不同人群（如女性和儿童）的分类效果。扩展数据库后，还可以探索该方法的扩展方向，实现不同人群的区分，例如区分儿童与成年人。此外，未来还将研究如何扩展该方法，以实现姿态和手势的提取。

---

## 6 致谢

本研究得到ARC自主系统卓越中心、RobotAssist以及悉尼科技大学（University of Technology, Sydney）的支持。

## 参考文献

[Bertozzi 等，2007] M. Bertozzi, A. Broggi, M. Del Rose, M. Felisa, A. Rakotomamonjy, F. Suard. 一种基于方向梯度直方图和支持向量机分类器的行人检测器，2007年.

[Bevilacqua 等，2006] Alessandro Bevilacqua, Luigi Di Stefano, Pietro Azzari. 基于飞行时间深度传感器的人员跟踪. 发表于AVSS '06：IEEE国际视频与基于信号的监控会议论文集，第89页，美国华盛顿哥伦比亚特区，2006年，IEEE计算机学会.

[Buciu 等，2001] I. Buciu, C. Kotropoulos, I. Pitas. 组合支持向量机实现高精度人脸检测. 发表于ICIP01会议论文集，第1054–1057页，2001年.

[Cezar Silveira Jacques 等，2006] J. Cezar Silveira Jacques, C. Rosito Jung, S.R. Musse. 一种适应光照变化的背景减除模型. 第1817–1820页，2006年10月.

[Chang 和 Lin，2001] Chih-Chung Chang, Chih-Jen Lin. LIBSVM：支持向量机工具库，2001年. 软件获取地址：<http://www.csie.ntu.edu.tw/~cjlin/libsvm>.

[Dalal 和 Triggs，2005] Navneet Dalal, Bill Triggs. 用于人体检测的方向梯度直方图. 发表于CVPR会议，第886–893页，2005年.

[Hansen 等，2008] D.W. Hansen, M.S. Hansen, M. Kirschmeyer, R. Larsen, D. Silvestre. 基于飞行时间相机的簇跟踪. 第1–6页，2008年6月.

[Li 等，2009] 李敏，张兆祥，黄凯奇，谭铁牛. 基于Ω形特征的快速鲁棒人体检测与跟踪. 发表于ICIP'09：第16届IEEE国际图像处理会议论文集，第2517–2520页，美国新泽西州皮斯卡塔韦，2009年，IEEE出版社.

[Rowley等人，1998] Henry A. Rowley，学生会员，Shumeet Baluja 和 Takeo Kanade。基于神经网络的人脸检测。IEEE Transactions On Pattern Analysis and Machine Intelligence，20卷：23–38，1998年。

[Tanner等人，2008] Rudolf Tanner、Martin Studer、Adriano Zanoli 和 Andreas Hartmann。基于TOF传感器的行人检测与跟踪。收录于AVSS '08：

2008年IEEE第五届先进视频与基于信号的监控国际会议论文集，页码356–361。IEEE Computer Society，美国华盛顿哥伦比亚特区，2008年。

[Viola和Jones，2004] Paul Viola 和 Michael J. Jones。鲁棒实时人脸检测。Int. J. Comput. Vision，57(2)：137–154，2004年。

[Waring和Liu，2005] Christopher A. Waring 和 Xiuwen Liu。基于光谱直方图和SVM的人脸检测。IEEE Trans Systems, Man, and Cybernetics-Part B: C Cybernetics。2005年，35卷：467–476，2005年。

[Yen yu Lin，2005] Yen yu Lin。基于多分类提升的鲁棒人脸检测。收录于CVPR 2005，页码680–687，2005年。

[Zeng等人，2008] Hui-Chi Zeng、Szu-Hao Huang 和 Shang-Hong Lai。结合前景提取与行人检测的实时视频监控。收录于MMM'08：第14届多媒体建模进展国际会议论文集，页码70–79，柏林、海德堡，2008年。Springer-Verlag。

[Zhang和Lu，2002] Dengsheng Zhang 和 Guojun Lu。面向形状表示与检索的傅里叶描述子对比研究。收录于第5届亚洲计算机视觉会议（ACCV）论文集，页码646–651。Springer，2002年。