
# 用于人体身份识别的基于轮廓分析的步态识别

王亮，谭铁牛，IEEE高级会员，宁化宗，胡卫明

摘要——远距离人体身份识别近年来越来越受到计算机视觉研究者的关注。步态识别的核心目标就是通过人们行走的方式识别身份，从而解决这一问题。本文提出了一种简单高效的基于时空轮廓分析的步态识别算法。对于每个图像序列，首先使用背景减除算法和简单的匹配过程对行走人物的运动轮廓进行分割和跟踪。随后，对从轮廓图像序列得到的时变距离信号应用基于主成分分析（PCA）的特征空间变换，以降低输入特征空间的维度。最后在降维后的特征空间中使用有监督模式分类技术完成识别。该方法隐式地捕捉了步态的结构特征和变化特征。在室外图像序列上开展的大量实验结果表明，本文提出的算法在计算成本相对较低的情况下，仍获得了令人满意的识别性能。

索引词——人体运动分析，生物识别，步态识别，主成分分析。

## 1 引言

人体运动视觉分析[^17], [^25]旨在对人物进行检测、跟踪和身份识别，更广泛地说，是从包含人体的图像序列中理解人类行为。生物识别是一种利用生理或行为特征验证人员身份的技术[^18]。过去几年间，人体运动分析与生物识别结合应用于监控系统，已经成为热门研究方向。特别是远距离基于视觉的人体身份识别，近年来得到了计算机视觉领域越来越广泛的关注。这种研究热情很大程度上来自安全敏感环境（如银行、停车场和机场）对用于视觉监控和监测应用的自动人员识别系统的需求。由美国国防高级研究计划局（DARPA）发起的人类身份识别计划（Human ID program）[^1]是一个正在进行的研究项目，目标是开发全方位的多模式监控技术，成功实现人类的检测、分类和身份识别，从而提升设施防护能力，防范恐怖袭击。该项目的研究重点是动态人脸识别，以及包括步态在内的身体动态特征识别。

与将人体运动划分为行走、跑步、跳跃等类别的步态分类不同，步态识别（也称为基于步态的人员身份识别）是生物识别领域中一个相对较新的研究方向，目标是通过人们的行走方式区分不同个体。与指纹、虹膜等其他第一代生物特征相比，步态具有非侵入性的优势：即和自动人脸识别一样，它无需受试者配合接触，仅需记录行走过程 [^15]。到目前为止，步态或许是唯一可在远距离下获取感知的生物特征。每个人都拥有独特且特有的行走方式，这一点从生物力学角度很容易得到解释 [^20], [^21]。人体行走由数百块肌肉和关节的同步整合运动构成 [^20]。尽管双足行走的基本模式在人类之间大致相似，但不同个体的步态确实在相对时序、运动幅度等具体细节上存在差异 [^20]。目前已有不少相关研究，例如生物力学研究 [^21]、面向治疗的物理医学研究 [^38]、心理学研究 [^37]，以及旨在对图像序列中的人体进行建模和追踪的方法（不过这类方法通常不用于识别任务） [^17], [^25], [^2], [^15]。所有这些相关研究都有力支撑了步态可作为生物识别有效线索的应用潜力。

### 1.1 方法概述

本研究旨在建立一种基于行走过程时空轮廓分析的自动步态识别方法。步态同时包含了人体外观和行走运动的动态特征 [^34]。直观来看，基于步态的人员识别很大程度上依赖于图像序列中个体轮廓形状随时间的变化规律。因此，我们可以将步态运动视为一系列静态身体姿态的组合，并期望通过考虑这些观测结果的时序变化，提取出与这些静态姿态相关的可区分特征，用于识别任务。此外，基于PCA的特征空间变换已被证实在人脸识别（即特征脸方法）和步态分析中都是十分有效的方法 [^6], [^7], [^11], [^31]。基于这些观察，本文提出了一种结合传统PCA的基于轮廓分析的步态识别算法。该算法能够隐式捕捉步态的结构特征和过渡特征。尽管

---

![Image](images/fa7192bc797dd5822cb563ba338f93a238d883713935607616119d81a7b057e7.jpg)

<div style="text-align: center;">Fig. 1. Overview of the proposed method.</div>

该算法本质上非常简单，但实验结果却出人意料地出色。

本文提出算法的整体框架如图1所示。算法由三个主要模块组成，分别是人体检测与跟踪、特征提取，以及训练与分类。第一个模块的作用是检测和跟踪图像序列中的行走人体。首先执行背景减除流程将运动目标与背景分割，随后通过简单的匹配方法逐帧跟踪对应于行走人体空间轮廓的运动区域。第二个模块用于从每一帧中提取二值轮廓，并通过以轮廓质心为基准的轮廓展开，将二维轮廓图像映射为一维归一化距离信号。据此，这些轮廓随时间的形状变化被转换为一系列一维距离信号，以此近似表征步态模式的时间变化。第三个模块在训练阶段对这些时变距离信号应用PCA计算步态特征的主成分，在分类阶段则在低维特征空间中利用标准非参数模式分类技术确定行人身份。

### 1.2 本文的研究目的与贡献

本文是此前发表在[^16]中的一篇篇幅更短的早期工作的重要扩展。本文的主要研究目的与贡献总结如下：

● 我们旨在开发一种基于轮廓分析的、简单有效的步态人体识别方法。本文沿用了如[^11]、[^31]中的传统PCA方法来降低输入特征空间的维度。

- 本文提出的方法不仅分析步态的时空运动模式，还将步态作为一个连续统得到了简洁的统计描述。因此，该方法能够隐式地同时捕获步态的结构（外观）特征和过渡（动态）特征。

本文提出了一种集成式背景减除流程。它融合了不同变化检测方法中已被验证有效的多种技术，整体上能够得到更平滑的步态检测结果，而这对步态分析而言至关重要。

- 现有基于轮廓的工作通常直接使用轮廓图像，本文则与之不同，我们对轮廓边界（即外轮廓）进行分析，并进一步将其转换为对应的一维信号。这大大降低了后续处理的计算成本。

- 本文提出了一种新的步态周期分析方法。该方法适用于分析任意图像序列的步态频率，包括从不同视角拍摄的直线行走模式，这对不同步态序列之间的时间对齐非常有帮助。

大多数以往算法和早期数据库仅包含侧向视角，与之不同，本文在包含三个视角、规模与目前常用的大多数步态数据库相当的数据库上进行了性能评估。本文提出的算法还在Phillips等人[^33]、[^36]所描述的目前已知最大数据集上进行了评估。

- 现有文献中大量研究仅在小规模数据库上得到了良好的识别结果，但没有一项工作对不同算法进行充分全面的比较。本文开展了定量对比实验，检验了所提算法与其他近年提出方法的性能。

本文提出的方法具有多个优良特性：

1. 该方法易于理解和实现，

2. 作为一种基于轮廓的方法，它对衣物的颜色和纹理不敏感。

3. 该方法采用步速、步幅、体型等额外特征来提升识别准确率，且

4. 实验结果表明它的计算成本相对较低。

本文其余部分的组织结构如下：第2节介绍相关工作，梳理本文研究的背景；第3节介绍特征提取过程，涵盖人体检测与跟踪、轮廓形状表示、基于PCA的训练与投影流程等内容；第4节讨论基于标准模式分类技术的步态识别方法；第5节给出并分析实验结果；第6节总结全文。

---

## 2 相关工作

由于人体行走是人体运动的一种形式，步态识别与人体运动分析中检测、跟踪和分析人类行为的视觉方法密切相关 [^35]。目前已有大量关于人体建模与跟踪的研究工作 [^17], [^25]。然而，视觉领域研究者直到近年才开始研究将步态作为一种新的生物特征。尽管步态识别是一个新兴研究领域，已有不少文献进行了相关尝试 [^3], [^4], [^5], [^6], [^7], [^8], [^11], [^12], [^13], [^14], [^19], [^20], [^22], [^26], [^27], [^28], [^29], [^30], [^31], [^32], [^33], [^34], [^35], [^36]。当前的步态识别方法大致可分为两大类，即基于模型的方法和基于运动的方法。

基于模型的方法 [^28], [^4], [^8], [^12], [^14], [^19], [^32] 旨在对人体或人体运动进行显式建模，这类方法通常会在行走序列的每一帧进行模型匹配，从而在模型上测量轨迹这类参数。早期的一项相关尝试 [^4] 将步态建模为铰接摆，采用动态霍夫变换提取每一帧中代表大腿的直线。之后对大腿倾角数据进行傅里叶分析，得到相位加权幅度谱作为步态特征用于识别。Johnson和Bobick [^14] 使用特定活动的静态身体参数进行步态识别，没有直接分析步态动力学。Yam等人 [^19] 最早尝试在识别中同时利用行走和跑步两种步态动作。后续他们进一步探究了行走和跑步之间的密切关联，基于调相思想将这种关联表示为一个映射 [^28]。受当前尚不完善的视觉技术限制，基于模型的方法在人体结构/运动建模以及从行走视频中恢复参数方面的效果仍然有限（例如，在二维或三维空间中准确跟踪和定位人体一直是一个长期存在挑战、尚未解决的问题）。此外，基于模型的方法计算成本相对较高。

目前大多数现有的基于运动的方法可进一步分为两大类 [^11]。第一类为状态空间法 [^11]，该类方法认为步态运动由一系列静态身体姿态构成，并通过考虑观测结果相对于这些静态姿态的时间变化来识别步态 [^6]，[^7]，[^16]，[^26]，[^27]。Murase和Sakai [^6] 利用人体形状及其随时间的变化，提出了一种基于特征空间表示的模板匹配方法，用于区分不同步态。Huang等人 [^7] 通过加入典型分析扩展了Murase和Sakai [^6] 的方法。HMMs（隐马尔可夫模型）也已成功应用于步态识别中 [^26]，[^27]。第二类为时空方法 [^11]，这类方法通常对步态运动在其连续过程中产生的时空分布进行特征刻画 [^3]，[^4]，[^5]，[^11]，[^30]，[^33]，[^35]，[^36]。针对行走人体的识别，最早的方法大概率出自Niyogi和Adelson [^3]。他们通过提取从曲线拟合“蛇形”方法得到的时空步态模式来区分不同行走者。Little和Boyd [^5] 利用行走人体光流信息中的频率和相位特征识别个体。BenAbdelkader等人 [^11]，[^35] 利用移动人员的图像自相似图进行步态识别。近年，Hayfron-Acquah等人 [^30] 提出了一种利用时空对称性的自动步态识别方法；Vega和Sarkar [^31] 通过利用特征关系分布中的非平稳性对步态进行分析；Phillips等人 [^33]，[^36] 构建了一个规模更大、挑战性更强的数据库，并给出了步态识别问题基准算法的实验结果。

已有不少研究已经证明，通过步态识别个人身份是可行的。与人脸、指纹等其他已广泛应用的生物特征相比，步态识别目前仍处于发展初期。现有大多数方法都基于一些简化假设，例如：行走者正对固定相机平行行走，背景简单且不存在遮挡。此外，由于缺乏公认的、规模合理的通用步态数据库，性能评估通常只能在相对较小的数据库上开展。因此，面向人类身份识别的视觉步态识别是一个极具吸引力的研究方向。

## 3 特征提取

在训练和识别之前，预处理阶段会将每个包含行走人体的图像序列转换为对应的距离信号时间序列。

### 3.1 人体检测与跟踪

人体检测与跟踪是步态分析的第一步。尽管与步态特征提取和识别相比，它并非本文工作的核心部分，但为了保证内容的完整性，我们仍对其进行详细介绍。为了从每帧的背景图像中提取并跟踪行走人体的运动轮廓，我们采用了基于背景减除法和轮廓相关性的变化检测跟踪算法。本文在这里的核心假设是：相机处于静止状态，且视频序列中唯一的运动物体就是行人。尽管这种集成方法在本文的数据集上基本表现良好，但需要指出的是，对于当前计算机视觉技术而言，无约束环境下的鲁棒运动检测仍是一个未解决的问题，因为它涉及诸多难点问题，例如阴影和运动杂波。

#### 3.1.1 背景建模

背景减除法被广泛应用于前景检测场景中，这类场景通常使用固定相机观测动态场景。如何从视频序列中可靠地生成背景图像是该方法的关键。本文采用LMedS（Least Median of Squares，最小二乘中位数）方法[^9]，即使仅使用包含运动目标的一小部分图像序列也能构建出背景。设I表示包含N张图像的序列，最终得到的背景$b_{xy}$可通过[^9]计算得到：

 $$ b_{x y}=\operatorname*{m i n}_{p}m e d_{t}(I_{x y}^{t}-p)^{2}, $$

其中p是像素位置$(x,y)$处待确定的背景亮度值，med代表中值，t表示帧索引，其范围为

---

![Image](images/db103e0cabc0dd4736592ba8d242e3ca8de9c5fb36a5519ff91c9840d1b9c0ff.jpg)

![Image](images/79bc03b9d2b7f0ec965d8fc430d7b4082f278f6794d461a2d00d0746ab840e4b.jpg)

<div style="text-align: center;">(a)</div>

![Image](images/0c5b50a3b01ac81d105ef87901dd704304d296ad71021adecf1e5c305e857783.jpg)

<div style="text-align: center;">(b)</div>

<div style="text-align: center;">(c)</div>

![Image](images/6be6b478825ad1e1b4c2cfc13870a3a897eafa72f6efbf4ff6807b89bbbff622.jpg)

<div style="text-align: center;">(d)</div>

<div style="text-align: center;">(e)</div>

<div style="text-align: center;">(f)</div>

<div style="text-align: center;">(h)</div>

<div style="text-align: center;">(g)</div>

<div style="text-align: center;">(i)</div>

<div style="text-align: center;">(i)</div>

<div style="text-align: center;">(k)</div>

<div style="text-align: center;">Fig. 2. Examples of moving silhouette extraction and tracking: (a) the background image constructed by the LMedS method, (b) an original image, (c) the extracted silhouette from (b), and (d)-(k) temporal changes of moving silhouettes in a gait pattern (frame 17 to frame 24).</div>

1~N之间。我们发现，对于本文的数据集，N大于60就足够生成可靠的背景。

#### 3.1.2 差分

亮度变化通常通过背景图像与当前图像之间的差分得到。然而，选择合适的二值化阈值非常困难，尤其是在低对比度图像中：由于亮度变化太小，无法将运动目标区域与噪声区分开，因此大部分运动目标可能会被漏检[^10]。为了解决这个问题，我们使用如下提取函数间接执行差分操作[^10]：

 $$ f(a,b)=1-\frac{2\sqrt{(a+1)(b+1)}}{(a+1)+(b+1)}\cdot\frac{2\sqrt{(256-a)(256-b)}}{(256-a)+(256-b)}, $$

其中$a(x,y)$和$b(x,y)$分别是像素位置$(x,y)$处当前图像和背景的亮度，$0 \leq a(x,y), b(x,y) \leq 255$，$0 \leq f(a,b) < 1$。该函数可以根据背景图像中每个像素的亮度水平调整差值的变化检测灵敏度[^10]。

对于每张图像$I_{xy}$，可以很容易得到上述提取函数$f(a(x,y),b(x,y))$在x和y方向上的分布。随后，将该分布与传统直方图方法确定的阈值进行比较，即可提取出运动像素。

#### 3.1.3 后处理与跟踪

需要注意的是，上述过程针对图像的R、G、B三个分量分别独立执行。对于给定像素，如果三个分量中有任意一个判定它为变化点，该像素就会被标记为前景。由此得到感兴趣区域掩码，用于后续处理。

没有任何变化检测算法是完美的。因此，必须尽可能从分割得到的前景中去除尽可能多的噪声和畸变。首先利用腐蚀、膨胀等形态学算子进一步滤除伪像素，随后填充提取得到的轮廓内部的小孔，最后通过二值连通分量分析提取出面积最大、结构高度紧凑的单个连通区域。

为了消除分割误差带来的不准确性，我们接下来利用一种简单的对应匹配方法逐帧跟踪每个前景区域，该方法基于任意两个连续帧中各前景区域包围框的重叠度 [^23]。也就是说，我们在当前轮廓与前一帧轮廓之间，针对小范围位移集合做二值边缘相关计算 [^23]。运动分割与跟踪过程的示例如图2所示，从中可以看出，人体检测与跟踪流程在我们的数据集上整体表现良好。尽管存在一小部分轮廓畸变，例如部分身体部位缺失（如图2d、2j和2k中手臂不可见）以及两条略微分开的腿交叠（如图2f中所示），但这完全不会影响后续的特征提取过程。

### 3.2 轮廓表示

判断行走者内在运动的一个重要线索是行走者轮廓随时间的变化。为了让所提方法对衣物颜色和纹理的变化不敏感，我们仅使用二值轮廓。此外，为了提升计算效率，我们将这些二维轮廓变化转换为对应的一维信号序列，以此近似步态的时间模式，该过程如图3所示。

在得到行走者运动轮廓的跟踪结果后，可以通过边界跟踪算法轻松提取其外轮廓。随后计算得到该形状的质心 $(x_c, y_c)$。我们将质心作为参考原点，逆时针展开外轮廓，将其转换为距离信号 $S = \{d_1, d_2, \ldots, d_i, \ldots, d_{Nb}\}$，该信号由每个边界像素 $d_i$ 到质心的所有距离 $(x_i, y_i)$ 构成

---

![Image](images/58f4b3e22286d9af50ade4d025b12512113b2b60efaacc5d7988d618e7de117a.jpg)

<div style="text-align: center;">(a)</div>

![Image](images/52bc5c26dd8e26859dacc57126a718748824016df4144594bf7fd9c890b933e6.jpg)

<div style="text-align: center;">(b)</div>

<div style="text-align: center;">Fig. 3. Silhouette representation: (a) illustration of boundary extraction and counterclockwise unwrapping and (b) the normalized distance signal consisting of all distances between the centroid and the pixels on the boundary.</div>

 $$ d_{i}=\sqrt{(x_{i}-x_{c})^{2}+(y_{i}-y_{c})^{2}}. $$

该信号在一维空间中间接表示了原始的二维轮廓形状。

为了消除空间尺度和信号长度的影响，我们对这些距离信号在幅度和长度两个维度进行归一化处理。首先，我们通过 $L_{1}$ 范数对信号幅度进行归一化。随后，采用等间隔重采样将信号长度归一化为固定长度（本文实验中设置为360）。此外，在形状表示阶段，我们根据步态运动的对称性对同一视角采集序列的行走方向进行规整（例如，所有侧视序列统一为从左向右行走）。通过将这样的轮廓图像序列转换为对应的一维信号模式序列，我们无需再处理那些可能含噪的轮廓数据。

### 3.3 训练与投影

#### 3.3.1 PCA训练

PCA训练的目的是获得若干主分量，将原始步态特征从高维测量空间重新表示到低维本征空间。与 [^7] 类似的训练过程说明如下：

给定s个训练类别，每个类别对应一名受试者步态的距离信号序列。训练时可自由添加每个人的多个序列。设$D_{i,j}$为第i类中的第j个距离信号，$N_i$为第i类中此类距离信号的数量。训练样本总数为$N_t = N_1 + N_2 + \ldots + N_s$，整个训练集可表示为$[D_{1,1}, D_{1,2}, \ldots, D_{1,N_1}, D_{2,1}, \ldots, D_{s,N_s}]$。我们可以很容易地通过以下方式得到该数据集的均值$m_d$和全局协方差矩阵$\Sigma$：

 $$ m_{d}=\frac{1}{N_{t}}\sum_{i=1}^{s}\sum_{j=1}^{N_{i}}D_{i,j}, $$

 $$ \sum=\frac{1}{N_{t}}\sum_{i=1}^{s}\sum_{j=1}^{N_{i}}(D_{i,j}-m_{d})(D_{i,j}-m_{d})^{T}. $$

若矩阵$\Sigma$的秩为N，则我们可以基于SVD（奇异值分解）计算得到N个非零特征值$\lambda_1, \lambda_2, \ldots, \lambda_N$以及对应的特征向量$e_1, e_2, \ldots, e_N$。

一般来说，前几个特征向量对应训练模式中幅度较大的变化，因此为了提升实际应用中的存储效率，我们可以通过阈值$T_{s}$舍去那些较小的特征值及其对应的特征向量。

 $$ W_{k}=\sum_{i=1}^{k}\lambda_{i}\Big/\sum_{i=1}^{N}\lambda_{i}>T_{s}, $$

其中$W_{k}$是前k个最大特征值相对于所有特征值的累积方差。在我们的实验中，为了获得稳定的结果，将$T_{s}$取值为0.95。

#### 3.3.2 投影

仅选取$k<N$个最大的特征值及其对应的特征向量，即可构建变换矩阵$E=[e_{1},e_{2},\ldots,e_{k}]$，将原始距离信号$D_{i,j}$投影到k维特征空间中的一个点$P_{i,j}$。

 $$ P_{i,j}=\left[e_{1}\ e_{2}\ \cdots\ e_{k}\right]^{T}D_{i,j}. $$

据此，连续的步态运动可以被映射为该参数特征空间中的一条流形轨迹。

众所周知，k通常远小于原始数据维度N。也就是说，特征空间分析可以大幅降低输入样本的维度。对于每个训练序列，对序列中每一帧对应的所有单个投影取平均值，即可得到该训练序列在特征空间中的投影质心$C_{i}$。

 $$ C_{i}=\frac{1}{N_{i}}\sum_{j=1}^{N_{i}}P_{i,j}. $$

## 4 识别

步态识别是一个传统的模式分类问题，可以通过度量相似度

---

![Image](images/7b0e55e79637d1deb17921bd0f61796aee4e9043f7846217f7047027cd22ef72.jpg)

![Image](images/9230a0197dc0ea7021e726a035c7282c5492b6277945b4dbae383500cf5ec444.jpg)

![Image](images/6503ea569f50b3c73f958e5624e99a4b054c0616b25336cd549c4ad42a03000d.jpg)

<div style="text-align: center;">(a)</div>

![Image](images/d00aabf4ffa96f33eeba734e9d2a254c200e9853c4640d667b242a72fa773818.jpg)

![Image](images/762113f78e02581c54f1040c942231d0874596a243879f4ac79807831859e2f1.jpg)

<div style="text-align: center;">(1) Lateral View</div>

<div style="text-align: center;">(2) Oblique View</div>

![Image](images/187adc28f0f1977032569d2c0ab2d2f7124e944a36141e0d3bc4603ff88d4fe6.jpg)

<div style="text-align: center;">(3) Frontal View</div>

<div style="text-align: center;">Fig. 4. Gait period analysis: (a) input sequences, (b) aspect ratio signals (i.e., width/height in Fig. 10a) of moving silhouettes, (c) signals after removing the background, (d) autocorrelation signals, (e) first-order derivative signals of autocorrelations, and (f) the positions of peaks.</div>

来求解参数特征空间中参考模式与测试样本之间的相似度。

### 4.1 相似度度量

#### 4.1.1 时空相关性

步态是一种时空运动模式，因此我们采用STC（Spatial-Temporal Correlation，时空相关性，是将二维图像相关扩展到时空领域三维相关得到的方法 [^6]）来更好地捕捉其空间结构特征和时间过渡特征。

对于两个输入序列，我们首先可以按照第3节所述流程在预处理阶段将它们转换为距离信号序列$I_{1}(t)$和$I_{2}(t)$。随后，利用式(7)将它们分别投影到特征空间中的轨迹$P_{1}(t)$和$P_{2}(t)$。两个此类输入向量序列之间的相似度度量可以通过[^6]计算得到。

 $$ d^{2}=\min_{a b}\sum_{t=1}^{T}||P_{1}(t)-P_{2}^{\prime}(a t+b)||^{2}, $$

其中$P_{2}^{\prime}(at+b)$是来自$P_{2}(t)$的动态时间规整向量，用于对两个序列之间的时间对齐做近似处理。参数a和b的选择分别取决于相对步频和一个步幅（两步）内的相位差。设$f_{1}$和$f_{2}$表示两个步态序列的频率，则$a = f_{2}/f_{1}$。通过从第二个序列向量中反复裁剪出长度为$f_{2}$的子序列，并用参数a对其进行拉伸，我们可以得到它与$P_{1}(t)$的相关性。所有相关结果中所有显著谷值的平均最小值决定了两个序列的相似度。

步态周期分析已在以往研究[^20]、[^22]中得到探索，其作用是确定每个观测序列的频率和相位，以便在匹配前完成序列对齐。需要说明的是，一步是对侧脚连续两次足跟落地之间的运动，一个完整的步态周期由两步构成。在[^20]中，研究者利用从图像序列提取的运动轮廓边界框的宽度时间信号分析步态周期。在[^22]中，研究者会选择使用宽度时间信号或高度时间信号，因为正面视角下轮廓宽度的信息量较低，而轮廓高度作为时间函数在周期性分析中发挥类似作用[^22]。与上述方法不同，本文我们选择运动轮廓边界框的宽高比作为时间函数，使其能够同时有效适配侧视角和正视角两种情况。

每个步态序列的周期分析过程与[^20]中的方法类似，如图4所示。对于输入序列（图4a），当行人被跟踪一定帧数后，就可以估计得到其时空间步态参数，例如运动轮廓的宽高比信号（图4b）。我们可以通过减去均值并除以标准差去除背景分量，再用对称平均滤波器对信号进行平滑处理（图4c）。进一步，我们计算信号的自相关来寻找峰值（图4d）。最后，计算信号的一阶导数（图4e），通过寻找由正转负的过零点确定峰值位置（图4f）。由于人类步态具有双侧对称性，自相关结果有时会在每对主峰值之间的中点位置出现较小次峰[^20]。因此，我们将真实周期估计为每对连续主峰值之间的平均距离。结合本文的背景减除结果，该过程已被证明在计算上是可行的。

---

![Image](images/94dfacc227805b8e0c8e1a66e954b7f24460e958b5dd084c481b31e3b82e5e93.jpg)

<div style="text-align: center;">(a)</div>

![Image](images/2e409c75a92cdf6ae539b147f5561443b5456cc9fb196937b903ce4ec845bc67.jpg)

<div style="text-align: center;">(b)</div>

![Image](images/7e6356346c62ee5d99a95d26209c7dcaf1f35c4d290ef364605a2d207d388844.jpg)

<div style="text-align: center;">(c)</div>

<div style="text-align: center;">Fiq. 5. Some sample images in the NLPR gait database: (a) lateral view, (b) oblique view, and (c) frontal view.</div>

#### 4.1.2 归一化欧氏距离

需要注意的是，如果在时空域进行比较，计算成本会快速上升，尤其是在考虑时间拉伸和偏移的情况下[^6]。因此本文我们采用两个步态序列投影质心之间的NED（归一化欧氏距离）作为相似度度量，消除这类匹配问题。

假设任意两个序列在特征空间中的轨迹分别为$P_1(t)$和$P_2(t)$，我们可以通过式(8)轻松得到它们对应的投影质心$C_1$和$C_2$。每个投影质心隐式表示特征空间中特定受试者的主要结构形状。两个投影质心之间的归一化欧氏距离可以定义为

 $$ \begin{align*}d^2=\left\|{C_1\over\|C_1\|}-{C_2\over\|C_2\|}\right\|^2.\end{align*} $$

此外，对于同一目标的多个序列，我们还可以对各个单序列的投影质心进一步平均，得到该目标的范例投影质心，作为该类的参考模板。该范例质心也会在我们的实验中用于步态分类。

### 4.2 分类器

分类过程通过两种简单的不同分类方法实现，分别是最近邻分类器（NN）和基于类范例的最近邻分类器（ENN），其中ENN由给定目标所有训练序列的平均投影质心得到。

设T表示一个测试序列，$R_{i}$表示第i个参考序列。我们将该测试序列分类到能最小化测试序列与所有参考模式之间相似距离的类别c，分类规则如下：

 $$ c=\underset{i}{\arg\min}d_{i}(T,R_{i}), $$

其中d是4.1节中描述的相似性度量。需要注意的是，若使用ENN，d只能选择NED。毫无疑问，我们可以使用更复杂的分类器，但本文的核心目的是评估我们方法中提取特征的真实分辨能力。

我们开展了大量实验来验证所提算法的有效性，下文将介绍实验的详细信息。

## 5 实验

### 5.1 数据采集

我们为实验建立了一个新的步态数据库，名为NLPR数据库。实验在户外环境中开展，使用固定在三脚架上的数码相机（Panasonic NV-DX100EN）在两个不同日期拍摄步态序列。所有目标以自然步幅沿直线路径行走，相对于成像平面共有三种不同拍摄视角，即侧视（0°）、斜视（45°）和正视（90°）。构建完成的NLPR数据库包含20名目标，每名目标在每个视角下有4个序列。例如，当目标侧向相机行走时，四个序列中有两个的行走方向为从左到右，剩余两个为从右到左。因此该数据库总共包含240个步态序列（20 × 4 × 3）。序列图像为24位全彩色，捕获帧率为25帧/秒，原始分辨率为 352 × 240。每个图像序列的长度随行走者步速变化，平均约为90帧。据我们所知，该数据库是目前公共领域可获取的规模适中的现有步态数据库之一（现有主要步态数据库的总结参见表3）。图5展示了部分样本图像，其中带箭头的白线表示行走路径。

### 5.2 预处理与训练

对于每个图像序列，我们按照3.1节所述方法进行运动分割与跟踪，从背景图像中提取出行走目标。提取得到的二维轮廓会按照3.2节所述，在训练和投影之前转换为对应的一维距离信号序列。

我们从所有类别中选取一小部分此类距离信号序列用于训练。基于PCA的训练过程按照3.3节所述方法完成，我们保留前15个特征值及其对应的特征向量来构建特征空间变换矩阵。图6给出了每个视角下的前三个特征曲线。从图6中可以看出，这些特征曲线要么是奇对称，要么是偶对称，这表明步态具有对称特性。

得到本征空间后，从每张轮廓图像提取得到的每个距离信号都可以用这15个主特征向量的线性组合表示。也就是说，每个距离信号都可以映射为15维本征空间中的一个点。每个步态序列也会相应地投影为本征空间中的一条流形轨迹。三组已训练的

---

![Image](images/1708a42c102d82272f5e337f21068010829819fc85d06ba30f8417155e3eb6ed.jpg)

<div style="text-align: center;">(a)</div>

<div style="text-align: center;">(b)</div>

<div style="text-align: center;">Fig. 6. The first three eigenvectors for each viewing angle obtained by PCA training: (a) lateral view, (b) oblique view, and (c) fontal view.</div>

序列分别对应侧视图、斜视图和前视图，它们的投影轨迹如图7所示，图中仅使用三维本征空间进行可视化展示。

### 5.3 结果与分析

#### 5.3.1 识别模式

FERET协议为人脸识别算法的评估引入了一种实用的分类性能评价指标[^24]。它被定义为测试样本的真实类别出现在其前k个匹配结果中的累积概率$p_{(k)}$[^24]。性能统计结果以累积匹配分数的形式呈现，排名k绘制在横轴，纵轴为正确匹配的百分比[^24]。

本文采用NLPR数据库的留一交叉验证法评估所提方法的性能：每次留出一个图像序列作为测试样本，其余样本用于训练。计算得到测试样本与训练数据的相似度差异后，使用NN或ENN进行分类。图8展示了排名不超过20时的累积匹配分数，其中图8a采用STC相似度度量，图8b采用NED相似度度量，分别对应投影质心（实线）和示例投影质心（虚线）。需要注意的是，正确分类率等同于$p_{(1)}$（即Rank=1）。也就是说，对于侧视、斜视角和前视视角：NN结合STC的正确分类率分别为65%、63.75%和77.5%；NN结合NED的正确分类率分别为65%、66.25%和85%；ENN结合NED的正确分类率分别为75%、81.25%和93.75%。

### 从图8中，我们可以得到以下结论

总体而言，使用NED的识别性能通常优于使用STC的性能。从理论上来说，STC比NED更能捕捉步态运动的时空特征，因此理应获得更高的识别准确率。得到这样的实验结果，可能是因为：在不同步态序列的行走过程中，噪声或衣物抖动会导致各帧产生分割误差，这些误差在直接逐帧匹配进行时空关联的过程中，会在一定程度上不断累积，使匹配误差快速增大。而对整个时间序列做平均投影，可以非常有效地克服单帧噪声的影响。我们推测，采用更鲁棒的轮廓提取方法可以提升STC的识别得分。

基于示例投影质心的NED性能优于仅使用单一投影质心的NED。对于每个受试者，尽管其不同时间的步态大致相同，但彼此之间仍存在微小差异。与仅采用单个随机样本序列相比，对多个样本序列取平均可以为该受试者提供更标准的步态模式。

正面行走（90°）下的识别性能最佳。这一特点大概率不符合大多数算法的常见表现。本文提出的方法本质上隐式捕获了更多人体生物特征的结构外观信息。因此，该结果很可能源于相关的平均化

![Image](images/b019aef5f9dda0bbef4574391b52c710b2c17e65c03e05352cfeea566a74f619.jpg)

<div style="text-align: center;">(a)</div>

![Image](images/c0a23c43fa09094e872931ce689c8190d5da23f3d79fc321e98b0ea4f8c9d596.jpg)

<div style="text-align: center;">(b)</div>

![Image](images/36f79de6b192a5c43834b58ce5c4940df519b409cca9a69083112dd55deaba64.jpg)

<div style="text-align: center;">(c)</div>

<div style="text-align: center;">Fig. 7. The projection trajectories of three training gait sequences (only the three-dimensional eigenspace is used here for clarity): (a) lateral view, (b) oblique view, and (c) frontal view.</div>

---

![Image](images/98a233c5ac4f9075bbe54cbd380f1f7aff57f5950aa0fcc3444d2a7339f197fa.jpg)

<div style="text-align: center;">(a)</div>

![Image](images/6a1fd263425ce68114cbb7462bbdf666265cec3d495e1462ea3a9c63109bad04.jpg)

<div style="text-align: center;">(b)</div>

<div style="text-align: center;">Fig. 8. Identification performance based on the cumulative match scores: (a) classifier based on STC and (b) classifiers based on NED with respect to single projection centroid (solid line) and exemplar projection centroid (dotted line), respectively.</div>

轮廓形状分析带来的平均化过程，因为与其他视角相比，这类步态模式下的轮廓外观变化幅度更小。

#### 5.3.2 验证模式

为保证内容完整性，我们还在验证模式下通过留一法计算了FAR（错误接受率）和FRR（错误拒绝率）。具体流程为：每次留出一个样本，使用剩余样本训练分类器，再对留出的样本在全部20个类别中进行验证。需要注意的是，在针对每个视角的80次迭代中，每次都包含1次真实匹配尝试和19次冒名尝试，因为已知留出样本属于20个类别中的某一个。图9展示了结合范例投影质心、采用NED相似度度量得到的ROC（受试者工作特征）曲线，从图中可以看出，0°、45°和90°视角的EER（等错误率）分别约为20%、13%和9%。此处，正面视角的验证性能同样优于其他视角。

#### 5.3.3 基于物理特征的验证

实验中我们发现，当相似度函数的两个最小值非常接近时，经常会出现识别错误。也就是说，分类器会将一个

![Image](images/ccc61d1cf0423081c051ca69a7c4f821192cd81ad2783be270e68adb6d304b93.jpg)

<div style="text-align: center;">Fig. 9. ROC curves of gait classifier based on NED with respect to three viewing angles.</div>

测试样本识别为相似度值最小的类别，但真实类别应该是相似度值第二小的类别。因此，当两个最小相似度值的绝对差低于预定义阈值时，我们会利用训练序列中可得的一些额外特征来验证最终决策。这些额外特征可以是步速、身高、体型和步长，其中部分特征已在以往算法中被单独用于身份识别 [^8], [^14], [^20]。由于我们在建立NLPR数据库时未进行相机校准，因此无法像 [^20] 那样提取世界坐标系下的真实参数。为了避免不同视角下的透视缩短效应影响，本文仅采用侧视角的图像序列作为测试样例，检验该验证方法的有效性。侧视角图像中的行走人物深度大致相同，且已有研究认为，从该单视角恢复出的静态身体参数具有较高的区分度 [^8]。

额外特征的提取如图10所示。对于每一帧，我们在跟踪得到的轮廓周围放置一个边界框，由此可以轻松得到质心、宽度、高度等若干参数。为提取其他身体点，根据解剖学研究，身高为H的人体其胸部和脚踝的竖直位置 [^21] 分别为 $0.720H$ 和 $0.039H$。此外，我们可以通过计算两个边界点的水平坐标得到胸宽以及左右脚之间的距离（注意，对于脚踝，我们选择水平轴方向上最靠左和最靠右的点）。当人物被跟踪一定数量的帧后，就可以得到这些步态参数的时空轨迹。我们选取以下额外特征来描述步速、步幅和体型相关特征。第一个参数是步态周期T，获取方式如4.1节所述。根据NLPR数据库，我们发现步态周期通常在26至37帧之间。第二个参数是步幅SL，仅在步态周期双支撑阶段双脚间距最大的位置进行测量。最后两个参数，

---

![Image](images/2654182554f4f4bc84e91efbdb41bc87fad0d29d08c54b79528728c0f6efb12c.jpg)

<div style="text-align: center;">(a)</div>

![Image](images/cee44f9cae1ca79cb7d623e7f20d6157c03980896d8fb8eb0be96f546eb8a8a8.jpg)

<div style="text-align: center;">(b)</div>

<div style="text-align: center;">Fig. 10. Extraction of additional features: (a) illustration of human silhouette and (b) a distribution of physical features in 3D space (note that SL and H are measured by pixel distance).</div>

<div style="text-align: center;">TABLE 1</div>

<div style="text-align: center;">The Effectiveness of Validation Based on Physical Features (the NLPR Database (0°))</div>

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Similarity Measure</td><td style='text-align: center; word-wrap: break-word;'>Classifier</td><td style='text-align: center; word-wrap: break-word;'>CCR (No validation)</td><td style='text-align: center; word-wrap: break-word;'>CCR (With validation)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>STC</td><td style='text-align: center; word-wrap: break-word;'>NN</td><td style='text-align: center; word-wrap: break-word;'>65.00%</td><td style='text-align: center; word-wrap: break-word;'>68.75%</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>NED</td><td style='text-align: center; word-wrap: break-word;'>NN</td><td style='text-align: center; word-wrap: break-word;'>65.00%</td><td style='text-align: center; word-wrap: break-word;'>70.00%</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>NED</td><td style='text-align: center; word-wrap: break-word;'>ENN</td><td style='text-align: center; word-wrap: break-word;'>75.00%</td><td style='text-align: center; word-wrap: break-word;'>82.50%</td></tr></table>

即身高H以及胸宽与身高的比值R，用于反映体型信息（高矮和胖瘦）。我们通过对两个时刻的测量结果取平均得到这些参数，两个时刻分别是双脚间距最小的时刻（此时受试者的身高达到最大值）和双脚间距最大的时刻（此时受试者的步幅达到最大值）。最终这些参数被拼接为每个序列对应的四维向量 $\langle T, SL, H, R \rangle$。为清晰起见，图10b展示了这些物理特征在三维空间中的分布，图中相同标记代表同一受试者不同序列的结果。从图10b可以看出，这些物理特征的有效组合将为步态分类带来可观的判别能力。

上述验证过程对CCR（正确分类率，Correct Classification Rate）的影响如表1所示，从中可以看出，加入上述额外特征后，识别性能确实得到了提升。如果我们能按照 [^14] 所述构建一个深度转换因子（它是受试者与相机距离的函数），或者利用相机校准将图像中测量得到的距离从像素单位转换为世界单位，我们就可以扩展验证步骤，解决其他视角下的透视缩短效应问题。虽然目前的结果十分令人振奋，但要得到更具确定性的结论，仍需在更大规模的数据库上开展进一步实验。

### 5.4 对比研究

步态识别算法发展过程中，一个明显的局限在于缺少公共数据库（例如人脸识别领域的FERET数据库）和统一的评估方法。令人欣喜的是，Phillips等人 [^33] 正尝试解决这一问题：他们搭建了标准数据集，用于衡量和确定哪些因素会影响算法性能。期待他们后续扩展工作，建立更具挑战性的数据库，并为新算法的开发和评估提出更标准的基线方法。我们知道，现有文献中大量论文都在有限规模的数据库上得到了不错的识别结果，但没有一项工作在不同算法之间开展充分可靠的比较。为检验本文所提算法的性能，我们设计了两组对比实验，具体如下。

#### 5.4.1 比较1

本文首先将提出算法的性能与[^11]中介绍的一种密切相关方法进行对比。该方法名为Eigengait，以PCA为基础，与本文方法的主要区别在于它将图像自相似图作为原始测量值。该算法在Little和Boyd的数据集上进行了评估[^5]，使用k近邻分类器，在k=1、3、5时分别取得了80%、82.5%和90%的识别率。我们在NLPR数据库的侧视视角下重新实现了该方法，得到的最高识别率为72.5%（见表2），略低于本文方法即使不经过验证也能达到的75.00%。由于我们无法获取[^5]中使用的数据集，因此未能在该数据集上测试本文提出的算法。

我们还将本文提出算法的性能与[^22]、[^34]和[^36]中分别介绍的几种近期提出的基于轮廓的方法进行了对比。在一定程度上，它们代表了这些研究团队在步态识别领域最新、最顶尖的研究成果。基于体型

---

<div style="text-align: center;">Comparison of Several Recent Algorithms on the NLPR Database (0 $^{\circ}$)</div>

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Methods</td><td style='text-align: center; word-wrap: break-word;'>Top 1 (%)</td><td style='text-align: center; word-wrap: break-word;'>Top 5 (%)</td><td style='text-align: center; word-wrap: break-word;'>Top 10 (%)</td><td style='text-align: center; word-wrap: break-word;'>Computational cost (min/seq)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>BenAbdelkader 2001 $^{[11]}$</td><td style='text-align: center; word-wrap: break-word;'>72.50</td><td style='text-align: center; word-wrap: break-word;'>88.75</td><td style='text-align: center; word-wrap: break-word;'>96.25</td><td style='text-align: center; word-wrap: break-word;'>Medium (8.446)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Collins 2002 $^{[22]}$</td><td style='text-align: center; word-wrap: break-word;'>71.25</td><td style='text-align: center; word-wrap: break-word;'>78.75</td><td style='text-align: center; word-wrap: break-word;'>87.50</td><td style='text-align: center; word-wrap: break-word;'>High (17.807)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Lee 2002 $^{[34]}$</td><td style='text-align: center; word-wrap: break-word;'>87.50</td><td style='text-align: center; word-wrap: break-word;'>98.75</td><td style='text-align: center; word-wrap: break-word;'>100</td><td style='text-align: center; word-wrap: break-word;'>Low (2.365)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Phillips 2002 $^{[36]}$</td><td style='text-align: center; word-wrap: break-word;'>78.75</td><td style='text-align: center; word-wrap: break-word;'>91.25</td><td style='text-align: center; word-wrap: break-word;'>98.75</td><td style='text-align: center; word-wrap: break-word;'>Highest (200)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Our method (No/with validation)</td><td style='text-align: center; word-wrap: break-word;'>75.00/82.50</td><td style='text-align: center; word-wrap: break-word;'>97.50/100</td><td style='text-align: center; word-wrap: break-word;'>100/100</td><td style='text-align: center; word-wrap: break-word;'>Lowest (2.054)</td></tr></table>

和步态，Collins等人[^22]提出了一种基于关键帧身体轮廓模板匹配的人体识别方法。Lee等人[^34]描述了一种基于矩的步态外观表示方法，用于个人身份识别。Phillips等人[^36]提出了一种利用轮廓图像时空相关性进行人体识别的基线算法。我们在NLPR数据库侧视角下使用相同的轮廓数据重新实现了这些方法。基于rank为1、5、10的FERET协议，所有算法的最优结果汇总在表2中，从中可以看出本文方法的表现优于多数对比方法，且性能优于Phillips等人[^36]和Collins等人[^22]的方法。我们还发现，[^22]和[^36]的计算成本远高于[^11]、[^34]以及本文方法。此处列出的计算成本是在配备256Mb DRAM、主频733Mhz的PIII处理器上使用Matlab 6.1运行得到的每个测试序列的平均耗时近似值（注：该过程仅包含特征提取和匹配，不包括步态分割和训练阶段）。

本文给出的结果仅提供了初步的性能比较，不能由此推广得出某一种算法始终优于其他算法的结论。在不同测试条件下，每种方法都可能有其独特的优缺点，因此还需要在更贴近实际、更具挑战性的数据库上开展进一步的评估与比较。

有观点可能会认为，在不同数据库上比较识别率的价值不大，并认为

#### 5.4.2 比较2

真实步态识别中对各类影响因素的评估本身就存在相当大的难度。也就是说，真正的问题在于研究结果能否推广到更多真实场景下的更大规模数据集[^33], [^36]。因此，测试本文提出的方法在不同潜在影响性能的因素下的鲁棒性会更有意义。

文献中所使用的一些典型数据库的概述列于表3。下文我们将针对Phillips等人所描述的“步态挑战”数据集，探究所提取的步态特征在不同变化下的有效性 [^33], [^36]，该数据库是迄今为止，在人数、视频序列数量以及步态采集条件多样性方面规模最大的可用数据库。部分样本如图11所示。目前，这个可用于步态分析的数据集包含来自74名受试者的452个序列，所有受试者沿椭圆路径行走，涵盖两种路面类型（水泥地和草地）、两个相机视角（左侧和右侧）以及两种鞋子类型（A和B）。因此，每名受试者对应八种不同的可能条件（参见表4） [^33], [^36]。

为保证比较公平，需要明确以下几点：

- 考虑到处理时间和存储空间（约300 GB）的限制，我们直接使用了来自南佛罗里达大学的相同轮廓数据。这些数据存在噪声，例如存在肢体缺失、目标内部存在小孔、脚部周围存在严重阴影等问题。因此，我们对数据进行预处理，提取出一个单连通区域，其

<div style="text-align: center;">TABLE 3</div>

<div style="text-align: center;">Overview of Some Typical Databases Used in the Literature</div>

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Database</td><td style='text-align: center; word-wrap: break-word;'>UCSD</td><td style='text-align: center; word-wrap: break-word;'>NLPR</td><td style='text-align: center; word-wrap: break-word;'>US (1)</td><td style='text-align: center; word-wrap: break-word;'>CMU</td><td style='text-align: center; word-wrap: break-word;'>MIT</td><td style='text-align: center; word-wrap: break-word;'>UMD (1)</td><td style='text-align: center; word-wrap: break-word;'>UMD (2)</td><td style='text-align: center; word-wrap: break-word;'>GVU</td><td style='text-align: center; word-wrap: break-word;'>USF</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Environment</td><td style='text-align: center; word-wrap: break-word;'>O</td><td style='text-align: center; word-wrap: break-word;'>O</td><td style='text-align: center; word-wrap: break-word;'>I</td><td style='text-align: center; word-wrap: break-word;'>I</td><td style='text-align: center; word-wrap: break-word;'>I</td><td style='text-align: center; word-wrap: break-word;'>O</td><td style='text-align: center; word-wrap: break-word;'>O</td><td style='text-align: center; word-wrap: break-word;'>I or O</td><td style='text-align: center; word-wrap: break-word;'>O</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Walk surface</td><td style='text-align: center; word-wrap: break-word;'>G1</td><td style='text-align: center; word-wrap: break-word;'>G1</td><td style='text-align: center; word-wrap: break-word;'>F</td><td style='text-align: center; word-wrap: break-word;'>T</td><td style='text-align: center; word-wrap: break-word;'>F</td><td style='text-align: center; word-wrap: break-word;'>G1</td><td style='text-align: center; word-wrap: break-word;'>G1</td><td style='text-align: center; word-wrap: break-word;'>G1 or F</td><td style='text-align: center; word-wrap: break-word;'>G2 or C</td></tr><tr><td style='text-align: center; word-wrap: break-word;'># Subjects</td><td style='text-align: center; word-wrap: break-word;'>6</td><td style='text-align: center; word-wrap: break-word;'>20</td><td style='text-align: center; word-wrap: break-word;'>12</td><td style='text-align: center; word-wrap: break-word;'>25</td><td style='text-align: center; word-wrap: break-word;'>24</td><td style='text-align: center; word-wrap: break-word;'>25</td><td style='text-align: center; word-wrap: break-word;'>55</td><td style='text-align: center; word-wrap: break-word;'>20</td><td style='text-align: center; word-wrap: break-word;'>74</td></tr><tr><td style='text-align: center; word-wrap: break-word;'># Sequences</td><td style='text-align: center; word-wrap: break-word;'>40</td><td style='text-align: center; word-wrap: break-word;'>240</td><td style='text-align: center; word-wrap: break-word;'>48</td><td style='text-align: center; word-wrap: break-word;'>-</td><td style='text-align: center; word-wrap: break-word;'>194</td><td style='text-align: center; word-wrap: break-word;'>100</td><td style='text-align: center; word-wrap: break-word;'>-</td><td style='text-align: center; word-wrap: break-word;'>-</td><td style='text-align: center; word-wrap: break-word;'>452</td></tr><tr><td style='text-align: center; word-wrap: break-word;'># Views</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>3</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>6</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>2</td><td style='text-align: center; word-wrap: break-word;'>2</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>2</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Synchronized</td><td style='text-align: center; word-wrap: break-word;'>N/A</td><td style='text-align: center; word-wrap: break-word;'>N/A</td><td style='text-align: center; word-wrap: break-word;'>N/A</td><td style='text-align: center; word-wrap: break-word;'>Y</td><td style='text-align: center; word-wrap: break-word;'>N/A</td><td style='text-align: center; word-wrap: break-word;'>N/A</td><td style='text-align: center; word-wrap: break-word;'>N</td><td style='text-align: center; word-wrap: break-word;'>N/A</td><td style='text-align: center; word-wrap: break-word;'>N</td></tr><tr><td style='text-align: center; word-wrap: break-word;'># Walk styles</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>4</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>1</td><td style='text-align: center; word-wrap: break-word;'>1</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>Frame rate</td><td style='text-align: center; word-wrap: break-word;'>30</td><td style='text-align: center; word-wrap: break-word;'>25</td><td style='text-align: center; word-wrap: break-word;'>25</td><td style='text-align: center; word-wrap: break-word;'>30</td><td style='text-align: center; word-wrap: break-word;'>15</td><td style='text-align: center; word-wrap: break-word;'>20</td><td style='text-align: center; word-wrap: break-word;'>20</td><td style='text-align: center; word-wrap: break-word;'>25</td><td style='text-align: center; word-wrap: break-word;'>30</td></tr></table>

注：O-室外，I-室内，G1-硬地面，G2-草地，F-地板，T-跑步机，C-水泥地

---

![Image](images/5580bd578d8ff10339bf35c274d3f50cb234fe6d3e5f9cc27e0ab1f34ac495dd.jpg)

![Image](images/8c9f237c48bc77b77943222d10ae95853964482e913b35025d9701af04b79ea8.jpg)

![Image](images/fa9ae9e2dddf72870f8efd52bd39c554292e53925f847c13f4802e11d9a7df2d.jpg)

<div style="text-align: center;">Fig. 11. Some sample images in the database described by Phillips et al. [^33], [^36].</div>

在每一帧中尺寸最大，从而让数据适配我们的方法，无需考虑严重的分割错误。

我们参照已有研究 [^33]，采用相同的注册集和探测集开展了一系列挑战实验。对于每个实验，我们同样遵循FERET标准评估的模式，对识别场景下的算法性能进行测量 [^24]。

我们使用的STC相似性度量在本质上与 [^33], [^36] 中描述的基准算法相似，仅在帧间相似性的表示方式上存在区别。由于我们无法对非线性（椭圆形）行走模式进行有效的步态周期分析，因此此处我们将a设为1，不考虑不同受试者之间的步速差异。

表4列出了本文所提算法在七项挑战性实验中的基础性能指标，即rank 1和rank 5的识别率（ $P_{l}$），每个子集的受试者数量标注在方括号中，[^33]给出的优化性能（为[^36]的扩展版本）则放在括号中用于对比。从表4中我们可以得到与[^33]一致的结论：在三种变化因素中，视角带来的影响最小，表面类型带来的影响最大[^33]。整体来看，在USF数据集上，我们的方法仅在识别率上略逊于[^33]，但计算成本远优于该方法（见表2）。关于识别率，我们认为噪声分割结果对本文方法的特征训练与提取带来了较大影响，同时椭圆行走路径给我们基于视角的算法带来了挑战（即我们在数据采集阶段设置的是近似线性的行走路径，这与以往大多数数据集一致，在实际场景中也往往更符合真实情况）。大多数现有算法在线性行走、侧视角序列上的性能（例如表3中的[^11]、[^22]和[^34]），自然会在实现层面（甚至可能无法有效工作）和最终性能两方面都受到上述两个因素的严重影响。关于计算成本，Phillips等人提出的基线算法[^33]、[^36]本质上属于无限制时空关联过程。与以往其他工作不同，该算法没有为每个序列提取真正紧致特征向量的显式训练流程，因此会反复利用分割后的轮廓图像进行序列间关联，以测量任意两个序列之间的相似度。

综上，对比1结果表明，本文所提方法在识别率上优于[^11]、[^22]、[^36]，且与[^34]性能相当，但计算成本最低。对比2表明，我们的方法在一定程度上可与[^33]媲美。整体而言，我们的方法在识别准确率上与现有方法相当，但实际运行时间远优于现有方法。如前文所述，这些只是基础对比结果，未来还需要在规模更大、更贴近真实场景的数据集上开展更详细的统计研究，以进一步量化算法的性能。

### 5.5 讨论与未来工作

要得到一种可在无约束环境下实现自动人员识别的通用方法，仍有大量工作有待完成。

尽管我们得到的结果是可靠的，但我们无法对步态得出过多结论。仍需要在规模更大、变化更丰富的数据集上开展进一步评估。我们正计划搭建这样一个数据集，包含更多受试者、更多序列以及更多条件变化。

跨日期条件是对步态识别方法性能评估最严苛的测试。这是因为同一受试者会因衣物变化（厚重衣物与单薄衣物）产生差异，尤其是在不同季节之间。我们的方法基于轮廓分析，因此会

<div style="text-align: center;">TABLE 4</div>

<div style="text-align: center;">Basic Results on Phillips et al.'s Database Using the Gallery Set (G, A, R)</div>

<table border=1 style='margin: auto; word-wrap: break-word;'><tr><td style='text-align: center; word-wrap: break-word;'>Exp.</td><td style='text-align: center; word-wrap: break-word;'>Probe</td><td style='text-align: center; word-wrap: break-word;'>Difference</td><td style='text-align: center; word-wrap: break-word;'>$P_t$ (%), Rank=1</td><td style='text-align: center; word-wrap: break-word;'>$P_t$ (%), Rank=5</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>A</td><td style='text-align: center; word-wrap: break-word;'>(G, A, L) [^71]</td><td style='text-align: center; word-wrap: break-word;'>View</td><td style='text-align: center; word-wrap: break-word;'>70.42 (79)</td><td style='text-align: center; word-wrap: break-word;'>92.95 (96)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>B</td><td style='text-align: center; word-wrap: break-word;'>(G, B, R) [^41]</td><td style='text-align: center; word-wrap: break-word;'>Shoe</td><td style='text-align: center; word-wrap: break-word;'>58.54 (66)</td><td style='text-align: center; word-wrap: break-word;'>82.92 (81)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>C</td><td style='text-align: center; word-wrap: break-word;'>(G, B, L) [^41]</td><td style='text-align: center; word-wrap: break-word;'>Shoe, View</td><td style='text-align: center; word-wrap: break-word;'>51.22 (56)</td><td style='text-align: center; word-wrap: break-word;'>70.73 (76)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>D</td><td style='text-align: center; word-wrap: break-word;'>(C, A, R) [^70]</td><td style='text-align: center; word-wrap: break-word;'>Surface</td><td style='text-align: center; word-wrap: break-word;'>34.33 (29)</td><td style='text-align: center; word-wrap: break-word;'>64.18 (61)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>E</td><td style='text-align: center; word-wrap: break-word;'>(C, B, R) [^44]</td><td style='text-align: center; word-wrap: break-word;'>Surface, Shoe</td><td style='text-align: center; word-wrap: break-word;'>21.43 (24)</td><td style='text-align: center; word-wrap: break-word;'>45.24 (55)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>F</td><td style='text-align: center; word-wrap: break-word;'>(C, A, L) [^70]</td><td style='text-align: center; word-wrap: break-word;'>Surface, View</td><td style='text-align: center; word-wrap: break-word;'>27.27 (30)</td><td style='text-align: center; word-wrap: break-word;'>38.57 (46)</td></tr><tr><td style='text-align: center; word-wrap: break-word;'>G</td><td style='text-align: center; word-wrap: break-word;'>(C, B, L) [^44]</td><td style='text-align: center; word-wrap: break-word;'>Surface, Shoe, View</td><td style='text-align: center; word-wrap: break-word;'>14.29 (10)</td><td style='text-align: center; word-wrap: break-word;'>26.19 (33)</td></tr></table>

---

不可避免地受到不同类型衣物的影响。事实上，以往大多数工作由于直接使用运动分割结果，都会受到形状信息变化的影响。构建更多包含不同衣物的参考序列可能有助于解决该问题。

视角缺乏通用性是多数步态识别算法的一项局限。本文提出的方法和大多数已有研究一样是视角相关的，因此一项有价值的实验是确定特征对不同视角的敏感度，其实验结果可帮助多相机跟踪系统选择最优识别视角 [^5]。推广该算法本身的另一个直接方法是存储从多个视角采集的训练序列，同时对目标对象和视角进行分类 [^22]。

提取关节振荡轨迹这类动态信息更满足识别需求。因此，三维人体建模与跟踪有望为识别带来帮助 [^32]。未来研究可尝试融合步态的静态与动态特征，例如姿态、手臂/腿部/髋部摆动等。

此外，寻找更优的相似性度量、设计更精细的分类器、步态分割以及不同场景的评估都值得未来研究进一步关注。

## 6 结论

随着视觉监控系统的需求不断增长，远距离人体识别近年来得到了越来越多的关注。步态是一种极具潜力的行为特征，大量相关研究已经证明它作为生物识别特征拥有丰富的应用潜力。计算机视觉技术的发展也为基于视觉的自动步态分析逐步实现提供了保障。

本文提出了一种简单有效的基于人体轮廓和步态的自动人员识别方法。该方法结合背景减除法和简单匹配法，对行走目标的空间轮廓进行分割与跟踪。简洁的特征选择与参数化特征空间表示大幅降低了训练和识别阶段的计算成本。大量实验结果验证了本文所提算法的有效性。尽管和以往工作一样，本文研究是在若干简化假设下完成的，但已被证明是基于步态的人体识别领域一项令人鼓舞的进展。

## 致谢

作者感谢南佛罗里达大学的S. Sarkar博士为本研究提供数据库，也感谢所有为NLPR数据库建立做出贡献的人员，以及匿名审稿人给出的细致评审和建设性意见。本研究得到中国国家自然科学基金（项目编号：69825105、60105002）、北京市自然科学基金（项目编号：4031004）以及中国国家高技术研究发展计划（863计划，项目编号：2002AA117010）的部分资助。

## 参考文献

[^1]: <http://www.darpa.mil/iao/HID.htm> or <http://www.humanid.org/index.html>, 2000.

[^2]: S. Stevenage, M. Nixon, and K. Vince, "Visual Analysis of Gait as a Cue to Identity," Applied Cognitive Psychology, vol. 13, pp. 513-526, 1999.

[^3]: S. Niyogi and E. Adelson, "Analyzing and Recognizing Walking Figures in XYT," Proc. IEEE CS Conf. Computer Vision and Pattern Recognition, pp. 469-474, 1994.

[^4]: D. Cunado, M. Nixon, and J. Carter, "Using Gait as a Biometric, via Phase-Weighted Magnitude Spectra," Proc. Int'l Conf. Audio and Video-Based Biometric Person Authentication, pp. 95-102, 1997.

[^5]: J. Little and J. Boyd, "Recognizing People by Their Gait: The Shape of Motion," Videre: J. Computer Vision Research, vol. 1, no. 2, pp. 232, 1998.

[^6]: H. Murase and R. Sakai, "Moving Object Recognition in Eigenspace Representation: Gait Analysis and Lip Reading," Pattern Recognition Letters, vol. 17, pp. 155-162, 1996.

[^7]: P. Huang, C. Harris, and M. Nixon, "Human Gait Recognition in Canonical Space Using Temporal Templates," IEE Proc. Vision Image and Signal Processing Conf., vol. 146, no. 2, pp. 93-100, 1999.

[^8]: A. Johnson and A. Bobick, "A Multiview Method for Gait Recognition Using Static Body Parameters," Proc. Int'l Conf. Audio-and Video-Based Biometric Person Authentication, pp. 301-311, 2001.

[^9]: Y. Yang and M. Levine, "The Background Primal Sketch: An Approach for Tracking Moving Objects," Machine Vision and Applications, vol. 5, pp. 17-34, 1992.

[^10]: Y. Kuno, T. Watanabe, Y. Shimosakoda, and S. Nakagawa, "Automated Detection of Human for Visual Surveillance System," Proc. Int'l Conf. Pattern Recognition, pp. 865-869, 1996.

[^11]: C. BenAbdelkader, R. Culter, H. Nanda, and L. Davis, “EigenGait: Motion-Based Recognition of People Using Image Self-Similarity,” Proc. Int’l Conf. Audio- and Video-Based Biometric Person Authentication, pp. 284-294, 2001.

[^12]: R. Tanawongsuwan and A. Bobick, “Gait Recognition from Time-Normalized Joint-Angle Trajectories in the Walking Plane,” Proc. IEEE Conf. Computer Vision and Pattern Recognition, 2001.

[^13]: G. Shakhnarovich, L. Lee, and T. Darrell, "Integrated Face and Gait Recognition from Multiple Views," Proc. IEEE Conf. Computer Vision and Pattern Recognition, 2001.

[^14]: A. Bobick and A. Johnson, "Gait Recognition Using Static, Activity-Specific Parameters," Proc. IEEE Conf. Computer Vision and Pattern Recognition, 2001.

[^15]: M. Nixon, J. Carter, D. Cunado, P. Huang, and S. Stevenage, "Automatic Gait Recognition," BIOMETRICS Personal Identification in Networked Soc., A. Jain, ed., 1999.

[^16]: L. Wang, W. Hu, and T. Tan, "A New Attempt to Gait-Based Human Identification," Proc. Int'l Conf. Pattern Recognition, 2002.

[^17]: D. Gavrila, "The Visual Analysis of Human Movement: A Survey," Computer Vision and Image Understanding, vol. 73, no. 1, pp. 82-98, 1999.

[^18]: A. Jain, R. Bolle, and S. Pankanti, Biometrics: Personal Identification in Networked Society. Kluwer Academic Publishers, 1999.

[^19]: C. Yam, M. Nixon, and J. Carter, "Gait Recognition by Walking and Running: A Model-Based Approach," Proc. Asia Conf. Computer Vision, pp. 1-6, 2002.

[^20]: C. BenAbdelkader, R. Culter, and L. Davis, "Stride and Cadence as a Biometric in Automatic Person Identification and Verification," Proc. Int'l Conf. Automatic Face and Gesture Recognition, 2002.

[^21]: D. Winter, The Biomechanical and Motor Control of Human Movement, second ed. John Wiley & Sons, 1990.

[^22]: R. Collins, R. Gross, and J. Shi, "Silhouette-Based Human Identification from Body Shape and Gait," Proc. Int'l Conf. Automatic Face and Gesture Recognition, 2002.

[^23]: I. Haritaoglu, D. Harwood, and L. Davis, "W $^{4}$: Real-Time Surveillance of People and Their Activities," IEEE Trans. Pattern Analysis and Machine Intelligence, vol. 22, no. 8, pp. 809-830, Aug. 2000.

[^24]: J. Phillips, H. Moon, S. Rizvi, and P. Rause, "The FERET Evaluation Methodology for Face Recognition Algorithms," IEEE Trans. Pattern Analysis and Machine Intelligence, vol. 22, no. 10, pp. 1090-1104, Oct. 2000.

[^25]: L. Wang, W.M. Hu, and T.N. Tan, "Recent Developments in Human Motion Analysis," Pattern Recognition, vol. 36, no. 3, pp. 585-601, 2003.


## [^26]: A. Kale, A. Rajagopalan, N. Cuntoor, and V. Krüger, "Gait-Based Recognition of Humans Using Continuous HMMs," Proc. Int'l Conf. Automatic Face and Gesture Recognition, 2002.


---

[^27]: Q. He and C. Debrunner, “Individual Recognition from Periodic Activity Using Hidden Markov Models,” Proc. IEEE Workshop Human Motion, 2000.

[^28]: C. Yam, M. Nixon, and J. Carter, "On the Relationship of Human Walking and Running: Automatic Person Identification by Gait," Proc. Int'l Conf. Pattern Recognition, 2002.

[^29]: P. Cattin, D. Zlatnik, and R. Borer, “Sensor Fusion for a Biometric System Using Gait,” Proc. Multisensor Fusion and Integration for Intelligent Systems Conf., 2001.

[^30]: J. Hayfron-Acquah, M. Nixon, and J. Carter, "Human Identification by Spatio-Temporal Symmetry," Proc. Int'l Conf. Pattern Recognition, 2002.

[^31]: I. Vega and S. Sarkar, "Experiments on Gait Analysis by Exploiting Nonstationarity in the Distribution of Feature Relationships," Proc. Int'l Conf. Pattern Recognition, 2002.

[^32]: B. Bhanu and J. Han, "Individual Recognition by Kinematic-Based Gait Analysis," Proc. Int'l Conf. Pattern Recognition, 2002.

[^33]: P. Phillips, S. Sarkar, I. Robledo, P. Grother, and K. Bowyer, "The Gait Identification Challenge Problem: Data Sets and Baseline Algorithm," Proc. Int'l Conf. Pattern Recognition, 2002.

[^34]: L. Lee and W. Grimson, "Gait Analysis for Recognition and Classification," Proc. Int'l Conf. Automatic Face and Gesture Recognition, pp. 155-162, 2002.

[^35]: C. BenAbdelkader, R. Cutler, and L. Davis, "Motion-Based Recognition of People in EigenGait Space," Proc. Int'l Conf. Automatic Face and Gesture Recognition, pp. 267-274, 2002.

[^36]: P. Phillips, S. Sarkar, I. Robledo, P. Grother, and K. Bowyer, "Baseline Results for Challenge Problem of Human ID Using Gait Analysis," Proc. Int'l Conf. Automatic Face and Gesture Recognition, pp. 137-142, 2002.

[^37]: G. Bingham, R. Schmidt, and L. Rosenblum, "Dynamics and the Orientation of Kinematic Forms in Visual Event Recognition," J. Experimental Psychology: Human Perception and Performance, vol. 21, no. 6, pp. 1473-1493, 1995.

[^38]: M. Köhle, D. Merkl, and J. Kastner, "Clinical Gait Analysis by Neural Networks: Issues and Experiences," Proc. IEEE Symp. Computer-Based Medical Systems, pp. 138-143, 1997.

![Image](images/168d1e70c0c557fec083e68545212239db75232be05a81b849adb1a831f8e4ec.jpg)

王亮分别于1997年和2000年在中国合肥安徽大学获得电气工程学士学位和视频处理与多媒体通信硕士学位，目前为中国北京中国科学院自动化研究所模式识别国家重点实验室模式识别与智能系统方向博士研究生。他已在重要国际期刊和会议发表10余篇论文，当前研究方向包括计算机视觉、模式识别、数字图像处理与分析、多媒体、视觉监控等。

![Image](images/5f15390d8922dd6c335e93cd00bc984cf9f83cf7b1e54d3419259319e9ad3d95.jpg)

谭铁牛1984年在中国西安交通大学获得电子工程专业BSc学位，分别于1986年、1986年和1989年在英国伦敦帝国理工科学、技术与医学院获得电子工程专业MSc、DIC和PhD学位。他于1989年10月加入英格兰雷丁大学计算机科学系计算视觉组，担任研究员、高级

研究员与讲师。1998年1月，他回到中国，加入位于中国北京的中国科学院自动化研究所模式识别国家重点实验室。目前他是教授，担任模式识别国家重点实验室主任，同时兼任自动化研究所所长。他在图像处理、计算机视觉和模式识别领域发表了大量研究成果。他当前的研究方向包括语音与图像处理、机器学习与计算机视觉、模式识别、多媒体和机器人学。他担任众多国内外重要期刊和会议的审稿人。他是《Pattern Recognition》和《IEEE Transactions on Pattern Analysis and Machine Intelligence》的副主编，同时担任《Image and Vision Computing》的亚洲区主编。谭博士曾于1996-1997年当选英国机器视觉与模式识别协会执行委员会委员，是IEEE国际视觉监控研讨会的创始联合主席。他是IEEE高级会员。

宁华中2000年在中国科学技术大学少年班计算机科学专业获得BSc学位。目前他是位于中国北京的中国科学院自动化研究所模式识别国家重点实验室的硕士研究生。他已在国内重要期刊和国际会议上发表了6篇以上论文。他的主要研究方向包括计算机视觉、视频计算、跟踪、人机交互、图像处理、模式识别、图形学等。

胡卫明在中国浙江大学计算机科学与工程系获得PhD学位。1998年4月至2000年3月，他在北京大学方正研究设计中心计算机科学技术研究所担任博士后研究员。2000年4月，他以副教授身份加入位于中国北京的中国科学院自动化研究所模式识别国家重点实验室。他已在国内重要期刊和国际会议上发表了40余篇论文。他当前的研究方向包括动态场景的视觉监控、互联网不良图像识别与过滤、神经网络、计算机视觉等。

![Image](images/3a0ffbebef2edb26cb20c6736650f6f2e5082795fe4b425dbf4d1b2e08e42f39.jpg)

![Image](images/a60d912d7cfb32ac830a9145a46264b93c02685604f8c415fb9e2072ce5b0f76.jpg)

如需获取本文或其他计算主题的更多信息，请访问我们的数字图书馆：<http://computer.org/publications/dlib>。