0 引言

目前，经食管超声心动图(TransEsophageal Echocardiography, TEE)已被广泛应用于各种心脏疾病的诊断和术中监测中，不同的标准切面在疾病诊断中起着不同的作用。近年来，研究者们采用监督学习的方法对标准切面进行自动识别^[1-4]，文献[5]基于尺度不变特征转换(Scale Invariant Feature Transform, SIFT)特征和稀疏编码构造超声心动图视频词典，构建词袋(Bag of Words，BOW)模型，通过多类别支持向量机(Support Vector Machine，SVM)实现多个标准切面的自动识别。文献[6]把不同的标准切面看作不同的人脸目标，通过手动定位出左心室位置来调整数据，使用多分类Boosting算法提取Harr-like特征，实现了对二维超声心动图标准切面分类。文献[7]基于知识库方法，采用Probabilistic Boosting Tree (PBT)检测器，使用Harr-like特征，采取由粗到细策略实现标准切面的识别，进而实现三维超声心动图标准切面的自动检测。

不同病人心脏大小不同，不同疾病造成的心脏形状、腔室轮廓不同，且超声图像的对比度和分辨率较低，夹杂斑点噪声，这些都使得感兴趣区域(Region of Interest, ROI)的自动分割非常困难，也会影响全局特征的提取，并进一步影响到分类性能。特征袋(Bag of Features, BOF)^[8-9]是一种高层语义特征，能够避免ROI定位不准确问题，BOF模型采用加速鲁棒特征(Speeded Up Robust Feature, SURF)^[10]算法提取局部特征，与SIFT特征相比，SURF算法执行效率更高，在医疗领域中也取得了一些成果^[11-12]。

超声图像容易出现大量的样本冗余问题，训练集样本的选择对分类器的分类性能影响很大。主动学习的思想最初是用来解决无标记样本数量大、且标记代价高的问题，其本质是有效的样本选择策略。文献[13]采用主动学习方法构造平衡的训练集，并提出了一种基于SVM的主动学习样本选择策略，能用较少的样本获得较高的分类性能；但是主动学习需要迭代多次选择最有价值的样本，进行多次模型训练，而SVM的非线性模型优化过程对计算和存储要求太高。AdaBoost (Adaptive Boosting)算法^[14]是一种集成学习方法，可以将重心放在ROI特征上，避免背景区域特征影响分类器性能。因此可以考虑将BOF模型、主动学习方法和AdaBoost算法进行结合，实现图像描述、训练集样本选择和分类器模型构建。

标准切面自动识别问题属于典型的多分类问题，多分类问题的解决方法主要包括两种类型：一种是将多分类问题分解为多个二分类问题；另一种是直接修改算法，使之能适应多分类问题。多分类SVM算法^[15]是采用分解法把多分类问题分解为二分类问题，将二分类SVM扩展到多类别分类问题中；AdaBoost.M2算法^[16]采用一对一分解策略，将二分类AdaBoost扩展到多分类问题中；AdaBoost.SAMME算法^[17]是采用CART、C4.5等能直接解决多分类问题的算法作为弱分类器，将二分类AdaBoost算法直接推广到多分类问题中。标准切面识别中，因疾病类型不同，类间样本存在一定的相似性，影响分类器性能。对于相似性高的标签给予不同的错分代价，可将标签相似问题转化为代价敏感问题解决。文献[18-19]在AdaBoost算法中引入标签相关性，对弱分类器构造方法和权重调整规则进行改进。本文在多分类AdaBoost算法对弱分类器的迭代训练中，综合已训练所得的临时强分类器的分类情况，动态调整样本的错分代价，对多分类AdaBoost算法进行改进，能综合提高标准切面的分类性能。

1 TEE标准切面识别

在疾病诊断中最基本且最常用的三个标准切面是四腔心(four Chamber, 4C)、右室流入流出道(Right Ventricle Inflow-Outflow, RV IO)和左室长轴(Left ventricular long AXis, LAX)，如图 1所示。图像包括背景区域和ROI区域，为避免ROI定位不准确问题，本文采用BOF模型完成对超声图像的特征描述，最后采用多分类AdaBoost改进算法构建分类器对标准切面进行分类。

1.1 图像预处理

仪器采集的超声图像的四周，包含仪器自身所标注的文字、图标等相关信息，为便于后续步骤中特征提取，采用形态学滤波方法提取出包含有效信息的超声子图。式(1)~(4) 为自定义掩膜。

$ \mathit{\boldsymbol{mas}}{\mathit{\boldsymbol{k}}_1} = \left( {\begin{array}{*{20}{c}} { - 1} & 0 & 1\\ { - 1} & 0 & 1\\ { - 1} & 0 & 1 \end{array}} \right) $

(1)

$ \mathit{\boldsymbol{mas}}{\mathit{\boldsymbol{k}}_2} = \left( {\begin{array}{*{20}{c}} 1 & 0 & { - 1}\\ 1 & 0 & { - 1}\\ 1 & 0 & { - 1} \end{array}} \right) $

(2)

$ \mathit{\boldsymbol{mas}}{\mathit{\boldsymbol{k}}_3} = \left( {\begin{array}{*{20}{c}} 0 & { - 1} & 0\\ { - 1} & 0 & 1\\ 0 & 1 & 0 \end{array}} \right) $

(3)

$ \mathit{\boldsymbol{mas}}{\mathit{\boldsymbol{k}}_4} = \left( {\begin{array}{*{20}{c}} 0 & { - 1} & 0\\ 1 & 0 & { - 1}\\ 0 & 1 & 0 \end{array}} \right) $

(4)

采用形态学掩膜mask₁和mask₂进行滤波，则在经食管超声图像左侧边缘处和右侧边缘处得到的结果最大；然后采用掩膜mask₃和mask₄进行滤波，则在两个直角边缘处得到结果最大。如图 2(a)所示为四腔心切面原图，图 2(b)所示是对图 2(a)预处理后的结果。

1.2 BOF模型构建

BOF的基本思想是将图像看作相互独立的图像块的集合，为每个图像块提取描述向量；对训练集的特征向量进行聚类，生成一个包含视觉单词的词典；根据词典对图像中的描述向量进行加权统计，生成特征直方图向量，该向量即代表整个图像，完成对图像的特征表达。

BOF构建过程主要涉及以下步骤：

1) 检测图像块并生成描述向量。检测图像块的常见方法有密集采样法、随机采样法和网格划分法等，本文使用网格划分法。常见的描述算子有SIFT、PCA-SIFT (Principal Components Analysis-Scale Invariant Feature Transform)和SURF等，本文使用SURF描述算子。

2) 应用聚类算法将图像块描述算子聚类为视觉词汇，常见的聚类算法有K-means等。

3) 使用一种加权策略，如TF-IDF(Term Frequency-Inverse Document Frequency)加权技术，将图像的描述算子映射到视觉词汇中，然后进行步加权、归一化。

1.3 基于主动学习方法的训练集选择

TEE标准切面存在大量的冗余样本，采用主动学习方法进行样本选择。对于AdaBoost算法采用基于Margin策略的不确定性来选择训练集样本，如式(5) 所示：

$ {x^ * } = \mathop {\arg \min }\limits_x (f(x, {l_1}) - f(x, {l_2})) $

(5)

基于Margin策略的训练集样本选择流程：

输入  有标注样本集X={(x₁, y₁), (x₂, y₂), …, (x_m, y_m)}，其中y_i∈{1, 2, …, K}, 初始训练集L¹，非训练集U¹=X\L¹；For k=1, 2, …, iter

1) 在训练集L^k上训练多分类AdaBoost分类器f；

2) 用分类器f对非训练集U^k中样本预测，如果分类模型满足停止条件，循环终止；

3) 对U^k中每个样本计算f(x, l₁)-f(x, l₂)，l₁和l₂分别是最具有最大和第二大值的置信度输出值，选择最小的N个样本，记为S；

4) 更新L^k+1=L^k∪S, U^k+1=U^k\S;

End

输出  训练集L。

2 多分类AdaBoost改进算法 2.1 多分类AdaBoost改进算法原理

训练样本集L={(x₁, y₁), (x₂, y₂), …, (x_n, y_n)}，其中y_i∈{1, 2, …, K}，集成学习算法通常指通过某种方式得到T个弱分类器h_t(x):X×Y→[0, 1]和弱分类器权重α_t，然后进行组合得到强分类器，即:

$ f(x) = \sum\limits_{t = 1}^T {{\alpha _t}{h_t}(x)} $

(6)

强分类器的输出为:

$ H(x) = \mathop {\arg \max }\limits_l \{ f(x, l)\} $

(7)

训练到第t个弱分类器时，可以得到临时强分类器:

$ {f_t}(x, l) = \sum\limits_{{t_1} = 1}^t {{\alpha _{{t_1}}}{h_{{t_1}}}(x, l)} $

(8)

调用f_t临时强分类器对训练样本集X进行分类，若标签y_i被错分为标签l的概率P_t(y_i, l)＞thresh(阈值)，则可以认为标签l是标签y_i的相似标签，此时令S_t(y_i, l)=1，否则S_t(y_i, l)=0，如此可得标签相似性矩阵S_t。如果标签l是标签y_i的相似标签，令c_t(y_i, l)=c₂，否则令c_t(y_i, l)=c₁，如此可得动态代价矩阵C_t。

分类算法总是希望平均错分代价最小，即希望式(9) 最小：

$ {\varepsilon _c} = \sum\limits_{i = 1}^m {(\sum\limits_{l = 1}^K {c({y_i}, l)\delta (H({x_i}) = l)} )} $

(9)

其中：当条件π满足时，δ(π)为1，否则为0；c(y_i, l)表示标签为y_i的样本x_i错分为l的代价。假设权重更新参数α_t＞0，结合动态代价矩阵得到改进的多分类AdaBoost算法如下：

输入  训练样本集L={(x₁, y₁), (x₂, y₂), …, (x_n, y_n)}，样本权重D，弱分类器$ h:X\times Y\to \mathbb{R}$，迭代次数T；

初始化：D₁(i)=1/n，其中i=1, 2, …, n；

For t=1, 2, …, T

1) 根据样本分布D_t，训练弱分类器$ {{h}_{t}}:X\times Y\to \mathbb{R}$。

2) 根据临时强分类器:

$ {f_t}(x) = {\rm{sign}}(\sum\limits_{k = 1}^{t - 1} {{\alpha _k}{h_k}(x, l)} ) $

计算动态标签相似性矩阵S_t，若t=1，则令S₁=I_(K×K)，I_(K×K)为K阶单位矩阵。

3) 对动态代价矩阵C_t赋值：若l≠y_i，且S_t(y_i, l)=1，则令c_t(y_i, l)=c₂，否则c_t(y_i, l)=c₁，其中c₁, c₂＞0。

4) 计算弱分类器权重α_t。

5) 更新权重：

$ {D_{t + 1}}(i) = \frac{{{D_t}(i)\exp ( - {\alpha _t}{c_t}({y_i}, l)({h_t}({x_i}, {y_i}) - {h_t}({x_i}, l)))}}{{{Z_t}}} $

其中:

$ \begin{array}{l} {h_t}({x_i},l) = \mathop {\arg \max }\limits_{k \ne {y_i}} \;{h_t}({x_i},k)\\ {Z_t} = \sum\limits_{i,l} {{D_t}(i)\exp ( - {\alpha _t}c({y_i},l)({h_t}({x_i},{y_i}) - {h_t}({x_i},l)))} \end{array} $

输出  强分类器$ H(x) = \mathop {\arg \max }\limits_l \{ \sum\limits_{t = 1}^T {{\alpha _t}{h_t}(x, l)} \} $。

2.2 训练误差有界性验证

定理   $ {\varepsilon _c} = \sum\limits_{i = 1}^n {(\sum\limits_{l = 1}^K {c({y_i}, l)\delta (H({x_i}) = l)} )} \le d\prod {{Z_t}} $，其中$ d = \sum\limits_{i = 1}^n {\frac{{{D_T}(i)}}{{{D_1}(i)}}} $。

证明  根据权值更新公式可得:

$ \begin{array}{l} {D_T}(i) = \\ \;\;\frac{{{D_1}(i)\exp ( - \sum\limits_{t = 1}^T {{\alpha _t}c({y_i}, l)({h_t}({x_i}, {y_i}) - {h_t}({x_i}, l))} )}}{{\prod {{Z_t}} }} \end{array} $

其中$ {h_t}({x_i}, l) = \mathop {\arg \max }\limits_{k \ne {y_i}} {h_t}({x_i}, k)$，所以:

$ \exp ( - \sum\limits_{t = 1}^T {{\alpha _t}c({y_i}, l)({h_t}({x_i}, {y_i}) - {h_t}({x_i}, l))} ) = \frac{{{D_T}(i)\prod {{Z_t}} }}{{{D_1}(i)}} $

故有:

$ \begin{array}{l} {\varepsilon _c} = \sum\limits_{i = 1}^m {(\sum\limits_{l = 1}^K {c({y_i}, l)\delta (H({x_i}) = l)} )} \le \\ \sum\limits_{i = 1}^m {\exp ( - \sum\limits_{t = 1}^T {{\alpha _t}c({y_i}, l)({h_t}({x_i}, {y_i}) - \mathop {\arg \max }\limits_{l \ne {y_i}} \;{h_t}({x_i}, l))} )} = \\ \sum\limits_{i = 1}^m {\frac{{{D_T}(i)\prod {{Z_t}} }}{{{D_1}(i)}} = d} \prod {{Z_t}} \end{array} $

其中$ d = \sum\limits_{i = 1}^m {\frac{{{D_T}(i)}}{{{D_1}(i)}}} $。

2.3 计算弱分类器权重α_t

假设$ {{h}_{t}}:X\times Y\to \mathbb{R}$，根据文献[15]的证明，由于：

$ \begin{array}{l} {Z_t} = \sum\limits_i {{D_t}(i)\exp ( - {\alpha _t}{u_t}({x_i}))} \le \\ \;\;\;\frac{{1 + {r_t}}}{2}{{\rm{e}}^{ - {\alpha _t}}} + \frac{{1 - {r_t}}}{2}{{\rm{e}}^{{\alpha _t}}} \end{array} $

其中：u_t(x_i)=c_t(y_i, l)(h_t(x_i, y_i)-h_t(x_i, l))，$ {h_t}({x_i}, l) = \mathop {\arg \max }\limits_{k \ne {y_i}} {h_t}({x_i}, k), {r_t} = \sum\limits_i {{D_t}(i} ){u_t}({x_i})$，令$ {\alpha _t} = \frac{1}{2}\ln (\frac{{1 + {r_t}}}{{1 - {r_t}}})$，则有$ {Z_t} \le \sqrt {1 - r_t^2} \le 1$。所以在选择弱分类器时，选择能使得$ {r_t} = \sum\limits_i {{D_t}(i} ){u_t}({x_i})$最大的弱分类器h_t。

2.4 错分代价动态性

本文算法根据临时强分类器的分类情况，可以获得动态的标签相似矩阵，在权值更新中，需要根据标签相似矩阵和c₁, c₂＞0的值对错分代价矩阵C_t进行动态赋值。

本文对动态错分代价的构成过程为：1) 从心脏超声图像专家处征集M个错分代价值对(c₁, c₂)，满足c₁, c₂＞0；2) 对M个c₁, c₂按升序进行排序，得到两个升序序列：c₁¹, c₁², …c₁^M，c₂¹, c₂², …c₂^M；3) 有理由认为，凡是c₁落在[c₁¹, c₁^M]区间，c₂落在[c₂¹, c₂^M]区间的错分代价值均是可行的。

3 实验结果与分析 3.1 实验数据集

本文实验使用TEE标准切面数据集和三个UCI数据集。其中，TEE数据集中所有图像来自华西医院麻醉科，大多数均是患有疾病的超声图像，图像采集数据以视频格式存在，选取视频中能包含一个心动周期的连续6~7帧图像作为图像样本集，为避免重叠，测试集和训练集分别来自不同的视频。实验数据详细情况如表 1所示。

3.2 在TEE数据集上的实验结果与分析 3.2.1 训练集选择

初始训练集L¹的选择：在全部训练集上训练多分类AdaBoost分类器f，然后调用分类器f对训练集中全部样本进行预测，对每个样本计算f(x, l₁)-f(x, l₂)，其中l₁和l₂分别是最具有最大和第二大值的置信度输出值，对每个类别选择f(x, l₁)-f(x, l₂)值最小的100个样本，共得到300个样本作为初始训练集。

训练集选择过程：每次迭代选择20个最有价值的样本加入训练集，共迭代50次，或满足停止条件。

4C、RV IO和LAX的原始训练集样本数均为1 000，新的训练集样本数分别为300、320和340。

3.2.2 实验设置

本文在实验过程中采用stump决策树作为弱分类器，共训练30个弱分类器。主要对以下两个方面进行实验：1) 参数thresh、c₁和c₂的选择；2) 本文算法与AdaBoost.M2算法(简写为Ada.M2)、多分类SVM算法、AdaBoost.SAMME算法(简写为Ada.SAMME)、BP神经网络(简写为BP-Net)算法进行比较。

在对参数thresh、c₁和c₂的最优选择实验时，在[0.01, 0.3]区间内以步长0.01变化，动态错分代价矩阵中c₁、c₂值的确定通过征集10位医学专家的意见，得到了10个不同的c₁、c₂值，通过升序排列，形成一个[0.1, 10]的错分类代价区间。在实验时认为对于任何属于[0.1, 10]区间里的c₁、c₂都是可行的，步长设为0.1。

3.2.3 性能评价指标

本文采用G-mean指标、Accuracy和各类别的分类准确率评价分类器的性能。

令n_i表示属于类别l_i的样本总数, K为类别个数，cm(l_i, l_j)表示类别为l_i的样本被判断为类别l_j的个数，则类别l_i的分类准确率可定义为：

$ {R_i} = \frac{{cm({l_i}, {l_i})}}{{{n_i}}} $

G-mean定义为：

$ {\mathit{R}_{{\rm{G}} - {\rm{mean}}}} = {\left( {\prod\limits_{i = 1}^K {{R_i}} } \right)^{\frac{1}{K}}} $

Accuracy定义为：

$ {\mathit{R}_{{\rm{Accuracy}}}} = \sum\limits_{i = 1}^K {cm({l_i}, {l_i})} /\sum\limits_{i = 1}^K {{n_i}} $

3.2.4 实验对比结果

通过实验可知，当thresh=0.03，c₁=6.9, c₂=1.3时总体识别性能最优，此时与Ada.M2算法、多分类SVM算法、AdaBoost.SAMME算法、BP-Net进行比较，每个类别的分类准确率和整体分类准确率如表 2所示。

从表 2可以看出，本文算法的各个类别分类准确率、G-mean指标和Accuracy都是最优的。多分类SVM和BP-Net算法性能较低，BP-Net算法稍好于多分类SVM算法。这是因为这两种算法的性能直接跟样本特征值相关，将超声图像的背景区域特征和ROI区域特征同等看待，而背景区域占据图像比例较大，影响了分类器的性能。AdaBoost.M2算法和Ada.SAMME算法在模型构建中会选择比较重要的特征，突出ROI区域特征、削弱背景区域特征对分类器的影响，两种算法性能不相上下，Ada.SAMME算法略胜一筹。相比Ada.SAMME算法，本文算法的Accuracy提升了3.93%，G-mean指标提升了2.76%，4C准确率提升了2.31%，RV IO准确率提升了4.38%，LAX准确率提升了1.61%；相比BP-Net算法，本文算法的Accuracy提升了11.94%，G-mean指标提升了10.3%，4C准确率提升了14.51%，RV IO准确率提升了8.73%，LAX准确率提升了7.8%。

3.3 在UCI数据集上的实验结果与分析

另外对本文算法在三个UCI数据集上进行实验，包括Usps数据集、Mnist数据集和Pendigits数据集，这三个数据集都是对手写数字0~9进行识别。如表 3所示是本文算法与其他四个对比算法在三个数据集上的G-mean指标和Accuracy对比结果。可以看出本文算法在三个UCI数据集上的G-mean值和Accuracy均是最优的，而其他四个对比算法中Ada.M2算法性能较优。

相比Ada.M2算法，在Usps数据集上，本文算法的G-mean值提升了1.5%，Accuracy提升了1.18%；在Mnist数据集上，本文算法的G-mean值提升了1.67%，Accuracy提升了1.94%；在Pendigits数据集上，本文算法的G-mean值提升了2.17%，Accuracy提升了1.72%。

相比多分类SVM算法，在Usps数据集上，本文算法的G-mean值提升了3.59%，Accuracy提升了3.28%；在Mnist数据集上，本文算法的G-mean值提升了3.66%，Accuracy提升了3.55%；在Pendigits数据集上，本文算法的G-mean值提升了3%，Accuracy提升了2.89%。

本文算法与Ada.M2算法对各个类别的分类准确率对比结果如表 4所示。

表 4数据表明，与Ada.M2算法相比，本文算法在三个UCI数据集上对各个类别的分类准确率都有一定程度的提升，其中较难分类的类别有显著的提升。Usps数据集中数字5的准确率提升了7.96%，数字8的准确率提升了6.71%左右；Mnist数据集中数字5提升了7.73%左右；Pendigits数据集中数字1提升了4.91%，数字4提升了7.82%。

4 结语

本文结合BOF模型、主动学习方法和动态错分代价矩阵对TEE标准切面进行分类。首先采用BOF模型完成超声图像的特征描述，BOF模型能突出ROI区域特征，削弱背景区域特征，避免ROI定位不准确问题；然后采用主动学习方法选择对分类器最有价值的样本作为训练集，消除样本冗余；最后对多分类AdaBoost算法进行改进。改进算法在每个弱分类器的训练中都会将已经训练得到的弱分类器集成为临时强分类器，根据临时强分类器的性能为不同类别的样本赋予不同的错分代价，调整权重更新规则，强迫正在训练的弱分类器“关注”错分代价较高的样本。在TEE标准切面数据集上的实验结果表明，本文算法的Accuracy、G-mean指标和各个类别的分类准确率均优于AdaBoost.SAMME算法及其他常用的多类别分类算法。在三个UCI数据集上的实验结果表明，本文算法在各个数据集上的Accuracy和G-mean指标均优于AdaBoost.M2算法，在易分错的类别上提升效果更显著。实验分析表明：在存在类间相似样本的数据集上，或者存在“难分”类别的数据集上，本文算法的提升效果最为显著。