随着无线频谱资源的稀缺和通信业务的增加之间的矛盾越来越突出，认知无线电作为一种有效提高频谱利用率的技术被提了出来^[1]。认知网络中，在不影响主用户(授权用户)通信的情况下允许次用户(认知用户)接入。最近，干扰对齐作为能够有效消除干扰的方法被运用到认知多输入多输出(Multiple-Input Multiple-Output，MIMO)网络^[2]中。

干扰对齐最先由Cadambe等^[3]和Jafar等^[4]提出，干扰对齐通过编码设计来压缩干扰空间使期望信号空间维数最大化并消除干扰，从而提高信道容量。干扰信道中干扰对齐成立条件在文献[5-6]中分析。不同于传统方案，干扰对齐技术运用在认知MIMO网络中利用空间资源可以使主用户和次用户同时间同频率地发送数据。在文献[7]中将分布式干扰对齐的方法运用在认知无线网络中。文献[8]考虑一对主用户、一对次用户的模型，主用户通过注水算法对分解后的信道进行功率分配，因此，次用户即可机会地使用主用户剩余的信号空间，通过干扰对齐技术将次用户对主用户的干扰对齐到该空间，次用户可以利用主用户频谱资源且不会对主用户通信产生影响，但该算法没有考虑主用户对次用户产生的干扰。文献[9]在次用户满足一定干扰温度限制的情况下，次用户间通过最小化实际干扰空间到接收端预设干扰空间的投影距离，交替迭代求出最优的预编码和干扰抑制矩阵，但也没有考虑主用户对次用户的干扰。文献[10]为了进一步提高主用户的性能和保证主用户的优先性，提出PIA-SU(Partial Interference Alignment between Secondary Users)和PIA-NSU(Partial Interference Alignment Not considering between Secondary Users)两种算法，其中PIA-SU忽略了主用户对次用户的干扰，而PIA-NSU不仅忽略了次用户对主用户的干扰，而且没考虑次用户间的干扰，两种算法相对于FULL-IA(FULL Interference Alignment)算法虽然主用户性能有所提高，但是次用户的性能太差。文献[11]在一对主用户、多对次用户模型下先消除主次间的干扰，然后提出最小干扰泄漏和最大信干噪比(MAXimum Signal to Interference and Noise Ratio, MAX-SINR)两种算法来消除次用户间干扰，虽然在中低信噪比的情况下最大信干噪比的性能优于最小干扰泄漏，但在多数据流时，数据流之间的干扰会随着信噪比的增加越来越明显。

基于上述分析，在考虑多个主用户和多个次用户的认知MIMO网络中，主用户不与次用户合作甚至不知道次用户存在的情况下，不仅考虑了次用户对主用户的干扰而且还考虑了主用户对次用户的干扰。不同于传统最大信干噪比算法求解预编码和干扰抑制矩阵，在用户发送多数据流时，采用独立计算的策略。本文所提算法考虑了数据流之间的相关性，使性能优于传统算法，并且在迭代求解过程中首先满足干扰在期望信号空间的功率最小，对干扰空间进行压缩，补偿了最大信干噪比不易收敛的特性，增加了抑制干扰的能力，使算法收敛加快而且性能进一步提高。

1 系统模型

在本文认知MIMO干扰网络中，考虑共有K=K_p+K_s对用户，其中K_p个主用户对、K_s个次用户对。每个主用户发收两端均分别配置M_p和N_p根天线，同样地，每个次用户发收两端均分别配置M_s和N_s根天线。假设用户i(i=1, 2, …, K)发送d_i个数据流(即用户i的自由度为d_i)。系统模型如图 1所示。

在特定的时频资源上，接收端i的接收信号为：

$ {{\boldsymbol{y}}_i} = \mathop \sum \limits_{j = 1}^K {{\boldsymbol{H}}_{ij}}{{\boldsymbol{V}}_j}{{\boldsymbol{s}}_{j}} + {{\boldsymbol{n}}_i} = {{\boldsymbol{H}}_{ii}}{{\boldsymbol{V}}_i}{{\boldsymbol{s}}_i} + \mathop \sum \limits_{j = 1, j \ne i}^K {{\boldsymbol{H}}_{ij}}{{\boldsymbol{V}}_j}{{\boldsymbol{s}}_{j}} + {{\boldsymbol{n}}_i} $

(1)

其中：V_j和V_i分别为发送端j和i的预编码矩阵，其维度分别为M_j×d_j和M_i×d_i，且V_j^HV_j=I_dj×dj，V_i^HV_i=I_di×di。维度为d_i×1的s_i是发送端i的发送信号，且满足E[s_i^Hs_i]=p_i。定义H_ij(N_i×M_j)和H_ii(N_i×M_i)分别是发送端j和i到接收端i的信道矩阵，假设信道是平坦衰落的，信道中每个元素独立同分布，服从均值为0方差为1的复高斯分布。n_i为均值为0、方差1的加性高斯白噪声，且满足E[n_in_i^H]=I_Ni×Ni。接收信号y_i经过干扰抑制矩阵U_i(N_i×d_i)处理之后为：

$ {{\boldsymbol{\tilde y}}_i} = {\boldsymbol{U}}_i^H{{\boldsymbol{y}}_i} = {\boldsymbol{U}}_i^H{{\boldsymbol{H}}_{ii}}{{\boldsymbol{V}}_i}{{\boldsymbol{s}}_i} + {\boldsymbol{U}}_i^H\mathop \sum \limits_{j = 1, j \ne i}^K {{\boldsymbol{H}}_{ij}}{{\boldsymbol{V}}_j}{{\boldsymbol{s}}_{j}} + {\boldsymbol{U}}_i^H{{\boldsymbol{n}}_i} $

(2)

其中：U_i^HU_i=I_di×di，且满足条件：

$ \left\{ \begin{array}{l} {\boldsymbol{U}}_i^H{{\boldsymbol{H}}_{ij}}{{\boldsymbol{V}}_j} = {\boldsymbol{0}}\\ {\rm{rank}}\left( {{\boldsymbol{U}}_i^H{{\boldsymbol{H}}_{ii}}{{\boldsymbol{V}}_i}} \right) = {d_i} \end{array} \right. $

(3)

其中∀i≠j，i, j=1, 2, …, K。

2 次用户消除主次之间的干扰

在认知无线网络中，由于主用户是授权用户，甚至不知道次用户的存在。次用户作为非授权用户只有在不影响主用户通信的前提下才允许接入。因此在设计次用户的预编码(V_i)和干扰抑制矩阵(U_i)时不仅要消除次用户对主用户和主用户对次用户的干扰而且还要在消除次用户间干扰的同时尽量使其性能最优。为此，分别对V_i和U_i进行分解：

$ {{\boldsymbol{V}}_i} = {{\boldsymbol{G}}_i}{{{\boldsymbol{\tilde V}}}_i};i = {K_p} + 1, {K_p} + 2, \cdots, K $

(4)

$ {{\boldsymbol{U}}_i} = {{\boldsymbol{B}}_i}{{{\boldsymbol{\tilde U}}}_i}{\rm{;}}i = {K_p} + 1, {K_p} + 2 \cdots, K $

(5)

分别用G_i和B_i来消除次用户i对每一个主用户的干扰和每一个主用户对次用户i的干扰。公式表达如下：

$ \left\{ {\begin{array}{*{20}{c}} {{\boldsymbol{U}}_j^{\rm{H}}{{\boldsymbol{H}}_{ji}}{{\boldsymbol{G}}_i} = {\boldsymbol{0}}}\\ {{\boldsymbol{B}}_i^{\rm{H}}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{V}}_j} = {\boldsymbol{0}}} \end{array}} \right. $

(6)

且∀i= K_p+1, K_p+2, …, K, j=1, 2, …, K_p。令:

$ {{\boldsymbol{L}}_i} = \left[{{{\left[{{\boldsymbol{U}}_1^{\rm{H}}{{\boldsymbol{H}}_{1i}}} \right]}^{\rm{H}}}, {{\left[{{\boldsymbol{U}}_2^{\rm{H}}{{\boldsymbol{H}}_{2i}}} \right]}^{\rm{H}}}, \cdots, {{\left[{{\boldsymbol{U}}_{{K_p}}^{\rm{H}}{{\boldsymbol{H}}_{{K_p}i}}} \right]}^{\rm{H}}}} \right] $

(7)

$ {{\boldsymbol{O}}_i} = {\left[{\left[{{{\boldsymbol{H}}_{i1}}\;{{\boldsymbol{V}}_1}} \right], \left[{{{\boldsymbol{H}}_{i2}}\;{{\boldsymbol{V}}_2}} \right], \cdots, \left[{{{\boldsymbol{H}}_{i{K_p}}}\;{{\boldsymbol{V}}_{{K_p}}}} \right]} \right]^{\rm{H}}} $

(8)

由式(6) 进一步可得G_i取L_i的零空间，且维数为${M_i} \times \left( {{M_i} - \left( {\sum\limits_{j = 1}^{{K_p}} {{d_j}} } \right)} \right) $，${\boldsymbol{\tilde V}_i} $的维数为$\left( {{M_i}-\left( {\sum\limits_{j = 1}^{{K_p}} {{d_j}} } \right)} \right) \times {d_i} $。同理B_i取O_i的零空间，且维数为$ {N_i} \times \left( {{N_i}-\left( {\sum\limits_{j = 1}^{{K_p}} {{d_j}} } \right)} \right)$，${\boldsymbol{\tilde U}_i} $的维数为$\left( {{N_i}-\left( {\sum\limits_{j = 1}^{{K_p}} {{d_j}} } \right)} \right) \times {d_i} $。

3 干扰对齐算法 3.1 算法描述

通过上述描述方法求出G_i和B_i来消除主次用户之间的干扰之后。次用户之间和主用户之间均采取相同的算法进行干扰消除，在这里本文以次用户为例进行详细说明。

为消除次用户之间的干扰，次用户需满足干扰对齐可行性条件为：

$ \begin{array}{l} \left\{ \begin{array}{l} {\boldsymbol{\tilde U}}_i^{\rm{H}}{\boldsymbol{B}}_i^{\rm{H}}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{G}}_j}{{{\boldsymbol{\tilde V}}}_j} = {\boldsymbol{0}}\\ {\rm{rank}}\left( {{\boldsymbol{\tilde U}}_i^{\rm{H}}{\boldsymbol{B}}_i^{\rm{H}}{{\boldsymbol{H}}_{ii}}{{\boldsymbol{G}}_i}{{{\boldsymbol{\tilde V}}}_i}} \right) = {d_i} \end{array} \right.;\\ \forall i, j = {K_p} + 1, {K_p} + 2, \cdots, K \end{array} $

(9)

假设每个次用户的自由度均为d_s，且每个用户的发射功率相同并在d_s个数据流上均匀分布。在理想信道状态信息下通过最大化信干噪比的准则来求取最优的预编码${{\boldsymbol{\tilde V}}_i} $和干扰抑制矩阵$ {{\boldsymbol{\tilde U}}_i}$，但是不同于传统求解时采用每个数据流独立计算的策略。本文通过广义瑞利熵的方法来求解，充分考虑了数据流间的相关性。具体实现如下：

在正向通信时，接收端i的信干噪比(Signal to Interference and Noise Ratio, SINR)表示为：

$ SIN{R_i} = \frac{{E\left[{\left\| {{\boldsymbol{\tilde U}}_i^\text{H}{\boldsymbol{B}}_i^\text{H}{{\boldsymbol{H}}_{ii}}{{\boldsymbol{G}}_i}{{{\boldsymbol{\tilde V}}}_i}{{\boldsymbol{s}}_i}} \right\|_F^2} \right]}}{{E\left[{\left\| {{\boldsymbol{\tilde U}}_i^{\text{H}}\left( {\sum\limits_{j = {K_p} + 1, j \ne i}^K {{\boldsymbol{B}}_i^{\text{H}}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{G}}_j}{{{\boldsymbol{\tilde V}}}_j}{{\boldsymbol{s}}_j}} + {{\boldsymbol{n}}_i}} \right)} \right\|_F^2} \right]}} $

(10)

利用矩阵运算化简SINR_i为：

$ \begin{gathered} {\text{tr}}\left( {{\boldsymbol{\tilde U}}_i^{\text{H}}{\boldsymbol{B}}_i^{\text{H}}{{\boldsymbol{H}}_{ii}}{{\boldsymbol{G}}_i}{{{\boldsymbol{\tilde V}}}_i}{{\boldsymbol{s}}_i}{\boldsymbol{s}}_i^{\text{H}}{\boldsymbol{\tilde V}}_i^{\text{H}}{\boldsymbol{G}}_i^{\text{H}}{\boldsymbol{H}}_{ii}^{\text{H}}{{\boldsymbol{B}}_i}{{{\boldsymbol{\tilde U}}}_i}} \right) \times \hfill \\ \left( {{\text{tr}}\left( {{\boldsymbol{\tilde U}}_i^{\text{H}}\left( {\sum\limits_{j = {K_p}{\text{ + 1}}, j \ne i}^K {{\boldsymbol{B}}_i^{\text{H}}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{G}}_j}{{{\boldsymbol{\tilde V}}}_j}{{\boldsymbol{s}}_j}{\boldsymbol{s}}_j^{\text{H}}{\boldsymbol{\tilde V}}_j^{\text{H}}{\boldsymbol{G}}_j^{\text{H}}{\boldsymbol{H}}_{ij}^{\text{H}}{{\boldsymbol{B}}_i}} } \right.} \right.} \right.{\left. {\left. {\left. { + {{\boldsymbol{n}}_i}{\boldsymbol{n}}_i^{\text{H}}} \right){{{\boldsymbol{\tilde U}}}_i}} \right)} \right)^{{\text{-1}}}} \hfill \\ \end{gathered} $

(11)

由于s_is_i^H=(p_i/d_i)I_di×di, n_in_i^H=I_Ni×Ni，式(11) 进一步可化简为：

$ \begin{gathered} {\text{tr}}\left( {{\boldsymbol{\tilde U}}_i^{\text{H}}{\boldsymbol{B}}_i^{\text{H}}{{\boldsymbol{H}}_{ii}}{{\boldsymbol{G}}_i}{{{\boldsymbol{\tilde V}}}_i}{\boldsymbol{\tilde V}}_i^{\text{H}}{\boldsymbol{G}}_i^{\text{H}}{\boldsymbol{H}}_{ii}^{\text{H}}{{\boldsymbol{B}}_i}{{{\boldsymbol{\tilde U}}}_i}} \right) \times \hfill \\ \left( {{\text{tr}}\left( {{\boldsymbol{\tilde U}}_i^{\text{H}}\left( {\sum\limits_{j = {K_p} + 1, j \ne i}^K {{\boldsymbol{B}}_i^{\text{H}}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{G}}_j}{{{\boldsymbol{\tilde V}}}_j}{\boldsymbol{\tilde V}}_j^{\text{H}}{\boldsymbol{G}}_j^{\text{H}}{\boldsymbol{H}}_{ij}^{\text{H}}{{\boldsymbol{B}}_i}} } \right.} \right.} \right.{\left. { + {\text{ }}\left. {\left. {\left( {{d_i}/{p_i}} \right){{\boldsymbol{I}}_{{N_i} \times {N_i}}}} \right){{{\boldsymbol{\tilde U}}}_i}} \right)} \right)^{-1}} \hfill \\ \end{gathered} $

(12)

令:

$ {{\boldsymbol{A}}_1} = {\boldsymbol{B}}_i^{\text{H}}{{\boldsymbol{H}}_{ii}}{{\boldsymbol{G}}_i}{{\boldsymbol{\tilde V}}_i}{\boldsymbol{\tilde V}}_i^{\text{H}}{\boldsymbol{G}}_i^{\text{H}}{\boldsymbol{H}}_{ii}^{\text{H}}{{\boldsymbol{B}}_i} $

(13)

$ {{\boldsymbol{A}}_{\text{2}}} = \mathop \sum \limits_{j = {K_p} + 1, j \ne i}^K {\boldsymbol{B}}_i^{\text{H}}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{G}}_j}{{\boldsymbol{\tilde V}}_j}{\boldsymbol{\tilde V}}_j^{\text{H}}{\boldsymbol{G}}_j^{\text{H}}{\boldsymbol{H}}_{ij}^{\text{H}}{{\boldsymbol{B}}_i} + \left( {{d_i}/{p_i}} \right){{\boldsymbol{I}}_{{N_i} \times {N_i}}} $

(14)

已知$\boldsymbol{\tilde U}_i^{\text{H}}{\boldsymbol{\tilde U}_i} = {\boldsymbol{I}_{{d_i} \times {d_i}}} $，且注意到矩阵A₁为Hermitian矩阵，矩阵A₂为Hermitian矩阵且正定，故式(12) 满足广义瑞利熵定义。

令:

$ {\boldsymbol{F}} = \frac{{{\boldsymbol{B}}_i^{\text{H}}{{\boldsymbol{H}}_{ii}}{{\boldsymbol{G}}_i}{{{\boldsymbol{\tilde V}}}_i}{\boldsymbol{\tilde V}}_i^{\text{H}}{\boldsymbol{G}}_i^{\text{H}}{\boldsymbol{H}}_{ii}^{\text{H}}{{\boldsymbol{B}}_i}}}{{\sum\limits_{j = {K_p} + 1, j \ne i}^K {{\boldsymbol{B}}_i^{\text{H}}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{G}}_j}{{{\boldsymbol{\tilde V}}}_j}{\boldsymbol{\tilde V}}_j^{\text{H}}{\boldsymbol{G}}_j^{\text{H}}{\boldsymbol{H}}_{ij}^{\text{H}}{{\boldsymbol{B}}_i}} + \left( {{d_i}/{p_i}} \right){{\boldsymbol{I}}_{{N_i} \times {N_i}}}}} $

(15)

$ {\boldsymbol{FX}} = \lambda {\boldsymbol{X}} $

(16)

其中:λ为矩阵F的广义特征值，X为矩阵F广义特征值所对应的特征向量。为求最优$ {{\boldsymbol{\tilde U}}_i}$使SINR_i最大，则${{\boldsymbol{\tilde U}}_i} $为矩阵F前d_s个最大广义特征值对应的特征向量。

类似地，基于信道的互易性，在反向通信中，接收端i的SINR为：

$ \begin{gathered} SIN{R_i} = {\text{tr}}\left( {{\boldsymbol{\tilde V}}_i^{\text{H}}{\boldsymbol{G}}_i^{\text{H}}{\boldsymbol{H}}_{ii}^{\text{H}}{{\boldsymbol{B}}_i}{{{\boldsymbol{\tilde U}}}_i}{\boldsymbol{\tilde U}}_i^{\text{H}}{\boldsymbol{B}}_i^{\text{H}}{{\boldsymbol{H}}_{ii}}{{\boldsymbol{G}}_i}{{{\boldsymbol{\tilde V}}}_i}} \right) \times \hfill \\ \left( {{\text{tr}}\left( {{\boldsymbol{\tilde V}}_i^{\text{H}}\left( {\sum\limits_{j = {K_p} + 1, j \ne i}^K {{\boldsymbol{G}}_i^\text{H}{\boldsymbol{H}}_{ji}^\text{H}{{\boldsymbol{B}}_j}{{{\boldsymbol{\tilde U}}}_j}{\boldsymbol{\tilde U}}_j^\text{H}{\boldsymbol{B}}_j^\text{H}{{\boldsymbol{H}}_{ji}}{{\boldsymbol{G}}_i}} } \right.} \right.} \right. \hfill \\ {\left. {\left. {\left. {{\text{ + }}\left( {{d_i}/{p_i}} \right){{\boldsymbol{I}}_{{N_i} \times {N_i}}}} \right){{{\boldsymbol{\tilde V}}}_i}} \right)} \right)^{-1}} \hfill \\ \end{gathered} $

(17)

令:

$ {{\boldsymbol{A}}_{\boldsymbol{3}}} = {\boldsymbol{G}}_i^\text{H}{\boldsymbol{H}}_{ii}^\text{H}{{\boldsymbol{B}}_i}{{\boldsymbol{\tilde U}}_i}{\boldsymbol{\tilde U}}_i^\text{H}{\boldsymbol{B}}_i^\text{H}{{\boldsymbol{H}}_{ii}}{{\boldsymbol{G}}_i} $

(18)

$ {{\boldsymbol{A}}_{\boldsymbol{4}}} = \mathop \sum \limits_{j = {K_p} + 1, j \ne i}^K {\boldsymbol{G}}_i^\text{H}{\boldsymbol{H}}_{ji}^\text{H}{{\boldsymbol{B}}_j}{{\boldsymbol{\tilde U}}_j}{\boldsymbol{\tilde U}}_j^\text{H}{\boldsymbol{B}}_j^\text{H}{{\boldsymbol{H}}_{ji}}{{\boldsymbol{G}}_i} + \left( {{d_i}/{p_i}} \right){{\boldsymbol{I}}_{{N_i} \times {N_i}}} $

(19)

已知$ {\boldsymbol{\tilde V}}_i^\text{H}{{\boldsymbol{\tilde V}}_i} = {{\boldsymbol{I}}_{{d_i} \times {d_i}}}$，矩阵A₃为Hermitian矩阵。矩阵A₄为Hermitian矩阵且正定，故式(17) 也满足广义瑞利熵定义，因此利用广义瑞利熵求最优${{\boldsymbol{\tilde U}}_i} $的方法同样可以求出最优${{\boldsymbol{\tilde V}}_i} $。

3.2 迭代限制

最大信干噪比算法不仅考虑了消除干扰信号和噪声的影响而且还考虑了提高期望信号的传输质量，又因为在中低信噪比时噪声和期望信号能量的影响占主要地位，因此在中低信噪比时最大信干噪比相比其他的一些经典算法有明显的优势。然而，由于随着信噪比的增加其越来越不易收敛的特性，其抑制干扰的能力也越来越差^[12]。针对该问题，为了克服其高信噪比下不易收敛的缺点，在每次迭代求解预编码和干扰抑制矩阵始终首先把干扰空间压缩，满足干扰功率在期望信号空间中最小, 然后进行本文算法的迭代。压缩过程表示为求出最优$ {{\boldsymbol{\tilde V}}_i}$、${{\boldsymbol{\tilde U}}_i} $满足式(20):

$ \mathop {\min }\limits_{{{{\boldsymbol{\tilde U}}}_i}, {{{\boldsymbol{\tilde V}}}_j}} \sum\limits_{j = {K_p} + {\text{1}}, j \ne i}^K {E\left\| {{\boldsymbol{\tilde U}}_i^\text{H}{\boldsymbol{B}}_i^\text{H}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{G}}_j}{{{\boldsymbol{\tilde V}}}_j}{{\boldsymbol{s}}_j}} \right\|_{\text{2}}^F} $

(20)

经化简得：

$ \mathop {\min }\limits_{{{{\boldsymbol{\tilde U}}}_i}, {{{\boldsymbol{\tilde V}}}_j}} {\text{ }}\text{tr}\left( {{\boldsymbol{\tilde U}}_i^\text{H}{\boldsymbol{B}}_i^\text{H}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{G}}_j}{{{\boldsymbol{\tilde V}}}_j}{\boldsymbol{\tilde V}}_j^\text{H}{\boldsymbol{G}}_j^\text{H}{\boldsymbol{H}}_{ij}^\text{H}{{\boldsymbol{B}}_i}{\boldsymbol{\tilde U}}_i^\text{H}} \right) $

(21)

根据瑞利熵定理得：

$ {{\boldsymbol{\tilde U}}_i} = {R_{{d_i}}}\left( {{\boldsymbol{B}}_i^\text{H}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{G}}_j}{{{\boldsymbol{\tilde V}}}_j}{\boldsymbol{\tilde V}}_j^\text{H}{\boldsymbol{G}}_j^\text{H}{\boldsymbol{H}}_{ij}^\text{H}{{\boldsymbol{B}}_i}} \right) $

(22)

由信道互易性：

$ {{\boldsymbol{\tilde V}}_i} = {R_{{d_i}}}\left( {{\boldsymbol{G}}_i^\text{H}{\boldsymbol{H}}_{ji}^\text{H}{{\boldsymbol{B}}_i}{{{\boldsymbol{\tilde U}}}_j}{\boldsymbol{\tilde U}}_j^\text{H}{\boldsymbol{B}}_j^\text{H}{{\boldsymbol{H}}_{ji}}{{\boldsymbol{G}}_i}} \right) $

(23)

其中R_di(A)表示d_i个最小特征值对应的特征向量。

3.3 算法流程

综上讨论和推导求最优$ {{\boldsymbol{\tilde U}}_i}$和${{\boldsymbol{\tilde V}}_i} $算法主要流程如下：

1)  由式(7)、(8) 分别计算出G_i、B_i，并初始化预编码矩阵$ {{\boldsymbol{\tilde V}}_i}$。

2)  迭代开始

 for t=1:Z     //Z表示为迭代次数。

  for i=K_p+1:K

   ① 由式(22)、(23) 预更新预编码矩阵${{\boldsymbol{\tilde V}}_i} $、干扰抑制矩阵${{\boldsymbol{\tilde U}}_i} $

   ② 由式(15) 计算干扰抑制矩阵${{\boldsymbol{\tilde U}}_i} $，并反转信道求出${{\boldsymbol{\tilde V}}_i} $

  end

  最优${{\boldsymbol{\tilde V}}_i} $为${{\boldsymbol{\tilde V}}_i} $(t)，最优${{\boldsymbol{\tilde U}}_i} $为${{\boldsymbol{\tilde U}}_i} $(t)

 end

3.4 次用户可达自由度上界分析

考虑K_p个主用户且每个主用户的自由度均为d_p。K_s个次用户且每个次用户的自由度均为d_s，此时每一个次用户可达自由度上界为：

$ \begin{gathered} {d_s} \leqslant \min \left\{ {{M_s}-{K_p}{d_p}, {N_s}-{K_p}{d_p}, } \right.\min ({M_s}, {N_s})/{\text{2}} \hfill \\ \left. {, \left( {{M_s} + {N_s}-{\text{2}}{K_p}{d_p}} \right)/\left( {{K_s} + {\text{1}}} \right)} \right\} \hfill \\ \end{gathered} $

(24)

式(24) 由三类不等式约束组成。

第一类是由任意两个次用户间构成MIMO干扰信道自由度上限^[13]。

$ {d_s} \leqslant \min \left( {{M_s}, {N_s}} \right)/{\text{2}} $

(25)

第二类是一个次用户、K_p个主用户构成网络中，次用户自由度上限。

$ {d_s} + {K_p}{d_p} \leqslant \min \left\{ {{M_s} + {K_p}{d_p}, {N_s} + {K_p}{d_p}, } \right.\left. {\max \left( {{K_p}{d_p}, {M_s}} \right), \max \left( {{K_p}{d_p}, {N_s}} \right)} \right\} $

(26)

因为:

$ {M_s} + {K_p}{d_p} \geqslant \max \left( {{K_p}{d_p}, {M_s}} \right) $

(27)

$ {N_s} + {K_p}{d_p} \geqslant \max \left( {{K_p}{d_p}, {N_s}} \right) $

(28)

得：

$ {d_s} + {K_p}{d_p} \leqslant \min \left\{ {\max \left\{ {\left( {{K_p}{d_p}, {M_s}} \right), \left( {{K_p}{d_p}, {N_s}} \right)} \right\}} \right\} $

(29)

则此时次用户自由度上限为：

$ {d_s} \leqslant \min \left\{ {{M_s}-{K_p}{d_p}, {N_s}-{K_p}{d_p}} \right\} $

(30)

第三类由次用户干扰对齐成立的必要条件构成，已知次用户干扰对成立条件为：

$ \left\{ \begin{gathered} {\boldsymbol{U}}_j^\text{H}{{\boldsymbol{H}}_{ji}}{{\boldsymbol{V}}_i} = {\boldsymbol{0}}, \;\;\;\;\;i \in {K_p}, j \in {K_s} \hfill \\ {\boldsymbol{U}}_i^\text{H}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{V}}_j} = {\boldsymbol{0}}, \;\;\;\;\;i \in {K_p}, j \in {K_s} \hfill \\ {\boldsymbol{U}}_i^\text{H}{{\boldsymbol{H}}_{ij}}{{\boldsymbol{V}}_j} = {\boldsymbol{0}}, \;\;\;\;\;i \in {K_s}, j \in {K_s} \hfill \\ \end{gathered} \right. $

(31)

要使式(31) 有解，根据Bezout定理，独立方程个数(N_e)应不大于独立变量的个数(N_v)。根据式(31) 可得:

$ \begin{gathered} {N_e} = \sum\limits_{j = {\text{1}}}^{{K_p}} {\sum\limits_{i = {K_p} + {\text{1}}}^K {2{d_j}{d_i}} } + \sum\limits_{i = {K_p} + {\text{1}}}^K {\sum\limits_{j = {K_p} + {\text{1}}, j \ne i}^K {{d_i}{d_j}} } = 2{K_p}{K_s}{d_p}{d_s} + \hfill \\ {K_s}{\text{(}}{K_s}-{\text{1}})d_s^{\text{2}} \hfill \\ \end{gathered} $

(32)

$ {N_v} = \sum\limits_{i = {K_p} + {\text{1}}}^K {{d_i}{\text{(}}{M_i} + {N_i}-{\text{2}}{d_i})} = {K_s}{d_s}{\text{(}}M + N-{\text{2}}{d_s}) $

(33)

由N_v≥N_e得：

$ {d_s} \leqslant \frac{{{M_s} + {N_s}-{\text{2}}{K_p}{d_p}}}{{{K_s} + {\text{1}}}} $

(34)

因此综合式(25)、(30)、(34) 可得式(24) 成立。

4 仿真结果及分析

本章对所提算法与文献[12]所提最大信干噪比算法和最小干扰泄漏算法、文献[13]最小均方误差算法进行Matlab仿真对比。假设所有信道相互独立而且满足均值为0、方差为1的复高斯分布。每个发送端发射功率相同，且每个数据流之间的功率是平均分配。

图 2对比了几种算法下次用户系统总容量。在K_p=K_s=3，M_p=N_p=4，M_s=N_s=10，所有用户自由度均为2时，对比发现在信噪比较小时本文算法和传统最大信干噪算法性能相近，而随着信噪比的增加本文算法优势越来越明显。这是因为在传输多数据流时传统最大信干噪比算法在计算时忽略了数据流之间干扰的影响，而本文算法利用广义瑞利熵来求解克服该缺点，且进行迭代限制进一步增强抑制干扰的能力。对于传统最大信干噪比算法和最小均方误差算法，因为两者实质的优化目标一样，所以性能相近，而最小干扰泄漏没有考虑期望信号的影响所以性能比本文算法差。

图 3是对比在迭代求解干扰安排矩阵过程中，有无使用本文所提迭代限制算法对次用户系统和容量的影响。分别考虑用户自由度均为3，K_p=K_s=3，M_p=N_p=6，M_s=N_s=15和用户自由度均为2，K_p=K_s=3，M_p=N_p=4，M_s=N_s=10两种情况。对比两种情况可得随着信噪比的增加有迭代限制的本文算法性能最好，即便无迭代限制本文算法也好于传统的最大信干噪比算法。

图 4是本文算法在所有用户自由度均为2，M_p=N_p=4，M_s=N_s=10，K_p=3，K_s分别为1、2、3时，系统总容量、次用户总容量以及无主用户存在时总容量的仿真图。从图中可知在满足可行性条件且天线数相同时，三种总容量均随着信噪比的增加而增加；三种总容量也均随着次用户数的增加而增加但随着次用户的增加容量的增幅下降；对比次用户总容量和无主用户容量，在用户数相同时，前者的容量要明显小于后者，其原因是由于主用户的存在次用户为了消除主次间的干扰，相当于牺牲了天线数。

图 5根据干扰泄漏在信号子空间的功率作为衡量干扰对齐效果的指标。设置几种算法每个用户发射功率均为23 dB，由图可以看出经过迭代限制的本文算法收敛速度快于没有经过迭代限制的本文算法以及传统最大信干噪比算法。例如，当泄漏功率为10时有限制的本文算法只需大约迭代5次而其他两种大约需要25次左右，当算法都达到收敛时，有迭代限制的本文算法迭代次数相较于其他两种约降低40%。

5 结语

在认知MIMO网络中，本文考虑多个主用户和多个次用户，通过次用户编码的设计不但消除次用户对主用户的干扰，使次用户能同时同频接入认知网络，提高频谱利用率，而且消除了主用户对次用户的干扰。从仿真结果可知，在主、次用户间干扰消除时，基于信道互易性，不同于传统基于最大信干噪比算法求解预编码和干扰抑制矩阵忽略了数据流之间的干扰，本文采用广义瑞利熵求解充分考虑了数据流间的干扰，系统容量得到提高，且在迭代求解过程中，每次迭代首先对预编码和干扰抑制矩阵进行限制使干扰功率在期望信号空间最小，不仅加快算法的收敛而且随着信噪比的增加容量得到进一步提高。本文算法为了不对主用户产生干扰，由次用户单方面消除主次间的干扰，但如此以来会损失次用户的自由度，因此，后续可以从保证主用户性能的同时提高次用户自由度的方向考虑，展开进一步的研究。