最大似然检测错误概率的一致边界

一般地，利用下式求解信号传输方式的差错概率

\[\begin{aligned} P_{e}&=\sum_{m=1}^{M}P_{m}P[\bold{r}\notin D_{m}|\bold{s_{m}}\text{ sent}]\\ &=\sum_{m=1}^{M}P_{m}\sum_{1\le m'\le M\\ \ \ m'\ne m}\int_{D_{m'}}p(\bold{r|s_{m}})d\bold{r}\\ \end{aligned}\tag{1}\]

在消息等概率\(P_{m}=1/M\)的特殊情况下，最大似然检测是最佳的。此时的错误概率为：

\[P_{e}=\frac{1}{M}\sum_{m=1}^{M}\sum_{1\le m'\le M\\ \ \ m'\ne m}\int_{D_{m'}}p(\bold{r|s_{m}})d\bold{r}\tag{2} \]

对于AWGN信道有

\[\begin{aligned} P_{e|m}&=\sum_{1\le m'\le M\\ \ \ m'\ne m}\int_{D_{m'}}p(\bold{r|s_{m}})d\bold{r}\\ &=\sum_{1\le m'\le M\\ \ \ m'\ne m}\int_{D_{m'}}p_{\bold{n}}(\bold{r-s_{m}})d\bold{r}\\ &=\left(\frac{1}{\sqrt{\pi N_{0}}}\right)^{N}\sum_{1\le m'\le M\\ \ \ m'\ne m}\int_{D_{m'}}e^{-\frac{||\bold{r-s_{m}}||^{2}}{N_{0}}}d\bold{r}\\ \end{aligned}\tag{3}\]

大多数情况下式(2),(3)的这些积分不能闭式计算。此时比较方便的做法是求得错误概率的上边界。在最大似然检测中存在许多错误概率的边界。一致边界是最简单、最广泛应用的边界，在高信噪比时十分紧密。

下面首先推导一般通信信道的一致边界，然后研究AWGN信道的特例。在ML检测中一般判决域\(D_{m'}\)可表示为：

\[D_{m'}=\left\{\bold{r}\in \mathbb{R}^{N}:p(\bold{r|s_{m'}})>p(\bold{r|s_{k}}),1\le k\le M, k\ne m'\right\}\tag{4} \]

定义\(D_{mm'}\)为

\[D_{mm'} = \left\{p(\bold{r|s_{m'}})>p(\bold{r|s_{m}})\right\}\tag{5} \]

\(D_{mm'}\)是两个信号\(\bold{s_{m}}\)和\(\bold{s_{m'}}\)的等概率二进制系统中\(m'\)的判决域。比较\(D_{m'}\)和\(D_{mm'}\)的定义式，显然有

\[D_{m'}\subseteq D_{mm'}\tag{6} \]

因此

\[\int_{D_{m'}}p(\bold{r|s_{m}})d\bold{r}\le\int_{D_{mm'}}p(\bold{r|s_{m}})d\bold{r}\tag{7} \]

注意，该式的右边是具有信号\(\bold{s_{m}}\)和\(\bold{s_{m'}}\)的等概率二进制系统当发送\(\bold{s_{m}}\)时的错误概率。定义成对差错概率\(P_{m\rightarrow m'}\)为

\[P_{m\rightarrow m'}=\int_{D_{mm'}}p(\bold{r|s_{m}})d\bold{r}\tag{8} \]

将(7)式带入(3)式第一行，并把(8)式带入可以得到：

\[P_{e|m}\le \sum_{1\le m'\le M\\ \ \ m'\ne m}\int_{D_{mm'}}p(\bold{r|s_{m}})d\bold{r}=\sum_{1\le m'\le M\\ \ \ m'\ne m}P_{m\rightarrow m'}\tag{9} \]

将(7)式带入(2)式，并把(8)式带入可以得到：

\[P_{e}\le \frac{1}{M}\sum_{m=1}^{M}\sum_{1\le m'\le M\\ \ \ m'\ne m}\int_{D_{mm'}}p(\bold{r|s_{m}})d\bold{r}=\frac{1}{M}\sum_{m=1}^{M}\sum_{1\le m'\le M\\ \ \ m'\ne m}P_{m\rightarrow m'}\tag{10} \]

式(10)即为一般通信信道的一致边界。

在AWGN信道的特殊情况下，成对差错概率为

\[P_{m\rightarrow m'}=P_{b} = Q\left(\sqrt{\frac{d_{mm'}^{2}}{2N_{0}}}\right)\tag{11} \]

利用该结果，式(10)变为

\[P_{e}\le\frac{1}{M}\sum_{m=1}^{M}\sum_{1\le m'\le M\\ \ \ m'\ne m}Q\left(\sqrt{\frac{d_{mm'}^{2}}{2N_{0}}}\right)\le \frac{1}{2M}\sum_{m=1}^{M}\sum_{1\le m'\le M\\ \ \ m'\ne m}e^{-\frac{d_{mm'}^{2}}{4N_{0}}}\tag{12} \]

上式利用了Q函数的上边界

\[Q(x)\le\frac{1}{2}e^{-\frac{x^{2}}{2}}\tag{13} \]

定义星座图的最小距离\(d_{\min}\)为

\[d_{\min} =\mathop{\arg\min}\limits_{1\le m,m' \le M\\\quad m\ne m'}||\bold{s_{m}-s_{m'}}||^{2}\tag{14} \]

因为Q函数是减函数，有

\[Q\left(\sqrt{\frac{d_{mm'}^{2}}{2N_{0}}}\right)\le Q\left(\sqrt{\frac{d_{\min}^{2}}{2N_{0}}}\right) \]

带入式(10)可得：

\[P_{e} \le \frac{1}{M}\sum_{m=1}^{M}\sum_{1\le m'\le M\\ \ \ m'\ne m}P_{m\rightarrow m'}\le \frac{1}{M}\sum_{m=1}^{M}\sum_{1\le m'\le M\\ \ \ m'\ne m}Q\left(\sqrt{\frac{d_{\min}^{2}}{2N_{0}}}\right)=(M-1)Q\left(\sqrt{\frac{d_{\min}^{2}}{2N_{0}}}\right) \]

上式是以Q函数和\(d_{\min}\)表示的一致边界(Union Bound)的较稀疏的形式，它有一个很简单的形式，利用Q函数的指数边界可得到：

\[P_{e}\le \frac{M-1}{2}e^{-\frac{d_{\min}^{2}}{4N_{0}}} \]

显然，一致边界表明星座图的最小距离对通信系统的性能有重要的影响。一个好的星座图应该这样设计：在功率和带宽约束范围内，它能提供最大可能的最小距离，即星座图上的点分离的最大。

差错概率的下边界

等概M进制信号传输方式的差错概率为：

\[P_{e}=\frac{1}{M}\sum_{m=1}^{M}P[\text{error | m sent}]=\frac{1}{M}\sum_{m=1}^{M}\int_{D_{m}^{c}}p(\bold{r|s_{m}})d\bold{r}\tag{15} \]

由式(6)可知，有\(D_{m'm}^{c}\subseteq D_{m}^{c}\)，因此

\[P_{e}\ge \frac{1}{M}\sum_{m=1}^{M}\int_{D_{m'm}^{c}}p(\bold{r|s_{m}})d\bold{r}=\frac{1}{M}\sum_{m=1}^{M}\int_{D_{mm'}}p(\bold{r|s_{m}})d\bold{r}=\frac{1}{M}\sum_{m=1}^{M}Q\left(\frac{d_{mm'}}{\sqrt{2N_{0}}}\right)\tag{16} \]

上式对于所有的\(m\ne m'\)都有效。为了推导最紧密的下边界，将右边最大化，可得

\[P_{e}\ge \frac{1}{M}\sum_{m=1}^{M}\max_{m'\ne m}Q\left(\frac{d_{mm'}}{\sqrt{2N_{0}}}\right) \]

由于Q函数是减函数，选择使\(Q\left(\frac{d_{mm'}}{\sqrt{2N_{0}}}\right)\)最大的\(m'\)等效于求使\(d_{mm'}\)最小的\(m'\)，因此

\[P_{e} \ge \frac{1}{M}\sum_{m=1}^{M}Q\left(\frac{d_{\min}^{m}}{\sqrt{2N_{0}}}\right)\tag{17} \]

式中，\(d_{\min}^{m}\)表示星座图上m与其最相邻点的距离，显然\(d_{\min}^{m}\ge d_{\min}\)。所以，

\[Q\left(\frac{d_{\min}^{m}}{\sqrt{2N_{0}}}\right)\ge\left\{\begin{aligned}&Q\left(\frac{d_{\min}}{\sqrt{2N_{0}}}\right),\quad \text{if there exists at least one signal at distance } d_{\min} \text{ from } s_{m}\\ &0,\quad \text{otherwise}\end{aligned}\right.\tag{18} \]

利用式(18)，式(17)可变为

\[P_{e}\ge\frac{1}{M}\sum_{\qquad 1\le m\le M\\ \exist m\ne m:||s_{m}-s_{m'}||=d_{\min}}Q\left(\frac{d_{\min}}{\sqrt{2N_{0}}}\right) \]

用\(N_{\min}\)表示星座图上与至少一个其他点相距\(d_{\min}\)的点数，得到：

\[P_{e}\ge \frac{N_{\min}}{M}Q\left(\frac{d_{\min}}{\sqrt{2N_{0}}}\right)\tag{19} \]