说话人识别中PLDA的打分

续上一篇文章说话人识别中PLDA的背景与训练，在这里，我进一步把PLDA的打分过程进行推演。说实话，two-covariance PLDA打分的数学部分，比训练模型部分还要复杂和困难；这部分也鲜有博客或文章去分析，但能理解一次，对于提升back-end算法是有帮助的。

接下来，正文中关键公式的编号将延续上一篇文章的排序，变量代表的含义将重新赋予。

在论文《Probabilistic Linear Discriminant Analysis》（后叫[论文]）里的第3节第3段，提到训练过程中重估了的类间方差和类内方差，要求前者 $\Phi_b$ 是半正定（positive semi-definite），后者 $\Phi_w$ 是正定（positive definite）。根据线性代数，两者可以被同时对角化，能通过solving a generalizaed eigenproblem，存在一个非奇异矩阵 $V$ 和对角矩阵 $\Psi$ ，使得 $\Phi_w$ 转换为单位矩阵 $I$ ：

在Kaldi的PLDA参数中，保存的是上面 $\Psi$ 和 $V$ 两个参数，而不是直接保存类间方差 $\Phi_b$ 和类内方差 $\Phi_w$ ，目的是方便随后的高斯分布假设，和能快速套用affine公式映射得到相应因子，这对于百万级库存比对是很有意义的。另外，PLDA的打分过程，是利用训练模型进行规整转换和计算LLR的，没有额外与测试集（注册集vs验证集）相关的先验信息可利用，是开集任务。

接着，假设存在矩阵 $A$ ，其满足：

所以，任一原始样本 $x$ ，会满足：

$x = \mu + Au$

其中，

$\mu$ 是全部 $x$ 的均值向量；
$A$ 可看作映射空间；
$u$ 是 $x$ 映射后，成为任一类别（不是指训练集中的已知类别）的一个因子样本。

对于因子样本 $u$ 的所属类别，假设存在类别中心 $v$ 。此时，我们要做出一个假设，假设测试集的样本 $x$ 都接近于高斯分布，会有 $u$ 和 $v$ 都满足高斯分布：

到这里点评一下，由于two-convariance PLDA打分的假设，原始测试集样本如果被规整到满足高斯分布，则PLDA效果会变得很显著；如果被规整后的方差接近于训练集的，则cross-domain问题会进一步减轻（二阶统计量更关键）。

接着，在我们计算LLR之前，我们需要先推导出[论文]第3.1节的公式(3)。根据贝叶斯公式，

其中，

$log P(u ,v) = log( P(u|v)P(v)) = logP(u|v) + logP(v)$

所以，

其中， $P(u|v)$ 等符合高斯分布，有各自对应的概率密度函数：

代入式子[8]，可推导

对照标准的高斯分布概率密度函数，例如公式[9]，能得到均值和方差为：

$mean = \frac{\Psi}{I + \Psi}u, \ \ \ std = \frac{\Psi}{I + \Psi}$

能证[论文]第3.1节的公式(3)：

$P(v|u) \sim N(\frac{\Psi}{I + \Psi}u, \frac{\Psi}{I + \Psi}) \ \ \ \ \ \ \ \ [10]$

好了，得到上式之后怎么去计算LLR呢？

PLDA，具有很好的泛化性，能推理出未在训练集出现过的类别。测试集存在一众的类别，这些类别都是在注册集中已知的，假设存在已被 $A^{-1}(x - \mu)$ 转换后的注册样本 $u^g$ ， $g = 1...M$ ，代表第 $g$ 个注册模型；对于验证集的某一样本因子 $u^p$ ，我们可以计算出给定 $u^g$ 的情况下， $u^p$ 的极大似然概率，也就是 $argmax P(u^p|u^g)$ ，这是我们的目的。

另外，在说话人识别中，每位注册人是允许有多句不等的注册音频，在Kaldi的ivector-plda-scoring中也有--num-utts参数去说明spk_xvector.scp的每个说话人向量分别代表着多少条注册音频去平均所得。所以，当注册模型 $g$ 有 $n$ 条独立无关的注册音频，则表示为：