1.本技术实施例涉及人工智能的语音交互技术领域，特别涉及一种语音识别方法、语音识别模型的训练方法、装置和设备。


背景技术：

2.语音交互作为一种新型的信息传播方式，正在逐渐应用于智能家居(如智能电视、智能空调等)、语音助手等多个领域。其中，语音识别技术为语音交互过程中的重要一环，语音识别(automatic speech recognition，asr)是以语音数据为研究对象，通过语音信号处理和模式识别让机器能够自动识别和理解人类口述的语言。
3.因此，需要一种语音识别方法来提高语音识别的识别准确性。


技术实现要素：

4.本技术实施例提供了一种语音识别方法、语音识别模型的训练方法、装置和设备，可用于提高语音识别的准确性。所述技术方案如下：
5.第一方面，本技术实施例提供了一种语音识别方法，所述方法包括：
6.获取待识别的语音数据对应的特征向量和目标语音识别模型，所述目标语音识别模型的结构包括共享嵌入式网络和前层网络，所述前层网络包括多专家网络层和自注意神经网络，所述多专家网络层包括目标路由矩阵和多个前馈神经网络，所述目标路由矩阵基于损失函数得到，所述共享嵌入式网络和所述目标路由矩阵用于确定所述多个前馈神经网络分别对应的概率系数；
7.调用所述目标语音识别模型对所述特征向量进行处理，得到所述语音数据对应的文本内容。
8.第二方面，本技术实施例提供了一种语音识别模型的训练方法，所述方法包括：
9.获取样本语音数据和初始语音识别模型，所述初始语音识别模型的结构包括共享嵌入式网络和前层网络，所述前层网络包括多专家网络层和自注意神经网络，所述多专家网络层包括初始路由矩阵和多个前馈神经网络；
10.对所述样本语音数据进行处理，得到所述样本语音数据对应的样本特征向量；
11.基于所述共享嵌入式网络对所述样本特征向量进行处理，得到所述样本语音数据对应的样本嵌入向量；
12.基于所述样本语音数据对应的样本特征向量、所述样本语音数据对应的样本嵌入向量和所述初始路由矩阵，确定所述样本语音数据对应的样本参考向量；
13.基于所述样本语音数据对应的样本特征向量和所述样本语音数据对应的样本参考向量，确定所述初始语音识别模型对应的损失值；
14.基于所述初始语音识别模型对应的损失值，调整所述初始语音识别模型中的初始路由矩阵，得到所述目标路由矩阵，将包括所述目标路由矩阵的语音识别模型确定为所述目标语音识别模型。
15.第三方面，本技术实施例提供了一种语音识别装置，所述装置包括：
16.获取单元，用于获取待识别的语音数据对应的特征向量和目标语音识别模型，所述目标语音识别模型的结构包括共享嵌入式网络和前层网络，所述前层网络包括多专家网络层和自注意神经网络，所述多专家网络层包括目标路由矩阵和多个前馈神经网络，所述目标路由矩阵基于损失函数得到，所述共享嵌入式网络和所述目标路由矩阵用于确定所述多个前馈神经网络分别对应的概率系数；
17.处理单元，用于调用所述目标语音识别模型对所述特征向量进行处理，得到所述语音数据对应的文本内容。
18.在一种可能的实现方式中，所述处理单元，用于基于所述共享嵌入式网络对所述特征向量进行处理，得到所述语音数据对应的嵌入向量；
19.基于所述目标语音识别模型中的第一个自注意神经网络对所述特征向量进行处理，得到所述语音数据对应的第一向量；
20.基于所述语音数据对应的嵌入向量、所述语音数据对应的第一向量和所述目标语音识别模型的第一个多专家网络层包括的目标路由矩阵，确定所述第一个多专家网络层包括的多个前馈神经网络分别对应的概率系数；
21.基于所述第一向量和所述第一个多专家网络层包括的多个前馈神经网络分别对应的概率系数，确定所述语音数据对应的文本内容。
22.在一种可能的实现方式中，所述处理单元，用于在所述第一个多专家网络层包括的多个前馈神经网络中确定概率系数最大的目标前馈神经网络；
23.基于所述第一向量和所述目标前馈神经网络的概率系数，得到第二向量；
24.基于所述第二向量，确定所述语音数据对应的文本内容。
25.在一种可能的实现方式中，所述处理单元，用于响应于所述目标语音识别模型包括一个自注意神经网络和一个多专家网络层，将所述第二向量对应的文本内容确定为所述语音数据对应的文本内容；
26.响应于所述目标语音识别模型包括多个自注意神经网络和多个多专家网络层，基于剩余多专家网络层包括的目标路由矩阵、所述第二向量和所述嵌入向量，对所述第二向量进行更新，得到第三向量；基于所述第三向量，确定所述语音数据对应的文本内容。
27.在一种可能的实现方式中，所述处理单元，用于基于所述第二向量、所述嵌入向量和目标多专家网络层包括的目标路由矩阵，确定所述目标多专家网络层包括的多个前馈神经网络分别对应的概率系数，所述目标多专家网络层为所述剩余多专家网络层中的任意一个；
28.确定所述目标多专家网络层对应的目标前馈神经网络；
29.基于所述第二向量和所述目标多专家网络层对应的目标前馈神经网络，得到所述第三向量；
30.响应于所述目标多专家网络层为所述目标语音识别模型的最后一个多专家网络层，将所述第三向量对应的文本内容确定为所述语音数据对应的文本内容。
31.在一种可能的实现方式中，所述处理单元，用于对所述语音数据对应的嵌入向量和所述语音数据对应的第一向量进行拼接，得到所述语音数据对应的拼接向量；
32.基于所述语音数据对应的拼接向量和所述目标语音识别模型的第一个多专家网
络层包括的目标路由矩阵，确定所述第一个多专家网络层包括的多个前馈神经网络分别对应的概率系数。
33.第四方面，本技术实施例提供了一种语音识别模型的训练装置，所述装置包括：
34.获取单元，用于获取样本语音数据和初始语音识别模型，所述初始语音识别模型的结构共享嵌入式网络和前层网络，所述前层网络包括多专家网络层和自注意神经网络，所述多专家网络层包括初始路由矩阵和多个前馈神经网络；
35.第一处理单元，用于对所述样本语音数据进行处理，得到所述样本语音数据对应的样本特征向量；
36.第二处理单元，用于基于所述共享嵌入式网络对所述样本特征向量进行处理，得到所述样本语音数据对应的样本嵌入向量；
37.第一确定单元，用于基于所述样本语音数据对应的样本特征向量、所述样本语音数据对应的样本嵌入向量和所述初始路由矩阵，确定所述样本语音数据对应的样本参考向量；
38.第二确定单元，用于基于所述样本语音数据对应的样本特征向量和所述样本语音数据对应的样本参考向量，确定所述初始语音识别模型对应的损失值；
39.第三确定单元，用于基于所述初始语音识别模型对应的损失值，调整所述初始语音识别模型中的初始路由矩阵，得到所述目标路由矩阵，将包括所述目标路由矩阵的语音识别模型确定为所述目标语音识别模型。
40.在一种可能的实现方式中，所述第二确定单元，用于基于所述样本语音数据对应的样本特征向量和所述样本语音数据对应的样本参考向量，确定所述初始语音识别模型对应的时间联结分类损失值；
41.基于所述样本语音数据对应的样本特征向量，确定所述初始语音识别模型对应的l1稀疏损失值；
42.基于所述样本语音数据对应的样本特征向量，确定所述初始语音识别模型对应的均值重要性损失值；
43.基于所述初始语音识别模型对应的时间联结分类损失值、所述初始语音识别模型对应的l1稀疏损失值和所述初始语音识别模型对应的均值重要性损失值，确定所述初始语音识别模型对应的损失值。
44.在一种可能的实现方式中，所述第二确定单元，用于基于所述样本语音数据对应的样本特征向量，确定各个多专家网络层对应的第一概率向量；
45.基于所述各个多专家网络层对应的第一概率向量，确定所述各个多专家网络层对应的l1稀疏损失值；
46.将所述各个多专家网络层对应的l1稀疏损失值相加，得到所述初始语音识别模型对应的l1稀疏损失值。
47.在一种可能的实现方式中，所述第二确定单元，用于基于所述样本语音数据对应的样本特征向量，确定所述各个多专家网络层分别对应的参考向量；
48.对所述各个多专家网络层分别对应的参考向量进行l2范数处理，得到所述各个多专家网络层对应的第一数值；
49.基于所述各个多专家网络层分别对应的参考向量和所述各个多专家网络层对应
的第一数值，确定所述各个多专家网络层对应的第一概率向量；
50.对所述各个多专家网络层分别对应的第一概率向量进行l1范数处理，得到所述各个多专家网络层对应l1稀疏损失值。
51.在一种可能的实现方式中，所述第二确定单元，用于基于所述样本语音数据对应的样本特征向量，确定各个多专家网络层对应的第二概率向量；
52.基于所述各个多专家网络层对应的第二概率向量，确定所述各个多专家网络层对应的均值重要性损失值；
53.将所述各个多专家网络层对应的均值重要性损失值相加，得到所述初始语音识别模型对应的均值重要性损失值。
54.在一种可能的实现方式中，所述第二确定单元，用于基于所述样本语音数据对应的样本特征向量，确定所述各个多专家网络层分别对应的参考向量；
55.基于所述各个多专家网络层分别对应的参考向量，确定所述各个多专家网络层对应的第二概率向量；
56.基于所述各个多专家网络层对应的第二概率向量中包括的数值，确定所述各个多专家网络层对应的均值重要性损失。
57.在一种可能的实现方式中，所述第三确定单元，用于响应于所述初始语音识别模型对应的损失值小于第一阈值，将所述初始路由矩阵确定为所述目标路由矩阵；
58.响应于所述初始语音识别模型对应的损失值不小于所述第一阈值，对所述初始路由矩阵进行调整，基于调整后的路由矩阵和所述样本特征向量，重新确定样本参考向量，直至重新确定的样本参考向量和所述样本特征向量之间的损失值小于所述第一阈值，将所述调整后的路由矩阵确定为所述目标路由矩阵。
59.在一种可能的实现方式中，所述第二确定单元，用于基于所述初始语音识别模型对应的时间联结分类损失值、所述初始语音识别模型对应的l1稀疏损失值、所述初始语音识别模型对应的均值重要性损失值，时间联结分类损失值对应的权重参数、l1稀疏损失值对应的权重参数和均值重要性损失值对应的权重参数，确定所述初始语音识别模型对应的损失值。
60.第五方面，本技术实施例提供了一种电子设备，所述电子设备包括处理器和存储器，所述存储器中存储有至少一条程序代码，所述至少一条程序代码由所述处理器加载并执行，以使电子设备实现上述第一方面所述的语音识别方法，或者，实现上述第二方面所述的语音识别模型的训练方法。
61.第六方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一条程序代码，所述至少一条程序代码由处理器加载并执行，以使计算机实现上述第一方面所述的语音识别方法，或者，实现上述第二方面所述的语音识别模型的训练方法。
62.第七方面，还提供了一种计算机程序或计算机程序产品，所述计算机程序或计算机程序产品中存储有至少一条计算机指令，所述至少一条计算机指令由处理器加载并执行，以使计算机实现上述第一方面所述的语音识别方法，或者，实现上述第二方面所述的语音识别模型的训练方法。
63.本技术实施例提供的技术方案至少带来如下有益效果：
64.本技术实施例提供的技术方案在语音识别模型的结构中加入共享嵌入式网络，由
于共享嵌入式网络本身具有区分性的特征，使得语音识别模型也具有区分性。而且，语音识别模型包括的目标路由矩阵是基于损失函数得到的，使得确定的目标路由矩阵更加准确，提高了语音识别模型的识别准确性，进而使得使用语音识别模型进行语音识别时得到的文本内容和语音数据的匹配度较高，也即是语音识别的准确性较高。语音识别模型中多专家网络层中包括的前馈神经网络的概率系数基于共享嵌入式网络和目标路由矩阵所确定，使得多专家网络层中包括的前馈神经网络的概率系数的确定更加准确，进而能够进一步提高语音识别模型的识别准确性。
附图说明
65.为了更清楚地说明本技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
66.图1是本技术实施例提供的一种语音识别方法、语音识别模型的训练方法的实施环境示意图；
67.图2是本技术实施例提供的一种语音识别方法的流程图；
68.图3是本技术实施例提供的一种目标语音识别模型的结构图；
69.图4是本技术实施例提供的另一种目标语音识别模型的结构图；
70.图5是本技术实施例提供的一种语音识别模型的训练方法的流程图；
71.图6是本技术实施例提供的一种语音识别装置的结构示意图；
72.图7是本技术实施例提供的一种语音识别模型的训练装置的结构示意图；
73.图8是本技术实施例提供的一种电子设备的结构示意图；
74.图9是本技术实施例提供的一种服务器的结构示意图。
具体实施方式
75.为使本技术的目的、技术方案和优点更加清楚，下面将结合附图对本技术实施方式作进一步地详细描述。
76.为了便于理解，首先对本技术实施例中涉及的若干个名词进行解释：
77.人工智能(artificial intelligence，ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。
78.人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
79.语音技术(speech technology)的关键技术有自动语音识别技术(automatic speech recognition，asr)和语音合成技术(text to speech，tts)以及声纹识别技术。让
计算机能听、能看、能说、能感觉到，是未来人机交互的发展方向，其中语音成为未来最被看好的人机交互方式之一。
80.本技术实施例提供的方案涉及人工智能的机器学习技术。机器学习(machine learning，ml)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的指示结构使之不断改善自身的性能。机器学习是人工智能的核心，是使计算机具有智能的根本路径，其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
81.随着人工智能技术研究和进步，人工智能技术在多个领域展开研究和应用，例如常见的智能家居、智能穿戴设备、虚拟助理、智能音箱、智能营销、无人驾驶、自动驾驶、无人机、机器人、智能医疗、智能客服等，相信随着技术的发展，人工智能技术将在更多的领域得到应用，并发挥越来越重要的价值。
82.图1是本技术实施例提供的一种语音识别方法、语音识别模型的训练方法的实施环境示意图，如图1所示，该实施环境包括：终端11和服务器12。
83.本技术实施例提供的语音识别方法和语音识别模型的训练方法可以由终端11执行，也可以由服务器12执行，本技术实施例对此不加以限定。在示例性实施例中，对于本技术实施例提供的语音识别方法和语音识别模型的训练方法由终端11执行的情况，终端11能够将得到目标语音识别模型和语音数据对应的文本内容发送至服务器12进行存储，当然，终端11也能够对目标语音识别模型和语音数据对应的文本内容进行存储。
84.在示例性实施例中，对于本技术实施例提供的语音识别方法和语音识别模型的训练方法由服务器12执行的情况，服务器12能够将得到的目标语音识别模型和语音数据对应的文本内容发送至终端11进行存储，当然，服务器12也能够对得到的目标语音识别模型和语音数据对应的文本内容进行存储。
85.在一种可能的实现方式中，终端11可以是诸如手机、平板电脑、个人计算机等的智能设备。服务器12可以是一台服务器，也可以是由多台服务器组成的服务器集群，或者是一个云计算服务中心。终端11与服务器12通过有线网络或无线网络建立通信连接。
86.本领域技术人员应能理解上述终端11和服务器12仅为举例，其他现有的或今后可能出现的终端或服务器如可适用于本技术，也应包含在本技术保护范围以内，并在此以引用方式包含于此。
87.基于上述图1所示的实施环境，本技术实施例提供了一种语音识别方法，以图2所示的本技术实施例提供的一种语音识别方法的流程图为例，该方法可应用于图1中的服务器12。如图2所示，本技术实施例提供的方法可以包括下述步骤：
88.在步骤201中，获取待识别的语音数据对应的特征向量和目标语音识别模型。
89.其中，目标语音识别模型的结构包括共享嵌入式网络(embedding network)和前层网络，前层网络包括多专家网络层和自注意(self attention)神经网络，多专家网络层包括目标路由矩阵和多个前馈神经网络(feedforward neural network)，其中，目标路由矩阵存储在多专家网络层包括的路由中。目标路由矩阵基于损失函数得到，损失函数包括l1稀疏损失函数(sparsity l1 loss)和均值重要性损失函数(mean importance loss)。共享嵌入式网络和目标路由矩阵用于确定多个前馈神经网络分别对应的概率系数。
90.多专家网络层中包括的前馈神经网络的个数为任意数值，本技术实施例对此不加以限定。一般来说，多专家网络层中包括的前馈神经网络的个数可以为2个，也可以为4个，还可以为8个。例如，目标语音识别模型包括3个多专家网络层，3个自注意神经网络，每个自注意神经网络后面有一个多专家网络层。
91.在一种可能的实现方式中，待识别的语音数据为任意一条语音数据，待识别的语音数据的时间长度可以是任意长度，也即是待识别的语音数据可以包括任意数值个音节，待识别的语音数据的语音速度可以是任意速度，本技术实施例不对待识别的语音数据所包含的音节的个数加以限定，也不对待识别的语音数据的语音速度加以限定。
92.在一种可能的实现方式中，获取到待识别的语音数据之后，对待识别的语音数据进行特征提取，得到语音数据对应的音频特征，也即是语音数据对应的特征向量，语音识别中常用的特征向量是滤波器组(filter bank，fbank)特征向量和梅尔频率倒谱系数(mel
‑
frequency cepstral coefficients，mfcc)特征向量。其中，mfcc特征向量通过对fbank特征向量做离散余弦变化(discrete cosine transform，dct)得到。本技术实施例中得到的语音数据的特征向量为fbank特征向量，fbank特征向量的维度一般为120维。语音数据对应的特征向量的获取过程包括下述步骤1至步骤4。
93.步骤1、对语音数据进行预加重，得到预加重之后的语音数据。
94.在一种可能的实现方式中，在语音录制过程中，高频信号更容易衰减，而像元音等一些音素的发音包含了较多的高频信号的成分，高频信号的丢失，可能会导致因素的共振峰并不明显，使得声学模型对这些音素的建模能力不强，预加重是一阶高通滤波器，可以提高信号高频部分的能量，当语音数据为x[n]时，通过下述公式(1)进行预加重，得到预加重之后的语音数据y[n]。
[0095]
y[n]＝x[n]
‑
αx[n
‑
1]，0.9≤α≤1.0
ꢀꢀ
(1)
[0096]
其中，n为语音数据中的任一个元素，α为权重参数，α的取值为[0.9，1.0]。
[0097]
步骤2、对预加重之后的语音数据进行分帧加窗处理，得到窗口数据。
[0098]
在一种可能的实现方式中，语音数据是一个非稳态、时变的信号，但在短时间范围内可以认为语音数据是稳态的，时不变的，这个段时间一般取10
‑
30毫秒，因此，在进行语音数据处理时，为了减少语音数据整体的非稳态、时变的影响，从而对语音数据进行分段处理，也即是分帧处理，例如分帧处理后的帧长一般为25毫秒。为了使帧与帧之间平滑过渡，保持连续性，分帧一般采用交叠分段的方法，保证相连两帧相互重叠一部分。相邻两帧的起始位置的时间差称为帧移，帧移一般为10毫秒。当然，帧长和帧移还可以是其他数值，本技术实施例仅以帧长为25毫秒、帧移为10毫秒为例进行说明，并不对此加以限定。
[0099]
在一种可能的实现方式中，对语音数据进行分帧处理之后，还要对语音数据进行加窗处理，加窗处理使用到加权函数(也即是窗函数)。加窗处理主要是为了使语音数据的时域信号更好的满足快速傅里叶变换(fast fourier transform，fft)处理的周期性要求，减少频率泄露。加窗处理之后得到语音数据对应的时域信号。
[0100]
步骤3、对加窗处理之后的语音数据进行离散傅里叶变换(discrete fourier transform，dft)，得到语音数据对应的频域信号。
[0101]
在一种可能的实现方式中，离散傅里叶变换是将加窗处理之后得到的语音数据对应的时域信号转换为频域信号，离散傅里叶变换可以根据离散傅里叶变换公式进行变换，
本技术实施例不对采用的离散傅里叶变换公式进行限定，在此不再赘述。
[0102]
步骤4、基于梅尔滤波器组对语音数据的频域信号进行处理，得到语音数据的特征向量。
[0103]
在一种可能的实现方式中，人类对不同频率的语音有不同的感知能力，对于1000赫兹以下的语音，人类的感知能力和频率成线性关系，对1000赫兹以上的语音，人类的感知能力与频率成对数关系。梅尔滤波器组用于根据语音数据的频域信号得到语音数据的特征向量。梅尔滤波器组基于语音数据的频域信号按照频率转换公式，得到语音数据的梅尔频率，对语音数据的梅尔频率进行对数操作，得到语音数据的特征向量。其中，频率转换公式如下述公式(2)所示。
[0104][0105]
在上述公式(2)中，m为语音数据的梅尔频率，f为语音数据的频域信号。
[0106]
在一种可能的实现方式中，还可以采用其他方式获取语音数据对应的特征向量，本技术实施例对此不加以限定。
[0107]
在一种可能的实现方式中，获取到语音数据对应的特征向量之后，可以存储语音数据对应的特征向量，以便于后续通过直接提取的方式获取语音数据对应的特征向量。
[0108]
为了确定语音数据对应的文本内容，除了获取语音数据对应的特征向量之外，还需要获取目标语音识别模型，该目标语音识别模型是指训练好的语音识别模型。目标语音识别模型的结构包括共享嵌入式网络和前层网络，前层网络中包括自注意神经网络和多专家网络层，多专家网络层包括目标路由矩阵和多个前馈神经网络。其中，目标路由矩阵存储在多专家网络层包括的路由中，共享嵌入式网络和每一层的目标路由矩阵用于确定每一个多专家网络层包括的多个前馈神经网络分别对应的概率系数。由于共享嵌入式网络本身具有较高的区分性，因此，在目标语音识别模型中添加共享嵌入式网络，使得目标语音识别模型也具有较高的区分性。
[0109]
示例性地，目标路由矩阵通过l1稀疏损失函数和均值重要性损失函数得到，l1稀疏损失函数用于解决语音识别模型的训练过程中的路由的概率分布稀疏的问题，均值重要性损失函数用于使语音识别模型的训练更加平滑。也就是说，训练得到的目标语音识别模型的过程既考虑到区分性问题，又考虑到路由概率分布稀疏的问题，还考虑到训练平滑性问题，使得训练效果更好，进而训练得到的目标语音识别模型的识别准确性更高。
[0110]
训练得到目标语音识别模型的过程将在下述图5所示的实施例中进行详细介绍，此处暂不赘述。
[0111]
需要说明的是，在步骤201中，目标语音识别模型的获取方式既可以是指直接提取已经训练好的目标语音识别模型，也可以是指通过训练的方式获取目标语音识别模型，本技术实施例对此不加以限定。对于直接提取已经训练好的目标语音识别模型的情况，训练得到目标语音识别模型的过程在执行步骤201之前已经完成，且将训练得到的目标语音识别模型进行了存储。
[0112]
还需要说明的是，可以先对语音数据进行处理，得到语音数据对应的特征向量，再获取目标语音识别模型，也可以先获取目标语音识别模型，再对语音数据进行处理，得到语音数据对应的特征向量，本技术实施例对语音数据对应的特征向量的获取时机和目标语音
识别模型的获取时机的先后顺序不加以限定。
[0113]
示例性地，经过试验，目标语音识别模型的结构包括：33个自注意神经网络、30个多专家网络层和1个归一化(softmax)网络。其中，一个自注意神经网络后面连接一个多专家网络层，每10个自注意神经网络和10个多专家网络层后面连接一个自注意神经网络，最后连接一个归一化网络。
[0114]
在步骤202中，调用目标语音识别模型对特征向量进行处理，得到语音数据对应的文本内容。
[0115]
在一种可能的实现方式中，调用目标语音识别模型对特征向量进行处理，得到语音数据对应的文本内容的过程包括以下步骤2021至步骤2024。
[0116]
步骤2021、基于共享嵌入式网络对特征向量进行处理，得到语音数据对应的嵌入向量。
[0117]
在一种可能的实现方式中，将语音数据的特征向量输入共享嵌入式网络，由共享嵌入式网络对特征向量进行处理，得到语音数据对应的嵌入向量。
[0118]
共享嵌入式网络是一个分类网络，共享嵌入式网络的输出向量是一个高阶特征向量。示例性地，共享嵌入式网络输入的特征向量的维度为120维，输出的嵌入向量的维度一般为512维。嵌入向量表述的是具有分类区分性的特征，不同类别的帧提取出来的高阶特征向量是具有明显的区分性的。
[0119]
步骤2022、基于目标语音识别模型中的第一个自注意神经网络对特征向量进行处理，得到语音数据对应的第一向量。
[0120]
在一种可能的实现方式中，将语音数据的特征向量输入目标语音识别模型中的第一个自注意神经网络，基于第一个自注意神经网络对特征向量进行处理，得到语音数据对应的第一向量。
[0121]
步骤2023、基于语音数据对应的嵌入向量、语音数据对应的第一向量和目标语音识别模型的第一个多专家网络层包括的目标路由矩阵，确定第一个多专家网络层包括的多个前馈神经网络分别对应的概率系数。
[0122]
在一种可能的实现方式中，基于语音数据对应的嵌入向量、语音数据对应的第一向量和目标语音识别模型的第一个多专家网络层包括的目标路由矩阵，确定第一个多专家网络层包括的多个前馈神经网络分别对应的概率系数的过程为：对语音数据对应的嵌入向量和语音数据对应的第一向量进行拼接，得到语音数据对应的拼接向量；基于语音数据对应的拼接向量和目标语音识别模型的第一个多专家网络层包括的路由对应的目标路由矩阵，确定第一个多专家网络层对应的参考向量，第一个多专家网络层对应的参考向量中包括的数值为第一个多专家网络层包括的多个前馈神经网络分别对应的概率系数。
[0123]
在一种可能的实现方式中，对语音数据对应的嵌入向量和语音数据对应的第一向量进行拼接，得到语音数据对应的拼接向量的过程为：将语音数据对应的第一向量拼接在语音数据对应的嵌入向量之后，得到拼接向量，拼接向量的维度为嵌入向量的维度与第一向量的维度之和。
[0124]
在一种可能的实现方式中，参考向量的维度与第一个多专家网络层包括的前馈神经网络的个数一致。例如，第一个多专家网络包括的前馈神经网络的个数为4个，则参考向量的维度为4维，第一个多专家网络层对应的参考向量中第一维度的数值为第一个多专家
网络层包括的第一个前馈神经网络的概率系数，第一个多专家网络层对应的参考向量中第二维度的数值为第一个多专家网络层包括的第二个前馈神经网络的概率系数，第一个多专家网络层对应的参考向量中第三维度的数值为第一个多专家网络层包括的第三个前馈神经网络的概率系数，第一个多专家网络层对应的参考向量中第四维度的数值为第一个多专家网络层包括的第四个前馈神经网络的概率系数。
[0125]
需要说明的是，第一个多专家网络层包括的目标路由矩阵是n*m的矩阵，其中，n与拼接向量的维度一致，m为第一个多专家网络包括的前馈神经网络的个数一致。当目标语音识别模型包括的多专家网络层的个数为多个时，其他多专家网络层包括的目标路由矩阵的确定过程与第一个多专家网络层包括的目标路由矩阵一致，在此不再赘述。
[0126]
示例性地，语音数据对应的嵌入向量的维度是512维，语音数据对应的第一向量的维度为512维，语音数据对应的拼接向量的维度为1024维，第一个多专家网络层包括的前馈神经网络的个数为4个，则第一个多专家网络层包括的目标路由矩阵为1024*4的矩阵。
[0127]
在一种可能的实现方式中，基于语音数据对应的拼接向量和目标语音识别模型的第一个多专家网络层包括的目标路由矩阵，按照下述公式(3)确定第一个多专家网络层对应的参考向量r
l
：
[0128]
r
l
＝concat(e；o
l
)*w
rl
ꢀꢀ
(3)
[0129]
在上述公式(3)中，r
l
为第l个多专家网络层对应的参考向量，e为语音数据对应的嵌入向量，o
l
为基于第l个非专家网络层得到的语音数据对应的第一向量，w
rl
为第l个多专家网络层包括的目标路由矩阵。
[0130]
示例性地，确定的第一个多专家网络层的参考向量为[0.6，0.2，0.1，0.1]，也即是，第一个多专家网络层包括四个前馈神经网络，其中，第一个前馈神经网络的概率系数为0.6，第二个前馈神经网络的概率系数为0.2，第三个前馈神经网络的概率系数为0.1，第四个前馈神经网络的概率系数为0.1。
[0131]
步骤2024、基于第一向量和第一层多专家网络层包括的多个前馈神经网络分别对应的概率系数，确定语音数据对应的文本内容。
[0132]
在一种可能的实现方式中，基于第一向量和第一层多专家网络层包括的多个前馈神经网络分别对应的概率系数，确定语音数据对应的文本内容的过程为：在第一个多专家网络层包括的多个前馈神经网络中确定概率系数最大的目标前馈神经网络；基于第一向量和目标前馈神经网络的概率系数，确定第二向量；基于第二向量，确定语音数据对应的文本内容。
[0133]
其中，基于第一向量和目标前馈神经网络的概率系数，确定第二向量的过程包括但不限于：在第一个多专家网络层包括的多个前馈神经网络中确定概率系数最大的目标前馈神经网络，基于该目标前馈神经网络对第一向量进行处理，得到一个中间向量，基于中间向量和目标前馈神经网络对应的概率系数，得到第二向量，第二向量为中间向量和目标前馈神经网络的概率系数的乘积。
[0134]
示例性地，目标前馈神经网络是第一个多专家网络层中的前馈神经网络1，目标前馈神经网络的概率系数为0.6，第一向量为[3，6，7，9]，将第一向量输入前馈神经网络1，得到中间向量为[4，5，6，7]，则基于目标前馈神经网络的概率系数和中间向量，确定的第二向量为[2.4，3.0，3.6，4.2]。
[0135]
在一种可能的实现方式中，基于第二向量，确定语音数据对应的文本内容包括下述两种情况。
[0136]
情况一、目标语音识别模型包括一个自注意神经网络和一个多专家网络层，将第二向量对应的文本内容确定为语音数据对应的文本内容。
[0137]
在一种可能的实现方式中，当目标语音识别模型仅包括一个自注意神经网络和一个多专家网络层时，多专家网络层布局在自注意神经网络之后，第二向量即为目标语音识别模型的输出向量。
[0138]
服务器中存储有多个候选向量以及候选向量和候选向量对应的文本内容的对应关系，服务器接收到目标语音识别模型的输出向量，也即是第二向量之后，基于第二向量和多个候选向量，计算第二向量和多个候选向量之间的匹配度，确定匹配度满足匹配要求的候选向量，将匹配度满足匹配要求的候选向量所对应的文本内容确定为语音数据对应的文本内容。
[0139]
如图3所示为本技术实施例提供的一种目标语音识别模型的结构图，在该图3中，目标语音识别模型仅包括一个自注意神经网络和一个多专家网络层，多专家网络层包括中四个前馈神经网络。其中，前馈神经网络1的概率系数为0.6，前馈神经网络2的概率系数为0.2，前馈神经网络3的概率系数为0.1，前馈神经网络4的概率系数为0.1。在该四个前馈神经网络中选择前馈神经网络1，将第一向量输入前馈神经网络1，得到中间向量，基于中间向量和前馈神经网络1的概率系数，得到第二向量。
[0140]
如下述表一所示为本技术实施例提供的候选向量和候选向量对应的文本内容对应的向量的对应关系的表格。
[0141]
表一
[0142][0143][0144]
在上述表一中，候选向量一对应的文本内容为文本内容一；候选向量二对应的文本内容为文本内容二；候选向量三对应的文本内容为文本内容三。
[0145]
需要说明的是，上述仅以三个候选向量和三个文本内容为例进行举例说明，并不用来限制服务器中存储的候选向量和文本内容的数量。
[0146]
示例性地，第二向量和候选向量一的匹配度为50，第二向量和候选向量二的匹配度为80；第三向量和候选向量三的匹配度为70；将匹配度最高的候选向量对应的文本内容确定为语音数据对应的文本内容，也即是，将文本内容二确定为语音数据对应的文本内容。
[0147]
情况二、目标语音识别模型包括多个自注意神经网络和多个多专家网络层，基于剩余的多专家网络层包括的目标路由矩阵、第二向量和嵌入向量，对第二向量进行更新，得到第三向量，基于第三向量，确定语音数据对应的文本内容。
[0148]
在一种可能的实现方式中，当目标语音识别模型包括多个自注意神经网络和多个多专家网络层时，第二向量仅为经过第一个自注意神经网络和第一个多专家网络层所输出
的向量，并不是整个目标语音识别模型输出的向量。因此，需要遍历剩余的自注意神经网络和多专家网络层，也即是基于剩余的多专家网络层包括的目标路由矩阵、第二向量和嵌入向量，对第二向量进行更新，得到第三向量。
[0149]
在一种可能的实现方式中，基于剩余的多专家网络层包括的目标路由矩阵、第二向量和嵌入向量，对第二向量进行更新，得到第三向量的过程为：基于第二向量、嵌入向量和目标多专家网络层包括的目标路由矩阵，确定目标多专家网络层包括的多个前馈神经网络分别对应的概率系数，目标多专家网络层为剩余多专家网络层中的任意一个；确定目标多专家网络层对应的目标前馈神经网络；基于第二向量和目标多专家网络层对应的目标前馈神经网络，得到第三向量。
[0150]
在一种可能的实现方式中，响应于目标多专家网络层为目标语音识别模型的最后一个多专家网络层，将第三向量对应的文本内容确定为语音数据对应的文本内容。
[0151]
在一种可能的实现方式中，响应于目标多专家网络层不是目标语音识别模型的最后一个多专家网络层，则继续上述迭代过程，直至遍历到目标语音识别模型的最后一个多专家网络层，将最后一个多专家网络层输出的向量对应的文本内容确定为语音数据对应的文本内容。
[0152]
如图4所示为本技术实施例提供的另一种目标语音识别模型的结构图，在该图4中，目标语音识别模型包括两个多专家网络层和两个自注意神经网络，第一个自注意神经网络后面紧跟第一个多专家网络层，第一个多专家网络层后面紧跟第二个自注意神经网络，第二个自注意神经网络后面紧跟第二个多专家网络层。其中，第一个多专家网络层包括四个前馈神经网络，分别为前馈神经网络1、前馈神经网络2、前馈神经网络3和前馈神经网络4。第二个多专家网络层包括四个前馈神经网络，分别为前馈神经网络5、前馈神经网络6、前馈神经网络7和前馈神经网络8。
[0153]
将语音数据对应的特征向量输入共享嵌入式网络，得到嵌入向量；将语音数据对应的特征向量输入第一个自注意神经网络，得到第一向量，基于第一向量、嵌入向量和第一个多专家网络层包括的目标路由矩阵，确定出第一个多专家网络层包括的多个前馈神经网络分别对应的概率系数，前馈神经网络1的概率系数为0.6，前馈神经网络2的概率系数为0.2，前馈神经网络3的概率系数为0.1，前馈神经网络4的概率系数为0.1。在第一个多专家网络层包括的多个前馈神经网络中确定前馈神经网络1，将第一向量输入前馈神经网络1，得到第一中间向量，基于第一中间向量和前馈神经网络1对应的概率系数，得到第二向量。此时，第一个自注意神经网络和第一个多专家网络层已处理完毕，接着将第二向量输入第二个自注意神经网络，得到第二中间向量。基于第二中间向量、嵌入向量和第二个多专家网络层包括的目标路由矩阵，得到第二个多专家网络层包括的多个前馈神经网络分别对应的概率系数，前馈神经网络5的概率系数为0.1，前馈神经网络6的概率系数为0.1，前馈神经网络7的概率系数为0.8，前馈神经网络8的概率系数为0。在第二个多专家网络层包括的多个前馈神经网络中确定前馈神经网络7，将第二中间向量输入前馈神经网络7，得到第三中间向量，基于第三中间向量和前馈神经网络7对应的概率系数，得到第三向量，第三向量也即是整个目标语音识别模型输出的向量。
[0154]
在一种可能的实现方式中，基于第三向量确定语音数据对应的文本内容的过程与上述基于第二向量确定语音数据对应的文本内容的过程一致，在此不再赘述。
[0155]
在一种可能的实现方式中，当目标语音识别模型中包括的自注意神经网络和多专家网络层的个数超过两个时，目标语音识别模型对语音数据对应的特征向量的处理过程与上述目标语音识别模型中包括的自注意神经网络和多专家网络层的个数为两个时的处理过程类似，在此不再赘述。
[0156]
上述方法在语音识别模型的结构中加入共享嵌入式网络，由于共享嵌入式网络本身具有区分性的特征，使得语音识别模型也具有区分性。而且，语音识别模型包括的目标路由矩阵是基于损失函数得到的，使得确定的目标路由矩阵更加准确，提高了语音识别模型的识别准确性，进而使得使用语音识别模型进行语音识别时得到的文本内容和语音数据的匹配度较高，也即是语音识别的准确性较高。
[0157]
语音识别模型中多专家网络层中包括的前馈神经网络的概率系数基于共享嵌入式网络和目标路由矩阵所确定，使得多专家网络层中包括的前馈神经网络的概率系数的确定更加准确，进而能够进一步提高语音识别模型的识别准确性。
[0158]
基于上述图1所述的实施环境，本技术实施例提供一种语音识别模型的训练方法，以该方法应用于图1中的服务器12为例，如图5所示，本技术实施例提供的方法可以包括如下步骤：
[0159]
在步骤501中，获取样本语音数据和初始语音识别模型。
[0160]
在一种可能的实现方式中，初始语音识别模型的结构包括共享嵌入式网络和前层网络，前层网络包括自注意神经网络和多专家网络层，多专家网络层包括初始路由矩阵和多个前馈神经网络。初始语音识别模型的训练过程即为对初始语音识别模型中的初始路由矩阵进行训练，以得到满足要求的路由矩阵，也即是目标路由矩阵，将包含有目标路由矩阵的语音识别模型确定为目标语音识别模型。
[0161]
在一种可能的实现方式中，样本语音数据为样本数据集中的语音数据，样本数据集可以是阅读数据集，也可以是对话数据集，还可以是口语数据集，还可以是aishell2
‑
dev数据集。其中，阅读数据集中包括1001句语音数据；对话数据集中包括1665句语音数据；口语数据集中包括2952句语音数据；aishell2
‑
dev数据集中包括2500句语音数据。样本语音数据可以是上述任一种数据集中的语音数据，本技术实施例对此不加以限定。获取的样本语音数据的个数可以是一个，也可以是多个，本技术实施例对此也不加以限定。
[0162]
在步骤502中，对样本语音数据进行处理，得到样本语音数据对应的样本特征向量。
[0163]
在一种可能的实现方式中，对样本语音数据进行处理，得到样本语音数据对应的样本特征向量的过程与上述步骤201中的对语音数据进行处理，得到语音数据对应的特征向量的过程一致，在此不再赘述。
[0164]
在步骤503中，基于共享嵌入式网络对样本特征向量进行处理，得到样本语音数据对应的样本嵌入向量。
[0165]
在一种可能的实现方式中，将样本特征向量输入初始语音识别模型中的共享嵌入式网络，得到样本语音数据对应的样本嵌入向量。
[0166]
在步骤504中，基于样本语音数据对应的样本特征向量、样本语音数据对应的样本嵌入向量和初始路由矩阵，确定样本语音数据对应的样本参考向量。
[0167]
在一种可能的实现方式中，若初始语音识别模型包括一个自注意神经网络和一个
多专家网络层，多专家网络层中包括一个初始路由矩阵和多个前馈神经，将样本语音数据对应的样本特征向量输入自注意神经网络，得到向量一。基于向量一、样本嵌入向量和初始路由矩阵，确定多专家网络层包括的多个前馈神经网络分别对应的概率系数。在多专家网络层包括的多个前馈神经网络中确定概率系数最大的前馈神经网络。将向量一输入概率系数最大的前馈神经网络，得到向量二。基于向量二和概率系数最大的前馈神经网络的概率系数，确定向量三。由于初始语音识别模型仅包括一个自注意神经网络和一个多专家网络层，向量三为初始语音识别网络输出的向量，也即是样本特征向量已遍历初始语音识别模型中的所有自注意神经网络和多专家网络层，因此，将该向量三确定为样本语音数据对应的样本参考向量。
[0168]
在一种可能的实现方式中，若初始语音识别模型包括多个自注意神经网络和多个多专家网络层，每个多专家网络层中包括一个初始路由矩阵和多个前馈神经网络，基于上述过程得到向量三，但是向量三仅遍历了第一个自注意神经网络和第一个多专家网络层，并没有遍历完整个初始语音识别模型，因此，需要遍历完初始语音识别模型中剩余的自注意神经网络和多专家网络层。其中，遍历其他自注意神经网络和多专家网络层的过程与上述遍历第一个自注意神经网络和第一个多专家网络层的过程一致，在此不再一一赘述。当遍历完整个初始语音识别模型包括的所有自注意神经网络和所有多专家网络层之后，输出向量四，将该向量四确定为样本语音数据对应的样本参考向量。
[0169]
在步骤505中，基于样本语音数据对应的样本特征向量和样本语音数据对应的样本参考向量，确定初始语音识别模型对应的损失值。
[0170]
在一种可能的实现方式中，基于样本语音数据对应的样本特征向量和样本语音数据对应的样本参考向量，确定初始语音识别模型对应的损失值的过程包括下述步骤5051至步骤5054。
[0171]
步骤5051、基于样本语音数据对应的样本特征向量和样本语音数据对应的样本参考向量，确定初始语音识别模型对应的时间联结分类损失值。
[0172]
在一种可能的实现方式中，基于样本语音数据对应的样本特征向量和样本语音数据对应的样本参考向量，按照时间联结分类损失函数(connectionist temporal classification loss，ctc loss)确定初始语音识别模型对应的时间联结分类损失值。其中，时间联结分类损失函数如下述公式(4)所示。
[0173]
l
r
(x，y)＝
‑
∑logp(y|x)
ꢀꢀ
(4)
[0174]
在上述公式(4)中，l
r
(x，y)为时间联结分类损失值，x为样本语音数据对应的样本特征向量，y为样本语音数据对应的样本参考向量。
[0175]
步骤5052、基于样本语音数据对应的样本特征向量，确定初始语音识别模型对应的l1稀疏损失值。
[0176]
在一种可能的实现方式中，基于样本语音数据对应的样本特征向量，确定初始语音识别模型对应的l1稀疏损失值的过程如下：基于样本语音数据对应的样本特征向量，确定各个多专家网络层对应的第一概率向量；基于各个多专家网络层对应的第一概率向量，确定各个多专家网络层对应的l1稀疏损失值；将各个多专家网络层对应的l1稀疏损失值相加，得到初始语音识别模型对应的l1稀疏损失值。
[0177]
在一种可能的实现方式中，基于样本语音数据对应的样本特征向量，确定各个多
专家网络层对应的第一概率向量的过程为：基于样本语音数据对应的样本特征向量，确定各个多专家网络层分别对应的参考向量；对各个多专家网络层分别对应的参考向量进行l2范数处理，得到各个多专家网络层对应的第一数值；基于各个多专家网络层分别对应的参考向量和各个多专家网络层对应的第一数值，确定各个多专家网络层对应的第一概率向量。
[0178]
在一种可能的实现方式中，基于各个多专家网络层分别对应的参考向量和各个多专家网络层对应的第一数值，按照下述公式(5)确定各个多专家网络层对应的第一概率向量
[0179][0180]
在上述公式(5)中，为输入样本语音数据i对应的样本特征向量之后，第a个多专家网络层对应的第一概率向量，f
ia
为输入样本语音数据i之后，第a个多专家网络层对应的参考向量，‖f
ia
‖2为输入样本语音数据i之后，第a个多专家网络层对应的第一数值。
[0181]
需要说明的是，多专家网络层对应的参考向量与输入的样本语音数据的样本特征向量息息相关，多专家网络层对应的参考向量随着输入的样本语音数据的样本特征向量的变化而变化。
[0182]
在一种可能的实现方式中，基于各个多专家网络层对应的第一概率向量，确定各个多专家网络层对应的l1稀疏损失值的过程为：对各个多专家网络层分别对应的第一概率向量进行l1范数处理，得到各个多专家网络层对应的l1稀疏损失值。
[0183]
按照下述公式(6)对各个多专家网络层分别对应的第一概率向量进行l1范数处理，得到各个多专家网络层对应的l1稀疏损失值l
sa
：
[0184][0185]
在上述公式(6)中，l
sa
为第a个多专家网络层对应的l1稀疏损失值，m为样本语音数据的总数量，为输入样本语音数据i对应的样本特征向量之后，第a个多专家网络层对应的第一概率向量。
[0186]
步骤5053、基于样本语音数据对应的样本特征向量，确定初始语音识别模型对应的均值重要性损失值。
[0187]
在一种可能的实现方式中，基于样本语音数据对应的样本特征向量，确定初始语音识别模型对应的均值重要性损失值的过程如下：基于样本语音数据对应的样本特征向量，确定各个多专家网络层对应的第二概率向量；基于各个多专家网络层对应的第二概率向量，确定各个多专家网络层对应的均值重要性损失值；将各个多专家网络层对应的均值重要性损失值相加，得到初始语音识别模型对应的均值重要性损失值。
[0188]
在一种可能的实现方式中，基于样本语音数据对应的样本特征向量，确定各个多专家网络层对应的第二概率向量的过程如下：基于样本语音数据对应的样本特征向量，确定各个多专家网络层分别对应的参考向量；基于各个多专家网络层分别对应的参考向量，确定各个多专家网络层对应的第二概率向量。
[0189]
其中，基于各个多专家网络层分别对应的参考向量，按照下述公式(7)确定各个多
专家网络层对应的第二概率向量imp
a
：
[0190][0191]
在上述公式(7)中，imp
a
为输入样本语音数据i之后，第a个多专家网络层对应的第二概率向量，m为样本语音数据的总数量，f
ia
为输入样本语音数据i之后，第a个多专家网络层对应的参考向量。
[0192]
在一种可能的实现方式中，基于各个多专家网络层对应的第二概率向量，确定各个多专家网络层对应的均值重要性损失值的过程为：基于各个多专家网络层对应的第二概率向量中包括的数值，确定各个多专家网络层对应的均值重要性损失。
[0193]
基于各个多专家网络层对应的第二概率向量中包括的数值，按照下述公式(8)确定各个多专家网络层对应的均值重要性损失值l
ma
：
[0194][0195]
在上述公式(8)中，l
ma
为第a个多专家网络层对应的均值重要性损失值，n为第a个多专家网络层包括的前馈神经网络的个数，imp
aj
为第a个多专家网络层对应的第二概率向量中第j维向量的数值。
[0196]
步骤5054、基于初始语音识别模型对应的时间联结分类损失值、初始语音识别模型对应的l1稀疏损失值和初始语音识别模型对应的均值重要性损失值，确定初始语音识别模型对应的损失值。
[0197]
在一种可能的实现方式中，基于初始语音识别模型对应的时间联结分类损失值、初始语音识别模型对应的l1稀疏损失值、初始语音识别模型对应的均值重要性损失值，时间联结分类损失值对应的权重参数、l1稀疏损失值对应的权重参数和均值重要性损失值对应的权重参数，确定初始语音识别模型对应的损失值。
[0198]
在一种可能的实现方式中，基于初始语音识别模型对应的时间联结分类损失值、初始语音识别模型对应的l1稀疏损失值、初始语音识别模型对应的均值重要性损失值、时间联结分类损失值对应的权重参数、l1稀疏损失值对应的权重参数和均值重要性损失值对应的权重参数，按照下述公式(9)确定初始语音识别模型对应的损失值l(x，y)：
[0199]
l(x，y)＝l
r
(x，y)+δl
s
(x)+βl
m
(x)+γl
r
(x，y)
ꢀꢀ
(9)
[0200]
在上述公式(9)中，l
r
(x，y)为初始语音识别模型对应的时间联结分类损失值，δ为l1稀疏损失值对应的权重参数，l
s
(x)为初始语音识别模型对应的l1稀疏损失值，β为均值重要性损失值对应的权重参数，l
m
(x)为初始语音识别模型对应的均值重要性损失值，γ为时间联结分类损失值对应的权重参数。
[0201]
示例性地，δ的取值为0.1，β的取值为0.1，γ的取值为0.01。当然，δ、β和γ的取值还可以是其他数值，本技术实施例对此不加以限定。
[0202]
为使上述初始语音识别模型对应的损失值的确定过程更加明了，本技术以样本语音数据为数据1，初始语音识别模型仅包括一个自注意神经网络和一个多专家网络层，多专家网络层包括的前馈神经网络的个数为2个为例进行说明。对数据1进行处理，得到数据1对应的特征向量1，将特征向量1输入共享嵌入式网络，得到嵌入向量1，将特征向量1输入自注意神经网络，得到样本特征向量1[3，5]，基于多专家网络层中路由的初始路由矩阵、嵌入向量1和样本特征向量1，得到参考向量[0.3，0.7]，其中，0.3为多专家网络层包括的第一个前
馈神经网络对应的概率系数，0.7为多专家网络层包括的第二个前馈神经网络对应的概率系数。基于样本特征向量1、第二个前馈神经网络和第二个前馈神经网络的概率系数，确定样本参考向量1[2，4]。也即是x为[3，5]，y为[2，4]。
[0203]
初始语音识别模型对应的时间联结分类损失值为1.2。基于参考向量、上述公式(5)确定多专家网络层对应的第一概率向量(5)确定多专家网络层对应的第一概率向量基于多专家网络层对应的第一概率向量和上述公式(6)确定多专家网络层对应的l1稀疏损失值公式(6)确定多专家网络层对应的l1稀疏损失值由于初始语音识别模型仅包括一个多专家网络层，因此，初始语音识别模型对应的l1损失值为1.31。
[0204]
基于参考向量、上述公式(7)确定多专家网络层对应的第二概率向量基于参考向量、上述公式(7)确定多专家网络层对应的第二概率向量基于多专家网络层对应的第二概率向量和上述公式(8)确定多专家网络层对应的均值重要性损失值式(8)确定多专家网络层对应的均值重要性损失值由于初始语音识别模型仅包括一个多专家网络层，因此，初始语音识别模型对应的均值重要性损失值为1.16。
[0205]
基于初始语音识别模型对应的时间联结分类损失值、初始语音识别模型对应的l1稀疏损失值和初始语音识别模型对应的均值重要性损失值，按照上述公式(9)确定初始语音识别模型对应的损失值为l(x，y)＝l
r
(x，y)+δl
s
(x)+βl
m
(x)+γl
r
(x，y)＝1.2+0.1*1.31+0.1*1.16+0.01*1.2＝1.459。
[0206]
需要说明的是，上述仅以样本语音数据的个数为一个，初始语音识别模型中包括的多专家网络层为一个，对初始语音识别模型的损失值的确定过程为例进行说明，当样本语音数据为多个，初始语音识别模型中包括的多专家网络层个数为多个时，初始语音识别模型的损失值的确定过程与上述过程一致，在此不再赘述。
[0207]
在步骤506中，基于初始语音识别模型对应的损失值，调整初始语音识别模型中的初始路由矩阵，得到目标路由矩阵，将包括目标路由矩阵的语音识别模型确定为目标语音识别模型。
[0208]
在一种可能的实现方式中，确定出初始语音识别模型对应的损失值之后，基于初始语音识别模型对应的损失值和第一阈值进行比较，来确定初始语音识别模型中的初始路由矩阵是否需要调整。如果初始语音识别模型对应的损失值小于第一阈值，说明初始语音识别模型的性能较好，初始语音识别模型中的初始路由矩阵满足要求，不需要调整。将包含有初始路由矩阵的语音识别模型确定为目标语音识别模型。
[0209]
如果初始语音识别模型对应的损失值不小于第一阈值，则对初始语音识别模型中的初始路由矩阵进行调整，基于调整后的路由矩阵和样本特征向量，重新确定样本参考向量，直至重新确定的样本参考向量和样本特征向量之间的损失值小于第一阈值时，将调整
后的路由矩阵确定为目标路由矩阵，将包含有目标路由矩阵的语音识别模型确定为目标语音识别模型。
[0210]
其中，基于调整后的路由矩阵和样本特征向量，重新确定样本参考向量的过程与上述步骤504中的过程一致，在此不再赘述。基于重新确定的样本参考向量和样本特征向量确定损失值的过程与上述步骤505中确定初始语音识别模型的损失值的过程一致，在此不再赘述。
[0211]
上述方法通过共享嵌入式网络和损失函数对初始语音识别模型中多专家网络层包括的初始路由矩阵进行更新，以得到目标路由矩阵，将包含有目标路由矩阵的语音识别模型确定为目标语音识别模型，基于目标语音识别模型进行语音识别，进而能够提高语音识别的识别准确性。
[0212]
在一种可能的实现方式中，以dfsmn
‑
sanm语音识别模型为原始语音识别模型，在dfsmn
‑
sanm语音识别模型中加入l1稀疏损失函数，得到第一语音识别模型，通过步骤501中涉及的四个训练集得到的原始语音识别模型和第一语音识别模型出现错误的概率如下述表二所示。
[0213]
表二
[0214]
模型原始语音识别模型第一语音识别模型参数量71m(兆)134m(兆)计算复杂度2.32.3阅读数据集2.01.69aishell2
‑
dev数据集4.524.25对话数据集22.9222.47口语数据集24.9524.70
[0215]
由上述表二可知，在参数量增加的情况下，第一语音识别模型的计算复杂度并没有增加，且第一语音识别模型的识别错误率低于原始语音识别模型的识别错误率，也即是第一语音识别模型的识别准确率高于原始语音识别模型。
[0216]
在一种可能的实现方式中，在第一语音识别模型中加入共享嵌入式网络，得到第二语音识别模型，通过步骤501中涉及的四个训练集得到的第一语音识别模型和第二语音识别模型出现错误的概率如下述表三所示。
[0217]
表三
[0218][0219][0220]
由上述表二可知，增加共享嵌入式网络之后，第二语音识别模型的参数量和计算
复杂度并没有增加，第二语音识别模型的识别错误率低于第一语音识别模型的识别错误率，也即是第二语音识别模型的识别准确率高于第一语音识别模型。
[0221]
在一种可能的实现方式中，在第二语音识别模型中加入均值重要性损失函数，得到第三语音识别模型，通过步骤501中涉及的四个训练集得到的第三语音识别模型和第二语音识别模型出现错误的概率如下述表四所示。
[0222]
表四
[0223]
模型第二语音识别模型第三语音识别模型参数量134m(兆)134m(兆)计算复杂度2.32.3阅读数据集1.631.58aishell2
‑
dev数据集4.164.00对话数据集22.1521.57口语数据集24.1523.31
[0224]
由上述表四可知，加入均值重要性损失函数之后，第三语音识别模型的参数量和计算复杂度并没有增加，第三语音识别模型的识别错误率低于第二语音识别模型的识别错误率，也即是第三语音识别模型的识别准确率高于第二语音识别模型。
[0225]
在一种可能的实现方式中，对原始语音识别模型增大四倍，并在原始语音识别模型中加入共享嵌入式网络、l1稀疏损失函数和均值重要性损失函数之后得到初始语音识别模型，通过步骤501中涉及的四个训练集得到的原始语音识别模型和初始语音识别模型出现错误的概率如下述表五所示。
[0226]
表五
[0227][0228][0229]
由上述表五可知，原始语音识别模型增大4倍之后，参数量变大，但是计算复杂度并没有增加，初始语音识别模型的识别错误率低于原始语音识别模型的识别错误率，也即是初始语音识别模型的识别准确率高于原始语音识别模型。
[0230]
综上所述，在加入l1稀疏损失函数、均值重要性损失函数和共享嵌入式网络之后得到的初始语音识别模型的识别准确度高于原始语音识别模型的识别准确度。
[0231]
图6所示为本技术实施例提供的一种语音识别装置的结构示意图，如图6所示，该装置包括：
[0232]
获取单元601，用于获取待识别的语音数据对应的特征向量和目标语音识别模型，目标语音识别模型的结构包括共享嵌入式网络和前层网络，前层网络包括多专家网络层和
自注意神经网络，多专家网络层包括目标路由矩阵和多个前馈神经网络，目标路由矩阵基于损失函数得到，共享嵌入式网络和目标路由矩阵用于确定多个前馈神经网络分别对应的概率系数；
[0233]
处理单元602，用于调用目标语音识别模型对特征向量进行处理，得到语音数据对应的文本内容。
[0234]
在一种可能的实现方式中，处理单元602，用于基于共享嵌入式网络对特征向量进行处理，得到语音数据对应的嵌入向量；
[0235]
基于目标语音识别模型中的第一个自注意神经网络对特征向量进行处理，得到语音数据对应的第一向量；
[0236]
基于语音数据对应的嵌入向量、语音数据对应的第一向量和目标语音识别模型的第一个多专家网络层包括的目标路由矩阵，确定第一个多专家网络层包括的多个前馈神经网络分别对应的概率系数；
[0237]
基于第一向量和第一个多专家网络层包括的多个前馈神经网络分别对应的概率系数，确定语音数据对应的文本内容。
[0238]
在一种可能的实现方式中，处理单元602，用于在第一个多专家网络层包括的多个前馈神经网络中确定概率系数最大的目标前馈神经网络；
[0239]
基于第一向量和目标前馈神经网络的概率系数，得到第二向量；
[0240]
基于第二向量，确定语音数据对应的文本内容。
[0241]
在一种可能的实现方式中，处理单元602，用于响应于目标语音识别模型包括一个自注意神经网络和一个多专家网络层，将第二向量对应的文本内容确定为语音数据对应的文本内容；
[0242]
响应于目标语音识别模型包括多个自注意神经网络和多个多专家网络层，基于剩余多专家网络层包括的目标路由矩阵、第二向量和嵌入向量，对第二向量进行更新，得到第三向量；基于第三向量，确定语音数据对应的文本内容。
[0243]
在一种可能的实现方式中，处理单元602，用于基于第二向量、嵌入向量和目标多专家网络层包括的目标路由矩阵，确定目标多专家网络层包括的多个前馈神经网络分别对应的概率系数，目标多专家网络层为剩余多专家网络层中的任意一个；
[0244]
确定目标多专家网络层对应的目标前馈神经网络；
[0245]
基于第二向量和目标多专家网络层对应的目标前馈神经网络，得到第三向量；
[0246]
响应于目标多专家网络层为目标语音识别模型的最后一个多专家网络层，将第三向量对应的文本内容确定为语音数据对应的文本内容。
[0247]
在一种可能的实现方式中，处理单元602，用于对语音数据对应的嵌入向量和语音数据对应的第一向量进行拼接，得到语音数据对应的拼接向量；
[0248]
基于语音数据对应的拼接向量和目标语音识别模型的第一个多专家网络层包括的目标路由矩阵，确定第一个多专家网络层包括的多个前馈神经网络分别对应的概率系数。
[0249]
上述装置在语音识别模型的结构中加入共享嵌入式网络，由于共享嵌入式网络本身具有区分性的特征，使得语音识别模型也具有区分性。而且，语音识别模型包括的目标路由矩阵是基于损失函数得到的，使得确定的目标路由矩阵更加准确，提高了语音识别模型
的识别准确性，进而使得使用语音识别模型进行语音识别时得到的文本内容和语音数据的匹配度较高，也即是语音识别的准确性较高。
[0250]
语音识别模型中多专家网络层中包括的前馈神经网络的概率系数基于共享嵌入式网络和目标路由矩阵所确定，使得多专家网络层中包括的前馈神经网络的概率系数的确定更加准确，进而能够进一步提高语音识别模型的识别准确性。
[0251]
图7所示为本技术实施例提供的一种语音识别模型的训练装置的结构示意图，如图7所示，该装置包括：
[0252]
获取单元701，用于获取样本语音数据和初始语音识别模型，初始语音识别模型的结构共享嵌入式网络和前层网络，前层网络包括多专家网络层和自注意神经网络，多专家网络层包括初始路由矩阵和多个前馈神经网络；
[0253]
第一处理单元702，用于对样本语音数据进行处理，得到样本语音数据对应的样本特征向量；
[0254]
第二处理单元703，用于基于共享嵌入式网络对样本特征向量进行处理，得到样本语音数据对应的样本嵌入向量；
[0255]
第一确定单元704，用于基于样本语音数据对应的样本特征向量、样本语音数据对应的样本嵌入向量和初始路由矩阵，确定样本语音数据对应的样本参考向量；
[0256]
第二确定单元705，用于基于样本语音数据对应的样本特征向量和样本语音数据对应的样本参考向量，确定初始语音识别模型对应的损失值；
[0257]
第三确定单元706，用于基于初始语音识别模型对应的损失值，调整初始语音识别模型中的初始路由矩阵，得到目标路由矩阵，将包括目标路由矩阵的语音识别模型确定为目标语音识别模型。
[0258]
在一种可能的实现方式中，第二确定单元705，用于基于样本语音数据对应的样本特征向量和样本语音数据对应的样本参考向量，确定初始语音识别模型对应的时间联结分类损失值；
[0259]
基于样本语音数据对应的样本特征向量，确定初始语音识别模型对应的l1稀疏损失值；
[0260]
基于样本语音数据对应的样本特征向量，确定初始语音识别模型对应的均值重要性损失值；
[0261]
基于初始语音识别模型对应的时间联结分类损失值、初始语音识别模型对应的l1稀疏损失值和初始语音识别模型对应的均值重要性损失值，确定初始语音识别模型对应的损失值。
[0262]
在一种可能的实现方式中，第二确定单元705，用于基于样本语音数据对应的样本特征向量，确定各个多专家网络层对应的第一概率向量；
[0263]
基于各个多专家网络层对应的第一概率向量，确定各个多专家网络层对应的l1稀疏损失值；
[0264]
将各个多专家网络层对应的l1稀疏损失值相加，得到初始语音识别模型对应的l1稀疏损失值。
[0265]
在一种可能的实现方式中，第二确定单元705，用于基于样本语音数据对应的样本特征向量，确定各个多专家网络层分别对应的参考向量；
experts group audio layer iii，动态影像专家压缩标准音频层面3)、mp4(moving picture experts group audio layer iv，动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。电子设备800还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
[0281]
通常，电子设备800包括有：处理器801和存储器802。
[0282]
处理器801可以包括一个或多个处理核心，比如4核心处理器、8核心处理器等。处理器801可以采用dsp(digital signal processing，数字信号处理)、fpga(field－programmable gate array，现场可编程门阵列)、pla(programmable logic array，可编程逻辑阵列)中的至少一种硬件形式来实现。处理器801也可以包括主处理器和协处理器，主处理器是用于对在唤醒状态下的数据进行处理的处理器，也称cpu(central processing unit，中央处理器)；协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中，处理器801可以集成有gpu(graphics processing unit，图像处理器)，gpu用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中，处理器801还可以包括ai(artificial intelligence，人工智能)处理器，该ai处理器用于处理有关机器学习的计算操作。
[0283]
存储器802可以包括一个或多个计算机可读存储介质，该计算机可读存储介质可以是非暂态的。存储器802还可包括高速随机存取存储器，以及非易失性存储器，比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中，存储器802中的非暂态的计算机可读存储介质用于存储至少一个指令，该至少一个指令用于被处理器801所执行以实现本技术中方法实施例提供的语音识别方法、语音识别模型的训练方法。
[0284]
在一些实施例中，电子设备800还可选包括有：外围设备接口803和至少一个外围设备。处理器801、存储器802和外围设备接口803之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口803相连。具体地，外围设备包括：射频电路804、显示屏805、摄像头组件806、音频电路807、定位组件808和电源809中的至少一种。
[0285]
外围设备接口803可被用于将i/o(input/output，输入/输出)相关的至少一个外围设备连接到处理器801和存储器802。在一些实施例中，处理器801、存储器802和外围设备接口803被集成在同一芯片或电路板上；在一些其他实施例中，处理器801、存储器802和外围设备接口803中的任意一个或两个可以在单独的芯片或电路板上实现，本实施例对此不加以限定。
[0286]
射频电路804用于接收和发射rf(radio frequency，射频)信号，也称电磁信号。射频电路804通过电磁信号与通信网络以及其他通信设备进行通信。射频电路804将电信号转换为电磁信号进行发送，或者，将接收到的电磁信号转换为电信号。可选地，射频电路804包括：天线系统、rf收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路804可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于：万维网、城域网、内联网、各代移动通信网络(2g、3g、4g及5g)、无线局域网和/或wifi(wireless fidelity，无线保真)网络。在一些实施例中，射频电路804还可以包括nfc(near field communication，近距离无线通信)有关的电路，本技术对此不加以限定。
[0287]
显示屏805用于显示ui(user interface，用户界面)。该ui可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏805是触摸显示屏时，显示屏805还具有采集在显示屏805的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器801进行处理。此时，显示屏805还可以用于提供虚拟按钮和/或虚拟键盘，也称软按钮和/或软键盘。在一些实施例中，显示屏805可以为一个，设置在电子设备800的前面板；在另一些实施例中，显示屏805可以为至少两个，分别设置在电子设备800的不同表面或呈折叠设计；在另一些实施例中，显示屏805可以是柔性显示屏，设置在电子设备800的弯曲表面上或折叠面上。甚至，显示屏805还可以设置成非矩形的不规则图形，也即异形屏。显示屏805可以采用lcd(liquid crystal display，液晶显示屏)、oled(organic light
‑
emitting diode,有机发光二极管)等材质制备。
[0288]
摄像头组件806用于采集图像或视频。可选地，摄像头组件806包括前置摄像头和后置摄像头。通常，前置摄像头设置在终端的前面板，后置摄像头设置在终端的背面。在一些实施例中，后置摄像头为至少两个，分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种，以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及vr(virtual reality，虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中，摄像头组件806还可以包括闪光灯。闪光灯可以是单色温闪光灯，也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合，可以用于不同色温下的光线补偿。
[0289]
音频电路807可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波，并将声波转换为电信号输入至处理器801进行处理，或者输入至射频电路804以实现语音通信。出于立体声采集或降噪的目的，麦克风可以为多个，分别设置在电子设备800的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器801或射频电路804的电信号转换为声波。扬声器可以是传统的薄膜扬声器，也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时，不仅可以将电信号转换为人类可听见的声波，也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中，音频电路807还可以包括耳机插孔。
[0290]
定位组件808用于定位电子设备800的当前地理位置，以实现导航或lbs(location based service，基于位置的服务)。定位组件808可以是基于美国的gps(global positioning system，全球定位系统)、中国的北斗系统或俄罗斯的伽利略系统的定位组件。
[0291]
电源809用于为电子设备800中的各个组件进行供电。电源809可以是交流电、直流电、一次性电池或可充电电池。当电源809包括可充电电池时，该可充电电池可以是有线充电电池或无线充电电池。有线充电电池是通过有线线路充电的电池，无线充电电池是通过无线线圈充电的电池。该可充电电池还可以用于支持快充技术。
[0292]
在一些实施例中，电子设备800还包括有一个或多个传感器810。该一个或多个传感器810包括但不限于：加速度传感器811、陀螺仪传感器812、压力传感器813、指纹传感器814、光学传感器815以及接近传感器816。
[0293]
加速度传感器811可以检测以电子设备800建立的坐标系的三个坐标轴上的加速度大小。比如，加速度传感器811可以用于检测重力加速度在三个坐标轴上的分量。处理器
801可以根据加速度传感器811采集的重力加速度信号，控制显示屏805以横向视图或纵向视图进行用户界面的显示。加速度传感器811还可以用于游戏或者用户的运动数据的采集。
[0294]
陀螺仪传感器812可以检测电子设备800的机体方向及转动角度，陀螺仪传感器812可以与加速度传感器811协同采集用户对电子设备800的3d动作。处理器801根据陀螺仪传感器812采集的数据，可以实现如下功能：动作感应(比如根据用户的倾斜操作来改变ui)、拍摄时的图像稳定、游戏控制以及惯性导航。
[0295]
压力传感器813可以设置在电子设备800的侧边框和/或显示屏805的下层。当压力传感器813设置在电子设备800的侧边框时，可以检测用户对电子设备800的握持信号，由处理器801根据压力传感器813采集的握持信号进行左右手识别或快捷操作。当压力传感器813设置在显示屏805的下层时，由处理器801根据用户对显示屏805的压力操作，实现对ui界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
[0296]
指纹传感器814用于采集用户的指纹，由处理器801根据指纹传感器814采集到的指纹识别用户的身份，或者，由指纹传感器814根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时，由处理器801授权该用户执行相关的敏感操作，该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器814可以被设置在电子设备800的正面、背面或侧面。当电子设备800上设置有物理按键或厂商logo时，指纹传感器814可以与物理按键或厂商logo集成在一起。
[0297]
光学传感器815用于采集环境光强度。在一个实施例中，处理器801可以根据光学传感器815采集的环境光强度，控制显示屏805的显示亮度。具体地，当环境光强度较高时，调高显示屏805的显示亮度；当环境光强度较低时，调低显示屏805的显示亮度。在另一个实施例中，处理器801还可以根据光学传感器815采集的环境光强度，动态调整摄像头组件806的拍摄参数。
[0298]
接近传感器816，也称距离传感器，通常设置在电子设备800的前面板。接近传感器816用于采集用户与电子设备800的正面之间的距离。在一个实施例中，当接近传感器816检测到用户与电子设备800的正面之间的距离逐渐变小时，由处理器801控制显示屏805从亮屏状态切换为息屏状态；当接近传感器816检测到用户与电子设备800的正面之间的距离逐渐变大时，由处理器801控制显示屏805从息屏状态切换为亮屏状态。
[0299]
本领域技术人员可以理解，图8中示出的结构并不构成对电子设备800的限定，可以包括比图示更多或更少的组件，或者组合某些组件，或者采用不同的组件布置。
[0300]
图9为本技术实施例提供的服务器的结构示意图，该服务器900可因配置或性能不同而产生比较大的差异，可以包括一个或多个处理器(central processing units，cpu)901和一个或多个的存储器902，其中，该一个或多个存储器902中存储有至少一条程序代码，该至少一条程序代码由该一个或多个处理器901加载并执行以实现上述各个方法实施例提供的语音识别方法、语音识别模型的训练方法。当然，该服务器900还可以具有有线或无线网络接口、键盘以及输入输出接口等部件，以便进行输入输出，该服务器900还可以包括其他用于实现设备功能的部件，在此不做赘述。
[0301]
在示例性实施例中，还提供了一种计算机可读存储介质，该存储介质中存储有至少一条程序代码，该至少一条程序代码由处理器加载并执行，以使计算机实现上述任一种
语音识别方法、语音识别模型的训练方法。
[0302]
可选地，上述计算机可读存储介质可以是只读存储器(read
‑
only memory，rom)、随机存取存储器(random access memory，ram)、只读光盘(compact disc read
‑
only memory，cd
‑
rom)、磁带、软盘和光数据存储设备等。
[0303]
在示例性实施例中，还提供了一种计算机程序或计算机程序产品，该计算机程序或计算机程序产品中存储有至少一条计算机指令，该至少一条计算机指令由处理器加载并执行，以使计算机实现上述任一种语音识别方法、语音识别模型的训练方法。
[0304]
应当理解的是，在本文中提及的“多个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在a，同时存在a和b，单独存在b这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
[0305]
上述本技术实施例序号仅仅为了描述，不代表实施例的优劣。
[0306]
以上所述仅为本技术的示例性实施例，并不用以限制本技术，凡在本技术的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本技术的保护范围之内。