首页 > 乐器声学 专利正文
音频识别方法、音频识别模型训练方法、装置、电子设备与流程

时间:2022-02-15 阅读: 作者:专利查询

音频识别方法、音频识别模型训练方法、装置、电子设备与流程

1.本公开涉及数据处理技术领域,尤其涉及音频处理与深度学习技术领域,具体涉及一种音频数据识别方法、音频数据识别模型的训练方法、装置、电子设备、计算机可读存储介质和计算机程序产品。


背景技术:

2.在很多场景中需要对音频进行识别与分类,例如对音频来源进行分类、对音频是否是攻击性音频进行检测、对音频特征是否与期望特征匹配进行比对等。在对音频进行分类的过程中,需要对音频的特征进行提取。期望一种能够有效地提取音频特征进而对音频进行准确识别的方法。
3.在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有指明,否则此部分中提及的问题不应认为在任何现有技术中已被公认。


技术实现要素:

4.本公开提供了一种音频数据识别方法、音频数据识别模型的训练方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
5.根据本公开的一方面,提供了一种音频数据识别方法,包括:获取待识别音频数据;使用n个参数集分别对待识别音频数据进行特征提取,以获得待识别音频数据的n个特征数据,其中,n个参数集中的每个参数集分别与不同的频率范围相关联,n为大于1的正整数;以及基于n个特征数据对待识别音频数据进行分类。
6.根据本公开的另一方面,提供了一种音频数据识别模型的训练方法,音频数据识别模型包括m个特征提取子网络和与m个特征提取子网络的每个特征提取子网络的输出端连接的分类子网络,m为大于1的正整数,方法包括:获取样本音频数据和样本音频数据的真实标签;将样本音频数据输入m个特征提取子网络中的每个特征提取子网络,以获取针对样本音频数据的m个特征数据;将m个特征数据输入分类子网络以获取样本音频数据的预测标签;基于真实标签和预测标签,计算损失函数;以及基于损失函数,调整音频数据识别模型的参数。
7.根据本公开的另一方面,提供了一种音频数据识别装置,包括:音频数据获取单元,用于获取待识别音频数据;特征提取单元,用于使用n个参数集分别对待识别音频数据进行特征提取,以获得待识别音频数据的n个特征数据,其中,n个参数集中的每个参数集分别与不同的频率范围相关联,n为大于1的正整数;以及分类单元,用于基于n个特征数据对待识别音频数据进行分类。
8.根据本公开的另一方面,提供了一种音频数据识别模型的训练装置,音频数据识别模型包括m个特征提取子网络和与m个特征提取子网络的每个特征提取子网络的输出端连接的分类子网络,m为大于1的正整数,训练装置包括:样本获取单元,用于获取样本音频
数据和样本音频数据的真实标签;特征提取单元,用于将样本音频数据输入m个特征提取子网络中的每个特征提取子网络,以获取针对样本音频数据的m个特征数据;分类单元,用于将m个特征数据输入分类子网络以获取样本音频数据的预测标签;损失函数计算单元,用于基于真实标签和预测标签,计算损失函数;以及参数调整单元,用于基于损失函数,调整音频数据识别模型的参数。
9.根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行根据本公开的一个或多个实施例的音频数据识别方法或音频数据识别模型的训练方法。
10.根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据本公开的一个或多个实施例的音频数据识别方法或音频数据识别模型的训练方法。
11.根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,其中,所述计算机程序在被处理器执行时实现根据本公开的一个或多个实施例的音频数据识别方法或音频数据识别模型的训练方法。
12.根据本公开的一个或多个实施例,可以实现更好的音频特征提取,从而实现更好的音频识别效果。
13.应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
14.附图示例性地示出了实施例并且构成说明书的一部分,与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的,并不限制权利要求的范围。在所有附图中,相同的附图标记指代类似但不一定相同的要素。
15.图1示出了根据本公开的实施例的可以在其中实施本文描述的各种方法的示例性系统的示意图;
16.图2示出了根据本公开的实施例的音频数据识别方法的流程图;
17.图3示出了根据本公开的实施例的音频数据识别模型的训练方法的流程图;
18.图4a示出了根据本公开的实施例的方法可以适用于的音频数据识别模型的示意图;
19.图4b示出了根据本公开的实施例的方法可以适用于的音频数据识别模型的另一个示意图;
20.图5示出了根据本公开的实施例的音频数据识别装置的结构框图;
21.图6示出了根据本公开的实施例的音频数据识别模型的训练装置的结构框图;
22.图7示出了能够用于实现本公开的实施例的示例性电子设备的结构框图。
具体实施方式
23.以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识
到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
24.在本公开中,除非另有说明,否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系,这种术语只是用于将一个元件与另一元件区分开。在一些示例中,第一要素和第二要素可以指向该要素的同一实例,而在某些情况下,基于上下文的描述,它们也可以指代不同实例。
25.在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的,而并非旨在进行限制。除非上下文另外明确地表明,如果不特意限定要素的数量,则该要素可以是一个也可以是多个。此外,本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。
26.下面将结合附图详细描述本公开的实施例。
27.图1示出了根据本公开的实施例可以将本文描述的各种方法和装置在其中实施的示例性系统100的示意图。参考图1,该系统100包括一个或多个客户端设备101、102、103、104、105和106、服务器120以及将一个或多个客户端设备耦接到服务器120的一个或多个通信网络110。客户端设备101、102、103、104、105和106可以被配置为执行一个或多个应用程序。
28.在本公开的实施例中,服务器120可以运行使得能够执行音频数据识别方法或音频数据识别模型的训练方法的一个或多个服务或软件应用。
29.在某些实施例中,服务器120还可以提供可以包括非虚拟环境和虚拟环境的其他服务或软件应用。在某些实施例中,这些服务可以作为基于web的服务或云服务提供,例如在软件即服务(saas)模型下提供给客户端设备101、102、103、104、105和/或106的用户。
30.在图1所示的配置中,服务器120可以包括实现由服务器120执行的功能的一个或多个组件。这些组件可以包括可由一个或多个处理器执行的软件组件、硬件组件或其组合。操作客户端设备101、102、103、104、105和/或106的用户可以依次利用一个或多个客户端应用程序来与服务器120进行交互以利用这些组件提供的服务。应当理解,各种不同的系统配置是可能的,其可以与系统100不同。因此,图1是用于实施本文所描述的各种方法的系统的一个示例,并且不旨在进行限制。
31.用户可以使用客户端设备101、102、103、104、105和/或106来识别音频数据、训练音频数据识别模型、输入音频、与音频识别结果进行交互等。客户端设备可以提供使客户端设备的用户能够与客户端设备进行交互的接口。客户端设备还可以经由该接口向用户输出信息。尽管图1仅描绘了六种客户端设备,但是本领域技术人员将能够理解,本公开可以支持任何数量的客户端设备。
32.客户端设备101、102、103、104、105和/或106可以包括各种类型的计算机设备,例如便携式手持设备、通用计算机(诸如个人计算机和膝上型计算机)、工作站计算机、可穿戴设备、智能屏设备、自助服务终端设备、服务机器人、游戏系统、瘦客户端、各种消息收发设备、传感器或其他感测设备等。这些计算机设备可以运行各种类型和版本的软件应用程序和操作系统,例如microsoft windows、apple ios、类unix操作系统、linux或类linux操作系统(例如google chrome os);或包括各种移动操作系统,例如microsoft windows mobile os、ios、windows phone、android。便携式手持设备可以包括蜂窝电话、智能电话、
平板电脑、个人数字助理(pda)等。可穿戴设备可以包括头戴式显示器(诸如智能眼镜)和其他设备。游戏系统可以包括各种手持式游戏设备、支持互联网的游戏设备等。客户端设备能够执行各种不同的应用程序,例如各种与internet相关的应用程序、通信应用程序(例如电子邮件应用程序)、短消息服务(sms)应用程序,并且可以使用各种通信协议。
33.网络110可以是本领域技术人员熟知的任何类型的网络,其可以使用多种可用协议中的任何一种(包括但不限于tcp/ip、sna、ipx等)来支持数据通信。仅作为示例,一个或多个网络110可以是局域网(lan)、基于以太网的网络、令牌环、广域网(wan)、因特网、虚拟网络、虚拟专用网络(vpn)、内部网、外部网、公共交换电话网(pstn)、红外网络、无线网络(例如蓝牙、wifi)和/或这些和/或其他网络的任意组合。
34.服务器120可以包括一个或多个通用计算机、专用服务器计算机(例如pc(个人计算机)服务器、unix服务器、中端服务器)、刀片式服务器、大型计算机、服务器群集或任何其他适当的布置和/或组合。服务器120可以包括运行虚拟操作系统的一个或多个虚拟机,或者涉及虚拟化的其他计算架构(例如可以被虚拟化以维护服务器的虚拟存储设备的逻辑存储设备的一个或多个灵活池)。在各种实施例中,服务器120可以运行提供下文所描述的功能的一个或多个服务或软件应用。
35.服务器120中的计算单元可以运行包括上述任何操作系统以及任何商业上可用的服务器操作系统的一个或多个操作系统。服务器120还可以运行各种附加服务器应用程序和/或中间层应用程序中的任何一个,包括http服务器、ftp服务器、cgi服务器、java服务器、数据库服务器等。
36.在一些实施方式中,服务器120可以包括一个或多个应用程序,以分析和合并从客户端设备101、102、103、104、105和106的用户接收的数据馈送和/或事件更新。服务器120还可以包括一个或多个应用程序,以经由客户端设备101、102、103、104、105和106的一个或多个显示设备来显示数据馈送和/或实时事件。
37.在一些实施方式中,服务器120可以为分布式系统的服务器,或者是结合了区块链的服务器。服务器120也可以是云服务器,或者是带人工智能技术的智能云计算服务器或智能云主机。云服务器是云计算服务体系中的一项主机产品,以解决传统物理主机与虚拟专用服务器(vps,virtual private server)服务中存在的管理难度大、业务扩展性弱的缺陷。
38.系统100还可以包括一个或多个数据库130。在某些实施例中,这些数据库可以用于存储数据和其他信息。例如,数据库130中的一个或多个可用于存储诸如音频文件和视频文件的信息。数据库130可以驻留在各种位置。例如,由服务器120使用的数据库可以在服务器120本地,或者可以远离服务器120且可以经由基于网络或专用的连接与服务器120通信。数据库130可以是不同的类型。在某些实施例中,由服务器120使用的数据库例如可以是关系数据库。这些数据库中的一个或多个可以响应于命令而存储、更新和检索到数据库以及来自数据库的数据。
39.在某些实施例中,数据库130中的一个或多个还可以由应用程序使用来存储应用程序数据。由应用程序使用的数据库可以是不同类型的数据库,例如键值存储库,对象存储库或由文件系统支持的常规存储库。
40.图1的系统100可以以各种方式配置和操作,以使得能够应用根据本公开所描述的
各种方法和装置。
41.下面参考图2描述根据本公开的示例性实施例的音频数据识别方法200。
42.在步骤s201处,获取待识别音频数据。
43.在步骤s202处,使用n个参数集分别对待识别音频数据进行特征提取,以获得待识别音频数据的n个特征数据,其中,n个参数集中的每个参数集分别与不同的频率范围相关联,n为大于1的正整数。
44.在步骤s203处,基于n个特征数据对待识别音频数据进行分类。
45.根据本公开的实施例所述的方法,能够更加准确地识别音频数据。具体地,通过使用至少两个不同的参数集分别对音频数据执行特征提取,能够更好地涵盖音频数据中与不同频率范围相关联的特征,实现更好的音频特征提取,从而实现更好的音频识别效果。
46.待识别音频数据可以是音频的原始时域波形或者时域波形的片段。从时域波形中提取音频特征可以减少信息丢失,提高音频识别效果。
47.根据一些实施例,获取待识别音频数据可以包括:获取原始音频数据,并且响应于确定原始音频数据的时间长度大于长度阈值,使用长度阈值对原始音频数据进行截取,以获得待识别音频数据,其中,待识别音频数据的时间长度等于长度阈值。由此,可以将过长的音频进行截取以获得时间长度规整的输入数据。
48.作为示例,长度阈值可以是0.5s、1s、4s、10s等,但本领域技术人员将理解,本公开不限于此,并且其他与音频特征相适应的时间长度也可以适用于本公开所述的方法。
49.作为一个示例,切割的音频长度可以根据任务需求以及“运算速度与包含内容量的均衡”来确定。例如,太长的话运算速度会很慢,太短则音频包含的内容可能并不足以作为分类的基准。例如,在需要识别的音频长度往往较短、识别音频所需要的实时性很强、和/或音频数据包含的数据往往比较明显的情况下,可以选用更短的长度阈值例如0.2s、0.02s、0.002s等等。又例如,在需要识别的音频一般具有较长的长度、需要较低的实时性要求、或者音频数据包含的数据往往不太清晰所以需要更长的音频进行分析的情况下,可以选用更长的长度阈值例如20s、60s、120s等等。作为一个具体的非限制性示例,在音频识别任务是防录音攻击的情况下,短于2s的音频可能不足以包含人类的声音或者攻击的特征,因此可以选取3秒到5秒(例如4秒)的时间长度,并且可以理解,本公开不限于此。
50.根据一些实施例,获取待识别音频数据可以包括:获取原始音频数据,并且响应于确定原始音频数据的时间长度小于长度阈值,复制原始音频数据直至经复制的原始音频数据的时间长度不小于长度阈值;并且使用长度阈值对经复制的原始音频数据进行截取,以获得待识别音频数据,其中,待识别音频数据的时间长度等于长度阈值。由此,也可以将过短的音频进行复制并截取以获得时间长度规整的输入数据。
51.根据一些可选实施例,对音频数据进行特征提取和分类可以通过音频数据识别模型来实现。根据另外的实施例,对音频数据进行特征提取和分类可以通过本领域技术人员已知的其他特征提取手段和分类手段来实现。可以理解的是,本公开不限于此。
52.下面参考图3描述根据本公开的另一实施例的音频数据识别模型的训练方法300。音频数据识别模型可以包括m个特征提取子网络和与m个特征提取子网络的每个特征提取子网络的输出端连接的分类子网络,其中m为正整数。
53.在步骤301处,获取样本音频数据和样本音频数据的真实标签。
54.在步骤302处,将样本音频数据输入m个特征提取子网络中的每个特征提取子网络,以获取针对样本音频数据的m个特征数据。
55.在步骤303处,将m个特征数据输入分类子网络以获取样本音频数据的预测标签。
56.在步骤304处,基于真实标签和预测标签,计算损失函数。
57.在步骤305处,基于损失函数,调整音频数据识别模型的参数。
58.根据本公开的实施例所述的方法,能够更加准确地识别音频数据。具体地,通过使用至少两个不同的分类子网络分别对音频数据执行特征提取,能够实现更好的音频特征提取,从而这样训练出的模型能够实现更好的音频识别效果。
59.根据一些实施例,m个特征提取子网络中的每个特征提取子网络分别基于m个滤波参数集中的相应的滤波参数集被初始化,m个滤波参数集中的每个滤波参数集包括上限截止频率和下限截止频率。在这样的实施例中,能够通过利用滤波参数对特征提取子网络进行初始化,实现更快的模型学习过程和更好的收敛效果。
60.下面参照图4a来描述根据本公开的实施例的方法可以适用于的模型400的示意图。在图4a中示出了模型400可以包括m个特征提取子网络410

1、410
‑2……
410

m和分类子网络420。模型400还可以包括可选的特征整合部以用于将从m个特征提取子网络获得的m个特征数据进行整合,但可以理解的是此处仅为示例,m个特征数据可以直接输入到分类子网络的输入端中而不需要额外的特征整合部,或者分类子网络自身可以具有对特征进行整合的单元或一个或多个层(例如一个或多个残差块等)。
61.可以理解的是,虽然图4a示出了模型400包括至少3个特征提取子网络,但这样的模型也可以更多的或更少的特征提取子网络。例如,模型400可以只包括一个特征提取子网络(m=1)。在下文中,为了方便而整体叙述为m个特征提取子网络410

1、410
‑2……
410

m的特征提取部分可以只包括一个或两个子网络,或者可以包括更多(例如,几十个)子网络。m值的选取将在下面结合具体实施例进行更详细的描述,并且本公开不限于此。
62.信号与系统理论中,需要通过滤波器在时域上进行卷积操作来提取信号特征。在这里,可以近似利用神经网络的卷积层来模拟滤波器的卷积,利用传统滤波器参数来初始化神经网络参数。这样,相当于神经网络的初始状态就已经是借鉴了滤波器经验公式的较好的状态,由此能够极大降低学习成本。具体地,采用预设的滤波器的上下限频率计算滤波器参数,例如通过代入滤波器公式进行计算,并且将这样的参数作为神经网络的初始参数,能够极大地利用传统经验公式或传统理论中现有的滤波器参数的优点,为模型获得相对较好的初始参数,因此训练过程快,并且能获得更好的收敛值。
63.在信号与系统与音频处理领域,在频域上进行相乘操作对应于在时域进行卷积操作。假设在频域上的滤波器在时域上的函数为g[n,θ],则对于输入信号,x[n]经过该滤波器滤波之后的信号为:
[0064]
y[n]=x[n]*g[n,θ]
[0065]
其中n表示信号的时间,在离散信号的情况下是归一化的无单位时间序号,*表示卷积操作,并且θ为泛化的滤波器的参数集合,可以包括滤波器公式中除了n之外的所有可能的参数,并且可以包括一个或多个或零个参数。
[0066]
可以使用滤波器g[n,θ]进行滤波得到传统的特征,之后将提取的传统特征送入后端的分类器。进一步,为了利用卷积神经网络cnn的强大的特征提取能力并且尽量减少信息
丢失(例如,频谱泄漏),可以采用cnn作为特征提取子网络部分,借助cnn强大的能力学习特征来实现特征提取。在这个过程中,可以g[n,θ]作为cnn网络的初始化参数。继续参考图4a,其中m个特征提取子网络410

1、410
‑2……
410

m可以是m个cnn。样本音频数据可以是时序数据,并且具体地,可以是音频的时域波形或者离散的时域信号等,或者其他本领域人员能够理解的原始或经处理的音频信号或音频数据。
[0067]
后端的分类器可以使用rnn或者cnn或其他网络。作为一个示例,可以使用cnn提取特征,之后使用残差块(residual block)模块对音频特征进行整合,使得音频的特征更具有区分性,最后将残差块模块整合后的特征融入到rnn网络,利用rnn对时间序列建模的能力,得到音频级别特征。作为一个更具体的非限制性示例,后端分类器可以使用门控循环单元(gate recurrent unit,gru),但是本领域技术人员将理解,本公开不限于此。
[0068]
下面参照图4b结合一个更具体的非限制性示例模型4200来描述音频识别模型的工作过程。针对采样频率是16k、最高频率是8000hz的音频,并且阈值长度设置为4s,则共有16000*4=64000个样本点。在这种情况下每个对应滤波网络4211、4212
……
421m的带宽是8000/m(hz)。作为一个示例,每个滤波网络4211、4212
……
421m可以是维度为(129,0,128)的cnn网络。
[0069]
可以在特征提取子网络之后布置池化层4220,例如批标准化(batch norm)与泄漏(leaky)relu函数的最大池化层以通过池化来提取每个特征上最大的特征点。例如,池化系数为3,则此时数据维度可以计算为(64000

128)/3=21900。
[0070]
还可以在神经网络中设置残差块来进一步降低数据维度。作为一个示例,可以在模型中设置第一残差网络4230,其通道数为128,步长(stride)为1。由此,数据维度可以计算为21290/3=7096。之后,可以对数据进行特征图缩放处理。一种可能的实施方式是,对于每一个特征s经过softmax函数得到对应的系数c,然后通过s’=c*s+c来计算更新后的特征s’。类似地,可以设置两个第一残差网络4230(未示出),并且经过第二个第二残差网络之后,维度可以被进一步降低为7096/3=2365。
[0071]
还可以设置更多的残差块来进一步降维。作为一个示例,如图4b所示,设置4个相同的第二残差网络4240,每个网络的通道为512,步长为1,则维度可以进一步被降低为2365/3/4=29。经降维后的数据可以被输入到门控循环单元(gru)4250以综合整个音频的信息。最后,经过全连接层4260以进行线性变换。
[0072]
可以理解的是,以上结合图4b描述的模块数量、模块名称与划分方法以及音频数据的参数等均为示例,并且本公开不限于此。
[0073]
根据一些实施例,m个滤波参数集可以是通过以下步骤设置的:获取预定频率范围;将预定频率范围划分为m个连续的子频带;并且将m个连续的子频带中的每个子频带的下限频率和上限频率设置为对应的滤波参数集中的下限截止频率(记为f1)和上限截止频率(记为f2)。由此,使用覆盖全频率的滤波参数初始化网络,这样训练得到的神经网络能够更好地覆盖神经网络的各种特征。
[0074]
例如,在总频带范围包括0

8k hz的频率范围,并且设置m=8个滤波器的滤波方案,即有8个特征提取子网络(例如,8个cnn)。在这种情况下,作为一个示例性的频率均分方案,每个频带的起始和终点可以分别为0

1k、1k

2k
……
等等。在这样的情况下,可以在每个频段设置一个cnn作为滤波器来提取该频段内的特征。
[0075]
滤波器或特征提取子网络的的数量可以根据经验、准确度要求、系统算力等来设定。例如,较小的m值(或者m=1,也即不划分频带)会导致较大的频带区间和较简单的系统架构与计算速度;较大的m值(例如,十几、几十甚至几百)可以导致更为精细的区间粒度和更准确的效果;但是在m值过大的情况下,也可能会导致较慢的计算速度,或者由于每个区间的信息太少而不足以表征这个音频的特征导致随着m值的增加准确性不会继续上升。作为一个示例,对于8k采样率可以设置10个、20个或40个频带等,并且本领域技术人员可以理解,本公开不限于此。
[0076]
可以理解的是,频带的划分可以是均分也可以是不均分,这可以取决于不同的滤波器类型或滤波器公式而定。例如,对于矩形滤波器参数,可以采用频带均分的划分方式,但是对于其他滤波器公式(例如梅尔滤波器)时,也可以采用不均分的划分方案。可以理解的是,本公开不限于此。
[0077]
下面采用矩形滤波器作为示例描述根据本公开的可选实施例的方法。可以理解的是,这样的滤波器参数仅为示例,并且信号与系统处理领域的其他滤波公式也可以适用于根据本公开的实施例的音频识别模型的初始化与训练。根据一些实施例,m个滤波参数集中的每个滤波参数集可以对应于频域上的矩形滤波器的参数,并且其中,将预定频率范围划分为m个连续的子频带可以包括对预定频率范围进行均分以获得m个相同宽度的子频带。对于矩形滤波器,根据信号领域的经验公式,适用于频率均分方案。
[0078]
对于经划分后频率范围记为[f1,f2]的每一个频段分别设置神经网络的初始化参数。在频域添加矩形滤波器对应于时域的sinc函数。下面给出一个对应于时域sinc函数的滤波参数的示例:
[0079]
g[n,f1,f2]=2f2sinc(2πf2n)

2f1sinc(2πf1n)
[0080]
由此,可以使用由此计算出的g[n,f1,f2]对特征提取子网络的权重进行初始化。作为一个示例,可以使用上述函数中的参数对神经网络的第一层进行初始化,而后面的层可以进行随机初始化。之后,可以对这样的模型进行训练,使得对应于滤波器的卷积核可以不断更新,学习到适合所需任务的卷积核参数。
[0081]
根据一些实施例,样本音频数据的真实标签可以包括样本数据是真实人声或机器生成的音频的标签。这样训练出的模型能够实现语音活体识别,防止录音攻击。录音防攻击系统需要确保声纹系统接收到的音频是真实人声音频,保证声纹系统的安全性。可以理解的是,此处的应用仅为一个示例,这样的训练方法和训练模型可以应用到其他目的的语音的识别、分类等领域中。
[0082]
进一步,为了减少或防止频谱泄漏以获得更好的特征提取效果,根据一些实施例,n个滤波参数集中的每个滤波参数集可以对应于经加窗处理的滤波器的参数集。继续上文中矩形滤波器的示例,用于初始化的加窗之后的滤波器参数公式可以如下所示
[0083]
g
w
[n,f1,f2]=g[n,f1,f2]
·
w[n]
[0084]
其中w[n]是窗函数。作为一个示例,可以采用如下所示的汉明窗函数,
[0085][0086]
其中,n表示时间,l表示卷积核的长度。
[0087]
在这样的实施例中,可以使用由此计算出的g
w
[n,f1,f2]对特征提取子网络的权重
进行初始化,例如对神经网络的第一层进行初始化等。可以理解的是,以上的滤波器类型、窗函数类型和滤波器公式均为示例,本领域人员将能理解,其他与滤波与特征提取相关的参数集也可以用来对根据本公开的实施例的特征提取子网络进行初始化并且获得比随机初始化更好的效果。
[0088]
根据一些实施例,获取样本音频数据可以包括:获取原始音频数据;并且响应于确定原始音频数据的时间长度大于样本长度阈值,使用样本长度阈值对原始音频数据进行截取,以获得至少一个样本音频数据,其中,至少一个样本音频数据中的每个样本音频数据的时间长度等于样本长度阈值。根据一些实施例,获取样本音频数据可以包括:获取原始音频数据;响应于确定原始音频数据的时间长度小于样本长度阈值,复制原始音频数据直至经复制的原始音频数据的时间长度不小于样本长度阈值;并且使用样本长度阈值对经复制的原始音频数据进行截取,以获得样本音频数据,其中,样本音频数据的时间长度等于样本长度阈值。由此,能够处理样本以获得规整的样本长度。神经网络的输入往往是固定长度的数据,因此在实际训练和测试中,需要将长于该长度的数据进行截取,短于该长度的自我复制并截取。如前所述,样本长度阈值可以根据模型将要用于的任务需求以及“运算速度与包含内容量的均衡”来确定。作为示例,长度阈值可以是0.5s、1s、4s、10s等。
[0089]
作为一个具体的非限制性示例,在样本长度阈值是4秒的情况下,方法可以包括首先对音频进行切分,如果音频长度大于4秒长度,那么将所有的音频切割成每4秒一个片段;如果音频小于4s,那么对音频从头开始复制,复制完成后从复制后的音频中截取4s长度的音频。
[0090]
根据本公开的一个或多个实施例,模型可以是二分类模型,利用人工标注的真假样本(例如,在录音防攻击或者活体识别的情况下,分别标注为攻击音频和真实人声的样本)来训练,并且损失函数可以设计为交叉熵函数。
[0091]
根据本公开的一个或多个实施例,可以首先获取音频数据,对时序的音频数据进行切分和补齐到预定长度;并且根据需要设置滤波器的数目n,根据滤波器的数目n与采样率,计算得到每一个频带的上下限截止频率f1和f2,之后根据上下限截止f1和f2计算每个滤波器的参数集也即每个特征提取子网络的初始化参数。之后,使用该参数初始化每个特征提取子网络(例如cnn)。在模型搭建与初始化完成后,利用样本进行训练,并且之后,可以对模型进行测试。测试的时候,也可以将每个音频规整到预定长度(例如,4s长度)。训练与测试完成后,可以使用训练好的模型进行判断。例如,在使用样本音频数据的真实标签真实人声或机器生成的音频的标签的情况下,训练好的模型可以将概率大的判决为真实人声,概率小的判决为攻击音频。
[0092]
现在参考图5描述根据本公开的实施例的音频数据识别装置500。音频数据识别装置500可以包括音频数据获取单元501、特征提取单元502、分类单元503。音频数据获取单元501用于获取待识别音频数据。特征提取单元502用于使用n个参数集分别对待识别音频数据进行特征提取,以获得待识别音频数据的n个特征数据,其中,n个参数集中的每个参数集分别与不同的频率范围相关联,n为大于1的正整数。分类单元503用于基于n个特征数据对待识别音频数据进行分类。
[0093]
根据本公开的实施例的装置,能够更加准确地识别音频数据。
[0094]
现在参考图6描述根据本公开的实施例的音频数据识别模型的训练装置600。音频
数据识别模型可以包括m个特征提取子网络和与m个特征提取子网络的每个特征提取子网络的输出端连接的分类子网络,m为大于1的正整数。音频数据识别模型的训练装置600可以包括样本获取单元601、特征提取单元602、分类单元603、损失函数计算单元604、参数调整单元605。样本获取单元601用于获取样本音频数据和样本音频数据的真实标签。特征提取单元602用于将样本音频数据输入m个特征提取子网络中的每个特征提取子网络,以获取针对样本音频数据的m个特征数据。分类单元603用于将m个特征数据输入分类子网络以获取样本音频数据的预测标签。损失函数计算单元604用于基于真实标签和预测标签,计算损失函数。参数调整单元605用于基于损失函数,调整音频数据识别模型的参数。在这样的实施例中,m个特征提取子网络中的每个特征提取子网络分别基于m个滤波参数集中的相应的滤波参数集被初始化,并且m个滤波参数集中的每个滤波参数集包括上限截止频率和下限截止频率。
[0095]
根据本公开的实施例所述的装置,能够通过利用滤波参数对特征提取子网络进行初始化,实现更快的模型学习过程和更好的收敛效果。
[0096]
本公开的技术方案中,所涉及的用户个人信息的收集、获取,存储、使用、加工、传输、提供和公开应用等处理,均符合相关法律法规的规定,且不违背公序良俗。
[0097]
根据本公开的实施例,还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
[0098]
参考图7,现将描述可以作为本公开的服务器或客户端的电子设备700的结构框图,其是可以应用于本公开的各方面的硬件设备的示例。电子设备旨在表示各种形式的数字电子的计算机设备,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
[0099]
如图7所示,设备700包括计算单元701,其可以根据存储在只读存储器(rom)702中的计算机程序或者从存储单元708加载到随机访问存储器(ram)703中的计算机程序,来执行各种适当的动作和处理。在ram 703中,还可存储设备700操作所需的各种程序和数据。计算单元701、rom 702以及ram 703通过总线704彼此相连。输入/输出(i/o)接口705也连接至总线704。
[0100]
设备700中的多个部件连接至i/o接口705,包括:输入单元706、输出单元707、存储单元708以及通信单元709。输入单元706可以是能向设备700输入信息的任何类型的设备,输入单元706可以接收输入的数字或字符信息,以及产生与电子设备的用户设置和/或功能控制有关的键信号输入,并且可以包括但不限于鼠标、键盘、触摸屏、轨迹板、轨迹球、操作杆、麦克风和/或遥控器。输出单元707可以是能呈现信息的任何类型的设备,并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。存储单元708可以包括但不限于磁盘、光盘。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据,并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信收发机和/或芯片组,例如蓝牙tm设备、1302.11设备、wifi设备、wimax设备、蜂窝通信设备和/或类似物。
[0101]
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理,例如方法200和/或300及其变型例等。例如,在一些实施例中,方法200和/或300及其变型例等可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由rom 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到ram 703并由计算单元701执行时,可以执行上文描述的方法200和/或300及其变型例等的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行方法200和/或300及其变型例等。
[0102]
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、复杂可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
[0103]
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
[0104]
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd

rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
[0105]
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
[0106]
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据
服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)和互联网。
[0107]
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端

服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
[0108]
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行、也可以顺序地或以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
[0109]
虽然已经参照附图描述了本公开的实施例或示例,但应理解,上述的方法、系统和设备仅仅是示例性的实施例或示例,本发明的范围并不由这些实施例或示例限制,而是仅由授权后的权利要求书及其等同范围来限定。实施例或示例中的各种要素可以被省略或者可由其等同要素替代。此外,可以通过不同于本公开中描述的次序来执行各步骤。进一步地,可以以各种方式组合实施例或示例中的各种要素。重要的是随着技术的演进,在此描述的很多要素可以由本公开之后出现的等同要素进行替换。