← 返回列表
一种2D运动场说话肖像合成方法和装置
摘要文本
本发明提供了一种2D运动场说话肖像合成方法和装置,属于说话肖像合成技术领域。包括:选定高清的HDTF、MEAD数据集和混合质量的AVSpeech数据集作为初始数据集,对初始数据集进行预处理后划分为测试集和训练集;构建运动场说话肖像合成模型,包括人脸编码器、人脸解码器,通过训练集训练运动场说话肖像合成模型,获取性能最优模型;将测试集数据输入到训练完成的运动场说话肖像合成模型,输出合成的说话肖像结果。本发明采用高清且高质量的数据集用于模型的训练,从本质上改善了合成说话肖像的质量问题。提高了人脸编解码网络结构分辨率,产出更高分辨率的说话肖像,实现了大屏上的应用。两个监督策略的引入,丰富了唇形风格,提升了合成说话肖像的效果。
申请人信息
- 申请人:山东浪潮超高清智能科技有限公司
- 申请人地址:250000 山东省济南市自由贸易试验区济南片区浪潮路1036号S06楼北一层西区
- 发明人: 山东浪潮超高清智能科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种2D运动场说话肖像合成方法和装置 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311713173.3 |
| 申请日 | 2023/12/14 |
| 公告号 | CN117745904A |
| 公开日 | 2024/3/22 |
| IPC主分类号 | G06T13/80 |
| 权利人 | 山东浪潮超高清智能科技有限公司 |
| 发明人 | 王宗增; 王培元 |
| 地址 | 山东省济南市自由贸易试验区济南片区浪潮路1036号S06楼北一层西区 |
专利主权项内容
1.一种2D运动场说话肖像合成方法,其特征在于,包括:选定高清的HDTF、MEAD数据集和混合质量的AVSpeech数据集作为初始数据集,对初始数据集进行预处理后划分为测试集和训练集;构建运动场说话肖像合成模型,包括人脸编码器、人脸解码器,所述人脸编码器包括依次串联的9个卷积模块,实现掩码人脸图像和参考人脸图像的特征编码;所述人脸解码器包括人脸解码模块和声音编码模块,所述声音编码模块包括依次串联的6个卷积模块,所述人脸解码模块包括依次串联的9个上采样卷积模块;通过训练集训练运动场说话肖像合成模型,获取性能最优模型;将测试集数据输入到训练完成的运动场说话肖像合成模型,输出合成的说话肖像结果。