基于非自回归方法的维汉神经机器翻译
朱相荣; 王磊; 杨雅婷; 董瑞; 张俊
刊名计算机应用
2020
卷号40期号:7页码:1891-1895
关键词维吾尔语 机器翻译 解码速度 翻译质量 非自回归模型
ISSN号1001-9081
英文摘要

现有的基于循环神经网络、卷积神经网络和Transformer的自回归翻译模型,虽然都具有良好的翻译性能,但由于解码并行性较低导致了翻译速度慢的问题,针对这个问题提出一种基于非自回归模型的优化学习率策略的方法。在基于迭代优化的非自回归序列模型的基础上,改变学习率调节方法,即把warm up替换为liner annealing方法。首先评估出liner annealing优于warm up方法,然后将liner annealing应用于非自回归序列模型以得到翻译质量和解码速度的最优平衡,最后将该方法与自回归模型的方法作对比。实验结果表明该方法相较于自回归模型Transformer,当解码速度提升1. 74倍时,翻译质量的双语评估替换(BLEU)分数值为41. 31,可达到Transformer的95. 34%。由此可见,采用liner annealing的非自回归序列模型,在降低少许翻译质量的条件下,能够有效地提升解码速度,适用于对翻译速度需求迫切的平台。

CSCD记录号CSCD:6766302
内容类型期刊论文
源URL[http://ir.xjipc.cas.cn/handle/365002/7382]  
专题新疆理化技术研究所_多语种信息技术研究室
作者单位1.中国科学院新疆理化技术研究所新疆民族语音语言信息处理实验室
2.中国科学院大学
3.中国科学院新疆理化技术研究所
推荐引用方式
GB/T 7714
朱相荣,王磊,杨雅婷,等. 基于非自回归方法的维汉神经机器翻译[J]. 计算机应用,2020,40(7):1891-1895.
APA 朱相荣,王磊,杨雅婷,董瑞,&张俊.(2020).基于非自回归方法的维汉神经机器翻译.计算机应用,40(7),1891-1895.
MLA 朱相荣,et al."基于非自回归方法的维汉神经机器翻译".计算机应用 40.7(2020):1891-1895.
个性服务
查看访问统计
相关权益政策
暂无数据
收藏/分享
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。


©版权所有 ©2017 CSpace - Powered by CSpace