本地字幕翻译新突破：专用词表优化实现移动端实时英翻中

近日，arXiv平台发布了一项针对移动设备实时字幕翻译的优化研究。该工作聚焦台湾地区的英译中字幕场景，面临输入输出短、批量大小为1、低延迟及隐私保护等多重约束条件，传统面向长文本或高吞吐的语言模型优化方案在此场景下价值有限。

研究团队以LMT-60-0.6B模型为起点，通过初步性能分析发现，在采用GGUF量化技术降低Transformer模块计算开销后，词汇表投影成为解码阶段的主要耗时环节。为此，研究人员将原15.1万词元的通用词表替换为6.4万词元的字幕领域专用分词器，通过嵌入空间迁移技术保持语义连续性，并采用嵌入校准与全监督微调相结合的方式完成模型适配。

在OpenSubtitles2024测试集的500条固定样本上，优化后的LocalSubs系统在GPT-4o双盲评估中，以59.2%的胜率（平局除外）超越谷歌翻译。性能分析显示，该系统在短字幕场景表现最佳，随着字幕长度增加性能逐渐下降。初步在苹果M2芯片的Metal框架测试表明，采用6.4万词表的模型比15.1万词表基准提速1.63倍。研究人员强调，当前基准测试配置尚不完整，延迟结果仅为初步数据。