腾讯混元开源翻译模型1.5,可手机离线部署

新京报贝壳财经讯(记者罗亦丹)12月30日,腾讯混元宣布推出并开源翻译模型1.5,共包含两个模型:Tencent-HY-MT1.5-1.8B 和 Tencent-HY-MT1.5-7B,两个模型均支持 33 个语种互译以及5种民汉/方言,除了中文、英语、日语等常见语种,也包含捷克语、马拉地语、爱沙尼亚语、冰岛语等小语种。模型已在腾讯混元官网上线,通过开源社区也可以直接下载使用。

腾讯方面表示,HY-MT1.5-1.8B主要面向手机等消费级设备场景,经过量化,可支持端侧直接部署和离线实时翻译,1GB内存可流畅运行,并且在参数量极小的前提下,与主流商用翻译模型API对比推理速度更快,处理50个tokens平均耗时0.18秒,其他模型的时间在0.4秒左右。

在部分用户实用场景下,混元翻译1.8B和7B两个尺寸模型同时使用,可以实现端侧和云侧模型的协同部署。

编辑 岳彩周

校对 柳宝庆


nginx