微信翻译大型翻车现场?机器翻译到底有哪些不确定性

本文主要是介绍微信翻译大型翻车现场?机器翻译到底有哪些不确定性,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

bb

大数据文摘出品

作者:蒋宝尚、Andy

这两天,微信翻译团队难得的上了次热搜。

bb

事情的发展是这样的。有网友发现,当翻译中带有caixukun的人名拼音时,微信翻译会出现一些奇怪的中文词语,比如?

bb

之后,不仅人名测试开始一发不可收拾,网友们纷纷出动,想要寻找微信翻译的其他彩蛋?

bb

bb

网友们因此大为惊奇,玩得不亦乐乎,以至于这个话题被推上了热搜。

针对相关问题,腾讯微信团队昨天也做出了回应,强调这不是暖心的彩蛋,是翻译引擎在翻译一些没有进行过训练的非正式英文词汇时出现误翻。


bb

文摘菌今天早上进行测试,发现微信团队已经修复了bug,已无误翻的情况,但是,带有人名的句子在翻译中会直接全句copy下来。

bb

微信翻译BUG都是算法的锅?

那么,真的像微信翻译团队所说,这一翻译车祸现场都是算法的锅吗?

文摘菌咨询了自然语言处理领域的两位专家,他们表示,算法上当然也有问题,但是,更大的问题可能在于训练语料。

目前,机器翻译领域主要使用的NMT架构都差不多,一方面问题出在解码器语言模型,使用的语料让它学习到了这些最大概率出现的词。

微信团队在处理的过程中似乎没有对“特殊情况”进行处理,更准确来说,模型没有添加copy机制,无论输出的英文“单词”多么奇形怪状,模型都会遵守最大概率原则对单词进行翻译。

如果添加了特殊词的copy机制,完全可以把无法翻译的单词不进行翻译,直接copy过去。

也就是说,一个聪明的模型应该知道哪些应该翻译,哪些不应该翻译,微信团队做的这只AI显然不够聪明。

从目前微信的修复结果全局copy来看,微信团队似乎已经重新设置了这一机制,对于敏感词“caixukun”或者句式“you are so……”进行原句返回。

另一方面,问题可能更多出现在语料库上,现在业界所做的机器翻译很大程度上靠语料“怼”,只要平行语料数量足够多,质量足够好, 其实一般的系统也可以训练出很好的结果。

之前在知乎上就有一个问题询问微信翻译团队如何设置,根据自称团队成员”LynnCui“的爆料,微信翻译是由微信后台一小撮不到10人的工程师团队从零折腾出来的引擎完成翻译的。

bb

嗯~语料库、算法、不到10人......根据这些线索,文摘菌猜测微信翻译出现这种问题的原因是:训练语料。如果训练语料多来自相对便宜的电影字幕、多语言会议等材料,那么模型最终呈现的翻译内容也会相对应比较“活泼”和“口语化”。

而在面对库中不存在的词,比如caixunkun,算法会自动匹配最经常出现,或者在同语境下最容易匹配的内容,比如形容词“帅哥”、“傻蛋”。

那么,经过这一乌龙事件,微信团队是否会真的重视起翻译产品,然后重金重制语料库呢?我们拭目以待。

谷歌相关事件

其实相关翻译乌龙并不只有微信出现过,翻译领域的先驱谷歌也有过类似的事件。

之前外媒Motherboard有整理来自Reddit论坛的帖子发现,谷歌翻译在学习的过程中可能受到了输入来源的影响,竟将一些意味不明的语句翻译成了如圣经一般的语言。

bb


比如,若用户将翻译设置为从毛利语翻译成英语,之后输入一长串的“dog”(英文意为“狗”),最后会得出这样的结果。

翻译出来的英文大意为:

世界末日时钟在12点3分钟,我们正在经历世界上的人物和戏剧性的发展,这表明我们越来越接近末日和耶稣的回归。

哈佛大学助理教授,研究自然语言处理和计算机翻译的Andrew Rush认为,这些神秘的翻译结果可能和谷歌几年前采用的“神经机器翻译”技术有关。他表示,在神经机器翻译中,系统训练用了一种语言的大量文本来和另一种语言进行相应翻译,以在两者之间创建模型。但当输入的是无意义内容时,系统就会出现“幻觉性”的输出结果。

由于谷歌这一学习系统的原因,类似的翻译结果层出不穷。据悉,在设置从索马里语言翻译成英语的时候,谷歌有时翻译也会念起“圣经”,比如下面这个例子。

bb

其大意为:

因为上帝的名字是用希伯来语写的,所以用希伯来民族的语言写成。

机器翻译有哪些不确定性?

八卦归八卦,热搜归热搜。吃完瓜,文摘菌还是要跟各位强调,到底如何避免机器翻译的车祸现场。

让我们先从NMT的诞生讲起。

2013 年,Nal Kalchbrenner 和 Phil Blunsom 提出了一种用于机器翻译的新型端到端编码器-解码器结构 。该模型可以使用卷积神经网络(CNN)将给定的一段源文本编码成一个连续的向量,然后再使用循环神经网络(RNN)作为解码器将该状态向量转换成目标语言。这一研究成果的发布可以说是神经机器翻译(NMT)的诞生。虽然在那之后有无数的研究者进行改进模型,但是仍然缺乏对模型的理解。

具体遇到的问题包括:训练和解码过程相当慢;对同一个词的翻译风格可能不一致;在翻译结果上还存在超出词汇表(out-of-vocabulary)的问题;黑箱的神经网络机制的可解释性很差;训练所用的参数大多数是根据经验选择的。

bb

NMT和SMT对比

总的来说:不确定性是翻译中的一个核心挑战。我们需要知道不确定性的典型来源是什么?为什么会出现这种问题?

bb


文摘菌在一篇论文《Analyzing Uncertainty in Neural Machine Translation》中找到了这个问题的答案。

论文下载地址:

https://arxiv.org/pdf/1803.00047.pdf

根据论文,在构建翻译的模型的时候,基本上有两种不确定性,一种是任务本身固有的不确定性,另一种是数据收集过程中存在的不确定性。

内在的不确定性

不确定性的一个来源是一句话会有几种等价的翻译。因为在翻译的过程中或多或少是可以直译的,即使字面上有很多表达相同意思的方法。句子的表达可以是主动的,也可以是被动的,对于某些语言来说,类似于“the”,“of”,或“their”也是可选择的。

除了一句话可以多种翻译这种情况外,规范性不足同样是翻译不确定的来源。

另外,如果没有背景输入,模型通常无法预测翻译语言的时态或数字,因此,简化或增加相关背景也是翻译不确定性的来源。

外在的不确定性

机器翻译系统,特别是模型,需要大量的训练数据才能表现良好。为了节省时间和精力,使用低质量的网络数据进行高质量的人工翻译是常见的。这一过程容易出错,并导致数据分配中出现其他的不确定性。目标句可能只是源句的部分翻译,或者目标句里面有源句中没有的信息。

在一些加了copy机制的翻译模型中,对目标语言进行翻译的时候可能会完全或部分复制源句子。论文作者经过研究发现,即使copy机制很小,也能对模型预测产生较大的影响。

除此之外,这篇论文主要探究了NMT模型的适用性以及搜索。虽然模型在token和句子方面有很好的校准,但是预测的概率分布太广泛。这个问题的原因作者认为取决于函数是否是光滑的。

另外,论文研究了错配的影响,过度的概率分布会把样本在模型中的表现变差,而且。copy机制会更加突出。

福利:微信翻译的隐藏表白神器

其实微信翻译里面不仅仅有过翻车现场,也有一些隐形撩妹彩蛋!文章的最后,文摘菌也为大家送上这波福利。

有细心的网友会发现你在微信聊天里面发送信息【ohh】,翻译内容是:【留在我身边】。

bb


如今这个梗在知乎上广为流传,而且至今微信翻译这个bug还在,微信翻译也至今没有进行补丁,可见微信团队的程序员们不仅技术牛,也是很有爱的一波人呢!

既然没被修补,我们就好好利用这个bug吧!抱着学习的态度,文摘菌从知乎上拔下来了另外一些表白术语,分享给大家。

bb


  • eed:誓言

  • sme:我们

  • ichliebe dich:我爱你

这里应该是触发了德语翻译。

还有一些看起来不像正经文字的缅甸语可以拿去用。

  • ငါသည်သင်တို့၏ရည်းစားဖြစ်ချင်

    我想成为你的男朋友

  • မင်းကိုသတိရနေတယ်

    思念

注:可能在输入框内会出现一连串的问号,只要复制点击发送就好。这是因为手机上一般都不会安装这些小语种的字体,于是微信无法正常显示,出来就是连串的问号,但是微信翻译系统却能支持多种语言,所以当你在微信消息或者朋友圈中长按“翻译”按钮时,微信的翻译系统会自动解码,并翻译为中文。

bb


另一个微信翻译的Bug是利用组成兔子手部的つ,这实际上是一个日语字符。有了它,整句话就会被当成日语来翻译,由于日语语法,疑问句就会因此翻译成肯定句。例如:

  • /つ 想不想...(我、出去浪)

  • /つ 要不要...(吃鸡、去死)

  • /つ 你是不是...(一只猪)

好啦,最后,祝大家表白顺利。

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/31562039/viewspace-2637570/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/31562039/viewspace-2637570/

这篇关于微信翻译大型翻车现场?机器翻译到底有哪些不确定性的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/734183

相关文章

W外链微信推广短连接怎么做?

制作微信推广链接的难点分析 一、内容创作难度 制作微信推广链接时,首先需要创作有吸引力的内容。这不仅要求内容本身有趣、有价值,还要能够激起人们的分享欲望。对于许多企业和个人来说,尤其是那些缺乏创意和写作能力的人来说,这是制作微信推广链接的一大难点。 二、精准定位难度 微信用户群体庞大,不同用户的需求和兴趣各异。因此,制作推广链接时需要精准定位目标受众,以便更有效地吸引他们点击并分享链接

透彻!驯服大型语言模型(LLMs)的五种方法,及具体方法选择思路

引言 随着时间的发展,大型语言模型不再停留在演示阶段而是逐步面向生产系统的应用,随着人们期望的不断增加,目标也发生了巨大的变化。在短短的几个月的时间里,人们对大模型的认识已经从对其zero-shot能力感到惊讶,转变为考虑改进模型质量、提高模型可用性。 「大语言模型(LLMs)其实就是利用高容量的模型架构(例如Transformer)对海量的、多种多样的数据分布进行建模得到,它包含了大量的先验

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

uniapp设置微信小程序的交互反馈

链接:uni.showToast(OBJECT) | uni-app官网 (dcloud.net.cn) 设置操作成功的弹窗: title是我们弹窗提示的文字 showToast是我们在加载的时候进入就会弹出的提示。 2.设置失败的提示窗口和标签 icon:'error'是设置我们失败的logo 设置的文字上限是7个文字,如果需要设置的提示文字过长就需要设置icon并给

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

excel翻译软件有哪些?如何高效提翻译?

你是否曾在面对满屏的英文Excel表格时感到头疼?项目报告、数据分析、财务报表... 当这些重要的信息被语言壁垒阻挡时,效率和理解度都会大打折扣。别担心,只需3分钟,我将带你轻松解锁excel翻译成中文的秘籍。 无论是职场新人还是老手,这一技巧都将是你的得力助手,让你在信息的海洋中畅游无阻。 方法一:使用同声传译王软件 同声传译王是一款专业的翻译软件,它支持多种语言翻译,可以excel

MonoHuman: Animatable Human Neural Field from Monocular Video 翻译

MonoHuman:来自单目视频的可动画人类神经场 摘要。利用自由视图控制来动画化虚拟化身对于诸如虚拟现实和数字娱乐之类的各种应用来说是至关重要的。已有的研究试图利用神经辐射场(NeRF)的表征能力从单目视频中重建人体。最近的工作提出将变形网络移植到NeRF中,以进一步模拟人类神经场的动力学,从而动画化逼真的人类运动。然而,这种流水线要么依赖于姿态相关的表示,要么由于帧无关的优化而缺乏运动一致性

linux dlopen手册翻译

名称 dlclose, dlopen, dlmopen 打开和关闭一个共享对象 简介 #include <dlfcn.h>void *dlopen(const char*filename, int flags);int dlclose(void *handle);#define _GNU_SOURCE#include <dlfcn.h>void *dlmoopen(Lmid_t lm

【H2O2|全栈】Markdown | Md 笔记到底如何使用?【前端 · HTML前置知识】

Markdown的一些杂谈 目录 Markdown的一些杂谈 前言 准备工作 认识.Md文件 为什么使用Md? 怎么使用Md? ​编辑 怎么看别人给我的Md文件? Md文件命令 切换模式 粗体、倾斜、下划线、删除线和荧光标记 分级标题 水平线 引用 无序和有序列表 ​编辑 任务清单 插入链接和图片 内嵌代码和代码块 表格 公式 其他 源代码 预

基于微信小程序与嵌入式系统的智能小车开发(详细流程)

一、项目概述 本项目旨在开发一款智能小车,结合微信小程序与嵌入式系统,提供实时图像处理与控制功能。用户可以通过微信小程序远程操控小车,并实时接收摄像头采集的图像。该项目解决了传统遥控小车在图像反馈和控制延迟方面的问题,提升了小车的智能化水平,适用于教育、科研和娱乐等多个领域。 二、系统架构 1. 系统架构设计 本项目的系统架构主要分为以下几个部分: 微信小程序:负责用户界面、控制指令的