机器翻译原理与方法讲义(03)基于词的统计机器翻译方法
搭建属于自己的机器翻译系统
搭建属于自己的机器翻译系统——MTI专业“技术小白”走进小牛翻译开源社区的心得 搭建属于自己的机器翻译系统 ——MTI专业“技术小白”走进小牛翻译开源社区的心得首先，自我介绍一下。我是一个MTI(翻译硕士)专业、没有计算机编程背景、没有机器翻译理论基础的菜鸟，任职于一家网络科技公司的市场部门，之前的工作中需要做些翻译工作，有时候求助百度翻译、有道翻译等免费的机器翻译系统来解决问题，但是对于一些涉及我们商业机密的数据，由于担心泄密，只能借助于有道词典查查词，然后再自己形成翻译结果。很早之前我就想，要是能有自己的机器翻译系统就好了。 我心目中的翻译技术大牛、对外经贸大学的崔启亮老师曾在微博中给MTI的学生提建议，“学好翻译技术，有前途。对于仍在迷茫MTI的同学，我建议学机器翻译设计与开发，走出迷茫。”非常非常幸运的是，我一个东大毕业的同学告诉我，东北大学自然语言处理实验室（国内搞机器翻译最好的团队之一）联合沈阳雅译网络技术有限公司推出了“小牛翻译开源社区”，社区中有一项内容，就是教不懂机器翻译的人学习“快速搭建自己的机器翻译系统”。于是，我走进社区，按照社区里的相关说明，亲身体验了搭建过程。下面，我想谈谈这个被誉为“目前国内首个以机器翻译为核心的交流平台”的菜鸟级用户体验。 小牛翻译开源社区里提供了统计机器翻译开源系统的全部代码。我了解了一下，NiuTrans开源系统在国际上比较有名，据说是目前国际上能够支持统计机器翻译模型最全的两套统计机器翻译系统之一(另一套是爱丁堡大学的Moses)。这些内容对MT(机器翻译)的专业学者应该很有用吧，但是对于我这个非科班出身的人来说，其实会完全忽略这部分内容。我还是讲讲我在社区里的真正收获——快速搭建实用的机器翻译系统。 一、搭建过程详细说明 需要说明的是，我是在在网页指导与人工指导下才在自己的电脑（Windows7 64位系统，硬盘500G，内存8G）上成功搭建机器翻译系统的。解释一下为什么我不仅看了网页上操作指导，还需要人工指导。身为“技术小白”的我，虽然网页上的操作指导写的很规范，但是第一次接触这么“高大上”的东西，还是有点小紧张的。于是，我加入了小牛翻
人工智能与机器翻译期末复习题
一、名词解释（5X3‘）15’ 1.兼类（P121）：一个单词既可以作名词动词又可以作其他词类 2.机器翻译：用计算机软件代替人做的书面翻译 3.组合型歧义：一个字与前面的字成词,与后面的字成词,合起来也成词。 4.交集型歧义（P117）：一个字与前面的字成词,与后面的字也成词。 5.人工智能：用计算机硬件、软件模拟人的行为，解决人类目前尚未认识清楚的问题。 6.人工智能软件的三大技术：知识表示、知识推理、知识获取。 7.语料库：单词、短语和句子组成的数据库。 8.知识工程：包括人工智能软件技术的工程。（知识工程是以知识为基础的系统，就是 通过智能软件而建立的专家系统） 9.深度学习：一步一步在丰富起来的特征规律引导下，由浅入深完成推理的方法。 10.语用分析：分析成语和习惯用语的方法。 二、题解P36 例2.1 、2.2 例2.1 设有下列语句： （1）高山比他父亲出名。 （2）刘水是计算机系的一名学生，但他不喜欢编程序。 （3）人人爱劳动。 为了用谓词公式表示这些语句，应先定义谓词： BIGGER(x,y):x比y出名 COMPUTER(x):x是计算机系的学生 LIKE(x,y):x喜欢y LOVE(x,y):x爱y M(x):x是人 定义函数father(x)表示从x到其父亲的映射此时可用谓词公式把上述三个语句表示为：（1）BIGGER(高山，father(x)) （2）COMPUTER(刘水)∧∽LIKE（刘水，程序） （3）（?x）（M(x) →LOVE(x,劳动)） 例2.2 设有下列语句： （1）自然数都是大于零的整数。 （2）所有整数不是偶数就是奇数。 （3）偶数除以2是整数。 定义谓词如下： N(x):x是自然数 I(x):x是整数 E(x):x是偶数 O(x):x是奇数 GZ(x):x大于零 另外，用函数S（x）表示x除以2。此时，上述三个句子可用谓词公式表示为： （?x）(N(x) →GZ(x)∧I(x)) (?x)（I(x) →E(x)∨O(x）） （?x）(E(x) →I(S(x))) 三、论述（4X5‘）20’ 1.阐述深度、广度、代价驱动搜索方法。（P68） 答：广度优先搜索法：对全部节点沿广度进行横向扫描，按各节点生成的先后次序，
统计机器翻译
统计机器翻译 来自维基百科，免费的百科全书 统计机器翻译（SMT）是一种机器翻译的模型，译文在统计模式的基础上生成，而统计模式所需的参数来自于对双语文本语料库的分析。 机器翻译中基于统计的方法与基于规则的方法和基于实例的方法相对。 统计机器翻译的最初想法由Warren Weaver在1949年〔1〕提出，其中包括对Claude Shannon 的信息理论。 统计机器翻译在1991年时由IBM公司的托马斯?J?沃森研究中心的研究者们再次提出，并且对近些年来重新唤起人们对机器翻译的兴趣作出重大贡献。到2006年为止，它已经是研究最广泛的机器翻译模型。 优势 统计机器翻译相对于最常被人们谈论的传统模型的优势如下： ?更好地利用资源 o存在着大量可被机器读取的格式的自然语言。 o通常，统计机器翻译系统不是针对于任何具体的语言配对。 o基于规则的翻译系统需要对语言规则的手动开发，这样不仅成本很高，而且通常对其它语言不适用。 ?更多的自然语言翻译资料 统计机器翻译的想法来自于信息理论。本质上来说，文档的翻译在基于可能性的p(e | f),其中的本国语言（例如英语）字符“e”就是对外国语言（例如法语）中字符“f”的翻译。一般来说，这些可能性都是利用参数估算的技术实现。 将贝叶斯法则应用于p(e | f)这个外语字符译成母语字符的可能性，会得到这一可能性，其中的翻译模型p(f | e)表示母语字符是对外语字符的翻译的可能性，而语言模型p(e)表示那个母语字符出现的可能性。从算术上来说，发现最佳译文也就是选取出现概率最高的那个。 要严格执行这一过程就必须对母语中所有字符e *进行穷举搜索。有效搜索就是机器解码器要做的工作，利用外语字符、启发式的或其它方法来限制搜索范围，同时保证合意的译文质量。质量和所耗时间之间的这种交换在语音识别方面也可以看到。 翻译系统不能将所有的母语字符串和它们的译文都存储起来，所以只能对文档进行逐句翻译，但即使这样也还是不够的。语言模型是典型的可被稳定的n-gram模型模拟的，并且同样的方法已经应用于翻译模型，但是语言中不同的句子长度和词汇顺序造成了更多的复杂问题。 统计机器翻译模型最初是基于词汇的（来自IBM的模型1-5），但是在引入了基于短语的模型之后有了重大的发展。近期已经引入了句法或类似语法的结构。 基于词汇的的翻译 在基于词汇的翻译中，待译的元素是所有的词汇。实际上，由于复合的词汇、词法和习惯用
一个汉英机器翻译系统的设计与实现
一个汉英机器翻译系统的 计算模型与语言模型* 刘群+詹卫东++常宝宝++刘颖+ (+中国科学院计算技术研究所二室北京100080) (++北京大学计算语言学研究所北京100871) 摘要：本文介绍我们所设计并实现的一个汉英机器翻译系统。在概要介绍本系统的主要目标和设计原则的基础上，着重说明系统的计算模型和语言模型，最后给出实验结果和进一步的打算。 关键词：自然语言处理机器翻译中文信息处理 一、引言 我国的机器翻译研究近年来取得了很大的发展。特别是英汉机器翻译系统的研制已经取得了较大的成功，达到了初步实用的阶段。相对而言，汉英机器翻译的研究却进展比较缓慢，离实用化还有相当的距离[1]。我们的目的是利用目前最新的计算机软件技术、相对成熟的机器翻译方法和先进的汉语语法理论，构造一个初步实用的汉英机器翻译系统。本文将对我们所开发的系统所采用的计算模型和语言模型作一个总体性的介绍，而不涉及过多的细节。 下面我们简要介绍一下本系统的几个主要设计原则： ⑴采用成熟的技术 我们的目的是构造一个真正实用的汉英机器翻译系统，因而在可供选择的若干技术路线面前，我们将尽量选用比较成熟的技术，而在现有技术难以解决问题时再尝试一些新技术。 ⑵开放的体系结构 开放的体系结构主要体现在系统的实现上所采用的软件构件技术[8]。整个系统采用一些相对独立的软件构件组成，因而可以方便地对系统进行修改、维护和扩充。翻译的过程严格按照独立分析、独立生成的原则进行组织，每一阶段的算法相互独立，对其中一个阶段算法的修改不会对其他算法造成影响。 ⑶方便的调试环境 本系统强调为语言工作者提供一个方便的调试环境。系统提供多窗口图形界面的知识库调试工具，支持课题组中多人同时通过网络对一个知识库进行操作。提供对翻译过程直观显示，用户可以清晰地看到翻译过程的每一步操作。提供翻译出错原因查找机制，用户 *本项目的研究受到863-306资助，合同号为863-306-03-06-2
编译：《机器翻译基本分类与基本工作原理》
机器翻译基本分类与基本工作原理 编译：洪洁传神语联网网络科技股份有限公司多语工程中心 编译：洪雷中国科学院大学外语系文章来源：多语工程技术研究中心《云翻译技术》第12期，转载请注明出处 摘要本篇综述对机器翻译基本工作原理和基本分类进行了归纳总结，并且对机器翻译的未来发展方向进行了初步探讨。 关键词机器翻译工作原理分类 机器翻译（Machine Translation，MT）是建立在多学科基础上的综合学科，现代理论语言学的发展，计算机科学的进步，信息学和概率统计学的应用，对机器翻译的发展和演变产生了重要影响。机器翻译的基本思想是利用计算机对自然语言进行翻译，而各种机器翻译系统采用的技术和理念不尽相同；面对各种各样的机器翻译系统，文献上有各种分类方式。本文根据所应用的基本工作原理对机器翻译系统分类作一综述。 1.基本类型的机器翻译系统：现有的机器翻译系统按照其基本工作原理，可以分为基于规则的（Rule-Based）机器翻译，基于实例的（Example-Based）机器翻译和统计型的（Statistical）机器翻译这三种基本类型。 1.1.基于规则的机器翻译系统（Rule-Based Machine Translation, RBMT）：其基本工作原理基于一个假设，即语言无限的句子可以由有限的规则推导出来。基于这个假设的机器翻译方法又可以分为三类：直接翻译法（Direct Translation），中间语言法（Interlingual Approach），和转换法（Transfer Approach）。它们都需要用到大规模的双语词典，需要用到源语言推导规则，语言转换规则和目标语言生成规则；其不同点在于对语言进行的分析深度不同。如直译法几乎不需要进行语言分析，中间语言法和转换法需要对源语言和目标语言进行某种程度的语言分析。 1.1.1直接翻译法（Direct Translation）：这种翻译方法直接对源文字中的字词进行逐个翻译，译后文字顺序按照原文顺序进行排列。这是基于规则的机器翻译的最早的工作方法。这种译法简单、直观，其弊端也是明显的：由这种方法得到的翻译结果质量很不令人满意。人们已经逐渐不再使用这种直接翻译法。
机器翻译
机器翻译 1 概述 机器翻译（machine translation），又称为自动翻译，是利用计算机把一种自然源语言转变为另一种自然目标语言的过程，一般指自然语言之间句子和全文的翻译。它是自然语言处理（Natural Language Processing）的一个分支，与计算语言学（Computational Linguistics ）、自然语言理解（ Natural Language Understanding）之间存在着密不可分的关系。 2 国内外现状 机器翻译思想的萌芽关于用机器来进行语言翻译的想法，远在古希腊时代就有人提出过了。在17世纪，一些有识之士提出了采用机器词典来克服语言障碍的想法。笛卡（Descartes）和莱布尼兹（Leibniz）都试图在统一的数字代码的基础上来编写词典。在17世纪中叶，贝克（Cave Beck）、基尔施（Athanasius Kircher）和贝希尔（Johann JoachimBecher）等人都出版过这类的词典。由此开展了关于“普遍语言”的运动。维尔金斯（JohnWilkins）在《关于真实符号和哲学语言的论文》(An Essay towards a Real Character andPhilosophical Language, 1668)中提出的中介语（Interlingua）是这方面最著名的成果，这种中介语的设计试图将世界上所有的概念和实体都加以分类和编码，有规则地列出并描述所有的概念和实体，并根据它们各自的特点和性质，给予不同的记号和名称。本世纪三十年代之初，亚美尼亚裔的法国工程师阿尔楚尼（G.B. Artsouni）提出了用机器来进行语言翻译的想法，并在1933年7月22日获得了一项“翻译机”的专利，叫做“机械脑”（mechanical brain）。这种机械脑的存储装置可以容纳数千个字元，通过键盘后面的宽纸带，进行资料的检索。阿尔楚尼认为它可以应用来记录火车时刻表和银行的帐户，尤其适合于作机器词典。在宽纸带上面，每一行记录了源语言的一个词项以及这个词项在多种目标语言中的对应词项，在另外一条纸带上对应的每个词项处，记录着相应的代码，这些代码以打孔来表示。机械脑于1937年正式展出，引起了法国邮政、电信部门的兴趣。但是，由于不久爆发了第二次世界大战，阿尔楚尼的机械脑无法安装使用。1903年，古图拉特(Couturat)和洛(Leau)在《通用语言的历史》一书中指出，德国学者里格(W. Rieger) 曾经提出过一种数字语(Zifferngrammatik)，这种语法加上词典的辅助，可以利用机械将一种语言翻译成其他多种语言，首次使用了“机器翻译” （德文是ein mechanisches Uebersetzen）这个术语。 真正对机器翻译进行研究应该说是从布恩和韦弗开始的。他们研究的是自动词典万, 从1954年1月7日公开展示的IBM701型计算机开始, 机器翻译进人一个繁荣发展的时期。从那时起, 很多国家都投人了大量的人力、物力从事这方面的研究和开发。随着 Internet 的普遍应用，世界经济一体化进程的加速以及国际社会交流的日渐频繁，传统的人工作业的方式已经远远不能满足迅猛增长的翻译需求，人们对于机器翻译的需求空前增长，机器翻译迎来了一个新的发展机遇。国际性的关于机器翻译研究的会议频繁召开，中国也取得了前所未有的成就，相继推出了一系列机器翻译软件，例如“译星” 、“雅信” 、“通译” 、“华建”等。在市场需求的推动下，商用机器翻译系统迈入了实用化阶段，走进了市场，来到了用户面前。 中国机器翻译研究起步于1957年,是世界上第4个开始搞机器翻译的国家，60年代中期以后一度中断，70年代中期以来有了进一步的发展。现在，中国社会科学院语言研究所、中国科学技术情报研究所、中国科学院计算技术研究所、黑龙江大学、哈尔滨工业大学等单位都
机器翻译研究现状与展望1 Machine TranslationPast,Present,future
机器翻译研究现状与展望1 戴新宇，尹存燕，陈家骏，郑国梁 （南京大学计算机软件新技术国家重点实验室，南京 210093） （南京大学计算机科学与技术系，南京 210093） 摘要：本文回顾机器翻译研究的历史，介绍典型的机器翻译方法，包括：基于规则、基于统计以及基于实例的机器翻译方法；针对机器翻译的研究现状，详细介绍和分析了基于混合策略的机器翻译方法，对统计以及机器学习方法在机器翻译中的应用进行了描述；论文还介绍了当前机器翻译评测技术；最后对机器翻译进行总结和展望。 关键字：机器翻译，基于规则，基于统计，基于实例，混合策略，机器学习 Machine Translation:Past,Present,future Dai Xinyu, Yin Cunyan, Chen Jiajun and Zheng Guoliang (State Key Laboratory for Novel Software Technology, Department of Computer Science & Technology Nanjing University, Nanjing 210093) Abstract：This paper firstly presents the history of machine translation, and introduces some classical paradigms of machine translation: RBMT, SBMT and EBMT. Secondly, we introduce the recent research on machine translation, and describe the hybrid strategies on machine translation in detail, and discuss the applications of machine learning for machine translation. We also analyze the current techniques about evaluation on machine translation. Finally, we draw a conclusion and prospect on the research of machine translation. Keywords：Machine Translation, RBMT, SBMT,EBMT, HSBMT, Machine Learning. 1本论文工作得到863课题资助（编号：2001AA114102, 2002AA117010-04） 戴新宇博士生，主要研究自然语言处理；尹存燕助教，主要研究自然语言处理；陈家骏教授，博士生导师，主要研究自然语言处理、软件工程；郑国梁教授，博士生导师，主要研究软件工程。
机器翻译研究综述
机器翻译综述 1.引言 1.1机器翻译的历史 现代机器翻译的研究应该是从20世纪50年代开始，但是早在这以前很多人已经提出了相应的想法，甚至是远在古希腊时期就有人提出要用机器来进行语言翻译的想法。 在1946年，美国宾夕法尼亚大学的两位科学家设计并制造了世界上第一台电子计算机。与此同时，英国工程师同美国洛克菲勒基金会副总裁韦弗在讨论计算机的应用范围时，就提出了利用计算机实现语言的自动翻译的想法。在1949年，韦弗发表了一份名为《翻译》的备忘录，正式提出了机器翻译问题。他提出了两个主要观点： 第一，他认为翻译类似于解读密码的过程。 第二，他认为原文与译文“说的是同样的事情”，因此，当把语言A翻译为语言B时，就意味着从语言A出发，经过某一“通用语言”或“中 间语言”，可以假定是全人类共同的。 在这一段时间由于学者的热心倡导，实业界的大力支持，美国的机器翻译研究一时兴盛起来。 1964年，美国科学院成立语言自动处理咨询委员会，调查机器翻译的研究情况，给出了“在目前给机器翻译以大力支持还没有多少理由”的结论，随后机器翻译的研究就陷入了低潮期。直到70年代以后机器翻译的研究才重新进入了一个复苏期，随后机器翻译的发展又迎来了繁荣期 1.2机器翻译的主要内容 经过50多年的发展，在机器翻译领域中出现了很多的研究方法，总结如下：●直接翻译方法 ●句法转换方法 ●中间语言方法 ●基于规则的方法 ●基于语料库的方法 基于实例的方法（含模板、翻译记忆方法） 基于统计的方法 在当前的研究中，更多的是基于统计的方法进行的，因为基于统计的方法可以充分的利用计算机的计算能力，并且并不需要过多的语言学知识作为支撑，可以让更多的计算机科学家投入到实用系统的研究中，极大的促进了统计机器翻译的发展。 下面对各个方法逐一的进行介绍。
机器翻译与自然语言处理研究生
机器翻译和自然语言信息处理专业硕士研究生培养方案 一、培养目标 1．能较好地掌握和运用马克思主义、毛泽东思想和邓小平建设有中国特色的社会主义理论，拥护党的基本路线，热爱祖国，遵纪守法，品德良好，学风严谨，具有较强的事业心和献身精神，积极为社会主义现代化建设事业服务。 2．在计算语言学、自然语言处理和机器翻译方面具有坚实的理论基础及系统的专门知识和技能，对于本专业的研究方向有比较全面深入的了解，具有独立从事研究工作的能力。比较熟练地掌握一种外国语，在有条件的情况下掌握两种外国语。能够用第一外语熟练地阅读本专业的外文资料，并具有一定程度的听、说和写作能力。 3．身心健康。 二、培养方式 通过系统理论学习、进行科学研究、参加学术交流和实践活动的方式，既要使硕士研究生牢固掌握基础理论和专门知识，又要培养他们从事科学研究和独立担负专门业务工作的能力。在指导方式上采取导师个别指导和指导小组集体培养相结合的方法。同时为了适应本专业领域跨学科交叉的特点，在专业课和专业基础课的教学中，注意安排硕士研究生到其他研究机构和高等院校选课。导师要严格要求、全面关心研究生的成长，定期交流，重视专业课和专业基础课的教学，重视专业外语的学习，指导学生做好开题报告，组织他们参加学术活动，鼓励并帮助他们发表学术论文。 三、研究方向 1．自然语言信息处理（Natural language information processing） 用计算机对人类特有的书面形式或口头形式的语言信息进行各种处理和加工，叫做自然语言信息处理。它的任务是对字、词、句、篇章的语音形式和书面形式进行输入、输出、统计、检索、识别、分析、理解和生成，涉及语言学、数学和计算机科学等学科的交叉领域。自然语言处理的应用目标是使人与计算机之间用自然语言进行交流。具体说是建立各种处理自然语言的计算机应用软件系统，比如：自然语言理解系统、计算机辅助教学系统、自动校对系统、文字自动识别系统、智能信息检索系统、文献自动分类系统、自动文摘系统，还有文本中的信息提取、网上智能搜索引擎，以及电子词典和术语数据库。 2 机器翻译（Machine translation） 机器翻译的任务是用计算机把一种语言翻译成另外一种语言。要建立一个机器翻译系统，首先需要确立分析和生成语言的基本观点，选择适用的语言学理论，构造系统的运行机制，组织各种必要的参数和规则，提出在计算机上实现的算法，然后设计程序。机器翻译的研究涉及了人文科学、自然科学和技术科学的多个领域，整个研究是理论方法和工程技术并举的。 四、学习年限 硕士研究生的学习年限一般为三年（包括论文答辩时间）。 五、课程设置与学分 1．公共必修课 1.克思主义理论课： 科学社会主义的理论与实践3学分 马克思主义经典著作选读3学分
“计算机辅助翻译原理与实践”在“学堂在线”实现MOOC教学有感
1 开设MOOC的意愿动机、目标和 总体印象 1.1?开设MOOC的意愿动机 笔者一直对线上教育的理念比较认同，想要开设MOOC的想法可以追溯到很早之前。但本次开设MOOC课程，主要基于以下几个原因。 （1）提高课程影响力的现实需要。笔者于2005年回到北大，2006年正式开始授课。当时我们做的“计算机辅助翻译”课程可以说是中国大陆第一个计算机辅助翻译的硕士课程，具有开创性。在亚洲地区，香港中文大学于2002年开设了类似的课程，但该校是一个文科学校，与我们偏向理科方向的研究完全不一样。因此，在世界范围内我们也有自己的特色。 课程稳定下来之后笔者就开始思考怎样提高专业影响力了。由于我院是2002年北大新创建的学院，采用新的体制，学费较高，也没有奖学金，培养的都是专业硕士，全国一开始只有35所学校开设了类似的院系，而“计算机辅助翻译”专业在专业性质上来说又属于文理交叉偏文科，因此生源和院系在全社会的影响力都有一定局限性。 我们希望招到更好的学生，让更多学生知道我们的存在，这是开设MOOC比较功利性的目的。教学基础有了，在行业内也产生影响力了，我们想稳固、扩大该专业的影响力，并且为招生和提高学生的生源质量服务。 （2）课程上线的多次尝试为MOOC课程奠定了一定的基础。2008年左右，iTunes U上线，笔 “计算机辅助翻译原理与实践” 在“学堂在线”实现MOOC教学有感 俞敬松 （北京大学，北京?100871） 【摘要】本文基于对北京大学第一批MOOC课程开课教师的访谈改编而来，主要讨论了开课动机、对于MOOC课程的认识等提出自己的观点和主张。对于大规模开放课程而言，其影响力固然巨大，但是我们更重视的是由此为 契机，切实地持续改善校内学生的学习质量。视频录制以及在线课程管理是必须严肃对待的事情，但是并不 一定需要“豪华”的制作和大规模的投入。以学生学业为核心，探索改善课程的效果，评估课程对于学生学 业的改善程度，才是MOOC课程落地的根本驱动力量。 【关键词】大规模在线开放课程；MOOC；翻转课堂；课程设计 【中图分类号】G642 【文献标识码】A 【文章编号】2095-5065（2014）11-0068-07 收稿日期：2014-6-20 作者简介：俞敬松（1971—），男，北京人，博士研究生 在读，副教授，硕士生导师，研究方向为自然语言处理、大 数据技术、机器翻译等。 68
基于实例的机器翻译
基于实例的机器翻译 ——方法和问题 王厚峰（北京大学） 关键字：基于实例的机器翻译，双语对齐，相似度计算，模板获取 摘要：本文介绍了基于实例的机器翻译方法，并对基于实例的机器翻译的若干问题，如双语实例的加工对齐、实例的相似度计算和实例模板提取等问题作了说明。 Method and Issues of Example-Based Machine Translation Wang Houfeng Keywords: EBMT, Bilingual Alignment, Similarity Measure, Template Acquisition. Abstract: The basic frame of Example based machine translation is concerned in this paper. Some key issues, such as bilingual alignment, similarity measure between input sentence and example, and template acquisition, are introduced. 引言 早期的机器翻译本质上都是基于语言规则或语言知识RBMT(Rule Based Machine Translation)的。如，词法规则，句法分析规则，转换规则，目标语生成规则等。这些规则都是根据语言专家的经验总结归纳出来的。直译法、转换生成方法、中间语言方法等都可以归为这一类。在上一世纪80年代中后期，这种纯粹基于语言知识的状况渐渐被基于语料库的机器翻译CBMT( Corpus-Based Machine Translation) 方法打破。 语料库方法中最有影响的是IBM公司的P.Brown 提出的基于统计的机器翻译SBMT (Statistics Based Machine Translation)。受语音处理的启发，P.Brown在1988年第二届TMI会议上提出了用隐马尔科夫模型HMM(Hidden Markov Model)进行机器翻译的想法，这一想法震惊了当时的与会者，并直接导致了语料库方法在自然语言处理上的迅速发展。 另一个影响更为广泛的机器翻译方法是日本的长尾真（Makoto Nagao）1981年提出的基于实例的机器翻译EBMT ( Example based Machine Translation)，并于1984年发表[6]。基本思想是在已经收集的双语实例库中找出与待翻译部分最相似的翻译实例(通常是句子)，再对实例的译文通过串替换，串删除以及串增加等一系列变形操作，实现翻译。 基于实例的翻译方法受到广泛关注是在进入90年代之后。其中，Sato[7,8]等人起到了很好的推动作用。 EBMT的基本思想 长尾真认为，人们在翻译简单句子时并没有做语言的深层分析，而是先将句子分解为几个片断（短语），然后，借助于已有片断的翻译，将分解的每个片断翻译成目标短语，最后在将这些短语组合起来形成一个长的句子。 基于上述思想，长尾真提出了基于实例的机器翻译EBMT的思想。对应地，EBMT也分为三大部分：将实例划分为片断，确定各个片断的翻译以及重组片断。 例2.1. (a) 她买了一本计算语言学入门书 假定计算机内已经存储了如下的实例对：
一本翻译界能读懂的机器翻译著作
一本翻译界能读懂的机器翻译著作 ——评《语义组合与机器翻译》 孙洪山 （济南大学外国语学院，山东省济南市，250022） 摘要：本文从5个方面评价了学术专著《语义组合与机器翻译》，认为该著是一本朴素的学术专著，是一本 翻译界能读懂的机器翻译著作。机器翻译一直是翻译界讳莫如深但又很难涉足的领域，该著揭开了机器翻 译的神秘面纱，便于译界更加深入了解机器翻译。 关键词：《语义组合与机器翻译》，机器翻译，翻译界 中图分类号： H059 文献标识码：B 机器翻译的终极目标在于代替人类从事翻译活动（Koehn, 2010:xi）。不论这个目标（更确切的说法是“梦想”）能否实现，机器翻译与翻译者的关系是十分密切的。翻译工作者应该关注这个能够帮助自己，甚至将来抑或会取代自己的“新生事物”。实际上，机器翻译已经不是一个新鲜的概念了（Hutchins, 2000:xii），广大的翻译工作者已经接受了“机器翻译”的概念，市场上某些机器翻译软件也让译者们见识了“机器翻译”的翻译效果。然而，翻译界对于机器翻译的“误读”从而产生“排斥”的趋势却越来越明显。其原因之一就在于机器翻译论著太“深奥”、太“专业”，翻译界读不懂。 “复杂的自然语言处理教材是为计算机程序员而非语言学家编写的（Covington，2007:601）。”实际情况也大抵如此，因为机器翻译一般被认为是自然语言处理技术的应用，其研究通常是在人工智能、信息技术和统计模型等领域进行的，语言研究尤其是翻译研究对机器翻译研究的深度不够。当然研究深度不够不是因为翻译界“避重就轻”，不去了解和关注机器翻译的原理和实现过程，而是因为机器翻译所涉及的各种计算机算法和数学公式实在太复杂——似乎翻译界完成不了这个工作。这又回到了机器翻译研究的主体问题，翻译界能不能做机器翻译研究？ 张霄军博士的专著《语义组合与机器翻译》（科学出版社，2010）给这个问题做了肯定的回答。就作者的学科背景而言，他是语言学专业的科班出身（硕士就读专业为外国语言学与应用语言学，博士就读专业为语言学与应用语言学）。就该书内容而言，国内计算机专家和语言学家都给出了很高的评价（见该著封底）。笔者是一名普通的翻译教学工作者，长期关注机器翻译研究现状，通读此书，得出的一句评价是：该书是笔者所阅读过的机器翻译著作中最容易读懂的。这样的结论基于该书以下几点特色： （1）作者擅用图表来解释难点，避免使用大量难懂的数学公式。第3章在构建面向机器翻译动词选择的“双语动词语义词典（BiVSD）”时，作者使用组合流程图（见该著第71页）的形式说明了BiVSD的内部构成；第5章用流程图的形式（见该著第95页）清楚地表明了基于规则或者中间语的机器翻译系统工作流程和本书主要研究对象处理的全过程。一般的机器翻译著作在介绍机器翻译原理，尤其是统计机器翻译原理时，总会使用大量的数学公式，而该书在概括机器翻译研究方法时只用了噪声信道模型的数学公式。第6章（第6.3节）在建立机器翻译译文评价方法——“模糊综合评判法”数学模型时，作者先给出了 一个带有假设值的数学模型，之后以翻译案例的形式阐释了该模型的应用情况。这样的话，
统计机器翻译
统计机器翻译 熊德意，何中军，刘群 1.概述 统计机器翻译，又称为数据驱动（data-driven）的机器翻译。其思想其实并不新鲜。早在1949年，Weaver发表的以《翻译》为题的备忘录中就提出：“当我阅读一篇用俄语写的文章的时候，我可以说，这篇文章实际上是用英语写的，只不过它是用另外一种奇怪的符号编了码而已，当我在阅读时，我是在进行解码。”这实际上就是基于信源信道思想的统计机器翻译方法的萌芽。早期的机器翻译系统通常都建立在对词类和词序分析的基础之上，分析中经常使用统计方法，只是后来以Chomsky转换生成语法为代表的理性主义方法兴起后，统计机器翻译方法几乎不再被人使用。上世纪90年代初期，IBM的Brown等人提出了基于信源信道思想的统计机器翻译模型，并且在实验中获得了初步的成功，引起了研究者广泛的关注和争议。不过由于当时计算能力等多方面限制，真正开展统计机器翻译方法研究的人并不多，统计机器翻译方法是否真正有效还受到人们普遍的怀疑。 基 于 句 法 的 方 法 源语言目标语言 图1统计机器翻译金字塔 但是，进入21世纪以来，在学习、生活和工作中，人们日益发现，不同语言之间的交流越来越频繁。无论是口语还是书面形式的交流，无不对机器翻译提出了更加严峻迫切的要求。而另一方面，计算能力也获得了突飞猛进，互联网的发展和普及，以及双语国家、联合国的多语存档，为我们提供了数以千万句的双语平行语料，这些为统计机器翻译方法奠定了
必要的基础。于是，越来越多的研究人员开始投入到统计机器翻译的研究中，并取得了成功（在美国国家标准和技术研究所(NIST)信息部语音组主持的机器翻译国际评测1中，从2002年到2005年，统计机器翻译连续四年取得好成绩[1]），统计方法也逐渐成为国际上机器翻译研究的主流方法之一。 目前统计机器翻译方法主要分为三类：第一类是基于词的（word-based ），以单词作为翻译的基本单位，不考虑上下文信息和人类语言学知识；第二类是基于短语的(phrase-based)，它将翻译的粒度从单词扩展到短语，能够较好的解决局部上下文依赖问题，提高了翻译的流利度和准确率；第三类是基于句法的（syntax-based ），将句法结构信息引入翻译过程，这种方法是当前研究的一个热点。这三类方法可以用图1的金字塔来描述。 本文的内容也按照上面提到的3种主要方法组织，对每种方法进行简单介绍，由于篇幅所限，我们不可能对每一部分深入开展，但是我们希望通过丰富的实例和图解，能让读者对统计机器翻译有一个大概的印象，如果能够引起兴趣，那本文的目的就真正达到了。在第二节中我们对基于单词的方法简单介绍，这可以说是统计机器翻译真正意义上的开端引领工作。第三节介绍目前主流的统计机器翻译方法：基于短语的方法。第四节介绍基于句法的方法，这是当前统计机器翻译研究的热点。 2. 基于单词的方法 基于词的统计机器翻译，顾名思义，其主要思想是以词作为翻译的基本单位。训练时，它从语料库中统计目标语言单词翻译为源语言单词的概率。翻译时，首先查找每个源语言单词所对应的目标语言单词，然后插入、删除目标语言单词，并调整它们的顺序，最后组合成目标语言句子。这种方法的典型代表就是上世纪90年代初期IBM 公司的Brown 等人提出的基于信源信道模型的方法5)[2]5)[3]，可以说，它为现代统计机器翻译研究的蓬勃发展奠定了坚实的基础。 信源信道模型将统计机器翻译看成一个信息传输的过程：信道的输入是目标语言e ，在经过信道编码以后，输出源语言f ，机器翻译的任务就是将源语言f 还原（翻译）为目标语言e ，这一过程通常称之为解码。需要注意的是，这种模型与人们通常的认识有所区别，就模型而言，信道的输入是目标语言，而输出则是源语言，实际上在翻译（解码）时，还是将源语言作为输入，输出为目标语言。 图2 信源信道模型示例 根据Bayes 公式，Brown 等人提出了统计机器翻译的基本方程式： ?arg max Pr()Pr(|)e e e f e 其中，Pr()e 是目标语言的语言模型，衡量生成的目标语言的合法程度；Pr(|)f e 是翻译模型，衡量目标语言文本翻译为源语言文本的概率。解码的任务就是根据上式找到概率最大的译文。在此基础上，IBM 公司的研究人员提出了5个复杂程度层层递进的翻译模型，使用EM 算法从句子对齐的语料库中自动学习单词的翻译概率，然后利用动态规划算法进行解码5)[3]。 1 https://www.sodocs.net/doc/4715442699.html,/speech/tests/mt/
机器翻译的特点及其与人工翻译的关系.doc
机器翻译的特点及其与人工翻译的关系 2020年4月
机器翻译的特点及其与人工翻译的关系本文关键词：机器翻译，翻译，关系 机器翻译的特点及其与人工翻译的关系本文简介：摘要：本文从机器翻译的发展出发，客观分析了机器翻译与人工翻译的优缺点，以此探讨应该用辩证和发展的眼光来看待机器翻译，学会利用科技来提高自身工作的效率与价值。关键词：机器翻译;人工翻译;人工智能;一、引言随着大数据、云计算和人工智能的发展,许多技术革新纷纷出现,人们的生活也随之变得更加 机器翻译的特点及其与人工翻译的关系本文内容： 摘要：本文从机器翻译的发展出发，客观分析了机器翻译与人工翻译的优缺点，以此探讨应该用辩证和发展的眼光来看待机器翻译，学会利用科技来提高自身工作的效率与价值。 关键词：机器翻译; 人工翻译; 人工智能; 一、引言
随着大数据、云计算和人工智能的发展,许多技术革新纷纷出现,人们的生活也随之变得更加便捷。机器翻译便是备受瞩目的技术之一。它指的是能够将口头或书面文字从一种语言翻译成另一种语言的自动化技术,全程无需人工参与。随着互联网为人们开辟了更广泛的多语言世界,这种语言服务变得非常宝贵。 二、机器翻译的发展 在过去几年中,机器翻译的研究和开发速度惊人。早在2016年,谷歌推出了神经机器翻译系统,同时使用基于短语的机器翻译作为其服务背后的关键算法,以弥合人机翻译之间的差距。后来,微软通过WMT2017Newstest证明其机器翻译系统已经可以产出与人工翻译几乎无法区分的译文。在中国,网易、搜狗和科大讯飞等互联网巨头也加入了竞争,积极发布人工智能翻译设备,以卸下人工翻译的沉重负担。 然而,机器翻译的发展并非一帆风顺。近日,腾讯的同声传译和转录机在博鳌论坛上译出了重复的短语和破碎的句子,引起了全世界对于AI翻译是否能够取代人工翻译的广泛关注和激烈辩论。在谈到人工智能是否能取代人类的问题时,我们应该记住,几乎所有技术都有其优点和缺点,机器
人工智能与机器翻译 自动分词
人工智能与机器翻译自动分词 人工智能与机器翻译-自动分词2010-10-21 16：48部著作中的词语逐个逐个的切分出来。汉语不象拼音文字那样有自然切分标志,而且词语长短不一,词 语的定义也不统一,语言学中对词的定义多种多样,造成切分的多样性,这也自然给自动分词的同一性带来很大困难。汉语中词语本身的词素、词、词组无明显 的区分界限,没有一个统一的标准,许多东西都是凭经验和语感来划分。.这项工作如果全部交给计算机来作,就没有那么简单了。 尽管计算机自动分词在诸多方面存在着许多困难,但是由于自动分词是许多应用工作的第一步(也是自动翻译的第一步),这就促进了研究的持续不断,提出 了不少方法,它们各有优缺点,也可能是基于特定环境的。 5.2.1典型的自动分词方法 正向最大匹配法和逆向最大匹配法 正向最大匹配法是最早提出的自动分词方法,它的基本思想是先取一句话的前六个字查字库,若不是一个词,则删除六个字的最后一个字再查,这样一直查下去,至找到一个词为止。句子剩余部分重复此工作,直到把所有的词都分出为止。逆向最大匹配法也一样,每次匹配不成功时去掉汉字串中最前面的一个字。 两法思路清晰,易于计算机实现,但由于试图用相对稳定的词表来代替灵活 多变,充满活力的词汇,把词库搜索作为判词的唯一标准,因而具有很大的主观性和局限性。另外,这两种方法实际上否认了语言中的歧义现象。 在实际应用中,方法有所变化。如下述算法我们初始不是取六个字而是取长度最短词的个数。 A1：一条汉语语句分划成单一字符X1,X2,…,XM。 A2：决定语词中可能出现的词最大字符长度Lmax,最小字符长度Lmin。
A3：逆向匹配,取语句最后的Lmin个字查关键词库,若查不到,加入一个字 重复此工作,直至字符数为Lmax为止。 A4：若实施A3查不到词,去掉语句中最后一个字,再实施A3,直至整个语句 只剩下Lmin为止。 高频优选法 这一方法基于词频的统计、字与字之间的构成结合律和歧义切分等现象的 分析而提出来的。根据《现代汉语频率词典》，对于报刊和政论性文章，不同 音节词的词频构成为：双音节词大约有74%；三音节词大约有3.7%；单音节词 大约有17.2%；而五以上字音节词则大约只有0.4%左右。汉语是一字一音节， 因而也可以说，两字组词的频率比其它所有方式的概率加起来都还要多。自动 分词时首先考虑两字词，然后再考虑单字词，如此频率低的词语最后才考虑。 这种方法提高了分词效率，但对歧义问题也无能为力，出错率并不低。 其它方法 设立切分标志 切分标志有自然和非自然之分。自然切分标志是指文章的非文字符号，例 如标点符号等等；非自然切分标志是利用词缀和不构成词的词(单字词等等)。 设立切分标志方法的基本思想就是通过建立非自然切分标志的一张表存储于计 算机中用程序来识别所有的非自然标志。这样一来，一个句子链将被化为若干 短链，然后再用其它切分方法进行各种细加工，这种多方法合作的综合应用， 途径增多，可以大大提高效率。 扩充转移网络分词法 它是以有限状态机概念为基础的方法。有限状态机只能识别正则语言，对 有限状态机作的第一次扩充可以使其具有递归能力，这样就形成递归转移网络(RTN)。在RTN中，弧线上的标志不仅可以是终极符(语言语句中的各种词语)或非终极符(还没有推导完的词类、符号等等，例如名词N，动词V，形容词A等等)，还可以调用另外的子网络名字的非终极符(例如字或字串的成语条件)。这样，计算机在运行某个子网络时，就可以调用另外的子网络，还可以递归调用。
机器翻译研究现状与展望
机器翻译是建立在语言学、数学、信息学、计算机科学等学科基础上的多边缘学科。现代理论语言学的发展、计算机科学的进步以及概率统计学的引入, 对机器翻译的理论和方法都产生了深刻的影响。 Weaver机器翻译思想的提出, 开始了机器翻译的研究热潮。Chomsky在50年代后期提出的短语结构语法, 给出了“从规则生成句子”的原则。由于短语结构语法采用单一标记的短语结构来描述句子的构成, 描述粒度过粗, 因此存在约束能力弱、生成能力过强问题, 人们逐渐意识到仅依靠单一的短语结构信息, 不能充分判别短语类型和确认短语边界, 于是, 复杂特征集和词汇主义被引入自然语言语法系统, 广义短语结构语法、词汇功能语法、中心语驱动的短语结构语法等语言学理论也相应地产生。在这个发展过程中, 基于规则方法一直是机器翻译研究的主流。 在基于规则的方法中, 语言规则的产生需要大量的人力,而且大量的语言规则之间往往存在着不可避免的冲突。另外,规则方法在保证规则的完备性和适应性方面也存在着不足。而此时, 统计学方法在自然语言处理的语音识别领域取得了比较好的效果, 于是, 基于统计的机器翻译应运而生。随着双语语料的大量增加、计算机性能的提高, 基于实例的机器翻译方法被提出，并由此泛化产生了基于模板的机器翻译方法。 下面我们分别介绍几种典型的机器翻译方法： （1）基于规则的机器翻译方法
从Chomsky提出转换生成文法后，基于规则的方法一直是机器翻译研究的主流，Chomsky认为一种语言无限的句子可以由有限的规则推导出来。 早期的机器翻译系统, 从体系结构上可以分为直译式、转换式和中间语言式, 它们的不同之处在于对源语言分析的深度, 它们的相同点是都需要大规模的双语词典、大量的源语言推导规则、语言转换规则和目标语言生成规则。其中, 转换式的基于规则方法对源语言分析得比较深, 它涉及到词汇结构分析、语法分析、语义分析, 并完成词汇、语法、语义三层结构从源语言到目标语言的转换, 而且转换式的方法又充分考虑了源语言和目标语言之间的特征联系, 它比中间语言方法更容易获得高质量的翻译结果。因此, 转换式的方法更多地被应用在早期的机器翻译系统中, 整个翻译过程被分为, 源语言分析部分, 转换部分和目标语生成部分。而早期的系统, 如德国西门子的METAL系统、美国的SYSTRAN系统、日本日立公司的ATHENE系统以及中国中软公司的HY-1汉英系统, 都是基于转换的机器翻译系统。 基于规则的机器翻译的优点在于, 规则可以很准确地描述出一种语言的语法构成, 并且可以很直观地表示出来。机器可以按照一组规则来理解它面对的自然语言, 这组规则包含了不同语言层次的规则, 包括用以对源语言进行描述的源语言分析规则、用以对源语言/目标语言之间的转换规则以及用于生成目标语的生成规则。