搜索引擎技术与发展综述

工程技术 Computer CD Software and Applications 2012年第14期

— 24

— 搜索引擎技术与发展综述

孙宏，李戴维，董旭阳，季泽旭

（中国电子科技集团第十五研究所信息技术应用系统部，北京 100083）

摘 要：随着信息技术的飞速发展和互联网的广泛普及，信息检索技术越来越受到重视。阐述了搜索引擎的产生与发展，并对搜索引擎的核心技术、评价指标和工作原理进行了深入研究。介绍了一些著名的搜索引擎。在此基础上，对搜索引擎的发展方向进行了预测。

关键词：信息技术；信息检索；搜索引擎

中图分类号：TP311.52 文献标识码：A 文章编号：1007-9599 （2012） 14-0024-03

一、引言 信息技术如今迅速发展，Internet 也得到了广泛的普及，网络上的信息量正在以指数趋势上升。其信息来源分布广泛，种类繁多。如果不能对信息进行有序化管理，用户将很难从如此海量的信息中提取出他们需要的信息。目前，搜索引擎已经成为人们获取信息的主要手段之一。搜索引擎就是在繁琐复杂的互联网信息中通过特定的检索策略，对信息进行搜索与分类，通过分析用户提交的请求，按照用户的要求和习惯进行组织，从而达到用户快速检索特定信息的目的。目前搜索引擎提供的搜索方式主要有整句、主题词、自由词等等，用以适应不同用户的需求。

二、搜索引擎的产生与发展

蒙特利尔大学的Alan Emtage 实现了最初的搜索引擎，称为Archie 引擎，Archie 引擎可以在特定的网络中进行相关的信息检索。由于其工作原理与现代搜索引擎非常接近，我们通常认为他

开创了现代搜索引擎领域。搜索引擎的发展大致经历过了三代：

（1）第一代搜索引擎是1994年Michael Mauldin 将John Leavitt 的“网络爬虫”程序接入到其索引程序中的Lycos 。由于

结构和技术相对不成熟，它的搜索速度比较慢，更新速度也不能满足用户的检索要求。

（2）美国斯坦福大学的David Filo 和美籍华人杨致远合作开发成功了第二代搜索引擎，它创立了一些用户关心的目录，用户可以通过目录进行检索。

（3）Google 的正式推出标志着第三代搜索引擎的诞生。其集成了搜索、分类、多语言支持等功能，同时提供了摘要、排序、快照等功能，另外与强大的硬件系统配合，大大改变了互联网用户检索网络信息的方式。第三代搜索引擎主要结构如图-1所示。

查询接口的作用是用户进行交互，即提取用户的输入，并将检索结果返回。

检索器依据用户的需求，可以方便地索引库中查找相应的文档，按照相关度规则进行重排后返回。

索引器负责对文档建立索引，使文档以便于检索的方式重新组织。

分析器负责对收集器收集的信息进行分析和整理。

信息收集器的主要任务是对互联网上的各种信息进行收集，同时记录信息URL 地址（网络

爬虫完成这项工作）。

图1 搜索引擎结构图

三、搜索引擎的工作原理 搜索引擎不是搜索互联网，它搜索的是预先整理好的索引数据库；同样，搜索引擎也不能理解网页上的内容，它只能匹配网页上的文字。搜索引擎的工作流

程如图-2所示。

图2 搜索引擎的工作流程 搜索引擎的工作流程可主要分为四个步骤：通过网络爬虫（Spider ）从互联网上根据相关算法（深度优先、广度优先）抓取网页，抓取网页后对网页中的信息进行加工，加工后将处理后的信息保存到索引数据库中。当用户在索引数据库中搜索查询相

关的信息资源时，搜索结果通过搜索引擎的处理后，对返回结果进行排序，展现给用户。即：

（1）利用网络爬虫从互联网上抓取网页：利网络爬虫，按照某种搜索策略，沿着URL 链接爬到其他网页，重复这些过程，并把所有爬过的网页抓取回来。

（2）建立索引数据库：对爬取到的网页进行分析，提取相关关键信息，得到每一个网页针对页面中文字及链接中每一个关键词的重要性，屏蔽掉不重要的词语后，用信息建立网页索引数据库。

（3）处理用户的查询请求：系统接收到用户要查询的关键字后，调用检索器进行搜索，并将返回的结果进行相关度排序，最后按照优先度降序的方式存储在返回结果集合中。

（4）将查询结果返回给用户：搜索结果以网页的形式将结果集中的返回给用户。方便用户查看。

按照上面的步骤就可以简单的架构一个搜索引擎系统供用户使用。目前有很多开源的搜索引擎产品已经完成了上述相关内容，使用者只需要进行相应的配置就可以使用，大大的简化了搜索引擎的开发。目前，比较流行的开源搜索引擎有Nutch 、Solr 等等。

四、搜索引擎的核心技术

搜索引擎的核心技术包括索引技术和检索技术。 （一）索引技术

顺序查找，即通过线性匹配文本进行查找是一种不使用索引进行检索的例子。它无需对文档中的信息进行预处理。这种检索方式在文本较大时检索速度会变得非常慢，通常情况下不使用这种检索方式。

2012年第14期 Computer CD Software and Applications 工程技术

— 25 —

一种解决方法是对文档进行预处理，在文档间建立一种便于检索的数据结构，把这种数据结构称为索引。常用的索引方式主要有三种：倒排索引、后缀数组索引和签名文件索引。倒排索引的运用最为广泛。

倒排文件的索引机制是一种面向单词的机制，它可以极大地提高检索速度。倒排文件数据结构由词汇和出现情况组成。对于文档中的每个单词，都有一个列表来记录单词在所有文本中出现的位置（位置可以是单词的位置，也可以是字符的位置）。倒排索引技术对关键字的检索非常有效。倒排索引将文本看成单词的序列，所以当使用倒排索引解决如短语查询的复杂查询时，需要花费较高的代价。使用后缀数组结构可以有效地解决这些复杂查询，但它的生成过程比较复杂，所以应用情况不如倒排文件使用的广泛。签名文档的方式目前已经不被使用，故不做相关的介绍。

（二）检索技术

常见的信息检索模型根据查找信息的实现方式不同分为：布尔模型、向量空间模型、概率论模型和神经网络模型等等。其中布尔模型比较广泛，在实验环境中向量空间模型最为流行，下文将主要对布尔模型和向量空间模型进行介绍。

1.布尔模型

在布尔模型中，文档通过来自一个词典的一个关键词条的集合来表示。通过看文档中的词条是否满足查询的条件来进行查询与文档的匹配过程。查询由一些逻辑操作符号（如AND 、OR 和NOT ）连接起来的关键词组成的。布尔模型目前被广泛的应用在商用信息获取系统中。它有很多优点，如实现容易、计算代价相对较少、查询语言容易表达等等，但是，它存在三个方面的缺点：

（1）布尔模型操作符的使用方法较难掌握，因此对于搜索引擎的初学者来说很难将一个查询公式化；

（2）查询串中不能说明关键词的相对重要性； （3）很难将文档进行相关性来排序。 2.向量空间模型

在向量空间模型用向量表示信息库中的文本以及用户的查询。文档向量是一个n 元组，其中的每个坐标都通过对应关键词的权重表示。权重越大，则相应关键词对于该文档来说越重要。查询向量与文档向量相似，查询向量中的权重表示对应关键词对于用户来说的重要程度。

向量模型的优点如下：

（1）向量模型可以对查询向量中关键词权重的赋值； （2）向量模型可以对文档进行相关度排序； （3）向量模型比布尔模型的准确度高。 然而，向量模型也有一些缺点：

（1）向量模型中，关键词是被假设为相互独立的，而实际上一个文档中的关键词可能存在一定的联系；

（2）查询中，不能像布尔模型一样使用关键词之间的逻辑关系。

五、搜索引擎的评价指标

目前，互联网上存在很多搜索引擎。所以，若对一个搜索引擎的优劣进行评价十分具有意义。兰卡斯特和费恩于1973年提出了5项评价指标来衡量信息检索系统的性能，它们分别是：查准率、覆盖范围、查全率、用户负担、响应时间和检索结果输出格

式。这些评价指标对于衡量一个搜索引擎的性能具有很大的指导作用。此外还可以从下述几方面进行评价：死链比率、索引数据库更新频率、数据库的规模和内容、用户界面等等。目前，查准率、查全率、死链比率、响应时间、索引库更新频率是评价一个搜索引擎优劣的最通用的5个性能指标是。

（1）查准率：查准率是搜索结果中与关键字有关的信息量与检索结果的全部信息量的比值。实际应用中，查准率不太容易确定。原因是可能用户为了查找某一特定信息或类似信息而输入一个关键词，所以一般情况下只要检索到的关键词的意义与用户输入相近，就认为查准率满足精度要求。

（2）查全率：查全率的定义是搜索引擎查询到的结果中的有关信息数量和搜索引擎数据库中有关信息数量的比值。如果一个搜索引擎的查全率很低，由于用户通过这种搜索引擎查询到的信息量太少，导致其没有太大的使用价值，即用户很难得到真正有用的信息。

（3）死链比率：使用搜索引擎搜索时，永远无法获取的结果我们称之为死链接，搜索引擎没有及时更新索引数据库是造成死链接的主要原因。

（4）响应时间：响应时间指用户输入检索请求到搜索引擎返回检索结果的时间间隔。在用户选择搜索引擎时，首先考虑的是搜索引擎本身的响应速度，如：一个查全率和查准率都很高的搜索引擎，如果其响应速度非常慢，则用户显然不会选择。响应时间在很大程度上也受到外界因素的影响，如网络状况等。因此，在对比不同搜索引擎的响应时间时，必须在相同的时间，相同的软硬件条件及相同的检索请求下进行。

（5）索引库更新频率：索引库更新频率指的是搜索引擎索引数据库更新周期的长短。用户能否及时获得较新的信息直接受到搜索引擎索引数据库更新频率的影响，所以这项指标尤为重要。

六、著名的搜索引擎介绍

搜索引擎自1994年出现发展至今，已取得了长足的进步，信息检索工具、搜索引擎也是层出不穷，下面将简要介绍一些著名的搜索引擎。

（1）Google ：Google 是全球最大的机器搜索引擎， Google 每天提供 2 亿次查询服务，占全球搜索引擎查询市场份额的29.2 %，无可争议的世界第一； Google 通过对80多亿网页进行整理，为世界各地的用户提供适需的搜索结果，而且搜索时间通常不到半秒。

（2）Lycos ：Lycos 作为全世界最早的搜索引擎之一。每月以 3700 万次的独立访问排名第 5大用户最常访问的网站。调查得知，Lycos 主要搜索结果来自于 Alltheweb 。

（3）AltaVista ：AltaVista 是全世界功能最完善，搜索精度较高的全文搜索引擎之一。目前， AltaVista 数据库已存有超过 12 亿个 Web 文件，并且经过升级，其搜索精度已达业界领先水平。不过该搜索引擎已于2003年被Y ahoo 收购。

（4）百度：百度一直是全球最大的中文搜索引擎，一直占据着搜索引擎市场的半壁江山。随着Google 在中国市场的持续挺进和战略调整，以及其他搜索引擎（如雅虎中国、网易有道、新浪爱问、腾讯搜搜、中搜等）的异军突起，百度维持目前的优势压力越来越大。

工程技术 Computer CD Software and Applications 2012年第14期

— 26

— 七、结束语

搜索引擎已经成为一个新的研究领域。它涉及了信息检索、分布式处理、数据挖掘、自然语言处理等多领域的理论和技术，是一门综合性极强的技术。随着互联网上数据量的不断扩大，人们对搜索引擎的要求也越来越高，这将促成搜索引擎的继续快速发展。虽然搜索引擎已经有了二十余年的历史，但是其仍有很多问题还需我们去解决与研究。

本文介绍了搜索引擎的发展历史，研究讨论了搜索引擎的工作原理，并对搜索引擎的核心技术和评价指标做了相关研讨。通过调研，对几个著名的搜索引擎进行了介绍。

参考文献：

[1]马修军.多媒体数据库与内容检索[M].北京:北京大学出版社,2007

[2]焦丽.网络搜索引擎研究概述[J].农业图书情报学刊,2008,(3) [3]朱江岭.网络信息资源检索与利用[M].北京:海洋出版社,2007

[4]雷鸣,王建勇,赵江华等.第三代搜索引擎与天网二期[J].北京大学学报(自然科学版),2001,37(9):735-740

[5]胡冉.关于搜索引擎的几个理论问题的综述[J].晋图学刊,2003,74(2):74-77

[6]沈贺丹,潘亚楠,邵良杉.关于搜索引擎的研究综述[J].计算机技术与发展,2006,16(4):148-152 [7]曾宜礼.搜索引擎技术综述[J].科学情报开发与经济,2007,16(7):198-199

[8]李悦.搜索引擎技术的产生与发展[J].福建电脑,2010,5:34-36

[9]姚树宇,赵少东一种使用分布式技术的搜索引擎[J].计算机应用与软件,2005(10)

[10]李小明,闰宏飞,王继明搜索引擎原理、技术与系统[J].计算机工程,2005,31(14)

[11]徐宝文,张卫丰.搜索引擎与信息获取技术[M].清华大学出版社,2003

[12]王小森,基于Solr 的搜索引擎的设计与实现[D].北京邮电大学硕士学位论文

[13]张卫峰,徐宝文,周晓宇,许蕾,李东.Web 搜索引擎综述[J].计算机科学,2001,28(9):24-28

[14]都云程,卢献华.中文搜索引擎现状与展望[J].中文信息学报,1999,13(3):61-64

[15]李蕾.中文搜索引擎检索初探[J].计算机工程与应用,2000,36(6)

[16]刘建生,周志辉.个性化搜索引擎综述[J].计算机与数字工程,2010,38(10):80-81

[17]欧阳柳波,李学勇,李国徽,王鑫.专业搜索引擎搜索策略综述[J].计算机工程,2004,30(13):32-33

（上接第23页）

证的，只有剩余的20％才需要依靠技术来加以处理。 3.尽量使用固定分配IP 的方式，而不是采用DHCP 策略。并对日志加以记录，严防非法IP 的登陆，观察异常流量问题。

4.当需要对数据库进行重要操作时，应该进行日志备份，做到有据可查。

5.对于暂时不需要用到的信息节点，应该将设备的对应端口设置为disable 。

6.所有的患者医疗信息都应该加密之后在保存到数据库当中，防止恶意窃取行为的发生。在保证信息共享得以实现的基础上，确保信息安全。

四、医院信息网络的雷击隐患与应对策略 医院信息网络雷击隐患

计算机网络的防雷击是一个持久的问题，正是由于这个原因，导致人们在意识上没有对之加以足够的认识，成为了医院信息网络的重要隐患。一旦防护不到位，将给财产以及人员带来重大损失。通常而言，雷击的多发地带对雷击都有很好的处理措施，所以雷击多发地带的雷击事故反而要少，而雷击少发地带就需要引起足够的重视。对于医院的信息网络而言，防雷击工程一般都是有专业的工程企业来进行的，但是这并不等于是在信息网络设置完成之后再进行防雷作业，而是应该在整个网络规划的阶段进行与专业的防雷作业进行同步协作，从开始就进行规划。除了对应的专业措施之外，网络管理人员应该做到下面这样几点：

1.安装过程中确保强、弱电线缆不在同一个金属管线之内。

2.网络信息的中心机房应该是防雷保护工作的重点，进行防雷屏蔽过程中一定要保护到位。

3.对于系统重要设备的端口，应该在专业技术人员的建议之下设置对应的过载接地设备，保证设备在雷击天气的安全。

4.对于室外光缆应该根据具体的而需要来进行等电位接地，形成体系的接地网络。

五、其他人为因素

人为因素是影响信息网络的一个重要方面，而通常又没有受到人们的足够重视，所以应该通过对人为因素的控制来降低网络出现的安全风险。在实际的管理过程中，可以采用如下的具体措施：其一，在临床科室中尽量不使用包含有电源适配器的HUB ，否则将导致局域网络的不稳定；其二，在进行网络施工之前要强化与网络维护人员的协调，在断电之前做好对应的应急处理方案；其三，配线与机柜之间的距离应该合理设置，原理人群密集区，避免噪声的影响；其四，对于另外一些不可预见的因素还需要灵活观察，现场进行及时处理。

六、结语

本文从计算机病毒、内网信息安全、防雷击以及其他人为因素四个方面探讨了医院网络信息安全隐患，针对这些隐患提出了对应的预防策略，对提高医院信息安全起到了一定的积极作用。

参考文献：

[1]王学,刘杰超,丁莉莉.军队医院信息安全风险管理研究[J].解放军医院管理杂志,2010,17(11):1056-1057

[2]潘艳军,彭涛.浅析加强医院管理系统信息安全的策略[J].中国科技博览,286

[3]张震江,赵军平.医院网络与信息安全的问题和对策[J].医疗卫生装备,2006,27(11):32-34

当今搜索引擎技术及发展趋势

当今搜索引擎技术及发展趋势 随着互联网的迅猛发展、WEB信息的增加，用户要在信息海洋里查找信息，就象大海捞针一样，搜索引擎技术恰好解决了这一难题（它可以为用户提供信息检索服务）。目前，搜索引擎技术正成为计算机工业界和学术界争相研究、开发的对象。 搜索引擎（Search Engine）是随着WEB信息的迅速增加，从1995年开始逐渐发展起来的技术。据发表在《科学》杂志1999年7月的文章《WEB信息的可访问性》估计，全球目前的网页超过8亿，有效数据超过9T，并且仍以每4个月翻一番的速度增长。用户要在如此浩瀚的信息海洋里寻找信息，必然会“大海捞针”无功而返。搜索引擎正是为了解决这个“迷航”问题而出现的技术。 搜索引擎以一定的策略在互联网中搜集、发现信息，对信息进行理解、提取、组织和处理，并为用户提供检索服务，从而起到信息导航的目的。搜索引擎提供的导航服务已经成为互联网上非常重要的网络服务，搜索引擎站点也被美誉为“网络门户”。搜索引擎技术因而成为计算机工业界和学术界争相研究、开发的对象。 一、分类 按照信息搜集方法和服务提供方式的不同，搜索引擎系统可以分为三大类： 1．目录式搜索引擎：以人工方式或半自动方式搜集信息，由编辑员查看信息之后，人工形成信息摘要，并将信息置于事先确定的分类框架中。信息大多面向网站，提供目录浏览服务和直接检索服务。该类搜索引擎因为加入了人的智能，所以信息准确、导航质量高，缺点是需要人工介入、维护量大、信息量少、信息更新不及时。这类搜索引擎的代表是：Yahoo、LookSmart、Open Directory、Go Guide等。2．机器人搜索引擎：由一个称为蜘蛛（Spider）的机器人程序以某种策略自动地在互联网中搜集和发现信息，由索引器为搜集到的信息建立索引，由检索器根据用户的查询输入检索索引库，并将查询结果返回给用户。服务方式是面向网页的全文检索服务。该类搜索引擎的优点是信息量大、更新及时、毋需人工干预，缺点是返回信息过多，有很多无关信息，用户必须从结果中进行筛选。这类搜索引擎的代表是：AltaVista、Northern Light、Excite、Infoseek、Inktomi、FAST、Lycos、Google；国内代表为：“天网”、悠游、OpenFind等。 3．元搜索引擎：这类搜索引擎没有自己的数据，而是将用户的查询请求同时向多个搜索引擎递交，将返回的结果进行重复排除、重新排序等处理后，作为自己的结果返回给用户。服务方式为面向网页的全文检索。这类搜索引擎的优点是返回结果的信息量更大、更全，缺点是不能够充分使用所使用搜索引擎的功能，用户需要做更多的筛选。 二、性能指标 我们可以将WEB信息的搜索看作一个信息检索问题，即在由WEB网页组成的文档库中检索出与用户查询相关的文档。所以我们可以用衡量传统信息检索系统的性能参数-召回率（Recall）和精度（Pricision）衡量一个搜索引擎的性能。 召回率是检索出的相关文档数和文档库中所有的相关文档数的比率，衡量的是检索系统（搜索引擎）的查全率；精度是检索出的相关文档数与检索出的文档总数的比率，衡量的是检索系统（搜索引擎）的查准率。对于一个检索系统来讲，召回率和精度不可能两全其美：召回率高时，精度低，精度高时，召回率低。所以常常用11种召回率下11种精度的平均值（即11点平均精度）来衡量一个检索系统的精度。对于搜索引擎系统来讲，因为没有一个搜索引擎系统能够搜集到所有的WEB网页，所以召回率很难计算。目前的搜索引擎系统都非常关心精度。 影响一个搜索引擎系统的性能有很多因素，最主要的是信息检索模型，包括文档和查询的表示方法、评价文档和用户查询相关性的匹配策略、查询结果的排序方法和用户进行相关度反馈的机制

中外搜索引擎研究的现状与发展

中外搜索引擎研究的现状与发展 夏旭李健康 （第一军医大学图书馆广州510515） 摘要: 以WWW网络搜索引擎的发展历程为基础，综述了WWW网络搜索引擎的定义、检索机制、检索规则、词表应用、分类研究、比较研究等方面取得的新进展，探讨搜索引擎发展走向与思路。同时就目前中外搜索引擎普遍存在的问题进行分析，希能对国内中文搜索引擎的开发和准确、快速、全面检索WWW网络乃至因特网信息资源有所启示。 关键词：搜索引擎研究进展综述信息资源管理 由于因特网上信息资源内容广泛、时效性强、访问快速、网络交互搜寻、动态更新，而且还提供快速访问网上信息资源的各种搜索引擎(Search Engines)，用于快速搜索WWW网络乃至因特上的有用信息，使得通过WWW网络获取网络信息资源成为国内外研究的一大热点。基于网络的搜索引擎的研制与开发应用成为当前网络信息资源开发应用研究领域的热点。英文搜索引擎“GOOGLE”和中文搜索引擎“百度搜索”的推出，拉开了搜索引擎核心技术争夺战的序幕。可以预言，在今后一段相当长的时间里，搜索引擎还将有长足的发展和进步，检索功能将更趋向于集成化和更具亲和力、更显人性化。 1 搜索引擎的定义、检索机制、检索规则和词表应用 1.1 定义 搜索引擎，Search engines，又称搜索机，Web搜索器，是伴随WWW网络出现的检索网上信息资源的新工具。实质上是一种网页网址检索系统，有的提供分类和关键词检索途径，有的仅提供关键词检索途径。它根据检索规则和从其他信息服务器上得到数据并对数据进行加工处理，自动建立索引，并通过检索接口为用户提供信息查询服务，能够自动对WWW资源建立索引或进行主题分类，并通过查询语法为用户返回匹配资源的系统。搜索引擎主要是由Crawler、Spider、Worm、Robot等计算机软件程序自动在因特网上漫游，不断搜集各类新网址及网页，形成数以千万甚至上亿条记录的数据库。它是通过采集标引众多网络站点来提供全局性网络资源控制与检索机制、将全球WWW网络中所有信息资源作一完整的集合、整理和分类、方便用户查找所需信息的网络检索软件。具有检索面广、信息量大、信息更新速度快，特定主题的检索专指性强等特点。 1.1.1 常规搜索引擎和元搜索引擎 自带索引数据库的搜索引擎通常被称为常规搜索引擎或独立搜索引擎，相应地，集多种常规搜索引擎于一体的搜索引擎则称为（多）元搜索引擎。元搜索引擎是国外搜索引擎开发者新设计的一种集成型搜索引擎，与独立搜索引擎的区别在于：它是通过一个统一的用户界面帮助用户在多个独立搜索引擎中选择和利用合适的搜索引擎，甚至是同时利用多个搜索引擎来实现检索操作。元搜索引擎没有自己独立的数据库，却更多地提供统一界面，形成一个由多个搜索引擎构成的具有独立功能的虚拟逻辑体，通过元搜索引擎的功能实现对这个虚拟逻辑体中各搜索引擎数据库的查询等一切操作。由于元搜索引擎预先配置好多个搜索引擎，每条检索指令都自动通过预先配置的搜索引擎执行，免去了用户逐一记忆和单独使用每个搜索引擎的麻烦。主要的元搜索引擎有ALL-IN-ONE、CUSI、Fun City Web Search、HyperNews、Linksearch、Savvysearch、Metacrawler、Best Search、W3Search Engines、WebSearch、Profusion、Mamma、Avenuesearch、Dogpile、Kwikseek、Findspot、Bytesearch、Webferret、Bluesquirrel Webseeker等。Metacrawler (http://www. https://www.sodocs.net/doc/853097924.html,)能同时调用６个搜索引擎；Savvysearch (http://www. https://www.sodocs.net/doc/853097924.html,)可有选择地调用21个独立的搜索引擎，检索Web、Usenet 新闻组、软件、参考工具、技术报告等信息，每次最多并行检索５个搜索引擎的数据库。Profusion (http://www. https://www.sodocs.net/doc/853097924.html,)最多同时调用９个独立的搜索引擎，调用方式有全部调用、系统自动选择最好的３个、系统自动选择最快的３个、用户从中选取任意个搜索引擎。最新出现的桌面型离线式搜索引擎如Webcompass、WebSeeker、WebFerret、Echosearch、Copernic98等也是元搜索引擎。 1.1.2 集中式搜索引擎和分布式搜索引擎

第四代搜索引擎前沿综述

第四代搜索引擎前沿综述 刁轶夫3061401080 2010年5月 1．介绍 随着因特网的普及，网上信息的发展呈现两个基本的趋势：规模的爆炸性增长，覆盖领域的不断扩大。如何在海量，非结构化信息中，提取对用户有用的信息是信息时代的核心课题。搜索引擎正是通过对信息的自动搜集，索引，在用户发出请求时经过实时排序，为用户呈现其最有价值的信息。 由搜索引擎衍生而来的关键词广告产生了巨大的商业价值，并造就了谷歌、百度等互联网巨头。但同时，谷歌以pagerank为核心的第三代搜索引擎已经不能满足日益增长的需求，数据量的增长和数据覆盖范围的增加迫切呼唤第四代搜索引擎。 我认为，第四代搜索将把个性化信息及人际推荐关系叠加到链接分析上，大大改善搜索结果排序效果；同时，跨媒体搜索将实现诸如用图片搜索图片等功能，打通文字，图片，视频，声音的界限，颠覆现在全部基于关键字的搜索方法，为用户带来更加直观的搜索体验。 2．搜索引擎发展历史及趋势 2.1 搜索引擎发展历史 从Lycos和Yahoo的时代到现在，搜索引擎的发展已经经过了三代。Andrei[1]的文章中对前三代搜索引擎的特征做了描述： Google经过改进Pagerank和一系列技术，演化至第三代，而第四代搜索引擎有大量公司如Cuil,Quora探索，但还未形成成熟的产品。 下图援引自Google创始人论文[2]，说明第二代，第三代搜索引擎的主要原理： 首先搜索引擎通过爬虫技术（Crawler），根据网页链接爬取互联网内容；然后建立倒排索引(Inverted Index)；同时通过Pagerank技术，基于random walk的思想计算出每个网页的Pagerank。前面几步都是独立于用户查询进行的。当用户提交查询关键词后，搜索

搜索引擎原理及发展趋势

1 南昌航空大学 Nanchang Hangkong University 毕 业 论 文 题目 _搜索引擎原理及发展趋势__________________ 学院 _江西工业工程职业学校 _____________________ 专业 __________计算机网络________________________ 姓名 周文飞___________学号 036811100078 指导老师 李国忠______________职称________________ __2012__年_5__月_5_ 日 _

目录 第一章搜索引擎的概述 3 1.1 搜索引擎3 1.2 搜索引擎的发展史3第二章搜索引擎基本常识9 2.1 搜索引擎工作原理9 2.2 搜索引擎分类9 2.3 全文搜索引擎10第三章使用搜索引擎的一些基本规则和技巧12 3.1 搜索引擎的一些基本规则12 3.2 搜索引擎的一些基本技巧12第四章搜索引擎的评测16 4.1搜索引擎缺陷16 4.2搜索速度16第五章搜索引擎的未来发展动向及趋势18 5.1搜索引擎的未来发展动向18 5.2搜索引擎趋势19 结束语23致谢24参考文献25 2

第一章搜索引擎的概述 1.1 搜索引擎 搜索引擎是指根据一定的策略、运用特定的计算机程序从互联网上搜集信息，在对信息进行组织和处理后，为用户提供检索服务，将用户检索相关的信息展示给用户的系统。搜索引擎包括全文索引、目录索引、元搜索引擎、垂直搜索引擎、集合式搜索引擎、门户搜索引擎与免费链接列表等。百度和谷歌等是搜索引擎的代表。 搜索引擎是指根据一定的策略、运用特定的计算机程序从互联网上搜集信息，在对信息进行组织和处理后，为用户提供检索服务，将用户检索相关的信息展示给用户的系统。搜索引擎包括全文索引、目录索引、元搜索引擎、垂直搜索引擎、集合式搜索引擎、门户搜索引擎与免费链接列表等。百度和谷歌等是搜索引擎的代表。 1.2搜索引擎的发展史 互联网发展早期，以雅虎为代表的网站分类目录查询非常流行。网站分类目录由人工整理维护，精选互联网上的优秀网站，并简要描述，分类放置到不同目录下。用户查询时，通过一层层的点击来查找自己想找的网站。也有人把这种基于目录的检索服务网站称为搜索引擎，但从严格意义上讲，它并不是搜索引擎。 1990年，加拿大麦吉尔大学（University of McGill）计算机学院的师生开发出Archie。当时，万维网（World Wide Web）还没有出现，人们通过FTP来共享交流资源。Archie能定期搜集并分析FTP服务器上的文件名信息，提供查找分别在各个FTP主机中的文件。用户必须输入精确的文件名进行搜索，Archie告诉用户哪个FTP服务器能下载该文件。虽然Archie搜集的信息资源不是网页（HTML文件），但和搜索引擎的基本工作方式是一样的：自动搜集信息资源、建立索引、提供检索服务。所以，Archie被公认为现代搜索引擎的鼻祖。 起源 所有搜索引擎的祖先，是1990年由Montreal的McGill University三名学生（Alan Emtage、Peter Deutsch、Bill Wheelan）发明的Archie（Archie FAQ）。Alan Emtage等想到了开发一个可以用文件名查找文件的系统，于是便有了Archie。Archie是第一个自动索引互联网上匿名FTP网站文件的程序，但它还不是真正的搜索引擎。Archie是一个可搜索的FTP文件名列表，用户必须输入精确的文件名搜索，然后Archie会告诉用户哪一个FTP地址可以下载该文件。由于Archie深受欢迎，受其启发，Nevada System Computing Services大学于1993年开发了一个Gopher（Gopher FAQ）搜索工具Veronica（Veronica FAQ）。Jughead是后来另一个Gopher搜索工具。发展（1） Excite 的历史可以上溯到1993年2月，6个Stanford University（斯坦福大学）大学生的想法是分析字词关系，以对互联网上的大量信息作更有效的检索。到1993年中，这已是一个完全投资项目，他们还发布了一个供 3

搜索引擎在电子商务中的应用

搜索引擎在电子商务中的运用

搜索引擎在电子商务中的运用 摘要：20世纪互联网的出现和飞速发展，商务信息爆炸式的增长以及网络环境的日益复杂,搜索引擎作为信息检索的重要工具在网络经济中的作用变得越来越重要,搜索引擎与电子商务的结合是未来电子商务的发展趋势,因此本文以搜索引擎现状、面向电子商务的智能搜索引擎技术及在网络营销中的应用以及搜索引擎在今后的发展趋势做出简单的介绍. 关键词：电子商务；信息检索；搜索引擎；应用研究；发展趋势 一、对电子商务和搜索引擎的理解 从总体上来看，电子商务是指给整个贸易活动实现电子化。应用计算机与网络技术与现代信息化通信技术，按照一定标准，利用电子化工具来实现包括电子交易在内的商业交换和行政作业的商贸活动的全过程。 搜索引擎（SearchEngine）:通过运行一个软件，该软件在网络上通过各种链接，自动获得大量站点页面的信息，并按照一定规则进行归类整理，从而形成数据库，以备查询。这样的站点（获得信息——整理建立数据库——提供查询）我们就称之为“搜索引擎”。 1.2 搜索引擎在我国的发展现状 (8) 1.2.1我国搜索引擎的背景 (8) 1.2.2 搜索引擎的现状 (9) 1.3本文的研究内容 (10) 第一章搜索引擎的原理…………………………………………………………… 11 2.1搜索引擎的原理概述…………………………………………………………… 11 2.2搜索引擎的实现原理…………………………………………………………… 12

2.2.1从互联网上抓取网页……………………………………………………… 12 2.2.2建立索引数据库…………………………………………………………… 12 2.2.3在索引数据库中搜索……………………………………………………… 13 2.2.4对搜索结果进行处理排序………………………………………………… 13 1.2搜索引擎的现状 1.2.1 我国搜索引擎的背景 百度上市后，我国的搜索市场一下子热了起来。越来越多的企业围绕着搜索市场作起了文章。而且，在搜索大战的同时，一些企业也抛出了一些惊人言论。近日，记者从专业做人脉交际的联络家（https://www.sodocs.net/doc/853097924.html,）技术总监冉征处了解到，联络家正在加紧研发人脉相关领域的专业垂直，联络家之所以涉足专业垂直搜索引擎领域，是看到未来垂直专业搜索引擎市场的巨大商机，他认为未来搜索市场将进一步细分，象Google、百度等主张大而全的全球式搜索引擎将会面临垂直专业搜索引擎更大的竞争与挑战，他们的市场分额将会被逐渐瓜分，专业的行业性垂直搜索将受到网民的青睐。 那么缘何能得出如此结论呢？CNNIC第十四次互联网调查显示，搜索以71.9％的绝对优势成为用户从互联网上获得信息的主要方式。几乎在全球所有的调查中，搜索引擎都是互联网上使用程度仅次于电子邮箱的服务，搜索引擎服务能成为最受欢迎的服务是因为他解决了用户在浩瀚的互联网海量快速定位信息屏颈问题，在海量的网页里找信息按照传统方式需要用户一个网站一个网站一级目录一级目录下找，要耗费大量的精力和时间，几乎是不可能实现的任务。 1.2.2 搜索引擎的现状 随着互联网的信息量呈爆炸趋势增长，几年前全球式搜索引擎收录的网页量

中国搜索引擎服务市场的现状及发展

中国搜索引擎服务市场的现状及发展　① 黄建莲② (华北科技学院管理系,北京东燕郊　101601) 摘　要:针对当前我国的搜索引擎服务市场分析该市场的规模、商业模式及发展前景,并从加强技术创新,提高服务质量,实现服务的垂直化和个性发展方面进行了探讨。 关键词:搜索引擎;搜索引擎服务;市场规模;服务市场;搜索引擎技术 中图分类号:F76416 文献标识码:A 文章编号:1672-7169(2005)03-0113-03 搜索引擎是一个传递企业网络营销信息的基本工具,它具有用户数量多、营销定位强的特点。对于企业能实现网站推广、产品推广、提升企业品牌等多方面的作用。因此搜索引擎服务商更应抓住机遇,挖掘商机,实现搜索引擎的服务价值。 1　中国搜索引擎服务市场的现状分析 111　中国搜索引擎服务市场的规模 11111　中国使用搜索引擎的用户和企业数量变化 根据CNN IC互联网用户调查数据显示,随着互联网用户的逐年增加,搜索引擎作为用户使用互联网的主要工具使用率呈现逐年上涨趋势。2004年中国互联网用户使用搜索引擎的用户比例占到80%,预计未来两年使用搜索引擎的用户仍呈现稳定增长态势。 从当前企业使用搜索引擎的服务来看,搜索引擎作为连接企业和用户的一座桥梁,也越来越受到企业的重视,越来越多的企业选择使用搜索引擎作为企业的推广方式。在2001年仅有7万家企业使用搜索引擎技术作为企业的推广方式,而2003年企业数量达到26万家,2004年企业数量达到49万家。 11112　中国搜索引擎行业市场规模现状 中国的搜索引擎市场格局基本稳定,目前主要以百度、雅虎、搜狐、G oogle、新浪、网易、中国搜索等几家厂商为主;据IResearch调查,2004年中国搜索引擎市场中,百度、雅虎、G oogle分别以36129%、22172%、21122%的用户占有率占据着国内搜索引擎市场的前三位,形成了国内搜索市场的“第一阵营”。紧随其后,新浪、搜狐、网易、Tom、中国搜索、 中华网等国内厂商形成了“第二阵营”。 IResearch统计数据显示,2003年中国搜索引擎市场规模为619亿元人民币,年增长率为147%。2004年中国搜索引擎市场规模将达到1215亿元人民币,年增长率为81%。如图1所示: 图1　中国搜索引擎行业市场规模 综上,目前中国的搜索引擎网络营销仍处于快速发展阶段,中国的搜索引擎市场无论是企业广告主的数量,还是整个搜索引擎行业市场规模都迅速发展。 112　搜索引擎服务市场的商业模式 搜索引擎是企业实施网络营销的重要工具之 311 ① ②作者简介:黄建莲(1977—),女,福建顺昌人,大学毕业,华北科技学院管理系助教。 收稿日期:2005206221

全文搜索引擎的设计与实现(文献综述)

全文搜索引擎的设计与实现 前言 面对海量的数字化信息，搜索引擎技术帮助我们在其中发现有价值的信息与资源。我们可以通过google、百度这样的搜索引擎服务提供商帮助我们在Internet上搜索我们需要的信息。但是在一些没有或不便于连入Internet的内部网络或者是拥有海量数据存储的主机，想要通过搜索来发现有价值的信息和资源却不太容易。所以开发一个小型全文搜索引擎，实现以上两种情况下的信息高效检索是十分有必要的。本设计着眼于全文搜索引擎的设计与实现，利用Java ee结合Struts,Spring,Hibernates以及Ajax等框架技术，实现基于apache软件基金会开源搜索引擎框架Lucene下的一个全文搜索引擎。 正文 搜索引擎技术起源1990年，蒙特利尔大学学生Alan Emtage、Peter Deutsch和Bill Wheelan出于个人兴趣，发明了用于检索、查询分布在各个FTP主机中的文件Archie，当时他们的目的仅仅是为了在查询文件时的方便，他们未曾预料到他们的这一创造会成就日后互联网最的广阔市场，他们发明的小程序将进化成网络时代不可或缺的工具——搜索引擎。1991年，在美国CERFnet、PSInet及Alternet网络组成了CIEA （商用Internet 协会）宣布用户可以把它们的Internet子网用于商业用途，开始了Internet商业化的序幕。商业化意味着互联网技术不再为科研和军事领域独享，商业化意味着有更多人可以接触互联网，商业化更意味着潜在的市场和巨大的商机。1994年，Michael Mauldin推出了最早的现代意义上的搜索引擎Lycos，互联网进入了搜索技术的应用和搜索引擎快速发展时期。以上是国际互联网和搜索引擎发展历史上的几个重要日子。互联网从出现至今不过15年左右时间，搜索引擎商业化运作也就10年左右。就在这短短的10年时间里，互联网发生了翻天覆地的变化，呈爆炸性增长。于此同时也成就了google、百度这样的互联网巨头。今天，当我们想要在这片广阔的信息海洋中及时获得想要查找的信息时，已经离不开搜索引擎了。 相关技术

搜索引擎的现状和发展趋势

期末课程论文 论文标题：搜索引擎的现状与发展趋势 课程名称：信息检索技术 课程编号：1220500 学生姓名：潘飞达 学生学号：1100310120 所在学院：计算机科学与工程学院 学习专业：计算机科学与技术 课程教师：王冲 2013年7月1 日

【摘要】 搜索引擎包括图片搜索引擎、全文索引、目录索引等，其发展历史可分为五个阶段，目前企业搜索引擎和网站运营搜索引擎运用范围较广。在搜索引擎的未来发展中，呈现出个性化，多元化，智能化，移动化，社区化等多个趋势。 【关键词】 发展过程、发展趋势、检索技巧、个性化、智能化 1 搜索引擎简介 搜索引擎是指根据一定的策略、运用特定的计算机程序从互联网上搜集信息，在对信息进行组织和处理后，为用户提供检索服务，将用户检索相关的信息展示给用户的系统。搜索引擎包括全文索引、目录索引、元搜索引擎、垂直搜索引擎、集合式搜索引擎、门户搜索引擎与免费链接列表等。百度和谷歌等是搜索引擎的代表。 其工作作原理分为抓取网页，处理网页和提供检索服务。 抓取每个独立的搜索引擎都有自己的网页抓取程序，它顺着网页中的超链接，连续地抓取网页。由于互联网中超链接的应用很普遍，理论上，从一定范围的网页出发，就能搜集到绝大多数的网页。搜索引擎抓到网页后，还要做大量的预处理工作，才能提供检索服务。其中，最重要的就是提取关键词，建立索引文件。 搜索引擎是根据用户的查询请求，按照一定算法从索引数据中查找信息返回给用户。为了保证用户查找信息的精度和新鲜度，搜索引擎需要建立并维护一个庞大的索引数据库。一般的搜索引擎由网络机器人程序、索引与搜索程序、索引数据库等部分组成。 系统结构图 2搜索引擎的工作原理 第一步：爬行 搜索引擎是通过一种特定规律的软件跟踪网页的链接，从一个链接爬到另外一个链接，像蜘蛛在蜘蛛WWW 文档 网络机器人程序 建立Lucence 索引 从数据库中搜索信息 Tomcat 服务器 Lucence 索引数据库 WWW 浏览器 WWW 浏览器 JSP 网络机器人程序

百度搜索点击模型简介

百度搜索点击模型简介 用户的搜索点击模型(Click Model)其实是一个非常大的话题，涉及到用户查询满意度的建模和分析。 百度真实网页权重里有一个satisfyScore(满意度打分)，所以搜索点击行为不仅是提升点击权重，连带提高满意度权重。 在今天的搜索引擎技术中，通过Click Model 衍生出了众多的功能，包括搜索满意度的自动监控、搜索结果的自动调权调序等。 这里提到了搜索点击模型会自动改变排名。 而这些技术的出发点都是User Behavior(用户行为)数据。 在Session 信息(a search session 一次搜索周期信息)里，用户的点击行为往往能提供丰富的信息： 百度网页搜索一次完整的搜索周期包含大量信息，有查询词，搜索结果的标签，标题，链接，高度、宽度，模版，排名，数据策略ID，点击校验参数，时间戳，官网认证标识，何种搜索结果，随机样本ID，查询ID，付费名，是否百度首页，是否登录百度账号，搜索形式，搜索框位置，字符编码，输入耗时等几十项信息。 1.在搜索结果从上至下被用户浏览的过程中，当被点击的结果中间出现了跳跃，例如 Query1(第1次搜索)对应的自然排序结果是Result1(第1个结果), Result2(第2个结果), Result3(第3个结果)…,但是如果大量用户的点击是Result1, Result3, 则Result2 的相关性可能存在问题；意思是点击第1、3个结果，不但可以提升第1、3个结果的权重，还可以降低第2个结果的权重。所以对付竞争对手快速点击一个办法是大量点击其他结果。 2.另外一种情况是，如果同一个Query 产生了一次点击后，间隔一段时间后再次出现 了对后面结果的点击，则也许说明了之前结果的满足度不够高。 3.一种在搜索结果页降低竞争对手满意度权重的方式，先点击对方的结果，隔段时间 再点自己网站的结果。 4.在同一个Session 里，用户发生主动Query 变换(或称为Query Re-write)也往往能 说明问题，前面的Query 如果搜索结果质量不高，则很多用户会选择修改查询词，此时前面被点击的Title(搜索结果标题)重要程度往往不如后续的Title，等等各类场景很丰富。 5.另一种一石二鸟的办法是先搜索一个竞争对手排名好的关键词，点了之后，更换另 一个自己网站的相关词点击，亦可降低对方网站的满意度。 以上各类的Click Model 思想虽然在实际线上系统中被广泛运用，但竞赛中没有提供更详细的信息，包括点击结果在搜索中的排序(对于分析点击模型至关重要)、点击发生的时间、点击停留间隔、用户的Cookieid/Userid(暂存用户信息ID/用户ID)等，限制了

搜索引擎论文

搜索引擎发展状态及未来趋势 【摘要】 搜索引擎包括图片搜索引擎、全文索引、目录索引等，其发展历史可分为五个阶段，目前企业搜索引擎和网站运营搜索引擎运用范围较广。在搜索引擎的未来发展中，呈现出个性化，多元化，智能化，移动化，社区化等多个趋势。 【关键词】 发展起源、索引、数据库、网站运营、未来趋势 【参考文献】 《个性化搜索引擎原理与技术》《搜索引擎的设计与实现》搜索引擎是指根据一定的策略、运用特定的计算机程序从互联网上搜集信息，在对信息进行组织和处理后，为用户提供检索服务，将用户检索相关的信息展示给用户的系统。其工作作原理分为抓取网页，处理网页和提供检索服务。抓取每个独立的搜索引擎都有自己的网页抓取程序，它顺着网页中的超链接，连续地抓取网页。由于互联网中超链接的应用很普遍，理论上，从一定范围的网页出发，就能搜集到绝大多数的网页。搜索引擎抓到网页后，还要做大量的预处理工作，才能提供检索服务。其中，最重要的就是提取关键词，建立索引文件。 搜索引擎的发展起源可以追溯到第一个Gopher搜索工具Veronica。后来的搜索引擎的发展分为五个阶段。第一阶段，出现World wide Web Wanderer，用于追踪互联网发展规模。刚开始它只用来统

计互联网上的服务器数量，后来则发展为也能够捕获网址。第二阶段，出现了以概念搜索闻名的Excite以及元搜索引擎Dogpile。第三阶段，即yahoo的出现。随着访问量和收录链接数的增长，Yahoo目录开始支持简单的数据库搜索。Yahoo以后陆续有Google等提供搜索引擎服务，但不可否认的是，Yahoo几乎成为20世纪90年代的因特网的代名词。第四阶段，一种新的搜索引擎形式出现了，即元搜索引擎。用户只需提交一次搜索请求，由元搜索引擎负责转换处理后提交给多个预先选定的独立搜索引擎，并将从各独立搜索引擎返回的所有查询结果，集中起来处理后再返回给用户。第五阶段的代表是智能检索的产生：它利用分词词典、同义词典，同音词典改善检索效果，进一步还可在知识层面或者说概念层面上辅助查询，给予用户智能知识提示，最终帮助用户获得最佳的检索效果。 搜索引擎目前包括图片搜索引擎、全文索引、目录索引、元搜索引擎、垂直搜索引擎等。全文索引引擎是名副其实的搜索引擎，国外代表有Google，国内有百度、搜狐等。它们从互联网提取各个网站的信息，建立起数据库，并能检索与用户查询条件相匹配的记录，按一定的排列顺序返回结果。搜索引擎的自动信息搜集功能分为定期搜索和提交网站搜索。它的特点是搜全率比较高。目录索引，就是将网站分门别类地存放在相应的目录中，因此用户在查询信息时，可选择关键词搜索，也可按分类目录逐层查找。与全文搜索引擎相比，目录索引有许多不同之处。首先，搜索引擎属于自动网站检索，而目录索引则完全依赖手工操作。其次，搜索引擎收录网站时，只要网站本身

搜索引擎的发展史：从网址簿进化到个人门户

如果说有什么发明拯救了互联网?那一定是搜索引擎，否则互联网中的信息越多，它本身崩溃得越快，因为人们找到自己需要的信息也就越难，使用体验也就越差。搜索的早期形态是啥?搜索经历的多少次变革?未来的搜索引擎将变成怎样?不妨总结一下搜索引擎发展的历史，发现其中的脉络。 其实，搜索的需求——从众多东西(主要是信息)中寻找自己要的，人类一直都有，只不过在IT技术发展之前，所有信息都没有数字化，搜索唯一可行的表现形式是纸质的目录、索引、电话簿。广域网产生以后，搜索的需求存在，但技术没有对应的迅速发展，因此互联网搜索的最早形式是网址簿。具体形式和电话簿、黄页相似，记录很多知名网站网址的一本书，大小视专业程度而定。笔者自己就买过一本普通网民适用的，大小薄厚类似一本新华字典，按网站内容的不同分类。 纸质的有了，网络版的很快跟上。1994年，杨致远创建雅虎，并开始人工搜集各类网站的网址，并将它们按一定规律分类、排序，网民可以只记住雅虎的网址，之后通过雅虎进入各个门类的网站，纸质的网址簿立即变得多余。部分互联网业内人士将雅虎用人工搜集网址并分类呈现的目录式搜索称为第一代搜索引擎，也有部分互联网专家认为雅虎这类做法并不能严格称为搜索引擎，而应算作最早的网址导航。笔者倾向于将其算作搜索实现形式中的一种，甚至包括网址导航也是如此。 但雅虎毕竟只是将纸质目录搬到了互联网网页上，肉眼查找和不同人对网站分类的理解都降低了这类搜索的使用效率。于是根据关键词进行自动查找的功能也被应用进搜索引擎，这其实并不难实现，因为根据关键词进行全文检索的技术甚至早在计算机刚刚被发明的上世纪50年代就已经出现(国内的中文全文检索技术最早被作为748工程的一部分，于80年代后期基本完成，但被广泛应用已经是90年代的事了)。 第一代搜索引擎唯一的问题是，网址仍然由人工收集，效率低、易出错、不全面。于是互联网急需一种替代人工收集网址的技术，而说到替代人工，人们必然会联想到的是机器人，于是第二代搜索引擎所依仗

浅谈搜索引擎的研究现状

科 技 天 地 38 INTELLIGENCE ························浅谈搜索引擎的研究现状 西安外事学院计算机中心 李艳红 摘 要：文章分析了搜索引擎的发展历史及国内外搜索引擎的发展现状，采用了 对比的方法对特色搜索引擎的进行了阐述，并详尽的指出了各种搜索引擎的现状、特点及发展趋势。 关键词：搜索引擎 爬虫 网页快照 搜索引擎（Search Engine）正是帮助人们从网上检索信息的重要工具，是为了解决网上信息查询困难的问题应运而生的，它可以有效地帮助用户在网络上查找到自己需要的信息。它是在互联网产生后伴随着网上用户快速查询信息的需求的产物，即提供信息检索服务的计算机系统，检索的对象包括互联网上的站点，新闻组中的文章，软件存放的地址及作者，某个企业和个人的主页等。 当用户通过Archie 检索文件时，所要进行的全部工作就是对该数据库进行检索。尽管Archie 还不是真正的搜索引擎，但工作原理与现在的搜索引擎己经很接近，它依靠脚本程序自动搜索网上的文件，然后对有关信息进行索引，供使用者查询。1994年初，Internet 上出现了包括Lycos 在内的第一批Web 搜索引擎。第二代搜索引擎以1998年出的Google 和Directhit 为代表。它们是“根据以往用户实际访问一个网站并在该网站上所花费的时间来确定一个网站的重要性，或者根据一个网站被其他网站链接的数量来确定网站的重要性” ，“这种根据用户忠诚度的评判方法更具备客观性，因而，用户所获得的信息也就更准确”。如Directhit 以被大多数用户访问的情况认定一个网站的重要性；Google 以被其他网站链接的情况认定一个网站的重要程度。在发展过程中更强调了人的因素，主要表现在以下三个方面： （1）能利用自然语言查找信息。第二代搜索引擎可以将自然语言自动翻译成系统能理解的专业术语，进行精确查找。 （2）有判断地收集信息，根据众多网络用户行为特征来取舍信息。（3）人工分类。引入大量的人工对信息进行分类。强调人工分类的重要性。 此外，第二代的搜索引擎还有一个特点，他们只做后台技术，将技术提供给Yahoo 等门户网站。其中Google(https://www.sodocs.net/doc/853097924.html,)是表现最为突出的。Google 于1998年9月发布测试版，是目前人们使用最广泛的搜索引擎。 Google 现为全球80多家门户和终级网站提供支持。Google 的优势是易用性和返回结果的高相关性。Google 提供一系列革命性的新技术，包括完善的文本对应技术和先进的PageRank 排序技术，后者可以保证重要的搜索结果排列在结果列表的前面。Google 还提供一项很有用的服务：“网页快照”功能。 目前，新一代的搜索引擎也己经进入了研制阶段，其最大特点就是大量智能化信息处理的引入，网络信息检索将步入知识检索和知识服务的领域。它的一个特征是能够解决文件格式问题，这就要求搜索引擎不仅能识别TXT 文件，也要能够识别PPT， Word， PDF，电子邮件等文件;另一个特征是把P2P 技术应用到网页的检索中，这样通过共享所有硬盘上的文件，目录乃至整个硬盘，用户搜索时无需通过Web 服务器，不受信息文档格式的限制，即可达到把散落在互联网上的不相关的人们关心的知识搜集起来，经过筛选，组织和分析返回给用户所需的信息。 国内目前已有很多关于搜索引擎的研究。百度搜索引擎[6]收录中文网页接近2亿，是全球最大的中文数据库。Baidu 搜索引擎的其它特色包括：网页快照，网页预览/预览全部网页，相关搜索词，错别字纠正提示，新闻搜索，Flash 搜索和信息快递搜索等。北大天 网搜索引擎是国家“九五”重点科技攻关项目“中文编码和分布式中英文信息发现”的研究成果，由北大计算机系网络与分布式系统研究室开发，有强大的搜索功能。除了WWW 主页检索外，天网还提供FTP 站点搜索(“天网文件”)，为高级用户查找特定文件提供方便。同时，天网将FTP 文件分为电影和动画片，MP3音乐，程序下载，文档资源共四大类，用户可以像目录导航式搜索引擎那样层层点击，查找自己需要的FTP 文件。天网提供的服务还包括“天网目录”和“天网主题”。搜狐分类目录设有独立的目录索引，并采用百度搜索引擎技术，提供网站，网页，类目，新闻黄页，中文网址，软件等多项搜索选择。搜狐搜索范围以中文网站为主，支持中文域名。慧聪搜索引擎拥有超过2亿网页的中文信息库，提供网页，网站，新闻，地域，行业，MP3， Flash 等多种检索方式，具有互联网实时新闻搜索，高精度检索，分类查询，网站导航，企业与产品查询等功能。 目前的搜索引擎，每天使用爬虫在互联网上获取大量网页，这花去了大量的时间，对于面向大量用户的商业搜索引擎是非常合理的，但是对于只面向某一类型的网络，如校园网的搜索引擎，这无疑需要大量的计算资源和存储空间，这往往是得不偿失的。因此，对于校园网内搜索引擎，需要设计一种对资源要求低，灵活机动的方法。 参考文献： [1] 刘建国：《搜索引擎概述》，北京大学计算机与科学技术，1999年。 [2] 李晓明、刘建国：《搜索引擎技术及趋势》，《大学图书馆学报》，2000年第16期。

搜索引擎市场分析及人民搜索发展思考

搜索引擎市场分析及人民搜索发展思考 ——对即刻搜索赢得搜索引擎市场竞争的分析和建议 一、当前我国搜索引擎市场状况分析 1．搜索引擎作为第二大网络应用，“新门户”趋势明显。 截至2012年6月底，中国网民数量达到5.38亿，手机网民规模达到3.88亿。其中，搜索引擎用户规模达到4.29亿，半年增长率为5.2%，网民渗透率为79.7%，仍然是仅次于即时通讯（如QQ、MSN）第二大网络应用。搜索引擎的网民使用率进入稳定发展阶段，用户规模会随着网民总体规模的增长而进一步提升。 2．搜索引擎竞争的市场规模潜力大、市场集中度高。 根据易观智库产业数据，2012年第2季度中国搜索引擎运营商市场规模为70.0亿，环比增长26.6%，同比增长62.0%。 从市场格局看，2012年第2季度我国搜索引擎市场集中度进一步提升。百度营销收入占搜索引擎运营商市场份额78.6%；谷歌中国份额小幅下滑，达15.7%；搜狗凭借“云-端”商业模式实现流量入口及商业变现的梯级化产品业务布局，市场份额达 2.9%。腾讯搜搜“大社区”战略布局也赢得广告主认可，保持 1.5%的市场份额；所有其他搜索引擎市场份额被压缩到0.3%。 3．搜索引擎竞争趋势为市场发展多元化和搜索终端多样化。 2012 年，国内搜索市场呈现多元化竞争格局，不断细分的搜索市场及发展的手持终端，在改变搜索用户行为习惯的同时影响着搜索市场的整体布局。 搜索市场发展多元化。综合搜索引擎服务、垂直搜索引擎服务、专业网站站内搜索及社交媒体搜索同时影响网民的搜索行为：综合搜索引擎服务（如百度、谷歌、搜狗、搜搜等），作为网络信息检索的

主要工具，大幅提高了人们获取信息的效率，成为人们从各种网络资源中获取信息的主要手段。以一淘、去哪儿等为代表的垂直搜索网站、以淘宝为代表的购物网站、以优酷为代表的视频网站等站内搜索在各自领域内吸引了一定数量的用户，对综合搜索引擎产生分流；微博、SNS 等信息量巨大的社交媒体的兴起，使网站内社交搜索的作用及分量加大，对整体搜索市场产生影响。 搜索终端多样化。随着3G 网络优化、智能手机普及，手机搜索由于碎片、及时等特点备受青睐，随时随地获取自己所需的信息已成为网民的基本需求之一。虽然手机搜索比例（56.2%）仍不如电脑搜索（85.2%），但手机搜索具有较大的市场价值。随着移动互联网的发展和各搜索服务在手机端的持续发力，未来手机搜索用户比例必将进一步增长。 4．垂直搜索、社交网站搜索、微博搜索增长空间巨大。 根据对网民最近半年在电脑和手机上应用搜索引擎的行为进行调查，发现综合搜索网站仍是最主要的搜索服务，但网站站内搜索的习惯也已逐渐养成，网站数量较多的专业网站如购物、视频等站内搜索开始占据较大的用户规模。综合搜索引擎使用率最高，为97.8%；其次为视频网站和购物网站站内搜索，比例分别为75.6%和72.9%。 社交网站因为社交属性、信息属性等聚集了大量搜索用户，且搜索信息大都是用户感兴趣或生活相关的，用户黏着性高。 垂直搜索网站是近几年搜索市场关注重点，各大行业领域内的大互联网公司也纷纷发力垂直搜索市场，如淘宝网建立一淘，优酷建立搜库等，为用户提供细分领域内的信息，获取领域内的入口优势同时增加自身品牌的用户粘度。垂直搜索网站的使用比例虽仅有24.7%，但如果能坚持其精准性和个性化特点，进一步加强用户的个性化和认知度，垂直搜索的未来空间会很大。

搜索引擎技术与发展综述

工程技术 Computer CD Software and Applications 2012年第14期 — 24 — 搜索引擎技术与发展综述 孙宏，李戴维，董旭阳，季泽旭 （中国电子科技集团第十五研究所信息技术应用系统部，北京 100083） 摘 要：随着信息技术的飞速发展和互联网的广泛普及，信息检索技术越来越受到重视。阐述了搜索引擎的产生与发展，并对搜索引擎的核心技术、评价指标和工作原理进行了深入研究。介绍了一些著名的搜索引擎。在此基础上，对搜索引擎的发展方向进行了预测。 关键词：信息技术；信息检索；搜索引擎 中图分类号：TP311.52 文献标识码：A 文章编号：1007-9599 （2012） 14-0024-03 一、引言 信息技术如今迅速发展，Internet 也得到了广泛的普及，网络上的信息量正在以指数趋势上升。其信息来源分布广泛，种类繁多。如果不能对信息进行有序化管理，用户将很难从如此海量的信息中提取出他们需要的信息。目前，搜索引擎已经成为人们获取信息的主要手段之一。搜索引擎就是在繁琐复杂的互联网信息中通过特定的检索策略，对信息进行搜索与分类，通过分析用户提交的请求，按照用户的要求和习惯进行组织，从而达到用户快速检索特定信息的目的。目前搜索引擎提供的搜索方式主要有整句、主题词、自由词等等，用以适应不同用户的需求。 二、搜索引擎的产生与发展 蒙特利尔大学的Alan Emtage 实现了最初的搜索引擎，称为Archie 引擎，Archie 引擎可以在特定的网络中进行相关的信息检索。由于其工作原理与现代搜索引擎非常接近，我们通常认为他 开创了现代搜索引擎领域。搜索引擎的发展大致经历过了三代： （1）第一代搜索引擎是1994年Michael Mauldin 将John Leavitt 的“网络爬虫”程序接入到其索引程序中的Lycos 。由于 结构和技术相对不成熟，它的搜索速度比较慢，更新速度也不能满足用户的检索要求。 （2）美国斯坦福大学的David Filo 和美籍华人杨致远合作开发成功了第二代搜索引擎，它创立了一些用户关心的目录，用户可以通过目录进行检索。 （3）Google 的正式推出标志着第三代搜索引擎的诞生。其集成了搜索、分类、多语言支持等功能，同时提供了摘要、排序、快照等功能，另外与强大的硬件系统配合，大大改变了互联网用户检索网络信息的方式。第三代搜索引擎主要结构如图-1所示。 查询接口的作用是用户进行交互，即提取用户的输入，并将检索结果返回。 检索器依据用户的需求，可以方便地索引库中查找相应的文档，按照相关度规则进行重排后返回。 索引器负责对文档建立索引，使文档以便于检索的方式重新组织。 分析器负责对收集器收集的信息进行分析和整理。 信息收集器的主要任务是对互联网上的各种信息进行收集，同时记录信息URL 地址（网络 爬虫完成这项工作）。 图1 搜索引擎结构图 三、搜索引擎的工作原理 搜索引擎不是搜索互联网，它搜索的是预先整理好的索引数据库；同样，搜索引擎也不能理解网页上的内容，它只能匹配网页上的文字。搜索引擎的工作流 程如图-2所示。 图2 搜索引擎的工作流程 搜索引擎的工作流程可主要分为四个步骤：通过网络爬虫（Spider ）从互联网上根据相关算法（深度优先、广度优先）抓取网页，抓取网页后对网页中的信息进行加工，加工后将处理后的信息保存到索引数据库中。当用户在索引数据库中搜索查询相 关的信息资源时，搜索结果通过搜索引擎的处理后，对返回结果进行排序，展现给用户。即： （1）利用网络爬虫从互联网上抓取网页：利网络爬虫，按照某种搜索策略，沿着URL 链接爬到其他网页，重复这些过程，并把所有爬过的网页抓取回来。 （2）建立索引数据库：对爬取到的网页进行分析，提取相关关键信息，得到每一个网页针对页面中文字及链接中每一个关键词的重要性，屏蔽掉不重要的词语后，用信息建立网页索引数据库。 （3）处理用户的查询请求：系统接收到用户要查询的关键字后，调用检索器进行搜索，并将返回的结果进行相关度排序，最后按照优先度降序的方式存储在返回结果集合中。 （4）将查询结果返回给用户：搜索结果以网页的形式将结果集中的返回给用户。方便用户查看。 按照上面的步骤就可以简单的架构一个搜索引擎系统供用户使用。目前有很多开源的搜索引擎产品已经完成了上述相关内容，使用者只需要进行相应的配置就可以使用，大大的简化了搜索引擎的开发。目前，比较流行的开源搜索引擎有Nutch 、Solr 等等。 四、搜索引擎的核心技术 搜索引擎的核心技术包括索引技术和检索技术。 （一）索引技术 顺序查找，即通过线性匹配文本进行查找是一种不使用索引进行检索的例子。它无需对文档中的信息进行预处理。这种检索方式在文本较大时检索速度会变得非常慢，通常情况下不使用这种检索方式。