搜索引擎

编者按：站长朋友们，今后定期都将在这里跟大家分享一些有关搜索引擎工作原理及网站运营相关的内容，今天先简单介绍一下关于搜索引擎抓取系统中有关抓取系统基本框架、抓取中涉及的网络协议、抓取的基本过程三部分。

编者按：之前与大家分享了关于搜索引擎抓取系统中有关抓取系统基本框架、抓取中涉及的网络协议、抓取的基本过程的内容，今天将于大家分享搜索引擎抓取系统第二部分内容—spider抓取过程中的策略。

编者按：之前与大家分享了关于搜索引擎抓取系统中有关抓取系统基本框架、抓取中涉及的网络协议、抓取的基本过程的内容，今天将于大家分享搜索引擎抓取系统第二部分内容—spider抓取过程中的策略。

众所周知，搜索引擎的主要工作过程包括：抓取、存储、页面分析、索引、检索等几个主要过程。过去几周给大家介绍了抓取相关的简要过程。今天简要介绍一下索引系统，以亿为单位的网页库中查找特定的某些关键词犹如大海里面捞针，也许一定的时间内可以完成查找，但是用户等不起，从用户体验角度我们必须在毫秒级别给予用户满意的结果，否则用户只能流失。怎样才能达到这种要求呢？

前面简要介绍过了搜索引擎的索引系统，实际上在建立倒排索引的最后还需要有一个入库写库的过程，而为了提高效率这个过程还需要将全部term以及偏移量保存在文件头部，并且对数据进行压缩，这涉及到的过于技术化在此就不多提了。今天简要给大家介绍一下索引之后的检索系统。

...

从输入关键词，到百度给出搜索结果的过程，往往仅需几毫秒即可完成。百度是如何在浩如烟海的互联网资源中，以如此之快的速度将您的网站内容展现给用户？这背后蕴藏着什么样的工作流程和运算逻辑？事实上，百度搜索引擎的工作并非仅仅如同首页搜索框一样简单。

　　搜索引擎的使命是帮助用户更便捷的获取信息，找到所求。所以，要做一个好的搜索引擎，至少需要做好三件事情，即理解用户意图、理解资源，以及做好这两者的匹配。通过传统的文本分析技术，比如TF-IDF、BM25等，可以很容易地把这些事情做到70分，但再往下做就越来越难。这时候，有聪明人发现，除了基本的文本之外，超链信息能够帮助我们更好的理解和匹配资源，于是就有了超链分析和pagerank，搜索技术也上升到了80分这个台阶。我们知道，一个技术做到了80分，就意味着它有可能比较好的投入应用了。于是，搜索引擎成为了一个产业，领头的是百度和Google。

  　Spider位于搜索引擎数据流的最上游，负责将互联网上的资源采集到本地，提供给后续检索使用，是搜索引擎的最主要数据来源之一。spider系统的目标就是发现并抓取互联网中一切有价值的网页，为达到这个目标，首先就是发现有价值网页的链接，当前spider有多种链接发现机制来尽量快而全的发现资源链接，本文主要描述其中一种针对特定索引页的链接补全机制，并给出对这种特定类型的索引页面的建议处理