指纹定位算法 老铁SEO-搜索引擎工作过程与seo

搜索引擎的工作的过程非常复杂，而简单的讲搜索引擎的工作过程大体可以分成三个阶段。

爬行和抓取：搜索引擎蜘蛛通过跟踪链接访问页面，获取页面HTML代码存入。

预处理：搜索赢球对抓取来的页面数据文字进行文字提取、中文分词、索引等处理，以备排名程序调用。

排名：用户输入关键字后，排名调用索引库数据，计算相关性，然后按一定格式生成搜索结果页面。

爬行和抓取

爬行和抓取是搜索引擎工作的第一步，完成数据收集任务。

蜘蛛

搜索引擎用来爬行和访问页面的程序被称为蜘蛛(spider)，也称为机器人(bot)。

蜘蛛代理名称：

百度蜘蛛：Baiduspider ( )·

雅虎蜘蛛：Mozilla/5.0 (compatible; Yahoo! Slurp China;) ·

英文雅虎蜘蛛：Mozilla/5.0 (compatible; Yahoo! Slurp/3.0;)

Google 蜘蛛：Mozilla/5.0 (compatible; Googlebot/2.1;) ·

微软 Bing 蜘蛛：msnbot/1.1 ( )·

搜狗蜘蛛： Sogou web robot (#07) ·

搜搜蜘蛛：Sosospider ( ) ·

有道蜘蛛：Mozilla/5.0 (compatible; YodaoBot/1.0;; )

跟踪链接

为了抓取网上尽量多的页面，搜索引擎蜘蛛会跟踪页面上的链接，从一个页面爬到下一个页面，就好像蜘蛛在蜘蛛网上爬行那样，这也就是搜索引擎蜘蛛这个名称的由来。最简单的爬行遍历策略分为两种，一是深度优先，二是广度优先。

深度优先搜索

深度优先搜索就是在搜索树的每一层始终先只扩展一个子节点，不断地向纵深前进直到不能再前进(到达叶子节点或受到深度限制)时，才从当前节点返回到上一级节点，沿另一方向又继续前进。这种方法的搜索树是从树根开始一枝一枝逐渐形成的。

深度优先搜索亦称为纵向搜索。由于一个有解的问题树可能含有无穷分枝，深度优先搜索如果误入无穷分枝(即深度无限)，则不可能找到目标节点。所以，深度优先搜索策略是不完备的。另外，应用此策略得到的解不一定是最佳解(最短路径)。

广度优先搜索

在深度优先搜索算法中，是深度越大的结点越先得到扩展。如果在搜索中把算法改为按结点的层次进行搜索，本层的结点没有搜索处理完时，不能对下层结点进行处理，即深度越小的结点越先得到扩展，也就是说先产生的结点先得以扩展处理，这种搜索算法称为广度优先搜索法。

在深度优先搜索算法中，是深度越大的结点越先得到扩展。如果在搜索中把算法改为按结点的层次进行搜索，本层的结点没有搜索处理完时，不能对下层结点进行处理，即深度越小的结点越先得到扩展，也就是说先产生的结点先得以扩展处理，这种搜索算法称为广度优先搜索法。

吸引蜘蛛

哪些页面被认为比较重要呢?有几方面影响因素：

·网站和页面权重。质量高、资格老的网站被认为权重比较高，这种网站上的页面被爬行的深度也会比较高，所以会有更多内页被收录。

·页面更新度。蜘蛛每次爬行都会把页面数据存储起来。如果第二次爬行发现页面与第一次收录的完全一样，说明页面没有更新，蜘蛛也就没有必要经常抓取。如果页面内容经常更新，蜘蛛就会更加频繁地访问这种页面，页面上出现的新链接，也自然会被蜘蛛更快跟踪，抓取新页面。

地址库

(1)人工录入的网站。

蜘蛛按重要性从待访问地址库中提取uRL，访问并抓取页面，然后把这个uRL从待访问地址库中删除，放进已访问地址库中。

文件存储搜索引擎蜘蛛抓取的数据存入原始页面。其中的页面数据与用户浏览器得到的HTML是完全一样的。每个uRI，都有一个独特的文件编号。

本文来自电脑杂谈，转载请注明本文网址：
http://www.pc-fly.com/a/tongxinshuyu/article-71597-1.html