搜索引擎蜘蛛爬行網頁的廣度優(yōu)先和深度優(yōu)先解析

搜索引擎蜘蛛爬行網頁的方式，網絡蜘蛛一般有兩種策略：廣度優(yōu)先和深度優(yōu)先。下面啟邁合肥網站建設對搜索引擎蜘蛛爬行網頁的廣度優(yōu)先和深度優(yōu)先解析:

搜索引擎蜘蛛爬行網頁的方式一：廣度優(yōu)先是指網絡蜘蛛會先抓取起始網頁中鏈接的所有網頁，然后再選擇其中的一個鏈接網頁，繼續(xù)抓取在此網頁中鏈接的所有網頁。這是最常用的方式，因為這個方法可以讓網絡蜘蛛并行處理，提高其抓取速度。如:很多優(yōu)化人員在網站地圖上放上網站的所有鏈接。

搜索引擎蜘蛛爬行網頁的方式二：深度優(yōu)先是指網絡蜘蛛會從起始頁開始，一個鏈接一個鏈接跟蹤下去，處理完這條線路之后再轉入下一個起始頁，繼續(xù)跟蹤鏈接。這個方法有個優(yōu)點是網絡蜘蛛在設計的時候比較容易。

兩種策略的區(qū)別，用圖來進行說明。搜索引擎蜘蛛抓取策略由于不可能抓取所有的網頁，有些網絡蜘蛛對一些不太重要的網站，設置了訪問的層數。



例如，在上圖中，A為起始網頁，屬于1層，B、C、D屬于第2層，E、F、G屬于第3層，H屬于第4層。如果網絡蜘蛛設置的訪問層數為3的話，網頁H是不會被訪問到的。這也讓有些網站上一部分網頁能夠在搜索引擎上搜索到，另外一部分不能被搜索到。對于網站優(yōu)化人員來說，扁平化的網站結構設計有助于搜索引擎抓取其更多的網頁。