在意識(shí)層面，站長(zhǎng)對(duì)SEO可以形象理解為: 當(dāng)用戶進(jìn)入搜索引擎，就好像進(jìn)入了一個(gè)偌大的圖書館。那么在這個(gè)圖書館里面有非常多的分類,分類分成大分類（可以理解為書架）小分類（可以理解為書架上面的格子）以及具體到小的分類（書的內(nèi)容）！

百度蜘蛛是怎么來(lái)抓取網(wǎng)頁(yè)的，基礎(chǔ)流程是什么？簡(jiǎn)單說(shuō)一說(shuō)。
       蜘蛛工作的步：爬行你網(wǎng)站的網(wǎng)頁(yè)，尋找合適的資源。
       蜘蛛它有一個(gè)特性，那就是他的運(yùn)動(dòng)軌跡通常都是圍繞著蜘蛛絲而走的，而我們之所以將搜索引擎的機(jī)器人命名為蜘蛛其實(shí)就是因?yàn)檫@個(gè)特性。當(dāng)蜘蛛來(lái)到你的網(wǎng)站之后，它就會(huì)順著你網(wǎng)站中的鏈接（蜘蛛絲）不斷的進(jìn)行爬行，因此如何讓蜘蛛能夠更好的在你的網(wǎng)站中進(jìn)行爬行就成為了我們的重中之重。

這個(gè)時(shí)候我們經(jīng)常會(huì)建議站長(zhǎng)們用的手法就是在網(wǎng)站上多一些調(diào)用，這些調(diào)用均是調(diào)用網(wǎng)站內(nèi)部的一些文章，這種做法是大多數(shù)站長(zhǎng)的選擇，不論是相關(guān)閱讀，還是推薦閱讀，亦或者是其它的排行榜之類的……
        蜘蛛工作的第二步：抓取你的網(wǎng)頁(yè)。
        引導(dǎo)蜘蛛的爬行這只是一個(gè)開(kāi)始，一個(gè)好的開(kāi)始意味著你將有一個(gè)高起點(diǎn)。通過(guò)自己的內(nèi)鏈設(shè)計(jì)，使得網(wǎng)站中不存在任何死角，蜘蛛可以輕松的到達(dá)網(wǎng)站中的每一個(gè)頁(yè)面，這樣蜘蛛在進(jìn)行第二步工作——抓取的時(shí)候，將會(huì)事半功倍。
        而在這一步抓取的過(guò)程中我們又需要注意的就是要精簡(jiǎn)網(wǎng)站的結(jié)構(gòu)，將那些不必要、不需要的多余代碼去掉，因?yàn)檫@些都將會(huì)影響蜘蛛抓取網(wǎng)頁(yè)的效率與效果。另外還需要大家注意的事情就是通過(guò)我們都不建議網(wǎng)站中放入FLASH，因?yàn)橹┲雽?duì)于FLASH是不好抓取的，過(guò)多的FLASH會(huì)導(dǎo)致蜘蛛放棄抓取你網(wǎng)站的頁(yè)面。
        蜘蛛工作的第三步：優(yōu)質(zhì)的文章，能夠極大的提高蜘蛛抓取頁(yè)面的幾率。
        到底是外鏈為皇還是內(nèi)容為皇這個(gè)已經(jīng)不重要了，也不是我們這里要討論的東西，但僅僅只是從這句話中我們就能清楚的知道內(nèi)容的重要性了。同樣的，蜘蛛也非?？粗貎?nèi)容，一篇優(yōu)質(zhì)的原創(chuàng)文章可以很好的打動(dòng)蜘蛛，讓蜘蛛僅僅只是爬了一遍就迫不及待的將其帶回。而相反，一篇抄襲、復(fù)制而來(lái)的文章，很有可能蜘蛛需要反復(fù)爬行幾次、甚至幾十次才有可能將其帶回，并且還極有可能根本就無(wú)視其存在。
當(dāng)然這也不是絕對(duì)的，我們說(shuō)的只是一個(gè)相對(duì)而言的東西，在同等條件下的兩篇文章，優(yōu)質(zhì)的原創(chuàng)文章更加容易被蜘蛛所接受。
        蜘蛛工作的第四步：頁(yè)面放出。
        這里我們所說(shuō)的頁(yè)面放出指的是在搜索引擎中可以被正常搜索到了，之所以說(shuō)第四步是這一步而不是索引，是因?yàn)槲矣X(jué)得做為我們SEOER，應(yīng)該盡量簡(jiǎn)化研究的過(guò)程。
        當(dāng)蜘蛛將頁(yè)面抓取完成之后帶回索引庫(kù)之后，一切的一切就將不再是我們所能夠控制的了，所以我在這里跳過(guò)了索引這一步而是直接談到放出頁(yè)面這一步

http://ezekroy.com/youhuazixun/1882.html 百度蜘蛛如何抓取頁(yè)面,百度蜘蛛工作原理及爬行軌跡