眾所周知，只有被搜索引擎蜘蛛抓取并被收錄的頁面，才有可能參與到搜索結(jié)果排名的競爭中，所以如何建立網(wǎng)站與搜索引擎蜘蛛之間的關(guān)系，是站長們最為關(guān)注的問題。

搜索引擎蜘蛛（又被稱為：網(wǎng)頁蜘蛛、網(wǎng)絡(luò)爬蟲），采用極其復(fù)雜的抓取策略去遍歷互聯(lián)網(wǎng)中盡可能多的網(wǎng)站，而且還要在保證對網(wǎng)站用戶體驗不受影響的綜合考量下，抓取更多有價值的資源。各大搜索引擎每天都會派出大量蜘蛛，起點一般是權(quán)重比較高的網(wǎng)站或是訪問量很大的服務(wù)器。

搜索引擎蜘蛛會順著內(nèi)外鏈入口訪問更多的網(wǎng)站頁面，把網(wǎng)頁信息存入數(shù)據(jù)庫。就像圖書館一樣把不同的圖書分類整理，最后壓縮加密成自己可以讀取的方式放在硬盤上，供搜索的用戶索取。我們搜索的因特網(wǎng)，就是這個數(shù)據(jù)庫。

從搜索引擎蜘蛛抓取的原理來看，SEO站長要想培養(yǎng)蜘蛛定期抓取網(wǎng)站，應(yīng)該做到以下三點：

一、規(guī)律性更新高質(zhì)量的網(wǎng)站文章內(nèi)容

首先，搜索引擎蜘蛛喜歡抓取規(guī)律更新的網(wǎng)站。從一定意義上說，網(wǎng)站的更新頻率與抓取頻率是成正比的。即使在網(wǎng)站前期沒有蜘蛛來抓取文章，也要定期更新。這樣蜘蛛才會獲取并統(tǒng)計這個網(wǎng)站更新的規(guī)律，定期來進(jìn)行新增內(nèi)容抓取，使網(wǎng)站文章更新后，能夠盡可能快的被抓取到。

其次，原創(chuàng)度、新鮮度較高的文章內(nèi)容更容易被蜘蛛抓取收錄。網(wǎng)站如果存在大量重復(fù)性的內(nèi)容，會讓蜘蛛覺得抓取太多而沒有意義，還會使搜索引擎對網(wǎng)站質(zhì)量產(chǎn)生質(zhì)疑，甚至?xí)?dǎo)致懲罰。“新鮮度”主要指內(nèi)容的熱門程度和實效性，新近發(fā)生的“大事”、“熱門事件”是比較容易被用戶關(guān)注和被蜘蛛抓取。

除了以上兩點外，關(guān)鍵詞的分布也對蜘蛛的抓取有重要的影響。因為搜索引擎分辨頁面內(nèi)容的重要因素之一就是關(guān)鍵詞，但是關(guān)鍵詞過多的堆砌會被搜索引擎視為“作弊”行為，所以關(guān)鍵詞的分布應(yīng)該在控制在2%-8%左右的密度。

二、確保服務(wù)器穩(wěn)定工作

服務(wù)器的穩(wěn)定性不但關(guān)系到網(wǎng)站用戶體驗度的問題，還會對蜘蛛的抓取造成很大影響。站長們應(yīng)該定期檢查服務(wù)器狀態(tài)，查看網(wǎng)站日志，檢查是否有500狀態(tài)碼等標(biāo)記，及時發(fā)現(xiàn)存在的隱患。

如果網(wǎng)站遇到黑客攻擊、服務(wù)器網(wǎng)站誤刪、服務(wù)器硬件癱瘓等問題，并且宕機(jī)超過12個小時，應(yīng)該立即開啟百度站長平臺的閉站保護(hù)功能，防止百度誤判斷網(wǎng)站出現(xiàn)大量抓取無效及死鏈頁面，應(yīng)及時修復(fù)網(wǎng)站與服務(wù)器。

長期不穩(wěn)定的服務(wù)器會導(dǎo)致蜘蛛不能有效爬取頁面，降低搜索引擎友好度，從而出現(xiàn)收錄下降、排名下降的情況。所以網(wǎng)站一定要選擇性能穩(wěn)定的服務(wù)器。

三、優(yōu)化網(wǎng)站結(jié)構(gòu)

如果網(wǎng)站內(nèi)容好，但是頁面卻收錄卻寥寥無幾時，多數(shù)是因為頁面根本沒有被蜘蛛爬取。這時就應(yīng)該對網(wǎng)站進(jìn)行全面檢測，主要包括Robots文件、頁面層級、代碼結(jié)構(gòu)、網(wǎng)站鏈接等方面。

1、Robots文件，全稱“網(wǎng)絡(luò)爬蟲排除標(biāo)準(zhǔn)”（Robots Exclusion Protocol）。網(wǎng)站通過Robots協(xié)議可以告訴蜘蛛哪些頁面可以抓取，哪些頁面不能抓取。

2、頁面層級，表現(xiàn)在網(wǎng)站物理層級結(jié)構(gòu)、邏輯層級結(jié)構(gòu)等多方面。以邏輯層級結(jié)構(gòu)URL結(jié)構(gòu)為例，方便記憶、層級簡短、長度適中的靜態(tài)URL是被搜索引擎蜘蛛所喜愛的。URL結(jié)構(gòu)（以“/”為劃分標(biāo)志），一般不宜超過4層，結(jié)構(gòu)太復(fù)雜不利于搜索引擎收錄，也會影響到用戶體驗度。

3、網(wǎng)站代碼類別、結(jié)構(gòu)也會影響網(wǎng)頁是否被蜘蛛抓取。如：IFRAME、JavaScript等代碼，目前還不能被百度搜索引擎蜘蛛有效的理解、抓取，所以需要盡量減少這類代碼的使用。另外，過大的代碼量也會導(dǎo)致蜘蛛抓取不完全。

4、網(wǎng)站鏈接是網(wǎng)頁間權(quán)重傳遞的“入口”，鏈接的數(shù)量和質(zhì)量，直接影響到頁面能否被蜘蛛抓取和收錄。低質(zhì)量鏈接堆砌只會給網(wǎng)站帶來毀滅性的災(zāi)害，且還要及時排除錯誤鏈接和死鏈接，減少蜘蛛對死鏈接的抓取時間。盡量多從正規(guī)和相關(guān)站點獲得反向鏈接，這樣才可以提高網(wǎng)站的權(quán)重。

另外，網(wǎng)站也可以給蜘蛛提供一些快捷通道，比如sitemap。一個結(jié)構(gòu)清晰的網(wǎng)站地圖能讓搜索引擎蜘蛛清楚的了解網(wǎng)站結(jié)構(gòu)從而順利的抓取整個網(wǎng)站頁面。

通過高質(zhì)量內(nèi)容更新、優(yōu)質(zhì)的鏈接交換、以及合理網(wǎng)站結(jié)構(gòu)，可以讓搜索引擎蜘蛛更好的了解網(wǎng)站，抓取網(wǎng)站頁面。但是不能為了吸引蜘蛛抓取而發(fā)布一些和網(wǎng)站內(nèi)容無關(guān)的頁面，或是過度優(yōu)化網(wǎng)站。因為只有真正用心去做，并且能給用戶帶來價值的網(wǎng)站，才能被搜索引擎和用戶喜歡。

轉(zhuǎn)發(fā)請注明阿三源碼 https://www.a3ym.com

友情提示：A5官方SEO服務(wù)，為您提供權(quán)威網(wǎng)站優(yōu)化解決方案，快速解決網(wǎng)站流量異常，排名異常，網(wǎng)站排名無法突破瓶頸等服務(wù)：http://www.admin5.cn/seo/zhenduan/