目前百度Spider抓取新鏈接的途徑有兩個(gè)，一是主動(dòng)出擊發(fā)現(xiàn)抓取，二就是從百度站長(zhǎng)平臺(tái)的鏈接提交工具中獲取數(shù)據(jù)，其中通過(guò)主動(dòng)推送功能“收”上來(lái)的數(shù)據(jù)最受百度Spider的歡迎。對(duì)于站長(zhǎng)來(lái)說(shuō)，如果鏈接很長(zhǎng)時(shí)間不被收錄，建議嘗試使用主動(dòng)推送功能，尤其是新網(wǎng)站，主動(dòng)推送首頁(yè)數(shù)據(jù)，有利于內(nèi)頁(yè)數(shù)據(jù)的抓取。
為什么我提交了數(shù)據(jù)還是遲遲在線上看不到展現(xiàn)呢？那涉及的因素可就多了，在Spider抓取這個(gè)環(huán)節(jié)，影響線上展現(xiàn)的因素有：
1、網(wǎng)站封禁。你別笑，真的有同學(xué)一邊封禁著百度蜘蛛，一邊向百度狂交數(shù)據(jù)，結(jié)果當(dāng)然是無(wú)法收錄。
2、質(zhì)量篩選。百度Spider進(jìn)入3.0后，對(duì)低質(zhì)內(nèi)容的識(shí)別上了一個(gè)新臺(tái)階，尤其是時(shí)效性?xún)?nèi)容，從抓取這個(gè)環(huán)節(jié)就開(kāi)始進(jìn)行質(zhì)量評(píng)估篩選，過(guò)濾掉大量過(guò)度優(yōu)化等頁(yè)面，從內(nèi)部定期數(shù)據(jù)評(píng)估看，低質(zhì)網(wǎng)頁(yè)比之前下降62%。
3、抓取失敗。抓取失敗的原因很多，有時(shí)你在辦公室訪問(wèn)完全沒(méi)有問(wèn)題，百度spider卻遇到麻煩，站點(diǎn)要隨時(shí)注意在不同時(shí)間地點(diǎn)保證網(wǎng)站的穩(wěn)定性。
4、配額限制。雖然我們正在逐步放開(kāi)主動(dòng)推送的抓取配額，但如果站點(diǎn)頁(yè)面數(shù)量突然爆發(fā)式增長(zhǎng)，還是會(huì)影響到優(yōu)質(zhì)鏈接的抓取收錄，所以站點(diǎn)在保證訪問(wèn)穩(wěn)定外，也要關(guān)注網(wǎng)站安全，防止被黑注入。
