用戶體驗策略在一定程度上也反映了網(wǎng)頁權重的影響。在網(wǎng)頁類型相同、歷史更新頻率也差不多的情況下,肯定是權重越高的頁面被抓取的頻率越高。比如百度首頁、好123首頁、chinaz站長工具首頁和普通企業(yè)站首頁都可以簡單歸為網(wǎng)站首頁,并且前三個“首頁”長期都不會有什么更新,普通企業(yè)站首頁可能偶爾還會有更新,但是前三個“首頁”的百度快照一般都是更新的,而普通企業(yè)站的首頁快照可能是一周前甚至一個月前的。這就反映出了網(wǎng)頁權重在抓取頻率中的作用。
在搜索引擎Spider的實際作業(yè)中,不會單獨使用某一種再次抓取策略,而是會綜合參考網(wǎng)頁的用戶體驗、更新頻率、網(wǎng)頁類型和網(wǎng)頁權重。并且對于不同類型的頁面,著重參考的更新內容主體也是不同的。比如,列表頁只有一篇新的文章進入可能就算更新了;文章頁主體內容沒有變,主體內容周圍的所有推薦鏈接、廣告、內容都變了,可能也不會算是在更新。
在SEO工作中為了提高網(wǎng)站的抓取頻率,一般會重點為該頁面的導入鏈接提高權重,努力加大該頁面的更新頻率。其實在用戶體驗和網(wǎng)頁類型方面也是有工作可做的,用標題和描述吸引點擊不僅可以提升排名,也能夠間接增加頁面被Spider抓取的頻率;同時對于不同定位的關鍵詞可以使用不同的網(wǎng)頁類型(列表頁、專題頁、內容頁等),這在設計頁面內容和網(wǎng)站架構時就應該仔細地考慮,并且網(wǎng)頁類型這部分有很多工作值得做。比如,有不少網(wǎng)站把整站都做成了列表頁,全站沒有普通意義上的內容頁,內容頁主體內容下方或周圍也有大量和主題相關的文本內容,一般是類列表形式。不過這種手法有效時間不長,或者損害用戶體驗后會降低被抓取的頻率。不論怎樣,優(yōu)秀的網(wǎng)站架構設計應該合理地利用Spider抓取策略的各種特性。
以上討論的是Spider正常的抓取策略。有抓取并不代表一定有更新,當頁面內容的變化值得搜索引擎更新索引時才會更新,比如,上面提到的文章頁主體內容不變但是推薦鏈接全變了,一般搜索引擎也不會浪費資源做無意義的更新。當Spider發(fā)現(xiàn)已經(jīng)索引的頁面突然被刪除,也就是服務器突然返回404狀態(tài)碼時,也會在短時間內增加對該頁面的抓取頻率。有的SEO人員就利用這一點增加Spider對自己網(wǎng)站的抓取,并做一些其他的“手腳”,不過這是一個走鋼絲的小聰明行為,不見得長期有效,不值得冒險使用。
另外,又不少門戶網(wǎng)站習慣對即時新聞先發(fā)布一個標題,然后再讓編輯補充內容,甚至還會修改標題。但是這種網(wǎng)頁一般都是文章頁,不論從用戶體驗、更新頻率、網(wǎng)頁類型和網(wǎng)站權重哪方面來看都不會得到比較高的抓取頻率,也就造成這些網(wǎng)站不斷在抱怨百度不更新如此操作的新聞網(wǎng)頁。百度搜索官方已經(jīng)表示希望以后通過百度站長平臺來解決一下這個問題,但是作為SEO人員不能只是指望搜索引擎官方做出什么樣的動作。仔細研究Spider的抓取和更新策略,雖然或許不能將問題解決得那么完美,但是一般都會找到比較適合自己的方法。當然更終還是期望百度官方盡快推出相應的機制或工具來解決這個問題。