談股論金股票論壇

 找回密碼
 立即注冊

QQ登錄

只需一步,快速開始

搜索

百度蜘蛛如何抓取網站和提高抓取頻率

已有 173 次閱讀2018-4-6 10:12 |個人分類:網站運營| 百度蜘蛛, 抓取網站, 抓取頻率

做SEO的小伙伴對百度搜索引擎和蜘蛛是情有獨鐘啊,因為目前百度是國內PC端和移動端搜索引擎的老大,seo的小伙伴當然是希望百度蜘蛛能夠更多的抓取網站,只有抓取的頁面多了,才有可能獲得更好的收錄、排名和流量。百度蜘蛛:Baiduspider、1818平臺

下面就先和各位分享一下百度蜘蛛是如何從最原始的策略制定到抓取的。

一、百度蜘蛛抓取規則

1、對網站抓取的友好性

百度蜘蛛在抓取互聯網上的信息時為了更多、更準確的獲取信息,會制定一個規則最大限度的利用帶寬和一切資源獲取信息,同時也會僅最大限度降低對所抓取網站的壓力。

2、識別url重定向

互聯網信息數據量很龐大,涉及眾多的鏈接,但是在這個過程中可能會因為各種原因頁面鏈接進行重定向,在這個過程中就要求百度蜘蛛對url重定向進行識別。

3、百度蜘蛛抓取優先級合理使用

由于互聯網信息量十分龐大,在這種情況下是無法使用一種策略規定哪些內容是要優先抓取的,這時候就要建立多種優先抓取策略,目前的策略主要有:深度優先、寬度優先、PR優先、反鏈優先,在我接觸這么長時間里,PR優先是經常遇到的。

4、無法抓取數據的獲取

在互聯網中可能會出現各種問題導致百度蜘蛛無法抓取信息,在這種情況下百度開通了手動提交數據。

5、對作弊信息的抓取

在抓取頁面的時候經常會遇到低質量頁面、買賣鏈接等問題,百度出臺了綠蘿、石榴等算法進行過濾,據說內部還有一些其他方法進行判斷,這些方法沒有對外透露。

上面介紹的是百度設計的一些抓取策略,內部有更多的策略咱們是不得而知的。

 二、百度蜘蛛抓取過程中涉及的協議

1、http協議:超文本傳輸協議

2、https協議:目前百度已經全網實現https,這種協議更加安全。

3、robots協議:這個文件是百度蜘蛛訪問的第一個文件,它會告訴百度蜘蛛,哪個頁面可以抓取,哪個不可以抓取。

 三、如何提高百度蜘蛛抓取頻次

百度蜘蛛會根據一定的規則對網站進行抓取,但是也沒法做到一視同仁,以下內容會對百度蜘蛛抓取頻次起重要影響。

1、網站權重:權重越高的網站百度蜘蛛會更頻繁和深度抓取

2、網站更新頻率:更新的頻率越高,百度蜘蛛來的就會越多

3、網站內容質量:網站內容原創多、質量高、能解決用戶問題的,百度會提高抓取頻次。

4、導入鏈接:鏈接是頁面的入口,高質量的鏈接可以更好的引導百度蜘蛛進入和爬取。

5、頁面深度:頁面在首頁是否有入口,在首頁有入口能更好的被抓取和收錄。

6、抓取頻次決定著網站有多少頁面會被建庫收錄,這么重要的內容站長該去哪里進行了解和修改,可以到百度站長平臺抓取頻次功能進行了解

四、什么情況下會造成百度蜘蛛抓取失敗等異常情況

有一些網站的網頁內容優質、用戶訪問正常,但是百度蜘蛛無法抓取,不但會損失流量和用戶還會被百度認為網站不友好,造成網站降權、評分下降、導入網站流量減少等問題。

霍龍在這里簡單介紹一下造成百度蜘蛛抓取一場的原因:

1、服務器連接異常:出現異常有兩種情況,一是網站不穩定,造成百度蜘蛛無法抓取,二是百度蜘蛛一直無法連接到服務器,這時候您就要仔細檢查了。

2、網絡運營商異常:目前國內網絡運營商分電信和聯通,如果百度蜘蛛通過其中一種無法訪問您的網站,還是趕快聯系網絡運營商解決問題吧。

3、無法解析IP造成dns異常:當百度蜘蛛無法解析您網站IP時就會出現dns異常,可以使用WHOIS查詢自己網站IP是否能被解析,如果不能需要聯系域名注冊商解決。

4、IP封禁:IP封禁就是限制該IP,只有在特定情況下才會進行此操作,所以如果希望網站百度蜘蛛正常訪問您的網站最好不要進行此操作。

5、死鏈:表示頁面無效,無法提供有效的信息,這個時候可以通過百度站長平臺提交死鏈。

通過以上信息可以大概了解百度蜘蛛爬去原理,收錄是網站流量的保證,而百度蜘蛛抓取則是收錄的保證,所以網站只有符合百度蜘蛛的爬去規則才能獲得更好的排名、流量。


路過

雞蛋

鮮花

握手

雷人

評論 (0 個評論)

facelist

您需要登錄后才可以評論 登錄 | 立即注冊

QQ|談股論金股票論壇 ( 皖ICP備13004459號 )

GMT+8, 2019-8-25 08:57 , Processed in 0.096532 second(s), 17 queries .

Powered by www.mdhaej.live X3.4

返回頂部
逆戟鲸冰山和企鹅登陆