1、百度蜘蛛抓取了不存在我們網站上的鏈接(也絕對不是外鏈導致的問題)
不是...
百度進網頁第一件事是找robots.txt.因為這個文件里可以屏蔽哪些路徑是不要百度去爬取的.
相關的你要先了解下robots.txt的知識.
2、最近一個月我網站的百度抓取都出現鏈接超時異常,誰能幫忙分析一下??
樓主,解決了沒有啊,我也遇到這種情況了,help
3、百度站長平台上抓取診斷一共四個頁面,3個失敗,報錯是其他錯誤,抓取時間是3秒。怎麼判斷問題在哪?
抓取失敗是鏈接錯誤的吧,應該是網站內部鏈接的錯誤,你改成https後,鏈接會不會也要改什麼的,你查看看吧。找個優化人員做個SEO檢測報告,看看問題出在哪吧
4、SEO百度抓取診斷失敗,鏈接失敗,請問是什麼原因?
有以下幾點原因
1,檢查網站robots文件是否屏蔽百度蜘蛛
2,網站伺服器是否穩定
3,百度有時抽筋,過段時間再試就好了
5、百度站長工具老是顯示抓取異常的鏈接
這個我的網站也有的 都有以前做做站的資料 等更新的就好了 我的是站長匯免費友情鏈接平台
6、網站日誌分析百度有抓取 在百度站長抓取診斷卻是抓取失敗是怎麼回事啊
鑒於這種情況,是可以暫時忽略的,因為你沒有屏蔽,第二網站日誌都有抓取,第三網站收錄應該也都是正常的,網站索引也都有,這可能是你的抓取工具出現異常,如果它連首頁不抓取,那你的欄目頁,和文章頁抓取也都是異常,如果都是異常,自然你的百度收錄和索引的數據也應都是0,畢竟抓取不到,那就是錯誤的網頁,百度不會建立索引和放出快照,因此如果你的以上都正常,暫時可以忽略這個工具。
反饋一下,等他們回復再做下一步打算。
7、百度蜘蛛抓取異常的原因?
有一些網頁,內容優質,用戶也可以正常訪問,但是Baispider卻無法正常訪問並抓取,造成搜索結果覆蓋率缺失,對百度搜索引擎對站點都是一種損失,百度把這種情況叫「抓取異常」。對於大量內容無法正常抓取的網站,百度搜索引擎會認為網站存在用戶體驗上的缺陷,並降低對網站的評價,在抓取、索引、排序上都會受到一定程度的負面影響,最終影響到網站從百度獲取的流量。
下面向站長介紹一些常見的抓取異常原因:
1,伺服器連接異常
伺服器連接異常會有兩種情況:一種是站點不穩定,Baispider嘗試連接您網站的伺服器時出現暫時無法連接的情況;一種是Baispider一直無法連接上您網站的伺服器。
造成伺服器連接異常的原因通常是您的網站伺服器過大,超負荷運轉。也有可能是您的網站運行不正常,請檢查網站的web伺服器(如apache、iis)是否安裝且正常運行,並使用瀏覽器檢查主要頁面能否正常訪問。您的網站和主機還可能阻止了Baispider的訪問,您需要檢查網站和主機的防火牆。
2,網路運營商異常:網路運營商分電信和聯通兩種,Baispider通過電信或網通無法訪問您的網站。如果出現這種情況,您需要與網路服務運營商進行聯系,或者購買擁有雙線服務的空間或者購買cdn服務。
3,DNS異常:當Baispider無法解析您網站的IP時,會出現DNS異常。可能是您的網站IP地址錯誤,或者域名服務商把Baispider封禁。請使用WHOIS或者host查詢自己網站IP地址是否正確且可解析,如果不正確或無法解析,請與域名注冊商聯系,更新您的IP地址。
4,IP封禁:IP封禁為:限制網路的出口IP地址,禁止該IP段的使用者進行內容訪問,在這里特指封禁了BaispiderIP。當您的網站不希望Baispider訪問時,才需要該設置,如果您希望Baispider訪問您的網站,請檢查相關設置中是否誤添加了BaispiderIP。也有可能是您網站所在的空間服務商把百度IP進行了封禁,這時您需要聯系服務商更改設置。
5,UA封禁:UA即為用戶代理(User-Agent),伺服器通過UA識別訪問者的身份。當網站針對指定UA的訪問,返回異常頁面(如403,500)或跳轉到其他頁面的情況,即為UA封禁。當您的網站不希望Baispider訪問時,才需要該設置,如果您希望Baispider訪問您的網站,useragent相關的設置中是否有Baispider UA,並及時修改。
6,死鏈:頁面已經無效,無法對用戶提供任何有價值信息的頁面就是死鏈接,包括協議死鏈和內容死鏈兩種形式:
協議死鏈:頁面的TCP協議狀態/HTTP協議狀態明確表示的死鏈,常見的如404、403、503狀態等。
內容死鏈:伺服器返回狀態是正常的,但內容已經變更為不存在、已刪除或需要許可權等與原內容無關的信息頁面。
對於死鏈,我們建議站點使用協議死鏈,並通過百度站長平台--死鏈工具向百度提交,以便百度更快地發現死鏈,減少死鏈對用戶以及搜索引擎造成的負面影響。
7,異常跳轉:將網路請求重新指向其他位置即為跳轉。異常跳轉指的是以下幾種情況:
1)當前該頁面為無效頁面(內容已刪除、死鏈等),直接跳轉到前一目錄或者首頁,百度建議站長將該無效頁面的入口超鏈接刪除掉
2)跳轉到出錯或者無效頁面
注意:對於長時間跳轉到其他域名的情況,如網站更換域名,百度建議使用301跳轉協議進行設置。
8,其他異常:
1)針對百度refer的異常:網頁針對來自百度的refer返回不同於正常內容的行為。
2)針對百度ua的異常:網頁對百度UA返回不同於頁面原內容的行為。
3)JS跳轉異常:網頁載入了百度無法識別的JS跳轉代碼,使得用戶通過搜索結果進入頁面後發生了跳轉的情況。
4)壓力過大引起的偶然封禁:百度會根據站點的規模、訪問量等信息,自動設定一個合理的抓取壓力。但是在異常情況下,如壓力控制失常時,伺服器會根據自身負荷進行保護性的偶然封禁。這種情況下,請在返回碼中返回503(其含義是「Service Unavailable」),這樣Baispider會過段時間再來嘗試抓取這個鏈接,如果網站已空閑,則會被成功抓取
8、百度抓取失敗,鏈接重定向次數超過5次的上限
去測試一下你的伺服器,看看有沒有問題。然後去看看你的站點得網路日誌的爬行情況,看看是來了沒有爬去到還是根本就沒進入站點。
9、百度站長平台顯示網站連接超時,怎麼解決
首先懷疑的是不是設置禁止抓取的規則影響了,因為修改規則比較頻繁,於是百度反饋一下
站長平台 【抓取異常】 【連接超時次數】 包不包括伺服器反回403的狀態碼
站長平台回復:
您好,抓取異常下如果出現403錯誤,可以在下方的具體鏈接錯誤進行查看,上方圖示只展現鏈接超時、無法抓取和連同等錯誤問題。感謝您對百度的關注和支持!
而且自己去掉規則,隔兩天還是有抓取失敗的情況
那就分析一下什麼情況會出現【連接超時次數】
站長平台回復:
您好,分析是伺服器穩定性問題造成網站抓取超時,目前網站的整體抓取情況良好。感謝您對百度的關注和支持!
是伺服器不穩定嗎,於是查一下google的站長平台,沒有看到抓取失敗的情況
於是這個問題就這樣擱下了
今天在dnspod設置域名的時候發現,單獨為百度的搜索引擎設置了百度的cdn,難道是這個引起的,百度的cdn在試用的時候就老是502錯誤,而且還跟百度人員QQ溝通過,回復都是伺服器錯誤,伺服器根本沒有問題。
把百度的搜索引擎設置直接指向ip,過幾天看一下結果發現,沒有在出現【連接超時次數】的情況