尤物视频在线观看|国产尤物视频在线观看|99热在线获取最新地址,久久频这里精品99香蕉久,国产色婷婷精品综合在线,亚洲欧美日韩高清在线看

昵稱：笑面佛

接單：322   關(guān)注TA

達(dá)標(biāo)率 0%

站點(diǎn)抓取流量暴增的原因有哪些呢?

作者：笑面佛 瀏覽：171次 發(fā)布時(shí)間：2018-01-03
分享 評論 贊0

　　Spider對網(wǎng)站抓取數(shù)量突增往往給站點(diǎn)帶來很大煩惱,紛紛找平臺想要Baiduspider IP白名單,但實(shí)際上BaiduSpider IP會隨時(shí)變化,所以并不敢公布出來,擔(dān)心站長設(shè)置不及時(shí)影響抓取效果.百度是怎么計(jì)算分配抓取流量的呢?站點(diǎn)抓取流量暴增的原因有哪些呢?


　　總體來說,Baiduspider會根據(jù)站點(diǎn)規(guī)模、歷史上網(wǎng)站每天新產(chǎn)出的鏈接數(shù)量、已抓取網(wǎng)頁的綜合質(zhì)量打分等等,來綜合計(jì)算抓取流量,同時(shí)兼顧站長在抓取頻次工具里設(shè)置的、網(wǎng)站可承受的最大抓取值.


　　從目前追查過的抓取流量突增的case中,原因可以分為以下幾種:


　　1, Baiduspider發(fā)現(xiàn)站內(nèi)JS代碼較多,調(diào)用大量資源針對JS代碼進(jìn)行解析抓取


　　2, 百度其他部門(如商業(yè)、圖片等)的spider在抓取,但流量沒有控制好,sorry


　　3, 已抓取的鏈接,打分不夠好,垃圾過多,導(dǎo)致spider重新抓取


　　4, 站點(diǎn)被攻擊,有人仿冒百度爬蟲(推薦閱讀:《如何正確識別BaiduSpider》)


　　如果站長排除了自身問題、仿冒問題,確認(rèn)BaiduSpider抓取流量過大的話,可以通過反饋中心來反饋,切記一定要提供詳細(xì)的抓取日志截圖.