Baiduspider - 百度蜘蛛
作者：紫色年華
瀏覽：1231次
發(fā)布時間：2017-04-15
編輯
分享
評論
贊0
百度是如何收錄到那么多網(wǎng)頁的呢？這個百度用以抓取互聯(lián)網(wǎng)上數(shù)以億計的網(wǎng)頁的程序，就叫做Baiduspider - 百度蜘蛛。 它是一個程序，夜以繼日得在互聯(lián)網(wǎng)上找尋新的URL，接著抓取URL上的內(nèi)容，返回到百度的網(wǎng)頁暫存數(shù)據(jù)庫。 百度用來抓取網(wǎng)頁內(nèi)容的程序，叫做Baiduspider，抓取其他內(nèi)容的蜘蛛，則是新的名字： 產(chǎn)品名稱 對應(yīng)user-agent 網(wǎng)頁搜索 Baiduspider 無線搜索 Baiduspider-mobile 圖片搜索 Baiduspider-image
猜你喜歡