什么是Baiduspider - 百度蜘蛛 |
發(fā)布時間: 2012/9/18 11:30:06 |
百度是如何收錄到那么多網頁的呢?這個百度用以抓取互聯(lián)網上數以億計的網頁的程序,就叫做Baiduspider-百度蜘蛛。 它是一個程序,夜以繼日得在互聯(lián)網上找尋新的URL,接著抓取URL上的內容,返回到百度的網頁暫存數據庫。 百度用來抓取網頁內容的程序,叫做Baiduspider,抓取其他內容的蜘蛛,則是新的名字: 產品名稱對應user-agent 網頁搜索Baiduspider 無線搜索Baiduspider-mobile 圖片搜索Baiduspider-image 視頻搜索Baiduspider-video 新聞搜索Baiduspider-news 百度搜藏Baiduspider-favo 百度聯(lián)盟Baiduspider-cpro 不少朋友會在自己的網站日志里看到這個蜘蛛Baiduspider-cpro,現(xiàn)在我們明白它是百度聯(lián)盟蜘蛛,用以百度聯(lián)盟程序匹配相應的廣告。本文出自:億恩科技【1tcdy.com】 |