2018年最新搜尋引擎蜘蛛大全

2021-01-07 冬鏡seo

今天冬鏡SEO講的是2018年最新各大搜尋引擎蜘蛛名稱整理分享

各大seo搜尋引擎的蜘蛛會不斷地訪問抓取我們站點的內容,也會消耗一定的站點流量

有時候就需要屏蔽某些蜘蛛訪問我們的站點,文章尾部會講解決辦法

了解各大搜尋引擎蜘蛛爬蟲,對我們進行網站SEO優化起到很大作用

冬鏡SEO收集了各大搜尋引擎的蜘蛛爬蟲UA,以便你需要時查閱

搜尋引擎蜘蛛

1、百度蜘蛛:BaiduSpider

常見的Baiduspider和Baiduspider-image(抓取圖片)

百度公司還有其它幾個蜘蛛:Baiduspider-video(抓取視頻)、Baiduspider-news(抓取新聞)、Baiduspider-mobile(抓取wap),都不常見

百度蜘蛛爬蟲UA:

PC端:Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

移動端:Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

圖片:「Baiduspider-image+(+http://www.baidu.com/search/spider.htm)」

2、谷歌蜘蛛:Googlebot

有人說谷歌蜘蛛是GoogleBot,官方谷歌蜘蛛最新名稱為Googlebot,還發現了Googlebot-Mobile,看名字是應該是抓取wap內容的

谷歌蜘蛛爬蟲UA:

「Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)」

圖片:「Googlebot-Image/1.0」

3、360蜘蛛:360Spider

它是一個十分「勤奮抓爬」的蜘蛛

360蜘蛛爬蟲UA:

Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0);

4、搜狗蜘蛛:Sogou News Spider

搜狗公司還有其它幾個蜘蛛:Sogou web spider、Sogou inst spider、Sogou spider2、Sogou blog、Sogou Orion spider,冬鏡在日誌中只發現了常見的Sogou News Spider。(參考大神百度的robots文件,搜狗蜘蛛名稱可以用Sogou概括,但有沒有用就不知道了.)

搜狗蜘蛛爬蟲UA:

「Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)」

5、必應蜘蛛:bingbot

必應蜘蛛爬蟲UA:

「Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)」

6、SOSO蜘蛛:Sosospider

騰訊已玩死,交給搜狗公司了

soso蜘蛛爬蟲UA:

「Sosospider+(+http://help.soso.com/webspider.htm)」

7、雅虎蜘蛛:Yahoo! Slurp China(雅虎中國)或Yahoo! Slurp(雅虎英文)

雅虎蜘蛛爬蟲UA:

雅虎中國:「Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)」

雅虎英文:「Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp)」

8、MSN蜘蛛:msnbot,msnbot-media

重慶SEO好像只見到msnbot-media在狂爬……

MSN蜘蛛爬蟲UA:

*msnbot/1.0 (+http://search.msn.com/msnbot.htm」)

其它還有 一搜蜘蛛:YisouSpider、Alexa蜘蛛:ia_archiver、宜搜蜘蛛:EasouSpider、即刻蜘蛛:JikeSpider,以及還有YandexBot、AhrefsBot和ezooms.bot等這些蜘蛛,據說這幾個國外的蜘蛛都不咋好

搜尋引擎蜘蛛名稱

其實常用的搜尋引擎就那麼幾個,只要在robots.txt文件裡把常用的搜尋引擎蜘蛛放進來就行,其它的可以統統屏蔽。

相關焦點

  • 三種基本的搜尋引擎蜘蛛類型
    看了幾篇有關於搜尋引擎蜘蛛分類的文章,基本都是一樣的內容,內容來源也都基本是痞子瑞的那本書,內容改動的部分不超過5%,真的是替搜尋引擎的蜘蛛感到不值得啊,辛辛苦苦抓來的竟然都是這種「垃圾頁面」。本文同樣介紹三種基本的搜尋引擎蜘蛛類型,也就是批量型蜘蛛、增量型蜘蛛以及垂直型蜘蛛,至於是不是垃圾內容,您看完再進行評判。為了大家能夠更好的理解,我們把搜尋引擎比作一個擁有無限果樹的果園老闆,蜘蛛比作是摘果子的工人。蜘蛛抓取頁面的過程就是工人摘果子的過程。我們帶著這個比喻來理解搜尋引擎蜘蛛的三種類型。
  • 搜尋引擎蜘蛛的基本原理及工作流程
    搜尋引擎用來爬行和訪問頁面的程序被稱為蜘蛛(spider),也叫機器人(bot)。搜尋引擎蜘蛛訪問網站頁面時類似於普通用戶使用瀏覽器,蜘蛛程序發出頁面訪問請求後,伺服器返回HTML代碼,蜘蛛程序把收到的代碼存入原始頁面資料庫,搜尋引擎為了提高爬行和抓取的速度,都使用多個蜘蛛分布爬行。
  • 什麼是搜尋引擎蜘蛛?工作原理是什麼?
    通過昨天的分享,我們知道了如何發布文章更容易被搜尋引擎收錄,我們同時提到了「蜘蛛」這個程序,今天帶大家認識一下搜尋引擎蜘蛛。1、搜尋引擎蜘蛛介紹網絡爬蟲,是一種負責收集網絡信息的程序,每個搜尋引擎都配有蜘蛛程序。
  • 關於SEO搜尋引擎蜘蛛的幾個知識點
    關於SEO搜尋引擎蜘蛛的幾個知識點一、搜尋引擎地址庫為了避免重複爬行和抓取網址,搜尋引擎會建立一個地址庫,記錄已經被發現、但是還沒有抓取的頁面,以及已經被抓取的頁面。蜘蛛在頁面上發現連結後並不是馬上就去訪問,而是將URL存入地址庫,然後統一安排抓取。
  • 搜尋引擎蜘蛛(爬蟲)工作過程及原理
    什麼是搜尋引擎爬蟲,搜尋引擎爬蟲是如何工作的。搜尋引擎爬蟲也叫做搜尋引擎蜘蛛,是用來抓取網頁信息的,搜尋引擎抓取過程分為大致五個步驟。#Python爬蟲#分別是:抓取 → 存放 → 甄別 → 收錄 → 權重衡量分配排名搜尋引擎蜘蛛首先會抓取網頁信息
  • 搜尋引擎蜘蛛智能到什麼程度?
    關於搜尋引擎蜘蛛的蜘蛛的算法有多強大?今天我們在這裡介紹一下:大家應該有聽過網站降權、K站、不收錄、沒排名等等情況把?首先我們要先知道搜尋引擎蜘蛛是什麼?又稱為網絡爬蟲(又被稱為網頁蜘蛛,網絡機器人,在FOAF社區中間,更經常的稱為網頁追逐者),是一種按照一定的規則,自動地抓取全球資訊網信息的程序或者腳本。另外一些不常使用的名字還有螞蟻、自動索引、模擬程序或者蠕蟲。什麼是網站降權指搜尋引擎對網站評定的級別下降,是搜尋引擎對網站進行的一種處罰方式。通常多為網站自身作弊導致的,改正錯誤一段時間後會自行恢復。
  • 什麼是搜尋引擎蜘蛛,什麼是爬蟲程序?有哪些類型
    什麼是搜尋引擎蜘蛛,什麼是爬蟲程序?搜尋引擎蜘蛛程序,其實就是搜尋引擎的一個自動應用程式,它的作用是什麼呢?其實很簡單,就是在網際網路中瀏覽信息,然後把這些信息都抓取到搜尋引擎的伺服器上,然後建立索引庫等等。
  • 搜尋引擎蜘蛛如何判斷文章原創度?
    seo優化人員有一個很重要的工作就是每天更新網站文章,文章原創度越高,對搜尋引擎越友好。那麼搜尋引擎是怎麼判斷文章是否是原創?星若傳媒小編總結了幾點:1.百度蜘蛛最先在哪裡看到這個內容一般那些權重高的平臺,搜尋引擎蜘蛛抓取網站比較頻繁,那些從這些平臺複製粘貼的內容,百度蜘蛛是可以辨別出來哪個是原創。但還有一種情況,就是你剛更新內容就被別人給轉載了,有可能是別人知道了你更新文章的規律,但他的權重比你的高,就很可能會導致蜘蛛認為他的是自創,這就是高權重的好處。
  • 按照搜尋引擎蜘蛛抓取規則定期更新文章,穩定首頁排名不在話下
    為了保持網站持續穩定的更新習慣,發現這一規律,實現百度蜘蛛的定期抓取,需要定期發布新內容。作為百度秒數收集的一個關鍵因素,定期定量發布對SEO友情非常有利,所以每天保持相同數量的新發布。今天放棄一篇文章,明天放棄十篇文章。
  • 2018最新版的女孩英文名字大全,時尚、好聽且受歡迎
    下面小編為大家介紹2018年最新潮流的英文名字女孩。2018最新版的女孩英文名字大全女孩子大多希望自己的英文名可以文雅、女神範一點,同時又具有美好的含義,下面就一起來看看2018年流行哪些女孩英文名吧。
  • 國內最新手機搜尋引擎排名:第二名是阿里家的
    日前,「網速管家」發布2020年7月最新的國內搜尋引擎佔有率,其中,百度作為多數中國網民優先選擇的搜尋引擎,穩居國內搜尋引擎排名第一,PC端市場佔比81.26%,移動端市場佔比80.62%,均碾壓其他搜尋引擎。
  • 2018最新阿詩瑪香菸價格表和圖片大全
    2018最新阿詩瑪香菸價格表和圖片大全,具體價格見下文。2018最新阿詩瑪香菸價格表和圖片大全 圖片 名稱 類型 參考價格 生產廠家
  • 2018最新男女生傷感心碎簡單網名 心痛心累的微信網名大全
    下面是小編分享的最新一期2018傷感網名大全,男女生都適用喲~喜歡的一起來挑選哦!  傷感網名大全(男女生都可以用)  撕心裂肺的痛  心中永遠的痛  陌生的熟悉  守不住的空城  閉眼看生活  塵封已久心傷  是誰、擱淺了我們的愛  原來愛情會離去  悲聞紅塵醉ゝ  如果我們不曾相遇
  • 《魔獸世界》2018萬聖節有哪些新活動 2018萬聖節活動大全
    導 讀 2018魔獸世界萬聖節活動大全,萬聖節即將到來之際,各位小夥伴知道2018萬聖節有哪些新活動嗎?
  • 夢見大蜘蛛 原版周公解夢大全
    夢見大蜘蛛 夢見自己面對一隻大蜘蛛,預示你的財富將迅速增加。
  • 2018愛奇藝最新會員vip帳號密碼免費共享——VIP會員號大全
    2018愛奇藝最新會員vip帳號免費共享(每日固定時段實時持續更新),愛奇藝買斷了不少出色視頻和電影了版權,預示著視頻觀看的付費時代到來!小編為大家帶來愛奇藝會員vip帳號密碼最新2018.1.10(今日),讓你不用花錢也能得到最新愛奇藝vip會員大全!
  • 最新VIP電影電視劇免費微信群在線觀看!影視資源大全!
    電影資源|電影院天堂|電影免費看|電影免費在線觀看|免費電影院|免費電影資源|免費電影公眾號|電影免費在線觀看|電影免費看公眾號|在線電視劇|熱門電影電視劇|電影票房排行榜|電影推薦豆瓣高分|國產片電影|電影院推薦資源|影視電影院線資源|南瓜電影|電影小鎮|電影資源電影大全
  • SEO搜尋引擎優化代運營,教育類網站如何優化?
    SEO搜尋引擎優化推廣的定義 SEO搜尋引擎優化是一種利用搜尋引擎的規則提高網站在有關搜尋引擎內的自然排名。了解各種搜尋引擎怎樣進行搜索、怎樣抓取網際網路頁面、怎樣確定特定關鍵詞的搜索結果排名的技術。
  • 網站怎樣解決搜尋引擎識別和信任度的問題
    搜尋引擎對網站的信任度表現在很多方面,我們在網站優化的時候就應該注意儘量培養搜尋引擎對網站的信任度,那麼,如何解決搜尋引擎識別和信任度的問題呢?識別路徑給搜尋引擎順暢的路徑,來抓取你網站的內容。包括做路徑(url)的規範化處理,給予搜尋引擎唯一的抓取路徑;以及對路徑(url)的結構進行合理設置和布局,路徑設置越短越好,使搜尋引擎非常順利地抓取和識別網站內容的主次。
  • 2018新年春聯大全帶橫批,2018年迎新春對聯大全
    很多人喜歡在春節的時候選擇自己喜歡的句子寫在春聯上,這樣會比較的有意義,2018年就是狗年了,下面給大家帶來了2018年迎新春對聯大全,喜歡哪句可以將它寫在春聯上,而且每對春聯都有橫幅,希望對你有幫助,僅供參考!2018新年春聯大全帶橫批上聯:佔天時財源滾滾;下聯:得地利好運連連【橫批】:萬事亨通。