在我抓取網(wǎng)站遇到瓶頸，想劍走偏鋒去解決時(shí)，常常會(huì)先去看下該網(wǎng)站的 robots.txt 文件，有時(shí)會(huì)給你打開另一扇抓取之門。

讓客戶滿意是我們工作的目標(biāo)，不斷超越客戶的期望值來(lái)自于我們對(duì)這個(gè)行業(yè)的熱愛(ài)。我們立志把好的技術(shù)通過(guò)有效、簡(jiǎn)單的方式提供給客戶，將通過(guò)不懈努力成為客戶在信息化領(lǐng)域值得信任、有價(jià)值的長(zhǎng)期合作伙伴，公司提供的服務(wù)項(xiàng)目有：主機(jī)域名、雅安服務(wù)器托管、營(yíng)銷軟件、網(wǎng)站建設(shè)、和田縣網(wǎng)站維護(hù)、網(wǎng)站推廣。

寫爬蟲有很多苦惱的事情，比如：

1.訪問(wèn)頻次太高被限制;

2.如何大量發(fā)現(xiàn)該網(wǎng)站的 URL;

3.如何抓取一個(gè)網(wǎng)站新產(chǎn)生的 URL，等等;

這些問(wèn)題都困擾著爬蟲選手，如果有大量離散 IP 和賬號(hào)，這些都不是問(wèn)題，但是絕大部分公司都不具備這個(gè)條件的。

我們?cè)诠ぷ髦袑懙呐老x大多是一次性和臨時(shí)性的任務(wù)，需要你快速完成工作就好，當(dāng)遇到上面情況，試著看下 robots.txt 文件。

舉個(gè)栗子：

老板給你布置一個(gè)任務(wù)，把豆瓣每天新產(chǎn)生的影評(píng)，書評(píng)，小組帖子，同城帖子，個(gè)人日志抓取下來(lái)。

初想一下，這任務(wù)得有多大，豆瓣有 1.6 億注冊(cè)用戶，光是抓取個(gè)人日志這一項(xiàng)任務(wù)，每個(gè)人的主頁(yè)你至少每天要訪問(wèn)一次。

這每天就得訪問(wèn) 1.6 億次，小組/同城帖子等那些還沒(méi)算在內(nèi)。

設(shè)計(jì)一個(gè)常規(guī)爬蟲，靠著那幾十個(gè) IP 是完不成任務(wù)的。

初窺robots.txt

當(dāng)老板給你了上面的任務(wù)，靠著你這一兩桿槍，你怎么完成，別給老板講技術(shù)，他不懂，他只想要結(jié)果。

我們來(lái)看下豆瓣的 robots.txt。

 
 
 
 

  
  
  
  
https://www.douban.com/robots.txt
 
 
 
 

看圖片上面紅框處，是兩個(gè) sitemap 文件

打開 sitemap_updated_index 文件看一下：

里面是一個(gè)個(gè)壓縮文件，文件里面是豆瓣頭一天新產(chǎn)生的影評(píng)，書評(píng)，帖子等等，感興趣的可以去打開壓縮文件看一下。

也就是說(shuō)每天你只需要訪問(wèn)這個(gè) robots.txt 里的 sitemap 文件就可以知道有哪些新產(chǎn)生的 URL。

不用去遍歷豆瓣網(wǎng)站上那幾億個(gè)鏈接，極大節(jié)約了你的抓取時(shí)間和爬蟲設(shè)計(jì)復(fù)雜度，也降低了豆瓣網(wǎng)站的帶寬消耗，這是雙贏啊，哈哈。

上面通過(guò) robots.txt 的 sitemap 文件找到了抓取一個(gè)網(wǎng)站新產(chǎn)生 URL 的偏方。沿著該思路也能解決發(fā)現(xiàn)網(wǎng)站大量 URL 的問(wèn)題。

再舉個(gè)栗子：

老板又給你一個(gè)任務(wù)，老板說(shuō)上次抓豆瓣你說(shuō)要大量 IP 才能搞定抓豆瓣每天新產(chǎn)生的帖子，這次給你 1000 個(gè) IP 把天眼查上的幾千萬(wàn)家企業(yè)工商信息抓取下來(lái)。

看著這么多 IP 你正留著口水，但是分析網(wǎng)站后發(fā)現(xiàn)這類網(wǎng)站的抓取入口很少(抓取入口是指頻道頁(yè)，聚合了很多鏈接的那種頁(yè)面)。

很容易就把儲(chǔ)備的 URL 抓完了，干看著這么多 IP 工作不飽滿。

如果一次性能找到這個(gè)網(wǎng)站幾萬(wàn)乃至幾十萬(wàn)個(gè) URL 放進(jìn)待抓隊(duì)列里，就可以讓這么多 IP 工作飽滿起來(lái)，不會(huì)偷懶了。

我們來(lái)看他的robots.txt文件：

 
 
 
 

  
  
  
  
https://www.tianyancha.com/robots.txt
 
 
 
 

打開紅框處的 sitemap，里面有 3 萬(wàn)個(gè)公司的 URL，上圖是 1 月 3 號(hào)生成的，那個(gè)URL 是根據(jù)年月日生成的，你把 URL 改成 1 月 2 號(hào)，又能看到 2 號(hào)的sitemap里的幾萬(wàn)個(gè)公司 URL，這樣就能發(fā)現(xiàn)十幾萬(wàn)個(gè)種子 URL 供你抓取了。

PS：上面的 sitemap 其實(shí)也能解決抓取天眼查最近更新的，新產(chǎn)生 URL 的問(wèn)題。

小小的一個(gè)取巧，既降低了爬蟲設(shè)計(jì)的復(fù)雜度，又降低了對(duì)方的帶寬消耗。

這在工作中非常適用，工作中不會(huì)在意你用的框架多好，只在意你做事的快慢和好壞。

善于看 robots.txt 文件你會(huì)發(fā)現(xiàn)一些別有洞天的東西。

分享名稱：爬蟲時(shí)IP總是被封？我來(lái)教你一招
文章出自：http://uogjgqi.cn/article/dpsipoj.html