今天在瀏覽網頁時,看到一篇很有意思的文章,關於網絡爬蟲的。該文章是講述如何利用request爬取英雄聯盟官網皮膚圖片。看過文章后覺得挺有用的,把代碼拿過來運行了一下,果真爬取成功。下面給大家分享一下代碼。
首先得利用cmd命令指示符安裝requests庫,json,re,time。
安裝完成后,第一步是獲取英雄ID從而為先面判決URL作準備。
def getLOLImages():
header = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.62 Safari/537.36'}
url_js = 'http://lol.qq.com/biz/hero/champion.js'
#獲取JS源代碼 Str bytes
res_js = requests.get(url_js).content
#轉碼 轉成字符串
html_js = res_js.decode()
#正則表達式
req = '"keys":(.*?),"data"'
list_js = re.findall(req,html_js)
#轉成dict
dict_js = json.loads(list_js[0])
# print(type(dict_js))
#定義圖片列表
pic_list = []
for key in dict_js:
# print(key)#英雄ID
第二步就是拼接URL了,通過發現英雄皮膚url的取名方式,我們可以方向最後的数字是不同的。讓后通過此方法來獲取圖片地址。
for i in range(20):
number = str(i)
if len(number) == 1:
hero_num = "00"+number
elif len(number) == 2:
hero_num = "0"+number
numstr = key+hero_num
url = "http://ossweb-img.qq.com/images/lol/web201310/skin/big"+numstr+".jpg"
#http://ossweb-img.qq.com/images/lol/web201310/skin/big81000.jpg
pic_list.append(url)
第三步是獲取圖片名稱,path那行是放置圖片的地址,注意結尾的\\不能丟。
list_filepath = []
path = "D:\Pycharmdaima\Pachong\LOLTU\\"
for name in dict_js.values():
for i in range(20):
file_path = path+name+str(i)+'.jpg'
list_filepath.append(file_path)
第四步就是下載圖片了。
n = 0
for picurl in pic_list:
res = requests.get(picurl)
n += 1
#獲取狀態碼
if res.status_code == 200:
print("正在下載%s"%list_filepath[n])
time.sleep(1)
with open(list_filepath[n],'wb') as f:
f.write(res.content)
最後,調用一下getLOLImages()方法
getLOLImages()
注意,我第一次用了源碼,後來發現運行太慢,檢查一下源碼后發現代碼末尾調用了一個time.sleep()方法。這樣是為了限制爬取速度,避免速度過快被網站發現而中斷。經過調試,我中途暫停代碼運行,將sleep()方法註釋掉,爬取速度果然加快,而且沒有中斷。
下面是我的爬取成果:
本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理
【其他文章推薦】
※帶您來了解什麼是 USB CONNECTOR ?
※自行創業 缺乏曝光? 下一步"網站設計"幫您第一時間規劃公司的門面形象
※如何讓商品強力曝光呢? 網頁設計公司幫您建置最吸引人的網站,提高曝光率!!
※綠能、環保無空污,成為電動車最新代名詞,目前市場使用率逐漸普及化
※廣告預算用在刀口上,網站設計公司幫您達到更多曝光效益