1. 抓包

成都創(chuàng)新互聯(lián)公司主營(yíng)金平網(wǎng)站建設(shè)的網(wǎng)絡(luò)公司,主營(yíng)網(wǎng)站建設(shè)方案,成都app軟件開(kāi)發(fā),金平h5微信小程序定制開(kāi)發(fā)搭建,金平網(wǎng)站營(yíng)銷(xiāo)推廣歡迎金平等地區(qū)企業(yè)咨詢

2. 查看參數(shù)信息

多看幾頁(yè)即可看見(jiàn)規(guī)律，主要改變的項(xiàng)無(wú)非是offset，timestamp，這里的stamp是13位的時(shí)間戳，再根據(jù)keyword改變搜索項(xiàng)，可以改變offset值實(shí)現(xiàn)翻頁(yè)操作，其他的都是固定項(xiàng)

3. 數(shù)據(jù)解析

返回的數(shù)據(jù)中可以得到具體的欄目，image_list中是所有的圖片鏈接，我們解析這個(gè)欄目，然后根據(jù)title下載圖片即可

4. 流程分析

構(gòu)建url發(fā)起請(qǐng)求，改變offset的值執(zhí)行便利操作，對(duì)返回的json數(shù)據(jù)進(jìn)行解析，根據(jù)title名稱建立文件夾，如果欄目含有圖片，則以title_num的格式下載圖片

import requests
import os
import time
headers = {
 'authority': 'www.toutiao.com',
 'method': 'GET',
 'path': '/api/search/content/?aid=24&app_name=web_search&offset=100&format=json&keyword=%E8%A1%97%E6%8B%8D&autoload=true&count=20&en_qc=1&cur_tab=1&from=search_tab&pd=synthesis&timestamp=1556892118295',
 'scheme': 'https',
 'accept': 'application/json, text/javascript',
 'accept-encoding': 'gzip, deflate, br',
 'accept-language': 'zh-CN,zh;q=0.9',
 'content-type': 'application/x-www-form-urlencoded',
 'referer': 'https://www.toutiao.com/search/?keyword=%E8%A1%97%E6%8B%8D',
 'user-agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.103 Safari/537.36',
 'x-requested-with': 'XMLHttpRequest',
}
def get_html(url):
 return requests.get(url, headers=headers).json()
def get_values_in_dict(list):
 result = []
 for data in list:
 result.append(data['url'])
 return result
def parse_data(url):
 text = get_html(url)
 for data in text['data']:
 if 'image_list' in data.keys():
 title = data['title'].replace('|', '')
 img_list = get_values_in_dict(data['image_list'])
 else:
 continue
 if not os.path.exists('街拍/' + title):
 os.makedirs('街拍/' + title)
 for index, pic in enumerate(img_list):
 with open('街拍/{}/{}.jpg'.format(title, index + 1), 'wb') as f:
 f.write(requests.get(pic).content)
 print("Download {} Successful".format(title))
def get_num(num):
 if isinstance(num, int) and num % 20 == 0:
 return num
 else:
 return 0
def main(num):
 for i in range(0, get_num(num) + 1, 20):
 url = 'https://www.toutiao.com/api/search/content/?aid={}&app_name={}&offset={}&format={}&keyword={}&' \
 'autoload={}&count={}&en_qc={}&cur_tab={}&from={}&pd={}&timestamp={}'.format(24, 'web_search', i,
 'json', '街拍', 'true', 20, 1, 1, 'search_tab', 'synthesis', str(time.time())[:14].replace('.', ''))
 parse_data(url)
if __name__ == '__main__':
 main(40)

分享名稱：Python爬蟲(chóng)：python獲取各種街拍美圖
文章路徑：http://www.ekvhdxd.cn/article40/jsjceo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站收錄、Google、靜態(tài)網(wǎng)站、標(biāo)簽優(yōu)化、響應(yīng)式網(wǎng)站、關(guān)鍵詞優(yōu)化

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)