一篇文章教會(huì)你利用Python網(wǎng)絡(luò)爬蟲獲取分類圖片
【四、涉及的庫(kù)和網(wǎng)站】
1、網(wǎng)址如下:
https://www.doutula.com/photo/list/?page={}
2、涉及的庫(kù):requests、lxml、fake_useragent、time、os
3、軟件:PyCharm
【五、項(xiàng)目實(shí)施】
1、我們定義一個(gè)class類繼承object,然后定義init方法繼承self,再定義一個(gè)主函數(shù)main繼承self。導(dǎo)入需要的庫(kù)和網(wǎng)址,創(chuàng)建保存文件夾。import requests, osfrom lxml import etreefrom fake_useragent import UserAgentimport timeclass bnotiank(object): def __init__(self): os.mkdir("圖片") # 在創(chuàng)建文件夾 記住只有第一次運(yùn)行加上,如果多次運(yùn)行請(qǐng)注釋掉本行。 def main(self): passif __name__ == '__main__': Siper=bnotiank() Siper.main()
2、隨機(jī)UserAgent ,構(gòu)造請(qǐng)求頭,防止反爬。 ua = UserAgent(verify_ssl=False) for i in range(1, 50): self.headers = { 'User-Agent': ua.random }
3、發(fā)送請(qǐng)求 ,獲取響應(yīng),頁(yè)面回調(diào),方便下次請(qǐng)求。 '''發(fā)送請(qǐng)求 獲取響應(yīng)''' def get_page(self, url): res = requests.get(url=url, headers=self.headers) html = res.content.decode("utf-8") return html
4、定義parse_page函數(shù),獲取二級(jí)頁(yè)面地址,for遍歷獲取需要的字段。
def parse_page(self, html): parse_h(yuǎn)tml = etree.HTML(html) image_src_list = parse_h(yuǎn)tml.xpath('//p/a/@href') # print(image_src_list)
5、對(duì)二級(jí)頁(yè)面發(fā)生請(qǐng)求,xpath解析數(shù)據(jù),獲取大圖片鏈接。
reo = parse_h(yuǎn)tml1.xpath('//div//div[@class="content"]') #父結(jié)點(diǎn) for j in reo: d = j.xpath('.//article[@class="article-content"]//p/img/@src')[0] text = parse_h(yuǎn)tml1.xpath('//h1[@class ="article-title"] //a/text()')[0].strip()
6、請(qǐng)求圖片地址,寫入文檔。
html2 = requests.get(url=d, headers=self.headers).content dirname = "./d/" + text + ".jpg" #定義圖命名 with open(dirname, 'wb') as f: f.write(html2) print("%s 【下載成功!。!】" % text)
7、調(diào)用方法,實(shí)現(xiàn)功能。 url = self.url.format(page) print(url) html = self.get_page(url) self.parse_page(html)
8、設(shè)置延時(shí)。(防止ip被封)。
time.sleep(1) """時(shí)間延時(shí)"""
【六、效果展示】
1、點(diǎn)擊綠色小三角運(yùn)行輸入起始頁(yè),終止頁(yè)。
2、將下載成功信息顯示在控制臺(tái)。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 4 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?