訂閱
糾錯(cuò)
加入自媒體

一篇文章教會(huì)你利用Python網(wǎng)絡(luò)爬蟲獲取分類圖片

【四、涉及的庫(kù)和網(wǎng)站】

1、網(wǎng)址如下:

https://www.doutula.com/photo/list/?page={}

2、涉及的庫(kù):requests、lxml、fake_useragent、time、os

3、軟件:PyCharm

【五、項(xiàng)目實(shí)施】

1、我們定義一個(gè)class類繼承object,然后定義init方法繼承self,再定義一個(gè)主函數(shù)main繼承self。導(dǎo)入需要的庫(kù)和網(wǎng)址,創(chuàng)建保存文件夾。import requests, osfrom lxml import etreefrom fake_useragent import UserAgentimport timeclass bnotiank(object):    def __init__(self):        os.mkdir("圖片")  # 在創(chuàng)建文件夾 記住只有第一次運(yùn)行加上,如果多次運(yùn)行請(qǐng)注釋掉本行。    def main(self):          passif __name__ == '__main__':    Siper=bnotiank()    Siper.main()

2、隨機(jī)UserAgent ,構(gòu)造請(qǐng)求頭,防止反爬。    ua = UserAgent(verify_ssl=False)    for i in range(1, 50):        self.headers = {            'User-Agent': ua.random        }

3、發(fā)送請(qǐng)求 ,獲取響應(yīng),頁(yè)面回調(diào),方便下次請(qǐng)求。   '''發(fā)送請(qǐng)求  獲取響應(yīng)'''    def get_page(self, url):        res = requests.get(url=url, headers=self.headers)        html = res.content.decode("utf-8")        return html

4、定義parse_page函數(shù),獲取二級(jí)頁(yè)面地址,for遍歷獲取需要的字段。

def parse_page(self, html):        parse_h(yuǎn)tml = etree.HTML(html)        image_src_list = parse_h(yuǎn)tml.xpath('//p/a/@href')        # print(image_src_list)

5、對(duì)二級(jí)頁(yè)面發(fā)生請(qǐng)求,xpath解析數(shù)據(jù),獲取大圖片鏈接。

reo = parse_h(yuǎn)tml1.xpath('//div//div[@class="content"]') #父結(jié)點(diǎn)    for j in reo:        d = j.xpath('.//article[@class="article-content"]//p/img/@src')[0]        text = parse_h(yuǎn)tml1.xpath('//h1[@class ="article-title"] //a/text()')[0].strip()

6、請(qǐng)求圖片地址,寫入文檔。

html2 = requests.get(url=d, headers=self.headers).content    dirname = "./d/" + text + ".jpg" #定義圖命名    with open(dirname, 'wb') as f:        f.write(html2)        print("%s 【下載成功!。!】" % text)

7、調(diào)用方法,實(shí)現(xiàn)功能。    url = self.url.format(page)    print(url)    html = self.get_page(url)    self.parse_page(html)

8、設(shè)置延時(shí)。(防止ip被封)。

time.sleep(1) """時(shí)間延時(shí)"""

【六、效果展示】

1、點(diǎn)擊綠色小三角運(yùn)行輸入起始頁(yè),終止頁(yè)。

2、將下載成功信息顯示在控制臺(tái)。

聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問(wèn)題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)