還有4天就世界杯了，作為一個資深（偽）球迷，必須要實時關(guān)注世界杯相關(guān)新聞，了解各個球隊動態(tài)，這樣才能在一堆球迷中如（大）魚（吹）得（特）水（吹），迎接大家仰慕的目光!

給大家分享一個快速了解相關(guān)信息的辦法：刷論壇！我們來一起做個虎撲論壇的爬蟲吧！

抓包獲取虎撲論壇相關(guān)帖子內(nèi)容，逐條顯示！

先來觀察下網(wǎng)頁，打開論壇首頁，選擇國際足球

然后往下拉，找到世界杯相關(guān)內(nèi)容

這里就是我們的目標了，所有相關(guān)的新聞都會在這里顯示，用F12打開“開發(fā)者工具”然后往下瀏覽看看數(shù)據(jù)包

注意箭頭指向的那幾個地方！

這就是剛才瀏覽的新聞所在的json包，來看看具體數(shù)據(jù)是什么

ok，標題、地址、發(fā)布時間包括來源都已經(jīng)出現(xiàn)了!我們可以直接抓取json數(shù)據(jù)然后取出相關(guān)內(nèi)容！

再進入具體新聞頁面看看

所有的文本內(nèi)容，都在

這個標簽下的

標簽內(nèi)，我們可以用xpath直接取div下的所有文本內(nèi)容!

這里就不一 一說明了，直接上代碼，并錄個小的GIF圖片給大家看看效果

#@author Q群542110741 # -*- coding:utf-8 -*- import requests from lxml import etreeheader = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:60.0) Gecko/20100101 Firefox/60.0','Host':'soccer.hupu.com','Referer':'https://soccer.hupu.com/'} i = 0 while 1:#構(gòu)建循環(huán)頁面翻頁url = 'https://soccer.hupu.com/home/latest-news?league=世界杯&page='i += 1#獲取json數(shù)據(jù)，一頁20個html = requests.get(url+str(i),headers=header).json()['result']for info in html:time_r = info['time']#發(fā)布時間title = info['title']#標題url_r = info['url']#新聞鏈接origin = info['origin']#來源print(title)print('發(fā)布時間:',time_r,' '*5,'來自：',origin)head = headerhead['Host'] = 'voice.hupu.com'#更改header中Host參數(shù)html_r = requests.get(url_r,headers=head)#獲取新聞詳情html_r.encoding = 'utf-8'#編碼格式指定#獲取div下的所有文本datas = etree.HTML(html_r.text).xpath('//div[@class="artical-content-read"]')[0].xpath('string(.)').strip()print('\n'+'內(nèi)容：'+'\n'*2,datas,'\n')#可由用戶手動退出循環(huán)if input('任意鍵繼續(xù)，“q”退出') in ['q', 'Q']:exit()

現(xiàn)在我們可以快樂的刷刷論壇，積累最新資訊，秒殺一切擋在我們前（裝）進（B）道路上的渣渣吧~！

歡迎大家關(guān)注，私信我一起學習，一起看球！

創(chuàng)作挑戰(zhàn)賽新人創(chuàng)作獎勵來咯，堅持創(chuàng)作打卡瓜分現(xiàn)金大獎

總結(jié)

以上是生活随笔為你收集整理的世界杯快到了，看我用Python爬虫实现（伪）球迷速成！的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。