環境：Ubuntu16.4 python版本：3.6.4 庫：wordcloud
這次我們要講的是爬取QQ音樂的評論并制成云詞圖，我們這里拿周杰倫的等你下課來舉例。
第一步：獲取評論
我們先打開QQ音樂，搜索周杰倫的《等你下課》，直接拉到底部，發現有5000多頁的評論。
這時候我們要研究的就是怎樣獲取每頁的評論，這時候我們可以先按下F12，選擇NetWork，我們可以先點擊小紅點清空數據，然后再點擊一次，開始監控，然后點擊下一頁，看每次獲取評論的時候訪問獲取的是哪幾條數據。最后我們就能看到下圖的樣子，我們發現，第一條數據就是我們所要找的內容，點擊第一條數據，打開它的response拉到最下面，發現他的最后一條評論rootcommentcontent跟我們網頁中最后一條評論是一致的，那這時候已經成功了一般了，我們接下來只需要研究這條數據獲取的規律就可以獲取到所有的評論了。
我們先查看這條數據的Headers分析下Request URL,通過點開不同的頁碼進行比較，發現每次發出的情況網址大部分內容是相同，不同的地方有兩個，就是pagenum跟JsonCallBack，pagenum從英文上很明顯能看出來就是頁碼，JsonCallBack又是啥呢？
https://c.y.qq.com/base/fcgi-bin/fcg_global_comment_h5.fcg?g_tk=2058499274&jsonpCallback=jsoncallback7494258674829413&loginUin=2230661779&hostUin=0&format=jsonp&inCharset=utf8&outCharset=GB2312¬ice=0&platform=yqq&needNewCode=0&cid=205360772&reqtype=2&biztype=1&topid=212877900&cmd=8&needmusiccrit=0&pagenum=4&pagesize=25&lasthotcommentid=song_212877900_23831021_1526748144&callback=jsoncallback7494258674829413&domain=qq.com&ct=24&cv=101010
我們不妨將網址直接放在地址欄打開看看是怎樣。我們可以發現是直接返回一個不正規的json格式，為什么說是不正規呢？因為他在開頭多了個
jsoncallback7494258674829413
這個就是我們上面那個不知道怎么來的參數，我們嘗試在把這個數據改一下后再打開網址，結果發現，獲取的json內容是沒有變化，唯一變的是開頭jsoncallback1111111111
變成了我們輸入的那個數值，所以我們可以猜測這是一個隨機數，無論你輸入什么，都不會影響我們要獲取的內容。那這樣就好辦多了。
我們就直接放代碼獲取：
import requests
import json
def get_comment():
for i in range(1,7000):
# 打印頁碼
print(i)
# headers頭部
headers = {'User-Agent': 'Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:59.0) Gecko/20100101 Firefox/59.0',
'Referer': "https://y.qq.com/n/yqq/song/0031TAKo0095np.html"}
# 請求的url
url = 'https://c.y.qq.com/base/fcgi-bin/fcg_global_comment_h5.fcg?g_tk=2058499274&jsonpCallback=jsoncallback06927647062927766&loginUin=2230661779&hostUin=0&format=jsonp&inCharset=utf8&outCharset=GB2312¬ice=0&platform=yqq&needNewCode=0&cid=205360772&reqtype=2&biztype=1&topid=212877900&cmd=8&needmusiccrit=0&pagenum=%s&pagesize=25&lasthotcommentid=song_212877900_3035803620_1526783365&callback=jsoncallback06927647062927766&domain=qq.com&ct=24&cv=101010' %i
# 打印當前訪問的url地址
print (url)
# 將請求得到的頁面賦值為req
req = requests.get(url,headers=headers,verify=False)
# 對獲取到的內容進行utf-8編碼
html = str(req.content,'UTF-8')
# 對非正規的json進行處理,去掉頭部跟尾部多余的部分
html= html.strip("jsoncallback06927647062927766(")
html = html.replace(")","")
# 去掉兩邊的空格
html = html.strip()
# 將處理后的json轉為python的json
data = json.loads(html)
# 獲取json中評論的部分
list = data['comment']['commentlist']
# 每次都重新定義一個列表來存儲每一頁的評論
content = []
# 遍歷當前頁的評論并通過調用write()函數來保存
for i in list:
# 偶爾也會有一頁的評論獲取不到，這時候如果報錯了可以直接忽略那一頁，繼續運行
try:
content.append(i['rootcommentcontent'].replace("[em]","").replace("[/em]","").replace("e400",""))
except KeyError:
content = []
break
write(content)
# 將當前頁面的評論傳遞過來
def write(content):
# 打開一個文件,將列表的內容一行一行的存儲下來
with open('comments.txt', 'a', encoding = 'UTF-8') as f:
for i in range(len(content)):
# 因為轉為json后\n不胡自動換行，所以我們這里將\n給手換行
string = content[i].split("\\n")
for i in string:
# 因為出現了很多評論被刪除的情況,所有我們把這句給過濾掉
i = i.replace("該評論已經被刪除", "")
# 打印每條評論
print (i)
# 將評論寫入文本
f.writelines(i)
# 給評論換行
f.write("\n")
if __name__ == "__main__":
get_comment()
寫入文檔的內容大概就是這樣：
獲取完之后我們就能用wordcloud來進行詞云圖的制作了：
# -*- coding: utf-8 -*-
import jieba
from wordcloud import WordCloud, STOPWORDS
from os import path
from scipy.misc import imread
# 讀取mask/color圖片
d = path.dirname(__file__)
color_mask = imread("cyx.png")
#將爬到的評論放在string中
with open('nbzd.txt', 'r', encoding = 'UTF-8') as f:
string = f.read()
word = " ".join(jieba.cut(string))
wordcloud = WordCloud(background_color='white',
mask=color_mask,
max_words=100,
stopwords=STOPWORDS,
font_path='/home/azhao/桌面/素材/simsun.ttc',
max_font_size=100,
random_state=30,
margin=2).generate_from_text(word)
import matplotlib.pyplot as plt
plt.imshow(wordcloud, interpolation='bilinear')
plt.axis("off")
plt.show()
最后展示的結果是這樣的：
以上這篇用Python爬取QQ音樂評論并制成詞云圖的實例就是小編分享給大家的全部內容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
更多文章、技術交流、商務合作、聯系博主
微信掃碼或搜索：z360901061
微信掃一掃加我為好友
QQ號聯系： 360901061
您的支持是博主寫作最大的動力，如果您喜歡我的文章，感覺我的文章對您有幫助，請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧，狠狠點擊下面給點支持吧，站長非常感激您！手機微信長按不能支付解決辦法：請將微信支付二維碼保存到相冊，切換到微信，然后點擊微信右上角掃一掃功能，選擇支付二維碼完成支付。
【本文對您有幫助就好】元
