python可视化文本分析(2)—snownlp jieba分析QQ群成员发言情况
生活随笔
收集整理的這篇文章主要介紹了
python可视化文本分析(2)—snownlp jieba分析QQ群成员发言情况
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
公眾號文章鏈接
第二個情感分析,主要通過python實現qq群消息分析,分析群成員發言總次數,群成員情緒對比,單個群成員的發言詞云狀況以及單個同學的發言情感走勢。
用到一下庫:
- re正則,matplotlib,wordcloud,numpy,jieba分詞,snownlp情感分析。
- 上述庫的用法很簡單,安裝也很簡單,所以不需要擔心門檻。
最好結合第一篇或者先看第一篇
詳細說一下模塊的制作流程:
s=SnowNLP(text)
print(s.sentiments)就出來了,這部分的坑點是標簽的展示我以前記錄過可以結合著看,就不詳述了。這部分詳細代碼為:
附上代碼和展示:
import re from snownlp import SnowNLP import numpy as np import matplotlib.pyplot as plt ##繪圖庫 from wordcloud import WordCloud import jieba.analyse time=[]#次數 text=[]#文本 name=[]#姓名 qq=[]#qq或者郵箱提取 value={} pattern=re.compile(r'(\d*)-(\d*)-(\d*) .* .*')#匹配 2018-05-05 15:55:40 2班某某(1315426911) 有一個坑點就是2018-05-07 13:48:39 2XXX<xxxx@qq.com>這種格式 #pattern2=re.compile(r'(\d+):(\d+):\d+')#匹配 15:55:40 pattern3=re.compile(r'(\S+)(\()(.*?)(\))')#匹配 2班某某(1315426911)相關內容 pattern4=re.compile(r'(\S+)[<](.*)[>]') def getemotionbyqq(value,qq):va=value[qq]['text']emotion=[]for q in va[len(va)-200:len(va)]:s = SnowNLP(q)emotion.append(s.sentiments)#print(s.sentiments)x=np.arange(len(emotion))y=np.array(emotion)plt.rcParams['font.sans-serif'] = ['SimHei'] # 用來正常顯示中文標簽plt.figure(figsize=(12, 6)) ##指定圖像比例: 8:6plt.plot(x,y,label='emotion status')plt.xlabel("最近200次發言情緒走勢")plt.ylabel("0-1表示消極-積極")plt.legend()plt.show() def getstudentcloudbyqq(value,qq):va=value[qq]['text']text=''for q in va:text+=q+' 'print(text)ags = jieba.analyse.extract_tags(text, topK=40)text=' '.join(ags)wc = WordCloud(background_color="white",width=1500, height=1000,min_font_size=40,font_path="simhei.ttf",max_font_size=300, # 設置字體最大值random_state=40, # 設置有多少種隨機生成狀態,即有多少種配色方案) # 字體這里有個坑,一定要設這個參數。否則會顯示一堆小方框wc.font_path="simhei.ttf" # 黑體# wc.font_path="simhei.ttf"my_wordcloud = wc.generate(text)plt.imshow(my_wordcloud)plt.axis("off")plt.show()plt.close() def getemotionall(time,text,name,qq):emotion=[]for i in range(0,len(qq)):print(name[i],text[i])s=SnowNLP(text[i])emotion.append(s.sentiments*100)print(len(name),len(emotion))Xi = np.array(emotion[10:40])Yi = np.array(name[10:40])x = np.arange(0, 30, 1)width = 0.6plt.rcParams['font.sans-serif'] = ['SimHei'] # 用來正常顯示中文標簽plt.figure(figsize=(8, 6)) ##指定圖像比例: 8:6plt.barh(x, Xi, width, color='red',label='同學發言總情緒', alpha=0.8)plt.xlabel("emotion")plt.ylabel("name")for a, b, c in zip(Xi, Yi, x):print(a, b, c)plt.text(a + 2, c - 0.4, '%d' % int(a), ha='center', va='bottom')plt.yticks(x, Yi)# plt.legend()plt.show()plt.close() #展示各個同學的發言次數 def getspeaktimeall(time,name):Xi = np.array(time[20:50])#根據自己展示的需要需改范圍,我們群人數太多Yi = np.array(name[20:50])x=np.arange(0,30,1)width=0.6plt.rcParams['font.sans-serif'] = ['SimHei'] # 用來正常顯示中文標簽plt.figure(figsize=(8, 6)) ##指定圖像比例: 8:6plt.barh(x , Xi, width, color='SkyBlue',alpha=0.8)plt.xlabel("time")plt.ylabel("name")for a,b,c in zip(Xi,Yi,x):print(a,b,c)plt.text(a+10,c-0.4,'%d'%int(a),ha='center',va='bottom')plt.yticks(x,Yi)# plt.legend()plt.show()plt.close()def getmotion(values):for key in values:print(values[key])time.append(values[key]['text'].__len__())usertxt=''for txt in values[key]['text']:usertxt+=txt+' 'text.append(usertxt)name.append(values[key]['name'])qq.append(key)#getmatplotlibtime(time,text,name,qq)# getmatplotlibemotion(time,text,name,qq)# print(time) def analyseinformation(lines):qqnow=''#qq或者email當前用戶for line in lines:if line != "\n" and line.strip() != "\n" and line != None and not line.__contains__("撤回了"):line = line.replace("[表情]", " ").replace("@全體成員", " ").replace("[表情]", " ").\replace("[QQ紅包]我發了一個“專享紅包”,請使用新版手機QQ查收紅。", "").replace("\n", " ").replace("[圖片]",'')if pattern.search(line):#匹配到正確的對象# print(line)if pattern3.search(line):qq1=str(pattern3.search(line).group(3))namenow=str(pattern3.search(line).group(1))if not qq1 in value.keys():value[qq1]={'name':namenow,'qq':qq1,'text':[]}qqnow=qq1#當前用戶發言發生了更改elif pattern4.search(line):email=str(pattern4.search(line).group(2))namenow=str(pattern4.search(line).group(1))if not email in value.keys():value[email]={'name':namenow,'qq': email,'text':[]}qqnow=email# print(name)elif not qqnow.__eq__(''):#初始化的時候的坑,初始化為'',前幾行沒用文本直接過濾value[qqnow]['text'].append(str(line))# print(name)#print(value[name]) if __name__ == '__main__':f = open('E:/text.txt', 'r', encoding='utf-8') # 要進行分詞處理的文本文件 (統統按照utf8文件去處理,省得麻煩)lines = f.readlines()#執行這個函數獲取分析才能解析value{}analyseinformation(lines)getmotion(value)#這個函數獲取一些name[]數組的值#核心分析函數:getspeaktimeall(time,name)#選定區間的同學發言次數getemotionall(time,text,name,qq)getstudentcloudbyqq(value,'694459644')getemotionbyqq(value,'694459644')- 發言的次數(我專挑小的區間為了展示)
- 情緒總的比較(跑的比較慢因為多,情緒50為正常)
- 某個同學的發言詞云(我偷偷選了發言較多的班長。。)
- 單個人的情感走勢(我又偷偷分析了班長的?)
可以看到這小子最近幾次發言不太良好呢。
其實還是有遺憾的,因為snownlp訓練的是商品評論正負語料,有的地方不一定很準。希望有機會自己能做一個情緒分析的包。哎,路還很長。
水平優先,比較喜歡這塊,程序不夠精簡,如有改進地方,大佬請指正!
如果對后端、爬蟲、數據結構算法等感性趣歡迎關注我的個人公眾號交流:bigsai
總結
以上是生活随笔為你收集整理的python可视化文本分析(2)—snownlp jieba分析QQ群成员发言情况的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python可视化文本分析(1)—分析Q
- 下一篇: 模拟教务评教(强智教务)—一件评教实现原