快捷導(dǎo)航

如何利用python實現(xiàn)詞頻統(tǒng)計功能

更新時間：2021年10月17日 16:00:12 作者：周魚仔

詞頻統(tǒng)計用途很廣泛,比如我們統(tǒng)計某篇文章中的用詞頻率,網(wǎng)絡(luò)熱點詞匯,再比如起名排行榜呀、熱門旅游景點排行榜呀什么的,其實也都可以套用,這篇文章主要給大家介紹了關(guān)于如何利用python實現(xiàn)詞頻統(tǒng)計功能的相關(guān)資料,需要的朋友可以參考下

功能要求

這是我們老師的作業(yè) 代碼中都有注釋要求詞頻統(tǒng)計軟件：

1）從文本中讀入數(shù)據(jù)：（文件的輸入輸出）

2）不區(qū)分大小寫,去除特殊字符。

3）統(tǒng)計單詞例如：about ：10 并統(tǒng)計總共多少單詞

4）對單詞排序。出現(xiàn)次數(shù)

5）輸出詞頻最高的10個單詞和次數(shù)

6）把統(tǒng)計結(jié)果存入文本

方法如下

1.文件的讀取，區(qū)分大小寫，去除特殊字符

import re
 
def getword():
     # 讀取文件
     f=open('read.txt','r',encoding='utf-8')
     # 將大寫轉(zhuǎn)化成小寫
     word=f.read().lower()
     # 關(guān)閉文件
     f.close()
     #利用正則除去特殊字符   |\符+
     list=re.split('\s+|\,+|\.+|\!+|\:+|\?+|\;+|\(+|\)+|\-+|\_+|\=+|\++|\“+|\、+|\/+|\{+|\}+|\”+|\：+|\。+|\“+|\[+|\]+|\【+|\】+|\—+|\%+|\"+',word)
     # 遍歷列表 去除列表中的空格
     i = 0
     while i < len(list):
          if list[i] == '':
               list.remove(list[i])
               i -= 1
          i += 1
 
     # for a in list:
     #      if a == "":
     #         list.remove(a)
    #用for循環(huán)的話如果存在多個空字符串 其列表會隨時發(fā)生變化，導(dǎo)致無法正常刪除空字符串 所以在使用for…in循環(huán)遍歷列表時，最好不要對元素進行增刪操作
 
#  對于others'優(yōu)化 如果最后一個字符是‘就將'其去掉
     for i in range(len(list)):
          l=list[i]
          if list[i][-1] == "'":
               list[i] = list[i][:-1]
     return list

2. 統(tǒng)計，排序

from getfilewords import getword
 
def statistics():
    dict={}  #定義一個空的字典，在后面的運算中逐步添加數(shù)據(jù)
    words=getword()
    for word in words: #遍歷整個列表
        if word in dict.keys():  #判斷當前單詞是否已經(jīng)存在 dict.keys()是已存進字典中的單詞
            # 補充：keys() 方法用于返回字典中的所有鍵；
            # values() 方法用于返回字典中所有鍵對應(yīng)的值；
            #詳情見Test1
            dict[word]=dict[word]+1  #在當前單詞的個數(shù)上加 1
        else:
            dict[word]=1  #當前單詞第一次出現(xiàn)時 會把單詞寫入dict字典里 格式為 ‘單詞'=1
#排序
    w_order=sorted(dict.items(),key=lambda x:x[1],reverse=True)
# print(dict.items())
# dict.items()返回的是列表
# 按字典集合中，每一個元組的第二個元素排列。
# sorted會對dict.items()這個list進行遍歷，把list中的每一個元素，也就是每一個tuple()當做x傳入匿名函數(shù)lambda x：x[1],函數(shù)返回值為x[1]
# reverse屬性True為降序 False為升序
    return w_order #返回排序后的列表

3.結(jié)果寫入文本

from WordStatistics import statistics
def writefile():
    w_order=statistics()
    f = open('result.txt', 'w',encoding='utf-8')
    print("文章單詞總個數(shù):",+len(getword()),file=f)
    print("文章單詞總個數(shù):", +len(getword()))
 
    # 寫入文件
    print("詞頻最高的10個單詞和次數(shù)",file=f)
    print("詞頻最高的10個單詞和次數(shù)")
 
    w_order10=w_order[:10]#將列表的前十位提取并且遍歷 輸出key(單詞)和values(次數(shù))
    for key,values in w_order10:
        print(key,':',values,file=f)
        print(key, ':', values)
 
    #遍歷列表中的所有數(shù)據(jù)
    print("統(tǒng)計結(jié)果",file=f)
    for key,values in w_order:
        print(key,':',values,file=f)
    f.close()#關(guān)閉文件

4.程序入口

import os
 
from writefile import writefile
 
print("詞頻統(tǒng)計軟件")
print("正在統(tǒng)計中。。。")
print("統(tǒng)計成功，結(jié)果保存到result.txt")
writefile()
print("程序運行結(jié)束")
os.system("pause")

5.運行截圖這是需要統(tǒng)計的文本