【python 文本统计】西游记用字统计

1、数据
xyj.txt，《西游记》的文本，2.2MB
致敬吴承恩大师，4020行（段）

2、目标
统计《西游记》中：
1. 共出现了多少个不同的汉字；
2. 每个汉字出现了多少次；
3. 出现得最频繁的汉字有哪些。

3、涉及内容：
1. 读文件；
2. 字典的使用；
3. 字典的排序；
4. 写文件

4、效果

5、源代码

# coding:utf8import sys
reload(sys)
sys.setdefaultencoding("utf8")fr = open('xyj.txt', 'r')characters = []
stat = {}for line in fr:# 去掉每一行两边的空白line = line.strip()# 如果为空行则跳过该轮循环if len(line) == 0:continue# 将文本转为unicode，便于处理汉字line = unicode(line)# 遍历该行的每一个字for x in xrange(0, len(line)):# 去掉标点符号和空白符if line[x] in [' ','', '\t', '\n', '。', '，', '(', ')', '（', '）', '：', '□', '？', '！', '《', '》', '、', '；', '“', '”', '……']:continue# 尚未记录在characters中if not line[x] in characters:characters.append(line[x])# 尚未记录在stat中if not stat.has_key(line[x]):stat[line[x]] = 0# 汉字出现次数加1stat[line[x]] += 1
print len(characters)
print len(stat)# lambda生成一个临时函数
# d表示字典的每一对键值对，d[0]为key，d[1]为value
# reverse为True表示降序排序
stat = sorted(stat.items(), key=lambda d:d[1], reverse=True)fw = open('result.csv', 'w')
for item in stat:# 进行字符串拼接之前，需要将int转为strfw.write(item[0] + ',' + str(item[1]) + '\n')
fr.close()
fw.close()