南京音乐推荐联合社

【数模】小飞早已看穿了一切!

FlyFourYou 2019-07-16 16:27:04

一年一度的五一数模节又已到来,而今年的数模题目小飞看到之后一阵激动呢。

原来,早在2017年11月14日,FlyFourYou微信平台所发震惊!飞设四班团支部又又又搞了一件大事情?》原创推文中就早已用词频分析处理了十九大报告,获取了十九大报告中重点强调的相关内容。

干货时间到,说到这次的红楼梦选题,python语言作为胶水语言确实有得天独厚的优势,而其中的jieba函数库则是专用于中文分词与文本分析

jieba  结巴

特点

一、支持三种分词模式:

1.精确模式,试图将句子最精确地切开,适合文本分析

2.全模式,把句子中所有的可以成词的词语都扫描出来, 速度非常快,但是不能解决歧义;

3.搜索引擎模式,在精确模式的基础上,对长词再次切分,提高召回率,适合用于搜索引擎分词。

二、支持繁体分词

三、支持自定义词典

安装说明

代码对 Python 2/3 均兼容

1.全自动安装: easy_install jieba 或者 pip install jieba / pip3 install jieba

2.半自动安装:先下载 https://pypi.python.org/pypi/jieba/ ,解压后运行 python setup.py install

3.手动安装:将 jieba 目录放置于当前目录或者 site-packages 目录

4.通过 import jieba 来引用


jieba库安装完毕后,就可以进入代码编写了,等等,用什么编写呢?codeblocks?

python的编译软件其实也有很多,而初学者最常用的应该是pycharm,下载方式见官网。

打开pycharm后,选择File-New scratch File-python即可建立了一个新的py文件,在其中书写代码后点右上角的编译运行即可。

回到红楼梦的话题中,问题1问题2较为容易,直接用python的词频统计即可(文末附代码),在代码中,词频统计仅需12行即完成,其工作并不是很复杂。

而对于3、4两题,词与词的相关性分析则较为困难,相关词语如宝玉与贾宝玉,黛玉与林黛玉,而在这种词语下,由于jieba内置词典,则对这种词的拆分可能不是很好,统计会有误差。第四题的语义分析则更为困难,需要参与者们研究一下红学的相关论文,从而形成自己的观点。

另,优秀的完成论文离不开图片的绘制,通过词频分析绘制不同章节坐标图、柱状图、曲线图以直观的反应其差异则应该是论文评判的一大重点。

最后期待所有参赛者们都能不负自己的努力取得好成绩!

(点击查看原文获取文本词频分析源代码)

航空学院飞设四班团支部,致力于引导团员正确思考,积极行动,努力奋进,心有家国。

Copyright © 南京音乐推荐联合社@2017