2) 使用同义词词林扩展。利用《同义词词林》对4部基础情感词典进行扩展,得到扩展后的情感词典。
3) 微博获取及预处理。抓取的微博中包含了大量的html标记、http链接以及噪声等,微博需要一系列的预处理才能应用到建立索引的过程中去。预处理的过程包括噪声消除、标签过滤、信息提取等步骤,最终抓取的微博处理成普通的短文本形式。
4) 建立索引。传统的方法主要利用的是Google或者百度等搜索引擎,而本文构建了面向微博的,不仅应用简单,更符合微博语言的特点,得到更精确的统计结果。
5) 利用PMI得到词语的倾向值。对词典中的每一个词语求得褒贬基准词集合的SO_PMI值,对SO_PMI值归一化后即为该词语的倾向性值。传统的方法利用基准词和PMI计算某个词语是否是情感词语,但是本文中已经有了情感词典,只需要利用PMI求得情感倾向值。
6) 得到带情感倾向值的情感词典。将情感倾向值和情感词组合在一起,构成带情感倾向性值的情感词典。
2.2 情感词典的优化
在情感词典中,有些情感词语在微博中出现的次数比较少,导致情感词语的情感倾向性有错误,因此在本节中,介绍对扩展后词典的优化方法。为情感词典的优化步骤。
1) 去除不常见的词语。在扩展后的词典中有些词语在微博中出现的次数太少,造成PMI值为0,所以在这一步中需要去除这些不常见的词语。设定一个阈值θ,利用微博检索系统,将检索后出现词频数小于阈值θ的情感词去除。
2) 去除情感倾向值在-0.1~+0.1的词语。在情感词典中,情感词语的倾向性值用来区别词语的倾向性。在本文中设定一个阈值α,对于值在-α~+α的情感倾向性值很难用来区分词语的倾向性,因此需要去除这一部分词语。
3) 将正或负词典中的倾向值为负或正的取反。基于情感词典的中文微博情感倾向分析研究在正向情感词典中倾向值为负的词语或者在负向情感词典中会有倾向值为正的词语,本文中这类词语并没有去除,只是进行倾向性值取反求得正确的倾向性值。最终的情感词语的数量如所示,本文列出了部分情感词语如所示。
2.3 其他词典的构建
除了情感词典以外,对于能够影响情感分析的表情符号、连词、副词和网络用语等也分别构造了相对应的词典,4部词典分别为表情符号词典、连词词典、副词词典和网络用语词典。
3 基于SVM的微博情感分析
传统的微博情感分析主要利用机器学习,采用一步三分类或者两步三分类的判定方法。一步三分类是将微博情感分析通过分类器直接把微博分成正类、负类和中性。二步三分类首先是将微博通过分类器直接分成主客观,然后在主客观分类的基础上利用另外一个分类器再将主观微博分成正类和负类。在本论文实验中,采用一步三分类的方法,利用一个分类算法进行分类,避免使用两步三分类方法繁琐的步骤以及每一步分类错误的累加,提高微博情感分析的效果。如、所示是基于SVM的微博情感分析的过程。
在训练阶段,使用训练数据,经过预处理、词性标注、特征提取后,再经过LibSVM训练,能够得到SVM模型。在测试阶段,使用测试数据,经过预处理、词性标注、特征提取以后,再经过SVM模型得到分类结果。
微博是短文本的一种形式,内容比较少。相对于长文本,特征比较稀疏并且难以提取。微博中存在各种话题,话题能够影响微博的情感分析。因此,对于微博的特征选择来说,优秀的特征能够对微博的情感分析带来巨大的影响。情感词典的规模和情感词语的倾向性能够影响情感分析的质量。通过以上分析,实验采用的特征如所示。
4 实验结果及分析4.1 特征选择对比实验
传统的特征选择方法固定地选择某些特征组合,但是有一些特征对情感分析的效果不明显,因此本文利用不同的特征组合对比实验进行特征的选择。本实验采用2折交叉验证,实验数据为COAE 2014微博标注数据集。实验结果用精确率、召回率和F1值表示。列出了精确率、召回率和F1值较好的几种组合。
本文来自电脑杂谈,转载请注明本文网址:
https://www.pc-fly.com/a/jisuanjixue/article-34678-3.html
一吨大豆出油率17---22%左右