意见挖掘是数据挖掘与文本挖掘技术的延伸和发展,它所针对的对象是非结构化数据,例如互联网论坛中那些反映作者对事物、人物、事件想法和观点的主观性文本,这些文本中包含表达意见的语句,即具有褒贬态度倾向的语句^{[ 5]},而意见挖掘就是结合自然语言处理的相关技术去发掘这些情感倾向。

意见挖掘的过程主要包括以下4个方面^{[ 6]}:

(1)主题抽取(Topic Extraction):识别相关主题术语和与指派领域相关的本体概念;

(2)意见持有者识别(Holder Identification):确定意见表述的作者;

(3)陈述的选择(Claim Selection):确定意见表述的范围,过滤无关信息;

(4)情感分析(Sentiment Analysis):判断意见的语义倾向(即情感极性)。

意见挖掘涉及到词汇层(如分词和词性标注)、句法层(如命名实体识别和句法分析)、语义层(如语义分析)和篇章层(如跨句指代消歧)等多个自然语言分析层面^{[ 7]}。它不同于那些对文本主旨提炼的挖掘方法,而是细化到每一个语言片段,分析提炼其中的情感倾向^{[ 8]}。

意见挖掘的相关方法和技术是CINMS构建的基础与核心:

(1)将网页评论转换成结构化文档。可以生成XML形式的描述性信息,从而方便下一步的属性分类,实现文本的智能采集。

(2)语料库建设。通过对语料进行人工标注,形成训练数据集和训练模型,用来与处理中的数据进行比照分析,提高结果准确度,优化结果;利用分词功能构建测试数据集^{[ 7]}。

(3)情感极性分析。采用分步骤、有序化、前后衔接分工配合的处理流程,通过主题识别、城市设定、属性判断、情感分析模块逐个判断分析,对测试集中的数据逐条过滤筛选,提取情感极性。

(4)对信息的关联性分析。从时间与空间两个角度分析事件的关联性,发现从时空角度关联事件的发展规律及趋势^{[ 9]}。

利用数据挖掘技术中的意见挖掘方法能较好地实现CINMS的各项功能,其优势如下:

(1)目标驱动,面向决策。系统是面向任务的,采用目标驱动的方式展开。网民的言论数量巨大而且分散、结构各异。针对不同的任务,意见挖掘技术能提供智能化的指标体系构建和信息源选择。

(2)基于知识,高效整合。意见挖掘技术选取的指标之间有粒度和层次关系,分析结果更加贴近用户需求,而且可以在不同的粒度和层次上对数据进行分析。

(3)实时运行,动态更新。对网络文本进行定时自动采集,保证了核心的信息源覆盖到尽可能多的信息,时效性强。

CINMS以互联网上的新闻、博客、论坛或者其他网页中的评论为抓取对象。

(1)通过信息源选择,确定所抓取的目标信息。目前笔者主要选择了奇虎论坛相关版块中的评论帖子进行信息的智能化抽取。

(2)对抓取的信息进行结构化处理及信息过滤,形成结构化的文本形式,过滤无关信息。

(3)对所抓取信息进行分析,判断出评论的情感倾向,并对各属性指标对应的情感极性元素进行分析处理,将结果存入数据库中^{[ 10]}。

(4)将指标趋势图、简报、监控报警、统计查询等以可视化的方式呈现,如图1所示。从而实现对网络热点、公共决策舆论、重大事件舆论、公共服务舆论的监测和分析。

图1

	Figure Option ViewDownloadNew Window
	图1 系统功能架构

该城市形象网络监测平台的流程如图2所示:

图2

	Figure Option ViewDownloadNew Window
	图2 系统模型架构

CINMS的流程步骤主要分为三个大的阶段:

(1)采集准备阶段,主要通过语料自动采集系统,实时获取固定时段内论坛中涉及到关于城市的相关评论、热点新闻、突发事件等信息,按时间顺序排序^{[ 11]}。同时需要数据分析人员对相应评论中的信息关键字进行人工采集,并对自动采集系统获取的数据进行初步筛选。信息被保存为含有帖子标题、发帖人、帖子来源、帖子链接、发帖时间、点击次数、回帖数量、发帖内容和回帖内容的格式化文本形式^{[ 12]}。另一方面对获取语料进行分词处理,其结果生成测试数据集。

(2)分析处理阶段,是本系统开发的核心环节。利用测试数据集中的数据构建主题指标和情绪字典,然后利用现有的文本分类的方法和技术,通过主题识别、城市识别、属性识别和情感识别4个模块对传入的每条数据依次判断筛选^{[ 13]}。本系统主要采用了贝叶斯算法来对文本进行分类,主要利用了Weka开源程序包,相关核心算法如下:

Classifier classifier = new NaiveBayes(); //初始化,调用贝叶斯分类器

Instances trainData = new DataSource(trainPath).getDataSet(); //得到训练测试数据集

classifier.buildClassifier(trainData); //对训练数据集构造贝叶斯分类器

Instance inst = new Instance(trainData.numAttributes());

inst.setDataset(trainData); //构建测试实例

score = classifier.distributionForInstance(inst); //调用分类过程,得到分类结果

利用循环反馈的方法调用分类器对筛选分类识别的结果进行纠正和调整,将数据与之前通过人工标注形成的训练集进行比照分析,然后根据每一次反馈的最新数据集更新训练模型,以提高最终分类数据的准确性。

(3)结果呈现阶段。通过后台管理系统对最终的解析结果进行处理,生成报表,并以可视化方式呈现。

从网络论坛中挑选了500篇与城市相关的文章,邀请专业人员对文章进行了人工的标注,标注结果形成训练数据集。通过调用训练算法对训练数据集进行处理,生成初始训练模型。该调用算法核心步骤如下:

/**加载训练数据集*/

TextDirectoryLoader loader = new TextDirectoryLoader();

loader.setDirectory(inDir);

trainDataset = loader.getDataSet();

trainDataset = toWordVector(trainDataset); //生成文档向量集

trainDataset = toNominal(trainDataset); //将数据属性进行离散

writeArff(outArff, trainDataset); //将得到的训练模型写入文件

初始的训练模型中属性数量庞大且表征性差异较大,需要对其进行筛选和整合,形成特征项集合。CINMS采用在特征选择方面表现良好的信息增益(IG)算法来实现。IG表示文档中包含某一特征时文档内的平均信息增量,它被定义为某一特征在文档中出现前后的信息熵之差。例如特征项f,其信息增益IG(f)可以表示为^{[ 14]}:

IG(f)=H(C)-H(C|f)=

删除训练模型经过特征选择后低信息增益的属性,保留高信息增益的特征项,形成最终的训练模型。此步骤的特征选择核心算法如下:

Instances dataset = Utils.loadArff(arffName); //加载初始训练模型

InfoGainAttributeEval infoGain = new InfoGainAttributeEval(); //初始化信息增益方法

infoGain.buildEvaluator(dataset); //对数据集构造信息增益

Ranker ranker = new Ranker(); //对数据进行初始化排序

ranker.setNumToSelect(numAttribuesSelected); //设置城市属性筛选个数

Remove remove = new Remove(); //初始化数据剔除器

int range[] = ranker.search(infoGain, dataset); //计算信息增益

/**剔除低信息增益的属性*/

remove.setInvertSelection(true);

remove.setAttributeIndices(rangeList);

remove.setInputFormat(dataset);

for (int i = 0; i < dataset.numInstances(); i++) {

remove.input(dataset.instance(i));

}

/**过滤筛选后的属性,将结果写入文件*/

Instances newData = remove.getOutputFormat();

Instance processed;

while ((processed = remove.output()) != null) {

newData.add(processed);

}

writeArff(arffName,newData);

为了给每个分类模型筛选出合适数目的特征项,本文尝试了特征项数目的若干种不同组合,通过10折交叉法验证了选择不同项目数下的模型准确率。最后选取分类准确率最高的模型作为最终的分类模型。实验结果如图3所示:

图3

	Figure Option ViewDownloadNew Window
	图3 各分类模型选择不同数量特征项情况下准确率变化曲线图

实验结果表明,在属性识别模块中,特征项一般选取150-200个就能达到较高的准确率,主要包含了涉及城市形象的相关指标。而在情感识别模块中,特征属性一般选取2 000-3 000个才能取得比较满意的结果,这是由于情感词极其丰富,需要兼顾前后出现的许多属性才能识别出结果。由于选取的训练语料的不同,会造成在特征属性的选择以及分类结果上有差异,但总体上不会偏离太远。

同时笔者使用了中国科学院计算技术研究所研制的汉语词法分析系统(Institute of Computing Technology, Chinese Lexical Analysis System,ICTCLAS)对存储的语料数据进行规范化预处理。其中文分词、词性标准、命名实体识别、新词识别等功能保证了分词的准确性和有效性。分词结果生成测试数据集。

本文使用了自主开发的工具CaseTool辅助人工进行属性和情感词筛选。

CaseTool可以自动调用测试数据集中的数据,根据词性限制进行过滤,再由人工从过滤后的词集中挑选出主题指标词,如图4所示:

图4

	Figure Option ViewDownloadNew Window
	图4 CaseTool评价主题指标选取

再次调用原数据,将选定的主题指标词文件设为属性文件,将词性过滤更改为形容词形式,这时CaseTool就会计算出与筛选出的每个主题指标相应的情感评价词,再由人工对情感词进行极性判断,筛选形成正面、负面、中性三类的情绪词集,如图5所示:

图5

	Figure Option ViewDownloadNew Window
	图5 CaseTool情绪词集选取

同时可对生成的结果进行人工补充,形成最终的主题指标和情绪字典。在CINMS中最终得出城市形象指标,如表1所示:

表1

表1

表1 城市形象指标 子属性 母属性 1 2 3 4 5 6 7 经济 GDP 工业 产业 商业 贸易 企业 综合实力 宜居 房价 住房 居住 二手房 房地产 环境 物业 交通 地铁 公交车 售票 私家车 出租车 收费 消费 消费 物价 费用 价格 生活成本 衣食住行 教育 科技 大学 高校 科研 居民 素质 北京人 男人 女人 上海人 福利 社会保障 就业 收入 工资 月薪 工作 人力资源 人才 劳动力 休闲娱乐 娱乐 商场 服装 酒吧 时尚 餐馆 基础设施 城区 市区 街道 马路 机场 基础设施

表1 城市形象指标

属性指标构建完毕后,系统将对测试集中的数据逐条输入判断:通过主题识别模型,对传入的数据分类识别,若结果为城市的,则继续传给下一个模块,否则该条数据将被自动删除;限定城市模块对传入数据中属于笔者所规定城市的信息予以保留,其他丢弃;属性识别模块将传入的数据与之前构建的评价主题指标中的各属性比照分析,相同属性的信息保留;话题情感识别模块将传入信息与情绪字典进行匹配分类识别,并保存分类结果。

通过后台管理系统可以看到运行的最终结果,并对结果进行管理。同时将相关数据指标导出,利用SPSS统计分析软件对结果进行二次处理。例如实验中给出对京沪两地各项属性指标的网民态度倾向直方图(见图6),以及反映正面与负面评价比例的饼状图(见图7),还有一些关注度变化的趋势分析(见图8)等,结果分析以“周”为单位动态更新。利用RSS订阅或电子邮件等方式向相关政府部门进行实时的信息推送,保证政府部门能够及时、清晰、直观地了解各相关指标的变化情况,把握网民态度倾向,从而就各指标责权对应的政府部门当前的工作任务和重点给出合理的参考指导意见。

图6

	Figure Option ViewDownloadNew Window
	图6 城市情感倾向直方图

图7

	Figure Option ViewDownloadNew Window
	图7 城市情感倾向饼图

图8

	Figure Option ViewDownloadNew Window
	图8 关注度趋势分析