本文以计算机领域为例, 对ACM数据集中包含的关键词进行抽取, 分别通过关键词的共现对和引用共现对构建关键词共词网络和引用共词网络, 然后通过PageRank算法对网络节点重要度进行计算, 根据PageRank值高低排名抽取出领域基础词汇, 整体研究流程如图1所示。

在关键词抽取的基础上, 构建两种类型的共词网络。一种是传统的共词网络, 其原理是如果两个关键词在同一篇文献中出现, 则这两个关键词形成共现关系。将所有具有共现关系的“关键词-关键词” (Keyword-Keyword, KK)对关联起来, 就形成了关键词共词网络。另一种是基于引用关系的关键词共词网络, 即认为当两篇文献存在引用关系, 则施引文献的关键词和被引文献的关键词之间可以通过这种引用关系构建关键词对共同出现的情况, 综合文献集中所有的“关键词-引用-关键词”(Keyword-Citation-Keyword, KCK)对, 便可以生成引用共词网络。两种类型网络的关键词对构建过程如图2所示。

PageRank算法是1998年由Brin等^[25]提出的一种基于链接分析的网页排序算法, 通过分析网络的链接结构获得网络中网页的重要性排名。基本思想是将所有网页及网页之间的链接视为一个有向图, 节点是网页, 节点重要性由链接该节点的其他节点的重要性和数量决定。由于关键词共现网络与网页链接网络本质相同, 均为有向图, 在关键词共现网络有向图中, 一个节点代表一个关键词, 节点之间的连线代表关键词的共现关系或引用共现关系, 将PageRank算法应用在共词网络中, 可以同时兼顾词汇的质量和数量。因此, 本文将PageRank算法引入到共词网络中用于领域基础词汇的发现, 得到词汇PageRank值的计算如公式(1)所示。

$S\text{(}{{v}_{i}}\text{)}=(1-d)+d\times \sum\nolimits_{j\in In({{v}_{i}})}{\frac{S({{v}_{j}})}{|Out({{v}_{j}})|}}$ (1)

其中, $S\text{(}{{v}_{i}}\text{)}S({{v}_{j}})$分别表示关键词${{v}_{i}}$和${{v}_{j}}$的PageRank值, $In({{v}_{i}})$表示指向关键词${{v}_{i}}$的关键词集合, $|Out({{v}_{j}})|$表示关键词${{v}_{j}}$指向的关键词的集合, $|Out({{v}_{j}})|$为集合中元素的个数, d为阻尼系数, 一般设为0.85。

在关键词构成的引用共词网络中, 词汇节点之间的关系强度不是均匀的, 因为同一种词语共现对会在不同引文关系中多次出现, 而被引次数越多的关键词其重要性越高, 因此, 将共现词语对之间的权重考虑进来^[26], 构建基于加权的PageRank计算公式如公式(2)所示。

$S'\text{(}{{v}_{i}}\text{)}=(1-d)+d\times \sum\nolimits_{j\in In({{v}_{i}})}{S'({{v}_{j}})\times \omega ({{v}_{i}},{{v}_{j}})}$ (2)

其中, $S'\text{(}{{v}_{i}}\text{)}S'({{v}_{j}})$分别表示关键词${{v}_{i}}$和${{v}_{j}}$的加权PageRank值, $In({{v}_{i}})$表示指向关键词${{v}_{i}}$的关键词集合, $\omega ({{v}_{i}},{{v}_{j}})$代表关键词${{v}_{i}}$引用${{v}_{j}}$时${{v}_{j}}$的PageRank值传递给${{v}_{i}}$的比重, 其计算公式如公式(3)所示。

$\omega ({{v}_{i}},{{v}_{j}})=\frac{W({{v}_{i}},{{v}_{j}})}{\mathop{\sum }_{k}W({{v}_{i}},{{v}_{k}})}$ (3)

其中, $W({{v}_{i}},{{v}_{j}})$表示关键词${{v}_{i}}$和${{v}_{j}}$之间的共现次数, $\sum\nolimits_{k}{W({{v}_{i}},{{v}_{k}})}$表示与关键词${{v}_{i}}$共现的关键词对的次数总和。

本研究所使用数据来源于美国计算机学会(Association for Computing Machinery, ACM)的20余万篇英文会议论文, 时间跨度为1951年-2012年。经过筛选, 包含关键词的文献数量约为11万篇, 关键词数量约48万个, 论文之间涉及的引用关系约161万条, 详细数据统计情况如表1所示。含关键词的文献年度分布情况如图3所示, 文献数量基本呈现随年份逐渐增长的趋势, 其中80%的文献集中分布在2004年- 2011年之间。年度篇均关键词分布情况如图4所示, 数量基本稳定在4-6个之间。

数据集中不重复的关键词约为16万个, 平均每篇论文涉及的不重复关键词为1.49个, 这说明计算机领域的论文共同和重复使用大量词汇作为关键词以对论文进行标识, 研究的学科主题相对比较集中, 以关 键词作为基本知识单元发现领域基础词汇具有较高可行性。

采用引用共词网络方法对计算机领域的基础词汇进行识别, 通过对计算机领域约11万篇会议论文进行关键词抽取和引文关系识别, 构建关键词共词网络和引用共词网络, 并采用加权和未加权的PageRank算法对领域关键词进行重要性排名, 得到领域基础词汇候选集合, 将基于词频的方法和基于关键词共词分析的方法作为基准实验进行对比分析。

(1) 基于词频的方法

基于词频的方法通过统计关键词的出现频次, 并按照频次高低对关键词进行排名, 取排名前50的关键词作为候选领域基础词汇, 如表2所示。可以发现, 基于词频法得到的候选词汇中, TOP10的词汇中有6个词汇: “evaluation”(评价)、“design”(设计)、“simulation”(模拟)、“collaboration”(合作)、“usability”(可用性)和“optimization”(优化)均是语义过于宽泛的词汇, 在其他学科中也属于高频词, 并不能很好地代表计算机领域的研究基础, 只有“security”、“visualization”、“privacy”和“information retrieval”分别表征了计算机领域中的“计算机安全”、“可视化”、“隐私保护”和“信息检索”4个基础研究领域, 可以称之为基础词汇。将范围进一步扩大到TOP30的候选词中, 也仅有“clustering”(聚类)、“wireless sensor networks”(无线传感器网络)、“data mining”(数据挖掘)、“sensor networks”(传感器网络)、“interaction design”(交互设计)、“machine learning”(机器学习)、“ubiquitous computing”(普适计算)、“XML”、“virtual reality”(虚拟现实)、“augmented reality”(增强现实)、“social networks”(社交网络)、“Java”等词汇可以表征计算机领域的基础知识。同样地, 扩展到TOP50样本中, 基础词汇和非基础词汇也是交替出现。因此, 整体来看基于词频的方法虽然能够发现领域中出现频次较高、研究热度较高的词汇, 但这些词汇往往是跨领域的上位词或领域外的不相关词, 对特定领域的研究基础表征能力不足, 单纯依靠词频的方法在领域基础词汇识别研究中并不理想, 尤其是当需要筛选小规模的基础词汇作为研究对象时, 通过词频排名提取基础词汇并不能满足实际需求。

(2) 基于共词分析的方法

采用PageRank算法对关键词共词网络节点重要度进行排名, 按照排名高低得到领域基础词汇候选集, 截取PageRank值排名前50的候选词汇如表3所示。

可以发现, 基于共词分析得到的候选词汇TOP10中识别出了“security”、“privacy”、“information retrieval”、“XML”和“visualization”这5个领域基础词汇, 较词频法多一个。表3的TOP30候选词汇中, “software engineering”(软件工程)、“peer-to-peer”(对等网络)等基础词汇在表2中排在TOP30之后, 而在表2的TOP30中出现的“wireless sensor networks”、“clustering”、“augmented reality”等基础词汇在共词分析结果中排在TOP30之后。在整体TOP50样本中, 两种方法所得到的候选词汇重合比例为78%, 即有39个候选词汇同时归属两种方法, 区别在于部分词汇的位列排序发生变化。因此, 整体来看基于共词网络的PageRank指标排名结果较基于词频的方法略好, 能够通过PageRank值将一些频次不高但比较重要的节点排在靠前的位置。但同时可以发现两种方法所得到的候选词汇出现大量重复, 说明共词网络指标与词频依然线性相关, 所得到的候选词汇对领域研究基础的表征能力仍然有限。

(3) 基于引用共词网络的方法

采用加权和未加权的PageRank算法对关键词引用共词网络节点重要度进行排名, 按照排名高低得到领域基础词汇候选集, 加权和未加权的PageRank值排名前50的候选词汇如表4所示。

可以发现, 基于引用共词网络的加权和未加权的PageRank算法得到的候选词汇TOP10完全相同, 区别仅在于部分词汇的排序不同, 其中“non-photorealistic rendering”(非真实感绘制技术)、“ubiquitous computing”、“sensor networks”、“augmented reality”、“CSCW”(计算机支持协同工作)、“social networks”、“privacy”和“information retrieval”均表征计算机领域的基础研究方向或基础技术, 可以界定为领域基础词汇, TOP10中只有“awareness”(意识)和“children”(儿童)两个词汇不属于领域基础词汇。将范围进一步扩大到TOP30的候选词中, 也只有“design”、“ethnography”(民族志)、“evaluation”、“collaboration”等少数词汇不能作为领域基础词汇。在TOP50样本中, 可以看到候选词汇中基础词汇的比例高于非基础词汇, 而重要的基础词汇排名均比较靠前。因此, 整体来看基于引用共词网络分析的方法要比词频法和共词分析法效果好, 能够发现频次不高但在网络中处于核心节点的一些较为重要的知识单元, 并且排名靠前的词汇大部分均为基础词汇, 说明本文所提引用共词网络分析方法有效可行, 在需要提取小范围基础词汇为研究对象的任务中能够发挥出较大优势。

对比表4中加权和未加权的排名结果, TOP50候选词汇中重复词汇达49个, 只有“human-robot interaction”和“peer-to-peer”分别单独属于未加权和加权的TOP50候选词汇, 且这两个词汇均是领域基础词汇, 由此说明加权和未加权的识别结果整体效果相差不大, 区别仅在于部分基础词汇的排名顺序不一样。

上述分析从定性角度对实验结果进行了探讨, 为进一步对上述方法的实验结果进行量化评估, 本文参考文献[27]设计了一种基于盲选实验的量化评估方法。由于加权和未加权的引用共词网络效果相差不大, 在盲选实验中仅以词频法、共词分析法和未加权的引用共词分析法三种实验结果为对象进行评估。具体评估过程为: 将三种实验得到的领域基础词汇候选集进行混合, 并打乱次序, 得到不重复的87个候选词, 邀请实验者从这些候选词中选出能够表征计算机领域的基础词汇。受邀者为从事计算机领域相关研究且具备多年研究经验的科研人员, 共计三人。

统计每位实验者选择的词汇中, 分别归属三种方法所包含的候选基础词汇的数量和比例。由于候选词集中各种方法提供的候选基础词汇数量相等, 因此可以认为实验者选出的词来自哪个方法更多, 则该方法效果更好。盲选实验结果如表5所示, 方法1至方法3分别对应基于词频的方法、基于共词分析的方法和基于引用共词分析的方法。

可以看出, 通过盲选实验得到的基础词汇中, 与传统词频方法和共词分析方法重合的比例相差不大, 而与引用共词网络方法重合的比例远高于前两者, 其平均准确率达66.71%, 在一定程度上说明引用共词网络方法能更好地拟合专家人工筛选的结果。在实际应用中往往需要筛选的仅是一小部分基础词汇, 因此进一步采用P@N(N=10, 20, 30, 40, 50)指标来观察三种方法在第N个位置上的正确率, 结果如表6所示。

可以看出, 基于引用共词网络的方法在各个位置上的正确率均明显高于词频法和共词分析法在相应位置上的准确度, 平均准确率达72.6%, 其中P@10和P@20指标上分别达到73%和75%, 即前10个候选词中有7个词属于基础词汇, 前20个候选词中有15个词属于基础词汇, 达到较好的识别结果。共词分析法在P@10和P@20指标上稍高于词频法, 而在P@30、P@40和P@50指标上二者相差不大, 说明共词分析法在提取小部分基础词汇的任务中表现优于词频法, 而当返回结果样本数量较大时, 两种方法的差距不是很明显。整体来看, 本文所提基于引用共词网络的方法在识别领域基础词汇时, 能够通过PageRank排名更好地发现重要性高的基础词汇, 避免了依靠词频或共词法所得结果中大量语义过于宽泛的词汇排名靠前的情况, 在发现领域基础词汇任务中具有较好的表现和较高的应用价值。