本文采用基于规则的方法抽取科技文献创新点候选集, 抽取方法主要包括三个部分: 规则的构建、基于规则的抽取以及规则的组合与优化。在构建规则时, 利用创新点句子的语言特征以及领域主题词表初步制定规则; 在此基础上, 通过补充引导词和针对特定抽取对象制定补充规则两种方法, 对基础规则进行补充和调整; 最后, 将基础规则和不同补充规则结合使用, 并通过实验验证抽取效果, 选取最佳规则组合。

抽取时将标注后语句中的标注符号分离出来, 形成以空格相隔的标注符号序列(如例句中标注序列为: TW TW TW TW TW TW NN TW TW VB), 规则构建的重点是将主题词表引入规则构建的过程中, 领域主题词可以揭示该领域的研究重点, 使抽取结果与领域研究主题密切相关, 提高抽取结果的准确度; 此外, 构建规则时综合考虑不同类别线索词出现的频率、位置以及不同线索词之间的组合关系, 并对某些规则设定优先匹配; 基于领域词表的抽取规则并未过多涉及复杂的句法关系, 因此可以避免一些规则的交叉和矛盾, 简化规则制定过程; 最后, 采用正则表达式书写如下:

(TW ){1,}((VB )|(NN ))(TW ){0,1}(([A-Z]{2} ){0,})(TW ){0,} ((RF)|(TP)|(AD)|(OB))(TW ){0,}

采用基本规则对整个文档集中的标注语句进行匹配, 初步得到创新点候选集。仅使用基础规则会造成有价值创新点的遗漏, 笔者从多个角度对规则进行补充和调整。其主要思路包括以下两点: 通过分析文献, 扩充引导词, 达到对规则进行优化的效果; 从不同角度对原始句子集进行过滤, 将过滤后的句子作为抽取对象, 制定新的抽取规则进行抽取。利用过滤句子的思路对规则进行优化主要包括以下三个方面:

(1) 利用结构式摘要的体裁特征

结构式摘要的提出和使用源于医学领域期刊^{[ 25]}, 与传统摘要相比, 结构式摘要通常将论文的主要部分(背景、目的、方法、结果、结论等)精要、清晰地罗列出来, 为读者提供关于论文内容具体、直观的概述。通过结构式摘要可以准确定位论文中描述方法、材料和实验部分, 而这些部分通常可以体现作者研究中所采用的创新方法和实验步骤。进行规则扩展时, 以结构式摘要中方法、材料和实验(Method、Material、Experimental Design)部分作为抽取对象, 抽取基础规则未发现的创新点句子, 补充规则如下:

((TW )(([A-Z]{2} ){0,})((VB)|(NN)))

(2) 利用新词特征

句子中出现新词的个数(New Word Count)可以作为衡量该句子新颖性的指标之一, 该指标在TREC 2002新颖探测任务中具有良好的鲁棒性^{[ 26]}, 尽管新词不能完全代表创新性, 但新词很可能揭示论文作者所采用的新材料、提出的新概念、新指标以及做出的新发现等。处理方法为: 对句子进行词性标注, 提取每个句子中的名词; 以年为间隔, 将当前句子出现年份之前所有句子作为历史集, 探测当前句子中出现的新词; 将所有包含新词的句子作为抽取对象, 采用补充规则进行抽取。

(3) 利用标题-主题词特征

论文标题是对整篇论文研究工作的高度概括, 论文标题中包含的词或术语可以揭示研究主题, 而论文中的创新点通常与论文主题相关。因此, 笔者利用领域词表以及关键词词表对论文标题及句子进行处理, 旨在获取与主题相关的语句作为抽取对象。

判断文本流中信息的新颖性时, 可以从信息的冗余度入手, 如果文本的冗余度越小则新颖度越高。常用的句子冗余度计算方法包括: 基于几何距离计算(余弦距离、Manhattan距离等)^{[ 26, 27]}, 词差集计算(Set Difference)^{[ 26, 28]}以及词重叠度计算(Overlap)^{[ 29]}等。为保证候选创新点的有效性(新颖性), 本文通过计算创新点之间的冗余度对候选创新点进行过滤, 该计算方法将句子视为词的集合, 两个句子共同包含的词数越多, 则两个句子之间信息冗余的可能性越高。仅利用分词词元计算冗余度没有考虑到不同词对句子的贡献不同, 在此基础上引入基于主题词表的冗余度计算, 避免错误过滤表述相似但包含不同重要信息的句子。以Zhang等^{[ 29]}提出的词重叠度计算方法为基础, 分别计算句子间的词元重叠度和主题词重叠度, 公式如下:

(1)

其中, A_i为历史集中句子的词元/主题词向量, B为当前句子的词元/主题词向量。

首先以分词词元为匹配单位, 采用公式(1)的计算方法, 将当前句与历史句(出现时间先于当前句的句子)共同包含词元的个数与当前句包含词元个数的比值作为重叠度, 选取重叠度的最大值作为当前句的冗余度, 将冗余度超过阈值的当前句视为候选冗余句子, 阈值可通过实验得到或依据经验设定。

其次, 计算得到候选冗余句子对的主题词冗余度, 利用领域词表标注句子中的主题词, 采取公式(1)计算二者之间的主题词冗余度, 将主题词重叠度超过阈值的创新点句子加入冗余句子集, 最后将冗余句子统一从候选集中删除, 得到最终的创新点句子集。

实验数据来源于Web of Knowledge中20种肿瘤领域期刊的文章摘要, 将实验数据存入MySQL数据库中, 使用LingPipe自然语言处理软件包^{[ 30]}进行分句处理, 采用Stanford自然语言处理工具^{[ 31]}进行分词和词性标注。编写Java程序对文档集进行标注, 标注过程中引入关键词词表以及领域术语词表NCIt(National Cancer Institute thesaurus)^{[ 32]}。NCIt由美国国立癌症研究所(NCI)编制, 可以提供肿瘤领域相关主题词的上位词、下位词以及同义词。

选取NCIt中“Childhood Neoplasm”及其所有下位词作为检索词, 对数据集进行检索, 选取前100篇论文摘要进行手工标注, 得到创新点句子281个。采用信息检索中的准确率与召回率对抽取结果进行测评, 利用剩余创新点句子优化、调整规则以及作为冗余创新点过滤时的历史句子集。

论文创新点的抽取实验主要分为两个部分: 基于规则的方法识别摘要中的创新点句子, 以及基于重叠度计算的方法去除创新点候选集中的冗余。

(1) 候选创新点识别

该部分实验重点在于通过对比不同规则优化组合策略的抽取结果, 选择最佳组合抽取策略。首先对单独使用基础规则以及三种补充规则策略的实验效果进行测评, 并通过对抽取结果的抽样分析对3.1节中引导词进行补充, 进而完善标注集的标注效果, 得到基本规则和各种优化策略的抽取结果如表2所示:

表2

表2

表2 规则单独使用时实验结果 规则策略 候选集 最终结果集 准确率 召回率 F值 准确率 召回率 F值 基本规则 80.00% 46.98% 59.19% 90.54% 47.69% 62.47% 基于结构式 摘要补充规则 77.78% 14.95% 25.07% 87.50% 14.95% 25.53% 基于新词 补充规则 51.79% 10.32% 17.21% 55.56% 10.68% 17.91% 基于标题-主 题词补充规则 53.60% 47.33% 50.28% 56.54% 47.69% 51.74%

表2 规则单独使用时实验结果

表2结果表明, 补充规则中基于结构式摘要优化的规则准确率较高, 与基础规则并无较大差异, 而召回率很低, 其原因为具有结构式摘要的论文数量仅占全部论文数量的30%, 因此会造成召回率的损失; 而基于新词和基于标题-主题词补充规则的准确率在50%左右, 抽取结果中非创新点句子含量过高, 抽取效果不理想, 其原因可能为: 医学论文标题通常与主题句相似, 揭示论文的主题或立意^{[ 33]}, 但不等同于揭示论文创新点的特征词。

针对单独使用一种规则策略的不足, 本文通过实验测评不同类型规则组合后的抽取效果, 如表3所示。表3结果显示, 对比单独使用基本规则, 将基本规则与补充规则组合使用时召回率都有不同幅度的提升, 表明文中三种优化策略对原始抽取结果具有一定改善效果。其中, 基本规则和结构式摘要补充规则的组合使用获得的准确率和召回率都较高, 抽取效果最好, 说明借助结构式摘要的特征抽取创新点具有可行性; 加入标题-主题词补充规则的组合策略获取的召回率较高, 这是由于摘要语言精简, 并且一般都围绕论文主题展开, 所以在摘要句子中主题词覆盖范围广, 因此采用相同的补充规则抽取会造成准确率的下降; 基于新词补充规则与基本规则的组合策略对召回率的改善结果不够理想, 同时降低抽取结果的准确率, 应考虑和其他策略综合使用。考虑到新词优化与标题-主题词优化方法分开使用的综合效果相近(F值接近), 但在准确率和召回率各有侧重, 因此考虑将二者的结果取交集, 再与其他策略取并集使用, 即将同时满足新词规则和标题-主题词规则的抽取结果, 加入满足基本规则和结构式摘要规则的结果之中(见表3最后一行)。

表3

表3

表3 组合规则策略抽取结果 组合规则 策略 候选集 最终结果集 准确率 召回率 F值 准确率 召回率 F值 基本规则+ 结构式摘 要优化 80.29% 59.43% 68.30% 89.42% 60.14% 71.91% 基本规则+ 新词优化 71.78% 51.60% 60.04% 79.46% 52.31% 63.09% 基本规则+ 标题-主题 词优化 56.69% 63.34% 59.83% 61.02% 64.06% 62.50% 基本规则+ 结构式摘要 优化+(新词 优化∩标题- 主题词优化) 74.89% 61.56% 67.57% 82.55% 62.28% 70.99%

表3 组合规则策略抽取结果

(2) 冗余创新点过滤

采用3.3节所述的冗余度计算方法去除重复的创新点。以整个文档集为实验对象, 选取5年为区分当前文本与历史文本的时间间隔, 设定第一次冗余度过滤的阈值为0.6, 对超过阈值的创新点句子进行二次过滤, 设定阈值为0.6。通过对比表2与表3中候选集与最终结果集对应指标可以发现: 经过冗余去除后的准确率、召回率以及F值都有所提升。通过对比当前句子与历史句子的词重叠度以及主题词重叠度, 可以有效地去除候选集中冗余的创新点, 进一步优化抽取结果。