词语相似度是反映两个词语之间的相似紧密程度或可替换程度^{[ 18]}。在不同应用领域,词语相似度有不同的实际意义。在信息检索领域,词语相似度一般是反映文本与用户查询在意义上的符合程度^{[ 18]}。

词语相似度计算研究的是用什么样的方法来计算或比较两个词语之间的相似性或相似程度^{[ 19]},一般可分为字面相似度计算和语义相似度计算。字面相似度计算是建立在词项本身的基础上,以词形为切入点,将被比较对象看作是字符序列,两个字符串间相同的字符越多,相似度值就越大,从而对象间的相似程度就越大^{[ 20]}。语义相似度则还考虑被比较对象的语义层面信息^{[ 7, 8, 10, 13]}。

自由词与主题词之间的对应关系是表达同一概念的自然语言词与人工语言词之间的关系,从信息检索角度来看,两者是一种等同关系,只是在自然语言中,一个概念可以用多个词(或词组)来表达;而在一种人工语言中,一个概念却只能用一个词(或词组)来表达^{[ 1]}。因此,在实现自由词向后控词表主题词或叙词的映射过程,仅考虑自由词与主题词本身的字面相似度远不够,应综合考虑如主题词的语境,采用语义相似度计算方法。

对于一部具有语义关系的后控词表而言,一个主题词或叙词的语境信息一般包括:释义和所有表征其所在语义关系系统的属性。在CMeSH中,能够揭示CMeSH主题词既能表征其所在语义关系系统,又能参与相似度而非相关度计算的属性项主要有:

(1)树状结构编码(Tree Number):CMeSH中的树状结构编码能够揭示主题词所属学科分类树、在学科分类树中的位置(深度)、与其他主题词的上下位关系。

(2)入口词(Entry Term):是主题词的同义词、近义词、缩写、不同的拼写形式及其他用代形式。在CMeSH中,一个主题词可以对应多个入口词,但一个入口词只能对应一个主题词。

(3)注释(Scope Note):是对主题词所揭示的概念范畴的描述。

本文拟采用的文献自由词到CMeSH主题词语义相似度计算模型的计算公式如下:

Simsemantic(A,b)=Max｛(Sim(A,b)),Max (Sim(Aj,b))｝ (1)

A表示CMeSH中的主题词,Aj表示主题词A对应的入口词,b表示自由词。Sim(A,b)表示主题词A本身和自由词b的字面相似度,Sim(Aj,b)表示主题词A的入口词与b的字面相似度,Max (Sim(Aj,b))表示从A的所有入口词与b的相似度中,取最大相似度值。

关于字面相似度的选择,拟采用Dice系数法(如公式(2)所示)^{[ 21]}或Jaccard系数法(如公式(3)所示)^{[ 21]}:

其中,表示源字符串向量S和目标字符串T中包含的相同非零项的个数,表示向量S中非零项数,表示向量T中非零项的个数。

Dice系数法把相似度值限定在0-1之间,提高了相似度值的精确率,但其在针对具有较少相同词项的匹配问题时,就显得不足,Jaccard系数法填补了这一缺陷。但由于生物医学领域内自由词字长特点,具体选择哪种算法需根据实验结果决定。

(1)选择合适的基础相似度算法模型,即比较Dice系数法和Jaccard系数法在本研究中的适用性。

(2)确定最佳相似度阈值,即在怎样的阈值范围内能够获得较好的结果。

(3)区分不同“最佳”目标主题词获取方案的效果。

为保证实验数据与应用场景的一致性,所有自由词均来自中文生物医学数据库CBM中收录的期刊文献,年代跨度为1994年-2008年,共954 000条。CMeSH采用的是2008版本。

本研究实验方案和主要实现步骤如图4所示:

图4

	Figure Option ViewDownloadNew Window
	图4 基于CMeSH的领域自由词-主题词语义自动映射实验方案

其中数据预处理主要包括两个步骤:对CMeSH中的后置式主题词进行倒置。如“曲菌球, 肺”倒置为“肺曲菌球”;剔除数学运算符(+、-、*、/、%、= 等)、标点符号、连字符(—、-、_)、键盘上已有特殊符号(@ # ￥…&等)、粗点号等,使之不计入字长计算和相似度计算。

经过初步过滤,将初始阈值设为大于0.6,并随机从疾病类和微生物类中分别抽取0.05%的数据进行分析与评估,获得疾病类自由词418条,微生物类自由词980条。然后重点对相似度值大于等于0.7的不同阈值范围进行了评估。

采用的评估方法是邀请专门从事标引工作人员和信息检索人员进行审核,引入了准确率(Precision)评估指标。采用第一种和第二种“最佳”目标主题词获取方案的分析结果分别如表1和表2所示:

表1

表1

表1 方案一下不同算法模型效果分析 阈值范围 主题类 基础算法 Dice Jaccard sim=1 b:微生物类 1.000 0 0.009 6 c:疾病类 0.994 8 0.929 1 0.9≤sim b:微生物类 0.929 1 0.962 6 c:疾病类 0.950 8 0.924 0 0.85≤sim b:微生物类 0.937 2 0.920 0 c:疾病类 0.971 8 0.887 9 0.8<sim b:微生物类 0.929 4 0.900 7 c:疾病类 0.947 2 0.851 0 0.8≤sim b:微生物类 0.882 5 0.872 0 c:疾病类 0.877 6 0.800 7 0.75≤sim b:微生物类 0.872 9 0.829 6 c:疾病类 0.830 2 0.763 8 0.7≤sim b:微生物类 0.877 7 0.832 7 c:疾病类 0.821 2 0.757 8

表1 方案一下不同算法模型效果分析

表2

表2

表2 方案二下不同算法模型效果分析 阈值范围 主题类 基础算法 Dice Jaccard sim=1 b:微生物类 1.000 0 0.971 0 c:疾病类 1.000 0 1.000 0 0.9≤sim b:微生物类 0.983 5 0.971 4 c:疾病类 0.973 5 0.960 4 0.85≤sim b:微生物类 0.976 1 0.977 5 c:疾病类 0.956 0 0.956 4 0.8<sim b:微生物类 0.946 6 0.942 3 c:疾病类 0.951 6 0.932 7 0.8≤sim b:微生物类 0.902 7 0.933 9 c:疾病类 0.912 7 0.903 9 0.75≤sim b:微生物类 0.792 7 0.873 6 c:疾病类 0.784 1 0.845 3 0.7≤sim b:微生物类 0.792 7 0.865 2 c:疾病类 0.784 1 0.820 1

表2 方案二下不同算法模型效果分析

(1)不同基础相似度算法模型适用性分析

就准确率而言,从表1看,在相同阈值情况下,无论是疾病类和微生物类,Dice系数法返回结果的准确率优于Jaccard系数的准确率。从表2看,当阈值取大于0.8时,Dice系数法返回结果的准确率优于Jaccard系数;当阈值取大于等于0.8时,疾病类Dice系数法返回结果的准确率优于Jaccard系数;当阈值取小于0.8时,则相反。

(2)最佳阈值分析

从表1和表2均可以看出,在相同算法模型和方案下,不同领域的映射效果对相同阈值反应不同,以Dice基础算法模型为例,如表3所示,在第一种“最佳”目标词选择方案下,其在微生物类下阈值设为大于等于0.7的表现效果还微优于疾病类下阈值设为大于等于0.8时的表现,但总体来看相似度阈值选择大于等于0.8时,表现效果均还较佳,可接受。

表3

表3

表3 不同领域内效果对比分析(以Dice为例) 阈值范围 主题类 基础算法 方案一 方案二 sim=1 b:微生物类 1.000 0 1.000 0 c:疾病类 0.994 8 1.000 0 0.9≤sim b:微生物类 0.929 1 0.983 5 c:疾病类 0.950 8 0.973 5 0.85≤sim b:微生物类 0.937 2 0.976 1 c:疾病类 0.971 8 0.956 0 0.8<sim b:微生物类 0.929 4 0.946 6 c:疾病类 0.947 2 0.951 6 0.8≤sim b:微生物类 0.882 5 0.902 7 c:疾病类 0.877 6 0.912 7 0.75≤sim b:微生物类 0.872 9 0.792 7 c:疾病类 0.830 2 0.784 1 0.7≤sim b:微生物类 0.877 7 0.792 7 c:疾病类 0.821 2 0.784 1

表3 不同领域内效果对比分析(以Dice为例)

综合表1和表2来看,第二种方案的效果明显稍优于第一种方案,即当有多个目标主题词时,“考虑主题词的层级关系”方案的效果稍优于“直接取字长最长的主题词作为目标主题词”。

如上分析结果所示,从准确率看,本研究提出的领域自由词到主题词语义自动映射技术路线是可行的,但在具体方案的选择上建议:

(1)关于基础相似度算法模型的选择,建议选择Dice系数法。

(2)关于最佳相似度阈值,在应用中,建议在初始阈值设为0.8时,可根据具体领域的表现效果和人工干涉量的要求进行调整。

(3)关于 “最佳”目标主题词获取方案的效果,如仅考虑准确率和能够映射到主题词的自由词数量,“考虑主题词的层级关系”方案的效果稍优于“直接取字长最长的主题词作为目标主题词”。但如结合时间消耗的考虑,则建议选择第一种方案。