问句信息基础知识库的构建是问答系统的关键所在。作为问句信息预处理的一部分,本文在建设知识库活动中不仅保留了传统的问句分类方法,还对问句进行基于内容的主题分类。鉴于问答记录的海量特征,通过两步分类法对问句信息进行组织,能够大大减少问句匹配的计算量,提升系统效率。两步分类法的步骤如图2所示:

图2

	Figure Option ViewDownloadNew Window
	图2 问答系统中问句信息的两步分类法图解

研究通过对问句信息的两层划分,以更为精确地反映用户的真实意图。该方法继承了传统的问句分类方法(即结合领域实际,搜集、加工、整理问句类型的聚集状态,然后再明确所需的问句类型),并引入文本分类理论,即首先考察问句的内容特征并依托问句主题实现问句的预分类,然后结合传统的问句分类方法以便于精确定位问句类型,继而辅助问答系统的改进与优化。

(1)问句主题划分

问句主题划分指的是依据问答记录中问句所表达的主题进行的主题分类,如“请问是否可以复印博士研究生试卷?”这一问句,所反映的主题是“考研信息”。因而,问句主题的划分需要对现有问答记录的内容有所了解。

海量的问答记录已经蕴含了一定的主题信息特征,且是服务提供方人为预先设定好的主题。然而上述主题信息略欠规范且难以直接使用,需要进一步寻找每个主题所对应的关键词序列以形成主题对照表,同时还要考虑增加、删除或合并原有的主题。由此可见,问句主题划分活动要求知识库建设者事先对海量的问句信息所反映的主题特征有较为清晰的认识。以华东师范大学图书馆的参考咨询问答记录为例,本文在原有主题的基础上依据问句的内容特征进行了主题重构,如图3所示:

图3

	Figure Option ViewDownloadNew Window
	图3 问句主题划分后的知识形态

(2)问句类别划分

问句类别按照问题本身所倾向于表达的事实可以划分为7种类型:询问人(谁建立了西汉王朝?)、询问时间(西汉王朝建立于公元前多少年?)、询问数量(华东师范大学闵行校区有几个教学楼?)、询问定义(什么是FAQ?)、询问地点和位置(华东师范大学位于上海市的哪个区?)、询问状态(服用西洋参有什么需要注意的?)和询问原因(雪花的成因有哪些?)。因此,本文将问句的类别划分为数量型、定义型、时间型、状态型、原因型、地点(位置)型、人物型和其他等8种类型。

针对不同的问句类别需要事先构造出与它直接相关的关键词序列予以表达,然后把得到的关键词序列逐问句进行扫描、匹配分类,以判断问句所属的类别。比如“为什么杀毒软件会把工具条当作恶意插件?”这一问句,因包含了表示原因的“为什么”关键词,而把它划分到了原因型类别下。部分问句类别所对应的常见关键词序列如图4所示:

图4

	Figure Option ViewDownloadNew Window
	图4 问句类别对应的关键词序列示例

知识库建设之初,需要把已知识化的问答记录统一标识为┐eFAQ,然后结合终端用户提交的问句与问答知识之间的匹配情况进行分析,以识别那些高频访问的问答知识(如在一天内访问次数不小于20次的问答知识),继而转化为eFAQ。具体识别流程如下:

(1)把已知识化的问答记录统一标识为┐eFAQ;设时间单位为T。

(2)载入一条用户提问信息,扫描eFAQ寻求答案。未找到,跳至步骤(4);找到,跳至步骤(3)。

(3)返回结果,更新指定问答记录的匹配情况(记录每次被访的时间)。同时把本次用户提问信息记录入库,结束本次问答行为。

(4)扫描┐eFAQ寻求答案。未找到,跳至步骤(5);找到,跳至步骤(3)。

(5)把本次用户提问信息推送至异常处理模块,跳至步骤(3)。

(6)T时刻后,扫描┐eFAQ并针对问答记录与用户提问的匹配情况,做时间序列分析。

(7)汇总与转化。(注:满足T时刻内被访次数不小于n(n为阈值)的问答记录,即为eFAQ。)

(8)T时刻内eFAQ识别结束,进入下一时刻eFAQ识别。

基于eFAQ库的问答系统,系统性能会有一次明显跳跃。这主要缘于系统建设初期,问答系统往往需要全量扫描┐eFAQ,以标识相关问答记录的使用率和响应用户提问,而随着系统使用,eFAQ知识库逐渐覆盖那些能够引起大部分(约占80%)用户提问的问题及其答案的信息集合,使得全量扫描┐eFAQ的机率大为减少,继而提升系统性能。

需要说明的是,为了保证eFAQ知识库中的问答知识始终处于频繁使用状态,还需周期性统计该库中各个问答知识的使用状态,并清除那些较少使用的问答知识,相关操作类似于eFAQ信息的识别,唯一不同的是所做的操作为“删除”操作。具体过程在此不做阐述。

(1)问句解析与分类

问句的解析与分类是问答系统感知用户需求的第一步,也是问答系统能否正确解答用户疑惑的关键所在。鉴于本文是把问句及其对应的答案按问句的主题和属性一一映射到问答知识库中,问句的解析与分类活动就变得尤为重要,它直接决定了问答系统的准确率和效率。本文采用基于问句主题与类别相结合的两步分类法以实现问句的解析与分类,具体流程如图5所示。

图5

	Figure Option ViewDownloadNew Window
	图5 问句解析与分类流程

问句提交后,系统首先对问句进行解析,这主要包括利用各种词典对问句分词、过滤语气词、查询扩展等操作;系统利用提取的关键词并结合主题对照表(见图3)进行问句主题的匹配;利用类别对照表(见图4)对问句进行关键词扫描匹配,从而得到特定问句主题、类别下的相关问答集合。

比如问句“WLAN出现问题,该如何解决?”在问答系统中首先经问句解析后形成一系列词语碎片 “WLAN”、“Wireless”、“WiFi”、“无线网”、“问题”、“如何”、“解决”,并参照主题对照表进行主题关键词匹配(因“WLAN”与“无线网”属于同义词)得到该问句属于网络相关主题,参照类别对照表进行类别关键词匹配(因问句中包含关键词“如何”)得到该问句属于状态类别,最终确定当前问句的答案存放在网络相关主题且属于状态类别的问答集合中。

(2)相似度计算

①主题相似性判定

主题相似性判断主要考察用户所提交的问句与知识库中的哪个问句主题最为接近,继而将当前问句的主题归为最相似的主题。知识库中的每一个问句主题都有一个唯一的主题关键词序列。主题相似性判定主要依次统计当前问句所包含的关键词在每一主题关键词序列中出现次数总和,并按由大到小的顺序排列,取最大值所对应的主题即为当前问句的主题。当出现最大值不止一个时,则将问句匹配到多个主题。

主题划分主要是出于效率的考虑,目标在于快速定位而不是精确计算相似度。

②问句相似性判定

作为信息检索领域中经典的检索模型,向量空间模型(Vector Space Model,VSM)是近年来使用较多且效果较好的一种信息检索模型。然而相关研究表明,该模型存在着向量空间中各词彼此独立、词的顺序被忽略、一词多义和一义多词问题被忽略及缺乏理论基础等诸多缺陷,不适应于词语间彼此依赖、按需组合等现状。Zhou^{[ 11]}认为两个系统的相似应表现为构成系统的各要素间相似状态,且系统相似度取值的主要因素包括各自组成要素的个数、系统与各级子系统的要素构成、要素的权重、相似元及其相似度等。

研究中所涉及用户提交的问句可以看作一个系统,它是由一个个词或词素组成的。本文把这些词或词素看作是构成系统的要素,通过构建两两问句之间的词或词素相似元,以寻找它们之间的相关关系。通过这种方式,得到当前问句与知识库中相同主题和问句类型下历史问句的相似度序列,然后取出最大值,以判定与预设相似阈值的大小,并以此来明确当前用户所提问的问题是否能在知识库中寻找到答案,继而做出响应。其中,有关两两问句相似度的计算方法为:给定问句A={a₁,a₂,…,a_m},|A|=m和问句B={b₁,b₂,…,b_n}, =n,其中a_i(1≤i≤m)和b_j(1≤j≤n)为系统要素,其权重分别用x_i 和y_j表示。假设系统之间相似元个数为p(p≤min ),记为s₁,s₂,…,s_p∈A×B。不妨设它们分别为1,b₁>、2,b₂>、…p,b_p>,其相似度分别为u_i(1≤i≤p),那么问句A、B的相似度Q 表示为:

Q(A,B) =

(1)问句主题的自动更新

随着时间的推移,那些聚集在“其他”问句主题下的用户提问会呈爆炸式的增长,但采用文本分类的方法因其主题的预设特性而难以适应不断变化的用户提问特征。因而对问句主题的科学、动态划分成为关键。

本文在构建突发事件识别模型活动中,发现可以利用表征突发事件的系列词语的语言学特性及它们之间距离远近的客观分布状态来加以识别^{[ 12]},即把一个个彼此独立的能够描述事件的词语依次导入时段内的新闻报道中,统计它们出现的先后位置信息,继而寻找它们之间是否存在着依赖关系及其相对稳定的近邻现象,并根据这种近邻现象实现新词语检测和发现新事件。本研究同样采用词间距思想,定期扫描被划分到“其他”问句主题下的用户提问,以捕获新的问句信息主题及其关键词序列,完成问句主题的自我更新与完善。具体实现参见文献[12]。

(2)答案优化

通过问答知识库以预设问句答案的形式支撑问答系统,能够快速、实时地推送答案,但就问句对应的答案而言,仅依赖于先前用户的认知不一定完全符合当前用户所需。因而,设定科学、合理的答案优化模式是十分必要的。

①悬而未解问题的答案抽取

知识库在运行初期,问答知识的数量通常是十分有限的。不过作为开放环境下中文知识社区中的典型代表,百度知道(百科)、新浪爱问、雅虎知识堂、互动百科等网络平台为解决此类问题提供了可能。如段利国等^{[ 13]}就通过抓取百度知道平台的问答构建了一个问答系统。研究主要针对问句信息基础知识库中没有相关知识的问句,通过识别其属性进行判断,即有关定义型问题通过从网络中抓取相关解释返回答案,其他类型的问题则提交给领域专家解答。

②已解决的问题的答案修正与评级

对于那些已经存在于问答知识库中的问答知识,主要通过设立用户评级的机制进行质量控制。知识的评级与反馈活动对于知识库的进一步完善十分重要,应在不影响用户体验的前提下,引导用户对当前问题解答的效果做出合理评级。

本文共提供了5个等级(十分符合、比较符合、一般、比较差、十分差)用于答案的评价,并根据用户的反馈,专家将对相关答案进行修正。修正的优先级往往根据用户对答案的评级来制定。比如用户对某问题的答案评级为十分差,问答系统则会将该问题标识为紧急,以要求迅速解决;反之,用户对某问题的答案评级为十分符合,问答系统则会将该问题标识为低。

参考该馆提供的常见问题分类体系,首先对CALIS虚拟参考咨询系统中沉淀下来的35条问答记录做汇总整理,即剔除答案的口语化表述、多条答案合并处理等,如图6所示:

图6

	Figure Option ViewDownloadNew Window
	图6 问答记录形成问答知识过程中的剔除口语化示例

图6中答案具有一定的口语化且回答欠妥当,结合图书馆实际,图书的馆藏状态为“在架上”是不允许预约的,该读者所反映的图书状态是不能预约的。就此次问答活动而言,它表征了这样一个现象,即读者对预约的规则、流程等不熟悉。因而,可以形成这样一条问答知识:问题是“如何预约?”,答案是“在图书明细页面的上方都会存在一个预约按钮,而在预约之前,请先确认该图书的馆藏状态。结合本馆实际,馆藏状态显示为在架上的图书,是不允许预约的”。然后,在梳理虚拟参考咨询系统中的问答记录过程中,对原有的问题主题做了修正,即参考咨询服务、图书馆规章制度、外文数据库使用、学位论文、流通阅览服务、电子资源使用、网络相关、考研、试用资源、馆藏目录使用、馆际互借(文献传递) 和其他等12个大类。本文把这样的分类条目称为“主题”,并依托原始问题本身的文本特征,人工依次抽取出每个主题所对应的系列关键词以表征这一主题。最后,把上述整理的125条问答知识和从CALIS虚拟参考咨询系统中整理的35条问答知识统一入库,作为问答知识库的基础信息。

假设现有一个用户向问答系统询问了两个问句,即“无线网出现问题,该如何解决?”和“如何预约?”。下面主要通过图示的方法,依次描述问答系统的响应现状。

图7

	Figure Option ViewDownloadNew Window
	图7 问答系统的回答可视化界面及其

答案评级反馈示例

图7从用户视角展示了用户提问后,系统能够依据知识库中的问答知识状态,通过相似判定等直接给出简洁、精确的答案。此外,用户还可以对当前系统给出的答案进行效果反馈,如用户对“如何预约?”的问答不满,且将答案效果评定为“十分差”。

图8

	Figure Option ViewDownloadNew Window
	图8 问答系统的答案信息修正窗口示例

图8从问答管理维度实时呈现了上述用户反馈,即把该问题的解答优先级标识为紧急,此时需要领域专家根据其所掌握的领域知识在左侧答案窗口中进行修正,然后点击“修改当前答案”即可完成对该条知识的修正。

鉴于本文利用问答记录通过事先预设答案的方式来设计问答系统,笔者从eFAQ知识库和问句信息基础知识库中分别随机取出5个问题,通过模拟用户提问的方式获取问答系统的响应时间与反馈的答案,在观察问答系统表现情况的基础上,验证模型设计的合理性。其中,为了系统观察两步分类法的实际效果,在其他条件(知识库的数据规模、相似性判定方法、问句等)不变的情况下,分别统计了问答知识在单一分类体系下(要么按问句主题分类要么按问句类别分类)的回答响应时间,如表1所示。

从表1中可以看出,问句间的相似性判定比较理想,但这只反映了知识库中问答知识的存储状态与当前问句经解析与分析后的状态是一致的。从总体上讲,本文提出的两步分类法在平均响应时间上比按问句主题分类快了1.643秒,比按问句类别分类快了

表1

表1

表1 问答系统中的回答效果及响应时间一览表 问答 知识 库类 型 编 号 问题内容 回答 是否 符合 预期 回答响应时间(毫秒) 仅问句 主题 仅问句 类别 两步分 类法 eFAQ 1 在线学习中心包括哪些内容? 是 765 2 218 422 2 委托馆际借书的周期需多长? 是 1 108 672 468 3 现有电子资源涵盖哪些学科? 是 847 2 078 688 4 复印研究生试卷有答案吗? 是 844 610 422 5 网上报告厅提供了什么内容? 是 1 078 0 594 140 局部平均值 约928 约1 234 428 ┐eFAQ 6 怎么预约? 是 2 391 8 000 1 047 7 图书要到期时能有提醒么? 是 2 484 5 031 797 8 图书超期的处罚规定如何? 是 703 8 234 594 9 为何我的校园卡不能借图书? 是 5 468 2 218 422 10 图书馆5楼研讨室开放时间? 是 6 234 1 372 485 局部平均值 3 456 4 971 669 总体平均值 约2 192 约3 103 约549

表1 问答系统中的回答效果及响应时间一览表

2.634秒,同时按问句主题分类因深入问题内部而更为精确和多样,这导致每个问句主题下所聚集的问答知识较为平均,从而使得它在总体响应时间上优于按问句类别的分类体系;从局部来看,eFAQ知识库内问答知识的平均响应时间比问句信息基础知识库内问答知识快了6秒多,且这种差异现象在单一分类体系下更为显著,而问句信息两步分类法则较为均衡且平均响应时间最短,这说明问句信息两步分类法能够促使问答知识的均衡分布,且eFAQ信息的合理组织有助于改善问答系统。尤其是在大数据环境下,对数据的合理拆分与组织是十分重要的。