图1 基于多特征融合的同名专家消歧方法整体框架
Fig. 1 Overall framework of expert disambiguation based on multi-feature fusion
摘要 针对专家库构建过程中出现的同名歧义现象, 提出一种基于多特征融合的同名专家消歧方法。从中国知网(CNKI)数据源中获取专家的论文信息, 抽取论文的标题、摘要、关键词、作者单位和合作者等关键信息, 并将其作为属性特征, 构建特征表示模型, 进而定义同名专家之间的相似度计算函数。根据计算得到的相似度, 将同名消歧问题转化为聚类问题。利用近邻传播聚类算法进行聚类, 解决同名消歧问题。在采集的专家论文数据上的实验表明, 基于多特征融合的同名专家消歧方法的准确率可达 92%, 取得良好的消歧效果。
关键词 多特征融合; 同名消歧; 专家库; 聚类算法; 数据采集
近年来, 随着国家对科研投入的力度越来越大,各类科研项目的申请数量也越来越大, 使得遴选项目评审专家的难度加大, 因此对项目评审专家库的需求也愈加强烈。在构建一个全面而准确的专家库过程中, 极大的可能存在不同文本中含有相同专家姓名的现象, 即跨文本同名歧义现象。如果对跨文本同名歧义现象不做处理, 就无法对同一专家实体的信息进行融合, 势必对最终的专家推荐结果的科学性与准确性造成极大的影响。
同名消歧问题旨在将记载同名专家的多个文档进行区分, 将拥有相同姓名的文档映射到现实世界中的专家实体, 用以消除相同姓名造成的歧义。同名消歧问题的形式化定义如下: 给定一个待消歧文档集合 D={d1,d2,…,dn}, 每篇文档 di(1≤i≤n)都与同一个姓名 N 相关, 并且具有一系列的属性(专家姓名、工作单位、研究方向、摘要和关键词等), 姓名 N 由现实世界中的 k (k 值不确定)个人物实体集合 E={e1, e2, …, ek}共享, 同名消歧的任务就是要建立文档簇集合 C={ce1, ce2, …, cek}, 其中 cei ={di1, di2, …, dix}(1≤x≤n), 是描述人物实体 ej (1≤j≤k)的文档集合, dix 是待消歧文档集合 D 中的一个文档元素。因此, 经过同名消歧后的文档就与对应的人物实体划分到一起, 完成同名消歧任务。
随着自然语言处理应用的日益广泛, 同名消歧的研究也受到越来越多的关注。针对同名消歧问题的学术会议主要有数字图书馆国际会议(Joint Con-ference on Digital Libraries, JCDL)[1]、web人名搜索会议(Web People Search, WePS)[2]和中文处理国际会议(Joint Conference on Chinese Language Pro-cessing, CLP)[3]。JCDL 针对数字参考文献检索系统中的作者同名问题进行研究。WePS 设立针对英文人名消歧的评测任务, 从互联网网页上获取含待消歧人名的文档集合, 然后将具有相同指称的名字聚集在一起, 完成同名消歧任务。CLP 提供一个关于实体名的知识库, 对于人物姓名, 先判定其在知识库中是否有定义以及是知识库中的哪一条定义, 对于不属于知识库中定义的名字进行聚类, 有相同指称的名字聚为一类。
目前用于解决同名消歧的方法主要有 3 种: 基于向量空间模型(vector space model, VSM)的聚类消歧方法、基于社会网络的聚类消歧方法和基于实体链接的聚类消歧方法。
基于向量空间模型的聚类消歧方法首先选择并优化一些人名的属性特征, 如工作单位、研究方向和邮箱等, 然后用这些属性特征构建人物表征模型, 最后定义一个相似度函数来刻画同名人物之间的相似程度。Bagga [4]提出一种跨文档的人名消歧方法, 首先对文档进行指代消解分析, 然后基于VSM 模型计算文档摘要之间的相似度, 最后将同一人物实体的文档聚类在一起。辛涛等[5]提出一种基于组合特征的 web 人名消歧方法, 首先提取与待消歧人名相关的不同特征集, 然后基于 VSM 构造人物特征实体的组合, 最后利用层次聚类算法对相似度高的文档优先进行聚类。
基于社会网络的聚类消歧方法一般先建立与待消歧人名相关的社会网络图, 利用图的相关理论求解图中的拓扑距离, 从而判断同一人名是否指向同一人物实体。陈晨等[6]先使用谱聚类对社会网络中的人名进行聚类, 然后根据不同社会网络边权值以及不同图划分准则对人名消歧效果的影响, 引入模块度阈值作为社会网络划分的停止条件, 在 CLP 2010的中文人名消歧数据集上验证了社会网络分析方法的有效性。
基于实体链接的聚类消歧方法首先利用维基百科等知识库, 构建一个语义实体库, 然后通过相似度计算, 将提取的待消歧人名与语义实体库进行匹配, 从而实现同名人物与真实世界中实体的链接问题。Wang 等[7]通过计算待消歧人物文本与知识库实体文本的相似度, 实现实体链接的映射达到消歧的目的。宁博等[8]从中文维基百科中抽取包含人物信息和实体关系的实体信息对象, 与待消歧对象进行链接, 完成同名消歧。
本文提出基于多特征融合的同名专家消歧方法(homonymous disambiguation method based on multi-feature fusion, HDMMF), 该方法充分利用同名人物的属性特征, 通过综合多种属性特征, 从多侧面匹配的角度计算同名专家的相似度, 弥补单一特征的不足, 提高同名消歧的准确性。
基于多特征融合的同名专家消歧方法分为 4 个步骤: 专家数据的获取和预处理、同名专家的特征选择和表示、多特征融合的专家相似度计算以及基于聚类算法进行同名消歧, 整体框架如图 1 所示。
本文选择中国知网(CNKI)学术论文数据库作为数据源。CNKI 是集期刊杂志、博士论文、硕士论文、会议论文、报纸、工具书、年鉴、专利、标准、国学和海外文献资源为一体, 具有国际领先水平的网络出版平台[9]。采用网络爬虫框架(图 2)采集知网的数据。
在对 CNKI 页面结构的分析中发现, 从知网主页的搜索框查找文献时, 返回的所有搜索结果都嵌套在一个 iframe 中, 并且发送与返回的请求过于繁杂, 各请求之间的数据还相互纠缠掺杂, 不便于获取想要的数据。经过多次尝试后, 发现 http://search. cnki.com.cn/default.aspx 这个接口符合我们的期望,请求简单, 搜索结果与知网主页几乎没有差别, 因此将其作为知网爬虫的接口。
图1 基于多特征融合的同名专家消歧方法整体框架
Fig. 1 Overall framework of expert disambiguation based on multi-feature fusion
图2 网络爬虫框架
Fig. 2 Web crawler framework
对爬取的网页进行预处理。首先过滤一些空网页、广告页和不相关网页等噪声数据, 然后进行信息抽取, 抽取的内容包含论文的标题、作者、摘要、关键词、作者单位、被收录的期刊/会议、发表时间和分类号等信息, 如表 1 所示。将这些数据以结构化的形式存储在数据库中。有些同名消歧的方法中还利用人物的传记式信息(例如职业、出生日期、E-mail 地址和电话等)[10], 虽然这些特征在同名消歧上具备较强的区分能力, 但是由于网页内容的不确定性, 这些传记式信息并不易获取, 效果比较差, 因此本文不考虑将人物传记式信息引入消歧方法。
表1 爬取的论文信息
Table 1 Paper information crawled
序号字段名称字段描述 1title论文的标题 2author论文的作者 3abstract论文的摘要 4keyword论文的关键词 5affiliation作者的工作单位 6Journal_conference论文被收录的期刊/会议 7time论文发表的时间 8class_number论文的中图分类号
2.2.1特征选择
同名消歧的关键在于融合利用多种属性特征,因此需要分析每一种特征消歧能力的强弱, 据此对每一种属性特征相似度赋予不同的权重, 得到同名专家的最终相似度。本文定义如下 5 种特征。
论文标题特征(title)。论文标题是论文内容的高度凝练与概括。根据论文作者不同的研究方向, 标题中往往包含能够在一定程度上反映作者研究方向的短语, 可以将这些关键性短语作为作者研究方向的特征。此外, 一般同一专家实体的研究领域与研究方向相对固定, 很少有专家的研究领域出现“振荡”。因此, 本文假设若同名专家的论文标题相似度较高, 则粗略地认为这些论文的同名专家可能是同一专家实体, 因为同一领域内还可能存在同名同姓的专家。
论文摘要特征(abstract)和论文关键词特征(keyword)。与论文标题类似, 论文摘要重点概括论文所做的工作, 也在一定程度上反映作者的研究方向。论文关键词一般是几个指明研究领域和方向的短语, 因此可以直接作为作者的研究方向。类似地, 若同名专家的论文摘要具有较高的相似度, 可以粗略地认为这些同名专家可能是同一专家实体。
作者单位特征(affiliation)。在本文采集的专家数据集中, 作者单位主要指论文作者任职的高校和科研院所等, 偶尔也有少量的公司和企业。若同名专家的单位具有较高的相似度, 可以粗略地认为同名专家是同一专家实体, 并且这种可能性比对前 3种特征的判断更大, 因为同一单位的范围比同一研究领域的范围小, 同一单位中存在同名专家的概率低于同一研究领域存在同名专家的概率, 因此本文假设作者单位特征对同名专家的区分能力比前3种特征更强。
合作者特征(co-author)。对于具有多个署名作者的论文, 认为所有署名作者两两之间均是合作者关系, 将这种合作关系作为论文的合作者特征。假设两篇论文 P1 和 P2的署名作者集合分别是
(1)
(2)
其中, a1 为同名专家, 则a1在论文P1中的合作者关系
为集合
除去元素 a1 后的子集, 即
(3)同理有:
。 (4)
若式(5)成立,
, (5)即表示同名作者 a1 在论文 P1 和 P2 中拥有共同的合作者, 则认为论文 P1 和 P2 的同名作者 a1 是同一专家实体, 并且拥有的共同合作者越多, 这种可能性越大。还有一种情况是拥有的共同合作者也存在同名歧义的现象, 这种情况比较复杂, 需要先对同名的共同合作者进行消歧, 但现实世界中这种情况出现的概率极小, 因此本文对这种复杂且出现概率低的情况不予考虑。
综上所述, 本文针对各属性特征对于同名专家区分力强弱程度的定性分析结果如表2所示。
2.2.2 特征表示
为了准确地计算属性之间的相似度, 进而得到同名专家之间的相似度, 本文对专家的论文标题、摘要和关键词这 3 个属性特征采用词向量模型来表示, 借助 Word2vec[11]来训练词向量; 对作者单位和合作者特征这 2 个属性, 直接用其原始的文本形式来表示。获得词向量的主要步骤如下。
1)生成语料库。根据获取并经过预处理的专家论文数据, 选择每篇论文的标题、摘要和关键词, 按顺序以字符串拼接的形式组成一段文本, 用来表示这篇论文。这样, 从知网上爬取的论文库就形成一个大型的训练语料库。
2)训练词向量。采用 Word2vec 的 CBOW 模型(continuous bag-of-words model, 连续词袋模型), 设置词向量维度为 200, 进行训练并输出训练结果, 保存到文件。
3)生成专家特征向量。假设专家特征向量用一个五元组表示:
(6)表2 专家属性特征的强弱程度
Table 2 Strength degree of expert attribute features
序号 属性特征名称区分力强弱程度 1论文标题特征(title)弱 2论文摘要特征(abstract)弱 3论文关键词特征(keyword)弱 4作者单位特征(affiliation)中 5合作者特征(co-author)强
其中, T 表示论文标题的词向量, Ab 表示摘要的词向量, K 表示关键词的词向量, Af 表示作者单位, C表示合作者。前 3 项均是向量化的表示, 通过从词向量训练结果中找到对应词的词向量相加得到; 后两项是原始的文本。这样, 就生成表征一个专家的特征向量, 用来计算同名专家之间相似度。
对于两个同名专家的特征向量 P1={T1, Ab1, K1, Af1, C1}和 P2={T2, Ab2, K2, Af2, C2}, 采用基于余弦相似度[12]的方法来计算前 3 项向量化的特征 T,Ab 和 K 之间的相似度:
(7)式(7)中, Sim(F1, F2)表示一组特征对(F1, F2)之间的相似度, F1i和F2i分别表示特征向量 F1 和 F2 的各分量。
作者单位和合作者属性都是长度较小的短语, 并且计算它们的相似度不需要上、下文语义信息, 只需考虑它们字符级别的相似度。因此, 对这两类特征采用编辑距离(Levenshtein 距离)[13]来计算其相似性。编辑距离表示从一个字符串转化为另一个字符串所需要的最少编辑次数(此处, 编辑指替换、插入和删除字符的操作)。计算公式如下:
, (8)其中, LevenshteinDistance(S1, S2)表示字符串 S1 和 S2之间的编辑距离, max{Length(S1), Length(S2)}表示S1和S2字符串长度中的最大值。
由向量化特征相似度和文本特征相似度可得到一对同名专家<P1, P2>相似度计算公式:
Sim(P1, P2 )=W∙F_Sim, (9)
W= (w1, w2, w3, w4,w5), (10)
F_Sim=(Sim(T1, T2), Sim(Ab1, Ab2), Sim(K1, K 2),
Sim(Af1, Af2 ), Sim(C1, C2)) , (11)
其中, 相似度权重 W 是一个 5 维行向量, wi (1≤i≤5)表示对应属性特征相似度的权重; F_Sim 也是一个 5 维行向量, 各分量分别表示各个属性特征的相似度。
本文的目标是将具有相同专家姓名的论文记录正确地做出区分, 使这些论文归属于正确的专家实体。以本质上讲, 这是一个聚类问题。因此, 本文采用聚类思想来解决本文的同名消歧问题。
常见的聚类算法主要有层次聚类算法、划分式聚类算法、基于网格和密度的聚类算法等[14]。层次聚类算法[15]在每次合并簇之后都需要重新计算样本点之间的距离, 当数据样本点比较大时, 计算量和算法复杂度也比较大; 划分式聚类算法中最著名的就是 K-means[16], 其优点是速度快且计算简便, 缺点是需要事先知道数据要分成多少组, 但是在同名消歧问题中, 我们事先并不知道同名专家到底对应现实世界中多少个专家实体, 因此 K-means算法不适用。基于网格和密度的聚类算法是对聚类数据空间进行网格规划, 范围过大或过小都会影响结果。本文采用近邻传播算法(Affinity Propagation Algorithm, AP)对同名专家进行聚类。
近邻传播算法[17]的基本思想是, 首先通过消息传递机制, 搜索各个数据点的聚类中心以及数据点与聚类中心之间的隶属关系, 然后根据隶属关系, 对待聚类数据集进行划分, 形成若干具有特定意义的子集。该算法不需要指定聚类个数, 聚类中心是待聚类数据的某个确切的数据点, 算法的输入可以是对称或非对称的相似度矩阵。
近邻传播算法需要定义一个吸引度矩阵 R 和一个归属度矩阵 A。吸引度矩阵 R 中的元素 r (I, k)表示点 k 适合作为数据点 i 的聚类中心的程度, 归属度矩阵 A 中的元素 a(i, k)表示点 i 选择点 k 作为其聚类中心的适合程度。在迭代过程中不断更新这两个矩阵, 具体步骤见算法 1。
算法 1近邻传播算法
输入: 数据的相似度矩阵 S;
输出: 数据聚类列表;
步骤 1. 输入数据的相似度矩阵 S, 初始化吸引度矩阵R和归属度矩阵 A 中的值均为 0;
步骤 2. 计算吸引度矩阵 R 的值;
步骤 3. 计算归属度矩阵 A 的值;
步骤 4. 迭代更新 R 值和 A 值;
步骤 5. 若迭代满足以下条件之一:
① 超过迭代的最大次数,
② 信息量更新低于阈值,
③ 聚类中心保持稳定, 则停止循环, 否则继续重复步骤 2~4;
步骤 6. 根据求出的聚类中心对数据进行分类, 并输出分类结果。
相似度矩阵 S 中的元素根据 2.3 节中各属性特征相似度的计算方法得到, 吸引度矩阵 R 和归属度矩阵 A 的更新公式分别为式(12)和(13)。
, (12)
(13)
本文定义准确率(precision)、召回率(recall)和F1 (F-measure)值作为同名消歧方法的评价指标, 这3个指标计算公式如下:
(14)
(15)
(16)
假设 D 是待消歧专家的论文集合, 在式(14)和(15)中, 集合 A 表示 D 中与特定专家实体相关的真实论文簇, 集合 B 表示通过同名消歧方法得到的特定专家实体的论文簇。
无论是基于单特征的同名消歧方法, 还是基于多特征融合的同名消歧方法, 都采用 2.4 节中的 AP算法进行聚类, 不同之处在于 AP 算法的输入——相似度矩阵。对于单特征的同名消歧方法, 相似度矩阵只含有该单一特征的相似度, 而对于多特征融合的同名消歧方法, 相似度矩阵包含所有 5 种特征的相似度。
我们对表 2 中的每一类属性特征进行消歧测试, 得到的结果如图 3 所示。可以看出, 本文提出的基于多特征融合的同名专家消歧方法的消歧效果比任何单特征消歧的方法都好, 准确率、召回率和 F1值都有较明显的提升, 从而验证了基于多特征融合的消歧方法的有效性。此外, 论文的标题、摘要、关键词、作者单位和合作者这 5 种特征对同名消歧的效果依次增强, 证明我们关于各个属性特征对于同名专家区分力强弱的分析是正确的。
针对目前专家库构建过程中出现的同名歧义现象, 本文提出一种基于多特征融合的同名专家消歧方法。从 CNKI 等数据源中获取专家的论文信息, 抽取论文的标题、摘要、关键词、作者单位和合作者等关键信息作为属性特征, 构建特征表示模型, 进而定义同名专家之间的相似度计算函数, 根据计算得到的相似度, 将同名消歧问题转化为聚类问题, 再利用近邻传播聚类算法进行聚类, 解决了同名消歧问题。在专家论文数据上的实验表明, 与利用单特征进行消歧的其他方法相比, 基于多特征融合的同名消岐方法的效果有明显提升。我们目前主要针对中文姓名进行研究, 下一步将考虑含有拼音和英文的同名专家消歧问题。
图3 测试结果
Fig. 3 Test results
参考文献
[1] Nelson M. About JCDL [EB/OL]. (2013) [2019–01–01]. http:// www.jcdl.org/index.php
[2] Artiles J, Gonzalo J, Sekine S. The SemEval-2007 WePS evaluation: establishing a benchmark for the web people search task // Proceedings of the 4th Inter-national Workshop on Semantic Evaluations. Associa-tion for Computational Linguistics. Prague, 2007: 64–69
[3] 王厚峰, 李素建. 汉语命名实体识别与歧义消解[EB/OL]. (2012–02–08)[2019–01–01]. http://www.cipsc. org.cn/clp2012/task2-cn.html
[4] Bagga A. Coreference, cross-document coreference, and information extraction methodologies. Durham, NC: Duke University, 1998
[5] 辛涛, 程绍银, 蒋凡. 基于组合特征的 Web 人名消歧方法. 计算机系统应用, 2015, 24(11): 162–166
[6] 陈晨, 王厚峰. 基于社会网络的跨文本同名消歧. 中文信息学报, 2011, 25(5): 75–83
[7] Wang L, Li S, Wong D F, et al. A joint Chinese named entity recognition and disambiguation system // Pro-ceedings of the Second CIPS-SIGHAN Joint Confe-rence on Chinese Language Processing. Tianjin, 2012: 146–151
[8] 宁博, 张菲菲. 基于异构知识库的命名实体消歧. 西安邮电大学学报, 2014, 19(4): 70–76
[9] 谭捷, 张李义, 饶丽君. 中文学术期刊数据库的比较研究. 图书情报知识, 2010(4): 4–13
[10] Mann G S, Yarowsky D. Unsupervised personal name disambiguation // Proceedings of the seventh confe-rence on Natural language learning at HLT-NAACL 2003-Volume 4. Association for Computational Linguistics. Edmonton, 2003: 33–40
[11] Goldberg Y, Levy O. Word2vec Explained: deriving Mikolov et al.’s negative-sampling word-embedding method [EB/OL]. (2014–02–15)[2019–01–01]. https:// arxiv.org/abs/1402.3722
[12] 武永亮, 赵书良, 李长镜, 等. 基于TF-IDF和余弦相似度的文本分类方法. 中文信息学报, 2017, 31 (5): 138–145
[13] Ristad E S, Yianilos P N. Learning string-edit distance. IEEE Transactions on Pattern Analysis and Machine Intelligence, 1998, 20(5): 522–532
[14] 孙吉贵, 刘杰, 赵连宇. 聚类算法研究. 软件学报, 2008, 19(1): 48–61
[15] Johnson S C. Hierarchical clustering schemes. Psy-chometrika, 1967, 32(3): 241–254
[16] Hartigan J A, Wong M A. Algorithm AS 136: a k-means clustering algorithm. Journal of the Royal Statistical Society: Series C (Applied Statistics), 1979, 28(1): 100–108
[17] Frey B J, Dueck D. Clustering by passing messages between data points. Science, 2007, 315: 972–976
Research on Expert Disambiguation of Same Name Based on Multi-feature Fusion
Abstract According to the expert ambiguity with the same name in the process of building expert database, an expert disambiguation method based on multi-feature fusion is proposed. The paper information of experts is obtained from data sources such as CNKI. Key information(title, abstract, keyword, affiliation and collaborator) is extracted. The feature representation model is constructed with these information as attribute features. The similarity calculation function between experts of the same name is defined. According to the similarity, the problem of disambiguation of the same name is transformed into clustering problem. Affinity propagation clustering algorithm is used to solve the problem of homonymy disambiguation. Experiments on the collected expert papers show that the accuracy of the same-name expert disambiguation method based on multi-feature fusion can reach 92%, and good disambiguation results are achieved.
Key words multi-feature fusion; homonymy disambiguation; expert database; clustering algorithm; data colle-ction
doi: 10.13209/j.0479-8023.2020.049
国家自然科学基金(61772081)和促进高校内涵发展–研究生科技创新项目(5121911044)资助
收稿日期: 2019-07-17;
修回日期: 2019-11-26