北京大学学报(自然科学版) 第62 卷 第5 期 2026 年9 月
Acta Scientiarum Naturalium Universitatis Pekinensis,Vol.62,No.5 (Sept.2026)
doi: 10.13209/j.0479-8023.2026.008
国家自然科学基金(U21B2027,62266028,U23A2038)、云南省重大科技专项(202302AD080003,202402AG050007,202303AP140008)和云南省基础研究(202301AS070047,202301AT070471)资助
收稿日期: 2025-07-31; 修回日期: 2025-09-11
随着社交媒体的迅猛发展,事件检测在信息传播和舆论引导中扮演着越来越重要的角色。社交媒体事件检测(social media event detection,SMED)[1]旨在使用聚类方法,从社交媒体消息中提取反应现实事件信息的信息集群。现有方法局限于解决单语言或跨语言(两种语言)的事件检测任务,只能捕捉特定语言社区内的事件信息,无法融合全球多语种用户信息,导致对重大事件的感知碎片化和片面化,极大地限制了事件的覆盖范围。多语言(两种以上语言)检测方法能直接协同处理混合语言消息,构建关联完整的社交消息网络。因此,探索并发展有效的多语言社交媒体事件检测(M-SMED)方法具有重要意义。
目前,使用神经网络进行社交媒体事件检测成为主流,检测方法大致分为两类。一类方法是使用预训练语言模型,将文本嵌入为固定长度的向量,并通过模型学习一个相似度的度量标准用于判断事件是否属于同一类别[2]。例如,Ertugrul等[3]将一组推送文章消息嵌入连续空间中,通过层次聚类,将词向量分组来实现聚类。这种方法侧重挖掘消息中的语义信息,显著优于基于词频[4]或主题模型[5]的早期浅层语义表示方法,但会忽略类似消息提及和隐含关联等结构关系。另一类方法是基于图神经网络(graph neural networks,GNNs)[6],将消息中的实体、提及等属性构建为社交消息图,利用图结构对消息和用户等多元关系进行联合建模,通过信息传递机制来捕捉全局事件关联。
在多语言社交媒体事件检测过程中,由于不同实体之间的语言差异,导致嵌入差异大无法对齐,构造的社交消息图不完备; 不同语言描述的相关节点间距离较远,导致构造的社交消息图中节点间的关联信息缺失,影响聚类效果。本文提出一种基于图补全的多语言社交媒体事件检测方法 MGCGNN(multilingual graph relation completion graph neural networks)。输入原始数据后,使用预训练语言模型对多种语言进行嵌入,映射到同一个嵌入空间中,通过实体、提及关系、时间和语义等来关联相同语种的消息块,并通过维基百科对应实体的唯一标识ID (QID)来关联不同语言对应的消息块,从而解决不同语言间实体和属性无法对齐的问题。使用随机游走算法来学习多语言社交媒体消息图中消息块之间的隐式连接,补全社交消息图,并将学习到的信息融入消息表示中,解决多语言场景下消息之间长距离隐含关系与结构信息缺失的问题。通过 GNN的学习能力,学习图中各个消息之间的表示和关联,利用 Kmeans聚类方法得到聚类结果。最后,在真实事件的数据集上进行 SMED任务的测试,验证本文方法的有效性。本研究的代码与数据已在 github上公开(https://anonymous.4open.science/r/MGCGNNC477)。
单语言社交媒体事件检测一般采用向量嵌入和训练方法,利用计算消息之间的嵌入相似度来指导聚类。Peng等[7]提出描述事件相关性的异构信息网络(heterogeneous information networks,HINs),在此基础上,基于 GNN的方法(如 KPGNN[8]),通过将图结构与对比学习方法相结合来实现增量的图构建。Cao等[9]提出一种通过结构熵最小化来进行层次事件聚类的方法 HISEvent。QSGNN[10]和 FinEvent[11]针对一些标签较少的低资源语言进行优化,通过生成伪标签来实现少样本的检测。Li等[12]提出的RPLM_SED方法尝试绕过显式图结构,直接通过预训练语言模型(PLMs)建模消息之间的语义关系。然而,该方法在多语言场景下表现不稳定,原因在于不同语言的消息在句法结构和词汇分布上存在显著的差异,导致通过预训练语言模型生成的表示难以直接对齐。相比之下,Liu等[13]使用动态更新的编码方法来编码和捕捉不同语言短语之间的相关性,能够在多语言文本流中检测事件并生成演化图。尽管有这些进步,这种模型仍然存在局限性,特别是在特定领域的事件检测和相似性计算中,未能充分利用到图结构特征。
虽然这些方法可以通过使用预训练语言模型进行多语言编码来适应多语言场景,但它们并没有针对如何弥合不同语言之间差距的问题,因此可能会导致构造的多语言社交消息图中边缺失的情况,也没有在多种语言场景下进行系统测试。
跨语言事件检测通常通过跨语言映射或者共享词汇空间,对多语言文本表示进行对齐。Nguyen等[14]通过使用语义保留和约束策略,在保持源语言特征的同时,将目标语言表示适配到源语言空间,从而实现对源语言事件检测的直接迁移。Nateras等[15]利用混合知识迁移方法来进行训练,直接训练源语言数据,实现对目标语言的数据标注,然后使用这些标注数据训练目标语言来实现知识的迁移。Ren等[16]基于此思路,引入图网络,结合跨语言知识蒸馏来实现跨语言事件检测,在特征和关系层面通过双语词典等对齐工具,将事件模式从高资源语言(例如英语)转移到低资源语言(例如泰语)。
以上跨语言事件检测训练方法存在共同的缺陷。依赖外部语言知识(多语言嵌入和词典)或预训练多语言模型的指导来建立跨语言语义桥梁,可能会限制对使用频次较少的语言的泛化能力,并仅支持特定的跨语言任务。
社 交 流[17]定 义 为 S ={M0 ,...,Mi -1,Mi ,…} , 其中,S为一系列连续的社交消息块序列,M i为在事件区间 [ti ,ti+ 1)内到达的某个消息块。定义消息块为 Mi = { mj |1 ≤ j ≤| Mi |},其中|M i|为消息块M i的总数,mj为消息块中的第 j个消息。定义一个社交媒体消息为 mi ={Di ,Ui ,Qi ,Ti},其中 Di,Ui,Qi和 Ti分别代表消息 ID、用户 ID (推送文章作者和提到的作者)、消息相关的实体对应的唯一标识 QID以及消息相关的实体集合。
社交事件定义为 e = {mi |1 ≤ i ≤| e |},这是一个现实世界中发生事件的集合,假设每一个社交消息最多属于一种事件。
给定一个社交消息块Mi,一个社交事件的检测算法(封闭集合内)学习模型为 f ( M i ; θ )= Ei,其中 Ei = { ek|1 ≤ k ≤ | Ei|}为包含在消息块M i中的事件集合,θ 表示函数f的参数。
增量社交事件检测算法(开放集合内)旨在学习一个社交事件检测模型序列 f0,…,ft ,ft +w (w表示模型更新的窗口大小)。例如,每个消息块{Mi| t+ 1≤i ≤ t + w}中包含一系列事件 Ei,模型学习函数为ft (Mi ;θ t ,θt + w )= Ei (Ei为包含在消息块M i中所有消息的类别),其中,θt和 θt + w分别为函数 ft和 ft + w的参数,ft+w为函数 ft通过 θ t的扩展,f0为初始模型。
本文中使用的主要符号的释义如表1所示。
表1 符号及释义
Table 1 Glossary of notations
符号 释义S; M 社交流; 消息块m 消息或者消息的节点类型e; E 事件; 一系列事件w 维护模型的窗口大小d; u; t; q 消息id; 用户(节点类型); 命名实体; QID Wmk 节点类型m 与k 的邻接矩阵G 社交消息图τ 相似度阈值N 同构图G中的消息总数A 图G的邻接矩阵X G中的消息的初始特征向量ε (X,A) 利用GNN 学习图G中的嵌入信息l; L GNN 层数; 总层数i lmh()第l 层中消息mi 的表示imh 消息mi 的最终表示Lp 两两对比损失Lo 正交损失
本文提出一种多语言图补全神经网络(MGCGNN)模型,其核心目标是通过构建与补全多语言消息图,将异构的多语言消息映射到统一的语义空间进行表征与聚类,在无需语言特定策略的情况下,实现跨语言社交媒体消息的有效关联与事件检测。模型采用统一的多语言处理框架,工作流程如图1所示,模型的整体流程可分为以下 4个模块。
图1 多语言社交媒体事件检测模型框架
Fig.1 Framework of multi language social media event detection model
1) 文本嵌入与社交消息图构建模块。实体层面利用维基百科连接各语言间的实体,避免外部知识库不足与支持语言单一的情况。语义层面使用mBert嵌入,利用相似度建立连接,构建多语言社交消息图。
2) 多语言社交消息图补全模块。通过随机游走学习不同语言描述的相同实体与属性之间的隐式连接关系,补全多语言消息之间的关联关系,得到完备的多语言社交消息图。
3) 多语言消息异构图转换模块。将异构社交消息图转换为只具有消息节点的同构社交消息图而不丢失节点之间的关系信息,方便后续 GNN专注于消息节点中的语义信息进行训练。
4) 基于 GNN的多语言对比学习与聚类模块。使用 GNN编码器,学习消息的联合表征,利用 Kmeans方法对消息进行聚类,得到社交媒体事件聚类结果。
2.2.1 文本嵌入与社交消息图构建模块
本文使用异构信息网络 HINs[7,18-19]的形式处理多语言异构社交消息图,该消息图包含多种节点和边的复杂网络结构,图1给出一个实例。实际操作中用邻接矩阵表示节点之间的各种关系,矩阵由消息(m)、消息 ID (d)、用户(u)、实体(t)以及 QID (q)组成。
文本编码模块使用多语言预训练模型 mBert进行消息文本嵌入①https://spacy.io/api/data-formats\#setion-named-entities。对于社交消息图的构建,如果只对齐嵌入后语义,会导致描述相同事件的不同语言描述无法对齐,因此本文同时从实体与消息两个方面对齐多语言场景下的各个消息属性。
实体级别 从每条消息中筛选出现过的相关实体①https://spacy.io/api/data-formats\#setion-named-entities,并抽取一些其他关键词[7,18] (剔除出现频率高于 85%或出现次数少于两次的词)。基于维基百科QID②https://www.wikidata.org/w/api.php查询多语言实体的统一 QID 集合 q,将筛选出的元素,连同与消息关联的一系列用户,一并作为节点纳入 HIN 中。如图1 中异构社交消息图所示,消息节点“m1”为从输入消息 m1 中提取的消息属性节点 d,“user1”和“user2”为用户属性节点 u,“uveiled”为实体属性节点 t。在此基础上,将各消息中描述相同实体的节点通过 QID 建立连接(如“Tokyo”与“东京”)。最后将这些节点与节点 m1 建立连接。重复上述操作,得到多语言异构社交消息图。
语义级别 通过计算模型嵌入后的向量相似度,为消息节点之间建立连接,当相似度大于阈值τ时,将图中两种消息节点建立连接。得到的异构社交消息图如图1所示。
2.2.2 多语言社交消息图补全模块
为了更好地利用构建的多语言社交媒体消息图中的结构信息,本文采用随机游走算法[20],更好地建立消息之间的隐式关联,进一步优化多语言社交消息图。随机游走从消息图中的一个节点开始,然后随机移动到与之相邻的节点,重复这个过程多次,形成一条游走路径,可以将这些路径作为节点之间的关系和图的结构信息。
随机游走策略如下: 遍历图G的所有节点,对每个节点进行独立游走,每次游走的最大深度为L。在每一步中,随机选择当前节点的相邻节点,继续移动,直至达到深度 L或遇到无邻居节点,最终输出所有路径集合 W。本文采用随机游走策略来补全描述相同事件的不同语言描述节点之间缺失的边。如图1中多语言社交消息图优化模块中随机游走算法所示,消息节点 m1与 m3之间在上一步操作中并没有边连接,通过随机游走策略找到一条路径m1→Athletics Champion-ship→田径锦标赛→m3,这条路径的起点和终点为 m1和 m3,意味着节点 m1和m3具有隐含的关联性。随后,将随机游走学习到的隐式连接表示聚合到转换后的同构图消息表示中,利用学习到的结构信息,填补嵌入多语言社交消息图中有关结构信息的缺失。
2.2.3 多语言社交消息异构图转换模块
现存的异构信息网络[21-23]保留模型结构中不同种类的节点类型,以便学习到节点的所有表示。我们采用与 Cao等[8]相同的同构图转换设计,以便GNN能够专注于消息节点本身的语义信息学习。转换过程如下:
其中,A∈{0,1}N×N表示同构社交消息图的邻接矩阵,N表示图中的节点总数,k代表节点类型,Wm,k表示异构社交消息图中节点类型 m和 k的邻接关系。转换后的同构图中只有消息节点,这些消息节点由于共享某个属性节点而具有边,通过映射方法,同构图保留了异构图中节点之间的相关性。最终构成的消息表示构成特征向量的表示如下:
其中,xmi是消息 mi的初始特征向量,d是初始特征向量的维度,这些向量与相应的消息节点关联。我们将同构多语言社交消息图表示为G = (X,A)。因为G不是静态不变的图,在处理增量多语言社交媒体事件消息的过程中,会将新消息节点的内外部连接插入到图G中来更新图。同理,我们也会在固定时间内删除图G中的过时节点和与它相关联的边。
2.2.4 基于GNN的多语言对比学习与聚类模块
构建多语言同构消息图后,使用 GNN编码器学习消息的联合表征。我们训练一个 GNN编码器
,使得
|1≤ i ≤N},其中
表示消息 mi的最终表示。编码器ε 包含 L层,逐层传播的方法为
其中,N ( mi)表示消息 mi的一组邻域; ⊕表示一个聚合操作,如两个操作数中所有信息的总和;
代表多个头部的连接,由于不同的 GNN模型中的聚合器(Aggregator)和提取器(Extractor)不同,本文采用 Liu等[24]提出的 GAT策略。
本文使用的对比损失计算方法采用 Ren等[10]提出的两两对比损失与正交损失计算方法,有利于保持类内距离消息类间距离。具体步骤如下:
其中,Pos表示正样本对,Neg表示负样本对,超参数a表示边界距离,函数 D(·,)·表示欧氏距离。本文使用正交损失[10]来增强方向信息的区分度。
在学习到消息表示之后,利用基于距离的聚类算法(如 Kmeans)得到消息聚类蔟,将其作为最终的聚类结果。
本文实验基于大型公开数据集 Event2012[25]。过滤掉不可用的推送文章后,Event2012包含 68841条带标签的英文数据、10313条带标签的越南语数据以及 12999条带标签的中文数据,属于 503个事件类,分布在 4周的时间内,并且将这些消息随机打乱。为适应增量社交媒体事件检测的场景,将数据集切分成为 21个消息块。
我们将本文方法与非 GNN方法和基于 GNN的方法进行比较。对于非 GNN方法,基线方法有以下两种: 1) Word2Vec[26],利用预训练的词嵌入来获取消息表示; 2) mBert,在具有最大 Wikipedia的前104种语言上预训练模型。对于基于 GNN的方法,基线方法有以下 3种: 1) RPLM_SED[12],通过构造多关系提示序列和聚类约束,直接利用 PLM的语义理解能力来优化事件表示; 2) KPGNN[8],使用GNN网络进行训练,利用交叉熵损失方法计算损失; 3) QSGNN[10],使用改进的对比损失与具有质量意识的自我改进学习模型进行微调。
本文使用归一化互信息(normalized mutual information,NMI)[27]和调整后的互信息(adjusted mutual information,AMI)[28]两个评价指标来评估模型性能。NMI用来量化检测到的消息簇与真实消息簇之间的对齐程度,衡量预测聚类分布与真实标签分布之间的相互依赖性,通过它们的联合熵进行归一化,在社会事件检测研究中广泛使用[7,29]。AMI通过引入修正项来减少随机聚类分配导致的偏差,可以确保在不平衡或高维聚类场景中的稳健性,从而扩展 NMI。
3.4.1 封闭集中的多语言社交媒体事件检测效果
我们选用 Event2012数据集中第一周数据构成初始消息块 M0。随机抽取初始块的 20%用于测试,70%用于训练,10%用于验证。
如表2所示,非 GNN方法在实验结果中表现出次优的性能。例如,Word2Vec和 mBert的嵌入分别仅实现 0.33和 0.38的 NMI分数。这可能归结于它们未能利用数据中的内在结构信息,因此凸显了结构信息处理的重要性。对于 GNN方法,我们提出的 MGCGNN取得最佳结果,与次高的 QSGNN相比,性能提高 10%。性能的提升源于多语言消息图的构建和图补全方面的系统性改进。
表2 不同方法对封闭集M0 的效果
Table 2 Performance of different methods on close set M0
方法 NMI AMI Word2Vec 0.33±0.01 0.25±0.01 MBERT 0.38±0.01 0.30±0.01 KPGNN 0.60±0.02 0.30±0.02 QSGNN 0.62±0.01 0.31±0.01 MGCGNN (本文方法) 0.72±0.01 0.40±0.01提升效果 ↑ 10% ↑ 22%
说明: 最优结果用粗体标记,次优结果用下划线标记,下同。
3.4.2 开放集中的多语言社交媒体事件检测效果
在开放集环境(增量数据检测),假设待聚类的消息数据未知。我们在多语言预训练模型中嵌入mBert来适应多语言输入环境,并将嵌入的数据分为按日期排序的 21个消息块。使用窗口大小(w)来更新模型。
表3 展示不同方法在 Event2012数据集上的性能。非 GNN方法在大多数数据块上的表现普遍次于 GNN的方法。这表明,图结构可以帮助模型更好地学习消息之间的结构信息。对于基于 GNN的方法,RPLM_SED方法的性能均低于其他方法。这可能源于其消息对建模策略仅能连接直接关联的消息,无法处理长距离关联关系,并且忽略了图中的结构信息,因此不适用于多语言场景。QSGNN方法优于 KPGNN,在 NMI值上平均提高 2%~4%。相比之下,本文方法 MGCGNN进一步超越 QSGNN,在 NMI值上平均提高 3%~5%,在 AMI值上平均提高 2%~3%。这种提升得益于消息表示学习与多语言关系的捕捉,同时本模型还具有轻外部依赖、适配多语言输入结果的优势,所以在封闭集和开放集M-SMED任务中都表现出强大的性能。
表3 不同方法在开放集上的效果(NMI/AMI)
Table 3 Performance of different methods on the open set with NMI/AMI metric
M7 M6 AMI NMI AMI NMI 0.22±0.01 0.27±0.01 0.29±0.00 0.37±0.00 0.30±0.00 0.34±0.00 0.37±0.00 0.44±0.00 0.26±0.00 0.30±0.00 0.29±0.00 0.37±0.00 0.43±0.01 0.50±0.01 0.61±0.01 0.73±0.01 0.44±0.00 0.51±0.01 0.64±0.01 0.74±0.01 0.50±0.01 0.52±0.01 0.71±0.01 0.79±0.01 M14 M13 AMI NMI AMI NMI 0.27±0.01 0.31±0.01 0.28±0.00 0.33±0.00 0.30±0.00 0.34±0.00 0.32±0.00 0.37±0.00 0.26±0.00 0.32±0.00 0.36±0.00 0.41±0.00 0.51±0.01 0.56±0.01 0.58±0.01 0.61±0.01 0.57±0.00 0.59±0.01 0.59±0.01 0.62±0.01 0.56±0.01 0.58±0.01 0.60±0.01 0.65±0.01 M21 M20 AMI NMI AMI NMI 0.18±0.01 0.22±0.01 0.23±0.00 0.33±0.00 0.35±0.00 0.36±0.00 0.36±0.00 0.45±0.00 0.31±0.00 0.34±0.00 0.35±0.00 0.44±0.00 0.48±0.01 0.57±0.01 0.53±0.01 0.59±0.01 0.52±0.00 0.60±0.01 0.50±0.01 0.56±0.01 0.53±0.01 0.61±0.01 0.54±0.01 0.60±0.01 M5 M4 M3 M2 AMI NMI AMI NMI AMI NMI AMI NMI 0.24±0.00 0.28±0.00 0.23±0.00 0.29±0.00 0.22±0.01 0.26±0.00 0.28±0.01 0.33±0.01 0.34±0.00 0.37±0.00 0.29±0.00 0.34±0.00 0.31±0.00 0.35±0.00 0.39±0.00 0.43±0.00 0.23±0.00 0.27±0.01 0.22±0.00 0.28±0.02 0.18±0.04 0.23±0.06 0.32±0.00 0.36±0.00 0.58±0.01 0.60±0.01 0.51±0.01 0.55±0.00 0.61±0.00 0.68±0.00 0.58±0.01 0.61±0.01 0.57±0.00 0.59±0.00 0.53±0.01 0.57±0.02 0.67±0.01 0.72±0.01 0.60±0.01 0.62±0.02 0.62±0.00 0.64±0.00 0.57±0.02 0.60±0.02 0.70±0.01 0.76±0.01 0.64±0.02 0.66±0.02 M12 M11 M10 M9 AMI NMI AMI NMI AMI NMI AMI NMI 0.20±0.00 0.25±0.00 0.26±0.00 0.32±0.00 0.29±0.01 0.36±0.00 0.25±0.01 0.33±0.01 0.29±0.00 0.33±0.00 0.27±0.00 0.33±0.00 0.38±0.00 0.44±0.00 0.38±0.00 0.44±0.00 0.27±0.00 0.30±0.00 0.22±0.00 0.31±0.00 0.36±0.00 0.42±0.00 0.36±0.00 0.43±0.00 0.51±0.01 0.65±0.01 0.57±0.01 0.60±0.00 0.64±0.00 0.67±0.00 0.62±0.01 0.73±0.01 0.58±0.00 0.66±0.00 0.58±0.01 0.62±0.02 0.65±0.01 0.68±0.01 0.65±0.01 0.76±0.02 0.59±0.00 0.68±0.00 0.65±0.02 0.68±0.02 0.68±0.01 0.71±0.01 0.66±0.02 0.79±0.02 M19 M18 M17 M16 AMI NMI AMI NMI AMI NMI AMI NMI 0.21±0.00 0.23±0.00 0.27±0.00 0.24±0.00 0.26±0.01 0.29±0.00 0.30±0.01 0.36±0.01 0.37±0.00 0.41±0.00 0.31±0.00 0.34±0.00 0.37±0.00 0.40±0.00 0.39±0.00 0.45±0.00 0.34±0.00 0.38±0.00 0.24±0.00 0.28±0.00 0.35±0.00 0.38±0.00 0.38±0.00 0.43±0.00 0.54±0.01 0.67±0.01 0.51±0.01 0.68±0.00 0.54±0.00 0.54±0.00 0.63±0.01 0.63±0.01 0.58±0.00 0.60±0.00 0.56±0.01 0.64±0.02 0.55±0.01 0.57±0.01 0.61±0.01 0.64±0.02 0.63±0.00 0.68±0.00 0.57±0.02 0.63±0.02 0.56±0.01 0.58±0.01 0.66±0.02 0.69±0.02 M1 AMI NMI 0.19±0.00 0.21±0.00 0.17±0.00 0.19±0.00 0.16±0.00 0.18±0.00 0.35±0.00 0.36±0.00 0.36±0.02 0.37±0.01 0.38±0.01 0.39±0.01 M8 AMI NMI 0.23±0.00 0.34±0.00 0.32±0.00 0.41±0.00 0.30±0.00 0.40±0.00 0.56±0.00 0.62±0.00 0.58±0.02 0.64±0.01 0.62±0.01 0.67±0.01 M15 AMI NMI 0.24±0.00 0.29±0.00 0.33±0.00 0.38±0.00 0.27±0.00 0.33±0.00 0.51±0.00 0.61±0.00 0.55±0.02 0.63±0.01 0.58±0.01 66±0.01)法方文)法方文)法方文法方Word2Vec mBERT RPLM_SED KPGNN QSGNN MGCGNN(本法方Word2Vec mBERT RPLM_SED KPGNN QSGNN MGCGNN(本法方Word2Vec mBERT RPLM_SED KPGNN QSGNN MGCGNN(本
为了验证多语言对齐处理与图优化策略的有效性,本文分别针对没有增加 QID属性连边与没有增加随机游走模块的情况进行消融实验,删除不同模块对封闭集和开放集效果的影响,结果如图2和 3所示。可以看到,移除边连接的 QID属性和移除随机游走模块都会使模型训练的效果下降,进而导致聚类效果不佳,同时移除随机游走模块使得模型效果的下降更明显,意味着 GNN更需要学习社交消息图中的结构信息与上下文信息,才能学习到好的消息表示,由此证明边优化策略对多语言社交媒体事件检测的有效性。
图2 开放集去除 QID连边或随机游走模块实验结果
Fig.2 Effect of removing QID edge linked or random walk modules by open sets
图3 封闭集去除 QID连边或随机游走模块实验结果
Fig.3 Effect of removing QID edge linked or random walk modules by closed sets
3.6.1 封闭集的多语言社交媒体事件检测
为进一步验证本文提出框架的有效性,我们使用 t-SNE工具绘制消息块 M0的测试结果,对 Event2012数据集上的聚类表现进行可视化,结果如图4所示。
图4 Word2Vec,KPGNN,QSGNN和 MGCGNN在消息块 M0上的可视化效果
Fig.4 Visualization of Word2Vec,KPGNN,QSGNN,MGCGNN on block M0
每个点为一条消息,每种颜色表示一类事件,下同
可以看出,Word2Vec的聚类结果中不同消息类别之间的类间距极小,导致聚类效果不佳。相比之下,利用图结构的方法 KPGNN和 QSGNN在聚类方面的表现有显著的改进,但大部分类别内部的消息在空间中分布比较松散,相邻类别之间的重叠比较严重。本文方法 MGCGNN改善了这两点不足,类别内部间距小,类别之间距离明显,不同事件类别之间的边界更加明显。
3.6.2 开放集的多语言社交媒体事件检测
为了进一步证实 MGCGNN在开放集上的有效性,我们选择消息块 M5和 M8,并通过 t-SNE绘制测试结果的可视化表示,结果如图5所示。
图5 KPGNN,QSGNN和 MGCGNN在消息块 M5和 M8上的可视化效果
Fig.5 Visualization of KPGNN,QSGNN and MGCGNN on blocks M5 and M8
与 MGCGNN相比,KPGNN和 QSGNN的性能显著下降,表现为在不同类型事件之间具有重叠的表示,并且在统一类别内的消息空间分布分散。本文方法共享相同事件标签的消息在语义空间更加接近,形成紧凑的聚类蔟。表3中的定量评估结果进一步验证了可视化结果,本文方法在消息块 M5和M8上的 NMI和 AMI值显著优于其他基线方法。这种性能的提升进一步证实了本文方法的图补全和对随机游走在优化聚类性能和减小类内间距方面的有效性。
在随机游走策略中,游走深度与游走次数是两个关键的超参数,直接影响模型捕捉到的图结构信息的广度和深度。游走深度表示每次随机游走期间访问的节点数量,游走次数表示在每个节点上执行的随机游走次数。我们对两个超参数进行对比实验,结果如图6和 7所示。
图6 游走深度固定为 80时改变游走次数的效果
Fig.6 Effect of varying num_walks when walk_length is fixed at 80
图6 展示当游走深度为 80,游走次数分别为 5~15时的模型性能,游走次数影响模型对节点周边信息的采样频率,适当的游走次数可以确保模型有足够的机会覆盖节点的周边区域,从而获得更加准确的节点表示。然而,过大的游走次数可能导致过拟合,即模型在训练数据上表现良好,但对新数据的泛化能力差。从图6可以看出,本文模型对游走次数并不敏感。
图7 展示当游走次数为 10,游走深度分别为60~120时的模型性能。当游走深度≤60或≥100时,模型的性能下降,表明通过足够长的游走序列,游走模块能够捕捉丰富的图结构信息。当游走深度达到一定阈值后,继续增大游走深度会引入更多的噪声,使随机游走算法无法精准地捕捉节点间的潜在关系。相较于游走次数,本模型对游走深度更敏感,表明游走深度对社交媒体消息图中结构信息的整合更加重要,但从总体上看,模型对两种参数都表现出比较强的鲁棒性。
图7 游走次数固定为 10时改变游走深度的效果
Fig.7 Effect of varying wald_length when num_walks is fixed at 10
为了比较使用大型语言模型进行图补全聚类与本文方法的优缺点,使用 Hu等[30]的 Topic LLMTLS聚类方法。我们使用 Llama-3.1-8B进行比较。首先,使用预训练模型,对事件摘要进行编码。将Event 2012数据集中的少量标签输入提示模板,用来提示 LLM进行两两分类。如果 LLM反馈“yes”,则确定两个消息属于同一事件。按照日期将数据集分成 21个消息块。
从表4可以看出,在所有 21个数据块(M1~M21)中,MGCGNN方法的归一化互信息(NMI)度量效果明显优于 Llama-3.1-8B模型,可能是因为 LLMS (如Llama-3.1-8B)本质上是为语言生成和理解而设计的通用模型,不是专门的聚类算法,并且仅仅凭借专门为寓意理解和生成而设计的预训练模型,并没有很好的图优化策略。因此,仅通过计算相似度来区分事件的大语言模型,无法有效地捕获事件数据中的局部相似性和时空关联模式,导致事件之间局部结构的丢失。另外,Llama-3.1-8B对不同事件之间描述的判断并不明确,因为它只是比较嵌入后的语义相似度,并不能完全确定事件的类别。并且,由于每次判断都需要通过提示模板去询问大型模型,因此 LLM聚类具有更大的复杂性和更高的时间成本。MGCGNN通过随机游走策略,有效地解决了结构与消息之间的远距离相关问题,能够获得更高的精度。
表4 大语言模型图补全对比结果(NMI)
Table 4 Comparison results of large language model graph completion (NMI)
方法 M1 M2 M3 M4 M5 M6 M7 Llama-3.1 0.11±0.02 0.41±0.01 0.32±0.01 0.27±0.01 0.13±0.00 0.25±0.01 0.24±0.00 MGCGNN (本文方法) 0.39±0.01 0.66±0.02 0.76±0.01 0.60±0.02 0.64±0.00 0.79±0.01 0.52±0.01方法 M8 M9 M10 M11 M12 M13 M14 Llama-3.1 0.45±0.02 0.46±0.01 0.33±0.01 0.27±0.01 0.24±0.00 0.22±0.01 0.23±0.00 MGCGNN (本文方法) 0.67±0.01 0.79±0.02 0.71±0.01 0.68±0.02 0.68±0.00 0.65±0.01 0.58±0.01方法 M15 M16 M17 M18 M19 M20 M21 Llama-3.1 0.24±0.02 0.27±0.01 0.24±0.01 0.31±0.01 0.40±0.00 0.40±0.01 0.30±0.00 MGCGNN (本文方法) 0.66±0.01 0.69±0.02 0.58±0.01 0.63±0.02 0.68±0.00 0.60±0.01 0.61±0.01
为了证明随机游走算法对社交消息图中图结构的补全方法的有效性,同时比较随机游走算法与其他图补全算法的优劣,我们针对随机游走算法与其他图补全算法策略在社交媒体事件检测任务中的表现进行对比实验。Zhao等[31]提出一种端到端的、数据驱动的学习框架(RA-HGNN),通过残差注意力机制,有选择地、加权地聚合有属性邻居的信息来补全无属性节点,同时解决了深层 GNN的过平滑和梯度问题。Yang等[32]提出一个前置的、基于LLM的数据增强管道(CP-KGC)。CP-KGC的核心思想不是设计新的图神经网络模型,而是利用大型语言模型来优化知识图谱补全任务的“输入数据”,从而提升现有文本补全模型的性能。我们将这两种方法替换本文提出的随机游走算法,进行图结构的训练与学习,聚类等其他操作不变,实验结果如表5所示。
表5 图补全算法对比实验结果(AMI)
Table 5 Comparative experiments on graph completion algorithms (AMI)
方法 M1 M2 M3 M4 M5 M6 M7 RA-HGNN 0.35±0.01 0.51±0.02 0.46±0.01 0.51±0.01 0.57±0.02 0.37±0.00 0.44±0.00 CP-KGC 0.21±0.02 0.44±0.01 0.43±0.01 0.42±0.00 0.44±0.01 0.44±0.02 0.40±0.01 MGCGNN (本文方法) 0.39±0.01 0.66±0.02 0.76±0.01 0.60±0.02 0.64±0.00 0.79±0.01 0.52±0.01方法 M8 M9 M10 M11 M12 M13 M14 RA-HGNN 0.30±0.01 0.46±0.01 0.59±0.01 0.48±0.01 0.39±0.02 0.49±0.01 0.50±0.00 CP-KGC 0.31±0.02 0.49±0.00 0.53±0.01 0.43±0.02 0.36±0.01 0.40±0.02 0.43±0.02 MGCGNN (本文方法) 0.67±0.01 0.79±0.02 0.71±0.01 0.68±0.02 0.68±0.00 0.65±0.01 0.58±0.01方法 M15 M16 M17 M18 M19 M20 M21 RA-HGNN 0.57±0.01 0.60±0.01 0.39±0.01 0.48±0.01 0.55±0.00 0.56±0.02 0.53±0.00 CP-KGC 0.55±0.00 0.49±0.02 0.34±0.01 0.46±0.02 0.38±0.00 0.50±0.00 0.51±0.02 MGCGNN (本文方法) 0.66±0.01 0.69±0.02 0.58±0.01 0.63±0.02 0.68±0.00 0.60±0.01 0.61±0.01
可以看出,随机游走算法对社交消息图补全有更好的效果。虽然 RA-HGNN通过消息传递来聚合邻居信息,但它主要捕捉的是局部邻域结构。对于长距离、复杂的路径依赖,需要较高的层数,增加了计算的成本,并且 RA-HGNN的决策过程是一个黑盒模型,难以解释为何某个实体被选中。CPKGC方法完全依赖实体描述的文本语义,无法利用图中隐含的路径逻辑以及长距离的关联关系。例如,文本中没有明确提到“事件 A和时间 C有关联”,模型就很难推断出来。虽然 CP-KGC的可解释性稍好,但依赖于文本描述中的关键词,不如一条清晰的路径来得直接。得益于数据集中构造的无向图关系,随机游走算法可以轻松地处理多种类型的节点和边(异构图)。此外,采样的路径本身就可以包含不同的关系类型,从而融合多种语义信息。
为评估模型对语言多样性的适应能力,我们在原有 3种语言(中文、英文和越南语)的基础上增加第 4种语言(泰语)。从 Event2012中抽取 5508条泰语社交媒体消息,进一步评估输入为 3种语言和 4种语言情况下,模型对语言多样性的适应性和稳定性。抽取的事件仍然属于 503个事件类,分布在 4周的时间内,并将这些消息随机打乱。为适应增量社交媒体事件检测的场景,同样将数据集切分成为21个消息块,如表6所示。
表6 4 种语言数据集
Table 6 Datasets in four languages
语种 条目 事件种类 分布时间/周英文 68841 503 4中文 10313 503 4越南语 12999 503 4泰语 5508 503 4
我们依然采用之前的消息处理策略,首先通过调用维基百科接口的方式,查询消息文本中实体对应的唯一标识 id,随后将泰语拼接到整个数据集中并打乱,最后得到 4种语言混合的数据集。
表7 显示,本文方法在处理多种语言输入时表现出明显的稳定性和适用性。总体上,MGCGNN-4th (四语版本)的大多数评价指标与MGCGNN-3th(三语版本)相差不大。在 21个消息块中,四语版本在多个关键块(如 M2,M3,M4和 M9等)上取得更高的AMI值,表明引入泰语这一低资源语言后,模型不仅没有因语言多样性的增加而性能下降,反而在大部分情况下展现出良好的事件聚类能力。尤其值得注意的是,在消息块 M3 (0.77 vs 0.76)、M6 (0.80 vs 0.79)和 M13 (0.66 vs 0.65)等任务中,四语模型的性能提升较为明显,说明模型能够有效地利用新增语言的语义信息,增强对多语言事件关联的识别。
表7 3 种语言与 4 种语言在 MGCGNN 上的表现(AMI)
Table 7 Performance of three languages and four languages on MGCGNN (AMI)
方法 M1 M2 M3 M4 M5 M6 M7 MGCGNN-4th 0.38±0.01 0.67±0.02 0.77±0.01 0.60±0.01 0.62±0.02 0.80±0.00 0.51±0.00 MGCGNN-3th 0.39±0.01 0.66±0.02 0.76±0.01 0.60±0.02 0.64±0.00 0.79±0.01 0.52±0.01方法 M8 M9 M10 M11 M12 M13 M14 MGCGNN-4th 0.66±0.01 0.79±0.01 0.72±0.01 0.67±0.01 0.69±0.02 0.66±0.01 0.57±0.00 MGCGNN-3th 0.67±0.01 0.79±0.02 0.71±0.01 0.68±0.02 0.68±0.00 0.65±0.01 0.58±0.01方法 M15 M16 M17 M18 M19 M20 M21 MGCGNN-4th 0.64±0.01 0.68±0.01 0.60±0.01 0.64±0.01 0.65±0.00 0.59±0.02 0.62±0.00 MGCGNN-3th 0.66±0.01 0.69±0.02 0.58±0.01 0.63±0.02 0.68±0.00 0.60±0.01 0.61±0.01
这一结果有力地印证了 MGCGNN方法在低资源语言处理、实时场景适应及外部知识库覆盖不足等条件下的良好适用性与泛化能力。尽管泰语是一种资源相对稀缺的语言,其可用的预训练语言模型和外部知识库(如 Wikidata)覆盖度通常低于中文和英文等主流语言,但本方法通过结合跨语言实体对齐与图结构补全策略,仍然能有效地整合泰语消息的语义信息,提升多语言事件检测的整体性能。实验结果表明,本文模型并非简单地依赖大规模单语数据或完善的外部知识,而是通过挖掘多语言消息间的隐含图结构关联,实现对语言多样性增加的鲁棒性适应。
本文提出一种基于图补全与知识迁移的多语言社交媒体事件检测方法 MGCGNN。该方法通过构建融合维基百科实体标识(QID)的多语言消息图,可以有效地解决多语言社交媒体事件检测任务中语义对齐与关系连接不完整的关键问题。本文引入随机游走策略来挖掘图中隐式关联,并结合异构图-同构图转换机制,使得图神经网络能更专注于消息节点本身的语义表示学习。在 Event2012多语言数据集上的实验结果表明,MGCGNN能够实现 0.72的NMI值,比现有基线方法提升 4%~5%,其聚类结果的紧凑性与类间区分度通过可视化分析得到进一步证实,显著地提升了多语言场景下事件检测的准确性。未来的研究中将聚焦于优化知识迁移机制。一方面,设计实时实体链接机制来缓解外部知识库覆盖不足的局限,尤其针对低资源语言中的新兴专有名词。另一方面,探索动态负采样策略,增强模型对长尾事件的检测敏感性,进一步提升多语言学习场景下的适应性。
[1]Zhou X,Chen L.Event detection over twitter social media streams.The VLDB Journal,2014,23(3): 381-400
[2]Chen G,Kong Q,Mao W.Online event detection and tracking in social media based on neural similarity metric learning // Proceedings of the 2017 IEEE International Conference on Intelligence and Security Informatics (ISI).Beijing,2017: 182-184
[3]Ertugrul A M,Velioglo B,Karagoz P.Word embedding based event detection on social media // Proceedings of the Hybrid Artificial Intelligent Systems.Cham: Springer International Publishing.2017: 3-14
[4]Singh J,Pandey D,Singh A K.Event detection from real-time twitter streaming data using community detection algorithm.Multimedia Tools and Applications,2024,83(8): 23437-23464
[5]Lau J H,Collier N,Baldwin T.On-line trend analysis with topic models: # twitter trends detection topic model online // Proceedings of COLING.Mumbai,2012:1519-1534
[6]Peng Y,Guo J,Yang C.Learning resource allocation policy: vertex-GNN or edge-GNN?.IEEE Transactions on Machine Learning in Communications and Networking,2024,2: 190-209
[7]Peng H,Li J,Gong Q,et al.Fine-grained event categorization with heterogeneous graph convolutional networks // Proceedings of the 28th International Joint Conference on Artificial Intelligence.Macao: AAAI Press,2019: 3238-3245
[8]Cao Y,Peng H,Wu J,et al.Knowledge-preserving incremental social event detection via heterogeneous GNNS // Proceedings of the Web Conference.Online meeting,2021: 3383-3395
[9]Cao Y,Peng H,Yu Z,et al.Hierarchical and incremental structural entropy minimization for unsupervised social event detection.Proceedings of the AAAI Conference on Artificial Intelligence,2024,38(8):8255-8264
[10]Ren J,Jiang L,Peng H,et al.From known to unknown:quality-aware self-improving graph neural network for open set social event detection // Proceedings of the 31st ACM International Conference on Information &Knowledge Management.Atlanta,2022: 1696-1705
[11]Peng H,Zhang R,Li S,et al.Reinforced,incremental and cross-lingual event detection from social messages.IEEE Transactions on Pattern Analysis and Machine Intelligence,2022,45(1): 980-998
[12]Li P,Yu X,Peng H,et al.Relational prompt-based pretrained language models for social event detection.ACM Transactions on Information Systems,2024,43(1): 1-43
[13]Liu Y,Peng H,Li J,et al.Event detection and evolution in multi-lingual social streams.Frontiers of Computer Science,2020,14: 1-15
[14]Nguyen C,Nguyen H,Dernoncourt F,et al.Transitioning representations between languages for crosslingual event detection via langevin dynamics // Proceedings of the Findings of the Association for Computational Linguistics: EMNLP.Singapore,2023: 14085-14093
[15]Nateras L G,Dernoncourt F,Nguyen T.Hybrid knowledge transfer for improved cross-lingual event detection via hierarchical sample selection // Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers).Toronto,2023: 5414-5427
[16]Ren J,Peng H,Jiang L,et al.Toward cross-lingual social event detection with hybrid knowledge distillation.ACM Transactions on Knowledge Discovery from Data,2024,18(9): 1-36
[17]Peng H,Li J,Song Y,et al.Streaming social event detection and evolution discovery in heterogeneous information networks.ACM Transactions on Knowledge Discovery from Data (TKDD),2021,15(5): 1-33
[18]Suri M,Chopra K,Arora A.NSUT-NLP at CASE 2022 task 1: multilingual protest event detection using transformer-based models // Proceedings of the 5th Workshop on Challenges and Applications of Automated Extraction of Socio-political Events from Text(CASE).Abu Dhabi,2022: 161-168
[19] Cui W,Du J,Wang D,et al.MVGAN: multi-view graph attention network for social event detection.ACM Transactions on Intelligent Systems and Technology (TIST),2021,12(3): 1-24
[20]Grover A,Leskovec J.node2vec: scalable feature learning for networks // Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining.San Francisco,2016: 855-864
[21]Yang X,Yan M,Pan S,et al.Simple and efficient heterogeneous graph neural network.Proceedings of the AAAI Conference on Artificial Intelligence,2023,37(9): 10816-10824
[22]Bing R,Yuan G,Zhu M,et al.Heterogeneous graph neural networks analysis: a survey of techniques,evaluations and applications.Artificial Intelligence Review,2023,56(8): 8003-8042
[23]Li Y,Jian C,Zang G,et al.Node classification oriented adaptive multichannel heterogeneous graph neural network.Knowledge-Based Systems,2024,292:111618
[24]Liu Z,Zhou J.Graph attention networks // Introduction to Graph Neural Networks.Cham: Springer: 2017: 39-41
[25]Mcminn A J,Moshfeghi Y,Jose J M.Building a largescale corpus for evaluating event detection on twitter //Proceedings of the 22nd ACM International Conference on Information & Knowledge Management.San Francisco,2013: 409-418
[26]Mikolov T,Chen K,Corrado G S,et al.Efficient estimation of word representations in vector space[EB/OL].(2013-06-16)[2013-09-07].https://doi.org/10.48550/arXiv.1301.3781
[27]Estévez P A,Tesmer M,Perez C A,et al.Norma-lized mutual information feature selection.IEEE Transactions on Neural Networks,2009,20(2): 189-201
[28]Vinh N X,Epps J,Bailey J.Information theoretic measures for clusterings comparison: is a correction for chance necessary? // Proceedings of the 26th Annual International Conference on Machine Learning.Montreal,2009: 1073-1080
[29]Liu B,Han F X,Niu D,et al.Story forest: extracting events and telling stories from breaking news.ACM Transactions on Knowledge Discovery from Data(TKDD),2020,14(3): 1-28
[30]Hu Q,Moon G,Ng H T.From moments to milestones:Incremental timeline summarization leveraging large language models // Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers).Bangkok,2024: 7232-7246
[31]Zhao Z,Liu Z,Wang Y,et al.RA-HGNN: Attribute completion of heterogeneous graph neural networks based on residual attention mechanism.Expert Systems with Applications,2024,243: 122945
[32]Yang R,Zhu J,Man J,et al.Enhancing text-based knowledge graph completion with zero-shot large language models: a focus on semantic enhancement.Knowledge-Based Systems,2024,300: 112155
Multi-language Social Media Event Detection Based on Graph Completion