北京大学学报(自然科学版) 第62卷 第2期 2026年3月

Acta Scientiarum Naturalium Universitatis Pekinensis, Vol. 62, No. 2 (Mar. 2026)

doi: 10.13209/j.0479-8023.2025.063

国家自然科学基金(52474174, 52374206, 52104090)资助

收稿日期: 2025–03–25;

修回日期: 2025–06–06

YOLO11n-seg-RF: 一种改进的轻量级岩石裂隙检测及分割算法

靳子越 1 李海涛 2,3,4,† 殷海晨 5 杨冠宇 2,3,4,† 陈宇龙 2,3,4 张海宽 2,3,4 李显涛 2,3,4 蔡少阳 2,3,4

1.煤炭科学研究总院, 北京 100013; 2.煤炭科学研究总院有限公司, 北京 100013; 3.煤炭智能开采与岩层控制全国重点实验室, 北京 100013; 4.天地科技股份有限公司北京技术研究分公司, 北京 100013; 5.山东能源集团科技发展有限公司, 济南 250101; †通信作者, E-mail: catchyou@qq.com (李海涛), yangguanyumining@126.com (杨冠宇)

摘要 针对岩石裂隙检测及分割任务中样本分布不均衡、难分类样本学习不足以及小目标分割困难等问题, 提出一种改进 YOLO11n-seg 的轻量级岩石裂隙检测及分割算法 YOLO11n-seg-RF。该算法设计多感受野联合增强注意力模块 JECBAM、基于分组像素级注意力的特征融合模块 GCAConcat 以及高效的快速空间金字塔池化模块 SimSPPF, 并采用 Focaler-IoU 损失函数, 提高对细小且多分支裂隙的分割精度和效率。实验结果表明, YOLO11n-seg-RF 在自制岩石裂隙数据集上表现出色。检测精度指标方面, Precision(Box)达到 88.7%, Recall(Box)达到 77.5%, mAP0.5 (Box)达到 84.2%, mAP0.5:0.95 (Box)达到 67.3%; 分割精度指标方面, Precision (Mask)达到 78.5%, Recall (Mask)达到 68.6%, mAP0.5(Mask)达到 68.0%, mAP0.5:0.95(Mask)达到 27.0%。此外, 该算法的推理速度为 144FPS, 模型参数量为 2.47M, 均优于基线模型 YOLO11n-seg 及其他主流实例分割模型。通过消融实验, 验证了各改进模块的有效性, 可以显著地提升模型的检测和分割精度, 同时降低模型参数量并提高推理速度。泛化实验结果进一步表明, YOLO11n-seg-RF 在公开数据集 crack-seg 和 carparts-seg 上均表现出优越的泛化能力, mAP0.5(Box)和 mAP0.5(Mask)等关键指标均优于其他对比模型。在工程实例中, 将 YOLO11n-seg-RF 应用于矿井钻孔岩心裂隙识别, 通过计算裂隙占比并结合单轴压缩试验, 建立孔隙度–抗压强度方程, 能够快速推算单轴抗压强度, 验证了该算法在实际工程中的应用价值。

关键词 岩石裂隙检测; 实例分割; YOLO11n-seg; 孔隙度; 单轴抗压强度

裂隙是岩石中常见的结构特征, 是应力作用或温度变化等因素导致岩石产生的裂缝或断裂的统称。裂隙的存在对岩石的力学行为和物理性能有重要影响, 甚至在某种程度上起到决定性作用。因此, 快速准确地提取岩石裂隙并开展相关分析, 可为防控岩石失稳破坏提供指导和设计依据, 对矿产资源开采、油气勘探、隧道挖掘和坝体建设等工程项目也具有重要意义。

目前, 岩石裂隙分割方法有两大类: 基于图像处理算法的人工识别与基于深度学习的智能分割。主流图像处理算法包括阈值分割法、边缘检测法和区域生长法等, 这些算法能完整地识别裂隙, 但需要对图像预处理, 效率较低且不适用于噪声污染严重的图像。基于深度学习的智能分割技术包括以下两类: 一是语义分割算法, 如 U-Net[1], SegNet[2]和DeepLab 系列[3]等。王登科等[4]通过改进 U-Net 模型提升裂隙分割精度; 吴承毅[5]通过改进 Deep-LabV3+实现煤岩裂隙的精准分割; 高亮等[6]搭建AttentionU-net 神经网络, 在 U-Net 基础上引入注意门(attention gate), 提高对裂缝区域的关注权重。这些算法能够对裂隙进行像素级的分割, 精确地提取裂隙的边界和形态。二是基于目标检测的实例分割算法, 这类算法不仅能用锚框定位裂隙的位置, 还能准确地分割裂隙。具体分为两阶段实例分割算法与一阶段实例分割算法。经典的两阶段实例分割算法是 R-CNN 系列, 例如 Mask R-CNN[7]和 Cascade Mask-R-CNN[8]等。Han 等[9]通过比较 Mask R-CNN和 U-Net 在土壤裂缝图像上的分割结果, 展示实例分割相对于语义分割的优越性。R-CNN 系列算法在第一阶段使用区域建议网络(RPN)来提取候选边界框区域, 在第二阶段为这些区域生成掩码。这种边界框生成机制倾向于关注更大更集中的区域, 使得 R-CNN 系列更适用于检测较大且较规则的目标。然而, 岩石裂隙通常狭窄、细长且不规则, 具有关键特征(如细小裂缝和复杂分支), 可能无法在RPN 生成的矩形框内完全对齐, 导致不完整或不连续的裂缝分割, 降低裂缝识别的准确性。主流的一阶段实例分割算法有 YOLACT[10]、SOLO[11]系列以及 YOLO 系列[12]算法。与两阶段实例分割算法相比, 一阶段分割算法直接从输入图像中提取特征并生成掩码, 跳过 RPN 生成步骤。这种集成的掩码生成机制可以捕获完整的裂缝掩码, 更适合岩石裂隙分割任务。Song 等[13]将深度学习技术与结构光技术相结合, 应用到混凝土结构表面的检测和裂纹量化中; 苏钰桐等[14]提出基于 YOLOv3 的深度卷积神经网络检测识别数字钻孔图像裂隙的自动识别方法, 采用 Darknet-53 的网络结构进行训练, 实验结果表明该方法快速准确地识别裂隙, 可为围岩裂隙机器的视觉识别提供新的技术支持; 张庆贺等[15]通过 3D 打印技术制作含复杂裂隙的岩石试件, 利用DIC 技术研究其变形破坏过程中的应变场演化, 并结合 YOLOv5 算法, 提出一种智能精准识别动态裂隙的方法; Ji 等[16]引入 YOLACT++, 用于岩石裂隙的自动分割, 并与 Mask R-CNN 和 YOLOv8 两种经典实例分割模型进行比较, 结果表明 YOLACT++具有更强的泛化能力和更准确的图像边界分割结果。这些方法能够较精准地分割裂隙区域, 但对细小且具有复杂分支分布岩石裂隙分割的精度与速度尚未进行深入研究。

在岩石裂隙检测及分割任务中, 裂隙像素在整个图像中占比极小, 导致正样本(裂隙像素)与负样本(背景像素)数量差异悬殊, 即样本分布不均衡问题。同时, 由于裂隙像素特征不明显且分布复杂, 属于难分类样本, 模型在训练过程中容易忽略这些关键特征, 导致学习不足。此外, 裂隙通常表现为细小且多分支结构, 在图像中占据的面积较小, 属于小目标分割问题, 进一步增加分割的难度。

YOLO 系列算法是一阶实例分割算法中主流算法之一, 以其高效性和准确性在众多应用场景中表现出色。YOLO11n-seg[17]是该系列的最新版本, 在分割精度和效率方面均具有显著优势, 其轻量化结构与实时处理能力使其尤其适用于在边缘设备上的部署与应用。然而, 虽然将 YOLO11n-seg 基线网络直接用于岩石裂隙分割任务的效果有所提高, 但是仍然不满足工程现场以及科学研究对细小且复杂分支岩石裂隙的分割精度与速度要求。作为开源社区(https://github.com/ultralytics/)广泛采用的框架, YOLO 系列提供了良好的可扩展性基础。鉴于此, 本文以 YOLO11n-seg 为基线网络, 提出一种改进YOLO11n-seg 的轻量级岩石裂隙检测及分割算法YOLO11n-seg-RF (rock fractures), 针对性地设计多感受野联合增强注意力模块JECBAM、基于分组像素级注意力的特征融合模块GCAConcat 以及高效的快速空间金字塔池化模块SimSPPF, 并采用 Fo-caler-IoU[18]损失函数, 进一步提高其对细小且多分支裂隙的分割精度与效率。

1 YOLO11n-seg-RF算法

YOLOs 的框架结构主要由 3 个部分组成: 主干特征提取网络(Backbone)、颈部特征融合网络(Neck)和头部目标定位及分类网络(Head)。

尺度不同以及差异化的特征会导致骨干网络提取到的特征存在极大的差异, 因此本文采用更高效的池化策略 SimSPPF, 通过使用不同大小的池化核来快速捕捉、融合岩石裂隙中多尺度特征信息。为了进一步对骨干网络提取到的特征进行联合筛选, 在SimSPPF 层后嵌入 JECBAM(Joint Enhancement-CBAM)模块。JECBAM 综合使用 CNN 和 Transfor-mer, 对特征进行不同粒度的筛选和增强, 同时考虑到 Transformer 带来的计算负担, 仅将 JECBAM嵌入特征提取网络的输出部分。YOLOs 框架中的Neck 网络可以通过 Concat 方式, 将不同尺度的特征进行融合。然而, 这种简单的拼接忽视了不同尺度之间的巨大差异。为了让融合更加充分, 本文提出一种基于分组像素级注意力的 GCAConcat 模块, 进一步提升网络的特征融合能力。

YOLO11n-seg-RF 模型的整体架构如图 1 所示。首先, 将岩石图像输入一个能够增强和筛选多尺度信息特征的特征提取网络。然后, 将不同属性的特征输入带有分组像素级注意力特征融合模块的颈部进行充分的融合。最后, 利用融合后的多尺度特征, 得到检测及分割结果。

1.1 多感受野联合增强注意力模块JECBAM

将 CBAM 应用于多尺度岩石图像分割网络, 增强网络对不同尺度特征的捕获能力。首先, 使用通道注意力机制, 对特征进行通道上的筛选, 随后, 使用空间注意力机制, 对通道筛选后的特征进行空间筛选。受限于卷积运算, 空间注意力机制只具备大小固定的感受野, 难以建模岩石裂隙的长距离空间依赖, 因此需对 CBAM 进行优化。与堆叠大卷积核(如 7×7)扩大感受野相比, Transformer 通过注意力权重的动态计算, 可在更低计算成本下实现全局覆盖, 同时自注意力机制可建立像素间的远程依赖关系, 从而有效地捕获裂隙拓扑结构的整体连续性。本研究构建多感受野联合增强的卷积注意力模块JECBAM, 不同尺寸的卷积核(3×3, 5×5, 7×7, 9×9)可以通过渐进扩大的感受野, 捕获裂隙边缘的局部多尺度特征, Transformer 层则通过自注意力机制(式(2)~(4))建立像素间的远程关联, 从而解决裂隙拓扑结构的全局连续性建模问题。JECBAM的网络结构如图 2 所示。

具体地, 定义输入特征为 F∈Rb×c×w×h, 首先对通道维度进行平均池化和最大池化, 得到两个进行初步空间压缩的权重 MA, MM∈Rw×h。然后, 不同于传统的空间注意力, 为平衡局部细节与全局结构感知, 采用多尺度卷积与 Transformer 协同的权重生成策略, 为初步压缩的特征添加可学习权重:

width=142,height=15.6, (1)

其中, Mi表示第 i个卷积进行特征提取的特征图, conv2×(i+1)(·)表示卷积核大小为 2×(i+1)的卷积层, i=1, 2, 3, 4。使用一个 transformer 层进行特征提取:

width=108,height=14.95, (2)

width=223.9,height=274.8

图1 YOLO11n-seg-RF 模型的整体架构

Fig. 1 Overall architecture of YOLO11n-seg-RF

其中, Mt表示经过 transformer 进行全局结构信息提取的权重图, f(·)表示 transformer 层。定义 transfor-mer 层的输入为 x, 输出为 y, 则

width=98.05,height=14.9, (3)

width=83.15,height=14.9, (4)

其中, xSA表示经过自注意力计算后的特征图, MHA (·)表示多头注意力, MLP(·)表示全连接层。使用不同感受野的卷积层和具备全局感受能力的 transfor-mer 层为空间权重提供多尺度的信息。将不同尺度的权重图进行空间上合并:

width=162.6,height=14.9, (5)

其中, S(·)表示 Sigmoid 函数, conv3表示卷积核为 3的卷积层。最终, 通过权重对输入特征 F进行处理, 得到输出:

width=58.35,height=13.65 (6)

其中, Ä表示空间上逐元素相乘。通过这种方式, 对特征提取网络输出的特征进行多尺度的选择性增强。该设计通过局部–全局特征互补(卷积聚焦微观纹理, Transformer 编码宏观结构), 显著提升跨尺度裂隙特征的提取能力, 相比于传统的 CBAM 层, 在岩石裂隙图像分割任务中表现出较强的优势。

1.2 基于分组像素级注意力的特征融合模块GCAConcat

在岩石裂隙图像中, 来自不同尺度的特征在不同通道和空间位置的特征重要性也不相同, 传统的Concat 操作不能动态地调整特征的重要性, 无法突出关键特征。并且, 单一的注意力机制(如通道注意力或空间注意力)在捕捉特征信息时具有局限性, 不能同时利用多维度的全局信息。GCAConcat 模块通过共享卷积层和注意力机制, 生成高度和宽度方向的注意力图, 对输入特征图进行加权, 增强重要特征的表达, 抑制不重要特征。同时, GCAConcat通过在高度和宽度方向分别进行全局平均池化和最大池化, 可以更好地处理 concat 后多维度的全局信息。值得注意的是, 通过分组处理, GCAConcat 模块将输入特征图按通道数分组, 减少每组特征图的计算量, 同时保持特征表达的多样性和丰富性。GCAConcat 模块的网络结构如图 3 所示。

width=479.25,height=232.2

图2 JECBAM 的网络结构

Fig. 2 Network architecture of JECBAM

对 Concat 后的特征图width=63.3,height=14.9 按照通道数分为 G组, 每组包含 C/G个通道。B为批大小, C为通道数, HW分别为特征图的高度和宽度。分组后的特征图表示为

width=74.5,height=23.6 (7)

对分组后的特征图, 在高度方向和宽度方向分别进行全局平均池化和全局最大池化操作:

width=140.3,height=23.6, (8)

width=144,height=23.6, (9)

width=141.5,height=23.6, (10)

width=145.25,height=23.6。 (11)

对每个分组特征图, 应用共享的卷积层进行特征处理。该共享卷积层由两个 1×1 卷积层、批量归一化层和 ReLU 激活函数组成, 用于降低和恢复通道维度:

width=182.5,height=16.15, (12)

width=184.95,height=16.15。 (13)

然后, 通过将卷积层的输出相加, 并应用 Sigmoid激活函数, 生成高度方向和宽度方向的注意力权重:

width=141.5,height=23.6, (14)

width=144,height=23.6, (15)

其中, σ表示 Sigmoid 激活函数。最后, 将输入特征图按注意力权重进行加权, 得到输出特征图:

width=116.7,height=16.15。 (16)

1.3 高效的快速空间金字塔池化模块 Sim-SPPF

为确保对多尺度岩石裂隙图像的分割性能, 本文采用更高效的 SimSPPF 代替传统 SPPF 网络。如图 4 所示, SimSPPF 通过连接 3 个 5×5 的最大池化层来处理输入的多尺度特征, 从而生成大小固定的特征图。该模块通过并行残差结构, 将池化后的特征进行拼接, 同时另一部分特征继续池化, 获取不同层次的特征。这些特征图增强了模型的感受野, 并改善了特征表示能力。具体地, 来自不同模态的特征 X 首先通过第一个卷积层来压缩通道数, 并提升特征的非线性表达能力:

width=117.95,height=14.9, (17)

其中, conv1代表卷积核大小为 1×1 的卷积层, BN 代表批归一化, ReLU 表示激活函数, 通过该模块, 使得通道数变为原来的 1/2。然后, 对 X1进行多级池化, 以便感知不同尺度的空间特征:

width=78.2,height=14.9, (18)

width=74.5,height=14.9, (19)

width=75.7,height=14.9, (20)

其中, MaxPool(·)代表最大池化操作。将中间张量X1与多级池化后的张量沿着通道维度进行拼接, 融合不同特征中的多尺度信息, 提高特征多样性:

width=104.3,height=14.9, (21)

其中, Z代表拼接后的张量, 其通道数为输入通道数的 2 倍。最后, 通过卷积核大小为 1×1 的卷积层, 将拼接后的特征图进一步压缩到目标输出通道, 并通过批归一化和 ReLU 激活函数, 提高特征表达能力, 得到最终输出 O:

width=110.5,height=14.9。 (22)

1.4 损失函数Focaler-IoU

样本不均衡问题存在于各类目标检测任务中, 根据样本中目标被检测的难易程度, 可将样本分为困难样本(如小尺寸和低对比度裂隙)与简单样本(如大尺寸目标)。传统损失函数(如 Smooth L1Loss[19]和IoU Loss[20])对所有样本施加均等权重, 导致模型易被简单样本主导训练, 忽视对关键困难样本的学习。针对岩石裂隙检测中困难样本占比高的特性, 本文采用 Focaler-IoU 损失函数来增强模型对样本的敏感度和分类准确度。Focaler-IoU 通过线性区间映射方法, 对原始的 IoU 损失进行重构, 使得模型能够在不同的 IoU 区间内具备差异化的敏感度。

width=477.6,height=256.3

图3 GCAConcat 的网络结构

Fig. 3 Network architecture of GCAConcat

width=223.8,height=163.2

图4 SimSPPF 的网络结构

Fig. 4 Network architecture of SimSPPF

Focaler-IoU 的重要意义体现在其对岩石裂隙图像特性的深度适配。与 Focal Loss[21]依赖分类概率间接地调节权重的方法相比, Focaler-IoU 直接基于IoU 值构建分段线性函数, 避免了概率动态范围压缩导致的梯度衰减问题。与 GIoU[22]和 DIoU[23]等通过几何约束扩展 IoU 优化范围的方法相比, Focaler-IoU 的分段线性机制规避了复杂运算(如中心点距离和长宽比计算)引发的梯度震荡, 尤其适用于边界模糊的小目标裂隙。此外, Focaler-IoU 的计算复杂度与标准 IoU Loss 一致, 相较于需额外计算几何参数的 DIoU 和 CIoU, 其轻量化特性更利于嵌入式设备的部署, 为矿山现场实时检测提供了技术上的可行性。Focaler-IoU 函数的计算方法[18]如下:

width=95.6,height=16.15, (23)

width=151.45,height=60.85 (24)

其中, d为 IoU 下限阈值, u为 IoU 上限阈值。当 IoU <d时, 损失置零, 以便忽略背景噪声等简单样本, 避免其主导训练; 当 IoU 在 du之间时, 损失随IoU 线性增加, 强化模糊裂隙边界等困难样本的特征学习; 当 IoU>u时, 损失恒为 1, 可以稳定高质量预测结果, 确保模型的稳定性和鲁棒性。困难样本和简单样本的线性区间映射曲线如图 5 所示。

width=440.6,height=172.9

红框和黑框分别表示Anchor框与真实框。A: IoU=0, Anchor框与真实框无重叠; B: d<IoU<u, Anchor框与真实框部分重叠; C: IoU=1, Anchor框与真实框完全重合

图5 困难样本和简单样本的线性区间映射曲线[18]

Fig. 5 Linear interval mapping curve of hard and easy samples[18]

2 实验过程及结果

2.1 数据采集与数据集构建

为获取丰富且具代表性的岩石裂隙样本, 本研究采用多设备协同采集策略: 在实验室环境中, 使用 Basler acA4024-29μm CCD 工业相机进行高精度成像, 该相机搭载 2000 万像素 CMOS 传感器, 分辨率设置为 4000 像素×3000 像素, 配备 50mm 定焦镜头与环形 LED 光源(色温为 5500K, 亮度可调), 拍摄距离固定为 30cm, 确保光线均匀且成像尺度一致。在野外复杂环境中, 采用尼康 Z9 全画幅相机, 配置 4570 万像素堆栈式 CMOS 传感器与 Nikkor Z 24-70mm f/2.8S 镜头, 将分辨率设置为 6000 像素× 4000 像素, 焦距固定为 50mm, 于自然光照条件下(光照强度为 5000~10000Lux)多角度地拍摄砂岩、花岗岩和页岩等岩石样本, 涵盖顺光、侧光和逆光等多种光照方向及水平、垂直和斜向裂隙走向。共采集原始图像 2500 张, 覆盖 5 类岩石以及 12 种裂隙形态(如单支裂隙、交叉裂隙和网状裂隙), 确保数据的多样性。

考虑到深度学习模型训练时对计算机资源的需求以及训练效率, 对原始图像进行标准化预处理。首先基于“裂隙中心优先”原则, 采用 Canny 边缘检测算法定位裂隙主干区域, 将图像统一裁剪为 512像素×512 像素的子图, 确保每张子图至少包含一条完整裂隙且裂隙像素占比≥1%。同时利用 HSV 色彩空间阈值分割(饱和度 S<30, 明度 V>200), 自动过滤无裂隙的纯色背景区域, 减少冗余数据。考虑到模型训练的鲁棒性需求, 对训练集施加随机旋转(±30°)、水平/垂直翻转、高斯噪声(σ=0.01)及颜色抖动(亮度±20%, 对比度±15%)。

由 3 名具有地质学背景的专业人员完成标注工作, 严格遵循宽度≥0.1mm, 长度≥2mm 的裂隙界定标准, 使用 Labelme 工具, 手动绘制裂隙边界的多边形轮廓, 标注精度控制在像素级, 交叉裂隙按独立分支分别标注, 避免掩码重叠。为保障标注一致性, 随机抽取 20%的样本进行交叉验证, 争议区域由 3 位标注人员讨论后仲裁。最终构建一个 1200 组裂隙图像与标签紧密对应的完备数据集, 涵盖均衡的岩石类型与裂隙形态比例, 其中训练集 800 张, 验证集 200 张, 测试集 200 张。将标注信息存储为JSON 文件, 图 6 展示部分原图与对应标签图。

2.2 实验环境与参数设置

本研究的所有实验均在统一平台上进行, 采用Ubuntu 22.04 操作系统, 基于 Python 3.9, PyTorch 2.0.0 及 CUDA 12.3 构建开发环境, 配备 RTX 4090D显卡作为算力资源。本文使用 AdamW 优化器, 其动量参数为 0.9, 批量大小为 16, 权重衰减为 4×10–5,初始学习率为 10–4, 总迭代次数为 200, 线性预热次数为 5 次。随机旋转、随机颜色抖动、模糊以及随机水平和垂直翻转的可能性分别设置为0.5, 0.5, 0.2, 0.5 和 0.5。最大随机旋转度为 30。随机颜色抖动的亮度、对比度、饱和度和色调分别为 32, 0.5, 0.5 和0.1。高斯模糊的半径设置为 5。此外, 随机裁剪用于生成 448 像素×448 像素的输入图像, Focaler-IoU损失函数用于评估预测与标签之间的差异, 所有模型的权重都按照无限制正态分布进行初始化。

width=212.6,height=212.6

图6 数据集展示

Fig. 6 Dataset illustration

2.3 评价指标

使用检测精确率 Precision (Box)、分割精确率Precision (Mask)、检测召回率 Recall (Box)、分割召回率 Recall (Mask)、检测平均精度均值 mAP0.5 (Box)、分割平均精度均值 mAP0.5 (Mask)、检测平均精度均值 mAP0.5:0.95 (Box)、分割平均精度均值mAP0.5:0.95 (Mask)、参数量(Parameter)和每秒帧数(FPS)等指标, 对模型性能进行评估。其中, 平均精度 mAP 用于衡量模型在多个类别上的整体表现水平, mAP0.5 指 IoU(交并比)阈值为 0.5 时的 mAP值。mAP0.5:0.95 是一个更严苛的评价指标, 计算IoU 在 0.5~0.95(步长为 0.05)范围内的平均 mAP, 能更全面地评估模型在不同 IoU 阈值下的综合性能。

评价指标的计算方法如下:

width=85.65,height=26.05, (25)

width=74.5,height=27.3, (26)

width=105.5,height=27.3, (27)

width=132.85,height=27.3, (28)

其中, TP 表示正样本被正确分类, TN 表示负样本被正确分类, FP 表示负样本被错误分类, FN 表示正样本被错误分类, P表示精度。

2.4 训练过程及可视化分析

利用训练集和验证集进行 200 次迭代训练及验证, 使用训练所得的最优权重在测试集上进行测试, 得到裂隙的检测结果如图 7 所示。可以直观地看出, YOLO11n-seg-RF 对不同方向、形状、粗细乃至不同背景的岩石裂隙均能做到精准检测和分割。训练过程中, YOLO11n-seg-RF 的相关评估指标 Preci- sion(Box)、Precision(Mask)、Recall(Box)、Recall (Mask)、mAP0.5(Box)、mAP0.5(Mask)、mAP0.5: 0.95(Box)、mAP0.5:0.95(Mask)、边界框损失(Box Loss)、分割损失(Seg Loss)、分类损失(Cls Loss)和蒸馏特征损失(Dfl Loss)随迭代训练次数变化的曲线如图 8 所示。可以看出, 随迭代训练次数的增加, 精确率和召回率逐渐增加, 在迭代接近 150 次时, 精确率和召回率曲线趋向平缓, Precision(Box), Precision(Mask), Recall(Box)和 Recall(Mask)分别达到 88.7%, 78.5%, 77.5%和 68.6%。迭代结果表明本文算法具有良好的检测和分割精度。从衡量网络整体性能的 mAP0.5 和 mAP0.5:0.95 指标可以发现, mAP0.5 (Box), mAP0.5 (Mask), mAP0.5:0.95 (Box)和mAP0.5:0.95 (Mask)分别达到 84.2%, 68%, 67.3%和27%, 表明模型高精度边界拟合能力较强, 模型内部检测效果比分割效果更优。从边界框损失(BoxLoss)、分割损失(Seg Loss)分类损失(Cls Loss)以及蒸馏特征损失(Dfl Loss)的训练曲线可以看出, 损失函数呈现下降趋势, 160 次迭代训练后, 模型趋于稳定, 边界框损失、分类损失、分割损失和蒸馏特征损失分别降至 0.597, 0.978, 0.541 和 1.05, 达到整体最优解, 表明该网络模型的检测收敛效果较优。

width=322.4,height=159.1

图7 裂隙检测和分割结果

Fig. 7 Fracture detection and segmentation results

width=408.2,height=503.6

图8 评价指标随迭代训练次数的变化

Fig. 8 Variation of evaluation metrics with training iterations

图 9 展示训练集中裂隙数据标签的分布情况。可以看出, 本文构建的岩石裂隙数据集裂隙实例丰富, 涵盖多样化的边界框尺寸和裂隙高宽比, 且裂隙在图像中的位置分布广泛。这些特点表明数据集能够为模型提供全面的训练样本, 有助于模型学习不同尺寸、位置和形状的裂隙特征, 从而提高模型的泛化能力和鲁棒性。

2.5 不同模型的对比实验

本文将 YOLO11n-seg-RF 与当前主流实例分割模型在自制岩石裂隙数据集上进行比较。当前主流实例分割模型为 Mask-RCNN, YOLOv5n-seg, YO-LOv8n-seg, YOLOv9c-seg, YOLACT, SO-LOv2, Co-ndInst, BoxInst 以及基线模型 YOLO11n-seg。模型性能使用 Precision(Box), mAP0.5(Box), Precision (Mask), mAP0.5 (Mask), Parameter 和 FPS 进行评估(表 1)。结果显示, YOLO11n-seg-RF(本文模型)在多个关键性能指标上均优于其他主流模型。在目标检测精度方面, YOLO11n-seg-RF 的 Precision(Box)为88.7%, mAP0.5(Box)为 84.2%, 显著高于其他模型。在分割掩码性能上, YOLO11n-seg-RF 的 Precision(Mask)为 78.5%, mAP0.5(Mask)为 68.0%, 优于 YO-LOv9c-seg(Precision(Mask)为 76.8%, mAP0.5(Mask)为 67.9%)和 SOLOv2(Precision(Mask)为 75.2%, mAP0.5(Mask)为 65.6%)。同时, YOLO11n-seg-RF的参数量仅为 2.47×106, 远低于其他模型。此外, YOLO11n-seg-RF 的 FPS 高达 144, 远超其他模型。结果表明, YOLO11n-seg-RF 在检测精度、分割精度、模型轻量化和实时性方面均表现出色, 适用于岩石裂隙检测及分割任务。

为了更直观地展示不同模型的表现, 从测试集中挑选 3 张不同复杂度的图像, 各模型的检测和分割效果如图 10 所示。第 1 张图片的裂隙和背景均较为简单, 所有模型均可以将裂隙准确定位并分割。YOLO11n-seg-RF 的出色表现是准确地将下方分支末端的细微割裂分离出来(下方分支末端裂隙并未贯通)。第 2 张图片的裂隙分支和背景相对复杂(主要表现为四叉分支), 不同的模型对正上方的竖向分支有着不同的表现, 其中只有 YOLO11n-seg 及YOLO11n-seg-RF 将该竖向分支完整地分割出来。出乎意料的是, YOLO11n-seg 还将图像左侧边缘极浅的细微裂隙也准确地识别出来。第 3 张图片的特征为主裂隙下方末端分支细小且复杂, 能够检测到细小分支存在的只有 SOLOv2, YOLO11n-seg 以及YOLO11n-seg-RF。然而, SOLOv2 的定位范围偏大且有偏差, 不够精准; YOLO11n-seg 定位相对精准, 但没有全面覆盖裂隙末端; 只有 YOLO11n-seg-RF将末端分支又分为两个贯通的细小裂隙, 做到准确检测及精准分割。

width=306.2,height=299.5

图9 训练集中裂隙标签的分布概况

Fig. 9 Overview of fracture label distribution in the training dataset

表1 不同模型的实验结果对比

Table 1 Comparative experimental results of different models

模型检测分割参数量/106每秒帧数精确率/%mAP0.5/%分割精确率/%mAP0.5/% Mask-RCNN83.578.274.165.844.10 5 YOLOv5n-seg84.280.176.366.7 7.3045 YOLOv8n-seg86.182.377.668.4 8.5060 YOLOv9c-seg85.281.876.867.99.2055 YOLACT83.077.973.564.210.2040 SOLOv284.580.575.265.611.5035 CondInst85.882.178.369.212.3030 BoxInst84.780.874.964.811.8038 YOLO11n-seg86.583.277.967.1 7.80120 YOLO11n-seg-RF (本文模型)88.784.278.568.0 2.47144

width=333.95,height=349.4

图10 各模型的检测及分割效果对比

Fig. 10 Comparison of detection and segmentation performance across different models

2.6 消融实验

为验证 YOLO11n-seg-RF 中改进模块的有效性, 本文在自制岩石裂隙数据集上进行消融实验, 以基线模型(YOLO11n-seg)为起点, 逐步叠加 Focaler-IoU 损失(A)、JECBAM 模块(B)、GCAConcat 模块(C)和 SimSPPF 模块(D), 系统地分析各模块及其组合对性能的优化过程, 实验结果见表 2。

单模块优化分析结果表明, 引入 Focaler-IoU 损失(A)后, 模型通过动态地调整困难样本的权重, Precision (Box)提升至 79.2%(+1.7%), mAP0.5(Box)提升至 68.4%(+0.7%), 且 FPS 保持不变, 有效地缓解样本不均衡问题。进一步添加 JECBAM 模块(B), 通过多尺度卷积与 Transformer 的协同注意力机制, Precision(Box)提升至 78.1%(+0.6%), 参数量降至2.61M (–7.4%), FPS 提升至 126, 在降低计算成本的同时, 增强了特征表达能力。引入 GCAConcat 模块(C)后, 全局上下文聚合, 优化了多尺度特征融合, Precision (Box)大幅提升至 81.1%(+3.6%), mAP0.5(Box)达 68.3%(+0.6%), FPS 为 125。替换 SimSPPF模块(D)后, 多级池化策略增强了模型对裂隙形态的适应性, mAP0.5(Box)提升至 78.8% (+1.1%), FPS增至 127。

模块组合优化过程揭示了改进策略的协同效应。当联合 Focaler-IoU 与 JECBAM(A+B)时, 模型通过损失函数与特征增强的互补, Precision(Box) 提升至 83.1% (+5.6%), mAP0.5 (Box)达到 80.3% (+12.6%), 表明二者在困难样本学习和多尺度特征提取上形成有效协同。进一步结合 JECBAM 与GCAConcat(B+C), 注意力机制与动态特征融合的联合作用使 Precision (Box)提升至 85.2%(+7.7%), FPS 增至 133, 显著地改善细小裂隙的定位精度。引入 SimSPPF (B+C+D)后, 多尺度池化与注意力模块的联合优化使参数量进一步压缩至 2.59M(–8.2%), mAP0.5(Box)达到 80.5%(+12.8%), 特征多样性显著增强。最终, 全模块组合(A+B+C+D)实现 Precision (Box)=88.7% (+11.2%), mAP0.5 (Mask)=68% (+8.6%),参数量减少至 2.47M (–12.4%), FPS 升高至 144。

表2 消融实验的相关指标对比

Table 2 Comparison of relevant metrics in the ablation experiments

基线模型ABCD检测参数量/106每秒帧数精确率/%召回率/%mAP0.5/%mAP0.5:0.95/% YOLO11n-seg77.567.777.659.42.82120 √79.268.477.859.52.82120 √78.167.977.659.52.61126 √81.168.377.961.82.7125 √80.769.178.861.52.79127 √√83.172.480.363.22.61126 √√85.273.80.563.52.53133 √√85.472.980.563.82.59135 √√√86.975.382.965.92.47144 √√√√88.777.584.267.32.47144 基线模型ABCD分割参数量/106每秒帧数 精确率/%召回率/%mAP0.5/%mAP0.5:0.95/% YOLO11n-seg67.560.960222.82120 √69.762.762.122.92.82120 √70.162.961.922.32.61126 √69.96362.222.22.7125 √69.662.862.122.12.79127 √√73.364.163.923.22.61126 √√72.963.863.823.42.53133 √√73.264.26423.32.59135 √√√76.867.166.425.52.47144 √√√√78.568.668272.47144

说明: √表示采用对应策略。

实验结果显示, 在从基线模型到最终模型的优化过程中, 各模块的逐步叠加呈现显著的正向累积效应。Focaler-IoU 通过动态样本权重分配, 强化了困难样本学习, JECBAM 与 GCAConcat 分别从局部–全局特征增强和多尺度融合角度提升模型表达能力, SimSPPF 的高效池化策略降低了计算冗余。各模块组合, 实现精度、轻量化与实时性的全面提升, 为矿山场景的嵌入式部署提供了高效解决方案。

2.7 泛化实验

为评估 YOLO11n-seg-RF 的泛化能力, 本文分别在 crack-seg 和 carparts-seg 数据集上将 YOLO11n-seg-RF 与 Mask-RCNN, YOLOv5n-seg, YOLOv8n-seg, YOLOv9c-seg, YOLACT, SOLOv2, CondInst, BoxInst 以及基线模型 YOLO11n-seg 进行比较。实验结果的部分关键指标见表 3。

在 crack-seg 数据集上, 改进模型实现 82.3%的mAP0.5(Box)和 66.3%的 mAP0.5(Mask), 比原始YOLO11n-seg 的 mAP0.5 (Box)高 0.8%, mAP (Mask)高 1.3%。此外, 比 YOLOv9c-seg 的 mAP0.5(Box) 高 1.8%, mAP0.5(Mask)高 2.8%。在 carparts-seg 数据集上, YOLO11n-seg-RF 实现了 85.4%的 mAP0.5 (Box)和 75.5%的 mAP0.5(Mask)。与基线 YOLO11n-seg, mAP0.5(Box)提升 0.9%, mAP0.5(Mask)提升1.5%。本文方法在检测和分割精度上表现出色, 参数更少, 速度更快, 适用于对实时性和资源效率要求较高的实际应用场景。

表3 在 crack-seg 和 carparts-seg 数据集上的对比实验

Table 3 Comparative experiments on the crack-seg and carparts-seg dataset

模型crack-seg数据集检测分割参数量/106每秒帧数精确率/%mAP0.5/%精确率/%mAP0.5/% Mask-RCNN81.276.572.063.044.10 5 YOLOv5n-seg83.179.575.065.07.30 45 YOLOv8n-seg85.381.074.064.08.50 60 YOLOv9c-seg84.080.573.063.59.20 55 YOLACT82.078.071.062.010.20 40 SOLOv283.580.074.564.511.50 35 CondInst84.581.075.565.512.30 30 BoxInst83.079.072.563.011.80 38 YOLO11n-seg85.581.575.565.07.80120 YOLO11n-seg-RF (本文模型)86.582.376.566.32.47144 模型carparts-seg数据集 检测分割参数量/106每秒帧数 精确率/%mAP0.5/%精确率/%mAP0.5/% Mask-RCNN83.279.175.368.444.10 5 YOLOv5n-seg85.181.278.370.57.30 45 YOLOv8n-seg87.483.280.172.38.50 60 YOLOv9c-seg86.382.179.471.29.20 55 YOLACT84.280.376.569.710.20 40 SOLOv286.783.681.873.911.50 35 CondInst87.884.282.974.812.30 30 BoxInst85.881.778.970.811.80 38 YOLO11n-seg88.784.882.974.27.80120 YOLO11n-seg-RF (本文模型)89.685.483.775.52.47144

3 工程实例

3.1 钻孔岩心裂隙识别

本文对鄂尔多斯新街煤矿开展关键层位钻孔岩心的全维度数据进行采集, 明确煤岩心内部裂隙分布。CT 扫描设备为天津三英精密仪器股份有限公司第二代全岩心设备 Geoscan200, 扫描精度约为100μm。

本文在新街煤矿共扫描岩心 62.25m。岩心取自目标区域的主采煤层及其邻近的砂岩层(深度 500 ~620m), 该类层位因岩性组合复杂、裂隙发育规律与工程响应密切相关而被列为重点研究对象。考虑到岩心数量众多, 以其中一段典型砂岩层(岩性为细粒砂岩, 具河流相沉积特征)为例, 利用 Avizo 软件对 CT 扫描数据进行重构, 并导出其切片。鉴于YOLO11n-seg-RF 具有出色的泛化能力, 利用其分割功能, 对该岩心所有层位 CT 切片中的裂隙进行精准分割, 得到岩心每层切片图像中的裂隙像素占比(即该层裂隙占比), 切片原图及对应分割结果如图 11 所示。对识别到的孔裂隙面积和体积(由每层切片累积计算得到)进行统计, 结果如图 12 所示。可以看出, 该砂岩较为致密, 大裂隙发育占比较少, 大多为小尺寸孔隙。体积小于 2´107nm3的孔隙占84%, 表面积在 2´105nm2以内的孔隙占 77%, 更大尺寸的孔隙占比较小。

width=460.65,height=148.05

图11 岩心 CT 扫描重构图像

Fig. 11 CT scan reconstructed images of the core

width=466.3,height=159.1

图12 孔裂隙的表面积和体积分布

Fig. 12 Superficial area and volume of pore-crack

3.2 孔隙度与力学参数的相关性

将钻孔岩心加工成F50´H100mm 的标准圆柱体试件, 对加工后的试件进行 CT 扫描, 获得 CT 切片图像, 并利用 YOLO11n-seg-RF 计算孔隙度。最后对试件进行单轴压缩实验, 获得抗压强度和弹性模量。

图 13 展示试件的孔隙面积占比沿试件高度的分布, 通过计算得到该试件的孔隙度为 2.352%。将孔隙度与抗压强度和弹性模量进行关联, 结果如图14 所示。可以看出, 试件的孔隙度与其抗压强度和弹性模量负相关, 即孔隙度越大, 其抗压强度和弹性模量越小。随着孔隙度增大, 其抗压强度和弹性模量的变化会逐渐趋于平缓。当孔隙度小于 2%时, 抗压强度和弹性模量变化幅度较大。当孔隙度大于2%时, 抗压强度和弹性模量的变化幅度明显减小。对抗压强度进行拟合, 得到砂岩孔隙度与单轴抗压强度呈指数关系:

width=133.8,height=183.8

图13 孔隙面积占比沿试件高度的分布

Fig. 13 Distribution of pore-crack area proportions along the height of the specimen

width=220.55,height=170.5

图14 孔隙度与抗压强度和弹性模量的相关性

Fig. 14 Correlation among porosity, uniaxial compressive strength, and elastic modulus

sc = 4.682 + 6.878ef/0.0183, (29)

式中, sc为单轴抗压强度, f为孔隙度。该结果与李杰林等[24]得出的孔隙率与单轴抗压强度关系满足指数分布的结论基本上一致, 表明采用 CT 图像技术开展岩石孔隙特征与其力学性能研究是可行的, 根据所建立的孔隙度–抗压强度方程, 可以快速地推算其单轴抗压强度。

4 结论

本文提出一种改进 YOLO11n-seg 的轻量级岩石裂隙检测及分割算法 YOLO11n-seg-RF, 其性能优于当前主流的一阶段实例分割方法, 解决了实际工程中细小且具有复杂分支岩石裂隙的检测和分割的问题, 得到如下结论。

1)在 YOLO11n-seg-RF 的主干特征提取网络中, JECBAM 通过结合不同感受野的卷积层和 Transfor-mer 层, 实现对特征的多尺度筛选与增强, SimSPPF通过多级池化和并行残差结构, 进一步增强模型的感受野和特征表示能力。在颈部特征融合网络中, GCAConcat 通过动态地调整不同尺度特征的重要性, 克服了传统融合方法的局限性, 显著提升了特征融合的效果。因此, YOLO11n-seg-RF 能够高效地应对岩石裂隙图像的复杂性。

2)利用 Focaler-IoU, 通过线性区间映射重构IoU 损失, 能够根据设定的阈值 du, 动态地调整不同 IoU 值的样本权重。对于裂隙分割任务, 可以使模型在训练过程中重点关注裂隙像素, 减少背景像素对训练过程的主导作用, 从而提升对裂隙的分割性能。

3)经过泛化验证后, 将 YOLO11n-seg-RF 应用于矿井钻孔岩心裂隙识别, 通过计算裂隙占比并结合单轴压缩试验建立孔隙度–抗压强度方程, 可以快速地推算单轴抗压强度。

4)从评估指标来看, 包括 YOLO11n-seg-RF 在内的一阶段实例分割算法的检测效果优于分割效果, 未来的工作中可重点关注提高算法在分割任务中的表现。

参考文献

[1] Ronneberger O, Fischer P, Brox T. U-Net: convolu-teonal networks for biomedical image segmentation // Medical Image Computing and Computer-Assisted In-tervention — MICCAI 2015: 18th International Con-ference. Munich: Springer International Publishing, 2015: 234–241

[2] Badrinarayanan V, Kendall A, Cipolla R. Segnet: a deep convolutional encoder-decoder architecture for image segmentation. IEEE Transactions on Pattern Ana-lysis and Machine Intelligence, 2017, 39(12): 2481–2495

[3] Chen L C, Papandreou G, Kokkinos I, et al. Deeplab: semantic image segmentation with deep convolutional nets, atrous convolution, and fully connected CRFS. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2017, 40(4): 834–848

[4] 王登科, 房禹, 魏建平, 等. 基于深度学习的煤岩Micro-CT 裂隙智能提取与应用. 煤炭学报, 2024, 49(8): 3439–3452

[5] 吴承毅. 基于深度学习的煤岩体 CT 图像裂隙分割方法研究[D]. 焦作: 河南理工大学, 2023

[6] 高亮, 饶法强, 杨忠民, 等. 基于语义分割的公路路面裂缝智能识别技术研究. 中外公路, 2024, 44 (5): 241–247

[7] He K, Gkioxari G, Dollár P, et al. Mask R-CNN // Proceedings of the IEEE International Conference on Computer Vision. Venice, 2017: 2961–2969

[8] Wu M, Yue H, Wang J, et al. Object detection based on RGC mask R‐CNN. IET Image Processing, 2020, 14 (8): 1502–1508

[9] Han X L, Jiang N J, Yang Y F, et al. Deep learning based approach for the instance segmentation of clayey soil desiccation cracks. Computers and Geotechnics, 2022, 146: 104733

[10] Bolya D, Zhou C, Xiao F, et al. Yolact: real-time in-stance segmentation // Proceedings of the IEEE/CVF International Conference on Computer Vision. Seoul, 2019: 9157–9166

[11] Wang X, Kong T, Shen C, et al. Solo: Segmenting objects by locations // Computer Vision — ECCV 2020: 16th European Conference. Glasgow: Springer Interna-tional Publishing, 2020: 649–665

[12] Redmon J. You only look once: unified, real-time ob-ject detection // Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. Las Ve-gas, 2016: 779–788

[13] Song E P, Eem S H, Jeon H. Concrete crack detection and quantification using deep leaming and structured light. Construction and Building Materials, 2020, 252 (5): 119096

[14] 苏钰桐, 杨炜毅, 李俊霖. 基于 YOLO v3 的煤岩钻孔图像裂隙智能识别方法. 煤矿安全, 2021, 52(4): 156–161

[15] 张庆贺, 陈晨, 袁亮, 等. 基于 DIC 和 YOLO 算法的复杂裂隙岩石破坏过程动态裂隙早期智能识别. 煤炭学报, 2022, 47(3): 1208–1219

[16] Ji Y, Song S, Zhang W, et al. Automatic identification of rock fractures based on deep learning. Engineering Geology, 2025, 345: 107874

[17] Khanam R, Hussain M. Yolov11: an overview of the key architectural enhancements [EB/OL]. (2024–10–23)[2025–01–20]. https://arxiv.org/abs/2410.17725

[18] Zhang H, Zhang S. Focaler-IoU: more focused inter-section over union loss [EB/OL]. (2024–01–19)[2025–01–20].https://arxiv.org/abs/2401.10525

[19] Liu C, Yu S, Yu M, et al. Adaptive smooth L1 loss: a better way to regress scene texts with extreme aspect ratios // 2021 IEEE Symposium on Computers and Communications (ISCC). Athens: IEEE, 2021: 1–7

[20] Zhou D, Fang J, Song X, et al. Iou loss for 2d/3d object detection // 2019 International Conference on 3D vi-sion (3DV). Quebec: IEEE, 2019: 85–94

[21] Lin T Y, Goyal P, Girshick R, et al. Focal loss for dense object detection // Proceedings of the IEEE Interna-tional Conference on Computer Vision. Venice, 2017: 2980–2988

[22] Rezatofighi H, Tsoi N, Gwak J Y, et al. Generalized intersection over union: a metric and a loss for boun-ding box regression // Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recogni-tion. Long Beach, 2019: 658–666

[23] Zheng Z, Wang P, Liu W, et al. Distance-IoU loss: faster and better learning for bounding box regression // Proceedings of the AAAI Conference on Artificial Intelligence, 2020, 34(7): 12993–13000

[24] 李杰林, 周科平, 柯波. 冻融后花岗岩孔隙发育特征与单轴抗压强度的关联分析. 煤炭学报, 2015, 40 (8): 1783–1789

YOLO11n-seg-RF: An Improved Lightweight Rock Fracture Detection and Segmentation Algorithm

JIN Ziyue1, LI Haitao2,3,4,†, YIN Haichen5, YANG Guanyu2,3,4,†, CHEN Yulong2,3,4, ZHANG Haikuan2,3,4, LI Xiantao2,3,4, CAI Shaoyang2,3,4

1. China Coal Research Institute, Beijing 100013; 2. Chinese Institute of Coal Science, Beijing 100013; 3. State Key Laboratory of Intelligent Coal Mining and Strata Control, Beijing 100013; 4. Beijing Technology Research Branch, Tiandi Science & Technology Co., Ltd., Beijing 100013; 5. Shandong Energy Group Technology Development Co., Ltd, Jinan 250101; † Corresponding authors, E-mail: catchyou@qq.com (LI Haitao), yangguanyumining@126.com (YANG Guanyu)

Abstract To address the challenges of sample imbalance, insufficient learning of hard-to-classified samples, and difficulties in small target segmentation in rock fracture detection and segmentation tasks, this paper proposes YOLO11n-seg-RF, an improved lightweight algorithm based on YOLO11n-seg. The proposed method incorporates three key components: 1) a Multi-Receptive Field Joint Enhanced Convolutional Block Attention Module (JECBAM) to enhance feature representation, 2) a Grouped Channel Attention-based Feature Fusion Module (GCAConcat) for effective multi-scale feature integration, and 3) a Simplified Spatial Pyramid Pooling Fast module (SimSPPF) to optimize spatial information aggregation. Additionally, the Focaler-IoU loss function is adopted to improve segmentation accuracy for fine-grained and multi-branch fractures. Experimental results on a custom rock fracture dataset demonstrate superior performance. Detection metrics achieve 88.7% Precision (Box), 77.5% Recall (Box), 84.2% mAP0.5 (Box), and 67.3% mAP0.5:0.95 (Box). Segmentation metrics reach 78.5% Precision (Mask), 68.0% Recall (Mask), 68.0% mAP0.5 (Mask), and 27.0% mAP0.5:0.95 (Mask). The model achieves real-time inference at 144 FPS with only 2.47M parameters, outperforming baseline YOLO11n-seg and other mainstream instance segmentation models. Ablation studies confirm the effectiveness of each proposed module, showing significant improvements in detection/segmentation accuracy while reducing model complexity. Generalization experiments on public datasets (crack-seg and carparts-seg) demonstrate superior cross-domain performance, with mAP0.5 (Box) and mAP0.5 (Mask) exceeding comparative models. Practical validation in mining engineering applications reveals that the algorithm successfully identifies core fractures in borehole samples, enabling rapid estimation of uniaxial compressive strength through established porosity-compressive strength equations derived from fracture ratio analysis and uniaxial compression tests, thereby verifying the practical engineering value.

Key words rock fracture detection; instance segmentation; YOLO11n-seg; porosity; uniaxial compressive strength