基于swin-t预测狭窄血管尺寸和器械尺寸的方法
技术领域
1.本发明涉及一种基于swin-t预测狭窄血管尺寸和器械尺寸的方法,属于医学技术领域。
背景技术:2.冠脉造影血管图像中的狭窄部位的相关数据的精确测量对医生们进行手术是至关重要的,精确的数据可以让医生选择介入手术支架更加准确,将大大增加手术的成功率。如何从技术上准确地预测狭窄血管的尺寸是一个亟待解决的重要问题。当前技术基本上都是基于cnn卷积神经网络来进行预测的,但是由于卷积神经网络中的卷积操作固有的局限性,使得基于卷积神经网络的方法很难学习到明确的全局和远程语义信息的交互。虽然有些研究也用到了诸如atrous卷积和图像金字塔等来解决这个问题,但是这些方法也都存在一定的局限性。
技术实现要素:3.本发明的目的是提供一种基于swin-t预测狭窄血管尺寸和器械尺寸的方法,所构建的模型复杂度低、计算效率高、提取特征更深,能够更加准确地预测狭窄血管的尺寸和附近正常血管的尺寸,提高手术的成功率。
4.为了实现上述目的,本发明采用的技术方案是:
5.一种基于swin-t预测狭窄血管尺寸和器械尺寸的方法,包括以下步骤:
6.s1、获取冠脉造影血管图像数据,并将其分为训练集、验证集和测试集;
7.s2、基于swin transformer构建回归预测模型,并利用深度学习的方法在训练集和验证集上对模型进行训练;在训练的过程中,采用均方误差函数l
mse
来监督训练该模型;
8.s3、训练完成后,查看验证集上回归预测模型的性能,若不能准确地预测狭窄血管和附近正常血管的尺寸,则调整回归预测模型的超参数,重新训练,直到回归预测模型能够准确地预测狭窄血管和附近正常血管的尺寸;
9.s4、得到训练好的回归预测模型,再用测试集对回归预测模型进行测试,最终确定需要的回归预测模型;
10.s5、根据s4最终确定的回归预测模型预测狭窄血管和附近正常血管的尺寸,并确定所需器械尺寸。
11.本发明技术方案的进一步改进在于:步骤s1中,所述冠脉造影血管图像数据包括原始图像和对应的标签数据。
12.本发明技术方案的进一步改进在于:步骤s2中,所述回归预测模型基于swin transformer构建,包括依次连接的输入模块、分割模块和linear embedding层,所述linear embedding层连接swin transformer block x2层后重复连接三次patch merging层和swin transformer block xi(i=2、6或2)层,然后连接norm,avgpool层,最后连接两层全连接层进行回归预测。
13.本发明技术方案的进一步改进在于:步骤s2中,所述swin transformer block包括layernorm层、残差连接、具有gelu非线性的2层mlp、w-msa和sw-msa。
14.本发明技术方案的进一步改进在于:步骤s2中,所述均方误差函数l
mse
为:
[0015][0016]
其中,yi表示狭窄血管的真实值,表示狭窄血管的预测值,m为训练的样本的数量。
[0017]
本发明技术方案的进一步改进在于:步骤s3中,所述狭窄血管的尺寸为狭窄血管的直径和长度,所述正常血管的尺寸为正常血管的直径。
[0018]
本发明技术方案的进一步改进在于:步骤s5中,所述器械为介入手术支架,所述介入手术支架的直径与正常血管的直径一致、长度与狭窄血管的长度一致。
[0019]
由于采用了上述技术方案,本发明取得的技术效果有:
[0020]
本发明采用swin transformer为backbone进行特征提取的方法,通过训练出来的模型可以帮助医生准确地从冠脉造影血管图像中精准地预测出血管狭窄处的直径、长度以及两侧正常血管的直径,从而帮助医生选取最优尺寸的支架,大大提高了手术的成功率。
[0021]
本发明构建的回归预测模型复杂度大大降低,减少了计算量,提升了模型的计算效率;sw-msa的使用使不重叠的窗口之间有了联系,能提取更深的特征,使模型效果大大提升。
[0022]
本发明可以同时兼顾局部与全局以及远程信息的交互,相对于cnn,预测的结果更加精准、可靠。
附图说明
[0023]
图1是本发明的整体流程图;
[0024]
图2是本发明的模型结构示意图;
[0025]
图3是本发明的swin transformer block结构示意图。
具体实施方式
[0026]
下面结合附图及具体实施例对本发明做进一步详细说明:
[0027]
一种基于swin-t预测狭窄血管尺寸和器械尺寸的方法,包括以下步骤:
[0028]
s1、获取冠脉造影血管图像数据,并将其分为训练集、验证集和测试集;所述冠脉造影血管图像数据包括原始图像和对应的标签数据。
[0029]
s2、基于swin transformer构建回归预测模型,并利用深度学习的方法在训练集和验证集上对模型进行训练;在训练的过程中,采用均方误差函数l
mse
来监督训练该模型。所述回归预测模型基于swin transformer构建,包括依次连接的输入模块、分割模块和linear embedding层,所述linear embedding层连接swin transformer block x2层后重复连接三次patch merging层和swin transformer block xi(i=2、6或2)层,然后连接norm,avgpool层,最后连接两层全连接层进行回归预测;所述swin transformer block包括layernorm层、残差连接、具有gelu非线性的2层mlp、w-msa和sw-msa;所述均方误差函数l
mse
为:
[0030][0031]
其中,yi表示狭窄血管的真实值,表示狭窄血管的预测值,m为训练的样本的数量。
[0032]
s3、训练完成后,查看验证集上回归预测模型的性能,若不能准确地预测狭窄血管和附近正常血管的尺寸,则调整回归预测模型的超参数,重新训练,直到回归预测模型能够准确地预测狭窄血管和附近正常血管的尺寸;所述狭窄血管的尺寸为狭窄血管的直径和长度,所述正常血管的尺寸为正常血管的直径。
[0033]
s4、得到训练好的回归预测模型,再用测试集对回归预测模型进行测试,最终确定需要的回归预测模型;
[0034]
s5、根据s4最终确定的回归预测模型预测的狭窄血管和附近正常血管的尺寸,确定所需器械尺寸;所述器械为介入手术支架,所述介入手术支架的直径与正常血管的直径一致、长度与狭窄血管的长度一致。
[0035]
更具体的:
[0036]
一种基于swin-t预测狭窄血管尺寸和器械尺寸的方法,整体流程如图1所示,包括以下步骤:
[0037]
s1、获取冠脉造影血管图像数据,所述冠脉造影血管图像数据包括原始图像和对应的标签数据,然后将冠脉造影血管图像数据分为训练集、验证集和测试集。
[0038]
s2、基于swin transformer构建回归预测模型,并利用深度学习的方法在训练集和验证集上对模型进行训练;在训练的过程中,采用均方误差函数l
mse
来监督训练该模型。
[0039]
所述回归预测模型基于swin transformer构建,具体结构如图2所示;首先将整个冠脉造影图片切分成互不重叠的像素为4
×
4大小的图片块,每个图片块被称为“token”,然后将大小为4
×
4的tokens的原始值特征送入linear embedding层,映射到一个任意的维度c(swin-t里面取96);接着将生成的tokens送入swin transformer block x2层,进行特征表示的学习,再将学习的特征送入patch merging层进行下采样,此时tokens的数量减少为原来的1/4和维度增加为2c,接着将特征送入swin transformer block x2进行特征提取,这个过程tokens的数量和维度均保持不变,此时继续重复连接两次patch merging和swin transformer block xi(i=6或2)进行下采样和特征的学习;最后将提取的特征通过norm,avgpool层处理后,再连接两层全连接层进行回归预测,输出最后结果,所述预测结果即为狭窄血管的直径、长度和附近正常血管的直径,进而确定介入手术支架的直径和长度。
[0040]
如图3所示,所述swin transformer block包括ln(layernorm)层、残差连接、具有gelu非线性的2层mlp、w-msa(window-based multi-head self attention)和sw-msa(shifted window-based multi-head self attention),其中w-msa的使用使模型的复杂度大大降低,减少了计算量,提升了模型的计算效率;sw-msa的使用使不重叠的窗口之间有了联系,这样也能提取更深的特征,使模型效果大大提升。
[0041]
所述均方误差函数l
mse
为:
[0042]
[0043]
其中,yi表示狭窄血管的真实值,表示狭窄血管的预测值,m为训练的样本的数量。
[0044]
s3、训练完成后,查看验证集上回归预测模型的性能,若不能准确地预测狭窄血管和附近正常血管的尺寸,则调整回归预测模型的超参数,重新训练,直到回归预测模型能够准确地预测狭窄血管和附近正常血管的尺寸;所述狭窄血管的尺寸为狭窄血管的直径和长度,所述正常血管的尺寸为正常血管的直径;判断预测的狭窄血管和附近正常血管的尺寸是否准确的标准为:预测结果与对应标签数据(实际测量尺寸)的差异,当二者的差异≤0.5mm时判定数据准确。
[0045]
s4、得到训练好的回归预测模型,再用测试集对回归预测模型进行测试,最终确定需要的回归预测模型;
[0046]
s5、根据s4最终确定的回归预测模型预测的狭窄血管和附近正常血管的尺寸,确定所需器械尺寸;所述器械为介入手术支架,所述介入手术支架的直径与正常血管的直径一致、长度与狭窄血管的长度一致。
[0047]
本发明构建的回归预测模型复杂度明显降低,计算量显著减少,提升了模型的计算效率;sw-msa的使用使不重叠的窗口之间有了联系,能提取更深的特征,使模型效果大大提升;可以同时兼顾局部与全局以及远程信息的交互,相对于cnn,预测的结果更加精准、可靠,大大提高了手术的成功率。