分享:
分享到微信朋友圈
X
技术研究
卷积神经网络重建欠采的磁共振图像
王一达 宋阳 谢海滨 童睿 李建奇 杨光

王一达,宋阳,谢海滨,等.卷积神经网络重建欠采的磁共振图像.磁共振成像, 2018, 9(6): 453-459. DOI:10.12015/issn.1674-8034.2018.06.010.


[摘要] 目的 使用卷积神经网络(convolutional neural network,CNN)从欠采样的磁共振成像K空间数据快速重建出无伪影的高质量图像。材料与方法 实验数据包含60位自愿者矢状位、横断位、冠状位全采的T1加权脑部MR图像,使用旋转和拉伸等操作对训练数据进行扩增。不同欠采模式的MR图像和金标准图像分别输入CNN进行训练,学习获得的网络可实现由欠采图像到全采集图像之间的非线性映射。重建时,将CNN重建图像的K空间与原始的K空间数据进行合并保真。实验中利用金标准图像,计算重建图像的峰值信噪比(peak signal to noise ratio,PSNR)、结构相似度(structural similarity,SSIM)和高频误差范数(high frequency error norm,HFEN),定量评价重建结果。结果 (1) CNN重建出的中央采样MR图像的PSNR、SSIM、HFEN分别为31.13、0.93、223.81,优于Tukey窗函数的25.69、0.86、482.75;(2) CNN重建出的伪随机采样MR图像的PSNR、SSIM、HFEN分别为32.78、0.95、195.51,优于压缩感知的31.01、0.93、184.69。结论 卷积神经网络可以从欠采数据重建出高质量的磁共振图像,无论是主观的视觉效果还是客观的评价参数都优于传统的处理方法。与K空间中央连续采集相比,伪随机采样模式更有利于CNN重建出高质量的MR图像。
[Abstract] Objective: To reconstruct high quality, artifacts-free magnetic resonance imaging (MRI) images from under-sampled k-space data with convolutional neural network (CNN).Materials and Methods: T1-weighted brain MR images of sagittal, transverse and coronal orientations from sixty volunteers are used. Rotation and stretching were used for data augmentation. CNN was trained with pairs of ground truth and under-sampled MR images to learn the nonlinear mapping between them. In the reconstruction, output of CNN was merged with the sampled k-space data to get the final image. For quantitative evaluation, we used peak signal-to-noise ratio (PSNR), structural similarity (SSIM) and high-frequency error norm (HFEN) to compare results of different methods.Results: (1) PSNR, SSIM, HFEN of center-sampled MR images reconstructed by CNN are 31.13, 0.93, 223.81, compared with 25.69, 0.86, 482.75 of Tukey filter. (2) PSNR, SSIM, HFEN of pseudo-random sampled MR images reconstructed by CNN are 32.78, 0.95, 195.51, compared with 31.01, 0.93, 184.69 of compressed sensing.Conclusions: CNN can reconstruct high quality MR images from under-sampled data and achieved better results both visually and statistically, compared with traditional methods. For CNN-based reconstruction, pseudo-random sampling is more favorable.
[关键词] 磁共振成像;卷积神经网络;图像重建;欠采;压缩感知
[Keywords] Magnetic resonance imaging;Convolutional neural network;Image reconstruction;Under-sampling;Compressed sensing

王一达 华东师范大学物理与材料科学学院,上海市磁共振重点实验室,上海 200062

宋阳 华东师范大学物理与材料科学学院,上海市磁共振重点实验室,上海 200062

谢海滨 华东师范大学物理与材料科学学院,上海市磁共振重点实验室,上海 200062

童睿 华东师范大学物理与材料科学学院,上海市磁共振重点实验室,上海 200062

李建奇 华东师范大学物理与材料科学学院,上海市磁共振重点实验室,上海 200062

杨光* 华东师范大学物理与材料科学学院,上海市磁共振重点实验室,上海 200062

通讯作者:杨光,E-mail:gyang@phy.ecnu.edu.cn


基金项目: 国家自然科学基金重点项目 编号:61731009
收稿日期:2018-04-11
接受日期:2018-04-24
中图分类号:R445.2; TP391.4 
文献标识码:A
DOI: 10.12015/issn.1674-8034.2018.06.010
王一达,宋阳,谢海滨,等.卷积神经网络重建欠采的磁共振图像.磁共振成像, 2018, 9(6): 453-459. DOI:10.12015/issn.1674-8034.2018.06.010.

       磁共振成像中减少K空间数据的采集是一种常见的加速成像的方法,例如部分采集[1](截断)、等间隔欠采的敏感度编码(sensitivity encoding,SENSE)[2]、通用自校准部分并行采集(gene ralized autocalibrating partially parallel acquisitions,GRAPPA)[3]等方法以及基于随机欠采的压缩感知(compressed sensing,CS)[4]等方法。这些欠采的K空间数据重建得到图像后,都会伴随特定的图像伪影。例如,截断K空间数据会导致图像模糊,并在高对比度边缘出现信号震荡现象,即吉布斯伪影[5];伪随机欠采K空间则会在图像域引入非相干伪影[4]。MR图像上的伪影可能会模仿病变或者覆盖原有的组织结构,影响临床诊断。针对不同欠采带来的伪影,也有对应的算法用于处理图像。例如,Hamming窗函数和Tukey窗函数常常被用来抑制MR图像上的吉布斯伪影,但会导致图像模糊[6];CS算法可以重建出清晰的伪随机欠采的MR图像[4],但高质量的CS重建往往需要消耗大量的时间。有些研究将CS与并行成像技术SENSE[7,8]和GRAPPA[9]相结合,进一步加速数据采集。

       近些年来卷积神经网络(convolutional neural network,CNN)在计算机视觉领域取得了令人瞩目的成果。医学影像领域中,CNN也取得了广泛的应用,包括图像分割[10]、病变检测[11]、图像超分辨和图像降噪[12]。受到CNN上述成果的启发,本研究将欠采的MR图像和作为金标准的MR图像输入CNN中进行训练,自动学习到高阶的图像特征和伪影信息,利用得到的网络可以从欠采的K空间数据重建出高质量的MR图像。

1 材料与方法

1.1 实验数据

       实验数据使用60位志愿者全采集的T1加权脑部MR图像,采自西门子3.0 T Prisma磁共振系统。扫描序列为快速梯度回波序列,未使用并行采集加速等加速采集技术,FOV=240 mm×240 mm;翻转角=8°;层厚=0.9 mm;TE=2.32 ms;TR=2300 ms;采样矩阵=256×256×192。实验前随机选取15位自愿者的脑部数据作为测试集;其他45位的脑部数据作为训练集。在横断面、矢状位和冠状位3种方位分别提取大小为256×256的2D图像当作数据样本,对原始数据中大小不为256×256的图像进行周围填零操作。其中训练数据提取约2万张图像,测试集数据提取6750张图像,MR图像在输入网络之前没有进行相应预处理。

       对所有2D图像进行傅里叶变换得到K空间数据,分别模拟低频中央采样和伪随机采样两种欠采策略。设定横断面、矢状面、冠状面的相位编码方向分别为L-R、A-P、L-R,采样率为30%,其中随机欠采策略的中央连续采样为10%,周围高频随机采集为20%[4]

1.2 数据扩增

       由于训练数据过少会引起过拟合现象,本实验对训练集中的图像进行两种数据扩增操作:(1)以1度为步长,10度以内的旋转;(2)以0.02为步长,形变系数在0.2以内的拉伸。数据扩增之后,训练集中共有约100万张2D MR图像。

1.3 训练网络

       本实验对中央连续采样和非均匀伪随机欠采两种方式获得欠采数据的重建进行了研究。算法流程图如图1所示,训练过程中欠采图像和全采金标准图像成对输入CNN中进行训练,学习从欠采填零重建图像到全采图像的非线性映射。针对两种欠采模式用各自的欠采数据分别训练两个网络。测试过程中,向训练好的模型中输入欠采填零重建的图像,然后将CNN输出图像的K空间与欠采的K空间进行合并保真,反傅里叶变换得到最终的MR图像。

       实验中使用如图1所示的UNet[13]结构来重建MR图像。网络结构由编码和反编码两条路径组成,分别包含4个下采和上采阶段。在编码路径中,每个阶段包含两个卷积层,每个卷积层后都有归一化层和激活函数,从输入图像中提取抽象特征;使用最大池化操作来减小特征图的大小和增大视野域。在反编码路径中,反卷积操作用来增大特征图的大小直到与输入图像大小相同。为了利用在编码路径中由于下采丢失的图像信息和改善重建质量,本研究连接两个路径中的特征图,然后对组合而成的特征图进行卷积。在最后两层中,将高度抽象的特征图映射到图像域,与输入图像相加,重建出清晰的MR图像。

       在网络中,所有的卷积和反卷积操作的卷积核大小为3×3,步长分别为1和2,并且适当填0,保持特征图尺寸相同。激活函数为ReLU函数[14]。特征图的数量在编码的每个阶段成倍增加,在反编码的每个阶段成倍减少,与特征图的尺寸变化相反。

       CNN进行训练时,需要通过反复迭代优化网络参数。在每次迭代中,从训练数据中随机挑选样本输入网络,通过反向传播算法[15]更新权重Θ={W1, b1, W2, b2, W3, b3}。本文使用欧几里得损失函数作为能量函数,公式如下:

       其中n是训练样本的数量,Xi是输入的欠采MR图像,ui是对应的金标准图像,F代表网络结构。

       实验中使用均值为0,标准偏差为0.001的高斯分布随机初始化每一层的卷积核的权重,偏置全部初始化为0。本文的网络是基于TensorFlow平台,具有两块NVidia TITAN XP显卡的工作站上实现的。本实验使用ADAM优化算法(β1=0.9,β2=0.999,ε= 10-8)训练网络,每批次输入32个训练样本。初始的学习速率设置为0.001,实验迭代50000次,训练用时约20 h。

图1  算法流程图(A)和UNet网络结构(B)
Fig. 1  Algorithm flow chart (A)and UNet network architecture (B).

1.4 保真

       考虑到重建图像的K空间数据与原始采集数据的一致性,本研究利用采集的K空间数据对CNN输出的图像进行保真处理。具体做法是:将CNN输出图像进行傅立叶变换后得到K空间数据,然后用采集的原始K空间数据替换掉该数据中相应的部分,合并后的K空间反傅里叶变换即可获得最终的图像。

1.5 量化评估

       为了定量评价CNN重建欠采MR图像的效果,本实验利用测试集中的金标准图像分别计算不同方法重建图像的峰值信噪比(peak signal to noise ratio,PSNR)[16]、结构相似度(structural similarity,SSIM)[16]和高频误差范数(high frequency error norm,HFEN)[17],并进行统计分析。其中PSNR从像素角度整体评价重建图像;HFEN利用高频信息从组织边缘和细节处进行评价;SSIM从结构相似性方面对图像进行评价。

       为了与本文的算法进行对比,实验中使用Tukey窗函数重建中央连续采样数据,参数r设为0.65;使用分裂布雷格曼压缩感知算法重建伪随机欠采数据[18],所有参数均为默认参数。

2 结果

2.1 重建图像结果

       对于中央连续采样的数据,笔者将本文方法的结果与填零重建、窗函数的结果进行了比较,结果如图2所示。图2A为测试集中的全采金标准矢状位图像,使用图2E的采样模板(采样率为30%)对K空间进行采集。从图2中可以看出,填零重建的图像(图2B及其与金标准图像的差图2F)中丢失了许多结构细节信息,并引入了吉布斯伪影;窗函数重建(图2C及其差图2G)可以抑制吉布斯伪影,但会导致图像模糊;而CNN方法(图2D及其差图2H)可以有效地抑制吉布斯伪影,同时在保留了图像边缘和结构信息方面也有较好的表现。

       对于伪随机欠采数据的重建,笔者将本文方法与填零重建、CS重建的结果进行了比较,结果如图3所示。图3A为测试集中的全采金标准冠状位图像,使用图3E的采样模板(总采样率为30%,其中中央连续采样10%)对K空间数据进行采集。从图3中可以看出,由于使用伪随机采样方式,填零重建图像(图3B及其差图3F)中有较明显的非相干伪影;CS (图3C及其差图3G)和CNN方法(图3D及其差图3H)都可以有效地抑制非相干伪影,恢复出主要的结构信息,重建出清晰的磁共振图像。在视觉效果上,本文方法与压缩感知方法重建的效果相近。

       为了比较不同欠采模式对CNN重建算法的影响,本研究比较了中央连续采样和伪随机欠采的重建结果,结果如图4所示。从图4中可以看出,两种欠采模式下,CNN重建的图像都没有明显的伪影,但伪随机欠采的图像比中央连续采样的图像细节更加丰富。这一点也符合预期,因为伪随机欠采的方式保留了部分高频信息,因此最终的重建图像中也包含了更多的高频信息。

图2  不同方法重建出的中央采样MR图像。A:测试集中矢状位全采集图像(金标准);B:中央连续采样填零重建的图像;C:Tukey窗函数处理的图像;D:本文算法重建的结果;E:采样率为30%的欠采模板;F~H分别为B~D与全采图像的5倍差图(绝对值)
Fig. 2  Reconstructed center-sampled MR images by different methods. Top row denotes the fully sampled MR image (A), and images reconstructed by zero-filling (B), Tukey window (C) and CNN (D), respectively. Bottom row: denotes the sampling mask with sampling rate of 30% (E), and F—H are the absolute difference images (×5) from B—D to the fully sampled MR image, respectively.
图3  不同方法重建伪随机欠采数据的结果。A:全采集冠状位图像(金标准);B:伪随机采样后填零重建的图像;C:压缩感知重建图像;D:本文算法重建图像;E:伪随机采样模板,采样率为30%,其中中央连续采样为10%;F~H分别为B~D与全采集图像的5倍差图(绝对值)
Fig. 3  MR images reconstructed from pseudo-random sampled data. Top row denotes the fully sampled MR image (A) and the images reconstructed by zero-filling (B), CS (C) and CNN (D), respectively. Bottom row: (E) shows the sampling mask used (sampling rate 30%, center 10%); F—H are the absolute difference images (×5) from B—D to the fully sampled MR image, respectively.
图4  不同欠采模式对本文算法的影响。A:全采集的金标准横断位图像;B:本文算法对中央连续采样数据重建的结果;C:本文算法对伪随机采样数据重建的结果。右下角为细节放大图块,细节区域在图A中用方框标出
Fig. 4  The influence of different sampling schemes to CNN reconstruction. A: Fully sampled MR image; B: Center-sampled MR image reconstructed by the proposed method; C: Pseudo-random sampled MR images reconstructed by the proposed method. The lower right corner shows the region of interest which is marked in (A).

2.2 量化评估结果

       利用测试集中的6750张金标准图像重复进行实验。统计不同方法重建中央欠采和伪随机欠采MR图像的PSNR、SSIM和HFEN,结果分别如表1表2所示。从表1表2中可以看出,CNN重建出图像的PSNR、SSIM明显高于简单的填零重建图像,说明重建误差较小,重建出的图像与金标准图像结构相似度较高;HFEN明显低于填零重建图像,说明本实验可以较好地重建出高频信息。对于中央连续采样的MR图像,CNN重建出图像的评价参数都优于加窗函数重建出的图像;对于伪随机欠采的MR图像,CNN重建出图像的PSNR、SSIM优于CS重建出的图像,但是HFEN略高。CNN重建出的伪随机采样MR图像的评价参数都优于重建中央连续采样的MR图像,说明伪随机采样模式更适合CNN重建出高质量的MR图像。

表1  不同方法重建中央连续采样MR图像的PSNR、SSIM和HFEN
Tab. 1  PSNR, SSIM and HFEN of reconstructed central sampled MR images with different methods
表2  不同方法重建伪随机欠采MR图像的PSNR、SSIM和HFEN
Tab. 2  PSNR, SSIM and HFEN of reconstructed pseudo-random sampled MR images with different methods

3 讨论

       为了缩短磁共振的扫描时间,人们提出了欠采K空间数据的方法,然而这些方法往往会导致图像中出现伪影,有些伪影形似病灶,有些伪影会掩盖病灶,为医生的临床诊断带来困扰。CNN是具有多个隐含层的复杂结构模型,本实验通过将大量欠采的带有伪影和对应不带伪影的全采集图像输入CNN中进行训练,得到能够重建出高质量MR图像的网络。

3.1 与传统Unet对比

       本实验使用改进的UNet结构,网络最后一层将提取出的抽象特征与输入图像相加。随着网络的加深,虽然提取的特征越来越具有代表性,下采操作不可避免地丢失了原始数据信息,而且网络只提取伪影特征的难度远远小于重建整幅图像的难度。在训练过程中,网络不断地学习伪影图像和金标准图像之间的差异,直至能量函数收敛。

3.2 与其他工作对比

       从实验结果中可以看出,无论是中央连续采样还是伪随机采样模式,CNN重建出的图像都可以在抑制伪影的同时保留组织结构的细节信息。

       实际成像过程中,通常使用对于截断的K空间数据加窗函数来抑制吉布斯伪影,然而滤波操作不可避免地损失了高频数据,导致图像丢失细节信息,重建图像非常模糊。本文方法重建出的截断的K空间数据,在抑制图像上伪影的同时恢复出脑部许多细节信息,重建出清晰的组织结构。

       CS算法根据MR图像在频域的稀疏性,采集少量K空间数据重建出高分辨率图像,可以有效减少扫描时间。本文重建的结果在视觉效果上与经典的CS相当,统计结果上略有优势,重建图像误差较小,结构相似性也较好。CS算法的对算法参数较为敏感,计算过程中的迭代次数是由残差容限和决定上限等超参数决定的,这些参数的设置往往取决于先验知识,需要人们手动调参。相比之下,使用CNN进行欠采图像的重建过程中,并不需要进行手工的参数调整。

       CNN方法的另一个优势是重建时间,本研究使用基于分裂布雷格曼CS算法[18]重建伪随机采样数据,该算法是速度比较快的压缩感知算法,但重建256×256×192的MR图像需要104 s。而CNN方法虽然训练时间较长,但是使用CNN进行重建时,重建256×256×192的MR图像只需要3 s。需要指出的是,很多压缩感知的工作给出了效果更好的重建结果,但往往需要更长的计算时间,在一定程度上影响了这些方法的应用[19]。本文的方法和并行重建可以同时应用,进一步加快成像速度,提高成像质量。

3.3 不同采样模式的对比

       从图4中可以看出在采样率相同的情况下,CNN重建出的伪随机采样MR图像更加锐利,细节部分更加清晰。表1表2中的统计结果也显示出,CNN重建出的伪随机采样MR图像质量更高。由于中央采样模式只采集K空间中央部分,完全抛弃周围的高频数据,从而导致CNN难以恢复图像的细节信息。然而伪随机采样模式会随机欠采周围高频部分的数据,所以输入网络的图像中既包含低频数据又具有部分细节信息,CNN比较容易学习到图像的结构和细节特征,从而输出高质量的MR图像。

3.4 未来研究

       本研究工作可以从以下几个方面进行拓展:(1)本文工作只使用了T1W图像,后续可收集更多的不同磁共振模态图像的样本对网络进行训练,提高网络的泛化能力;(2)本文的欠采率固定为30%,后续可增加不同采样率的MR图像进行训练,扩展CNN重建欠采图像的范围;(3)改进神经网络,使用3D的卷积核提取MR图像的特征,重建3D MR图像。

       综上所述,本研究针对磁共振成像中的欠采,提出了利用CNN进行欠采图像与全采集图像之间的非线性映射关系,达到抑制伪影、快速重建高质量MR图像的目的。结果表明,该方法在有效抑制伪影的同时保留了图像细节信息,提高了图像视觉效果,CNN在MR图像应用中具有很大的潜力。

[1]
Mcgibney G, Smith MR, Nichols ST, et al. Quantitative evaluation of several partial Fourier reconstruction algorithms used in MRI. Magn Reson Med, 1993, 30(1): 51-59.
[2]
Pruessmann KP, Markus W, Scheidegger MB, et al. SENSE: sensitivity encoding for fast MRI. Magn Reson Med, 1999, 42(5): 952-962.
[3]
Griswold MA, Jakob PM, Heidemann RM, et al. Generalized autocalibrating partially parallel acquisitions (GRAPPA). Magn Reson Med, 2002, 47(6): 1202-1210.
[4]
Lustig M, Donoho D, Pauly JM. Sparse MRI: The application of compressed sensing for rapid MR imaging. Magn Reson Med, 2007, 58(6): 1182.
[5]
Wood ML, Henkelman RM. Truncation artifacts in magnetic resonance imaging. Magn Reson Med, 1985, 2(6): 517-526.
[6]
Harris FJ. On the use of windows for harmonic analysis with the discrete fourier transform. IEEE Proceedings, 1978, 66(1): 51-83.
[7]
Ye J, Qu X, Guo H, et al. Patch-based directional redundant wavelets in compressed sensing parallel magnetic resonance imaging with radial sampling trajectory. J Med Imaging & Health Inform, 2016, 6(2): 387-398.
[8]
Liang D, Liu B. Accelerating SENSE using compressed sensing. Magn Reson Med, 2009, 62(6): 1574-1584.
[9]
Chang Y, Liang D, Ying L. Nonlinear GRAPPA: a kernel approach to parallel MRI reconstruction. Magn Reson Med, 2012, 68(3): 730.
[10]
Pereira S, Pinto A, Alves V, et al. Brain tumor segmentation using convolutional neural networks in MR images. IEEE Trans Med Imaging, 2016, 35(5): 1240-1251.
[11]
Shin HC, Roth HR, Gao M, et al. Deep convolutional neural networks for computer-aided detection: CNN architectures, dataset characteristics and transfer learning. IEEE Trans Med Imaging, 2016, 35(5): 1285-1298.
[12]
Bahrami K, Shi F, Zong X, et al. Reconstruction of 7T-like Images from 3 T MRI. IEEE Trans Med Imaging, 2016, 35(9): 2085-2097.
[13]
Ronneberger O, Fischer P, Brox T. U-Net: convolutional networks for biomedical image segmentation//International Conference on Medical Image Computing and Computer-Assisted Intervention. Springer, Cham, 2015: 234-241.
[14]
Glorot X, Bordes A, Bengio Y, et al. Deep sparse rectifier neural networks. Jmlr W & Cp, 2012, 15: 315-323.
[15]
Lecun Y, Boser B, Denker JS, et al. Backpropagation applied to handwritten zip code recognition. Neural Computation, 1989, 1(4): 541-551.
[16]
Hore A, Ziou D. Image quality metrics: PSNR vs. SSIM//International Conference on Pattern Recognition. IEEE, 2010: 2366-2369.
[17]
Ravishankar S, Bresler Y. MR image reconstruction from highly undersampled k-space data by dictionary learning. IEEE Trans Med Imaging, 2011, 30(5): 1028-1041.
[18]
Goldstein T, Osher S. The split bregman method for L1-regularized problems. Society for Industrial and Applied Mathematics, 2009, 2(2): 323-343.
[19]
Lai Z, Qu X, Liu Y, et al. Image reconstruction of compressed sensing MRI using graph-based redundant wavelet transform. Med Image Anal, 2016, 27(1): 93-104.

上一篇 他人决策行为对个体风险决策的影响:基于静息态fMRI研究
下一篇 ADC值在原发性脑淋巴瘤放疗疗效中的预测价值
  
诚聘英才 | 广告合作 | 免责声明 | 版权声明
联系电话:010-67113815
京ICP备19028836号-2