- 首页
- 产品推荐个人精选服务科研辅助服务教育大数据服务行业精选服务学科系列服务产品服务
- 期刊大全
- 充值
- 会员
- 职称材料
- 首页
- 产品服务
- 知识脉络
- 期刊大全
- 充值
- 会员
- 职称材料
智能检索
二次检索
任意字段
在结果中检索
在结果中去除
暂无数据
共
89
条结果 ，以下是1
-
20条
1 / 5
已选:0 清除
批量下载
批量引用
相关度
摘要： 近年来,深度神经网络在复杂任务上取得传统算法难以企及的效果,深度神经网络已经被广泛应用于社会和工业生产等各大领域。然而深度神经网络的“黑箱”特性同样引起了学术界和工业界的研究兴趣。本文提出的神经网络可解释算法以特征的冗余和解耦、与权重相关的信息流两个角度为切入点,借助类激活映射和层级相关性传播为研究方法,对神经网络的可解释性研究进行探讨。
首先,本文以图卷积神经网络为研究对象,针对现有的类激活图算法没有考虑到非目标区域也包含与目标相关的激活,生成的显著性图包含了来自不相关区域的噪声的问题,提出了一种新的基于互信息的类激活图生成算法——双极信息类激活图BI-CAM,旨在生成更关注目标区域的显著性图。首先,将图卷积神经网络推广到包含卷积神经网络的统一描述理论框架;接着,使用基于双流信息的框架来生成类激活图;然后,对特征图区域的权重进行优化;最后,对不同特征图在信息论层面的相对权重进行优化。实验结果表明,与其他可解释算法相比,所提出的BI-CAM从可视化和定量分析的角度在忠实度评估方面取得了显著更好的性能。
然后,本文从单一数据中特征的流形空间距离出发,通过对比特征的类间距离,提出了两种类激活图生成算法,分别为对比-排序类激活图（CR-CAM）算法和扩展对比-排序类激活图（CR-CAM++）算法。首先,针对非目标区域包含目标区域的相似特征这一特点,基于流形空间的概念,提出了类间映射对比的概念,根据分类的排序来评估特征图对于目标类别的权重,并基于此提出了CR-CAM算法。CR-CAM++是对CR-CAM的扩展。在CR-CAM的基础上,针对特征图区域的重叠问题,从特征图在流形空间中的距离的角度,考虑特征图间的相似性,提出了CR-CAM++算法。在拓扑图和图像上的实验结果表明,与其他可解释算法相比,所提出的CR-CAM算法和CR-CAM++算法从定性的可视化分析和定量的统计分析的角度取得了更好的性能和更忠实于模型的可信度。
最后,针对现有的层级相关性传播算法对于基准的定制与权重无关的问题,本文从消息传递的角度切入,提出了一种新的层级相关性传播算法,提供对神经网络的实例级解释。首先,提出一种具有与权重相关的基准的层级相关性传播算法,名为基于权重相关基准的层级相关性传播算法（WB-LRP）,并据此提出模长不变性规则m-rlue。接着,在仅关注权重的正向激活的情况下,模长不变性规则m-rlue延伸出正向权重模长不变性规则8)+-rlue。最后,将提出的WB-LRP的理论扩展到不同的基准设置,由此构建一个囊括当下几乎所有的LRP算法和少部分由梯度反向传播的算法的框架。基于相关性的解释取决于模型权重和样本特征两个因素,本章的实验结果表明,提出的WB-LRP算法可以通过设计不同的基准,从而可以调整可视化结果中,来自模型权重和来自样本特征的比例,进而分别可视化样本特征对于目标类别的相关性和模型权重对于目标类别的相关性。
关键词: 深度神经网络 ；可解释性 ；类激活图 ；层级相关性传播
被引量
1
摘要： 计算机视觉旨在通过计算机模拟人的视觉系统,让计算机学会“看”,是人工智能、神经科学研究的一个热点。作为计算机视觉的经典任务,图像分类吸引了越来越多的研究,尤其是基于神经网络的算法在各种分类任务上表现优异。然而,传统浅层人工神经网络特征学习能力不强、生物可解释性不足,而深层神经网络存在过拟合、高功耗的缺点,因此在低功耗环境下具有生物可解释性的图像分类算法研究仍然是一个具有挑战性的任务。为了解决上述问题,结合脉冲神经网络,设计并实现了一种基于Jetson TK1和脉冲神经网络的图像分类算法。研究的主要创新点有:(1)设计了深度脉冲卷积神经网络算法,用于图像分类;(2)实现了基于CUDA改进的脉冲神经网络模型,并部署在Jetson TK1开发环境上。
关键词: 图像分类 ；脉冲神经网络 ；移动GPU计算
被引量
10
摘要： 近年来,深度学习在图像分类、目标检测及场景识别等任务上取得了突破性进展,这些任务多以卷积神经网络为基础搭建识别模型,训练后的模型拥有优异的自动特征提取和预测性能,能够为用户提供“输入–输出”形式的端到端解决方案.然而,由于分布式的特征编码和越来越复杂的模型结构,人们始终无法准确理解卷积神经网络模型内部知识表示,以及促使其做出特定决策的潜在原因.另一方面,卷积神经网络模型在一些高风险领域的应用,也要求对其决策原因进行充分了解,方能获取用户信任.因此,卷积神经网络的可解释性问题逐渐受到关注.研究人员针对性地提出了一系列用于理解和解释卷积神经网络的方法,包括事后解释方法和构建自解释的模型等,这些方法各有侧重和优势,从多方面对卷积神经网络进行特征分析和决策解释.表征可视化是其中一种重要的卷积神经网络可解释性方法,能够对卷积神经网络所学特征及输入–输出之间的相关关系以视觉的方式呈现,从而快速获取对卷积神经网络内部特征和决策的理解,具有过程简单和效果直观的特点.对近年来卷积神经网络表征可视化领域的相关文献进行了综合性回顾,按照以下几个方面组织内容:表征可视化研究的提起、相关概念及内容、可视化方法、可视化的效果评估及可视化的应用,重点关注了表征可视化方法的分类及算法的具体过程.最后是总结和对该领域仍存在的难点及未来研究趋势进行了展望.
关键词: 深度学习 ；卷积神经网络 ；可解释性 ；表征可视化 ；显著图
被引量
128
摘要： 人工智能定义了智能系统的终极愿景,机器学习是人工智能的技术基石。本文以“人工智能”和“机器学习”为主题,对中国知网核心数据库进行检索,遴选出1992~2024年2382篇文献作为研究样本,借助CiteSpace 6.4.R1可视化软件,采用共现分析、聚类分析以及突现词分析等文献计量方法,综合梳理人工智能领域机器学习算法研究的热点、发展脉络和演进历程。分析结果表明,文献发表数量在2016年后大幅增加。研究机构以中国科学院大学和清华大学为核心形成两大科研机构合作网络,但总体来说,研究机构之间合作仍显有限,呈现出“小团体”合作的特征。研究热点主要为人工智能、机器学习、深度学习、大数据、神经网络等,深度学习革命带来训练效率提升,大数据推动算法迭代,“数据–算法–算力”是该领域发展的核心驱动力。此外,通过共现时区图和突现词分析发现,未来研究的主要发展方向聚焦于大模型、预后预测、可解释性、数据共享等领域,学者开始关注该领域的隐私保护与伦理问题。应用场景上,在算法行政、智慧医疗、自动驾驶、智能决策等方面进一步深入研究,研究重点从以理论和算法优化为核心的基础研究逐步转向技术优化、应用落地及合理使用,进入人工智能领域机器学习算法研究新时代。Artificial intelligence defines the ultimate vision of intelligent systems, and machine learning serves as the technological cornerstone of artificial intelligence. Taking “artificial intelligence” and “machine learning” as the themes, this paper conducts a search in the core database of the China National Knowledge Infrastructure (CNKI). A total of 2,382 papers published from 1992 to 2024 are selected as the research samples. With the help of the CiteSpace 6.4.R1 visualization software and using bibliometric methods such as co-occurrence analysis, cluster analysis, and burst term analysis, this paper comprehensively sorts out the research hotspots, development context, and evolution process of machine learning algorithms in the field of artificial intelligence. The analysis results show that the number of published papers increased significantly after 2016. The research institutions, with the University of Chinese Academy of Sciences and Tsinghua University at the core, have formed two major cooperation networks among scientific research institutions. However, overall, the cooperation among research institutions is still limited, showing the characteristics of “small-group” cooperation. The research hotspots mainly include artificial intelligence, machine learning, deep learning, big data, and neural networks. The deep-learning revolution has improved training efficiency, and big data has promoted algorithm iteration. “Data, algorithm, and computing power” are the core driving forces for the development of the field. In addition, through the analysis of the co-occurrence time-zone map and burst terms, it is found that the main future development directions of research focus on large models, prognosis prediction, interpretability, and data sharing. Scholars have begun to pay attention to privacy protection and ethical issues in this field. In terms of application scenarios, further in-depth research is being carried out in algorithmic administration, smart healthcare, autonomous driving, and intelligent decision-making. The research focus has gradually shifted from basic research centered on theory and algorithm optimization to technology optimization, application implementation, and rational use, thus entering a new era of research on machine learning algorithms in the field of artificial intelligence.
关键词: 人工智能 ；机器学习 ；知识图谱 ；CiteSpace ；可视化分析
被引量
1
【专利/发明】 • CN202210310369.7 • •
申请日：2022-03-28,
公开日：2022-08-02
申请人： 华北电力大学
公开（公告）号： CN114841235A
摘要： 一种基于卷积神经网络的可解释性的负荷识别方法，属于负荷识别领域。该方法利用卷积神经网络(Convolutional neural networks，CNN)进行特征提取，从而实现用电负荷模式的分类识别。由于CNN的“黑箱”操作，提出了两种可解释性方法，一种是利用表征可视化技术将卷积层中的卷积层和池化层进行可视化表示，可以提取到图像中的底层和高层特征，通过底层和高层负荷特征来判断负荷类型，从而对模型内部进行可解释性，另一种是将负荷图片利用反卷积神经网络对图片进行复现并进行各层的展示，使大家更为信服，从而增强模型的可解释性。本发明完全基于数据驱动，克服了配电网复杂环境下，基于深度模型在算法效率和准确性、可解释性多方面的局限性。使用该方法避免了传统机器学习识别精度不够的问题，设计模型的可解释性，并改善深度学习模型的“黑盒”特点，提高了识别精度并对模型进行了可解释性研究。
摘要： 以神经网络为代表的深度学习方法是当前的研究热点之一,其在图像分类、语音识别、机器翻译等任务上都取得了先进的性能,表现出了强大的学习能力。然而,神经网络的可解释性问题也逐渐凸显出来。尽管神经网络在处理大量数据和完成复杂任务方面表现出色,但它们的内部机制却很难被理解和解释。这给许多领域的应用带来了挑战,如医疗诊断、自动驾驶等。因此,神经网络的可解释性问题成为了一个重要的研究方向,其目的是让神经网络的内部机制更容易被理解和解释,从而提高其应用的可信度和安全性。以往的可解释性方法,很难兼顾对神经网络整体和隐层语义的解释,并且不能对神经网络给出一个直观的数学表达式。对于给定的数据集,符号回归算法可以给出其符号模型,如数学表达式,因此具有良好的可解释性。本文针对用于回归的全连接神经网络和用于分类的卷积神经网络,分别提出了用于解释以上两种网络结构的符号回归算法。
为解释用于回归数据的全连接神经网络,本文提出了全连接层的符号回归算法以及SRNet算法,分别对全连接神经网络的单层和整体进行建模。为解决全连接层中多输入、多输出的结构问题,设计了全连接层的符号回归算法,它可以给出全连接层的数学表达式,增加其可解释性。在此基础上,为描述全连接神经网络的整体特性而提出了SRNet算法。SRNet算法根据神经网络层层嵌套的结构,将上面全连接层的符号回归算法进行整合,不仅能够得到每层的数学表达式,还能得到全连接神经网络整体的数学表达式。通过在SR Benchmarks数据集、Feynman物理数据集、Penn机器学习数据集上进行测试,证明了算法可以对全连接层和全连接神经网络的整体进行解释。通过和LIME、MAPLE算法对比,发现SRNet算法对于真实数据集具有更好的拟合能力,可以分析神经网络和真实数据集的差距。
为解释用于图像分类的卷积神经网络,本文提出了卷积神经网络卷积层和整体的符号回归算法,分别对卷积神经网络的卷积层和整体进行建模。为解决卷积层多通道的结构问题以及卷积核的可解释问题,设计了卷积层的符号回归算法,它可以给出卷积层中每个输出通道的数学表达式,对卷积核的特征提取过程给出解释。在此基础上,为增加卷积神经网络网络整体的可解释性,将卷积神经网络分为特征提取层和分类层,根据特征提取层中层层嵌套的结构,将上面卷积层的符号回归算法进行整合,它可以得出特征提取层中卷积层的数学表达式。使用得到的数学表达式替换特征提取层中的卷积层,从而得到可解释的特征提取层,然后将其与原来的分类层进行组合,可以增加卷积神经网络整体的可解释性,同时保证分类准确性。通过在MNIST数据集上进行测试,证明了算法可以对卷积层进行解释,并且可以增加卷积神经网络整体的可解释性,而且可以保证分类的准确性。
关键词: 符号回归 ；全连接神经网络 ；卷积神经网络 ；可解释性 ；遗传规划
被引量
1
摘要： 神经网络(Neural Networks,NNs)有着强大的通用近似能力和广泛的应用,但是神经网络是一个黑盒模型,内部复杂的运算机理使得人类无法直接理解与解释它的预测行为。现有的神经网络解释方法从特征重要性评估、规则生成和可视化等方面对神经网络的预测行为进行解释。但是这些方法依赖于简单的预定义模型,这些模型往往缺乏非线性表达能力,且无法给出能够解释预测行为的显式数学表达式。为了得到显式的数学表达式来解释神经网络的预测行为,本文以全连接神经网络、卷积神经网络为例,提出了神经网络的符号回归解释模型SRNet与SRNet-Modular,分别能够给出描述全连接和卷积神经网络预测行为的非线性数学表达式与偏微分方程。具体研究如下: (1)为了解释全连接神经网络,SRNet模型对训练后此网络模型中每一层的输入和输出进行符号回归,以得到能够描述网络层的数学表达式。在对每个网络层进行符号回归时,SRNet采用图结构笛卡尔遗传规划来生成描述网络层的通用数学表达式,同时使用线性映射编码来匹配网络层的多维输出结构。为了寻找到最优表达式,本文提出结合拟牛顿梯度法的演化策略来同时优化所有的网络层公式。在12个回归、5个分类基准数据集上的实验结果表明,SRNet能够找到不同全连接神经网络的可解释性公式。相比于经典的解释模型LIME与MAPLE,SRNet的预测输出具有非线性、平滑特征,且更加拟合神经网络的原始决策边界。 (2)由于SRNet仅能解释全连接神经网络,无法直接用于解释更复杂的深度卷积神经网络。为此本文提出SRNet-Modular模型,该模型首先将复杂的神经网络自动划分为少量的全连接模块与卷积模块,使得相似的模块能够共享同一个数学表达式结构;然后,SRNet-Modular将卷积图像数据抽象为时空动态系统的观测值,使用物理信息神经网络PINN结合方程学习器EQL建模得到能够描述卷积模块的偏微分方程,同时沿用SRNet的编码架构来解释全连接模块;最后,SRNet-Modular采用逐层精调结合整体微调的方式进行训练。解释12个深度全连接神经网络的实验结果表明,自动模块划分算法不仅能够提高SRNet的解释准确率,同时能够得到更为简洁的可解释性公式。在解释经典的卷积神经网络LeNet的实验上,SRNet-Modular能够找到准确描述卷积模块的偏微分方程。
关键词: 神经网络可解释性 ；符号回归 ；遗传规划 ；偏微分方程
摘要： 荧光分子层析成像(Fluorescence Molecular Tomography,FMT)是一种新兴的光学分子影像技术,它具有高灵敏度、无创、无辐射等优点,近年来在理论和实际应用中发展迅速。然而,由于传统FMT重建技术受到逆问题重建过程中的不适定性影响,因此在实际求解中重建算法的空间分辨率和定量性存在不足,需要做进一步的研究分析。不同于传统的FMT重建方法,本文提出了基于物理模型驱动的深度展开网络的方法优化FMT逆问题的求解,充分利用FMT的领域知识、迭代算法以及被标记的数据来实现FMT的精确重建。其主要的学习和研究内容如下:1、FMT前向问题求解与逆问题的建立。通过光与组织的相互作用关系,联系生物组织内光的传输规律,建立光子传输模型。由辐射传输方程简化得到扩散方程,利用有限元方法,结合方程的边界条件对扩散方程进行前向求解,并通过已知的表面荧光分布数据与体内目标光源之间的线性关系建立逆问题模型。2、基于模型驱动深度展开的ISTA-UNet重建算法研究。传统FMT求解方法受到前向模型简化和逆问题不适定性的限制,重建结果的空间分辨率和定量反演精度都有所欠缺。对此,本文提出了一种模型驱动的深度展开网络ISTA-UNet。通过将模型驱动的迭代收缩/阈值过程与UNet网络模型结合,ISTA-UNet框架既保证可解释性又能利用深度神经网络的去噪和细节恢复能力。此外,为了提高模型精度,本文将预训练模块融入ISTA-UNet网络中,测试FMT的重建效果。3、基于ISTA-UNet算法的FMT实验结果分析。为了验证提出的ISTA-UNet算法在FMT重建问题上的有效性,首先设计了两种不同光源-探测器排布的仿真数据集,并分别测试。在模拟实验中,设置四组实验证明ISTA-UNet算法重建均匀光源-探测器排布的数据时可以获得很好的空间分辨率,能够精确重建目标;在仿CT扫描模式的模拟实验中,通过设置两组实验证明融入预训练模型的ISTA-UNet算法在非均匀排布的光源-探测器数据重建中获得了很高的空间分辨率和定量性。其次,在仿体实验中,设置两组实验表明该算法能够对真实FMT数据进行高质量重建。
关键词: 荧光分子层析成像 ；模型驱动 ；深度展开网络 ；空间分辨率 ；图像重建
摘要： 为了探讨深度神经网络的可解释性,论文提出一种融合层次特征贡献与个体特征贡献的集成框架,以解决现有可解释性方法中存在的多层次解释缺失问题。研究聚焦于ACD(Agglomerative Contextual Decomposition)算法存在的特征组内部解释性缺失问题,提出整合SHAP(SHapley Additive ex Planations)方法的多层次解释体系。此外,论文还定义了基于决策树深度的定量评估指标,这些评估指标能够量化可解释性人工智能方法的复杂性。 为验证集成框架在LSTM(Long Short-Term Memory)模型上的有效性,论文首先基于CD(Contextual Decomposition)算法将单词特征贡献分解为给定短语贡献及短语外的其他因素贡献,继而利用层次聚类生成树状特征组,并计算各组内部特征的SHAP值,实现从单词到短语的细粒度解释,提高了用户的信任度与满意度。通过在SST(Stanford Sentiment Treebank)数据集上对LSTM模型进行解释的实验表明,SHAP-ACD方法能够兼顾ACD算法聚合后产生的特征组内部每个单词贡献,从而解决了聚合过程中多层次解释性丢失问题,提高模型可解释性。 另外,为更好定量评估模型可解释性,论文还建立基于决策树深度的定量评估指标。论文通过将可解释性人工智能方法解释LSTM模型输出得到的特征贡献度引入决策树中,计算树的总深度(Total Depth of the Tree,TDT)和加权类深度平均值(Average of the Weighted Class Depth,AWCD),从而客观地评估可解释性方法的复杂性(树深度越低,可解释性越优)。对比SHAP与LIME(Local Interpretable Model-agnostic Explanations)两个方法的评估实验结果,能清楚地发现SHAP方法在复杂性和可扩展性方面要优于LIME。SHAP的TDT指标比LIME低28.7%,AWCD指标比LIME低3.2%,可见这些评估指标为可解释性人工智能方法的选择和评估提供一个有效工具。 论文构建的集成框架突破了传统方法单粒度解释的局限,实现了“层次特征组+个体贡献”的双重解释,并且提出首个基于决策树深度的可解释性量化指标。未来计划开发动态特征分组机制,并拓展至医疗诊断等高风险领域,验证框架在关键任务中的可靠性。
关键词: ACD算法 ；SHAP值 ；决策树 ；可解释性
摘要： 脑机接口系统能够使人们在无需肌肉活动的情况下与设备交互,是脑机智能与类脑计算的重要研究领域之一。其中,脑电信号的分析与处理是脑机接口系统落地实用的关键研究课题。脑电信号的数据维度高、受噪声影响大、信噪比低等特点给信号的检测与识别带来了严峻的挑战。然而传统的检测模型往往是在数据预处理流程中对噪声做统一的处理,很少结合实际问题有针对性地降低噪声对识别的影响,无法有效地进行特征提取。本文在深度神经网络的基础上结合信息论的相关分析,搭建了一系列有效的脑电信号分类模型。首先,提出了基于变分自编码器与卷积神经网络的事件相关电位检测算法。该算法包含了表征、分类两个步骤,表征的过程由基于卷积神经网络结构的变分自编码器完成。表征网络以重构为目标将脑电信号的信息映射到隐变量中,分类网络再对隐变量进行分类。根据一系列实验结果与讨论,该模型是有效的脑电信号分类模型。其次,提出了基于变分信息瓶颈与卷积神经网络的事件相关电位检测算法。该算法先通过基于卷积神经网络结构的变分信息瓶颈部分对脑电数据进行编码,再对编码得到的隐变量进行分类,两者共同优化。该模型的网络结构与损失函数使得模型可以调节网络中的信息传递,具体表现为变分信息瓶颈部分在尽可能地保留脑电信号中与目标刺激相关信息的同时限制与分类无益的信息在网络中的传递。该算法在脑电信号公共数据集上的实验结果表明,该算法具备优异的脑电信号分类能力,在样本数量足够的前提下超越了许多算法。不仅如此,还结合实验结果阐述了变分信息瓶颈在模型中的作用机理。本文还将两个模型统一在变分信息编码框架中,通过理论与实验两个层面分析了两者的具体区别以及分类性能表现差异的原因。这两种模型都是信息论、概率论、贝叶斯理论与深度神经网络结合起来并真正实用的例子,为深度神经网络的可解释性研究提供了新的思路,为解决脑电信号分类问题提供了新的手段,在脑科学以及神经科学中有十分广阔的应用前景。
关键词: 变分自编码器 ；变分信息瓶颈 ；卷积神经网络 ；信息论 ；脑电信号分类
被引量
1
摘要： 医学影像数据是疾病诊断的关键信息源,传统的影像诊断手段因人为因素易产生误诊和漏诊的问题。因此,人工智能辅助诊断的需求日益迫切。对于脑部疾病,特别是阿尔茨海默病(AD)和帕金森病(PD)等神经退行性疾病,这些疾病的诊断主要依赖于CT、MRI、PET等影像检查,这些检查能提供脑部结构和功能的详细信息。由于脑疾患类型多样且诊断流程复杂,因此整合多模态影像数据成为提升诊断精确度与全面性的关键环节。一方面,现行的多模态影像融合策略在一定程度上忽视了医学信息与影像特征间的内在关联性,倾向于简单套用自然图像融合技术,这种局限性在脑疾病诊断中限制了其实际效能。因此,本研究旨在从耦合医学信息与影像特征出发探究多模态融合技术新方法,增强对脑疾病诊断的准确性和医学可解释性。
另一方面,尽管现阶段基于医学影像数据的智能辅助诊断技术已取得了显著进步,但在很大程度上仍受制于对单一模态影像数据的过分依赖,以及忽略了其他潜在的诊断信息,这导致某些潜在的诊断线索可能被忽略。与此相比,基于医学影像组学的智能辅助诊断方法则展现出填补这一空白的潜力,它能够为临床医生提供更为精准的诊断依据,并有助于实现疾病的早期筛查,从而显著改善患者的预后。医学影像组学作为一门新兴的交叉研究领域,正在经历从传统的手工设计特征到特征学习的转型。深度学习方法的兴起赋予了医学影像组学全新的研究动能,使得模型能够直接从医学影像中发掘有价值的信息特征。本研究旨在通过人工智能和影像组学的综合应用,结合机器学习和深度学习技术,对脑肿瘤、AD和PD的多模态医学数据进行智能辅助诊断。本研究立足临床实际需求,紧紧围绕着基于医学影像组学的智能辅助诊断算法研究,主要开展了以下工作:
(1)针对现有的大多医学影像融合方法没有考虑医学影像的医学语义信息的问题,本文提出了一种基于医学语义信息引导的医学影像融合方法(MsgFusion)。首先在多模态脑影像的关键医学语义信息和影像特征之间建立关系,接着引导使用两个分支的特征提取和影像融合框架的设计。其中,在融合过程中使用了一种基于分层分类的策略,用于重建融合影像,以保持和增强反映解剖结构和功能代谢的突出的医学语义信息。相对现有的一些方法,本文提出的方法在6/7个客观评估指标上和30位临床医生主观评估上均占据优势。
(2)因磁共振成像与正电子发射断层成像的融合,可以将生物解剖信息和生理代谢信息结合起来,对临床诊断和病变定位具有重要意义。因此,本文提出一种多维特征的自适应线性融合方法(MdAFuse)。在特征提取阶段,构建三维特征独立的提取模块,可以有效地利用结构信息。在融合阶段,建立多维特征的仿射映射函数,以保持特征之间恒定的几何关系。此外,本文提出的方法中还含有关键特征可视化增强部分,旨在观察脑病变的动态生长,这可以促进脑肿瘤的早期诊断和治疗。实验结果表明,本文的方法得到了临床医生的高度评价和统计数据的支持。其中,本文提出的方法在SSIM和VIF指标上分别提升了 5.61%和13.76%。
(3)针对绝大多数基于神经网络的分类方法都只能提取局部特征,感受野有限的问题,本文提出一种有效扩大感受野的小波卷积单元。另外,细粒度分类对于认知障碍的准确诊断和正确治疗具有重要意义。本文进一步设计小波卷积单元网络(WCU-Net)。并成功应用于AD的细粒度多分类任务,在基于AD的脑DTI数据上首次实现了细粒度三分类。在细粒度三分类的实验中,均能获得超过95%的精确度。另外,在细粒度四(AD、NC、EMCI、LMCI)分类中,获得了 93.79%的精确度,比现有的SOTA方法提高了 1.19%。
(4)基于PD分类预测的研究,本文综合分析了国内外PD分类预测的智能辅助诊断技术,并梳理了利用机器学习模型进行辅助PD早期检测的研究工作,以指导早期干预和防止病情进展。首次尝试将帕金森病(PD)的诊断与疾病进展区分开来,不仅仅局限于简单的分类预测。另外,探讨了帕金森病预测领域的最新研究趋势,并统计了PubMed数据库中相关主题的文献数量。结合实际临床需求,概述了帕金森病预测的未来发展方向,这为智能辅助诊断提供了有价值的见解。
(5)随着对评估和跟踪帕金森病进展的动态监测变得越来越重要,本文提出了一种基于跨模态数据融合的PD进展预测新方法(CMFP)。该方法的独特之处在于采用纵向数据研究方法,结合机器学习技术,建立了早期PD进展预测模型。CMFP方法对PD进展的预测达到77.91%的AUC。与仅使用临床数据、DTI数据和DAT数据的预测相比,AUC分别提升了 24.48%、30.78%和32.7%。研究结果显示,跨模态数据融合显著提升了单模态预测的准确度,并且也说明了 DTI数据与临床结合更有助于提高预测PD进展的性能,可辅助临床诊断。
本研究充分利用影像组学(多模态和异构数据),以机器学习或深度学习为基础,充分发挥人工智能在医疗领域的潜力,以辅助医生的临床决策。通过为医疗团队提供更加精准详实的数据分析及丰富的临床洞见,旨在为患者提供更个性化和有效的治疗方案,从而提升患者的生存质量、延长生存期。
关键词: 多模态 ；医学影像分析 ；影像组学 ；深度学习 ；智能辅助诊断
被引量
1
摘要： 癌症是全球主要的公共健康问题之一,全球癌症病例迅速增加,截至2022年,约有1997万癌症新增病例和974万癌症死亡病例。众所周知,早期癌症筛查有助于识别新病例,以便采取更有效的治疗措施,减少病人的癌症负担和痛苦,并显著提高患者的存活率。因此,癌症早筛对全球癌症的预防与控制至关重要。在众多癌症中,乳腺癌在女性中发病率和死亡率均排名第一,对乳腺癌及乳腺良性疾病进行检测有助于帮助了解患者病情。此外,乳腺癌是一种具有多种分子实体的异质性疾病,临床上通常需要了解病人的免疫组化状态,以采取不同的治疗策略。然而,现有的乳腺癌检测方法存在费用较高、辐射暴露和侵入性强等缺点,因此迫切需要开发一种无创、低成本的方法,用于乳腺癌及其免疫组化的检测。除了对特定的乳腺癌进行检测外,对于泛癌(多癌种)的早期筛查也至关重要。目前,传统的癌症筛查手段,如CT筛查、循环肿瘤细胞筛查和组织病理筛査等方法,存在着耗时长、费用高和侵入性等缺点,且这些筛查方法仅适用于某一种特定类型的癌症,难以应用于多种类别癌症的检测。因此,迫切需要开发和验证一种强大、低成本且易于复现的早期泛癌检测方法。 拉曼光谱是一种分子振动光谱技术,能够提供被测样品的特定分子“指纹图谱”信息,而表面增强拉曼光谱(SERS)是一种利用纳米贵金属基底增强微弱拉曼散射强度的方法。已有多项研究证明了基于血清样品的SERS分析在癌症检测方面取得了显著进展,这些方法具有高灵敏度和无创性等优点。然而,这些研究仅针对有限的癌症类型进行了探索,无法进行验证和全面的大数据分析。因此,迫切需要一种具有大量临床样本和高效的人工智能分类算法,并且需要设计用于癌症早期筛查的SERS光谱智能分析系统。本文针对血清SERS光谱癌症筛查展开了以下工作: (1)本研究将SERS光谱技术与特征选择和深度学习算法相结合,设计了一种适用于乳腺癌血清筛查模型,旨在开发高效、准确的乳腺癌及其免疫组化的无创筛查方法。首先,采集了207例乳腺癌(BC)患者、83例乳腺良性疾病(BBD)患者和543例健康对照(HC)的高质量血清SERS光谱。通过卡方检验对被试者的年龄、BMI、基础疾病信息进行分析,确定组间混杂因素无显著差异。然后,使用Light GBM(LGB)算法作为基模型,保留了有用特征,显著提高了分类性能。最后,通过反向传播对DNN算法进行训练,调整神经元之间的权重和偏差,提高网络的预测能力。该方法提高了为乳腺癌分类提供更精准的信息,展现出较传统机器学习算法更为卓越的性能,对BC和BBD的血清分类准确率为91.38%,对BC、BBD和HC的血清分类准确率为96.40%。此外,对于BC患者的免疫组化状态评估,HR+/HR-准确率达到90.11%,HER2+/HER2-准确率达到88.89%。这些结果表明,血清SERS结合强大的深度学习算法将为临床乳腺癌筛查提供新的途径,也为泛癌检测提供了重要的研究基础和依据。 (2)本研究构建了一个基于SERS光谱和人工智能算法的泛癌检测分析方法。验证了前文针对乳腺癌的深度学习分类方法,并在算法研究上进行创新,将SERS技术与重采样、特征升维、深度学习和可解释性分析方法结合,能够从大量样本中区分出不同癌症类型。分别采集了1896例健康对照组(HC)样本、569例乳腺癌(BC)、513例肺癌(LC)、220例甲状腺癌(TC)、215例结直肠癌(CC)、100例胃癌(GC)以及38例食管癌(EC)的血清SERS光谱。采用重采样策略,利用Borderline-SMOTE方法对数据进行处理,优化了训练集的平衡性,并通过深度神经网络(DNN)模型进行初步验证,取得了良好的分析性能。随后,利用Heatmap和CWT方式对光谱数据升维处理,引入卷积神经网络(CNN)进行图像分析,结合Res Net18模型,更高效地判别了癌症类型。最后,通过类激活图(CAM)方法解释了光谱数据分类的生物学意义,为未来癌症检测的应用提供了依据。 (3)本研究开发了一套用于SERS光谱预处理及癌症快速筛查的智能分析系统,并采用Python和Py Qt构建了直观友好的图形用户界面。该系统在设计上使用了模块化结构,主要包括光谱数据预处理和机器学习算法分类两个功能模块。该系统的特别之处在于集成了多种先进算法,使用户能够根据实际需求选择最合适的方法。同时,该系统解决了传统预处理方法流程繁琐的问题,提供了集成化平台,避免了在不同软件之间切换的需求,实现了对SERS光谱的高效处理和统计分析。在光谱数据预处理模块中,用户可执行多项操作,如光谱裁切、基线矫正、归一化、异常值检测、缺失值处理和特征提取等。此外,系统提供多种机器学习算法和集成学习算法,用户可以根据具体任务灵活选择。所有流程均提供可视化结果,帮助用户直观了解分类效果。该系统旨在为用户提供一个便捷的平台,实现光谱数据的高效处理和癌症筛查分析,为生物医学研究提供了强大工具。
关键词: 血清SERS ；乳腺癌 ；泛癌 ；特征处理 ；人工智能 ；筛查模型 ；系统研发
摘要： 深度学习技术的不断发展,衍生出神经网络的广泛应用,如基于自然语言处理的Chat GPT对话模型。神经网络的可解释性成为热门研究课题。径向基神经网络(Radial Basis Function Neural Network,简称RBF神经网络)以结构简单、学习速度快、逼近效果好等优点,不断被运用于与人类息息相关的日常活动中,并逐渐成为神经网络不可或缺的一部分,对RBF神经网络的可解释性研究具有较大的现实意义。但是,当前RBF神经网络的可解释性研究存在诸如隐藏层神经元可解释性证明不足、模型的可解释性与性能不平衡等问题。
粗糙集理论是一种刻画不完全性、不确定性问题的数学工具,无需任何先验知识,能够从客观角度剖析数据,具备很强的可解释性。不同于传统的粗糙集,模糊决策粗糙集可以直接运用于数值型数据,具有较好的性能,其内在高斯核模糊T-等价关系与RBF神经网络内核的关联性提供了实现可解释性的基础。当前多数的粗糙集模型在结合各种神经网络时难以实现可解释性,这需要从更广阔的意义上对粗糙集模型进行扩展,探索粗糙集在不同维度下的定义,从而更好地解释各种神经网络。
针对上述问题,本文从粗糙集模型的视角出发探究RBF神经网络的可解释性,设计基于模糊决策粗糙集的RBF神经网络可解释性模型,提出RBF神经网络的规则提取算法和基于模糊决策粗糙集的RBF神经网络可解释性与优化算法,并细致探讨了当前粗糙集模型的信息损失问题与多阶定义。具体研究如下:
首先,定义可解释性因子,提出模糊决策粗糙集模型视角下对RBF神经网络可解释性研究的新方法。探索在粗糙集视角下RBF神经网络规则的可度量性,提出TEORBF算法获取神经网络知识集合,通过可解释性因子建立概念的高耦合,并提出FDRSIR解释性算法生成细粒度层级的解释,详细描述神经网络处理过程的决策行为。9组UCI数据集上的实验验证了该方法对神经元解释的有效性。
其次,提出了基于模糊决策粗糙集的RBF神经网络优化算法FDRS-OLS-RBF。将可解释性因子作为启发式信息引入神经元的训练过程,利用细粒度的解释性指标修正神经元权值,实现一种新的优化方式,提高神经网络模型的性能。在9组数据集上的实验结果表明了该方法有效性。
最后,提出了粗糙集模型信息损失的计算方法,继而提出了多阶粗糙集。为了将粗糙集模型更全面地扩展到神经网络可解释性研究,提出一种计算粗糙集模型信息损失的方法,根据信息损失不同将粗糙集模型分为3类:零阶粗糙集、一阶粗糙集和二阶粗糙集。给出了一阶粗糙集与二阶粗糙集及其属性约简的定义,探讨了各类属性约简之间的关系。研究结果为粗糙集实现更广泛的神经网络可解释性提供理论基础,也为粗糙集的研究提供新的视角。
关键词: 神经网络可解释性 ；径向基神经网络 ；模糊决策粗糙集 ；信息损失 ；多阶粗糙集
摘要： 作为一种新颖的深度学习网络层,可变形卷积近年来因为其独特的适应能力和较好的性能表现得到领域内广泛认可。本工作的主要研究目的是探究可变形卷积在医学影像分析中的应用,在网络中引入了可变形卷积,并辅以一些其它新颖的模块或机制,以此针对性地提高模型在某些特定疾病中的预后预测性能。从基础的单切片研究,深入到多切片研究,最后延伸到多序列研究,随着临床应用场景的逐渐复杂化,对深度学习算法逐步提出了更高要求。按照数据维度、问题复杂度、关键问题层次均不断递增的顺序,逐渐将可变形卷积的应用研究引向深入。同时,以临床价值为导向,分析各种疾病辅助诊断的难点。
自本研究开展以来,针对基于深度学习的医学影像辅助诊断算法展开了深入的研究。本工作主要研究了目前较新的可变形卷积,不断改进可变形卷积的内部设计,并依托医学领域中多个实际的临床问题依次开展验证。主要的工作包括:
·基于单张典型切片的空间信息提取研究中,选取乳腺癌患者的腋下淋巴结转移性为研究对象,分析其小目标问题、特征提取问题、信息传递问题。回顾性分析对比增强计算机断层扫描(Contrast-enhanced Computed Tomography,简称CECT)图像的特殊性和诊断腋下淋巴结是否转移的可行性。在目前临床诊断的背景下,充分考虑医院应用辅助诊断的实际需求,针对局部病灶样本较小的情况,重点研究了多尺度特征融合机制,设计了跨尺度的跳跃连接用于形成不同尺度的信息互通。在可变形卷积层的基础上进一步改进可变形机制,融合卷积注意力模块的空间注意力,设计出了可变形降维模块,在新维度上融合不同尺度的特征图并对其实现特征降维。基于VGG19网络结构进行改进,参考Res Net中的残差结构,设计了多尺度残差结构的可变形VGG19模型,将可变形降维模块以即插即用方式,替代模型中的多个池化层。在对比实验中,可变形VGG19模型在指标上的表现和综合性能均超过其它模型。通过消融实验证明了可变形降维模块内特征融合机制和注意力机制的有效性,也将可变形降维模块应用于VGG16结构上,同样实现了模型性能提升,证明了模块作为即插即用模块的兼容性。
·基于多切片CECT序列的上下文信息融合研究中,选取肝硬化患者的食管胃静脉曲张破裂复发出血症状为研究对象,分析其切片筛选问题、轻量结构设计问题、上下文结合问题。回顾性分析五年内登记病例的CECT图像序列和一年随访的结果。预先采用肝脏、食管下段和脾脏三个器官数据作为分析对象,开展器官与术后复发出血的关联性研究,从而得到后续筛选切片的依据。基于可变形机制,参考Mobile Net中的深度可分离卷积结构的搭建,设计了可变形分离卷积模块,不仅具有在全维度上的采样能力,也能融合相邻切片的上下文信息。利用2D-CNN、3D-CNN、可变形分离卷积模块等多种结构,精心设计了变形多切片融合网络,通过特征提取器、多层信息融合子网络、立体信息整合子网络三部分处理CECT序列的海量信息。通过实验对比三种典型图像序列网络结构与提出的多切片融合网络,本工作模型在大多数指标上表现最优,ROC曲线和P-R曲线中反映的AUC和F1-Score指标也验证了综合性能。通过两组消融实验,分别证明了可变形分离卷积模块和多切片融合网络的设计合理性。最后对神经网络进行可视化,纳入测试集中前三个阳性样本和前三个阴性样本分析,以增强研究工作的可解释性。
·基于核磁共振成像(Magnetic Resonance Imaging,简称MRI)多序列的模态间信息交互研究中,选取宫颈癌患者的肿瘤分期为研究对象,分析其小样本问题、序列统一问题、多序列交互问题。系统地调研了现有的相关研究成果,结合医学临床病理与影像成像原理,分析特征图中各个维度的物理意义。针对突出的小样本问题,为了缓解过拟合现象,设计了一种特殊的针对顺序排列样本的序列增强策略,在切片维度上增加数据多样性。在单序列多切片模型的基础上,研究序列间的信息融合机制,将Conv LSTM与可变形卷积深度融合,形成可变形Conv LSTM模块,使网络有能力在序列内信息整合阶段充分融合各个切片上的信息,将有价值信息从庞大的数据中提炼出来。针对宫颈癌患者MRI的多个影像序列数据,设计了新颖的多模态联合分析模型,利用最终通过实验论证了提出方案的有效性,实现对病例MRI多个序列的分期预测,同时也探讨了不同模态数据的分期价值以及多类别分期任务的可行性。
本工作针对基于深度学习的医学影像辅助诊断算法展开了深入的研究,主要研究了目前较新的可变形卷积,并依托医学领域中多个实际的临床问题依次开展验证,包括腋下淋巴结转移性分析、食管胃静脉曲张破裂复发出血预测、宫颈癌肿瘤分期。多项研究分别实现了对淋巴结病灶转移性的精确分类、序列多切片融合预测术后复发出血概率、肿瘤分期的多序列联合预测,在多项指标上超越了现有的相关研究,甚至是医生人工诊断的平均水平。综上所述,本文的研究也不仅限于可变形卷积在医学影像领域中的应用,也是深度学习算法在计算机辅助诊断技术中的发展和完善,同时有望解决在实际医学诊断中的难点与痛点,为医生提供可靠的第二诊断意见,因此在医工结合的交叉领域中同时具有重要的算法研究价值与实际临床意义。
关键词: 深度学习 ；医学图像处理 ；辅助诊断算法 ；可变形卷积
被引量
1
摘要： 深度强化学习是深度学习和强化学习的结合,同时具备较强的感知能力和决策能力,有望推动通用人工智能的发展。但是,强化学习由动态规划演化而来,需要进行多次迭代更新才能学习到优秀的策略。此外,深度神经网络的可解释性较差,学习效果对样本的依赖性较强。因此,当智能体在环境中的探索不够充分,未能收集到充足的经验数据时,深度强化学习的值函数估计会产生偏差,经验数据分布会偏移。进一步,受到估计偏差和经验数据分布偏移的影响,深度强化学习的训练过程会累积误差,从而严重影响深度强化学习算法的策略更新稳定性和学习效率。为此,本文围绕着如何降低深度强化学习的累积误差展开相关研究,主要内容包括:(1)基于函数逼近的值函数迭代过程会累积贝尔曼残差,有概率向着远离最优值函数的方向更新。针对深度强化学习训练过程产生的累积误差,一个可行的解决方案是降低其单步更新误差。基于这一思想,将前一迭代步的值函数引入当前值函数优化过程中,通过变换矩阵来调节这两个值函数对单次迭代的贡献程度。然后,利用贝尔曼算子、误差分析和数学归纳法,求解出最小化单步值函数更新误差的变换矩阵。基于求解出的变换矩阵,提出基于近似策略的加速值函数迭代算法,理论证明了其可以在使用更激进学习率的同时保证收敛。最后,将所提值函数迭代法与离策略深度强化学习相结合,提出基于近似策略的加速深度Q学习、基于近似策略的加速双深度Q学习和基于近似策略的加速确定性策略梯度。(2)在Actor-Critic架构中,Actor(策略)网络根据Critic(值函数)网络的输出优化策略,但策略并不直接参与值函数的迭代更新。因此,Critic网络对Actor网络变化的响应会滞后,并进一步导致策略的不稳定。另一方面,由于在策略Critic网络的目标值通常不是行为策略下的期望折扣回报,因而会在Actor网络和Critic网络的训练过程中累积误差。为此,将策略引入到值函数的更新过程中,提出了基于策略的期望(PBE)折扣回报和值迭代公式。通过对期望SARSA和行为策略下路径返回的期望折扣回报进行分析,证明了PBE值迭代可以有效降低在策略值函数迭代的估计误差。然后,基于折扣因子和策略单调优化的相关理论研究,提出一种基于裁剪折扣因子的策略更新方法,以确保应用PBE折扣回报时策略更新满足信任域的无偏估计。最后,设计了一种基于策略反馈的在策略Actor-Critic架构,并进一步提出基于策略反馈的近端策略优化算法。(3)在同一行为策略下,智能体收集到的经验数据之间相关性较大,从而导致较低的样本效率。针对这一问题,通过鞅与强化学习关联性的相关研究,提出一种用于判别经验数据是否有利于策略优化的下鞅条件。通过分析在策略强化学习值函数迭代过程,发现状态值的低估会增大估计误差,降低算法的学习效率。为此,提出一种预支值迭代(AVI)方法来减小状态值低估产生的累积误差。通过分析在策略值函数产生的估计误差,证明了对符合下鞅条件的经验数据使用AVI更有利于算法训练。进一步,建立了去鞅强化学习框架,提出一种去鞅近端策略优化算法。(4)对于离线强化学习来说,固定的离线经验缓存能够避免随机探索伴随的系统风险。但是,行为策略下的离线经验缓存中离群或异常样本数量较少,导致这部分值估计产生偏差,进而增大离线更新梯度中的误差。为此,考虑将优先经验回放机制引入到离线强化学习中,提出一种离线优先经验(OPE)采样模型以降低值函数估计误差。另一方面,在整个训练过程中,离线更新梯度均会受到不利于策略优化的经验数据影响。为此,对值函数优化过程以及鞅与策略优化之间的关联性进行探究,提出一种基于鞅的离线优先经验(MOPE)采样模型,以降低不利于策略优化的经验数据被多次采样产生的累积误差。进一步,将所提两种采样模型与批约束Q学习(BCQ)相结合,提出优先BCQ和基于鞅的优先BCQ。雅达利游戏、机器人控制和自动驾驶任务上的实验结果表明,所提深度强化学习算法可以有效降低累积误差,提高学习效率。论文共有图22幅,表7个,参考文献152篇。
关键词: 深度强化学习 ；累积误差 ；值函数迭代 ；策略反馈 ；策略梯度 ；鞅 ；采样模型
被引量
1
摘要： 临床编码是开展临床统计研究、医疗质量评估和医保计费管理的重要基础任务,旨在将临床医生在电子病历中书写的医学信息抽象、总结,并转换为结构化的标准编码。近年来,随着医疗数据的快速增长以及对医疗信息标准化需求的增加,国家医保局、卫健委等相关部门相继出台了一系列技术规范和指导意见,对临床编码工作的准确性、实时性、一致性等方面提出了更高要求。与此同时,深度学习方法在自然语言处理领域取得了显著进展,为医疗领域的信息处理带来了新的可能性。人工智能技术赋能的自动化临床编码算法,成为解决医疗数据处理复杂性与高效性矛盾,推动临床编码工作数智化转型的重要解决方案,为医疗服务质量提升和临床科学决策提供重要支撑。 然而,当前自动化临床编码研究面临临床资源稀缺、数据质量较差、标签分布稀疏等多维度客观因素的掣肘,致使现有的自动化临床编码相关工作仍存在诸多问题和不足,主要体现在两大层面:(1)算法表征过程中对临床文本隐含的语义信息、医学特性知识挖掘不充分;(2)临床决策流程中没有充分引入编码员的先验知识与反馈。因此,机器智能能力构建的不足和人类智慧引入机制的缺失双向制约着自动化临床编码算法在真实世界临床场景下的有效应用部署,限制其充分发挥临床效能,使得临床编码员和编码系统在编码决策的过程中无法实现高效协同。 针对上述研究挑战和不足,本文面向智慧医疗领域的自动化临床编码关键问题,分别从表征算法理论研究和实际临床部署应用两大层面自底向上切入,为临床场景下自动化临床编码的高效应用部署提供创新解决方案。通过深入结合中文临床文本的多层面医学知识特性和中国医院场景下的编码操作流程规范,切实提升自动化临床编码算法在真实世界的编码性能、可解释性、可用性。本文的主要工作贡献和创新性可以归纳为以下几个方面: (一)针对图神经网络缺乏知识指向性以及无监督预训练模型缺乏对隐含语义、语法学知识的充分归纳表达这两局限性问题,开展了集成无监督语义语法知识的异质图表示学习算法研究。本文通过设计扰动掩码策略构建图网络,同时设计卷积嵌入模式等一系列优化举措,有效地集成了基于图网络的全局信息和基于自监督模型的上下文语义、语法信息,实现在文本表示学习过程中的信息互补,优化表征算法性能。 (二)针对基于自动化临床编码算法对临床短文本中的医学语义信息挖掘不充分的问题,开展了多轴心、多粒度结构语义增强的ICD自动编码图表示算法研究。本文通过深入结合ICD编码文本中的多轴心、多粒度的层级医学知识,构建疾病名称、手术操作名称的医学知识结构体,并通过无监督预训练模型,在语义上进一步增强临床编码异质图中医学知识的结构关联,以此有效提高自动化临床编码算法的表征性能。此外,通过结合编码名称的结构不变性和标签传递性,设计了结合语义的数据增强策略,并基于新生成的数据设计了层级知识增强的对比学习预训练策略,进一步增强了编码算法对短文本中多轴心、多粒度语义内涵的表征能力。 (三)针对当前自动化临床编码算法的性能、可解释性、可用性表现与实际临床需求不匹配的问题,开展了人在回路范式下人与AI协同的临床编码框架研究。本文提出了人在回路的临床编码框架CliniCoCo,将编码员的反馈动态引入自动化临床编码的数据预处理阶段、模型训练阶段、临床决策阶段等关键流程中。通过设计迭代协同标注策略、3阶段的多标签对比学习策略等方法,在人类标注能力有限的情况下充分利用不同噪声程度的病历数据中的隐含医学知识。同时设计了一系列定制化协同功能。实现临床编码的人机协同优化。 (四)针对人与AI协同的临床编码框架的临床部署问题,开展了对人机协同临床编码系统的定量观测评估以及在真实世界的小规模部署案例研究。本文基于三甲医院真实病历数据及标注金标准,通过构建基于规则的质量控制模拟器,动态调节病历文本中的噪声程度和标注占比,用以开展多角度的临床编码现象观测,并对临床人力的投入和有效性之间平衡开展定量分析。进一步地,本文开发、部署了人在回路的临床编码交互界面,通过开展小规模的试点研究,具体评估人在回路范式在真实场景下的实际临床效用。
关键词: 智慧医疗 ；临床编码 ；人在回路 ；文本分类 ；临床决策支持
摘要： DNA功能序列是调控基因表达的关键序列,其准确识别对于理解基因表达机制和生物学功能至关重要。随着深度学习技术在多个领域的成功应用,其在DNA功能序列识别中也展现出了显著优势,包括高准确性和强大的泛化能力,这些优势为深入研究基因调控机制和促进生物学研究提供了新的动力。然而,深度学习模型主要问题在于其决策过程的不透明性,难以理解模型做出特定预测的内在原因。特别在DNA功能序列的识别模型中,由于功能序列的长度差异较大,这一挑战尤为明显。 为了解决这一问题,本文主要针对两种具有代表性的功能序列进行研究,包括长度较长的启动子和长度较短的G-四链体。通过设计可解释的深度学习模型,本研究不仅实现了对这些功能序列的高效预测,同时揭示模型的决策机制,从简单的“使用机器学习”向“理解机器如何学习”转变,增强对基因调控机制的认识与理解。 本文的内容主要有以下两个方面: 1.提出了一种用于微拟球藻启动子预测的可解释深度学习模型N-PIP,主要包括微拟球藻启动子分类任务的预测器和阐明分类背后的原理的解释器。预测器将注意力机制与稠密连接的卷积神经网络相结合,使模型能够自适应地学习序列特征的重要性,相比以前研究提出的模型显著提高了预测性能。为了提高深度神经网络的可解释性,N-PIP集成了启动子预测器以及基于空洞残差卷积的解释模块,构建了一个融合预测和解释微拟球藻启动子序列的深度学习模型。 2.提出了一种可解释的深度学习算法用于人类体内、体外G-四链体的预测。该算法的特征提取模块使用预训练的Enformer模型从DNA序列中提取具有细胞系特异性的基因组特征信息,分类模块使用多层感知机将基因组特征映射为体内G-四链体的形成概率。通过基于重要性反向传播以及沙普利重要性的深度学习解释算法计算基因组特征的重要性,本研究从模型中获取了大量与体内G-四链体形成相关的转录因子与组蛋白修饰类型,使得模型具备良好的可解释性。
关键词: 深度学习 ；可解释性 ；微拟球藻 ；启动子预测 ；G-四链体预测
被引量
1
摘要： 当前,人体行为识别已经成为计算机视觉领域中的研究热点,同时也已经广泛的应用于社会和工业生产等各个领域。但是由于其网络内部的“黑盒”属性,预测结果缺乏可解释性。如果不理解和无法推理预测背后的关系,这些模型就不能被理解和信任,这限制了人体行为识别技术的落地应用和进一步发展。因此研究人体行为识别神经网络模型的可解释性就十分必要了,已经引起了学术界和工业界浓厚的研究兴趣。为此,本文面向人体骨架行为识别的图神经网络模型,以人体骨架时序数据的解耦、节点间相互作用和边际贡献这两个角度切入,借助时间空间特征的扰动和节点权重的类激活映射为研究方法,对人体行为识别的图卷积神经网络的可解释性展开了深入的研究,希望从可视化和各项指标对比量化上对人体骨架行为识别模型的内部特征表达及逻辑决策进行解释,并保证提出的算法解释结果的有效性。本文完成的工作如下:
第一,提出了一种新的基于扰动的针对人体骨架行为识别的图神经网络可解释算法。本文以人体骨架行为识别的图神经网络为研究对象,现有的基于扰动的图网络可解释方法主要关注边、节点、以及节点特征层面,而人体骨架时空序列这类具有刚性结构的时序数据和人体骨架行为识别时空图网络则侧重于子图层面的解释。本文所提的算法通过将输入的骨架数据在时间空间上进行解耦,从时间维度和空间维度分别扰动,获得其各个维度上的重要信息。具体地,首先归纳设计了两阶段时空解耦进行可解释的概念;然后,在时间维度上,针对以子图作为扰动的可解释方法可能存在产生新的语义信息的问题,通过使用离散掩码进行切片来保证结构完整性的同时,使用子图互信息来衡量子图和原始预测之间的相关性;最后,在空间维度上,针对使用连续掩码会导致梯度消失或梯度爆炸的问题,提出使用近似离散掩码作为节点特征扰动的形式,掩码优化器不断迭代实现对重要特征保留的同时,也能抑制背景噪声。实验结果表明,本文提出的方法从可视化和定量分析中都取得了更加显著的效果。
第二,在现有类激活图基础上,本文提出使用合作博弈理论来解决多变量合作分配的类激活图生成算法。现有的类激活图方法只是从梯度和特征得分的角度作为输入特征的权重度量,没有考虑到特征之间的相互作用和边际贡献,并不能准确的表达特征的语义信息在识别和分类任务中的真实贡献。这导致生成的显著性图并不能客观的反映网络模型对特征的学习。本文提出的算法通过计算节点特征的Shapley值和梯度作为网络模型做出判断的依据,生成更加准确表达特征权重的显著性图。具体地,首先针对Shapley值的指数级计算量,提出借助人体运动的先验知识对人体骨架划分联盟来有效降低计算量;接着,在双元博弈交互的基础上发展多变量合作分配的计算方法,利用蒙特卡洛采样法近似计算,对人为划分联盟的合理性进行验证;最后,为了进一步扩大划分联盟中的各个节点的区分度,与通过反向传播得到节点的梯度相结合,作为输入样本的整体显著性图。实验结果表明,本文提出的方法在可视化实验和定量分析中,相比于其他类激活图生成算法在各项指标上都有很大的提升。
关键词: 可解释性 ；人体骨架行为识别 ；特征扰动 ；类激活图 ；博弈论 ；蒙特卡洛采样
摘要： 随着电子科学技术的发展,人们掌握了越来越多的物理量测量手段,具体在医学领域,各种模态的医学影像成像设备相继被发明。医学影像在临床中有巨大的诊断价值,现如今设备成像速度越来越快、影像分辨率越来越高、隐含的物理性质越来越丰富,因此影像学检查在临床上使用也越来越广泛。与此相悖,影像科医生培养周期长,科室规模增长缓慢,这使得医生工作时间长、负荷大,不可避免的出现漏诊和错诊的情况。计算机辅助诊断系统一直是计算机科学与医学科学交叉学科研究的热点,实践证明,在特定情况下它可以为医生提供有效的决策支持,提高诊断准确性。在此前提下,随着人工智能应用的爆发性发展,使用深度学习技术为医学影像赋能理所当然的成为新的尝试方向。本研究立足临床实际需求,紧紧围绕着基于医学影像的计算机辅助诊断算法研究和应用,主要进行了以下创新性工作:1)基于计算机辅助诊断流程,自主开发了多模态医学影像辅助诊断算法实验平台,平台中创新的实现了多种数据预处理和处理方法,随后在该平台中集成基于医学统计分析方法和基于深度学习算法的两类辅助诊断算法;2)本研究使用统计学分析方法探索了一阶及二阶全容积表观扩散参数(ADC)在直肠癌病理表征分类中的价值,结果显示全容积ADC参数可显著区分直肠癌良恶性及病理表征参数(如T分期及神经侵犯),并说明了统计分析方法在临床辅助诊断中的价值;3)本研究结合IBS理论提出医学交叉对比网络,从一定程度上解决了神经网络分类结果不可解释性的问题以及医学小样本数据训练的问题,并将上述神经网络应用于肝部疾病的辅助诊断研究中,其准确率比先前同类研究至少高出10%。研究详情如下:1、自主开发多模态医学影像辅助诊断实验平台。该平台采用经典的OSGi架构进行开发,稳定且易扩展,深刻整合计算机辅助诊断流程,对其中各个处理环节均提供支持,尤其是在与临床医生的沟通反馈下,创新的实现了不同模态医学影像感兴趣区域(ROI)同步勾画的功能,使ROI勾画更加一致准确。平台整理实现了 300多个全容积一阶统计特征、形态学特征和二阶纹理特征参数,在算法层面,集成医学统计分析算法和深度学习算法两类辅助诊断算法。其中统计分析方法理论完善,数学表述清晰,可解释性强,为临床医生广泛接受;深度学习算法依靠数据驱动,无需人为设计提取特征即可自动从数据本身学习知识,是计算机辅助诊断研究中非常有潜力的方向。两类算法相互补充,以实现在不同场景下的准确应用。2、在使用统计分析方法区分直肠癌病理表征参数的研究中,通过该平台从50名直肠癌患者体数据中提取ADC参数(包括均值,百分位数(10,25,50,75,90),偏度,峰度,一阶熵和二阶熵),并使用统计学方法(包括Wilcoxon和Mann-Whitney测试)比较这些参数在良恶性组织、T分期、周围神经浸润(PNI)、淋巴管血管侵犯(LVI)和N分期中的差异。受试者操作曲线(ROC)分析用于评估参数诊断效能并确定最佳参数阈值。结果表明:所有参数均可显著区分良恶性直肠癌组织,其中一阶熵和二阶熵受试者操作曲线下面积(AUC)值最大,分别为0.98和0.97;T1-2分期的直肠癌组织的一阶熵和二阶熵显著低于T3分期,AUC分别为0.78和0.83;PNI直肠癌组织的90百分位数显著低于非PNI,AUC为0.74。该研究表明医学统计分析方法可有效挖掘全容积ADC参数在区分直肠癌病理表征参数分类中的潜力。3、结合并改进IBS理论提出医学交叉对比网络(CCNN)。1)IBS是一种特殊的相似性(或相异性)度量标准,它可以度量两幅特征图(假设每层特征图分别代表一种纹理特征)的相似程度,进而推算两幅原始图片中不同纹理特征的频率分布规律,即两幅原始图片从纹理角度上表现出的相似性。我们假设,相同病理分类的纹理特征相似,不同病理分类的纹理特征不同,则在CCNN中,使用修改后的IBS作为损失函数用以指导网络中权重参数的更新,当训练完成后,网络可以最小化相同分类影像之间的差别,最大化不同分类影像之间的差别,相比于其它神经网络,该方法对分类结果具有很强的物理可解释性;2)CCNN需要同时对两幅图片进行特征提取然后进行IBS度量计算以得到两幅图片的相似度,由于这一特殊的网络结构,在预测阶段必须同时输入一幅(或者多幅)已知分类的影像和一幅待分类影像,这样可以充分利用训练数据中包含的先验知识而无需任何与特定分类(病理)有关的假设,提高适用性的同时减小了对训练数据量的要求;3)VGG-19网络在实践中被证明可以有效的进行特征提取,是许多类似网络的参考,而CCNN的特征提取部分同样借鉴了 VGG-19网络,并在训练时使用了 VGG-19网络的预训练参数,节约训练时间的同时可以尽可能减小过拟合情况的发生概率。4、基于上述医学交叉对比网络设计肝部疾病辅助诊断实验,取得良好结果,证明它具有优秀的分类性能,具体来说,在肝纤维化程度预判实验中准确率超过90%,在原发性肝癌病理分类实验中准确率超过80%,对比以往研究结果,性能提升巨大。此研究表明,深度学习在赋能医学影像进行辅助诊断领域有很大的潜力。
关键词: 医学影像 ；计算机辅助诊断 ；统计特征 ；统计分析 ；IBS ；深度学习
被引量
11
摘要： 国际癌症研究机构发布的全球癌症统计数据显示,2020年全球乳腺癌新增人数高达226万,已经超过肺癌成为全球第一大癌症。自2008年以来,全球乳腺癌发病率增加了 20%以上。2020年中国新发癌症病例总数约为457万,其中乳腺癌发病人数超过41万,占中国女性新发癌症病例总数的19.9%,是中国女性发病人数最多的癌症。
乳腺癌早期筛查已经被证明是控制乳腺癌的有效手段之一,早期发现并介入治疗可以有效提高乳腺癌患者的生存率和生存周期。由于乳腺X光检查是一种无创的检测手段,痛苦相对较小,简便易行,分辨率高,且不受年龄、体形限制,乳腺X光检查已经成为乳腺癌早期筛查最广泛的手段之一。然而,随着乳腺X光筛查的普及也产生了如下问题:(1)相较于庞大的早期筛查人数,经验丰富的放射科医生的数量非常有限;(2)由于病变特征不明显以及诊断的主观性,在一些情况下放射科医生无法给出一致且肯定的结论;(3)相对于发达地区,偏远地区医疗条件落后,医生水平普遍较低。这些因素都在不同程度上制约着医生通过乳腺X光图像诊断乳腺癌的效率和准确性。
计算机辅助诊断系统能够通过分析医学图像数据中的潜在规律来辅助医生进行决策,可以在降低医生工作量的同时有效提高疾病的检出率和筛查的准确性。早期的乳腺X光图像分析算法依赖于传统图像处理技术。然而,该类方法必须根据具体的数据特点精心设计手工特征,使得这类方法在理论上就存在诸如可移植性差等的一些缺陷。深度神经网络可以以数据驱动的方式自动地从目标数据中提取特征,具有强大的特征提取能力、特征表达能力和特征泛化能力。
目前,已有多种基于深度神经网络的乳腺X光图像智能诊断方法相继被提出。然而,不同于自然图像前景目标较为清晰、不同类别差别明显、目标辨识度较高等特点,乳腺X光图像具有病灶区域小,病灶形状多变;局部特征受全局特征影响大,多视角数据关联、互补性强;高精度标签稀缺等特点。现有的乳腺X光图像智能诊断方法并未充分考虑到乳腺X光图像的特点,同时也忽略了临床医生的实际诊断过程,存在准确率不高,假阳率、假阴率偏高等问题。本文针对乳腺X光图像智能诊断领域存在问题和挑战,结合乳腺X光图像数据自身的特点和临床实际诊断流程,重点研究了基于局部特征表达的乳腺X光图像智能诊断方法,以期构造更加适合乳腺X光图像智能诊断的特征表达,并完成乳腺X光图像智能诊断过程中三个阶段的关键技术研究,即乳腺X光图像整图分类关键技术研究、多实例乳腺X光图像分类关键技术研究和乳腺X光图像弱监督目标定位关键技术研究。本文的创新点和主要贡献如下:
1.提出基于卷积特征描述符选择的乳腺X光图像分类模型
针对乳腺X光图像的特点,本文聚焦于深度特征描述符选择,设计了一种基于卷积特征描述符选择的乳腺X光图像分类模型。该方法使用深度特征描述符选择来代替使用精确标签进行病灶检测/分割的操作,并设计了一种新颖的卷积特征描述符选择结构来自适应地选择具有判别性的深度特征描述符,以得到图像的判别性特征表达。消融实验和可视化分析表明,该方法可以使模型更容易学习到恶性和良性/正常病变之间的差异。两个乳腺X光图像公开数据集上的实验结果表明,本文提出的方法可以实现最先进的乳腺X光图像整图分类性能。
2.提出基于区域标签分配策略的多实例乳腺X光图像分类模型
基于卷积神经网络的方法在乳腺X光图像智能诊断方面取得了突破性的进展。然而,这些方法大多数都忽略了乳腺X光图像整体和局部特征之间以及患者不同视角图像之间的关联性。本文设计了一种新颖的基于区域标签分配策略的多实例乳腺X光图像分类方法,通过构建乳腺X光图像的多实例特征表达,使分类器充分利用病例多视角图像之间的关联信息,更好地将细微的病变区域与复杂的全局信息区分开来。该方法只需要病例级的分类标签就可以监督网络训练,相对于现有整图分类方法需要图像级别的分类标签,进一步降低了对标注的需求。另外,由于乳腺X光图像数据集总是存在类别不平衡问题,本文设计了一种基于受试者工作特征曲线下面积的优化方法以提升模型在类别不平衡数据集上的性能。在本文构建的乳腺X光图像数据集和两个公开数据集上的实验结果表明,与目前最先进的乳腺X图像分类器相比,所提出的方法表现令人满意。
3.提出了一种基于特征融合的乳腺X光图像弱监督目标定位模型
结合卷积神经网络对局部信息的敏感性和Vision Transformer网络在长距离语义关联性方面的优势,本文提出了一种新颖的基于特征融合的乳腺X光图像弱监督目标定位方法,通过构建更细粒度的特征表达提升乳腺X光图像弱监督目标定位的精度。此外,考虑到乳腺X光图像中病灶区域通常占比较小,本文设计了一种尺寸约束损失函数,使定位结果更加符合乳腺X光图像病灶的特点。乳腺X光图像公开数据集上的实验结果表明本文提出的方法可以实现最先进的乳腺X光图像弱监督目标定位性能。
4.提出基于对比学习的双分支类别不可知图像弱监督目标定位模型
为了进一步将本文提出的弱监督定位方法泛化到自然图像数据集,本文提出一种新颖的基于对比学习的类别无关双分支弱监督目标定位方法。该方法首先将基于卷积神经网络的局部特征和基于Vision Transformer的全局特征进行逐层交互式融合,得到图像的增强特征表达,然后通过本文提出的一种新颖的基于聚类的跨图像前景-背景对比学习损失函数,迫使网络使用类别无关的激活图来解耦图像中的前景目标和背景区域。两个基准数据集上的实验结果验证了该方法的有效性和泛化性。
综上所述,论文针对乳腺X光图像智能诊断领域存在问题和挑战,结合乳腺X光图像数据自身的特点和临床实际诊断过程,以局部特征表达为主要研究点,从乳腺X光图像整图分类、乳腺X光图像多实例分类、乳腺X光图像弱监督目标定位等方面展开算法研究,通过构造更加适合乳腺X光图像的特征表达,提升了乳腺X光图像智能诊断模型的准确性和可解释性,为乳腺X光图像智能分析研究走向临床实践提供了有力的技术支持。
关键词: 神经网络 ；深度学习 ；乳腺X光图像 ；特征表达 ；多实例学习 ；弱监督目标定位
已选:0 清除
批量下载
批量引用
- 1
- 2
- 3
- 4
- 5