韩凯博士论文入选2026年度中国科学院优秀博士学位论文

近日，中国科学院公布了2026年度中国科学院优秀博士学位论文评审结果，中国科学院软件研究所2024届毕业生韩凯博士的学位论文入选，其指导教师吴恩华研究员荣获2026年度“中国科学院优秀导师”称号。

韩凯，2019级博士生，其博士学位论文《多层次高效神经网络研究》聚焦于从多层次视角设计高效深度神经网络，围绕宏观架构、中层表示与微观计算三个层次开展系统性研究，提出了多项具有国际影响力的模型设计与压缩方法。论文创新性提出了嵌套式Transformer架构（Transformer in Transformer），通过将图像块进一步细分为“视觉词”，实现了全局与局部注意力的高效耦合，显著提升了视觉Transformer的表征能力；针对视觉数据的非网格结构特性，论文进一步提出了视觉图神经网络（Vision GNN），将图像表示为图节点结构并引入图卷积进行信息传递，为视觉建模提供了新的网络范式。在模型轻量化方面，论文设计了面向CPU与GPU异构设备的Ghost高效模块，通过挖掘特征图冗余性生成“幻影特征”，在大幅降低计算成本的同时保持模型精度；此外，论文还从卷积核与神经元两个微观层面提出了多用卷积核与基于学习的二值化方法，实现了从粗粒度到细粒度的全方位网络压缩。

相关成果发表于NeurIPS、CVPR、ICML、TPAMI、IJCV及软件学报等CCF-A会议和期刊，累计被引用一万余次，被图灵奖得主Yann LeCun等国内外知名学者广泛引用，入选PaperDigest最具影响力论文榜单，在学术界和工业界产生了重要影响。在学期间，韩凯还获得了中国科学院院长特别奖、北京市优秀毕业生、博士研究生国家奖学金等荣誉。

中国科学院优秀博士学位论文评选始于2004年，每年评选一次。2026年，全院共有100篇论文入选。

韩凯近照