知识蒸馏的研究与进展

论坛类别：专家讲坛

主　　题：知识蒸馏的研究与进展

主 讲 人：张凯兵

时　　间：2023年4月24日上午9：00

地　　点： 三园区计算机学院学术报告厅

承办单位：计算机与信息科学学院

主办单位：学科建设办公室（研究生工作处）

报告摘要：

知识蒸馏作为一种前沿的模型轻量化方法，已经被广泛应用到各种计算机视觉任务中，包括图像分类、目标检测、图像增强等。本报告主要从以下四个部分介绍知识蒸馏的研究与进展：首先，介绍知识蒸馏的研究背景与意义，包括它的研究动机及核心思想。然后，对现有的知识蒸馏方法进行归纳总结，并对不同类型的知识蒸馏方法的原理进行介绍；其次，对课题组目前的研究进展进行介绍，包括基于多源知识蒸馏网络的图像分类方法和基于知识蒸馏的轻量化小目标检测方法；最后，对知识蒸馏方法未来的研究方向和发展趋势进行了展望。

主讲人简介：

张凯兵，教授，博士/硕士研究生导师，西安市人工智能与机器人学会理事，《西安工程大学学报》编委会委员，国际期刊The Visual Computer副主编。主要研究方向包括：影像超分辨重建及质量评价、复杂环境下的计算机视觉检测与分析、跨模态人脸合成与识别、智能视频分析与理解、深度学习与模型压缩、跨域自适应迁移学习等。在IEEE TIP、IEEE TNNLS、IEEE TCSVT、IEEE SPL、Neural Networks、Neurocomputing、Signal Processing(Elsevier)、Applied Soft Computing、Applied Intelligence、CVPR和ICIP等国际期刊和会议发表论文50余篇，Google Scholar引用2700余次，单篇引用550余次，ESI高被引论文5篇。主持国家自然科学基金面项目2项、中国博士后科学基金特等和一等资助各1项、陕西省自然科学基金重点研发计划1项。获陕西省科学技术奖一等奖1项，教育部高等学校科学研究优秀成果奖二等奖1项，陕西省高等学校科学技术一等奖2项。获评2014年度西安电子科技大学优秀博士论文，2018年度ACM西安分会“新星奖”和ACM中国“新星奖”提名，2019年度“香港桑麻奖教金”, 2019-2020年度西安工程大学“师德先进个人”。曾指导学生获全国大学生软件设计大赛一等奖，中国研究生电子设计竞赛西北赛区一等奖、二等奖，全国研究生数学建模竞赛三等奖。2016年开始指导硕士研究生，其中6名研究生获西安工程大学优秀硕士论文，5名研究生获得研究生创新基金项目，4名研究生获得国家奖学金，3名研究生进入西安交通大学攻读博士研究生。