Unsplashed background img 1


关于我(招生中!)

我计划将在2024年6月于清华大学交叉信息学院获得博士学位,导师为马恺声老师。在2022年,我获得了微软学者荣誉称号(亚太地区年度共十二名)与清华大学蒋南翔奖学金(清华大学共二十名)。在博士期间,我已发表高水平学术论文二十余篇,其中第一作者十三篇,论文总计被引用超过1600次(截至2024年4月)。本人研究成果已在北极雄芯、滴滴、快手、华为、交叉信息核心技术研究院等公司中得到使用。自2020年起,常年担任NeurIPS,ICML,ICLR,CVPR,ECCV,ICCV,AAAI、IJCAI、IEEE TPAMI、IEEE TCSVT、IEEE TIP等众多学术会议与期刊的审稿人。在2024年7月后,我将以助理教授的身份加入上海交通大学人工智能学院,目前招收2025届硕士与博士研究生,特别是拟于2024年9月份进行保研推免的同学。我的研究方向包括但不限于:

一、轻量高效的生成式大模型: 当前的生成式大模型有着百亿量级的参数,导致了极高的训练和推理成本,起了诸多问题。例如,OpenAI曾因无法承担计算成本限制其用户为ChatGPT4付费,Sora模型生成一分钟的视频需要超过一小时的计算时间。通过研究面向生成式大模型的压缩加速方法,我们可以降低大模型的部署成本,使得大模型更好地在现实世界中得到使用。同时,如何使得小模型能具备大模型相同的表征能力也是人工智能的基础核心问题之一。

二、具身智能: 基于图像的传统的计算机视觉研究范式难以帮助人工智能真正理解现实世界的物理规则。具身智能使得人工智能模型以机器人为载体,在现实世界或模拟的世界中与环境进行交互并从环境的反馈中探索、认知世界。具身智能的研究当前方兴未艾,其研究成果可以在无人驾驶、智能机器人等多种场景中得到使用,有着巨大的成果转化价值。

三、其他你有兴趣的研究内容: 对于任何你认为有趣、有前景的研究内容,你都可以在详细调研之后与我进行讨论。

综合来说,本课题组有以下优势:

丰富的计算资源和指导: 课题组成立未久,有充足计算资源(>32张A100以及>24张2080Ti)和启动经费供你开展科学研究。此外,当前组里人员不多,入组可以获得导师全面的指导和帮助,手把手地带你读论文、写代码、改Bug、写论文。我承诺会为每位同学的第一篇论文帮助你从头到尾进行优化改写,二十四小时回复你的任何科研问题。

与产业界密切联系的研究内容: 本课题组的研究内容与产业界关心的问题密切相关,如果你毕业后准备到企业发展,这样的研究内容对你在企业找工作会有巨大优势。此外,课题组鼓励对于满足了学校毕业要求的同学到企业中开展以科研为主要内容的实习工作。同时,课题组也与Intel、阿里巴巴、美团、腾讯、华为、滴滴、快手等多家公司有深入的合作。我几乎收获了国内几乎所有大厂的所有顶薪Offer,有着非常丰富的找工作经验愿意与你分享。

放松舒适的科研生活氛围: 实验室所属的上海交通大学人工智能学院地处上海市徐汇校区(详情),风景秀丽、交通便捷。课题组为同学提供显著超过学校平均水平的津贴,提供免费的零食、咖啡、饮料、加班餐、高性能的电脑等必需资源。导师性格和善积极开朗,因为比较年轻(1997年)会与你有很多的共同话题,不存在交流障碍。导师兴趣爱好广泛,欢迎科研之余多多交流。

对于有意向加入本课题组的同学,以下内容是我对你的期待:

有强烈的自驱力(Self-Motivation),真正喜欢人工智能与科研工作: 课题组会为你提供充足的指导和科研资源,希望你可以充分地利用这些资源,做出一些真正有价值的科学工作,导师期待可以与学生相互良性的Push。对于毕业后主要意向为非技术工作的同学,我完全支持你的选择,但本课题组可能不是你的最适合的地方。

在完成保研和推免后,在大四可以来到上交完成毕业设计以及其他科研项目: 提前一年熟悉科研工作,多一年的学习经验会为你后期的发展提供巨大帮助。对于大四期间来上交进行实习的同学,该期间发表的论文可以被计入研究生阶段的工作产出以满足学校的毕业要求。导师自己在大四期间完成的课题后续发了三篇顶会顶刊论文,并成为了我自己的代表作。

较强的自学能力和编程能力: 希望你可以熟练掌握Python/Pytorch/Linux基础操作,有较为丰富的编程经验,以下内容会是很重要的加分项:ACM竞赛参赛和获奖经历,深度参与的网站搭建、程序开发或开源项目,长期的有价值的专业知识分享。对我来说,这些内容会比你的GPA和学校更加重要。

感谢你的阅读,如果你对本课题组感兴趣,请通过邮件联系我并随信附上你的简历、成绩单和任何其它你认为有益于我了解你的信息,我将在一周以内给予回复,建议有兴趣的同学在夏令营或考研之前尽早与我联系。

News

  •   • 02 / 2024:   一篇论文发表于 IEEE Transaction on Networking.
  •   • 10 / 2023:   我获得了清华大学-丰田奖学金(综合一等).
  •   • 05 / 2023:   两篇论文发表于 BMVC2023.
  •   • 04 / 2023:   三篇文章发表于 ICCV2023.
  •   • 01 / 2023:   一篇文章发表于 ICLR2023.
  •   • 12 / 2022:   我获得了蒋南翔奖学金(清华大学共20名).
  •   • 10 / 2022:   一篇文章发表于 IEE TCSVT
  •   • 10 / 2022:   我获得了 微软学者奖学金 (亚太地区共12名).
  •   • 07 / 2022:   一篇文章发表于 ECCV2022 as oral presentation.
  •   • 03 / 2022:   一篇文章发表于 CVPR2022
  •   • 10 / 2021:   我获得了 唐立新奖学金 (2%,清华大学).
  •   • 06 / 2021:   一篇文章发表于 MobiCom2021
  •   • 04 / 2021:   一篇文章发表于 IJCNN2021
  •   • 03 / 2021:   一篇文章发表于 IEEE TPAMI
  •   • 01 / 2021:   一篇文章发表于 ICLR2021
  •   • 10 / 2020:   我获得了 (国家奖学金) (2%,清华大学).
  •   • 09 / 2020:   一篇文章发表于 NeurIPS2020
  •   • 03 / 2020:   一篇文章发表于 CVPR2020
  •   • 09 / 2019:   一篇文章发表于 NeurIPS 2019
  •   • 07 / 2019:   一篇文章发表于 ICCV 2019
  •   • 07 / 2019:   我在东北大学获得学士学位,并获得校级优秀毕业论文(前<2%).
已发表文献

Be Your Own Teacher: Improve the Performance of Convolutional Neural Networks via Self Distillation.
Linfeng Zhang, Jiebo Song, Anni Gao, Jingwei Chen, Chenglong Bao, and Kaisheng Ma
IEEE International Conference on Computer Vision (ICCV2019).

SCAN: A Scalable Neural Networks Framework Towards Compact and Efficient Models
Linfeng Zhang, , Zhanhong Tan, Jiebo Song, Jingwei Chen, Chenglong Bao, and Kaisheng Ma.
Neural Information Processing Systems (NeurIPS2019)

Auxiliary Training: Towards Accurate and Robust Models
Linfeng Zhang, Muzhou Yu, Tong Chen, Zuoqiang Shi, Chenglong Bao, and Kaisheng Ma
IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR2020)

Task-Oriented Feature Distillation
Linfeng Zhang, Yukang Shi, Zuoqiang Shi, Kaisheng Ma, and Chenglong Bao
Neural Information Processing Systems (NeurIPS2020).

Self-Distillation: Towards Efficient and Compact Neural Networks
Linfeng Zhang, Chenglong Bao, and Kaisheng Ma
IEEE Transactions of Pattern Analysis and Machine Intelligence (IEEE TPAMI)

Improve Object Detection with Feature-based Knowledge Distillation: Towards Accurate and Efficient Detectors
Linfeng Zhang, Kaisheng Ma
The International Conference on Learning Representations (ICLR2021)

Structured Knowledge Distillation for Accurate and Efficient Object Detection
Linfeng Zhang, Kaisheng Ma
IEEE Transactions of Pattern Analysis and Machine Intelligence (IEEE TPAMI)

Wavelet Knowledge Distillation: Towards Efficient Image-to-Image Translation
Linfeng Zhang, Xin Chen, Xiaobing Tu, Pengfei Wan, Ning Xu, Kaisheng Ma
IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR2022)

Contrastive Deep Supervision
Linfeng Zhang, Xin Chen, Junbo Zhang, Runpei Dong, Kaisheng Ma
European Conference on Computer Vision Oral Presentation

Pointdistiller: structured knowledge distillation towards efficient and compact 3d detection
Linfeng Zhang, Runpei Dong, Huang-Shuo Tai Kaisheng Ma
IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR2023)

A Good Data Augmentation Policy Is Not All You Need: A Multi-Task Learning Perspective
Linfeng Zhang, Kaisheng Ma
IEEE Transactions on Circuits and Systems for Video Technology (IEEE TCSVT)

Fine-grained emotion classification of Chinese microblogs based on graph convolution networks
Yuni Lai, Linfeng Zhang(equal contribution), Donghong Han, Rui Zhou, Guoren Wang
World Wide Web Journal

Finding the Task-Optimal Low-Bit Sub-Distribution in Deep Neural Networks
Runpei Dong, Zhanhong Tan, Mengdi Wu, Linfeng Zhang, Kaisheng Ma
International Conference on Machine Learning (ICML2022)

Autoencoders as Cross-Modal Teachers: Can Pretrained 2D Image Transformers Help 3D Representation Learning?
Runpei Dong, Zekun Qi, Linfeng Zhang, Junbo Zhang, Jianjian Sun, Zheng Ge, Li Yi, Kaisheng Ma.
International Conference on Learning Representation (ICLR2023)

Non-Structured DNN Weight Pruning -- Is It Beneficial in Any Platform?
Xiaolong Ma, Sheng Lin, Shaokai Ye, Zhezhi He, Linfeng Zhang, Geng Yuan, Sia Huat, Tan, Zhengang Li, Deliang Fan, Xuehai Qian, Xue Lin, Kaisheng Ma, Yanzhi Wang
IEEE Transactions on Neural Networks and Learning Systems (IEEE TNNLS)

SMART: screen-based gesture recognition on commodity mobile devices
Zimo Liao, Zhicheng Luo, Qianyi Huang, Linfeng Zhang, Fan Wu, Qian Zhang, Yi Wang.
Annual International Conference on Mobile Computing and Networking (MobiCom21), Oral
*equal contribution

Wavelet J-Net: A Frequency Perceptive on Convolutional Neural Networks
Linfeng Zhang, Xiaoman Zhang, Chenglong Bao, Kaisheng Ma
International Joint Conference on Neural Networks (IJCNN2021)

CORSD: Class-Oriented Relational Self Distillation
Muzhou Yu, Sia Huat Tan, Kailu Wu, Runpei Dong, Linfeng Zhang, Kaisheng Ma
IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP2023)

Structured Knowledge Distillation Towards Efficient and Compact Multi-View 3D Detection
Linfeng Zhang, Yukang Shi, Hung-Shuo Tai, Zhipeng Zhang, Yuan He, Ke Wang, Kaisheng Ma
British Machine Visual Conference (BMVC2024, Oral)

Region-aware knowledge distillation for efficient image-to-image translation
Linfeng Zhang, Xin Chen, Runpei Dong, Kaisheng Ma
British Machine Visual Conference (BMVC2024)

Tiny Updater: Towards Efficient Neural Network-Driven Software Updating
Linfeng Zhang, Kaisheng Ma, IEEE International Conference on Computer Vision (ICCV2023)
IEEE International Conference on Computer Vision (ICCV2023)

Multi-Frequency Representation with Privilege Information for Video Super-Resolution
Fei Li, Linfeng Zhang, Zikun Liu, Juan Lei, Zhenbo Li, Zhenbo Li.
IEEE International Conference on Computer Vision (ICCV2023)

Ada3D: Exploiting the Spatial Redundancy with Adaptive Inference for Efficient 3D Object Detection
Tianchen Zhao, Xuefei Ning, Ke Hong, Zhongyuan Qiu, Lu Pu, Linfeng Zhang, Yali Zhao, Lipu Zhou, Guohao Dai, Huazhong ang, Yu Wang.
IEEE International Conference on Computer Vision (ICCV2023)

Gesture Recognition Using Visible Light on Mobile Devices
Zimo Liao, Zhicheng Luo, Qianyi Huang, Linfeng Zhang, Fan Wu, Qian Zhang, Guihai Chen.
IEEE/ACM Transactions on Networking (IEEE/ACM TON)
教育经历

B.Eng. in SCIE, Northeastern University (in Shenyang, China)
Sep. 2015 - 2019

Ph.D. in Institute for Interdisciplinary Information Sciences, Tsinghua University
2019 - 2024 (expectation)