首个快速知识蒸馏的视觉框架：ResNet50 80.1%精度，训练加速30%

10个月前发布 258

关注并星标

学习群｜扫码在主页获取加入方式

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%loading="lazy">

计算机视觉研究院专栏

今天介绍一篇来自卡耐基梅隆大学等单位 ECCV 2022 的一篇关于快速知识蒸馏的文章，用基本的训练参数配置就可以把 ResNet-50 在 ImageNet-1K 从头开始 (from scratch) 训练到 80.1% (不使用 mixup，cutmix 等数据增强)，训练速度（尤其是数据读取开销）相比传统分类框架节省 16% 以上，比之前 SOTA 算法快 30% 以上，是目前精度和速度双双最优的知识蒸馏策略之一，代码和模型已全部开源！

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

计算机视觉研究院学习群等你加入！

计算机视觉研究院

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%

首个快速知识蒸馏的视觉：ResNet5080.1%精度，训练加速30%


相关标签： 图神经网络、 工程实践、 视觉、

本文地址：https://www.badfl.com/article/b8f38a2d7c1e7b865d26.html

上一篇：考拉新媒体导航新媒体人的专属门户网站...
下一篇：StableZero123一张图片生成高质量3D物体...