电讯技术

北大核心,INSPEC,WJCI

国内刊号:51-1267/TN

国际刊号:1001-893X

电讯技术杂志2019年第5期:一种基于Lasso回归与SVD融合的深度学习模型压缩方法

发布日期:

作者:吴进,吴汉宁,刘安,李聪,李乔深

单位:(西安邮电大学 电子工程学院,西安710121)

关键词:深度学习;Lasso回归;融合压缩;奇异值分解;

基金:国家自然科学基金资助项目(61772417,61634004,61602377);陕西省科技统筹创新工程项目(2016KTZDGY02-04-02);陕西省重点研发计划(2017GY-060);陕西省自然科学基础研究计划项目(2018JM4018)

针对深度学习模型所需的海量参数及强大的计算资源而导致其不能很便捷地应用于嵌入式设备或移动端的问题,在Lasso(Least Absolute Shrinkage and Selection Operator)回归通道挑选法的基础上,提出了Lasso+奇异值分解(Singular Value Decomposition,SVD)的融合压缩法。使用VGG-16为初始模型,分别在不同的小型数据集上进行迁移学习,使用迁移学习后的模型在不同的加速率下进行测试。实验结果表明,相对于传统的模型压缩算法,Lasso+SVD的融合压缩法实现了在加速和参数压缩两方面的优势,进而以目标检测为应用方向,在保证准确率的同时不仅降低了模型存储需求,而且也较大提升了模型的实时性。

来源:2019年第5期

《电讯技术》期刊编辑部

查看电讯技术杂志2019年第5期

联系我们

  • 地址:四川省成都市金牛区营康西路85号
  • 电话:028-87555632
  • E-mail:dxjs@cetc.com.cn

咨询工作人员