alexnet论文发表在哪

摘要：文章部分摘自链接。以kaggle上的猫狗数据集做训练，20000张训练图片，猫狗各10000张，5000张验证集，猫狗各2500张。

数据集链接

链接：

提取码：6666

@[toc]

在2012年前，图像特征都是机械地计算出来的。事实上，设计一套新的特征函数、改进结果，并撰写论文是盛极一时的潮流。SIFT [Lowe, 2004]、SURF [Bay et al., 2006]、HOG（定向梯度直方图） [Dalal & Triggs, 2005] 、bags of visual words 和类似的特征提取方法占据了主导地位。

另一组研究人员，包括Yann LeCun、Geoff Hinton、Yoshua Bengio、Andrew Ng、Shun ichi Amari和Juergen Schmidhuber，想法则与众不同：他们认为特征本身应该被学习。此外，他们还认为，在合理地复杂性前提下，特征应该由多个共同学习的神经网络层组成，每个层都有可学习的参数。在机器视觉中，最底层可能检测边缘、颜色和纹理。事实上，Alex Krizhevsky、Ilya Sutskever和Geoff Hinton提出了一种新的卷积神经网络变体AlexNet。在2012年ImageNet挑战赛中取得了轰动一时的成绩。AlexNet 以 Alex Krizhevsky 的名字命名，他是论文 [Krizhevsky et al., 2012] 的第一作者。

有趣的是，在网络的最底层，模型学习到了一些类似于传统滤波器的特征抽取器。图1 是从AlexNet论文 [Krizhevsky et al., 2012] 复制的，描述了底层图像特征。

AlexNet的更高层建立在这些底层表示的基础上，以表示更大的特征，如眼睛、鼻子、草叶等等。而更高的层可以检测整个物体，如人、飞机、狗或飞盘。最终的隐藏神经元可以学习图像的综合表示，从而使属于不同类别的数据易于区分。尽管一直有一群执着的研究者不断钻研，试图学习视觉数据的逐级表征，然而很长一段时间里这些尝试都未有突破。深度卷积神经网络的突破出现在2012年。2012年，AlexNet横空出世。它首次证明了学习到的特征可以超越手工设计的特征。它一举打破了计算机视觉研究的现状。 AlexNet使用了8层卷积神经网络，并以很大的优势赢得了2012年ImageNet图像识别挑战赛。

AlexNet和LeNet的设计理念非常相似，但也存在显著差异。首先，AlexNet比相对较小的LeNet5要深得多。 AlexNet由八层组成：五个卷积层、两个全连接隐藏层和一个全连接输出层。其次，AlexNet使用ReLU而不是sigmoid作为其激活函数。

测试模型是否正确

把原来ALexNet最后的全连接层的神经元数目减少了一些方便训练，最后的验证准确度差不多86%左右，训练参数7057474个。

大部分论文都在期刊上发表,CN期刊。

少数的是发表到国外的期刊,或者直接是在杂志的官网上线,比如SCI。对于大多数人来说,发表CN期刊就可以了。

期刊，定期出版的刊物。如周刊、旬刊、半月刊、月刊、季刊、半年刊、年刊等。由依法设立的期刊出版单位出版刊物。期刊出版单位出版期刊，必须经新闻出版总署批准，持有国内统一连续出版物号，领取《期刊出版许可证》。

广义上分类

从广义上来讲，期刊的分类，可以分为非正式期刊和正式期刊两种。非正式期刊是指通过行政部门审核领取“内部报刊准印证”作为行业内部交流的期刊(一般只限行业内交流不公开发行)，但也是合法期刊的一种，一般正式期刊都经历过非正式期刊过程。

正式期刊是由国家新闻出版署与国家科委在商定的数额内审批，并编入“国内统一刊号”，办刊申请比较严格，要有一定的办刊实力，正式期刊有独立的办刊方针。

“国内统一刊号”是“国内统一连续出版物号”的简称，即“CN号”，它是新闻出版行政部门分配给连续出版物的代号。“国际刊号”是“国际标准连续出版物号”的简称，即“ISSN号”，我国大部分期刊都配有“ISSN号”。

此外，正像报纸一样，期刊也可以不同的角度分类。有多少个角度就有多少种分类的结果，角度太多则流于繁琐。一般从以下三个角度进行分类：

按学科分类

以《中国图书馆图书分类法.期刊分类表》为代表，将期刊分为五个基本部类：

(1)思想(2)哲学(3)社会科学(4)自然科学(5)综合性刊物。在基本部类中，又分为若干大类，如社会科学分为社会科学总论、政治、军事、经济、文化、科学、教育、体育、语言、文字、文学、艺术、历史、地理。

按内容分类

以《中国大百科全书》新闻出版卷为代表，将期刊分为四大类：

(1)一般期刊，强调知识性与趣味性，读者面广，如我国的《人民画报》、《大众电影》，美国的《时代》、《读者文摘》等;

(2)学术期刊，主要刊载学术论文、研究报告、评论等文章，以专业工作者为主要对象;

(3)行业期刊，主要报道各行各业的产品、市场行情、经营管理进展与动态，如中国的《摩托车信息》、《家具》、日本的《办公室设备与产品》等;

(4)检索期刊，如我国的《全国报刊索引》、《全国新书目》，美国的《化学文摘》等。

按学术地位分类

可分为核心期刊和非核心期刊（通常所说的普刊）两大类。

关于核心期刊

核心期刊，是指在某一学科领域(或若干领域)中最能反映该学科的学术水平，信息量大，利用率高，受到普遍重视的权威性期刊。

alexnet论文发表在

这是一篇发表于2014年很经典的论文，形成了很多对卷积神经网络的普遍认识，目前的引用数为 1315 ，主要工作是 AlexNet 的可视化，以及在此基础上做了一些分析，对于理解卷积神经网络很有裨益。

可视化方法主要是通过 deconv 的方法将某一层特征图的 Top-k 激活反向投射到原图像上，从而判断该激活值主要识别图像的什么部分。这就要求针对每一层都必须有对应的逆向操作。具体而言，对于 MaxPooling 层，在前馈时使用 switch 变量来记录最大值来源的 index ，然后以此近似得到 Unpooling 。对于 Relu 层，直接使用 Relu 层。而对于 conv层，使用 deconv ，即使用原来卷积核的转置作为卷积核（PS:此文作者在2011年提出了 deconvnet 。本文引用了该文献。）。反向重建过程如下图所示：

通过上面的可视化方法，作者对‘AlexNet 的各层的 Top-9`激活值进行了可视化，如下图所示：

分析上述特征图，作者发现了网络特征的层级特性。第二层对应边、角、颜色的识别，而第三层具有更多的不变性，捕获了一些纹理特征。第四层显示了类别的重要差异，比如狗的脸啊，鸟的脚等等。第五层则开始关注目标整体。这形成了对于神经网络的认识，底层网络专注于识别低级特征，更高层网络通过对下层低级特征的组合抽象形成更高级的特征。

作者利用这种可视化方法，找出了原 AlexNet 结构的问题（比如第一层缺少中频信息，第二层由于步长太大导致了一些叠加效应等等）并对结构进行了改变，之后进行了对比，发现改变之后的模型 top-5 性能高于原网络。作者还进行了遮挡敏感性和一致性分析，具体详见论文。

此处的结果是最令我震撼的，它回答了一个久久困扰我的问题：为什么目前用的卷积网络都是 VGG , ZF , ResNet 之类的基于 Imagenet 的网络架构作为 backbone network ？

首先，作者进行了网络结构尺寸调整实验。去除掉包含大部分网络参数最后两个全连接层之后，网络性能下降很少；去掉中间两层卷积层之后，网络性能下降也很少；但是当把上述的全连接层和卷积层都去掉之后，网络性能急剧下降，由此作者得出结论：模型深度对于模型性能很重要，存在一个最小深度，当小于此深度时，模型性能大幅下降。

然后，就是最震撼的结果了。作者使用 AlexNet 去做 Caltech-101 , Caltech-256 和 PASCAL VOC 2012 ，得到以下结果：

解释一下，表中的 Non-pretr 表示没有使用 Imagenet 预训练结果，而是使用新的训练集重新训练，结果表现非常糟糕；而 ImageNet-pretr 表示使用了 Imagenet 的预训练结果，作者固定了原来网络的权值，只是使用新数据训练了 softmax 分类器，效果非常好。这就形成了目前的人们对于卷积神经网络的共识：卷积网络相当于一个特征提取器。特征提取器是通用的，因为 ImageNet 数据量，类别多，所以由 ImageNet 训练出来的特征提取器更具有普遍性。也正是因为此，目前的卷积神经网络的 Backbone Network 基本上都是 Imagenet 上训练出来的网络。那么试想一下，如果继续增加数据量，将类别扩展到10k、100k、 1M等等，是不是能够得到更加通用更好的特征提取器，如此，是不是就能向 General AI 更近一步呢？当然，这样做的话需要大量的投入，那么可不可以像人类基因组计划那样分工合作呢，那样的话，必将是一番很壮丽的景象。另外，也可以从其他角度进行考虑，可以类似于人类的认知方式，采用人类陪同教导的方式让机器持续学习，最后再综合起来，或许可以得到更好的AI。

推荐一个很好的交互神经网络可视化网站： 3D convolutional network visualization ，可以很好地帮助理解神经网络的过程。友情提示：

上一篇文章中的LeNet-5是第一个广为人知的经典CNN网络，但那是20年前提出的CNN网络，最成功的案例是解决了手写数字识别的问题，当时被广泛应用于邮局/银行的手写邮编/支票数字自动识别系统。但直到2012年之前，在这14年间，CNN网络在图像识别领域的地位逐渐被其他分类模型如SVM取代。其中主要的原因有（事后诸葛亮......）：

经过十几年的发展，以上制约CNN网络发展的主要限制因素一个个被解决，结果在2012年的ImageNet竞赛中，继LeNet-5之后的第二个经典CNN网络—AlexNet横空出世。以超出第二名10%以上的top-5准确率，勇夺ImageNet2012分类比赛的冠军，从此，深度学习重新回到人们的视野，并一发不可收拾。

下面从一些直观的数据比较1998年的LeNet-5和2012年的AlexNet的区别：

AlexNet网络结构如下图所示：

论文中由于使用了2块GPU，将网络结构布置成了上下两部分，看着很不方便，上图是在网上找的简易版本。

下面总结AlexNet的主要特点：

3.1. 使引入Relu激活函数减轻深度网络难以训练的问题

关于CNN网络的激活函数的讨论，SigAI公众号这篇文章总结的挺好：

另外，下面这篇论文对深度网络难以训练的问题进行了分析：

之前的CNN网络，包括前面著名的LeNet-5，都使用tanh/Sigmoid作为激活函数，这类激活函数具有饱和性，在训练深层网络时会造成梯度消失问题，而AlexNet引入了非饱和的Relu激活函数，有效地缓解了梯度消失问题。

3.2. 解决深度网络的过拟合问题

一方面，近几年来，人们越来越意识到构建庞大的数据集的重要性，于是出现了像ImageNet这样超过1500万张标注图片，2200多种类别的数据集，ILSVRC2012中，AlexNet使用了150万张图片的庞大训练集，使得拥有6000万个参数的AlexNet也没出现严重过拟合问题；

另外，AlexNet在训练时使用了数据增强（data augmentation）策略，相当于进一步扩大了训练数据集；

最后，AlexNet在全连接层部分引入了一个dropout层，同样能有效防止模型出现过拟合。

3.3. 计算能力问题

尽管AlexNet的模型复杂度很大，但其利用了英伟达GPU强大的计算能力，在GPU面前，模型复杂度不是问题。

从模型的设计思路来看，其实AlexNet遵循了LeNet-5的思想，即使用交替的卷积层和池化层用于提取图像的高级语义特征，同时降低特征尺寸。然后使用全连接层/MLP作为分类层。

但是，在细节部分，ALexNet引入了很多新的元素，用于解决以上提到的CNN网络遇到的诸多问题，使得CNN网络开始重新散发光芒。

AlexNet论文发表在那

摘要：文章部分摘自链接。以kaggle上的猫狗数据集做训练，20000张训练图片，猫狗各10000张，5000张验证集，猫狗各2500张。

数据集链接

链接：

提取码：6666

@[toc]

测试模型是否正确

把原来ALexNet最后的全连接层的神经元数目减少了一些方便训练，最后的验证准确度差不多86%左右，训练参数7057474个。

大部分论文都在期刊上发表,CN期刊。

少数的是发表到国外的期刊,或者直接是在杂志的官网上线,比如SCI。对于大多数人来说,发表CN期刊就可以了。

广义上分类

此外，正像报纸一样，期刊也可以不同的角度分类。有多少个角度就有多少种分类的结果，角度太多则流于繁琐。一般从以下三个角度进行分类：

按学科分类

以《中国图书馆图书分类法.期刊分类表》为代表，将期刊分为五个基本部类：

按内容分类

以《中国大百科全书》新闻出版卷为代表，将期刊分为四大类：

(1)一般期刊，强调知识性与趣味性，读者面广，如我国的《人民画报》、《大众电影》，美国的《时代》、《读者文摘》等;

(2)学术期刊，主要刊载学术论文、研究报告、评论等文章，以专业工作者为主要对象;

(3)行业期刊，主要报道各行各业的产品、市场行情、经营管理进展与动态，如中国的《摩托车信息》、《家具》、日本的《办公室设备与产品》等;

(4)检索期刊，如我国的《全国报刊索引》、《全国新书目》，美国的《化学文摘》等。

按学术地位分类

可分为核心期刊和非核心期刊（通常所说的普刊）两大类。

关于核心期刊

核心期刊，是指在某一学科领域(或若干领域)中最能反映该学科的学术水平，信息量大，利用率高，受到普遍重视的权威性期刊。

alexnet论文发表时间

摘要：文章部分摘自链接。以kaggle上的猫狗数据集做训练，20000张训练图片，猫狗各10000张，5000张验证集，猫狗各2500张。

数据集链接

链接：

提取码：6666

@[toc]

测试模型是否正确

把原来ALexNet最后的全连接层的神经元数目减少了一些方便训练，最后的验证准确度差不多86%左右，训练参数7057474个。

论文中转： ImageNet Classification with Deep Convolutional Neural Networks

自Le Net-5在1998年提出以后，时隔14年，AlexNet横空问世，在2012年ImageNet竞赛中以冠军的成绩笑傲群雄，也就是从那时起，更多更优秀的网络被相继提出。论文第一作者是来自多伦多大学的Alex Krizhevsky，因此网络称为Alex Net。

在论文中，作者训练了一个大而深（相比于之前）的卷积网络用于ImageNet比赛，将120万高分辨图像分为1000个类别。在测试集上，分别达到了37.5%的top-1错误率和17.0%的top-5错误率，超越了先前最好的网络。网络共有600万参数，65万个神经元，5个卷积层加3个全连接层，输出为1000类别。为了防止过拟合，作者采用了数据扩充和dropout正则法，实验结果表明此方法非常有效；为了加快训练速度，作者采用了两块并行的GPU同时对特征图进行运算。

由于采用了双GPU模式，所以结构图呈现的是上图的样子，下面引用一张博客作者 chenyuping666 文章的图片，可以详细的了解网络内部结构与实现细节。

从上图可以看到，输入为227×227×3的图像

在conv1中，卷积核大小为11×11，步长为4，通道数为96（每台GPU运算48个，下同），经过激活函数Relu激活后，采用最大池化（size=3×3，stride=2），标准化，输出为27×27×96。

在conv2中，卷积核大小为5×5，步长为1，通道数256，先对输入特征图扩展像素为31×31（pad=2），然后卷积，激活，池化（size=3×3，stride=2），标准化，输出特征图为13×13×256。

在conv3,conv4中，卷积核大小都为3×3，步长为1，pad=1，通道数为384，经过激活后输出特征图为13×13×384。

在conv5中，卷积核大小都为3×3，步长为1，通道数为256，经过激活，池化后输出特征图为6×6×256。

在fcn6,fcn7中，共有4096个神经元，采用了dropout技术防止过拟合。

在fcn8 ，也就是最后一层，采用softmax输出1000个类别。

相比于之前的网络，AlexNet为何能取得比较好的结果呢，从作者的论文中可以发现以下几点：

3.1 非线性激活函数Relu 在之前一般使用tanh(x)或sigmoid作为激活函数，但这些饱和的线性函数在梯度的计算上非常缓慢，并且容易产生梯度消失问题。Relu的出现使这些问题得到了有效的解决。在基于cifar-10数据集的标准四层网络测试中，采用tanh和Relu作为激活函数使error rate达到0.25所用的时间，Relu比tanh快大约6倍。

3.2 多个GPU 作者认为计算资源的大小限制了网络的大小，要想训练大的网络结构，必须拥有足够的计算资源。120万的数据集太大以至于单个GPU不足以匹配，因此作者将网络的计算任务分配到两个GPU上执行。目前GPU特别适合做并行化，因为一个GPU可以直接从另一个GPU读和写内容，而不需要经过主机内存。

3.3 局部响应归一化（LRN）作者在文章中提出了Local Response Normalization的方法，分别将top-1和top-5错误率降低了1.4%和1.2%。作者在文中提到，如果训练样本产生一个正输入到Relu，网络只会在那个特定神经元上学习，但是引入局部响应正则化后，提高了网络的泛化能力。这种响应归一化会产生一种由某一神经元所激发的横向抑制，为由使用不同卷积核计算的神经元输出之中的“big activities”创造竞争。

3.4 重叠池化一般的池化操作因为没有重叠，所以pool_size 和 stride是相等的。例如6×6的图像在size=2×2的池化后，输出为3×3，但是本文使用的size

在哪里发表论文在哪找

写论文推荐以下网站：

1、知网

这个网站作为大学生都应该知道，知网是国内查找学术文献最齐全的网站，以收录核心期刊和专业期刊为主。

大多数高校都会给学生购买知网的版权，学生可以通过校园网登陆网站进行查询下载资料，那在校外也可以通过对应的账号进行登陆，随时下载文献。

2、维普网

中文科技期刊资源一站式服务平台，维普网是国内独家仓储式作品出版平台，提供各类学术论文、各类范文、中小学课件、教学资料等文献下载。

3、万方数据知识服务平台

内容以科技信息为主，兼顾人文，适合工科或理工科院校，重点收录以科技部论文统计源的核心期刊，核心期刊比例高，收录文献质量高。

4、百度学术

百度学术可以快速检测到收费和免费的学术论文、图书、会议等，而且支持时间、关键词、作者等多种条件的筛选，针对一篇文章还提供了多个来源，一个网站无法下载，可以用另外一个。

与百度学术类似的还有Bing学术搜索、谷歌学术搜索。

5、中国国家图书馆

与国内多家公共图书馆联合，集合4万余册电子图书资源、上千种电子期刊以及各地图书馆分站的优质特色数字资源。只需要注册、实名认证就可以免费下载和查看。

6、超星发现

这个网站主要面向大学以上高校用户，是全世界最大的中文电子书图书网站，数据涵盖了1949年后85%以上的中国大陆所有出版书籍。

毕业设计可以去以下网址找.

一、综合类1、蓝之韵论文http://www.21blue.com 门类较全。2、学生大论文中心、蜂朝无忧论文网门类很全。4、论文下载中心门类很全。5、论文帝国

二、教育类1、教研论文交流中心以中小学教育为主，基础教育、英语教学文章居多。2、教育教学论文网以教育论文为主，包含：语文论文美术论文物理论文化学论文英语论文历史论文德育论文教学论文数学论文音乐论文生物论文自然论文体育论文地理论文摄影论文劳动技术农村教育毕业论文素质论文医学论文电子电器学思维科学计算机论文活动课教学书法篆刻论文创新教育研究心理健康教育西部教育论文信息技术论文3、教育论文、中国园丁网论文大观、北大附小学校教师的文章：三、专业类1、优秀论文杂志以科技类为主。2、论文资料网以财经经济管理类为主。3、法律图书馆文如其名。4、法学论文资料库文如其名。5、中国总经理网论文集、mba职业经理人论坛、中国农业在线-农业论文、体育论文、财经学位论文下载中心、公开发表论文_深圳证券交易所、中国路桥资讯网论文资料中心、论文商务中心、法律帝国：四、论文写作教学类1、学术论文其实是学术论文的写作网站。五、博硕士论文1、论文统计实际上就是万方的论文统计。2、台湾博硕士论文咨讯网、北京大学学位论文样本收藏、学位论文（清华大学）科技论文在线论文中国 :新浪论文网分类:中国论文联盟:大学生论文库论文资料网:论文下载中心:毕业论文网:学位论文:无忧论文网:北京语言文化大学论文库: