范达发表的论文
今早地铁上被如下文字弄的泪眼婆娑： “我走了很远的路，吃了很多的苦，才将这份博士学位论文送到你的面前。二十二载求学路，一路风雨泥泞，许多不容易。如梦一场，仿佛昨天一家人才团聚过。”二十二载求学路，真的，无人可以感同身受你在其中所遭遇的一切，所谓自己的路自己走，要相信这些泥泞的路上，留下了面向坚定方向的脚印，都会对未来的生活有积极的益处！ 在网上找到了这封信原文，感受颇深！因为与作者有部分相同经历，因此心血久久不能平静！自己也是来自乡下农村，一步步跨越各种独木桥，才走到今天。 从已经倒闭的高庄小学，到毛村初中，因为小学学习特别不好，小升初语文和数学只考了92分，就像撮菜筐似的把我分到了只要给钱就可以上的菜中！ 那个时候，吃饭需要用自己产的粮食换成粮票吃饭。吃饭时是分组的，因为分饭不均匀打架斗殴是常事！初一一整年，自己连26个字母都没有背全，也因为跟同学打架，班主任让我叫了父母。 父母归家后，只对我说是转学还是退学，退学就去工地干活。赤裸裸的两条路供我自己选择，很庆幸当时自己选择了转学~也是从那时候开始，自己开始拼命学习。从此高中、大学、研究生一路读下去，途中虽有一些波折，但是自己都坚持走了下来！ 等到现在，发现对我自己，读书是唯一可以改变命运的机会，也是为数不多的公平机会！ 期间，自己也受很多的人的帮助，才一路走下来！都说淋过雨的人，会更愿意为别人撑伞~我也愿意随时成为一名撑伞人！愿你我都可以活成自己想要的模样，要相信世间的力量，自己一步一步走下去，要相信生活不会辜负你我的努力！ 穿拖鞋的汉子 写于上海九号线地铁上
回答是：通常情况下，文化创意类企业办公空间室内设计研究徐桦的论文发布时间是2022年4月25日。
[1]陈肖柏.土的冻结作用与地基[M]．北京：科学出版社，2006．[2]刘巍然，高江平.压实黄土路基中水分迁移的数值模拟[J].长安大学学报(自然科学版)，2006，26(4)：5–7.[3]景宏君，张斌.黄土路基强度规律[J].交通运输工程学报，2006，4(2)：14–18.[4]刘保健，支喜兰，谢永利，等.公路工程中黄土湿陷性问题分析[J].中国公路学报，2005，18(4)：27–31.[5]俞祁浩，刘永智，童长江.青藏公路路基变形分析[J].冰川冻土，2002，24(5)：623–627.[6]吴青柏，童长江.冻土变化与青藏公路的稳定性问题[J].冰川冻土，1995，17(4)：350–355.[7]高彦斌，汪中为.应变速率对黏土不排水抗剪强度的影响[J].岩石力学与工程学报，2005，24(增2)：2 779–2 783.[8]扈胜霞，周云东，陈正汉.非饱和原状黄土强度特性的试验研究[J].岩土力学，2005，26(4)：660–663.[9]张茂花，谢永利，刘保健.增湿时黄土的抗剪强度特性分析[J].岩土力学，2006，27(7)：1 195–1 200.[10]益群，沈锋，胡向东，等.上海地区冻融后暗绿色粉质黏土动本构关系与微结构研究[J].岩土工程学报，2005，27(11)：1 249–1 252.[11]陈炜韬，王鹰，王明年，等.冻融循环对盐渍土黏聚力影响的试验研究[J].岩土力学，2007，28(11)：2 343–2 347.[12]梁波，张贵生，刘德仁.冻融循环条件下土的融沉性质试验研究[J].岩土工程学报，2006，28(10)：1 213–1 217.[13]苏谦，唐第甲，刘深.青藏斜坡黏土冻融循环物理力学性质试验[J].岩石力学与工程学报，2008，27(增1)：4 313–4 319.[14]杨更社，周春华，田应国，等.软岩类材料冻融过程水热迁移的实验研究初探[J].岩石力学与工程学报，2006，25(9)：566–570.[15]齐吉琳，程国栋，PIETER P A.冻融作用对土工程性质影响的研究现状分析[J].地球科学进展，2005，20(8)：887–894.[16]王大雁，马巍，常小晓，等.冻融循环作用对青藏黏土物理力学性质的影响[J].岩石力学与工程学报，2005，24(23)：4 313–4 319.[17]邓学均，黄晓明.路面设计原理与方法[M].人民交通出版社，2007.[18]Van Bochove,Eric，Effects of freeze-thaw and soil structure on nitrous oxideproduced in a clay soil，Soil Science Society of America Journal,v 64,n 5,Sep,2000,p 1638-1643[19]T.E.Sveistrup，Impact of land use and seasonal freezing on morphological andphysical properties of silty Norwegian soils，Soil&Tillage Research 81(2005)39–56[20]Podgorney,RobertK.;Bennett,J.E.Evaluating the long-term performance ofgeosynthetic clay liners exposed to freeze-thaw，Journal of Geotechnical andGeoenvironmental Engineering.，v 132，n 2，February 2006，p 265-268[21]Hooper,Fred P.Freeze-thaw effects and gas permeability of utility line backfillASTM Special Technical Publication,n 1459,2004,p 127-139[22]Parsons,Robert L.Use of cement kiln dust for the stabilization of soils，Geotechnical Special Publication,n 126 I,Geotechnical Engineering forTransportation Projects:Proceedings of Geo-Trans 2004,2004,p 1124-1131[23]Arora,Sunil，Class F fly-ash-amended soils as highway base materials，Journalof Materials in Civil Engineering,v 17,n 6,November/December,2005,p640-649[24]Tikalsky，PaulJ.A method for assessment of the freeze一thaw resistance of Preformed foam cellular concrete，Cement and Concrete Researeh，v34，n5，May 2004，P889一893.[25]Zhang，Peng，ExPerimental research on eombined action of freeze一thaw cycles and carbonation for concrete structures，Jian-zhu Jiegou Xuebao/JoumalofBuildingStructUres，v27，nSUPPL.，October，2006，P717一721.[26]Green，Mark .F .Effect of freeze一thaw cycles on the bond durability between fibre reinforced Polynler Plate reinforcement and conerete，Canadian Journal of CivilEngineering，v27，n5，Oct，2000，P949一959[27]Maria Hohmann-Porebska Microfabric effects in frozen clays in relation togeotechnical parameters Applied Clay Science 21(2002)77–87[28]simonesn E,Isacsson U.soil behavior during freezing and thawing using variableand confining pressure triaxial tests[J].Canadian geotechnical joumal,2001,38(4):863-875.[29]Simonsen,E.,Ja noo,VC.,1999.Resilient properties of unbound road m aterialsduring seasonal frost conditions.ASCEJ.Cold Regions Eng.,submitted.[30]Berg,L.,Bigl,S.R.,Stark,JA.,Durel,GD.,1996.Resilient modulus testing ofmaterials from Mn/ROAD,Phase 1.USA Cold Regions Research andEngineering Laboratory,CRREL Report.96-19.[31]Yong R N Boonsinsuk P. Yin CW P. Altermation of soil behaviour after cyclic freezing and thawing[A]. In Proceedingsof4th in-ternational Symposium on Ground Freezing[C]. Rotterdam the NetherlandsA.A. Balkema 1985. 187-195.[32]ChuilinYcM. YazyninOM. Frozen soilmacro and mierostructure formation [A]. In 5th International Conference on Pemafrost[C].Trondheim TapirPublishers 1988. 320-323.[33]AoyamaKOgawa S. FukudaM. Temperature dependencies of mechanical properties ofsoils subjected to freezing and thawing [A].In Proceedings of the 4th international Symposium on Ground Freezing [C]. Rottedam Netherlands A A. Balkema Publishers1985. 217-222.[34]邴文山译．道路冻害与防治[M]．哈尔滨：哈尔滨工业大学出版社，1991．[35]吴紫汪，马巍．冻土强度与蠕变[M]．甘肃：兰州大学出版社，1993．[36]吴紫汪，张家鼓，朱元林．冻土强度与破坏特征[C]．第二届全国冻土学术会议论文选集．北京：人民出版社，1983．[37]吴紫汪．基础与冻土间冻结强度实验研究[J]．中国科学院兰州冰川冻土研究所集刊，1981(2)．[38]罗小刚，陈湘生．冻融对土工参数影响的试验研究[J]．建井技术，2000（02），24-27.[39]杨平，张婷.人工冻融土物理力学性能研究[J]．南京林业大学学报，2002，05，0665一03.[40]马巍，徐学祖等.冻融循环对石灰粉土剪切强度特性的影响[J]．岩土工程学报，1999，21(2):158一160.[41]程红强，张雷顺等.冻融对混凝土强度的影响[J]．河南科学，2003，02，0214-03[42]魏海斌，刘寒冰，高一平等.冻融循环对粉煤灰土动强度的影响[J]．吉林大学学报(工学版)，2007，37(2).[43]武红娟，徐伟，王选仓.土基模量随季节变化规律及其数值的确定[J].工程地质学报，2008，16(01).[44]付丽红，曹海利.黄土路基强度控制指标试验研究[J].路基工程，2008(02).[45]凌建明，陈声凯，曹长伟.路基土回弹模量影响因素分析[J].建筑材料学报，2007，(4):446一45.[46]霍明，丁小军，台电仓等．高速公路既有路基湿状态及稳定性评价研究[R]．中国，2009．[47]覃绮平．土基回弹模量影响因素及其相关关系研究[D]．长安大学硕士学位论文，2005．[48]吉林省交通厅.公路工程抗冻设计与施工技术指南[S].北京：人民交通出版社，2006.[49]林世文，包俊超，兰荣旺.冻融试验研究[J].岩土工程技术.2001，3:161一164[50]Konrad J.M.Physieal proeess during freeze一thaw Cycles in clayey silts[J].ColdRegions Science and Technology，1989，16(3):291一303[51]Yong R N，Roonsinsuk P .Alteration of soil behaviour after cyclic freezing andthawing[C].In:Proe.of Fourth International Symposium on GroundFreezing.Sapparo:[s.n]，1985[52]齐吉琳，张建明，朱元林.冻融作用对土结构性的影响的土力学意义[J].岩石力学与工程学报，2003，22(增2):2690一2694[53]齐吉琳，马巍.冻融作用对超固结上强度的影响[J].岩土工程学报.2006，28(12):2082一2086.[54]侯恩创．冻融循环对路基土物理力学性质影响的研究[D]．东北林业大学硕士学位论文，2009．[55] 中华人民共和国行业标准，公路土工试验规程（JTG E40—2007），人民交通出版社，2007[56] 中华人民共和国行业标准，公路路基路面现场测试规程（JTG E60—2008），人民交通出版社，2008[57] 交通部.公路土工试验规程（JTJ E40—2007）[S]. 北京：人民交通出版社，2007.[58] 交通部.公路路基施工技术规范(TG F10-2006)[S]. 北京：人民交通出版社，2006.[59] 邓学钧.路基路面工程[M]．人民交通出版社，2005．[60] 交通部.公路桥涵地基与基础设计规范(JTG D63-2007) [S]. 北京：人民交通出版社，2007.[61] 交通部第二公路勘察设计院.公路设计手册•路基[M].北京：人民交通出版社，1995.
达成发表论文的目的
你好：先不要求论文了，我这里教你怎么写吧，过程如下：1、读写作是一个输出的过程，想要输出自己脑子里就必须有东西，所以就要大量阅读英文文献，有人可能会说那不是废话吗，要是有那么大的阅读量谁还来问这个问题？哈哈~那我就说说怎么看和看什么。看什么：根据你自己的论文内容去针对性的看相似的研究论文。怎么看：你要去看这些论文的逻辑结构，需要哪些实验，试验结果怎么呈现，行文逻辑，还有句式和专业词汇表达，这是在写作中最重要的，你要去看他们的句式，在没有大量练习和积累的情况下，英文写作最快准确率最高的技巧就是套用句式，所以你在看这些文章的时候要时刻留意哪些句式你能用得上然后标记上。2、大纲在写英文之前要列好大纲，这个可以用中文，introduction要写几部分要介绍哪些内容，results要呈现哪些实验数据顺序是怎样的，discussion的逻辑是怎样的，最终要说明的结论是什么。这些东西一定一定要清晰明了，这是你论文的核心，英文写作只不过是一种呈现的方式。3、写根据你的大纲就开始去找已经发表的论文吧~思考一下，论文的写作和一般文章有什么区别？试着回想一下，我们在第一次开始做科研之前我们获得知识的途径是什么？是来源于前人通过实践验证的总结好的经验，我们通过这些被验证过的经验来认识这个世界以及应用在生活中，这些都是已经被验证过的知识，一般来说我们在书本上可以直接信任它们，而书本为了帮助我们理解，非常友好地举例子、打比方、由浅入深来讲解内容。而论文是为了表述新发现，默认读者有相关背景而直接客观陈述理论和发现。也就是说，我们开始做科研，开始写一篇论文的目的是总结新的经验，创造新的知识，而最终表述出来的内容可能就只是客观地详细记录已经经得起推敲的逻辑判断，同时我们用到的内容默认读者都是了解的，如果不了解读者应该也是可以找到该领域的其它文献或书籍去学习的。文章中可以不用友好地去解释本文所需的前置知识（不会循序渐进地讲解所有的内容），文章也不能主观偏题（没有不恰当的打比方、没有通俗的语言，而是力求客观描述和精确说明自己的逻辑和实验）。因此论文的行文风格和以前我们看的书以及网上写的技术分享都是完全不同的。望采纳
论文的目的、意义也就是要写为什么要研究、研究它有什么价值，一般可以先从现实需求方面去论述，指出现实当中存在这个问题所需要研究解决的内容，本论文的研究有什么实际作用。然后再写论文的理论和学术价值。这些都要写得具体、有针对性的，不能漫无边际地空喊口号。
★论文的目的和意义一般包含哪些方面的内容
一，研究的相关背景，我们是根据什么、受什么启发从而决定研究这个课题的；二，通过学校的教育实际，指出我们为什么会选择研究这个课题，我们要解决什么问题，解决之后会产生什么价值。
具体写作的时候，我们要抓住一点，由于论文本身的创新性和科学性，我们研究的问题一定是前人没有解决的、或是前人没有发现的问题，并且具有一定的学术价值，是值得我们花费时间和精力去研究的。我们可以将前人已经得出的结论作为论据，但必须有针对性，不是随便一个结论都可以作为论据使用的。
其次在写作的过程中，要注意使用书面语，论文是一种专业性很强的文体，不需要太多华丽的修饰，我们要尽可能的使用简洁、高度概括的语言去清晰的阐述事实，得出结论。并且涉及的方面要广泛客观。
发表科学（或学术）论文的目的是什么？ A.发表科学论文是为了用于自己的职称评定B.发表科学论文是为了证明自己有科学技术水平C.发表科学论文是为了传播获得的知识和发现的规律D.发表科学论文是为了提升自己的科技实力正确答案：发表科学论文是为了传播获得的知识和发现的规律
论文的目的是什么论文的目的：培养科学研究能力，加强综合运用所学知识、理论和技能解决实际问题的训练，从总体上考查学生大学阶段学习所达到的学业水平。意义：撰写毕业论文是检验学生在校学习成果的重要措施，也是提高教学质量的重要环节，通过撰写毕业论文，提高写作水平是干部队伍“四化”建设的需要。它既是探讨问题进行学术研究的一种手段，又是描述学术研究成果进行学术交流的一种工具。它包括学年论文、毕业论文、学位论文、科技论文、成果论文等。扩展资料：论文可以推广经验，交流认识，教育科研过程，是人们获得直接经验的过程。这种经过精心设计、精心探索而获得的直接经验不仅对直接参加者来说是十分宝贵的，而且对于所有教育工作者，对于人类整体认识的提高和发展都是十分宝贵的。现代自然科学已经把全部思维内容起源于经验这一命题加以扩展，以至把它的旧的形而上学的限制和公式完全推翻了。由于它承认了获得性的遗传，它便把经验的主体从个体扩大到类，每一个体都必须亲自去经验，这不再是必要的了；它的个体经验，在某种程度上可以由它的历代祖先的经验的结果来代替。
达尔文论文的发表
包括四个主要观点：一般进化论，共同祖先学说，自然选择学说和渐变论。而自然选择学说又包括四个观点：过度繁殖，生存竞争，遗传和变异以及适者生存。
达尔文进化论时间是1858。
达尔文进化论是1858，达尔文创立了科学的生物进化学说，以自然选择为核心，第一次对整个生物界的发生、发展，作出了唯物的、规律性的解释。
达尔文进化论推翻了特创论等唯心主义形而上学在生物学中的统治地位，使生物学发生了一个革命变革。除了生物学外，他的理论对人类学、心理学及哲学的发展都有不容忽视的影响。
达尔文进化论的发表：
1858年7月1日达尔文在伦敦林奈学会上宣读了关于物种起源的论文。后人称他们的自然选择学说为达尔文-华莱士学说。
达尔文在1859年出版的《物种起源》一书中系统地阐述了他的进化学说。其核心自然选择原理的大意如下：生物都有繁殖过剩的倾向，而生存空间和食物是有限的，所以生物必须为生存而斗争。
达尔文的进化理论，从生物与环境相互作用的观点出发，认为生物的变异、遗传和自然选择作用能导致生物的适应性改变。它由于有充分的科学事实作根据，所以能经受住时间的考验，百余年来在学术界产生了深远的影响。
达尔文的《物种起源》主张：物竞天择，物种进化论，提倡在大自然里物种是环境的选择，物种会不断进化。
1836年10月
吴恩达发表的论文
很厉害的人物，ng研究面广，但是在deep learning上的学术贡献和三巨头是比不了的。他的贡献还是在machine learning上，并且他应该是推广ml和dl的重要人物
吴恩达博士自成一档，属于世界级别的顶尖科学家。吴恩达教授的水平肯定是要排在所有人之外的一档的，作为乔丹老先生的关门弟子，年纪轻轻就成为斯坦福的教授、人工智能实验室主任.
应用计算机视觉时要面临的一个挑战是数据的输入可能会非常大。例如一张 1000x1000x3 的图片，神经网络输入层的维度将高达三百万，使得网络权重 W 非常庞大。这样会造成两个后果：
神经网络结构复杂，数据量相对较少，容易出现过拟合； 所需内存和计算量巨大。 因此，一般的神经网络很难处理蕴含着大量数据的图像。解决这一问题的方法就是使用卷积神经网络
我们之前提到过，神经网络由浅层到深层，分别可以检测出图片的边缘特征、局部特征（例如眼睛、鼻子等），到最后面的一层就可以根据前面检测的特征来识别整体面部轮廓。这些工作都是依托卷积神经网络来实现的。
卷积运算（Convolutional Operation）是卷积神经网络最基本的组成部分。我们以边缘检测为例，来解释卷积是怎样运算的。
图片最常做的边缘检测有两类：垂直边缘（Vertical Edges）检测和水平边缘（Horizontal Edges）检测。
比如检测一张6x6像素的灰度图片的vertical edge，设计一个3x3的矩阵（称之为filter或kernel），让原始图片和filter矩阵做卷积运算（convolution），得到一个4x4的图片。 具体的做法是，将filter矩阵贴到原始矩阵上（从左到右从上到下），依次可以贴出4x4种情况。 让原始矩阵与filter重合的部分做element wise的乘积运算再求和 ，所得的值作为4x4矩阵对应元素的值。如下图是第一个元素的计算方法，以此类推。
可以看到，卷积运算的求解过程是从左到右，由上到下，每次在原始图片矩阵中取与滤波器同等大小的一部分，每一部分中的值与滤波器中的值对应相乘后求和，将结果组成一个矩阵。
下图对应一个垂直边缘检测的例子：
如果将最右边的矩阵当作图像，那么中间一段亮一些的区域对应最左边的图像中间的垂直边缘。
下图3x3滤波器，通常称为垂直 索伯滤波器 （Sobel filter）：
看看用它来处理知名的Lena照片会得到什么：
现在可以解释卷积操作的用处了：用输出图像中更亮的像素表示原始图像中存在的边缘。
你能看出为什么边缘检测图像可能比原始图像更有用吗？
回想一下MNIST手写数字分类问题。在MNIST上训练的CNN可以找到某个特定的数字。比如发现数字1，可以通过使用边缘检测发现图像上两个突出的垂直边缘。
通常，卷积有助于我们找到特定的局部图像特征（如边缘），用在后面的网络中。
假设输入图片的大小为 n×n，而滤波器的大小为 f×f，则卷积后的输出图片大小为 (n−f+1)×(n−f+1)。
这样就有两个问题：
为了解决这些问题，可以在进行卷积操作前，对原始图片在边界上进行填充（Padding），以增加矩阵的大小。通常将 0 作为填充值。
设每个方向扩展像素点数量为 p，则填充后原始图片的大小为 (n+2p)×(n+2p)，滤波器大小保持 f×f不变，则输出图片大小为 (n+2p−f+1)×(n+2p−f+1)。
因此，在进行卷积运算时，我们有两种选择：
在计算机视觉领域，f通常为奇数。原因包括 Same 卷积中 p=（f−1）/ 2 能得到自然数结果，并且滤波器有一个便于表示其所在位置的中心点。
卷积过程中，有时需要通过填充来避免信息损失，有时也需要通过设置 步长（Stride） 来压缩一部分信息。
步长表示滤波器在原始图片的水平方向和垂直方向上每次移动的距离。之前，步长被默认为 1。而如果我们设置步长为 2，则卷积过程如下图所示：
设步长为 s，填充长度为p, 输入图片大小为n x n, 滤波器大小为f x f, 则卷积后图片的尺寸为：
注意公式中有一个向下取整的符号，用于处理商不为整数的情况。向下取整反映着当取原始矩阵的图示蓝框完全包括在图像内部时，才对它进行运算。
如果我们想要对三通道的 RGB 图片进行卷积运算，那么其对应的滤波器组也同样是三通道的。过程是将每个单通道（R，G，B）与对应的滤波器进行卷积运算求和，然后再将三个通道的和相加，将 27 个乘积的和作为输出图片的一个像素值。
如果想同时检测垂直和水平边缘，或者更多的边缘检测，可以增加更多的滤波器组。例如设置第一个滤波器组实现垂直边缘检测，第二个滤波器组实现水平边缘检测。设输入图片的尺寸为 n×n×nc（nc为通道数），滤波器尺寸为 f×f×nc，则卷积后的输出图片尺寸为 (n−f+1)×(n−f+1)×n′c，n′c为滤波器组的个数。
与之前的卷积过程相比较，卷积神经网络的单层结构多了激活函数和偏移量；而与标准神经网络相比，滤波器的数值对应着权重 W[l]，卷积运算对应着 W[l]与 A[l−1]的乘积运算，所选的激活函数变为 ReLU。
对于一个 3x3x3 的滤波器，包括偏移量 b（27+1）在内共有 28 个参数。不论输入的图片有多大，用这一个滤波器来提取特征时，参数始终都是 28 个，固定不变。即选定滤波器组后，参数的数目与输入图片的尺寸无关。因此，卷积神经网络的参数相较于标准神经网络来说要少得多。这是 CNN 的优点之一。
图像中的相邻像素倾向于具有相似的值，因此通常卷积层相邻的输出像素也具有相似的值。这意味着，卷积层输出中包含的大部分信息都是冗余的。如果我们使用边缘检测滤波器并在某个位置找到强边缘，那么我们也可能会在距离这个像素1个偏移的位置找到相对较强的边缘。但是它们都一样是边缘，我们并没有找到任何新东西。池化层解决了这个问题。这个网络层所做的就是通过减小输入的大小降低输出值的数量。池化一般通过简单的最大值、最小值或平均值操作完成。以下是池大小为2的最大池层的示例:
在计算神经网络的层数时，通常只统计具有权重和参数的层，因此池化层通常和之前的卷积层共同计为一层。
图中的 FC3 和 FC4 为全连接层，与标准的神经网络结构一致。
个人推荐 一个直观感受卷积神经网络的网站 。
相比标准神经网络，对于大量的输入数据，卷积过程有效地减少了 CNN 的参数数量，原因有以下两点：
-参数共享（Parameter sharing）：特征检测如果适用于图片的某个区域，那么它也可能适用于图片的其他区域。即在卷积过程中，不管输入有多大，一个特征探测器（滤波器）就能对整个输入的某一特征进行探测。
-稀疏连接（Sparsity of connections）：在每一层中，由于滤波器的尺寸限制，输入和输出之间的连接是稀疏的，每个输出值只取决于输入在局部的一小部分值。
池化过程则在卷积后很好地聚合了特征，通过降维来减少运算量。
由于 CNN 参数数量较小，所需的训练样本就相对较少，因此在一定程度上不容易发生过拟合现象。并且 CNN 比较擅长捕捉区域位置偏移。即进行物体检测时，不太受物体在图片中位置的影响，增加检测的准确性和系统的健壮性。
在神经网络可以收敛的前提下，随着网络深度增加，网络的表现先是逐渐增加至饱和，然后迅速下降
需要注意，网络退化问题不是过拟合导致的，即便在模型训练过程中，同样的训练轮次下，退化的网络也比稍浅层的网络的训练错误更高，如下图所示。
这一点并不符合常理：如果存在某个 K层网络是当前F的最优的网络，我们构造更深的网络。那么K之后的层数可以拟合成恒等映射，就可以取得和F一直的结果。如果K不是最佳层数，那么我们比K深，可以训练出的一定会不差于K的。总而言之，与浅层网络相比，更深的网络的表现不应该更差。因此，一个合理的猜测就是， 对神经网络来说，恒等映射并不容易拟合。
也许我们可以对网络单元进行一定的改造，来改善退化问题？这也就引出了残差网络的基本思路
既然神经网络不容易拟合一个恒等映射，那么一种思路就是构造天然的恒等映射。
实验表明，残差网络 很好地解决了深度神经网络的退化问题 ，并在ImageNet和CIFAR-10等图像任务上取得了非常好的结果，同等层数的前提下残差网络也 收敛得更快 。这使得前馈神经网络可以采用更深的设计。除此之外， 去除个别神经网络层，残差网络的表现不会受到显著影响 ，这与传统的前馈神经网络大相径庭。
2018年的一篇论文，The Shattered Gradients Problem: If resnets are the answer, then what is the question，指出了一个新的观点，尽管残差网络提出是为了解决梯度弥散和网络退化的问题， 它解决的实际上是梯度破碎问题
作者通过可视化的小型实验(构建和训练一个神经网络发现，在浅层神经网络中，梯度呈现为棕色噪声(brown noise)，深层神经网络的梯度呈现为白噪声。在标准前馈神经网络中，随着深度增加， 神经元梯度的相关性(corelation)按指数级减少 (1 / 2^L) ；同时， 梯度的空间结构也随着深度增加被逐渐消除 。这也就是梯度破碎现象。
梯度破碎为什么是一个问题呢？这是因为许多优化方法假设梯度在相邻点上是相似的，破碎的梯度会大大减小这类优化方法的有效性。另外，如果梯度表现得像白噪声，那么某个神经元对网络输出的影响将会很不稳定。
相较标准前馈网络， 残差网络中梯度相关性减少的速度从指数级下降到亚线性级 ) (1 / sqrt(L)) ，深度残差网络中，神经元梯度介于棕色噪声与白噪声之间(参见上图中的c,d,e)；残差连接可以 极大地保留梯度的空间结构 。残差结构缓解了梯度破碎问题。
1x1 卷积指滤波器的尺寸为 1。当通道数为 1 时，1x1 卷积意味着卷积操作等同于乘积操作。 而当通道数更多时，1x1 卷积的作用实际上类似全连接层的神经网络结构，从而降低（或升高，取决于滤波器组数）数据的维度。
池化能压缩数据的高度（nH）及宽度（nW），而 1×1 卷积能压缩数据的通道数（nC）。在如下图所示的例子中，用 filters个大小为 1×1×32 的滤波器进行卷积，就能使原先数据包含的 32个通道压缩为 filters 个。
在这之前，网络大都是这样子的：
也就是卷积层和池化层的顺序连接。这样的话，要想提高精度，增加网络深度和宽度是一个有效途径，但也面临着参数量过多、过拟合等问题。（当然，改改超参数也可以提高性能）
有没有可能在同一层就可以提取不同（稀疏或不稀疏）的特征呢(使用不同尺寸的卷积核)？于是，2014年，在其他人都还在一味的增加网络深度时(比如vgg)，GoogleNet就率先提出了卷积核的并行合并（也称Bottleneck Layer），如下图。
和卷积层、池化层顺序连接的结构（如VGG网络）相比，这样的结构主要有以下改进：
按照这样的结构来增加网络的深度，虽然可以提升性能，但是还面临计算量大（参数多）的问题。为改善这种现象，GooLeNet借鉴Network-in-Network的思想，使用1x1的卷积核实现降维操作(也间接增加了网络的深度)，以此来减小网络的参数量(这里就不对两种结构的参数量进行定量比较了)，如图所示。
最后实现的inception v1网络是上图结构的顺序连接
由于卷积这门课的其他内容和计算机视觉关系比较密切。对我理解推荐系统帮助不大。所以这个系列就到这里。吴恩达的课还是很好的，作业和课和测验我都认真做啦。
无论如何，吴恩达教授的水平肯定是要排在所有人之外的一档的，作为乔丹老先生的关门弟子，年纪轻轻就成为斯坦福的教授、人工智能实验室主任，cousera和deeplearning.ai创始人，Google大脑和百度人工智能实验室居功至伟的人物，可以说在人工智能领域也算是顶尖科学家之一，无论是论文影响力，还是学术界、工业界的影响力都Google都是排得上名号的。
托达罗发表的论文
刘易斯（Lewis，1954）在其著名论文《劳动力无限供给条件下的经济发展》中建构了一个二元经济模型，认为在工业化进程中工业部门以低工资从农业部门吸纳剩余劳动力。对于这种二元经济模式，刘易斯概括了三个特征，即：第一，在经济发展的早期阶段包括“现代的”与“传统的”两个经济部门，现代部门通过从传统部门吸收劳动力而得以发展，经济发展的关键因素是利用资本主义的剩余，即通过利润的再投资来增加新的资本和吸收更多的非资本主义部门的劳动力，从而获得更多的利润。如此反复进行，不但资本主义现代部门不断扩大，而且利润、储蓄和资本积累在国民收入中的比重也逐渐增加，直到多余劳动力吸收完毕，实际工资停止上涨为止。第二，在提供同等质量和同等数量的劳动的条件下，由于农业劳动力的边际生产率等于零甚至是负数，非熟练劳动者在现代部门比在传统部门得到更多的工资；第三，他假定，资本主义现代部门以现行工资增雇工人时，愿意就业的人多于需求的数量，农业部门由于劳动力转移而减少的数量为新增加的劳动力所填补。因此，在传统的农业部门中，劳动的供给超过了对它的需求，而且劳动供给是无限的。现代部门为了吸引仅传统部门中的劳动力，其工资水平一般要比后者高30%。刘易斯认为，工业工资水平高于农业劳动者收人水平是促使农业剩余劳动力流向工业部门的动因，人口流动的结果是促使了城乡工资趋于相等，城市工业部门在现有工资水平不变的前提下，只要农业部门存在剩余劳动力，这些剩余劳动力将会被城市工业部门不断吸收过去。当农业部门不存在剩余劳动力时，劳动力变成稀缺资源，工资将由劳动力供求关系所决定，这时候二元经济结构消失，发展中国家经济走向一元经济结构，成功实现经济转型。刘易斯对农村剩余劳动力以不变的劳动价格向工业部门转移的分析，是以农业部门的不发展为隐含假定的，因为农业部门的发展会提高农民收入，从而抬高工人工资水平。刘易斯对农村剩余劳动力以不变的劳动价格向工业部门转移的分析，是以农业部门的不发展为隐含假定的，拉尼斯（Gustav Ranis，1989）和费景汉（JohnC.H.Fei，1989）修正了刘易斯的这一假定，把农业部门的发展纳入了分析范畴。同时，她们扩充了发展中国家的发展水平，认为发展中国家的经济状态不止二元经济结构一种，他们将发展中国家的经济发展分为三个阶段，农业经济时期、二元经济时期、现代经济时期，分别是以农业为主、农业工业并存且农业部门相对落后存在着大量剩余劳动力、农业工业都以现代化生产为特征并且农村剩余劳动力被完全吸收。他们认为应该充分注意农业的进步问题，当农村的劳动的边际生产率提高时，现代工业部门所需的农村劳动力的供给就不会具有完全的弹性，而是具有有限的弹性。拉尼斯和费景翰模型认为，农村剩余对工业部门的扩张和农业劳动力的流动具有决定性的意义，但同时农村剩余劳动力的问题的解决也可以从农业内部着手。杨玉华（2006）分析了马克思“劳动力转移理论”与“拉尼斯一费”模式的内在的逻辑一致性，从政府在劳动力转移过程中起积极作用，农业的发展是劳动力转移的根源，而资本积累在拉动劳动力转移中起主要作用等几个方面进行了详细阐释。胡星（1997）着重从拉-费模型提出的三阶段出发，在第二个阶段——二元经济结构阶段时，由于城乡发展不均衡，将会出现粮食等普农产品的短缺，会引起经济增长和劳动力转移减缓甚至停止。托达罗（Michael .P.Todaro，1999）在修正刘易斯二元结构理论的基础上，强调城乡预期收入的差异。托达罗模型不仅修正了刘易斯模型只侧重于农村劳动力流入城市对经济发展的积极作用的分析，指出城乡人口的盲目流动会加重城市已有的失业现象。在国内，赖小琼，余玉平（2004）认为托达罗在分析迁移的收益和成本时，只考虑迁移者的迁移成本，而忽略了他们在城市里的生活成本。同时，托达罗关于发展中国家农村部门不存在剩余劳动力是不符合实际的。他们对其做了进一步扩展，结合中国实际因素，拓展托达罗模型加。危丽，杨先斌（2005）运用博弈论的研究方法，分析了托达罗模型，认为其在解释我国农村劳动力转移上存在着合理之处，但其缺陷不容忽视，不能盲目地用于指导实践。￥5.9百度文库VIP限时优惠现在开通,立享6亿+VIP内容立即获取托达罗模型与刘易斯模型区别刘易斯（Lewis，1954）在其著名论文《劳动力无限供给条件下的经济发展》中建构了一个二元经济模型，认为在工业化进程中工业部门以低工资从农业部门吸纳剩余劳动力。对于这种二元经济模式，刘易斯概括了三个特征，即：第一，在经济发展的早期阶段包括“现代的”与“传统的”两个经济部门，现代部门通过从传统部门吸收劳动力而得以发展，经济发展的关键因素是利用资本主义的剩余，即通过利润的再投资来增加新的资本和吸收更多的非资本主义部门的劳动力，从而获得更多的利润。如此反复进行，不但资本主义现代部门不断扩大，而且利润、储蓄和资本积累在国民收入中的比重也逐渐增加，直到多余劳动力吸收完毕，实际工资停止上涨为止。第二，在提供同等质量和同等数量的劳动的条件下，由于农业劳动力的边际生产率等于零甚至是负数，非熟练劳动者在现代部门比在传统部门得到更多的工资；第三，他假定，资本主义现代部门以现行工资增雇工人时，愿意就业的人多于需求的数量，农业部门由于劳动力转移而减少的数量为新增加的劳动力所填补。因此，在传统的农业部门中，劳动的供给超过了对它的需求，而且劳动供给是无限的。现代部门为了吸引仅传统部门中的劳动力，其工资水平一般要比后者高30%。刘易斯认为，工业工资水平高于农业劳动者收人水平是促使农业剩余劳动力流向工业部门的动因，人口流动的结果是促使了城乡工资趋于相等，城市工业部门在现有工资水平不变的前提下，只要农业部门存在剩余劳动力，这些剩余劳动力将会被城市工业部门不断吸收过去。当农业部门不存在剩余劳动力时，劳动力变成稀缺资源，工资将由劳动力供求关系所决定，这时候二元经济结构消失，发展中国家经济走向一元经济结构，成功实现经济转型。第 1 页刘易斯对农村剩余劳动力以不变的劳动价格向工业部门转移的分析，是以农业部门的不发展为隐含假定的，因为农业部门的发展会提高农民收入，从而抬高工人工资水平。刘易斯对农村剩余劳动力以不变的劳动价格向工业部门转移的分析，是以农业部门的不发展为隐含假定的，拉尼斯（Gustav Ranis，1989）和费景汉（JohnC.H.Fei，1989）修正了刘易斯的这一假定，把农业部门的发展纳入了分析范畴。同时，她们扩充了发展中国家的发展水平，认为发展中国家的经济状态不止二元经济结构一种，他们将发展中国家的经济发展分为三个阶段，农业经济时期、二元经济时期、现代经济时期，分别是以农业为主、农业工业并存且农业部门相对落后存在着大量剩余劳动力、农业工业都以现代化生产为特征并且农村剩余劳动力被完全吸收。他们认为应该充分注意农业的进步问题，当农村的劳动的边际生产率提高时，现代工业部门所需的农村劳动力的供给就不会具有完全的弹性，而是具有有限的弹性。拉尼斯和费景翰模型认为，农村剩余对工业部门的扩张和农业劳动力的流动具有决定性的意义，但同时农村剩余劳动力的问题的解决也可以从农业内部着手。杨玉华（2006）分析了马克思“劳动力转移理论”与“拉尼斯一费”模式的内在的逻辑一致性，从政府在劳动力转移过程中起积极作用，农业的发展是劳动力转移的根源，而资本积累在拉动劳动力转移中起主要作用等几个方面进行了详细阐释。胡星（1997）着重从拉-费模型提出的三阶段出发，在第二个阶段——二元经济结构阶段时，由于城乡发展不均衡，将会出现粮食等普农产品的短缺，会引起经济增长和劳动力转移减缓甚至停止。