深度学习(2): 神经网络的历史背景

2023-11-01 15:10

本文主要是介绍深度学习(2): 神经网络的历史背景,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在这里插入图片描述
注:转载请标明原文出处链接:https://xiongyiming.blog.csdn.net/article/details/98960059


人工神经网络 (Artificial Neural Network, ANN),它是现今最火热的人工智能研究方向深度学习的基础。人工神经网络以其独特的网络结构和处理信息的方法,在自动控制领域、组合优化问题、模式识别、图像处理、自然语言处理等诸多领域,己经取得了辉煌的成绩。
深度学习是基于神经网络发展起来的技术,而神经网络的发展具有悠久的历史,且发展历程可谓一波三折。如今,历经两次潮起潮落后,神经网络迎来了它的第三次崛起。下图展示了其发展历程中的转折点。通过此图还可以看出,人们对神经网络的研究可以追溯到20世纪40年代,并且第一次热潮持续到了20世纪60年代末。

在这里插入图片描述


1. 第一阶段

1943年,美国神经生理学家沃伦·麦卡洛克( Warren McCulloch ) 和 数学家沃尔特·皮茨(Wa lter Pitts) 对生物神经元进行建模,首次提出了一种形式神经元模型。这个神经元模型通过电阻等元件构建的物理网络得以实现,被称为 M-P 模型。1958年,罗森布拉特(Roseblatt )又提出来了感知器,这意味着经过训练后,计算机能够确定神经元的连接权重。就这样,神经网络的研究迎来了第一次高潮。 然而在1969年,明斯基(Minsky)等人指出感知器无法解决线性不可分问题,使得神经网络网络的研究陷入了第一次低谷


2. 第二阶段

1986年,Rumelhart (鲁梅尔哈特) 等人提出了误差反向传播算法(Back Propagation, BP)通过设置多层感知器,解决了线性不可分问题。从反向传播算法的发表开始,神经网络迎来第二次高潮。1989年,Yann Lecun 等研究人员实现了一个7层的卷积神经网络 LeNet-5,识别手写数字的精度达到了98%。在这段时间内,一大批学者和研究人员围绕 Hopfield提出的人工神经网络方法展开了进一步研究,形成了20世纪80年代中期以来人工神经网络的研究热潮。可是好景不长,在20世纪末,支持向量机(SVM)和其他机器学习算法的流行程度逐渐高涨,更重要的是其他机器学习算法在实现效率上远超神经网络。随着PageRank等互联网新兴的算法不断被提出,学者们的研究重心也开始转移到其他机器学习算法上,神经网络的研究热潮又迎来了第二次低谷


3. 第三阶段

2006年,Hinton(辛顿) 等人利用限制玻尔兹曼机对神经网络的连续层进行建模,使用逐层预训练的方法抽取模型数据中的高维特征,后来又提出了深度信念网络。这一技巧随后被众多学者推广到了许多不同的神经网络架构上,大大地提高了模型在测试集上的泛化效果。同时,随着硬件计算能力和算法的提升,网络隐层可以不断增加,于是以Hinton为代表的研究人员重新将人工神经网络定义为深度学习人工神经网络定义为深度学习,并进行推广。自201l年起,神经网络就在语音识别和图像识别基准测试中获得了压倒性优势,由此迎来了它的第三次高潮。这一次神经网络的高潮与开源运动相结合,衍生了一系列的深度学习开源框架,才有了今天深度学习在无人驾驶、机器翻译、金融风控等诸多领域的广泛应用。而且由于卷积神经网络的结构非常适合用于识别图像,再结合那些研究成果,所以也重新受到了人们的重视。与第二次崛起时不同的是,在这个时期,硬件已得到了进一步发展,大量训练数据的收集也更加容易。在硬件方面,通过高速的GPU并行运算,只需几天即可完成深层网络(例如IO层网络)的训练。另外,随着互联网的普及,我们能够获得大量的训练数据,进而抑制过拟合。这些外界环境的变化也为神经网络的技术进步提供了有力支撑。




参考资料

[1] 图解深度学习
[2] 深度学习原理与实践
[3] TensorFlow实战Google深度学习框架(第2版)

这篇关于深度学习(2): 神经网络的历史背景的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/323855

相关文章

SpringCloud动态配置注解@RefreshScope与@Component的深度解析

《SpringCloud动态配置注解@RefreshScope与@Component的深度解析》在现代微服务架构中,动态配置管理是一个关键需求,本文将为大家介绍SpringCloud中相关的注解@Re... 目录引言1. @RefreshScope 的作用与原理1.1 什么是 @RefreshScope1.

Python 中的异步与同步深度解析(实践记录)

《Python中的异步与同步深度解析(实践记录)》在Python编程世界里,异步和同步的概念是理解程序执行流程和性能优化的关键,这篇文章将带你深入了解它们的差异,以及阻塞和非阻塞的特性,同时通过实际... 目录python中的异步与同步:深度解析与实践异步与同步的定义异步同步阻塞与非阻塞的概念阻塞非阻塞同步

Redis中高并发读写性能的深度解析与优化

《Redis中高并发读写性能的深度解析与优化》Redis作为一款高性能的内存数据库,广泛应用于缓存、消息队列、实时统计等场景,本文将深入探讨Redis的读写并发能力,感兴趣的小伙伴可以了解下... 目录引言一、Redis 并发能力概述1.1 Redis 的读写性能1.2 影响 Redis 并发能力的因素二、

最新Spring Security实战教程之表单登录定制到处理逻辑的深度改造(最新推荐)

《最新SpringSecurity实战教程之表单登录定制到处理逻辑的深度改造(最新推荐)》本章节介绍了如何通过SpringSecurity实现从配置自定义登录页面、表单登录处理逻辑的配置,并简单模拟... 目录前言改造准备开始登录页改造自定义用户名密码登陆成功失败跳转问题自定义登出前后端分离适配方案结语前言

Java进阶学习之如何开启远程调式

《Java进阶学习之如何开启远程调式》Java开发中的远程调试是一项至关重要的技能,特别是在处理生产环境的问题或者协作开发时,:本文主要介绍Java进阶学习之如何开启远程调式的相关资料,需要的朋友... 目录概述Java远程调试的开启与底层原理开启Java远程调试底层原理JVM参数总结&nbsMbKKXJx

Redis 内存淘汰策略深度解析(最新推荐)

《Redis内存淘汰策略深度解析(最新推荐)》本文详细探讨了Redis的内存淘汰策略、实现原理、适用场景及最佳实践,介绍了八种内存淘汰策略,包括noeviction、LRU、LFU、TTL、Rand... 目录一、 内存淘汰策略概述二、内存淘汰策略详解2.1 ​noeviction(不淘汰)​2.2 ​LR

Python与DeepSeek的深度融合实战

《Python与DeepSeek的深度融合实战》Python作为最受欢迎的编程语言之一,以其简洁易读的语法、丰富的库和广泛的应用场景,成为了无数开发者的首选,而DeepSeek,作为人工智能领域的新星... 目录一、python与DeepSeek的结合优势二、模型训练1. 数据准备2. 模型架构与参数设置3

Java深度学习库DJL实现Python的NumPy方式

《Java深度学习库DJL实现Python的NumPy方式》本文介绍了DJL库的背景和基本功能,包括NDArray的创建、数学运算、数据获取和设置等,同时,还展示了如何使用NDArray进行数据预处理... 目录1 NDArray 的背景介绍1.1 架构2 JavaDJL使用2.1 安装DJL2.2 基本操

最长公共子序列问题的深度分析与Java实现方式

《最长公共子序列问题的深度分析与Java实现方式》本文详细介绍了最长公共子序列(LCS)问题,包括其概念、暴力解法、动态规划解法,并提供了Java代码实现,暴力解法虽然简单,但在大数据处理中效率较低,... 目录最长公共子序列问题概述问题理解与示例分析暴力解法思路与示例代码动态规划解法DP 表的构建与意义动

Go中sync.Once源码的深度讲解

《Go中sync.Once源码的深度讲解》sync.Once是Go语言标准库中的一个同步原语,用于确保某个操作只执行一次,本文将从源码出发为大家详细介绍一下sync.Once的具体使用,x希望对大家有... 目录概念简单示例源码解读总结概念sync.Once是Go语言标准库中的一个同步原语,用于确保某个操