本文主要是介绍生物神经网络 原理分析研读03,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
可能有用基础介绍
人类交互1 大脑视觉的处理过程
人类交互2 听觉处理和语言中枢
人类交互3 皮肤感觉与运动系统
人类交互4 感觉输入和运动输出
人类交互5 大脑信号编码与解码
黑箱模型的介绍
黑箱模型(Black Box),或称经验模型,是一种描述系统或现象的方法,其中系统的内部规律、机制或工作原理尚未完全为人所知或理解。黑箱模型是一种描述系统或现象的方法,其中系统的内部规律尚未完全为人所知。它在环境预测和人工智能等领域有着广泛的应用,但需要注意其局限性和使用条件。
-
定义:
- 黑箱模型指的是只知道其输入、输出及这两者的关系,而不知道其内部结构的系统。
- 该模型是变量预测工作中应用较多的一类模型,它是根据输入—输出关系建立起来的,反映了有关因素间的一种笼统的直接因果关系。
-
特点:
- 不能适应有不可测输入的过程,也不能反映过程内部的运动规律。
- 若未来的变化超出一定的范围,用这类模型的可靠性明显下降。
- 黑箱模型本身不能表述过程,但如果能得到较多符合实际要求的数据时,应用黑箱模型进行预测还是适合的。
-
应用:
- 在环境预测中,黑箱模型只涉及到开发活动的性质、强度与其环境后果之间的因果关系。
- 在人工智能模型中,DNN(深度神经网络)、Random Forest等模型也被视为“黑箱”模型,因为虽然我们知道这些模型在预测过程中的一些基本操作(如矩阵相乘、激活函数变换等),但模型如何根据这些操作作出预测的具体机制是未知的,无法用人类可以理解的语义来描述。
白箱模型的介绍
白箱模型在控制论中指的是一类特殊的模型,它不仅反映输入—输出关系,而且也反映过程的状态。白箱模型是一种基于系统内部机理和规律建立的模型,它在理论上具有较高的精确性,但在实际应用中受到问题复杂性和建模难度的限制。与黑箱模型相比,白箱模型更强调对系统内部机理和规律的理解。
-
定义:
- 白箱模型是根据系统或过程的内部机理和规律建立的模型。它要求建模者对所表述的要素或过程的规律有清楚的认识,对各有关因素也有深刻的了解。
- 在控制论中,白箱模型通常用于描述那些内部结构和机制已经被充分理解的系统。
-
特点:
- 复杂性:由于问题的复杂性,对于各要素和过程的研究往往还不够充分,因此目前尚未见到可以实际用于复杂变量预测工作的白箱模型。
- 依赖先验知识:白箱模型的建立依赖于大量的实际经验和充分、可靠的先验知识。随着现代科学的发展,现代工业过程越来越复杂,很难用一个比较容易表达的数学模型来表现出来。
- 精确性:由于白箱模型基于内部机理和规律,因此它在理论上具有较高的精确性。然而,在实际应用中,由于问题的复杂性,往往需要对数学模型进行简化或降阶,这可能会降低模型的精度。
-
应用:
- 尽管白箱模型在环境预测和复杂工业过程控制中的实际应用较少,但它在其他领域仍有一定的应用价值。例如,在建筑能耗模拟中,白箱模型可以用于分析建筑内部各种设备、材料和系统的能耗情况,从而为节能设计提供科学依据。
-
与黑箱模型的区别:
- 黑箱模型只关注系统的输入和输出关系,而不关心系统的内部结构和机制。相比之下,白箱模型则强调对系统内部机理和规律的理解。
- 在建模难度上,白箱模型通常比黑箱模型更为复杂,因为它需要更多的先验知识和对系统内部机理的深入理解。然而,一旦建立了准确的白箱模型,它通常能够提供更精确和可靠的预测结果。
黑箱模型与白箱模型的平衡讨论
如果用黑箱模型代表系统里面内部工作原理未知的部分,白箱模型代表工作原理完全已知的部分,那么任何复杂系统都是黑箱模型和白箱模型的混合,只不过两部分的比例占比不同而已。
比如深度学习,BP算法,计算图,梯度流动,矩阵运算等等都是已知的白箱模型,而由模型计算得出的任务输出中,所涉及的原理细节都是黑箱的部分。明显地,随着深度学习模型实现越来越复杂的智能任务,其中黑箱模型的占比是越来越大的,而这也是深度学习模型实现智能的效率越来越低的根源。
黑箱模型与白箱模型在分析和理解系统时各有优势和局限性,实现两者之间的平衡需要根据具体的应用场景和需求来权衡。
黑白模型平衡与效率的讨论
当前人工神经网络的一个典型代表就是大语言模型,生物神经网络的一个典型代表是人类大脑,我们可以大概的看看这两者之间在黑箱比例和白箱比例上的差异。
先来看看人类大脑的情况,人类大脑可以说是自然界的生物经过几亿年几十亿年进化而来的产物,对自然界来说其实人类大脑的原理都是白箱模型,这也是当前人脑在实现智能上效率极高的根源。
但这并不是说人类大脑就完全是白箱模型了,婴儿出生后我们在人类社会里面学习到的知识其实大部分是黑箱模型,自然界肯定是没法提前为我们学习到何种具体的数学,哲学等知识做具体的神经网络结构设计的。我们可以科学地思考,也可以迷信地思考;我们可以学习中文,也可以学习英文…知识的结构和规则是千变万化的,自然界做的无非就是提前做好了高效的白箱模型,以方便婴儿出生后黑箱模型的高效构造。
现在来说说人工神经网络的情形,众所周知我们对深度学习实现智能的理解其实不是很多,大多数都是检验常识,灵感启发而得来的黑箱模型,这样的模型很难做到智能效率很高,但是我们又毫无办法,因为我们对智能了解又不是很深,拥有总比没有强吧?
那么,是不是我们后续需要把深度学习的一切东西都做成白箱模型,以此大大提高实现智能的效率呢?也没有必要!像自然界这样经过亿万年演化的生物大脑都做不到完全的白箱,我们更没有必要去实现彻底的白箱模型,但是需要注意白箱模型与黑箱模型的比例问题。
总的来说,就是如果白箱模型比例过高,会造成较大的实现难度,虽然可以大大提高智能的效率,但这样的付出不一定是具有性价比的;如果黑箱模型比例过高,虽然各方面实现成本大大降低,但是这样的模型往往智能效率很低,相对生物大脑需要几十倍或者几百倍的硬件资源和能量资源才能实现同样的智能效果,究其原因就是计算的过程中做了与具体任务无关的冗余计算,因为我们对于黑箱的不了解,这部分冗余计算又是暂时优化不了的。
这篇关于生物神经网络 原理分析研读03的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!