Boltzmann选择是一种基于Boltzmann分布的选择策略，主要用于进化算法中的个体选择过程。它通过模拟物理系统的热平衡状态来调节个体选择的概率，能够在进化初期保持种群多样性，并在进化后期集中选择适应度高的个体。 Boltzmann选择的表达式 Boltzmann选择的主要表达式如下： P i = exp ⁡ ( f i T ) ∑ j = 1 N exp ⁡ ( f j T ) P

受限玻尔兹曼机对于当今的非监督学习有一定的启发意义。   深度信念网络(DBN, Deep Belief Networks)于2006年由Geoffery Hinton提出。

//  谢谢Timm Krüger大佬的代码。 还是老样子，有啥问题Feel free to tell us~毕竟群众力量大嘛~QQ群：293267908。//  话不多说，上干货！ // ISBN 978-3-319-44649-3 (Electronic) //       978-3-319-44647-9 (Print)//  http://www.springer.com/978-3-3

目录 1 简介 1 2 RBMs和对比散度的概览 1 3 当使用对比散度时如何收集统计信息 2 3.1 更新隐藏状态 2 3.2 更新可见状态 3 4 Mini-batch大小 3 5 监控学习的过程 3 6 监控过拟合 3 7 学习率 3 8 初始化权重和偏置 4 9 Momentum 4 10 权重衰减 4 11 鼓励稀疏的隐藏活跃 4 12 隐藏单元的数量 4 13 单元的不同类型 5 1

题目：Modeling Documents with a Deep Boltzmann Machine 作者：HInton 发表于：UAI 2013 主要内容： 这篇文章写用神经网络来对文本（文章）进行建模的。在Replicated Softmax model的基础上，增加了一个隐含层，但是并不增加参数，用来提升模型性能。与标准RSM和LDA模型相比较，作者这个模型性能更好。