28离散Hopfield神经网络的联想记忆数字识别（附matlab）

1.简述

       学习目标：利用离散Hopfield神经网络进行联想记忆数字识别

1982年，美国加州理工学院的J.Hopfield教授提出了一种单层反馈神经网络，称为Hopfield网络[1]。Hopfield网络是一种循环的神经网络，从输出到输入有反馈连接。Hopfield网络可以作为联想存储器，有称为联想记忆网络。

Hopfield网络分为离散型(DHNN, discrete Hopfield Neural Network)和连续型(CHNN, Continues Hopfield Neural Network)两种网络模型。

1、离散Hopfield神经网络

1.1、Hopfield网络的结构

最初提出的Hopfield网络是离散网络，输出值只能取0或者1，风别表示神经元的抑制和兴奋状态。

仅考虑中间层神经元的节点，发现，每个神经元的输出都成为其他神经元的输入，每个神经元的输入都来自于其他神经元。神经元输出的数据经过其他神经元之后最终又反馈给自己。

 Hopfield网络的稳定性

Hopfield网络按神经动力学的方式运行，工作过程为状态的演化过程，对于给定的初始状态，按”能量“减小的方式演化，最终达到稳定状态。

动力系统：指按时间发展的系统
非线性动力学：是研究非线性动力系统的各种运动状态的定性和定量变化规律（即动力学特性），尤其是系统长期行为。

对于反馈网络来说，稳定性是至关重要的性质，但反馈网络不一定都能稳定收敛。网络从初态开始，经过有限次递归之后，如果其状态不再发生变化，则称该网络是稳定的。网络状态最终会收敛到一个稳定的值，因此是稳定的。

不稳定的网络往往是发散到无穷远的系统，在离散Hopfield网络中，由于输出只能取二值化的值，，因此不会出现无穷大的情况，此时，网络出现有限幅度的自持震荡，在有限个状态中反复循环，称为有限环网络。

在有限环网络中，系统在确定的几个状态中循环往复。系统也可能不稳定收敛于一个确定状态，而是在无限多个状态之间变化，但轨迹并不发散到无穷远，这种现象称为混沌。

如果Hopfield网络是稳定的，则称一个或者若干个稳定的状态时的解)为网络的吸引子，能最终演化为该吸引子的初始状态集合，称为该吸引子的吸引域。

设计离散Hopfield网络

Hopfield网络可以用于联想记忆，因此又称联想记忆网络。与人脑的联想记忆功能类似，Hopfield网络实现联想记忆需要两个阶段：

1、记忆阶段：在记忆阶段，外界输入的数据，使得系统自动调整网络的权值，最终用合适的权值使系统具有若干个稳定状态，即吸引子。其吸引域半径定义为吸引子所能吸引的状态的最大距离。吸引域半径越大，说明联想能力越强。联想记忆网络的记忆容量定义为吸引子的数量。

2、联想阶段：在联想阶段，对于给定的输入模式，系统经过一定的演化过程，最终稳定收敛于某个吸引子。

网络中神经元的个数与输入向量长度相同。初始化完成后，根据下式反复迭代，直到神经元的状态不发生改变为止。此时输出的吸引子就是对应输入进行联想的返回结果。

完成联想记忆的关键在于恰当的学习算法得到网络的权值。常见的学习算法有外积法(Outer Product Method)，投影学习法(Production Learning Method)，伪逆法(Pseudo Inverse Method)和特征结构法(Eigen Structure Method)。

2.代码

%% 清空环境变量
clc
clear
%% 数据导入
load data1 array_one
load data2 array_two
%% 训练样本（目标向量）
 T=[array_one;array_two]';
%% 创建网络
 net=newhop(T);
%% 数字1和2的带噪声数字点阵（固定法）
load data1_noisy noisy_array_one
load data2_noisy noisy_array_two
%% 数字1和2的带噪声数字点阵（随机法）

%% 数字识别

noisy_one={(noisy_array_one)'};
identify_one=sim(net,{10,10},{},noisy_one);
identify_one{10}';
noisy_two={(noisy_array_two)'};
identify_two=sim(net,{10,10},{},noisy_two);
identify_two{10}';
%% 结果显示
Array_one=imresize(array_one,20);
subplot(3,2,1)
imshow(Array_one)
title('标准(数字1)') 
Array_two=imresize(array_two,20);
subplot(3,2,2)
imshow(Array_two)
title('标准(数字2)') 
subplot(3,2,3)
Noisy_array_one=imresize(noisy_array_one,20);
imshow(Noisy_array_one)
title('噪声(数字1)') 
subplot(3,2,4)
Noisy_array_two=imresize(noisy_array_two,20);
imshow(Noisy_array_two)
title('噪声(数字2)')
subplot(3,2,5)
imshow(imresize(identify_one{10}',20))
title('识别(数字1)')
subplot(3,2,6)
imshow(imresize(identify_two{10}',20))
title('识别(数字2)')
 

3.运行结果