一般神经网络的激活函数类型
1.阀值型
2.分段线性型
3.S型
一般神经网络互连模式
1.向前网络
2.有反馈的向前网络
3.层内相互结合的向前网络
4.相互结合型网络(包括全互连和部分互连类型)
适用范围
(1) 数学的近似映射:象识别和分类等这些计算都可以抽象成这样的一种近似的数学映射。如误差反播模型(BP)、对向传播网络模型(CPN)、小脑模型(CMAC)等都可以完成这种计算。
(2) 概率密度函数的估计:通过自组织的方式开发寻找出一组等概率“锚点”来响应在空间Rn 中按照一个确定概率密度函数选择到的一组矢量样本。自组织映射模型(SOM),CPN 模型可以完成这样的计算。
(3) 从二进制数据基中提取相关的知识:这种计算是形成一种知识的聚类模型,这些知识依照数据基的自组织在它们之间有某种统计上的共性,并依此来响应输入的数据基记录。脑中盒模型(BSB)有能力进行这种计算。
(4) 形成拓扑连续及统计意义上的同构映射:它是对固定概率密度函数选择的适应输入数据的一种自组织映射。其最终使得数据空间上的不同项有某种同构。SOM 模型适合计算此类问题。
(5) 最近相邻模式分类:通过比较大量的存储数据来进行模式分类,但首先应通过学习对样本模式进行分类。可用层次性的存储模式来进行分类信息的表示。绝大多数的神经网络模型均能进行这种计算。如自适应共振理论模型(ART)、双向联想记忆模型(BAM)、BP 模型、波尔兹曼机模型(BM)、BSB 模型、CPN 模型、Hopfield 模型等等。
(6) 数据聚类:采用自组织的方法形成所选择的“颗粒”或模式的聚类,以此来响应输入数据。聚类是可变的,但要限制其鞍点的个数。对于任何新的目标,只要系统中没有对其提供聚类,都要形成新的聚类。很显然这种能力可直接应用于复杂的多目标跟踪。ART 模型最适合于这种计算。
(7) 最优化问题:用来求解局部甚至是全局最优解。Hopfiled 模型、波尔兹曼机模型(BM)有能力进行这种计算
基本模型
1.MP模型
1).延时MP模型
2).改进MP模型
2.感知器模型
1).简单感知器模型
2).多层感知器模型