ANN – 自组织神经网络 (SONN)
自组织神经网络 (SONN)是人工神经网络中的一种无监督学习模型,称为自组织特征映射或 Kohonen 映射。这些特征图是在模型训练(基于竞争学习)期间生成的输入空间的二维离散形式。
这种现象与生物系统非常相似。在人的皮层中,多维的感觉输入空间(如听觉、运动、触觉、视觉、体感等)由二维图表示。这种高维输入到降维映射的投影被称为拓扑守恒。而这种拓扑保存映射可以通过自组织网络来实现。
为什么需要SONN?
这些自组织图用于低维高维数据的分类和可视化。
SONN架构:
- 层: SONN 有两层:全连接输入层和输出(映射)层。输出层称为 Kohonen 层
- 层内连接:输出层中的所有神经元都连接在具有某种拓扑结构的特定邻域中。这些是未加权的横向连接,但负责竞争学习。
- 横向反馈连接:这些连接根据与获胜神经元的距离产生兴奋和抑制作用。
这是通过利用墨西哥帽子函数来实现的,该函数描绘了 Kohonen 层中神经元之间的突触权重。
SONN的阶段:
- 学习阶段:构建地图;该网络是通过使用训练样本的竞争过程设计的。
- 预测阶段:新数据的分类;对于新的数据样本,在融合地图上提供了一个特定的位置。
笔记:
- Kohonen Network 在分类数据上表现不佳,对于混合类型数据更糟。
- 无法开发数据的生成模型。
- 模型无法针对缓慢演化的数据进行训练。
- 模型的学习阶段非常耗时。
- 自组织神经网络不同于其他人工神经网络,它不是纠错学习方法(如梯度下降反向传播),它涉及模型训练的竞争学习。