📜  ANN – 自组织神经网络 (SONN)

📅  最后修改于: 2022-05-13 01:58:07.373000             🧑  作者: Mango

ANN – 自组织神经网络 (SONN)


自组织神经网络 (SONN)是人工神经网络中的一种无监督学习模型,称为自组织特征映射或 Kohonen 映射。这些特征图是在模型训练(基于竞争学习)期间生成的输入空间的二维离散形式。
这种现象与生物系统非常相似。在人的皮层中,多维的感觉输入空间(如听觉、运动、触觉、视觉、体感等)由二维图表示。这种高维输入到降维映射的投影被称为拓扑守恒。而这种拓扑保存映射可以通过自组织网络来实现。

为什么需要SONN?
这些自组织图用于低维高维数据的分类和可视化。

SONN架构:

  • 层: SONN 有两层:全连接输入层和输出(映射)层。输出层称为 Kohonen 层
  • 层内连接:输出层中的所有神经元都连接在具有某种拓扑结构的特定邻域中。这些是未加权的横向连接,但负责竞争学习。
  • 横向反馈连接:这些连接根据与获胜神经元的距离产生兴奋和抑制作用。

    这是通过利用墨西哥帽子函数来实现的,该函数描绘了 Kohonen 层中神经元之间的突触权重。

SONN的阶段:

  1. 学习阶段:构建地图;该网络是通过使用训练样本的竞争过程设计的。
  2. 预测阶段:新数据的分类;对于新的数据样本,在融合地图上提供了一个特定的位置。

笔记:

  • Kohonen Network 在分类数据上表现不佳,对于混合类型数据更糟。
  • 无法开发数据的生成模型。
  • 模型无法针对缓慢演化的数据进行训练。
  • 模型的学习阶段非常耗时。
  • 自组织神经网络不同于其他人工神经网络,它不是纠错学习方法(如梯度下降反向传播),它涉及模型训练的竞争学习。