📜  自适应共振理论

📅  最后修改于: 2020-11-26 08:34:54             🧑  作者: Mango


该网络由Stephen Grossberg和Gail Carpenter于1987年开发。它基于竞争并且使用无监督学习模型。顾名思义,自适应共振理论(ART)网络始终对新的学习(自适应)开放,而不会失去旧的模式(共振)。基本上,ART网络是向量分类器,它接受输入向量并将其分类为哪一类,具体取决于它最类似于哪个存储模式。

营运负责人

ART分类的主要操作可以分为以下几个阶段-

  • 识别阶段-将输入向量与在输出层中每个节点上显示的分类进行比较。如果神经元的输出与所应用的分类最匹配,则该神经元的输出为“ 1”,否则为“ 0”。

  • 比较阶段-在此阶段,将输入向量与比较层向量进行比较。重置的条件是,相似度将小于警戒参数。

  • 搜索阶段-在此阶段,网络将搜索重置以及在上述阶段中完成的匹配。因此,如果没有重置并且匹配很好,则分类结束。否则,将重复该过程,并且必须发送其他存储的模式以找到正确的匹配项。

ART1

这是一种ART,旨在对二进制向量进行聚类。我们可以通过它的体系结构了解它。

ART1的架构

它由以下两个单元组成-

计算单位-由以下组成-

  • 输入单元(F 1层) -还具有以下两个部分-

    • F 1 (a)层(输入部分) -在ART1中,此部分将不进行处理,而仅具有输入向量。它连接到F 1 (b)层(接口部分)。

    • F 1 (b)层(接口部分) -此部分将来自输入部分的信号与F 2层的信号合并。 F 1 (b)层通过自下而上的重物b ij连接到F 2层,F 2层通过自上而下的重物t ji连接到F 1 (b)层。

  • 群集单元(F 2层) -这是一个竞争层。选择具有最大净输入的单元以学习输入模式。所有其他群集单元的激活都设置为0。

  • 重置机制-该机制的工作基于自上而下的权重和输入向量之间的相似性。现在,如果这种相似度小于警戒性参数,则不允许集群学习模式,其余的将发生。

补充单元-实际上,复位机制存在的问题是必须在某些条件下禁止F 2层,并且在发生一些学习时也必须可用。这就是为什么两个补充单元G 1G 2与复位单元R一起添加的原因。它们被称为增益控制单元。这些单元接收信号并将其发送到网络中存在的其他单元。 “ +”表示兴奋性信号,而“-”表示抑制性信号。

补充单位

单位

使用参数

使用以下参数-

  • n-输入向量中的分量数

  • m-可以形成的最大簇数

  • b ij-从F 1 (b)到F 2层的重量,即自下而上的重量

  • t ji-从F 2到F 1 (b)层的重量,即自上而下的重量

  • ρ-警戒参数

  • || x || −向量x的范数

算法

步骤1-初始化学习率,警戒参数和权重,如下所示-

$$ \ alpha \:> \:1 \:\:and \:\:0 \:

$ 0 \:

步骤2-当停止条件不成立时,继续步骤3-9。

步骤3-对于每个训练输入,继续步骤4-6。

步骤4-如下设置所有F 1 (a)和F 1单元的激活

F 2 = 0和F 1 (a)=输入向量

步骤5-从F 1 (a)到F 1 (b)层的输入信号必须像

$$ s_ {i} \:= \:x_ {i} $$

步骤6-对于每个禁止的F 2节点

$ y_ {j} \:= \:\ sum_i b_ {ij} x_ {i} $条件是y j ≠-1

步骤7-当重置为true时,执行步骤8-10。

第8步-查找J表示ŸĴ≥所有节点ĴÿĴ

步骤9-再次计算F 1 (b)的激活,如下

$$ x_ {i} \:= \:sitJi $$

步骤10-现在,在计算出向量x和向量s的范数之后,我们需要检查重置条件,如下所示:

如果|| x || / || s || <警戒参数ρ ,然后禁止节点J,然后转到步骤7

否则|| x || / || s || ≥警戒参数ρ ,然后继续进行。

步骤11-节点J的权重更新可以如下进行-

$$ b_ {ij}(新)\:= \:\ frac {\ alpha x_ {i}} {\ alpha \:-\:1 \:+ \:|| x ||} $$

$$ t_ {ij}(新)\:= \:x_ {i} $$

步骤12-必须检查算法的停止条件,可能如下:

  • 体重没有任何变化。
  • 不对单元执行复位。
  • 达到最大纪元数。