📜  人工神经网络-构建块

📅  最后修改于: 2020-11-26 08:25:01             🧑  作者: Mango


ANN的处理取决于以下三个构件-

  • 网络拓扑结构
  • 权重或学习的调整
  • 激活功能

在本章中,我们将详细讨论ANN的这三个构建模块

网络拓扑结构

网络拓扑是网络及其节点和连接线的布置。根据拓扑,ANN可以分为以下几种:

前馈网络

这是一个非递归网络,在各层中具有处理单元/节点,并且一层中的所有节点都与先前各层的节点相连。连接对它们具有不同的权重。没有反馈回路,意味着信号只能从输入到输出在一个方向上流动。它可以分为以下两种类型-

  • 单层前馈网络-概念是仅具有一个加权层的前馈ANN。换句话说,我们可以说输入层完全连接到输出层。

单层前馈网络

  • 多层前馈网络-概念是具有多个加权层的前馈ANN。由于此网络在输入层和输出层之间有一个或多个层,因此称为隐藏层。

多层前馈网络

反馈网络

顾名思义,反馈网络具有反馈路径,这意味着信号可以使用环路在两个方向上流动。这使其成为一个非线性的动态系统,该系统不断变化,直到达到平衡状态。它可以分为以下几种类型-

  • 循环网络-它们是具有闭环的反馈网络。以下是两种循环网络。

  • 完全循环网络-这是最简单的神经网络体系结构,因为所有节点都连接到所有其他节点,并且每个节点都充当输入和输出。

完全循环网络

  • 约旦网络-这是一个闭环网络,其中输出将再次作为反馈进入输入,如下图所示。

约旦网络

权重或学习的调整

在人工神经网络中,学习是修改指定网络的神经元之间连接权重的方法。 ANN中的学习可分为三类,即监督学习,无监督学习和强化学习。

监督学习

顾名思义,这种学习是在老师的监督下进行的。这个学习过程是依赖的。

在监督学习下对ANN进行训练期间,将输入向量呈现给网络,网络将给出输出向量。将该输出矢量与期望的输出矢量进行比较。如果实际输出与期望输出矢量之间存在差异,则会生成错误信号。根据该误差信号,调整权重,直到实际输出与所需输出匹配为止。

模型

无监督学习

顾名思义,这种学习无需老师的监督即可完成。这个学习过程是独立的。

在无监督学习下训练ANN的过程中,将相似类型的输入向量组合起来形成聚类。当应用新的输入模式时,神经网络会给出输出响应,指示输入模式所属的类。

对于所需的输出以及正确或不正确的环境,没有来自环境的反馈。因此,在这种类型的学习中,网络本身必须从输入数据以及输出上输入数据的关系中发现模式和特征。

无监督学习

强化学习

顾名思义,这种类型的学习用于加强或加强某些评论者信息上的网络。此学习过程类似于监督学习,但是我们掌握的信息可能很少。

在强化学习下的网络训练期间,网络会收到来自环境的一些反馈。这使其在某种程度上类似于监督学习。但是,这里获得的反馈是评估性的,而不是指导性的,这意味着在监督学习中没有老师。收到反馈后,网络将对权重进行调整,以在将来获得更好的评论者信息。

强化学习

激活功能

它可以定义为施加在输入上以获得准确输出的额外力量或努力。在ANN中,我们还可以对输入应用激活函数以获得确切的输出。以下是一些有趣的激活功能-

线性激活功能

它也称为身份函数,因为它不执行任何输入编辑。可以定义为-

$$ F(x)\:= \:x $$

乙状结肠激活功能

它有以下两种类型-

  • 二进制S形函数-此激活函数执行0到1之间的输入编辑。它本质上是正的。它始终是有界的,这意味着它的输出不能小于0且不能大于1。它本质上也是严格增加的,这意味着更多的输入将是输出。可以定义为

    $$ F(x)\:= \:sigm(x)\:= \:\ frac {1} {1 \:+ \:exp(-x)} $$

  • 双极S形函数-此激活函数在-1和1之间执行输入编辑。它本质上可以是正数或负数。它总是有界的,这意味着它的输出不能小于-1且大于1。它在本质上也像S型函数一样严格地增加。可以定义为

    $$ F(x)\:= \:sigm(x)\:= \:\ frac {2} {1 \:+ \:exp(-x)} \:-\:1 \:==:\ frac {1 \:-\:exp(x)} {1 \:+ \:exp(x)} $$