📅  最后修改于: 2020-11-26 08:23:04        🧑  作者: Mango

神经网络是并行计算设备，基本上是试图建立大脑计算机模型的尝试。主要目标是开发一种比传统系统更快地执行各种计算任务的系统。本教程涵盖了人工神经网络所涉及的基本概念和术语。本教程的各节还介绍了ANN中使用的各种网络的体系结构和训练算法。对于对本学科感兴趣或将其作为课程一部分的研究生，研究生和研究型学生，本教程将非常有用。读者可以是初学者或高级学习者。先决条件ANN是一个高级主题，因此读者必须具有算法，...

📅  最后修改于: 2020-11-26 08:24:05        🧑  作者: Mango

神经网络是并行计算设备，基本上是对大脑进行计算机模型化的尝试。主要目标是开发一种比传统系统更快地执行各种计算任务的系统。这些任务包括模式识别和分类，近似，优化和数据聚类。什么是人工神经网络?人工神经网络(ANN)是一种高效的计算系统，其中心主题是从生物神经网络的类比中借鉴而来的。人工神经网络也被称为“人工神经系统”或“并行分布式处理系统”或“连接系统”。 ANN获取大量的单元，这些单元以某种模式互...

📅  最后修改于: 2020-11-26 08:25:01        🧑  作者: Mango

ANN的处理取决于以下三个构件-网络拓扑结构权重或学习的调整激活功能在本章中，我们将详细讨论ANN的这三个构建模块网络拓扑结构网络拓扑是网络及其节点和连接线的布置。根据拓扑，ANN可以分为以下几种：前馈网络这是一个非递归网络，在各层中具有处理单元/节点，并且一层中的所有节点都与先前各层的节点相连。连接对它们具有不同的权重。没有反馈回路，意味着信号只能从输入到输出在一个方向上流动。它可以分为以下两种...

📅  最后修改于: 2020-11-26 08:26:58        🧑  作者: Mango

如前所述，人工神经网络完全受到生物神经系统(即人脑)工作方式的启发。人脑最令人印象深刻的特征是学习，因此ANN也具有相同的特征。在ANN中学习什么?基本上，学习是指在环境变化时进行和适应变化本身。人工神经网络是一个复杂的系统，或更确切地说，我们可以说它是一个复杂的自适应系统，它可以根据通过它的信息来更改其内部结构。它为什么如此重要?作为复杂的自适应系统，ANN中的学习意味着处理单元由于环境的变化而...

📅  最后修改于: 2020-11-26 08:30:30        🧑  作者: Mango

顾名思义，监督学习是在老师的监督下进行的。这个学习过程是依赖的。在监督学习下对ANN进行训练期间，将输入向量呈现给网络，网络将产生输出向量。将该输出向量与期望/目标输出向量进行比较。如果实际输出与期望/目标输出矢量之间存在差异，则会生成错误信号。基于该误差信号，将调整权重，直到实际输出与所需输出匹配为止。感知器感知器由Frank Rosenblatt使用McCulloch和Pitts模型开发，是人...

📅  最后修改于: 2020-11-26 08:32:19        🧑  作者: Mango

顾名思义，这种学习无需老师的监督即可完成。这个学习过程是独立的。在无监督学习下训练ANN的过程中，将相似类型的输入向量组合起来形成聚类。当应用新的输入模式时，神经网络会给出输出响应，指示输入模式所属的类。在这种情况下，对于期望的输出应该是什么以及输出是正确还是不正确，环境将没有反馈。因此，在这种类型的学习中，网络本身必须从输入数据中发现模式，特征以及输出上输入数据的关系。赢家通吃所有网络这些类型的...

📅  最后修改于: 2020-11-26 08:33:44        🧑  作者: Mango

学习矢量量化(LVQ)与矢量量化(VQ)和Kohonen自组织图(KSOM)不同，它基本上是一个使用监督学习的竞争性网络。我们可以将其定义为对模式进行分类的过程，其中每个输出单元代表一个类。由于它使用监督学习，因此将为网络提供一组具有已知分类的训练模式以及输出类别的初始分布。在完成训练过程之后，LVQ将通过将输入向量分配给与输出单元相同的类别来对其进行分类。建筑下图显示了LVQ的体系结构，它与KS...

📅  最后修改于: 2020-11-26 08:34:54        🧑  作者: Mango

该网络由Stephen Grossberg和Gail Carpenter于1987年开发。它基于竞争并且使用无监督学习模型。顾名思义，自适应共振理论(ART)网络始终对新的学习(自适应)开放，而不会失去旧的模式(共振)。基本上，ART网络是向量分类器，它接受输入向量并将其分类为哪一类，具体取决于它最类似于哪个存储模式。营运负责人ART分类的主要操作可以分为以下几个阶段-识别阶段-将输入向量与在输出...

📅  最后修改于: 2020-11-26 08:35:34        🧑  作者: Mango

假设我们有某种任意维度的模式，但是我们需要在一维或二维中使用它们。这样，特征映射的过程对于将宽模式空间转换为典型特征空间将非常有用。现在，出现了一个问题，为什么我们需要自组织特征图?原因是，除了具有将任意维转换为一维或二维的能力之外，它还必须具有保留邻居拓扑的能力。Kohonen SOM中的邻居拓扑可以有多种拓扑，但是以下两种拓扑使用最多：矩形网格拓扑此拓扑在距离2网格中有24个节点，在距离1网格...

📅  最后修改于: 2020-11-26 08:36:28        🧑  作者: Mango

这些类型的神经网络基于模式关联进行工作，这意味着它们可以存储不同的模式，并且在提供输出时，可以通过将它们与给定的输入模式进行匹配来生成其中一种存储的模式。这些类型的存储器也称为内容可寻址存储器(CAM)。关联存储器使用存储的模式作为数据文件进行并行搜索。以下是我们可以观察到的两种类型的联想记忆-自动联想记忆异联想记忆自动联想记忆这是单层神经网络，其中输入训练向量和输出目标向量相同。确定权重，以便网...

📅  最后修改于: 2020-11-26 08:37:35        🧑  作者: Mango

Hopfield神经网络由John J. Hopfield博士于1982年发明。它由一个包含一个或多个完全连接的循环神经元的单层组成。 Hopfield网络通常用于自动关联和优化任务。离散Hopfield网络一个以离散线路方式运行的Hopfield网络，换句话说，输入和输出模式是离散矢量，其本质上可以是二进制(0,1)或双极性(+1，-1)。网络具有对称权重，没有自连接，即wij= wji和wii...

📅  最后修改于: 2020-11-26 08:38:22        🧑  作者: Mango

这些是具有递归结构的随机学习过程，是ANN中使用的早期优化技术的基础。玻尔兹曼机是由杰弗里·欣顿和特里·塞诺夫斯基于1985年发明的。“该网络的一个令人惊讶的功能是它仅使用本地可用信息。权重的变化仅取决于它所连接的两个单元的行为，即使该变化优化了全局度量也是如此”-Ackley，Hinton 1985。关于玻尔兹曼机的一些要点-他们使用循环结构。它们由随机神经元组成，它们具有两种可能的状态之一，即...

📅  最后修改于: 2020-11-26 08:38:51        🧑  作者: Mango

框内状态(BSB)神经网络是非线性自联想神经网络，可以扩展为具有两层或更多层的异质联想。它也类似于Hopfield网络。它是由JA Anderson，JW Silverstein，SA Ritz和RS Jones在1977年提出的。关于BSB网络要记住的一些要点-它是一个完全连接的网络，其最大节点数取决于输入空间的维数n。所有神经元同时更新。神经元的值介于-1到+1之间。数学公式BSB网络中使用的...

📅  最后修改于: 2020-11-26 08:39:37        🧑  作者: Mango

优化是使诸如设计，情况，资源和系统之类的东西尽可能有效的一种动作。利用成本函数和能量函数之间的相似性，我们可以使用高度互连的神经元来解决优化问题。这种神经网络是Hopfield网络，它由包含一个或多个完全连接的循环神经元的单层组成。这可以用于优化。使用Hopfield网络进行优化时要记住的要点-能量函数必须是网络的最小值。它将找到令人满意的解决方案，而不是从存储的模式中选择一种。Hopfield网...

📅  最后修改于: 2020-11-26 08:40:16        🧑  作者: Mango

迭代梯度下降技术梯度下降，也称为最速下降，是一种迭代优化算法，用于找到函数的局部最小值。在最小化函数，我们关注要最小化的成本或错误(记住旅行商问题)。它广泛用于深度学习中，在各种情况下都非常有用。这里要记住的一点是，我们关注的是局部优化而不是全局优化。主要工作思路通过以下步骤，我们可以了解梯度下降的主要工作原理：首先，从解决方案的初步猜测开始。然后，在该点取函数的梯度。稍后，通过在梯度的负方向上逐...