首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >这个神经网络模型存在吗?

这个神经网络模型存在吗?
EN

Stack Overflow用户
提问于 2012-11-14 20:11:44
回答 4查看 1.2K关注 0票数 5

我在寻找一个具有特定特征的神经网络模型。这种模式可能不存在..。

我需要一个不像传统人工神经网络那样使用“层”的网络。相反,我想要的是一个更生物学的模型。

这个模型将容纳一大群相互关联的神经元,如下图所示。少数神经元(图底部)将接收输入信号,级联效应将导致连续的、连接的神经元可能根据信号强度和连接重量而激发。这不是什么新鲜事,但是,没有显式的layers...just越来越远,间接的连接。

正如你所看到的,我也把网络分成了几个部分(圆圈)。每个圆圈代表一个语义域(一个语言学概念),它是围绕一个概念的核心信息;语义域本质上是一个概念。

节内节点之间的连接比不同节中节点之间的连接具有更高的权重。因此,"car“的节点之间的连接比连接"English”到"car“的节点更多。因此,当单个区段中的神经元触发(被激活)时,很可能整个(或大部分)部分也将被激活。

总之,我需要输出模式作为进一步输出的输入,依此类推。--级联效应就是我所追求的。

我希望这是合理的。如有需要,请要求澄清。

是否有合适的模型存在,就像我所描述的那样?

EN

回答 4

Stack Overflow用户

发布于 2012-11-22 12:24:19

您的神经网络类似于使用进化算法创建的神经网络,例如遗传算法。

详情请参阅下列文章。

  • 基于程序行为的汉进化神经网络异常检测
  • WHITLEY -遗传算法与神经网络

对于这类神经网络的总结。神经元及其连接是利用进化技术创造出来的。因此,它们没有严格的分层方法。汉斯使用了以下技巧:

遗传操作:

交叉算子,通过在两个神经网络之间交换部分段产生一个新的后代。随机选取两个不同的神经网络,选择一个隐节点作为支点point.Then,根据选择的支点交换连接链路和相应的权值。

,变异算子,改变了随机选择的神经网络的连接链路和相应的权重。它执行两个操作之一:添加新连接或删除现有连接。

变异算子随机选择神经网络的两个节点。如果它们之间没有联系,则用随机权重连接两个节点。

否则,它将删除连接链接和权重信息。“

以下是惠特利文章中的数字。

代码语言:javascript
运行
复制
@ARTICLE{Han2005Evolutionary,
  author = {Sang-Jun Han and Sung-Bae Cho},
  title = {Evolutionary neural networks for anomaly detection based on the behavior
of a program},
  journal = {Systems, Man, and Cybernetics, Part B: Cybernetics, IEEE Transactions
on},
  year = {2005},
  volume = {36},
  pages = {559 -570},
  number = {3},
  month = {june },

}

代码语言:javascript
运行
复制
@article{whitley1995genetic,
  title={Genetic algorithms and neural networks},
  author={Whitley, D.},
  journal={Genetic algorithms in engineering and computer science},
  pages={203--216},
  year={1995},
  publisher={Citeseer}
}
票数 3
EN

Stack Overflow用户

发布于 2012-11-19 20:38:45

总之,我需要输出模式作为进一步输出的输入,依此类推。级联效应是我所追求的。

这听起来像是一个有多个隐藏层的前馈网络。不要害怕这里的“层”这个词,用多个词就像你画的一样。类似于5-5-7-6-7-6-6-6-6-6-5 -structured网(5个输入,8个隐藏层,每个节点数量不同,输出5个)。

您可以通过任何方式将节点从一个层连接到另一个层。您可以简单地使用常量零作为它们之间的权重来保持一些未连接,或者如果使用面向对象的编程,只需将不想要的连接排除在连接阶段之外。使用标准的NN-模型,跳过这些层可能会更困难,但一种方法可能是为每个需要跨越的层使用一个虚拟节点。仅仅复制原始输出*重量-value从节点到虚拟将与跳过一层相同,这也将保持标准的NN-模型完整。

如果您希望网络只输出1和0,那么可以在每个节点中使用一个简单的阶跃函数作为激活函数:1用于值大于0.5,否则为0。

我不确定这是否是你想要的,但这样你就可以建立一个你所描述的网络。然而,我不知道你打算如何教你的网络产生一些语义域。为什么不让网学会它自己的重量呢?这可以通过简单的输入输出-examples和反向传播-algorithm来实现.如果您使用标准模型来构建您的网络,那么学习的数学也不会与任何其他的前馈网络有任何不同。最后但并非最不重要的一点是,您可能会找到一个适用于此任务的库,只需对代码进行小改动或根本不做任何更改。

票数 2
EN

Stack Overflow用户

发布于 2012-11-30 05:31:44

涉及遗传算法的答案听起来不错(尤其是引用达雷尔·惠特利的研究成果的答案)。

另一种选择是简单地随机连接节点?这或多或少是用递归神经网络来完成的。

你也可以看看Le村的非常成功的卷积神经网络,一个有很多层的ANN的例子,有点像你在这里描述的,它是为一个特定的目的而设计的。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/13386554

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档