前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >mnist图片缺失 97%的像素,mnist add准确率84%;及15位的加法训练

mnist图片缺失 97%的像素,mnist add准确率84%;及15位的加法训练

作者头像
用户1908973
发布2023-02-14 11:38:00
2090
发布2023-02-14 11:38:00
举报
文章被收录于专栏:CreateAMindCreateAMind

paper: Neural-Probabilistic Answer Set Programming

SLASH: EMBRACING PROBABILISTIC CIRCUITS INTO

NEURAL ANSWER SET PROGRAMMING

论文概要:

结合神经网络的稳健性和符号方法的表达能力的目 标重新点燃了人们对神经符号 AI 的兴趣。一个特别有趣的研究分支是深度概率编程语言 (DPPL), 它通过深度神经网络的概率估计来执? 概率逻辑编程。然而, 最近的 SOTA DPPL 方法仅允许有限的条件概率查询, 并且不提供真正的联合概率估计的能力。在我们的工作中, 我们建议在 DPPL 中轻松集成易处理的概率推理。为此, 我们介绍了 SLASH, 这是一种新颖的 DPPL, 它由神经概率谓词 (NPP) 和逻辑程序组成, 通过答案集编程联合起来。

NPP 是一种新颖的设计原则, 允许将所有深度模型类型及其组合统一表示为单个概率谓词。在这种情况下, 我们引 入了一种新颖的 +/‐ 符号, 用于通过调整谓词的原子符号来回答各种类型的概率查询。我们在 MNIST 添加的基准任务以及 DPPL 的新任务(如缺失数据预测、 生成学习和具有最先进性能的集合预测) 上评估 SLASH, 从而展示了我们方法的有效性和通用性。

论文观点:

最近最先进的 DPPL, 例如 DeepProbLog(Manhaeve 等人, 2018 年) 和 NeurASP(Yang、 Ishay 和 Lee, 2020 年) 允许进行条件类概率估计, 因为这两项工作都基于神经谓词进行概率估计。尽管某些任务可能只需要条件类别概率, 但我们认为, 对于 DPPL的整体表达和利用能力, 还需要能够整合和处理联合概率估计。世界是不确定的, 并且经常有必要在设置中进行推理, 例如, 在其中观察变量可能丢失甚至被操纵。

架构:

实验:

个人运行实验结果:mnist 图片缺失 85%的像素情况下,准确率依然能到89%的准确率

其他minist add 代码:

https://pylon-lib.github.io/notebooks/mnist_addition pylon

https://github.com/ML-KULeuven/deepproblog/blob/master/src/deepproblog/examples/MNIST/README.md

A-NeSI: A Scalable Approximate Method for Probabilistic Neurosymbolic Inference:A-NeSI is the first end-to-end method to scale the Multi-digit MNISTAdd benchmark to sums of 15 MNIST digits,

实验截图:

第七行 drop_out 85%. test 89%准确率

实验2 dropout 91% test 83%。

https://github.com/askrix/SLASH

欢迎交流。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2023-01-14,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 CreateAMind 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档