EfficientNet函数合成或Hadamard
EfficientNet函数合成或Hadamard
提问于 2020-09-16 16:49:29
在EfficientNet论文的第3页中，有一个等式
其中，\mathcal{N}是conv网，每个\mathcal{F}_i^{L_i}都是具有L_i长度的i第四阶段层操作符。
我不明白的是，这个方程中的\odot是什么？作者是指Hadamard产品，还是指功能组合？他之前提到过\mathcal{N} = \mathcal{F}_k \odot ... \odot \mathcal{F}_1 (X_1)，其中k是网的深度。所以我认为这意味着\odot只是函数组合。但是EfficientNet有跳过连接。在keras实现中，它使用layers.merge.Multiply()，因此它也意味着输入数据X与转换的\mathcal{F}(X)相乘，而\odot可能意味着Hadamard产品。
有人知道答案吗？谢谢。
回答 1
Data Science用户
回答已采纳
发布于 2020-09-16 18:57:34
它可能代表重复的功能组合。
主要原因：
- 作者在这个等式之前的措辞是：“一份由组成层组成的列表”。
- Hadamard产品不能应用于不同尺寸的层，而功能组合当然可以。
- 是的，EfficientNet跳过连接，但我认为它们试图通过区分“层”和“阶段”来验证功能组合。他们说"F_i^{L_i}表示F_i在舞台i中重复的L_i时间“。他们还解释说，“每个阶段的所有层都有相同的架构。因此，我认为他们把跳过连接以功能组合的形式存在，但这是令人困惑的。我认为这是他们简洁地表达跳过连接层(通常是)重复架构的方式。”
页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://datascience.stackexchange.com/questions/81818
复制相关文章
相似问题
腾讯云开发者
