腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
mathor
专栏作者
举报
447
文章
591924
阅读量
50
订阅数
订阅专栏
申请加入专栏
全部文章（447）
其他（110）
编程算法（77）
神经网络（43）
人工智能（43）
机器学习（36）
深度学习（34）
java（32）
ios（18）
NLP 服务（14）
c++（14）
批量计算（12）
存储（12）
pytorch（12）
alpha（12）
sum（12）
text（11）
serverless（10）
linux（8）
容器（8）
jsp（7）
html（7）
游戏（6）
windows（6）
数据结构（6）
token（6）
语音识别（5）
matlab（5）
语音合成（5）
腾讯云测试服务（5）
http（5）
卷积神经网络（5）
安全（5）
https（5）
embedding（5）
max（5）
size（5）
word2vec（5）
对象存储（4）
python（4）
git（4）
spring（4）
jdk（4）
erp（4）
面向对象编程（4）
数据分析（4）
int（4）
key（4）
nlp（4）
php（3）
css（3）
文件存储（3）
日志服务（3）
网站（3）
网络安全（3）
二叉树（3）
data（3）
google（3）
gpu（3）
hidden（3）
rank（3）
self（3）
tensor（3）
vector（3）
word（3）
编码（3）
数据（3）
bash（2）
node.js（2）
打包（2）
ide（2）
eclipse（2）
github（2）
开源（2）
缓存（2）
shell（2）
正则表达式（2）
gui（2）
numpy（2）
hashmap（2）
数据处理（2）
nat（2）
腾讯云开发者社区（2）
error（2）
layer（2）
mask（2）
model（2）
partial（2）
random（2）
事件（2）
网络（2）
免费套餐（1）
官方文档（1）
数据挖掘（1）
tensorflow（1）
c 语言（1）
.net（1）
r 语言（1）
bootstrap（1）
汇编语言（1）
嵌入式（1）
数据库（1）
oracle（1）
api（1）
tomcat（1）
搜索引擎（1）
bash 指令（1）
云直播（1）
时序数据库 CTSDB（1）
海外加速（1）
机器翻译（1）
企业（1）
运维（1）
黑客（1）
jvm（1）
wordpress（1）
hive（1）
yum（1）
监督学习（1）
线性回归（1）
asp（1）
cdn（1）
kernel（1）
iis（1）
网站建设（1）
特征工程（1）
功能测试（1）
性能测试（1）
黑盒测试（1）
es（1）
汽车（1）
architecture（1）
autoencoder（1）
block（1）
channel（1）
clone（1）
combine（1）
dagger（1）
dataset（1）
device（1）
dfs（1）
distance（1）
distribution（1）
document（1）
echarts（1）
encoding（1）
epoch（1）
equation（1）
excel（1）
fixed（1）
fork（1）
for循环（1）
function（1）
gan（1）
global（1）
hashtable（1）
identity（1）
input（1）
label（1）
lambda（1）
list（1）
load（1）
local（1）
ls（1）
min（1）
mnist（1）
module（1）
nan（1）
normalization（1）
object（1）
pandas（1）
pear（1）
pool（1）
position（1）
precision（1）
prediction（1）
profiling（1）
reshape（1）
rows（1）
sample（1）
search（1）
sequence（1）
sign（1）
spa（1）
src（1）
steam（1）
subset（1）
target（1）
testing（1）
time（1）
torch（1）
txt（1）
virtual（1）
web（1）
window（1）
zero（1）
表格（1）
动态规划（1）
二进制（1）
函数（1）
技巧（1）
解决方案（1）
开发（1）
可视化（1）
论文（1）
数组（1）
搜索（1）
统计（1）
优化（1）
语音（1）
搜索文章
搜索
搜索
关闭
L2正则效果不好？试试WEISSI正则
正则表达式
L2正则的表现通常没有理论上说的那么好，很多时候加了可能还有负作用。最近的一篇文章《Improve Generalization and Robustness of Neural Networks via Weight Scale Shifting Invariant Regularizations》从"权重尺度偏移"这个角度分析了L2正则的弊端，并提出了新的WEISSI正则项。本文将指出常见的深度学习模型中存在的"权重尺度偏移(Weight Scale Shif)"现象，这个现象可能会导致L2正则的作用没那么明显。进一步地，我们可以构建一个新的正则项，它具有跟L2类似的作用，但是与权重尺度偏移现象更加协调，理论上来说更加有效。为了方便大家理解，请先阅读L2正则化的一些思考这篇文章
mathor
2021-06-17
661
0
L2正则化的一些思考
神经网络
正则表达式
很多时候，我们希望得到一个"稳健"的模型。何为稳健？一般来说有两种含义，一是对于参数扰动的稳定性，比如模型变成了f_{\theta}(x)；二是对于输入扰动的稳定性，比如输入从x变成了x+\Delta x后，f_{\theta}(x+\Delta x)是否能给出相近的预测结果。读者或许已经听过深度学习模型存在"对抗攻击样本"，比如图片只改变一个像素就给出完全不一样的分类结果，这就是模型对输入过于敏感的案例
mathor
2021-05-20
577
0
没有更多了
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天，分 10000 元奖品池！
立即发文
Python精品学习库
代码在线跑，知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客，速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档