首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

DNN深度神经网络损失函数选择

1.均方误差(MSE)、SVM的合页损失(hinge loss)、交叉熵(cross entropy) 2.相对熵 相对熵又称KL散度,用于衡量对于同一个随机变量x的两个分布p(x)和q(x)之间的差异。在机器学习中,p(x)常用于描述样本的真实分布,例如[1,0,0,0]表示样本属于第一类,而q(x)则常常用于表示预测的分布,例如[0.7,0.1,0.1,0.1]。显然使用q(x)来描述样本不如p(x)准确,q(x)需要不断地学习来拟合准确的分布p(x)。 1c8e834e63bc00b9586c18008c31a319.png 3.MSE函数 在上图的绿色部分,初始值是0.98,红色部分初始值是0.82,假如真实值是0。直观来看那么0.82下降的速度明显高于0.98,但是明明0.98的误差更大,这就导致了神经网络不能像人一样,误差越大,学习的越快。 4.交叉熵是误差越大,下降速度越快。 ​

01

木兰宽松许可证(MulanPSL v2)解析

2019年8月以来,“木兰”系列开源许可证陆续上线发布,受到了业界的广泛关注。截止目前,“木兰宽松许可证”第1版(MulanPSL v1)已在Linux基金会、开源中国、华为方舟等国内外重点开源社区和开源项目中得到支持和应用。2020年2月14日,“木兰宽松许可证”第2版(MulanPSL v2)经过严格审批,正式通过开源促进会(OSI)认证,被批准为国际类别开源许可证(International licenses)。意味着其正式具有国际通用性,可被任一国际开源基金会或开源社区支持采用,并为任一开源项目提供服务。与此同时,“木兰”是中英文双语,对本土开发者理解和使用开源许可证具有一定优势。

02
领券