首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

优化算法——OWL-QN

二、OWL-QN算法的思想 1、L1正则的特点     对于带有L1正则的函数 ? 对于 ? ,若其符号确定后(即确定变量所在的象限(Orthant)),函数 ?...2、OWL-QN算法的思想    基于以上L1正则的特点,微软提出了OWL-QN(Orthant-Wise Limited-Memory Quasi-Newton)算法,该算法是基于L-BFGS算法的可用于求解...简单来讲,OWL-QN算法是指假定变量 ? 的象限确定的条件下使用L-BFGS算法来更新,同时,使得更新前后变量在同一个象限中(使用映射来满足条件)。...三、OWL-QN算法的具体过程 在OWL-QN算法中,为了使得更新前后的变量在同一个象限中,定义了一些特殊的函数,用于求解L1正则的问题。 1、伪梯度(pseudo-gradient) ?...的方式有很多种,前面也介绍了一些,在OWL-QN中,使用了一种backtracking line search的变种,具体如下:选择常数 ? ,对于 ? 使得 ? 满足: ? 4、算法流程 ?

1K10
您找到你想要的搜索结果了吗?
是的
没有找到
领券