首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

腾讯 AI Lab 主任张潼博士:机器学习里的优化问题

AI 科技评论按:日前,在由上海财经大学交叉科学研究院(RIIS)主办,杉数科技有限公司协办的「现代运筹学发展讨论会」上,腾讯 AI Lab(腾讯人工智能实验室)主任张潼博士发表了精彩演说。...因为很多问题是以统计期望的形式表达,所以随机优化是大家比较感兴趣的研究方向。 随机优化在五六十年代就出现了,它属于传统优化的范畴。...此外,在加速问题上,还有一个我个人比较感兴趣的研究问题。加速本身是确定性的,在随机优化上用起来不是很好。...非凸优化其实除了解决深度神经网络中的问题,还能解决别的一些问题,不过大家可能比较关心的就是深度神经网络问题。...虽然机器学习领域的问题比较窄,很多传统优化问题都不属于机器学习的研究范畴,但就像我前面说的,这里面也有很多有意思的问题,它们和优化紧密相连 。

96790

笔记 Lab8: Locks | 锁优化

这是我自学 MIT6.S081 操作系统课程的 lab 代码笔记第八篇:Locks。此 lab 大致耗时:14小时。...Lab 8: Locks 重新设计代码以降低锁竞争,提高多核机器上系统的并行性。...如果一个大锁并不会引起明显的性能问题,有时候大锁就足够了。只有在万分确定性能热点是在该锁的时候才进行优化,「过早优化是万恶之源」。 这里解决性能热点的思路是「将共享资源变为不共享资源」。...锁竞争优化一般有几个思路: 只在必须共享的时候共享(对应为将资源从 CPU 共享拆分为每个 CPU 独立) 必须共享时,尽量减少在关键区中停留的时间(对应“大锁化小锁”,降低锁的粒度) 该 lab 的实验目标...但是这样的方案又会带来新的问题

87610
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    CSAPP lab

    CSAPP学习过程 这篇文章主要记录CSAPP书和lab的学习过程,具体某个lab的踩坑过程会分别附单独链接,本文主要是记录漫长的学习过程以及方便想学但是尚未开始学习的同学参考,以下是github的lab...image.png Todo Bilibili翻译课程 lecture 1-4 搭建实验环境 Data lab Bilibili翻译课程 lecture 5-9 Bomb lab Attack...lab 前置材料 一本CSAPP CSAPP的bilibili翻译课程 实验材料 参考经验贴1 参考经验贴2 我想做些什么 开设这个仓库是想记录我做CSAPP的lab的过程,也顺便将踩坑过程分享,帮助后人少走弯路...学习过程(以Lab为单位总结) 简单查阅别的学习经验后,大多数人的分享都说看书再多遍也不如做lab学到的多,lab是课程的精髓,我已经粗略的学过编译原理,计算机组成原理和操作系统,所以我会比较快速的过一遍网课然后开始...lab,目标3个月完成大多数的lab(也许有一些实在不感兴趣的lab会跳过) Timeline 2022-03-30 完成Datalab 2022-03-28 完成实验环境搭建 2022-03-27 完成

    1K10

    mysql 问题优化

    并发事务的问题? 脏读(Dirty read): 当一个事务正在访问数据并且对数据进行了修改,而这种修改还没有提交到数据库中,这时另外一个事务也访问了这个数据,然后使用了这个数据。...Next-key lock:record+gap 锁定一个范围,包含记录本身 innodb对于行的查询使用next-key lock Next-locking keying为了解决Phantom Problem幻读问题...当查询的索引含有唯一属性时,将next-key lock降级为record key Gap锁设计的目的是为了阻止多个事务将记录插入到同一范围内,而这会导致幻读问题的产生 有两种方式显式关闭gap锁:(...123%',(如果无前置%,只有后置%,是可以用到列上的索引的) 在定义联合索引时,如果 a 列要用到范围查找的话,就要把 a 列放到联合索引的右侧,使用 left join 或 not exists 来优化

    58310

    日常问题: SQL优化

    IDX_SERIAL_NUMBER_3 key_len: 259 ref: const rows: 45864 filtered: 0.95 Extra: Using where 表总数量: 13658763 or的优化技巧之一就是拆成...优化为union all explain select * from serial_number_store sn where company_code = '9311046897...但作为线上问题的处理,你得分析为啥以前没事,现在出问题了。 查询对应的链路追踪情况: 和猜测一致,短时间内批量查询。几乎每条sql2s多耗时。虽然是后台任务,但数据量太大导致cpu 100%....那问题来了,如果改完要测的话,业务场景该怎么测?一时犹豫了,要不要再花额外的时间去搞回归测试,验证。 和运维小哥说,反正是个后台任务,先不改吧。运维看没影响到业务(没人投诉)也就不管了。...这种在设计之初就应该做好优化设计而不是出了问题再改,但当接手古老系统的时候,开发可能换了一波又一波了,这时候除了吐槽之外,只能填坑。

    42710

    优化问题综述

    超 长 预 警 ▽▽▽ 1 优化问题分类 优化问题一般可分为两大类:无约束优化问题和约束优化问题,约束优化问题又可分为含等式约束优化问题和含不等式约束优化问题。...无约束优化问题 含等式约束的优化问题 含不等式约束的优化问题 ?...2 求解策略 针对以上三种情形,各有不同的处理策略: 无约束的优化问题:可直接对其求导,并使其为0,这样便能得到最终的最优解; 含等式约束的优化问题:主要通过拉格朗日乘数法将含等式约束的优化问题转换成为无约束优化问题求解...坐标轮换法主要用来解决优化问题设计变量数目小于10的小规模无约束优化问题;另外,坐标轮换法还可解决目标函数的等值线为圆或平行于坐标轴的优化问题。...; Ø 复合形法具有程序实现简单等优点,但在解决设计变量和约束条件多的优化问题优化效率比较低; Ø 可行方向法是解决约束优化问题的有效方法之一,适合求解中等规模化问题,但存在程序实现复杂等不足;

    2.6K31

    多目标优化问题概述

    关键词:条件约束,折中最优解(解并非唯一是与单目标优化问题的本质区别) 文字描述: D个决策变量参数; N个目标函数; m+n个约束条件。 数学描述: ?...下图是多目标优化问题中最优解或非劣最优解的定义 ?...一般来说,多目标优化问题并不存在一个最优解,所有可能的解都称为非劣解,也称为Pareto解.传统优化技术一般每次能得到Pareto解集中的一个,而用遗传算法来求解,可以得到更多的Pareto解,甚至是整个的解都成为...不同算法在多目标优化中的应用 多目标优化问题不存在唯一的全局最优解。但仍然需要寻找到1个最终解。 有三类方法: 1.生成法:大量求非劣解,从中寻找最优解。 2.交互法:分析目标求出最优解。...3.将多目标问题转换为单目标问题求解。 原创文章非商业转载请注明出处,商业转载请联系。

    1.3K11

    骑士周游问题优化

    骑士周游问题 算法优化意义 算法是程序的灵魂,为什么有些程序可以在海量数据计算时,依然保 持高速计算? 编程中算法很多,比如八大排序算法(冒泡、选择、插入、快排、归并....经典算法面试题-骑士周游问题 马踏棋盘算法介绍 马踏棋盘算法也被称为骑士周游问题 将马随机放在国际象棋的8×8棋盘Board[0 ~7][0~7]的某个方格中,马按走棋规则(马走日字)进行移动。...game_code=403 会使用到图的遍历算法(DFS)+贪心算法优化 马踏棋盘问题(骑士周游问题)实际上是图的深度优先搜索(DFS)的应用。...先用基本方式来解决,然后使用贪心算法(greedyalgorithm)进行优化。解决马踏棋盘问题,体会到不同的算法对程序效率的影响。 使用前面的游戏来验证算法是否正确。...对代码使用贪心算法,进行优化,提高速度: 分析 我们现在走的下一个位置,是按照我们的顺时针来挑选位置,因此选择的这个点的下一个可以走的位置的个数是不确定的.

    26820

    优化问题及其分类

    优化技术是一种以数学为基础,用于求解各种工程问题优化解的应用技术。...归纳而言,最优化问题分为函数优化问题和组合优化问题两大类,其中函数优化的对象是一定区间的连续变量,而组合优化的对象则是解空间中的离散状态。...,受约束函数的优化问题也一直是优化领域关注的主要对象。...二、组合优化问题 组合优化问题通常可描述为:令 Ω={s1,s2,...,sn}Ω={s1,s2,......因此,解决这些问题的关键在于寻求有效的优化算法。 (3)优化算法及其分类 所谓优化算法,其实就是一种搜索过程或规则,它是基于某种思想和机制,通过一定的途径或规则来得到满足用户要求的问题的解。

    1.4K10

    二次型优化问题 - 1 - 问题描述

    在各种场景可能都会遇到需要求解多元二次函数极值的问题,本系列文章介绍相关的计算方法,核心内容为共轭梯度法。 本文介绍问题定义。...问题定义 多元二次多项式,维度为n,那么可以用以下公式描述该函数: f({x_1},{x_2},{x_3},…,{x_n}) = {a_{1,1}}x_1^2 + {a_{1,2}}{x_1}{x_2}...简要分析 当前问题其实就是多元二次方程极值求解的问题 此类函数在函数定义域内处处连续可导 极值点必然处于导数为0的位置 需要解决的问题 同一个多元二次方程表示成二次型的参数\bf{A},\bf{b},\...bf{c}是否唯一,如果不唯一该如何设置,为什么如此设置 该问题是否存在导数为0的点 导数为0的点如何求解 导数为0的点是否就是极值点 对于给定的二次型如何判断是否可优化 对于可优化的二次型都有什么方法寻找极值点

    34130

    扫码

    添加站长 进交流群

    领取专属 10元无门槛券

    手把手带您无忧上云

    扫码加入开发者社群

    热门标签

    领券