首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Meta 的无服务器平台是如何做到每天处理数万亿次函数调用的

Meta 的无服务器平台 XFaaS“每天要处理来自数十个数据中心区域的 10 万多台服务器上的数万亿次函数调用。”...有趣的数据和结论 本文的一个重点是可以通过软件来优化硬件利用率,从而提高无服务器的性能。...Meta 认识到,无服务器函数的启动开销存在浪费,因此,他们希望通过模拟一个通用 worker 来消除这种浪费,即任何 worker 都可以立即执行任何函数而无需启动开销。...XFaaS 仅用于非面向用户的函数。无服务器函数的延迟变化幅度比较大,无法提供稳定的面向用户的函数。 XFaaS 客户端提交的函数调用请求存在很大的波动。峰值需求是非峰值需求的 4.3 倍还多。...Meta 向我们详细介绍了他们的无服务器平台,并为想要优化无服务器函数使用方法的开发人员和公司提供了可供借鉴的经验教训。阅读完整论文,请点击这里(可能需要机构访问权限才能免费阅读)。

33910
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    SDCC 2015算法专场札记:知名互联网公司的算法实践

    由以HDFS作为基础存储平台的离线挖掘系统、用户行为实时收集并处理的近线系统及在线推荐服务构成,推荐平台提供了K近邻、矩阵分解、图模型等常见的推荐模型。...TalkingData首席数据科学家张夏天在讲座中重点根据自身经验讲解了使用哈希函数确定特征的方式来对随机决策树及随机决策哈希函数算法进行高速并行改造,来快速提升算法效率。 ?...图3 算法比较 阿里巴巴搜索事业部算法专家严强:个性化算法IN双11 2015年双11天猫成交量高达912亿,移动端占比68.67%,其中各个平台的个性化推荐功能对于促进成交量起了非常重要的作用。...eTREC是一个通用的协同过滤开发框架,封装了基于用户和基于商品的KNN算法以及基于内容的推荐算法,并对相似性计算等常用计算函数做了抽象,这使得该框架既具有快速开发推荐算法的优势,比如可以一行代码实现协同过滤算法...Olive是一个融合了实时流计算和在线学习的近实时机器学习系统,采用了典型的参数服务器架构,与MPI方案比,Olive无论在计算资源的节省方面还是训练速度方面都有大幅提升。 ?

    1.5K60

    越来越火的Serverless(无服务器计算),到底是个啥?

    从字面上理解,就是“无服务器”。 行业通常所说的Serverless,主要是指“无服务器计算(Serverless Computing)”。...事实上,Serverless所谓的“无服务器计算”,并不是真的不需要服务器,而是说,对于用户,服务器变得“不可见”了(或者说“无感知”了)。 越说越玄乎了,有木有?...只不过,服务器部署、runtime安装、编译等工作,都由Serverless计算平台负责完成了。对开发人员来说,只需要维护源代码和Serverless执行环境的相关配置即可。这就叫“无服务器计算”。...█ Serverless的落地案例 接下来,我们不妨通过几个案例,详细看看阿里云Serverless平台究竟是如何提升算力效率的。 阿里巴巴每年的双11促销,是行业公认的算力极限挑战。...今年天猫双 11,阿里云Serverless支撑业务场景更多,范围更广。

    6.1K31

    腾讯云总监手把手教你,如何成为 AI 工程师?

    实际上,虽然目前人工智能在语音识别,图片识别近年来取得了突破,但人工智能还远未完善: 数学理论尚不完备,“智能”的取得建立在大量的人工前期工作基础上,缺乏无监督学习。 2....激活函数常用的有:sigmoid,ReLU等,比如 典型的sigmoid函数 多个神经元分层组织起来构成了一个网络,早期神经元网络仅能做到浅层,在训练方法和计算能力获得突破后,深层神经网络DNN...真实的计算过程: 上图是三维卷积的展示,对于第一层来说卷积核是11x11x3,在输入立方体227x227x3上进行滑动,对应图表 2中的k=11,N=227,D=3.卷积算法就是卷积核11x11x3...GPU云服务器拥有高达6144个加速核心、单机峰值计算能力突破14T Flops单精度浮点运算,0.4T Flops 双精度浮点运算。...1)硬件平台 腾讯云即将发布基于 Intel 和 Xilinx 的单机4卡 FPGA 云服务器,推出多种规格的 FPGA 实例供您选择。

    17.1K50

    专访 | 阿里搜索事业部研究员徐盈辉:剖析阿里背后的强化学习技术

    在双 11 推荐场景中,阿里巴巴使用了深度强化学习与自适应在线学习,通过持续机器学习和模型优化建立决策引擎,对海量用户行为以及百亿级商品特征进行实时分析,帮助每一个用户迅速发现宝贝,提高人和商品的配对效率...2014 年双 11 通过排序特征实时,引入商品实时转化率,实时售罄率模型进入搜索 match 和 rank,让售罄商品额无效曝光大幅减少,并实现了成交转化的大幅提升;2015 年双 11 推出双链路实时计算体系...,和基于强化学习的排序策略决策模型,从而使得淘宝搜索的智能化进化至新的高度,并在今年的双 11,分桶测试效果表明,成交金额取得了近 20% 的大幅提升。...徐盈辉:运用机器学习技术来提升搜索/推荐平台的流量投放效率是目前各大互联网公司的主流技术路线,并仍在随着计算力和数据的规模增长,持续的优化和深入。...这个端到端的大规模在线深度强化学习任务在 2016 年双 11 上,共处理日志量近 200 亿,处理消息量超三千亿,流式计算平台处理峰值超千万 QPS(笔者注:每秒查询率),实现 24 小时不间断无延迟运转

    2.5K110

    搜索,大促场景下智能化演进之路

    作为淘宝平台的基石,搜索也一直在打造适合电商平台的人工智能体系,而每年双11大促都是验证智能化进程的试金石。...演进的背景 运用机器学习技术来提升搜索/推荐平台的流量投放效率是目前各大互联网公司的主流技术路线,并仍然随着计算力和数据的规模增长,持续地优化和深入。...,并将计算结果实时更新同步给主搜、商城、店铺内引擎、天猫推荐平台、流量直播间等下游业务。...第一次在双11大促场景下实现了大规模的实时计算影响双11当天的流量分配。 2014年双11当天,Pora系统首次经受了双11巨大流量的洗礼,系统运行可以说是一波三折。...2016年双11,实时计算引擎从istream时代平稳升级到blink/flink时代,实现24小时不间断、无延迟运转,机器学习任务从几个扩大到上百个job。

    6.5K40

    谁顶住双11的世界级流量洪峰?神龙架构负责人等9位大牛现场拆解阿里秘籍

    自研数据库POLARDB和OceanBase分别处理8700万、6100万笔/秒峰值请求、实时计算处理峰值每秒25.5亿笔、计算平台单日处理970PB数据、12亿笔物流智能化等……2019年双11期间,...核心交易系统100%迁移到云,第三代神龙服务器定义IT行业新的计算范式 双11一个个闪亮的数字的背后有一个比较重要的事情,那就是今年阿里把核心交易系统100%迁移到阿里的公共云上,这是史无前例的、世界级的挑战...阿里云智能计算平台事业部研究员关涛(观涛)表示,双十一的挑战从商务角度看是商品和消费者最优化匹配的问题,往下则是大数据和AI能力的挑战, 从数据来看,今年双11数据量达到970 PB,这大概是一个什么量级...在双11中,阿里使用了全自研的一整套平台,平台包括超过10万台规模服务器集群,10+数据中心、10EB级别存储、每天千万级别的大数据和AI计算作业。...据统计,去年2018年双十一的时候,这样的实时推荐给商家的智能决策,90%都会被商家采用。

    10.7K10

    《阿里测试之道》第二章笔记

    2.1 大促全链路的风险和挑战 2.1.1 全球最大洪峰下的高可用挑战 2019年双11零点交易峰值是2009年的1360倍 2018年收货地址不可修改 2.1.2纷繁复杂的用户场景 2.1.3 无处不在的用户体验...地址敏感信息在线上不存在 商品ID、用户ID核心数据偏移到其他数据空间 真实 海量 准备成本低 3影子数据的使用 充足的“炸弹” 2.3.2 全链路大促销用例精简(RBC) 3000万->40万 1“双11...核心应用场景 1 热点商品的TAIR(阿里内部的缓存中间件)预热 2 数据库预热 3 本地缓存预热 4 本地缓存预热——GCIH预热 5 大促预热活动编排调度 6 其他应用 2.7 快速缩/扩容 2018年双11...,又被称为函数即服务(Function-as-a-Service,缩写为 FaaS),是云计算的一种模型。...以平台即服务(PaaS)为基础,无服务器运算提供一个微型的架构,终端客户不需要部署、配置或管理服务器服务,代码运行所需要的服务器服务皆由云端平台来提供。

    2.8K40

    机器学习&人工智能:数据赋能背后的黑科技

    逍遥子也曾经讲过:“我们用大数据赋能了双11,赋能了我们自己的运营能力。...我们将之前平台沉淀的数据和算法的能力转过来赋能我们为商家提供的工具和平台,这其中包括客户运营平台、千牛、服务市场等等。很多技术在今年的双11也起到了非常显著的作用,为商家带来实实在在的收益。...2016年双11,超过23万商家通过客户运营平台实现了店铺的个性化运营和粉丝会员的精准营销,显著提升了成交转化。下面以访客运营为例,介绍AI分群引擎的应用。...双11大促店铺承接页个性化技术 今年双11阿里巴巴首次实现了全面的全站个性化,包括从会场到大促承接页到店铺再到详情,而大促店铺承接页是连接会场与店铺的桥梁,大促承接页的整体活动氛围和布局由平台确定,商家可以通过页面装修工具来装修商品模块...千牛头条双11和热门频道 目前个性化算法支持了热门feeds流、双11频道,后续会支持更多的频道和场景。

    2K60

    C++ 网络编程初学者的开源项目 | 码云周刊第 41 期

    码云项目推荐 互联网的兴起,让网络程序有了长足的发展,让我们可以通过网络编程在程序中实现计算机的通信。...举个例子,当你使用浏览器访问码云时,你的计算机就和码云的某台服务器通过互联网连接起来了,然后,码云的服务器把网页内容作为数据通过互联网传输到你的电脑上。...当然,对于 C++ 网络编程的初学者,小编推荐下面6个还算不错的开源项目,希望大家能够有所收获哦 :-) / 01 / 项目名称:基于C++11 的高性能网络服务器 evpp 项目简介: evpp 是一个基于...+11 的 functional/bind 形式的回调仿函数(不是 libevent 中的C风格的函数指针) CPU 多核友好和线程安全 非阻塞纯异步多线程 TCP 服务器/客户端 非阻塞纯异步多线程...主要的特点 跨平台:同时支持 Linux32/64、OSX64 两个平台,支持 C++11及以上; 易开发:同步的方式编写代码,支持类Mina的filter过滤链、简单而不失强大; 高性能:可同时处理海量连接

    4.1K60

    沃尔玛腾讯云 Serverless 应用实践,全力保障消费者购物体验

    难点2:保障用户最佳体验 版本升级的基本要求是:对用户无感知,在升级过程中应用的无损发布。...电商大促等波峰波谷型业务 每年双 11、618 等电商大促期间,零售行业线上渠道面临历史级别的流量挑战,中大型电商平台的峰值调用量可达上千万/分钟,面临高于日常 10-20 倍的流量压力。...实时扩缩容 基于函数请求实时计算的模式,动态的扩缩函数实例,优化函数冷启动的体验问题,以及控制函数计算的资源成本 。 预置并发 在秒杀、抢购等场景中,瞬间需要海量的计算资源。...相较于自建转码服务器,云函数 SCF 无需考虑转码服务器闲置时间的利用效率、以及服务器运维等问题。 ?...—— Jason Wang ,沃尔玛中国 技术总监 ---- 推荐阅读 ? ? ?

    1.2K30

    Flink流批一体在阿里双11首次落地的背后

    随着 11 月 11 日 12 点钟声的敲响,2020 年双 11 的 GMV 数字定格在了 4982 亿,在 Flink 实时计算技术的驱动下全程保持了丝般顺滑滚动,基于 Flink 的阿里巴巴实时计算平台也圆满完成了今年双...除了 GMV 媒体大屏之外,Flink 还支持了诸如搜索推荐实时机器学习,广告实时反作弊,菜鸟订单状态实时跟踪反馈,云服务器的实时攻击探测以及大量基础设施的监控报警等等重要业务。...鉴于 Flink 流批一体计算技术的不断成熟,以及前期在搜索推荐场景的成功落地,今年双 11 数据平台开发团队也展示出坚定的信心和信任,与 Flink 实时计算团队并肩作战,共同推动实时计算平台技术升级...今年由 Flink 团队和数据平台团队共同推动的流批一体计算框架在双 11 数据核心场景成功首秀,也得到了阿里数据中台负责人朋新宇在业务层的认可:流批一体在技术上,实现了哪怕是多个计算处理模式,也只需要撰写一套代码就能兼容...经过团队一年的努力,基于 Flink 的搜索推荐实时计算平台成功的支持了2016 年的搜索双 11,保证了搜索推荐全链路实时化。

    2.3K20

    每周云安全资讯-2022年第9周

    /mp.weixin.qq.com/s/iaGBNoi-7oKR5voEj07yPw 7 海豚调度在 Kubernetes 体系中的技术实战 海豚调度是当前非常优秀的分布式易扩展的可视化工作流任务调度平台...utm_source=rss&utm_medium=article 8 为什么选择无服务器模型 无服务器计算是一种执行模型,其中云服务提供商将资源动态分配给负责执行的部分代码https://www.infoq.cn...www.netspi.com/blog/technical/cloud-penetration-testing/extract-credentials-from-azure-kubernetes-service/ 11...随着 2021 年 12 月Kubernetes 1.23的发布,双协议栈已在转为GA版本中提供https://www.infoq.cn/article/u3SRjBX5drjOlgevDxRE?...在本文中,我们将为读者详细介绍攻击者是如何利用AWS Lambda函数漏洞实现初始访问的https://www.4hou.com/posts/PWqA 19 CRT:一款针对Azure的CrowdStrike

    98280

    hhdb数据库介绍(6)

    集群环境推荐 说明集群环境要求包含服务器硬件配置、操作系统、软件部署、软件配置四个方面。...内存 内存 1个计算节点≥30G 1个管理平台≥2G 1个配置库实例≥3G 一个存储节点实例≥60G 1个LVS实例≥6G(仅限多节点负载均衡模式) 操作系统≥1G 所有的服务器要求...≥100G 1个管理平台≥10G 1个配置库实例≥100G 一个存储节点实例≥1000G 操作系统≥60G 服务器(除多节点负载均衡模式的LVS服务器)磁盘空间要求:总磁盘空间大于已安装程序所需磁盘空间...="0%" | | 服务器属性 服务器非虚拟机 服务器:执行命令:dmesg | grep "Hypervisor detected" 命令执行无报错且无输出...其他服务器与管理平台服务器时间差异小于

    8410

    得物端智能视频封面推荐

    与云计算模型相比,端智能将计算、存储和分析功能移到更接近数据源的地方,优势如下:低延迟 :数据在本地处理,减少了传输到远程服务器的时间,提高响应速度。...二、内容理解算法算法调研端智能封面推荐场景要求无参图片质量评价(NR-IQA)、轻量化,因此基于目前的前沿进展进行调研和摸底,确定相关实现方案。...核心是使用优化版本的Transformer->Swin-Transformer来减少网络计算,加速效率。UNIQA3:统一的图像质量评估(IQA)框架,旨在同时处理全参考(FR)和无参考(NR)任务。...端智能输出一个评分,获取评分最高的图片作为推荐的封面。为了提高封面识别速度,采用批量异步计算。时序图整体架构如图所示,双端共用端智能基建,各自实现具体的业务逻辑。...智能封面非智能封面竞品效果对比得物智能封面与主流短视频平台对比结果如下,整体选帧效果和主流短视频平台可比,部分场景效果较优。

    10910

    案例 | 沃尔玛 x 腾讯云 Serverless 应用实践,全力保障消费者购物体验

    难点2:保障用户最佳体验 版本升级的基本要求是:对用户无感知,在升级过程中应用的无损发布。...电商大促等波峰波谷型业务 每年双 11、618 等电商大促期间,零售行业线上渠道面临历史级别的流量挑战,中大型电商平台的峰值调用量可达上千万/分钟,面临高于日常 10-20 倍的流量压力。...实时扩缩容 基于函数请求实时计算的模式,动态的扩缩函数实例,优化函数冷启动的体验问题,以及控制函数计算的资源成本 。 预置并发 在秒杀、抢购等场景中,瞬间需要海量的计算资源。...相较于自建转码服务器,云函数 SCF 无需考虑转码服务器闲置时间的利用效率、以及服务器运维等问题。 ?...往期精选推荐   ?

    92341

    Lucid宣布将其计算机视觉平台整合到各种智能设备中

    Lucid在上海移动世界大会上宣布,它正在与设备制造商合作,将其计算机视觉平台集成到双摄像头手机,无人驾驶飞机,笔记本电脑和安全摄像头中。...Lucid首席执行官韩进在一份声明中表示:“我们认为这是独一无二的机会,我们的技术与行业加速同步,因为双摄像头进入了更多的设备。...随着芯片和服务器开始接近我们大脑的处理能力,我们只能通过软件模拟这种智能,在双摄像头上使用人工智能和数据。”...Lucid独特的3D Fusion计算机平台依靠两个相隔一定距离的相机镜头,并结合机器学习和历史数据实时测量深度。这使手势控制,增强和虚拟现实对象跟踪等功能以及高质量智能手机人像照片成为可能。...通过添加第二台相机拍摄的深度信息是将设备从推荐您类似的服装分离出来,以便了解更多信息,如精确的尺寸,形状,样式,适合度和质地等。这为消费者带来了更大的好处,因此属于比LucidCam更多的产品。”

    64640

    云开发与电商的融合实践

    云开发助力电商平台稳定性和功能迭代其实我们团队刚开始,先从小程序进行优化的,什么服务器统统进行升级,再把框架优化到了MPVue,后期继续优化团队尝试了很多种方案,到目前为止使用的是跨平台的开发框架:Uniapp...例如,某知名社交平台通过引入腾讯云云开发,利用云数据库与云函数的配合,实现了高并发环境下的稳定运行,并借助云模板快速迭代新功能,显著提高了用户留存率。...云开发提升电商用户体验和转化率其次我们考虑了用户的感受,要真正提升用户的体验,在双11这种高峰期,会不会超时,影响用户体验,最终实践云开发还是不错的。在零售电商领域,云开发技术的应用背景尤为突出。...电商平台需要处理高峰期的订单和支付请求,同时依赖数据分析和AI技术提供个性化推荐,以提升用户转化率。...例如,在央视晚会的电商大促中,某快消品品牌通过云函数和云开发的小程序应用,成功应对了瞬间并发最高每分钟数百万请求的挑战,整个云函数计算资源的使用费用仅几万元,保障了活动的顺利进行。

    9510
    领券