首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

搜索场景下智能化演进之路

作为淘宝平台的基石,搜索也一直在打造适合电商平台的人工智能体系,而每年双11都是验证智能化进程的试金石。...搜索的智能化元素注入新一代电商搜索引擎的各个环节,通过批量日志下的offline离线建模,到nearline下增量数据的实时建模,解决了环境下的数据转移机器学习(Data Shift MachineLearning...第一次在双11场景下实现了大规模的实时计算影响双11当天的流量分配。 2014年双11当天,Pora系统首次经受了双11巨大流量的洗礼,系统运行可以说是一波三折。...2. 2015年双11,双链路实时体系大放异彩 2014年双11,实时技术在场景上实现了商品维度的特征实时,表现不俗。...实时模型能通过不断地拟合最近的线上数据解决这一问题。因此效果会较离线模型有较大提升,特别是在这种实时数据极为丰富的情况下。 问题2:为什么实现秒级的模型更新?

6.5K40

腾讯云与Elastic达成战略合作,携手推进云端大数实时搜索企业服务

5月22日,在腾讯举办的全球数字生态大会上,腾讯云与Elastic签署战略合作协议,将在产品、技术、生态三个维度展开合作,携手打造云端大数实时搜索的企业服务。...双方的战略合作将基于Elastic领先的大数搜索产品和腾讯云在云计算和大数据领域卓越的技术能力,结合腾讯云覆盖全行业的企业客户,进一步提高双方的市场竞争力和品牌影响力,促进彼此业务发展。...Elastic开发的托管型的产品,能让实时地使用数据来实现如应用搜索, 网站搜索, enterprise search, 开源日志管理, APM, metrics, security, business...应用于全文搜索、日志检索与分析、运营数据分析等场景,针对性的解决企业在高速增长中遇到的数据量庞大和类型复杂情况下实时查询和分析处理的挑战,,帮助全球用户加快在搜索相关应用场景的信息化建设,把握发展机遇。...在Elastic 的 产品和解决方案的基础上,双方还将进一步深化合作,加强技术交流,推动技术创新,共同探索前沿的大数搜索技术和产品,促进全行业发展和进步。

13.8K25841
您找到你想要的搜索结果了吗?
是的
没有找到

中通大数据平台在中的进化

一年一度的双十一又双叒叕来了,给技术人最好的礼物就是技术指南!...而经过这些年的发展,早已不仅仅局限于电商行业,现在各行各业其实都会采用类似方式做运营活动,汽车界有 818,电商有 618 、11.11 等等,各种各样的场景,对包括数据库在内的基础软件提出了很多新挑战...中通从离线到实时的数据兼容再到数仓,有着一套比较完善的大数据平台体系。...在这个完善的大数据平台基础上,中通开始更多地思考如何增强实时多维分析能力。 [在这里插入图片描述] 中通与 TiDB 的结缘是在 2017 年调研分库分表场景时开始的。...对于企业而言,除了支持业务创新,也是一次对自身技术架构的练兵和全链路演练。通过大的极致考验,企业的 IT 架构、组织流程、人才技能都获得了大幅提升。

4.7K40

“618”落下帷幕,我们守住了2.7亿张优惠券

2019年“618”告一段落。作为上半年规模最大的促销活动,各大电商平台给出了最大的优惠力度,成绩也都再创新高。 为保障顺利进行,腾讯云提前调度资源、组织驻场团队,提供了全方位的保障方案。...今年“618”期间,腾讯云新增的计算资源相比去年翻了一倍,整体的CDN和带宽峰值较去年也有明显提升。...过后,电商业务恢复到正常状态,不再需要额外的计算资源。腾讯云的弹性扩缩架构,可以将资源回收,让客户的成本更可控。 抗D 期间,腾讯的安全能力可以为电商平台提供铠甲。...通过腾讯云的大数据解决方案,电商平台可以更了解用户,实时推荐用户“可能喜欢”的产品。...通过用户的点击、浏览、搜索等信息,利用Spark Streaming等流式大数据工具, 实时处理分析用户行为, 并快速做出应用的变更与推荐。

5.5K30

2021年大数据Flink(四十):​​​​​​​Flink模拟双十一实时屏统计

目录 Flink模拟双十一实时屏统计 需求 数据 编码步骤: 1.env 2.source 3.transformation 4.使用上面聚合的结果,实现业务需求: 5.execute 参考代码 实现代码...(基于上面参考代码重新写一套) 实现效果 ---- Flink模拟双十一实时屏统计 需求 在大数据的实时处理中,实时屏展示已经成了一个很重要的展示项,比如最有名的双十一大屏实时销售总价展示。...除了这个,还有一些其他场景的应用,比如我们在我们的后台系统实时的展示我们网站当前的pv、uv等等,其实做法都是类似的。...今天我们就做一个最简单的模拟电商统计屏的小例子, 需求如下: 1.实时计算出当天零点截止到当前时间的销售总额 2.计算出各个分类的销售top3 3.每秒钟更新一次统计结果 数据 首先我们通过自定义source...模拟订单的生成,生成了一个Tuple2,第一个元素是分类,第二个元素表示这个分类下产生的订单金额,金额我们通过随机生成. /**  * 自定义数据源实时产生订单数据Tuple2  */

1.1K31

iCDO一周要闻:亚马逊CEO取代比尔•盖茨问鼎福布斯财富榜首;百度智能小程序月活破亿;谷歌成Safari默认搜索引擎

9月29日 大数实时分析技术公司“柏睿数据”获B+轮过亿元融资,东方嘉富领投 9月29日 谷歌成Safari默认搜索引擎:支付苹果90亿美元 9月29日 阿里、京东、一亩田等电商平台共同发起反欺诈反虚假宣传联盟...(信息来源: https://www.prnasia.com/story/224115-1.shtml) 9月27日 谷歌成立20年,未来搜索业务将经历三转变 9月27日消息,Silicon Valley...柏睿数据成立于 2014 年,是一家大数实时分析技术公司。...公司拥有自主研发的全内存分布式海量实时分析型数据库、流数据库与库内人工智能并行算法库技术,为政府、企业等不同用户提供大数实时分析技术和解决方案。...一直持续至11月15日,其中11月10日至12日三天为高潮期。 ?

87430

腾讯云11·11:千亿订单背后的安全“暗战”

作者:戴唯伟 前言 每年的电商,就像是一次次的系统检阅仪式,接受着来自用户、同行以及老板的审视。...海量并发弹性扩容 回顾近年来的电商,最具特色的便是抢购、秒杀活动了,而这也使得 Web 访问量可能瞬间陡增十倍甚至是数十倍,对接入层、逻辑层的按需、实时、快速平行扩展能力提出了较高的要求,如选用传统的硬件设备搭建集群...防护与腾讯安全大数据平台联动,实时更新防护策略库,有效防护新攻击手法。...腾讯云依托腾讯在电商、游戏、金融、泛娱乐、资讯及 3C 等多领域深厚的大数据技术积累,为客户提供基于海量用户画像 + 实时大数据机器学习的内容个性化推荐 PaaS 服务。 电商 + 直播。...写在最后 本文通过云端海量并发弹性扩容、AI 安全体系防御构建与实施、电商领域的创新应用三板块介绍了腾讯云如何在双十一电商的情境下,为电商平台提供可用、高效、完善的安全护航方案。

5.2K41

【资讯】Google Ventures 1.3亿美元领投Flatiron Health

WSJ报道,Google Ventures 领投了用大数据服务肿瘤医疗行业的创业公司Flatiron Health的 1.3 亿美元 B 轮融资,该轮的跟投者还有First Round Capital... Google Ventures 确认,这是他们迄今为止对医疗软件公司的最大一笔投资。...收购了Altos之后,Flatiron 将可以让医生在治疗病人能够实时地使用 Flatiron 的数据库,并可实时地增添、补充电子化的诊疗信息。...在投资 Flatiron 之前,Google Ventures 还投资过为基因信息提供分析、并使 DNA 信息可搜索的DNAnexus公司,以及用大数据工具分析肿瘤的Foundation Medicine...但这三笔投资的规模都未超过此次对 Flatiron 的投资,这也是 Google Ventures 第四规模的投资。

1.5K60

金融科技&大数据产品推荐:日志易—机器数据实时搜索分析引擎

日志易是强大、灵活的日志大数据分析工具,既提供云端的SaaS服务,也提供本地部署,企业可以利用它对日志进行集中管理和准实时搜索、分析、可视化和监控告警等 官网 | www.datayuan.cn 微信公众号...,既提供云端的SaaS服务,也提供本地部署,企业可以利用它对日志进行集中管理和准实时搜索、分析、可视化和监控告警等。...6、产品优势 灵活:可在搜索框里直接使用搜索处理语言SPL编写脚本,满足各类分析需求; 实时:日志从产生到分析结果出现,只有秒级延时; 海量:每天可集中处理TB级日志量; 多数据源:除常见日志源外,还支持文本及二进制格式数据...、搜索、分析、可视化系统研发的大数据公司,提供企业部署版软件和SaaS服务,及面向金融、运营商、电力、互联网等行业的日志分析解决方案。...公司荣获2014中国大数据技术大会“全国大数据创新项目”第一名,入选2015大数据生态系统百强(BigData100),2015年度中国软件和信息服务大数据领域最佳产品奖。

2.1K40

盘点2014年的IT四天王:云端、移动化、大数据与社交网络

综观三调查研究机构的预测,大家不约而同提及2014年的IT四天王:云端、移动化、大数据与社交网络,将带来更大的影响。 新的一年开始,我们来看大家是怎么预测2014年的IT发展趋势。...综观Gartner、IDC与资策会MIC等三调查研究机构的预测,大家不约而同提及2014年的IT四天王:云端、移动化、大数据与社交网络,将带来更大的影响。...Gartner认为,4天王之首──云端运算,经过几年发展下来逐渐成熟,进而带动移动化、社交网络与大数据的风行。...如此丰沛的资源,对许多人而言宛如金矿一般,蕴藏着各式机会,因而,如何从中挖掘金矿的迫切需求,也就促使大数据分析应用的蓬勃发展。 云端、移动化、社交网络与大数据这四天王,彼此是交互影响。...大数据──云端时代的杀手级应用,亦是建构在云端运算架构之上,才得以发挥快速处理、分析巨量数据的功用。也因为社交网络累积了大量数据,大数据才派得上用场。 IT四驱力充满机会,也带来百般挑战。

91790

40亿条秒!Flink流批一体在阿里双11首次落地的背后

除了 GMV 媒体屏之外,Flink 还支持了诸如搜索推荐实时机器学习,广告实时反作弊,菜鸟订单状态实时跟踪反馈,云服务器的实时攻击探测以及大量基础设施的监控报警等等重要业务。...阿里的数据报表分为实时和离线两种,前者在诸如双 11 场景下的作用尤为明显,可以为商家、运营以及管理层提供各种维度的实时数据信息,并帮助其及时作出决策,提升平台和业务效率。...例如:在典型的营销数据实时分析场景,运营和决策层需要对比大当天某个时间段和历史某个时间段的数据结果(比如当天 10 点的成交额和昨天 10 点成交额的对比),从而判断当前营销的效果,以及是否需要进行调控...经过团队一年的努力,基于 Flink 的搜索推荐实时计算平台成功的支持了2016 年的搜索双 11,保证了搜索推荐全链路实时化。...2018 年 Flink 开始走向云端,阿里云上推出了基于 Flink 的实时计算产品,旨在为广大中小企业提供云计算服务。

2.2K20

大数据助力证监会稽查“老鼠仓”

“我们的大数据监管现在其实做得很好,都快赶上淘宝的大数据了,能够瞬间比对出账户关系,交易偏好和逻辑,是个"神器"。”一位接近交易所人士对记者指出。 ‍...21世纪经济报道记者了解,此前被披露的一系列涉嫌老鼠仓案件调查,其线索来源正是来自于交易所日常监控下的大数据分析。...上交所异动指标分为4类72项,敏感信息分为3级共11类154项;深交所建立了9报警指标体系,合计204个具体项目。   ...21世纪经济报道记者了解,交易所对“老鼠仓”等交易行为建立了专项核查和定期报告制度,目前交易所已建立实时监控机制,专项核查机制,联动监控机制,智能化监控机制四位一体的监控体系。   ...这不仅仅是证监会机关在走向“云端”,交易所的一线监管也在不断升级大数据系统,这其中还有很多他山之石与新生情况。   比如互联网传播带来的新挑战。

1.4K60

程序员春运抢票的正确姿势!

12 月 20 日,360 浏览器在北京正式发布了《2019 年春运大数据预测报告》,基于 360 安全大脑感知、推理、预测、决策、学习五能力的赋能及历年抢票数据和今年网民搜索趋势,对今年春运的新动向做出预测...另外广东省发改委透露,预计到 2020 年广东 21 个地市将全部通达高快速铁路。未来,有“春运第一省”之称的广东或将减少一些春运压力。...今年 7 月猎聘发布的《2018 中国重点城市工程师大数据与调研报告》显示,在全国重点城市互联网工程师净流入分布方面,杭州以 12.46% 的占比领先于其他城市。...同时,云端管理功能还可以实时查询预售票、余票以及退票,即便用户关掉电脑后台也能自动抢票。...同时安全大脑也可为抢票进行智能推荐,其经由对历史抢票数据的清洗与迭代训练,形成了对用户、车次、站点的特征分析,再结合当前抢票、搜索实时数据,经过深度模型完成了对用户与车次的在线推荐。

1.4K20

14 天上线,服务 1 亿用户:云开发高并发架构支撑四川天府健康通

云函数+云开发+微搭,探索更多应用场景 除了健康码之外,即将到来的双11 等场景,也有类似的痛点和需求。...对于研发团队而言,经常面临如下困扰: 开发周期短、业务定制化程度搞; 服务器资源的估算、准备和管理; 压测流程繁琐、压力承载不足; ( 云开发+云函数+微搭,弹性算力,平稳支撑活动 ) 方案优势...更低成本 活动专属资源包服务配置,用完即停,降低核心服务资源投入。...云函数+云开发+微搭,营销云端一站式方案咨询 识别 / 扫描下方二维码,提交信息,我们将在 1-3 个工作日内与您联系,沟通了解更多业务场景信息,为您提供更加匹配适合的套餐方案。...GitHub: github.com/serverless 官网: cloud.tencent.com/product/serverless-catalog 点击「阅读原文」,咨询了解更多「营销云端一站式解决方案

4.2K20

GAN、云原生、分布式系统、自动驾驶…哪些技术撑起今年618?

比如带深度学习的推荐系统会根据一个搜索词,将相同「隐含特征」商品排布在你眼前。分析、计算、调用、呈现在一两秒内就会完成。...商家们无需懂编代码、无需钻研运营也能在潮涌中收下一网网订单。 再看新消费领域。 越来越多创新企业洞察到消费者口味审美变化,依靠前沿物流、产品研发生产模式,推出更贴合用户需求的产品。...工作中很多事就是这样,看似很小,也不产出价值,但一旦卡住去极其让人恼火—— 尤其从早忙到晚的618活动期间,谁遇谁崩溃。...618前,有大批商家服务白皮书,即学即用的指南需要准备,甚至有客户618凌晨突然卖断货,临时寻求支持,公司团队立即出发高效解决客户突发状况—— 当然,赶在服务团队们临出门前,分分钟间打出资料,就是当时当刻的对高效的刚需...期间他们需要保证仓储物流的极速和精准,专业的服务配合着靠谱的产品,以顺畅、稳定的工作状态,帮助电商及第三方物流公司既快又准地完成货物的分拣、拣选、搬运,助力后者创造“24小时内送达”等成功记录。

66930

机器学习&人工智能:数据赋能背后的黑科技

逍遥子也曾经讲过:“我们用大数据赋能了双11,赋能了我们自己的运营能力。...客户运营平台提供了“访客运营”和“会员粉丝运营”两利器,借助大数据和人工智能技术,帮助商家提升客户运营的效率。...下图是AI分群引擎架构图: AI实时分群的三特点如下: 1....双11店铺承接页个性化技术 今年双11阿里巴巴首次实现了全面的全站个性化,包括从会场到承接页到店铺再到详情,而店铺承接页是连接会场与店铺的桥梁,承接页的整体活动氛围和布局由平台确定,商家可以通过页面装修工具来装修商品模块...2016年双11承接页首次实现了全面的个性化,实现了显著的成交转化提升。 承接页个性化属于单个店铺内的个性化,相比于平台级的个性化场景(例如手机淘宝猜你喜欢、有好货等),具有一些特有的挑战。

2K60

2021年大数据Spark(五十):Structured Streaming 案例一实时数据ETL架构

---- 案例一 实时数据ETL架构      在实际实时流式项目中,无论使用Storm、SparkStreaming、Flink及Structured Streaming处理流式数据时,往往先从Kafka...消费原始的流式数据,经过ETL后将其存储到Kafka Topic中,以便其他业务相关应用消费数据,实时处理分析,技术架构流程图如下所示:      接下来模拟产生运营商基站数据,实时发送到Kafka...中,使用StructuredStreaming消费,经过ETL(获取通话状态为success数据)后,写入Kafka中,便于其他实时应用消费处理分析。 ​​​​​​​...org.apache.kafka.common.serialization.StringSerializer import scala.util.Random /**  * 模拟产生基站日志数据,实时发送...ETL 编写代码实时从Kafka的【stationTopic】消费数据,经过处理分析后,存储至Kafka的【etlTopic】,其中需要设置检查点目录,保证应用一次且仅一次的语义。

62530

腾讯曹栋清:WeMap将助力共建时空融合的未来城市

12月1日,腾讯全球数字生态大会西安城市峰会召开,大会将以“数字未来,产业共进”为主题,围绕数字新经济、产业新格局、云端新生态三核心议题展开。...通过对城市基础刻画和时空推演融合,将城市多维数据进行统一治理,为未来城市建设提供云端大脑和数据底座。 ? 曹栋清介绍,未来城市是全域融合的,将实现从公共服务的数字化向经济社会的全面数字化升级。...支撑WeMap四特征的,是腾讯LBS、AI、5G、云和大数据等领先技术和“1+1+3”的产品能力矩阵。...曹栋清介绍,WeMap由五产品构成,包括数据工厂Data ,数据管理平台Base, 和三服务平台 (智能分析平台AI, 可视化平台 Vis和产业地图服务平台Services)。...底层的数据工厂Data 和数据管理平台Base构筑了强大的底座,可以构建实时鲜活的地图数据和统一处理,更精细地实现对城市的刻画;在这个底座之上,三服务平台可基于海量大数据进行智能分析,提供可视化的服务和应用服务

70120
领券