4月20日,京东大数据来到了北京大学光华管理学院,这次由京东大数据部平台运营管理负责人葛胜利老师给北大光华管理学院的师生们带来主题为“电子商务大数据平台技术架构与产品架构”的专题讲座,为大家讲述京东大数据平台如何在短短几年的时间里突破技术难关,实现产品创新,建设高效、安全、稳定的大数据平台,并以数据支撑京东的快速发展。 讲座中,葛胜利从京东大数据平台的“使命、架构、产品、运营”四大方面出发,全面的剖析了其中的奥秘。 在讲到平台使命时,胜利总提到,大数据平台在京东集团中的战略地位很重要,因为京东的公司运营是由
后web2.0时代,互联网、物联网每天都在生产大量数据,人们对于这些庞大数据资源的价值渴求,使得“大数据”的概念得以问世。如果说“数据”是支撑未来核心技术的基础“原材料”,那么“大数据”正在演变成一种战略资源,当“用户需求导向”成为企业共识,大数据的收集、挖掘和分析开始支撑企业的业务运转、营销策略乃至战略方向,数据成为企业愈加珍视的宝贵资产。 目前,建设有大数据平台的企业不在少数,对比传统数据库,大数据平台数据大量集中,且蕴含更高价值,其安全建设要求明显更高。然而,由于大数据平台使用非结构化数据库类型,以及
在大数据的发展当中,对相关专业人才的需求是在持续增长的,包括大数据开发、数据分析挖掘等不同的数据处理环节,都形成了相应的岗位体系,大家各自负责不同的环节,共同完成大数据处理任务。今天我们主要来讲讲大数据开发就业,了解大数据开发有哪些岗位?
在业务增涨过程中,每个企业不知不觉积累积累了一些数据。无论数据是多是少,企业都希望让“数据说话”,通过对数据的采集、存储、分析、计算最终提供对业务有价值信息。
今天我们来看一下淘宝、美团和滴滴的大数据平台,一方面进一步学习大厂大数据平台的架构,另一方面也学习大厂的工程师如何画架构图。通过大厂的这些架构图,你就会发现,不但这些知名大厂的大数据平台设计方案大同小异,架构图的画法也有套路可以寻觅。
金融科技&大数据产品推荐:BIGDAF——专业的Hadoop大数据安全防火墙
数据服务业务是未来趋势,荣之联刚刚发布的大数据平台DataZoo有啥亮点?
近期,由大数据产业生态联盟发起的“第十三期优秀大数据产品、解决方案和应用案例”测评结果发布,广域铭岛天满大数据平台和Geega天满大数据解决方案分别入围。
近日,工信部指导下的数据中心联盟公布第五批大数据产品评测结果,通过评测的产品包括16家大数据供应商的17款大数据产品,覆盖一线云厂商和传统大数据平台供应商。腾讯云大数据平台在SQL、NoSQL和机器学习三方面取得优异成绩,其中NoSQL测试成绩在17款产品中排名第2名。腾讯云大数据平台源自亿万级数据资产,在数据接入、数据处理、数据存储、数据分析等方面积累了丰富的实战经验。
10月18日,星环科技正式登陆科创板,成为国产大数据基础软件第一股。这一事件不仅代表了星环科技这家公司取得的阶段性成就,也标志着在当前数字化转型以及信创建设持续推进的背景下,国产大数据基础软件已驶入了发展的快车道。
这个从上至下都在强调数字化转型的时代,越来越多公司重视数据,也越来越多的企业有数据建设的需求。
*本文原创作者:mcvoodoo,本文属FreeBuf原创奖励计划,转载请联系help@freebuf.com 随着大数据的发展,从银行到P2P再到保险、证券等,越来越多的金融企业开始建设自己的大数据平台。传统上对于数据的管理,金融界是有经验的。 但在当前以Hadoop为基础的大数据平台,接触数据的人更多,数据使用的更频繁,数据的内外交互实时,数据种类更复杂,对安全带来了更严峻的挑战。 从金融业态上来说,包括征信、消费金融、P2P、众筹、互联网银行、互联网保险等金融企业,都会需要大数据平台来支撑业务需要。
现代商业竞争已经从渠道、资源向系统整体效率倾斜,而效率的竞争很大程度上来自于数据能力的支撑。 当我们从数据平台方的视角出发会发现演进路上存在着诸多挑战,比如: 1. 数据领域的生态非常庞大,针对不同场景在资源、数据规模、时效的权衡下会衍生出不同的架构和组件,以及随之带来的团队碎片化,设备资源的重复投入,数据一致性的焦虑,技术选型的困难和迁移的潜在风险; 2. 在伴随业务扩张的过程中,如何平滑而透明地解决伸缩性,用好自建以及混合多云资源;如何建设一站式多租户的数据工具链,在开发生产以及租户之间做好共享和隔离的
内容来源:2017 年 7 月 29 日,青云资深产品经理李威在“大数据与人工智能大会”进行《云端大数据平台最佳实践》演讲分享。IT 大咖说(微信id:itdakashuo)作为独家视频合作方,经主办方和讲者审阅授权发布。 阅读字数:3289 | 9分钟阅读 摘要 很多企业在做大数据平台或大数据方案的时候,常常不知道该选用哪些产品来满足自己的需求。本次分享将从青云的云平台架构出发,探讨大数据平台的实践以及思考。 嘉宾演讲视频及PPT回顾:http://suo.im/4A4Y7h 云平台架构 青云提供了完整的
9月11日,在2020腾讯全球数字生态大会上,腾讯云副总裁刘煜宏透露,腾讯云大数据平台的算力弹性资源池达500万核,每日分析任务数达1500万,每日实时计算次数超过40万亿,能支持超过一万亿维度的数据训练。腾讯云不仅已经成为国内算力最强的云厂商,同时也是日实时计算量最大的公司。 腾讯云副总裁 刘煜宏 「 算力资源池达500万核,日实时计算量超40万亿」 基于多年在数字化方面的积累,腾讯云正在把腾讯多年来的能力沉淀对外开放。除了云计算、大数据、AI、安全、LBS、区块链等基础技术服务,以及支付、小程
在大数据的风口,起飞的为什么是360?这也许是很多人的疑问,作为大数据业界的弄潮儿,360大数据平台是如何演进的,QDAS是缘何诞生,以及再次变革的原因又是什么?
2020年9月11日,在2020腾讯全球数字生态大会上,腾讯云副总裁刘煜宏透露,腾讯云大数据平台的算力弹性资源池达500万核,每日分析任务数达1500万,每日实时计算次数超过40万亿,能支持超过一万亿维度的数据训练。腾讯云不仅已经成为国内算力最强的云厂商,同时也是日实时计算量最大的公司。
Twitter是最早一批推进数字化运营的硅谷企业之一,其公司运营和产品迭代的很多功能是由其底层的大数据平台提供的。图7-2所示为Twitter大数据平台的基本示意图。
就是指各种大数据计算框架,存储系统、SQL引擎等等,这些技术比较常用,经过最近十几年的发展,主流的技术产品相对比较集中,主要就是MapReduce、Spark、Hive、Flink技术的产品。
声明:本文参考了淘宝/滴滴/美团发表的关于大数据平台建设的文章基础上予以整理。参考链接和作者在文末给出。
2021年8月20日,贵州农信行社数据仓库软硬件采购项目单一来源采购公示发布。 拟采购商品信息:行社数据仓库软硬件(GaussDB数据库及大数据软件License部分) 采用单一来源采购方式的原因及相关说明:大数据平台由贵安迁移至观山湖数据中心时,使用了华为泰山服务器和大数据产品,用于搭建观山湖数据中心大数据平台。现由于数据量增长大数据平台需进行扩容,鉴于后续应用扩展及行社数仓项目建设,为保持服务延续性及前后软硬件产品的一致性,同时考虑到系统兼容性,便于投产后运维,拟继续采购华为系列产品用于扩容大数据平台
大家早上好!非常高兴有机会跟大家分享一下《中国电信在灯塔大数据技术创新和行业应用实践》。 其实,大数据对运营商非常重要,它对内怎么样能提到网络运营资源为客户提供更好服务的作用,对外为行业服务,我今天讲的中国电信灯塔大数据内容,主要指的是对外的。 灯塔大数据的定制,这就是一个比较炫的大数据产业视图,包括的内容很丰富,产业链上的都在这儿了。中国电信的灯塔大数据平台,主要是这样三个定位: 做多元数据的整合 打造它的能力平台 创新行业应用 1、多元的数据整合,电信的数
创建大数据平台,是个系统性的工程,并不像简简单单开发一款APP一样,你要深度的了解当前的环境以后的发展。事实上,做大数据平台不是做大数据本身,而是寻找大数据与行业、与业务的某种关联,内在的联结点,能否联姻成功,取决于策划与开发的能力。策划开发得好,事半功倍,会对行业和业务产生不可估量的价值,策划与开发的不好,则会竹篮打水一场空,费时费力自讨苦吃,成为“鸡肋”在所难免。
国家 2035 远景规划提出要加快全面数字化转型的步伐,而“大数据平台”是数字化转型的基础技术之一。经过六年多的探索和实践,微众银行打造了一套在金融领域“自主可控”的开源大数据平台。对于任何企业来说,建立和维护一个大数据平台都不是一件容易的事情,而建设一个有特色的、完整易用的大数据平台,显然更是一件技术难度极高的事情。InfoQ 采访了微众银行 WeDataSphere 主创团队,希望他们的实践经验能给大家带来一些启发和思考。
<数据猿导读> 中国电信云计算中心主任赵慧玲在2016年中国信息通信大数据大会上发表了以“中国电信灯塔大数据”为主题的演讲。在赵慧玲看来,中国电信灯塔大数据的定制,这是一个比较炫的大数据产业视图,主要
揭开大数据生态圈背后的真相,切实了解开发者对大数据平台的需求,用真实数据分析大数据行业发展趋势及产品方向。近日,在2014中国大数据技术大会召开前夕,CSDN特推出“2014中国大数据有奖调查”活动,旨在更全方位地洞察中国大数据产业现状,为大数据技术从业者和创业者们提供良好的参考与建议。 公司使用大数据的基本情况 时至今日,无论你是来自互联网行业、通信行业,还是金融行业、服务业或是零售业,相信都不会对大数据感到陌生。据调查报告显示,32.5%的公司正在搭建大数据平台,处于测试阶段;29.5%的公司已经在生
数据猿导读 随着数据量的不断增大、接入的系统越来越多,系统加工效率逐步降低,满足内部数据分析和监管机构的监管数据不断增加的需求,农业银行在2013年开始建设完全自主可控的大数据平台。 本篇案例为数据猿
数据猿导读 阿里妈妈发布全域营销方案,将集团视角从电商向大数据转移;大数据平台艺恩发布“艺恩指数”,深挖泛娱乐领域数据价值;奥巴马大选团队创立的大数据公司Civis Analytics 获得A轮融资…
1月,中国大陆境内所有通用顶级域(.com/.net/.org等)解析出现问题,所有相关域名均被指向一个位于美国的IP地址(65.49.2.178),导致数千万网民在数小时内无法访问网站。 4月,OpenSSL“心脏出血(Heartbleed)”重大安全漏洞被曝光,这一漏洞让黑客能够读取服务器系统的运行内存。有业内人士利用该漏洞在某知名电商网站上测试时,成功获得多位用户的账号及密码,并成功登陆网站。 9月,“iCloud艳照门”事件爆发,数百张好莱坞女演员不雅照在网上被曝光。原因是黑客通过攻击苹果iClou
最近有几个群友问我大数据怎么入门,作为一个零基础大数据入门学习者该看哪些书呢?我结合自己看过的书和了解到的比较好的数据,给大家分享一下。
随着大数据平台型产品方向的深入应用实践和Docker开源社区的逐渐成熟,业界有不少的大数据研发团队开始使用Docker。简单来说,Docker会让大数据平台部署更加简单快捷、让研发和测试团队集成交付更加敏捷高效、让产线环境的运维更加有质量保障。
现如今每个公司都有自己的大数据平台和大数据团队,可以看出大数据建设在公司的重要地位,不管是用于做数据分析、BI还是做用于机器学习、人工智能等领域,大数据都是基础,海量数据成为了互联网公司的重要资产。
大数据有很多的产品,琳琅满目。从架构图上就能看出产品很多。这些产品它们各自的功能是什么,它们又是怎么样相互配合来完成一整套的数据存储,包括分析计算任务。这里要给大家进行一个讲解与分析。
东方金信CEO王伟哲:金融大数据将推进全社会的诚信建设
12月15日,由腾讯云主办的首届“腾讯云+社区开发者大会”在北京举行。本届大会以“新趋势•新技术•新应用”为主题,汇聚了超40位技术专家,共同探索人工智能、大数据、物联网、小程序、运维开发等热门技术的最新发展成果,吸引超过1000名开发者的参与。以下是大数据AI分会场的演讲内容,稍作整理,分享给大家。
大数据已不再是一个单纯的热门词汇了,随着技术的发展大数据已在企业、政府、金融、医疗、电信等领域得到了广泛的部署和应用,并通过持续不断的发展,大数据也已在各领域产生了明显的应用价值。 企业已开始热衷于利用大数据技术收集和存储海量数据,并对其进行分析。企业所收集的数据量也呈指数级增长,包括交易数据、位置数据、用户交互数据、物流数据、供应链数据、企业经营数据、硬件监控数据、应用日志数据等。由于这些海量数据中包含大量企业或个人的敏感信息,数据安全和隐私保护的问题逐渐突显出来。而这些问题由于大数据的三大主要特性而
新三板上市 一、大数据平台“索信达数据”新三板挂牌上市 近日,大数据平台“索信达数据”宣布成功登陆新三板,挂牌上市。据了解,索信达数据成立于2004年3月25日,总部位于深圳,公司致力于通过大数据分析技术以及自有的大数据平台,帮助企业将海量的数据转化为商业价值,主要服务于金融、互联网、政府、制造、航空等多个行业。为其提供基于大数据的智慧营销管理、风险控制管理软件平台、决策支持平台、智能系统运营管理服务和数据可视化产品。 📷 二、互联网广告解决方案服务商“联创云科”成功登陆新三板
浪潮与中国工程院合作,打造国内最高级别“双创平台” 随着移动互联网、大数据、云计算等技术的飞速发展, “智能制造”俨然引领了新一轮的产业变革。 日前,在2016智能制造国际会议上,浪潮集团宣布中国工程
现在大数据这么火,各行各业想转行大数据,那么问题来了,该往哪方面发展,哪方面最适合自己?
随着数字经济加速发展,企业数字化转型正向更深层次推进。基于数字技术,企业通过数据驱动,有望实现创新产品服务、变革运营方式和迭代资源组织模式。而这一切都是建立在企业 IT 基础设施之上。
本文作者:jayshi,腾讯CSIG产品 1. 背景和市场现状 在过去的2010-2020的十年里,国内大力投资于医疗系统信息化建设,产生并积累了大量医疗数据,迫切需要通过人工智能及大数据等技术来挖掘和实现数据价值,需要整合更加先进的技术基础设施以更有效的方式进行数据集成、数据标准化以及数据分析,最终实现医疗大数据更有效的应用。2020年新冠疫情爆发进一步推动了国内医疗健康产业的数字革命,AI、大数据、数字孪生等技术与医疗健康产业不断结合,促使医疗健康产业对于数据的利用又上了一个新的台阶。 同时,来自不同方
百度糯米上线大数据产品“店铺统计”,解决餐饮商家的运营难题 在2016百度糯米餐饮生态峰会上,百度糯米宣布上线了大数据产品——“店铺统计”。据悉,该产品可通过大数据技术分析,在商家的店铺页上直观展现商
做大数据有几年了,这些年耳濡目染了一些大数据管理平台的使用,但是或多或少使用起来,都不怎么方便,所以决定自己来实现一个简单的大数据平台
自建开源大数据平台会随着企业数据的增长遇到:性能慢、扩容周期长、平台稳定性差、运维难、投入成本高等问题。在这里我们将从 EMR 的简介、EMR与自建Hadoop对比优势、自建迁移上云的实践案例来介绍 EMR 是如何解决这些问题的。
导读:本期“谁是数据英雄?传统企业大数据应用案例”给大家介绍《 兴业银行:信用卡背后的数据生命线》。兴业银行作为首批试水大数据的商业银行之一,借助大数据的关键技术和核心优势,通过对消费者行为的分析和
“每天一个数据”分析师新一期内容奉上,请享用~ 采访 | Penny 整理 | Sophie 转载请注明来自CDA数据分析师 否则小编将举报到底! 人物档案 周宇红,大麦网大数据技术负责人,专注于娱乐行业大数据应用,负责大数据平台建设,机器学习,自然语言处理,社交媒体挖掘等。 DA:能请您先介绍一下自己的基本情况吗? 周宇红:我其实是从2013年底开始转战互联网的,之前主要在传统的IT行业。到大麦网以后,一开始就接触到大数据。到了2015年初,公司专门设立大数据部门,专门进行大数据的应用分析,我负责整合大
移动互联时代大浪淘沙,「数据」亦主沉浮。各家公司在追逐产品不断完善的同时,也都在累积各自的用户数据反哺产品。而随着数据的不断累积庞大也容易带来一些难以用老旧方法解决的问题,这些问题驱使着企业的大数据体系迭代演进,也再次把「大数据技术」推向高潮。
导读 近年来大数据业务规模迅速增长,为大数据平台运营治理带来了新的挑战:海量大数据任务的治理,缺乏统一、标准的数据与评估模型和治理工具,难以支持对大数据任务执行效率、稳定性等进行持续优化。腾讯大数据平台摸索出数据+算法驱动的“平台自治”方案,对于万亿级大数据分析逐步实现“自动化运营”,以一站式的自诊断、自优化、自管理能力,大大降低大数据产品使用门槛。
大部分电商大数据平台系统企业在实践项目的时候,并不会把大部分主力资源将品牌能力沉淀成自身的产品和平台,例如很多可以实现共用的大数据服务没有实现真正意义上的服务化、产品化,以致于很多产品总是在执行重复的动作。我们知道目前的大数据中台系统技术带来的不仅仅是数据量的火箭式增长,更重要的是利于大数据网站系统管理能力提升,所以传统的大数据平台建设已经无法满足用户需求。数据中台系统架构体量、产业规模以及云计算高速发展轻松降低基础设施成本,进一步创造企业盈利是大数据平台所关心的重点问题。通过本文我们来简单了解下:企业为什么要搭建大数据中台系统,什么叫大数据中台架构,数据中台系统架构基本构成和如何提升电商大数据平台功能管理。
领取专属 10元无门槛券
手把手带您无忧上云