就是指各种大数据计算框架，存储系统、SQL引擎等等，这些技术比较常用，经过最近十几年的发展，主流的技术产品相对比较集中，主要就是MapReduce、Spark、Hive、Flink技术的产品。
标题图来源：pexels 自治理念 一、趋势 在科幻电影中未来的太空飞船上往往有着人工智能角色，协助人类掌控飞船各方面的状况，或是为飞船上的每个乘客提供贴心的服务。这样的科幻场景离我们现实也不算太远，汽车的自动驾驶能力实际上就是这样一种智能化探索方向。而在我们所关心的大数据平台中，其实也急迫需要这样一个类似大脑的角色，以腾讯大数据平台现阶段的情况为例，我们有着10万+机器的存算集群，上面每天运行千万级别的离在线任务，我们的用户、大数据组件研发者、运维专家们可能会消耗不少精力去处理一些非业务逻辑相关的问
最近有几个群友问我大数据怎么入门，作为一个零基础大数据入门学习者该看哪些书呢？我结合自己看过的书和了解到的比较好的数据，给大家分享一下。
开源，开源，开源。 这就是腾讯2019年技术领域最直观的变化。 最新代表事件，来自于腾讯首个开源的AI项目Angel，完成3.0版本进化后，得到全球技术专家认可，从开源基金会LF AI毕业，成为业内顶级AI开源项目。 这是中国首个得此认可的项目，消息传来自是引发好评热议。不过，这只是腾讯过去这一年开源成绩的注脚之一。 过去一年，腾讯开源势头愈发凶猛。截止12月份，对外开源项目超过92个，覆盖所有BG（事业群），微信、腾讯云、大数据、游戏、AI、安全等业务都在其中，累计获得超27万标星，赢得一片赞
4月20日，京东大数据来到了北京大学光华管理学院，这次由京东大数据部平台运营管理负责人葛胜利老师给北大光华管理学院的师生们带来主题为“电子商务大数据平台技术架构与产品架构”的专题讲座，为大家讲述京东大数据平台如何在短短几年的时间里突破技术难关，实现产品创新，建设高效、安全、稳定的大数据平台，并以数据支撑京东的快速发展。 讲座中，葛胜利从京东大数据平台的“使命、架构、产品、运营”四大方面出发，全面的剖析了其中的奥秘。 在讲到平台使命时，胜利总提到，大数据平台在京东集团中的战略地位很重要，因为京东的公司运营是由
本文作者 耿立超，架构师，14年IT系统开发和架构设计经验，CSDN博客专家，著有《大数据平台架构与原型实现：数据中台建设实战》一书。 原文链接： https://laurence.blog.csdn.net/article/details/106851739 故事缘起 我们需要工程原型！ 从2008年Hadoop成为Apache的顶级项目开始，大数据技术迎来了十多年的持续发展，其间随着Spark的异军突起，整个大数据生态圈又经历了一次“装备升级”，变得更加完善和强大。 今天，很多企业已经完成了早期对大数据
今天我们来看一下淘宝、美团和滴滴的大数据平台，一方面进一步学习大厂大数据平台的架构，另一方面也学习大厂的工程师如何画架构图。通过大厂的这些架构图，你就会发现，不但这些知名大厂的大数据平台设计方案大同小异，架构图的画法也有套路可以寻觅。
现代商业竞争已经从渠道、资源向系统整体效率倾斜，而效率的竞争很大程度上来自于数据能力的支撑。 当我们从数据平台方的视角出发会发现演进路上存在着诸多挑战，比如： 1. 数据领域的生态非常庞大，针对不同场景在资源、数据规模、时效的权衡下会衍生出不同的架构和组件，以及随之带来的团队碎片化，设备资源的重复投入，数据一致性的焦虑，技术选型的困难和迁移的潜在风险； 2. 在伴随业务扩张的过程中，如何平滑而透明地解决伸缩性，用好自建以及混合多云资源；如何建设一站式多租户的数据工具链，在开发生产以及租户之间做好共享和隔离的
现如今每个公司都有自己的大数据平台和大数据团队，可以看出大数据建设在公司的重要地位，不管是用于做数据分析、BI还是做用于机器学习、人工智能等领域，大数据都是基础，海量数据成为了互联网公司的重要资产。
内容来源：2017 年 7 月 29 日，青云资深产品经理李威在“大数据与人工智能大会”进行《云端大数据平台最佳实践》演讲分享。IT 大咖说（微信id：itdakashuo）作为独家视频合作方，经主办方和讲者审阅授权发布。 阅读字数：3289 | 9分钟阅读 摘要 很多企业在做大数据平台或大数据方案的时候，常常不知道该选用哪些产品来满足自己的需求。本次分享将从青云的云平台架构出发，探讨大数据平台的实践以及思考。 嘉宾演讲视频及PPT回顾：http://suo.im/4A4Y7h 云平台架构 青云提供了完整的
声明:本文参考了淘宝/滴滴/美团发表的关于大数据平台建设的文章基础上予以整理。参考链接和作者在文末给出。
随着数据成为生产要素，数据安全风险与数字经济发展如影随形，如何解决好数据安全领域的突出问题、提升数据安全治理能力都是社会各界的关注重点。
9月25日，工业和信息化部信息化和软件服务业司将“2018年大数据产业发展试点示范项目名单”进行公示。
大数据能称之为一个时代，可见维克托•迈尔•舍恩伯格对大数据的褒奖。当然，更多的人希望通过大数据创建新的产业群，将之应用到医疗、教育、科技等多个领域。大数据应用已经成为互联网创业者竞争的新阵地，如何充分利用大数据和借助大数据掘金成为草根创业者关注的焦点。在已有的领域中，包括可穿戴设备、移动APP等领域，部分互联网创业者都尝到了大数据的甜头。 百度大数据助力小说网站顺利商业化 互联网创业者的机会并不少，但是要想真正“拥抱”大数据，并从大数据的红海中分一杯羹，是非常困难的。所有人都知道，
要学习大数据，你至少应该知道大数据是什么，大数据将被用在什么领域。通过对大数据的一般理解，你可以了解你是否对大数据感兴趣。
随着数字化转型的不断深入，在企业中，大数据平台建设是许多技术人关心的内容。随着企业的发展，数据量不断增长，原有的数据平台和数据库已经无法满足企业的需求。这时，企业需要对数据平台和数据库进行升级或迁移。但是，这个过程并不容易，需要耗费大量的时间和精力。 在大数据平台升级或迁移过程中，企业需要考虑很多因素，如数据的安全性、可靠性、稳定性等。同时，企业还需要考虑如何保证数据的一致性和完整性。如果在升级或迁移过程中出现问题，可能会导致数据丢失或损坏，给企业带来不可估量的损失。 为你给你提供更多可靠的实践案例，在即将
另外，你也要考虑时间、精力、金钱等各方面的投入情况。学习和掌握大数据相关技术也非一朝一夕之事，不可能一蹴而就，一般的培训课程只能达到入门级别的介绍和讲解，真正要学会并很好地运用大数据技术你还需要后续更深入的学习和大量的实践。所以需要你一个良好的学习规划。
前言 人类每一次大的技术变革都是先在新兴产业生根发芽，再慢慢把触角伸到传统行业。在当前这股由IT(Information Technology)向DT(Data Technology)转变的技术浪潮中，互联网行业成为云计算、大数据等高新技术的试验田。经过近十年的发展，随着大数据技术的不断成熟以及互联网应用案例的普及，"数据驱动业务"的模式逐渐得到各行各业的广泛认同，“互联网+”战略的提出更是为大数据从互联网向其他行业的传播吹来一阵东风。腾讯作为互联网企业的代表，早在09年就开始探索建设大数据平台，经过批
近日，工信部指导下的数据中心联盟公布第五批大数据产品评测结果，通过评测的产品包括16家大数据供应商的17款大数据产品，覆盖一线云厂商和传统大数据平台供应商。腾讯云大数据平台在SQL、NoSQL和机器学习三方面取得优异成绩，其中NoSQL测试成绩在17款产品中排名第2名。腾讯云大数据平台源自亿万级数据资产，在数据接入、数据处理、数据存储、数据分析等方面积累了丰富的实战经验。
在企业数字化转型的当下，数据仓库的云端构建成为主流趋势，Gartner 预测，到2023年全球3/4的数据库都会跑在云上。
4.掌握大数据分析在搜索引擎、广告服务推荐、电商数据分析、金融客户分析方面的应用。
在企业数字化转型的当下，数据仓库的云端构建成为主流趋势，Gartner 预测，到2023年全球3/4的数据库都会跑在云上。 12月20日，腾讯2020 Techo Park开发者大会大数据分论坛在北京召开。腾讯数据平台部数据中心技术总监于洋、腾讯云大数据首席产品架构师高廉墀以及腾讯云大数据团队 Ozone 项目技术负责人陈怡等嘉宾出席大会，并探讨了数据仓库的多元技术，聚焦云端数据仓库的热潮，展现腾讯数据仓库技术架构演进与未来发展。 云原生数据仓库成为风口，助力解决企业数据仓库转型升级 从企业数字化转型看，
菜鸟顺丰的数据之战刚刚平息，华为腾讯两大巨头又因为用户数据之争”大打出手“， 因华为荣耀Magic手机出现的可根据微信聊天内容自动加载信息功能，腾讯向监管部门投诉，指其侵犯腾讯及用户的数据。微信作为一款国民级应用，拥有着近10亿的用户，在这个数据为王的时代，微信的庞大用户数据无疑是一座巨大的金矿，无论硬件商还是软件商都对这块巨大的蛋糕垂涎，不难解释在华为对腾讯公开宣战之后，包括支付宝、科大讯飞在内的一众互联网应用都积极的参与华为合作，数据价值的吸引，让各大商家趋之若鹜。本文分析了华为和腾讯的大数据体系，
腾讯业务产品线众多，拥有海量的活跃用户，每天线上产生的数据超乎想象，必然会成为数据大户，为了保证公司各业务产品能够使用更丰富优质的数据服务，腾讯的大数据平台做了那些工作？具备哪些能力？记者采访到了腾讯数据平台总经理蒋杰先生，他将给大家揭秘腾讯的大数据平台！ 建设专业数据平台、持续提升处理能力、贴身满足业务需求、挖掘创造数据价值———蒋杰（腾讯大数据团队使命） CSDN： 首先还是请蒋总介绍一下自己和你的职业生涯。 蒋杰：我是蒋杰，目前是腾讯数据平台部的负责人。我的第一份工作其实并非在互联网行业，而是在传
机器之心原创 作者：蛋酱 930 变革两年后，被寄予厚望的腾讯云在 To B 这张考卷上都写了什么？ 从「深圳市腾讯计算机系统有限公司」注册成立，到成为服务用户最多的中国互联网企业之一，腾讯经历了互联网发展的黄金二十年。拥有众多国民级应用、十多亿 C 端用户的同时，这家公司对于自身技术的披露却一向低调。 当然，事情也正在发生变化：两年前，腾讯宣布正式「拥抱」产业互联网，并进行了第三次组织架构调整，史称「930 变革」。这家科技巨头积淀多年的技术能力，终于越来越多地从幕后走到台前，被寄予厚望的腾讯云，成为腾
作者 | 宋文欣 以 Hadoop 为中心的大数据生态系统从 2006 年开源以来，一直是大部分公司构建大数据平台的选择，但这种传统选择随着人们的深入使用，出现的问题也越来越多，比如：数据开发迭代速度不够快、集群资源利用效率过低、新的开发工具集成非常复杂等。这些问题已经成为困扰企业数字化转型加速迭代和升级的主要障碍。 而传统大数据平台通常是以 Hadoop 为中心的大数据生态技术。一个 Hadoop 集群包含 HDFS 分布式文件系统和以 Yarn 为调度系统的 MapReduce 计算框架。围绕 H
大数据产业作为战略性的新兴产业，已成为加快社会发展变革的重要引擎。在11月30日的2022腾讯全球数字生态大会大数据专场上，腾讯云大数据新发布了多款数据应用产品，并就其在金融、泛娱等行业的最佳实践进行了详细分享，为广大企业进一步实现健康发展和变革创新提供了有价值的借鉴。 腾讯云副总裁刘煜宏在开场致辞中表示：“多年来，腾讯云在大数据领域进行了不遗余力的投入，在团队、平台、技术等方面均实现了业内领先。目前腾讯云大数据平台已支撑起整个腾讯庞大的业务线，并为超过2万家外部企业提供大数据能力支持。未来，腾讯云大数据将
引言： 大数据时代，业界各巨头都在投入重兵打造自己的大数据平台，分析挖掘蕴藏在数据金矿中的价值。在腾讯，数平承建了公司级大数据平台，我们的测试团队也有幸一起搭上了大数据的航母。这是一种机遇，更是一种挑战。因为大数据平台的技术复杂度、机器规模、容量、发展速度等都远非传统的后台系统可比，以前积累的测试方法和建设的工具平台很多并不适用于大数据测试，业界也没有很成熟的方法可以借鉴。这就需要我们在测试思路和方法上主动探索、大胆创新，过程中难免有弯路和挫折，但我们的成长和收获更多。 本文旨在介绍测试团队
image.png 大数据，这个词越来越热，很多人都在谈大数据，其实很多张口闭口大数据的人，或许都不知道数据是如何产生、传递、存储、运算到应用的。其实我一直感觉大数据这个东西有时候真的不是一般企业可以玩的溜的，特别是随着传统业务增长放缓，以及移动互联网时代的精细化运营，对于大数据分析和挖掘的重视程度高于以往任何时候，如何从大数据中获取高价值，已经成为大家关心的焦点问题。 腾讯业务产品线众多，拥有海量的活跃用户，每天线上产生的数据超乎想象，必然会成为数据大户，为了保证公司各业务产品能够使用更丰富优质的数据
电力大数据平台拥有数据采集、数据存储、数据加工处理、数据分析挖掘、数据管控、平台管控、安装部署等功能，但是平台在组件融合、权限控制、对外接口封装等方面还存在不足， 不能够满足企业未来不同类型的大数据应用。
目前机器学习可以说是百花齐放阶段，不过如果要学习或者研究机器学习，进而用到生产环境，对平台，开发语言，机器学习库的选择就要费一番脑筋了。这里就我自己的机器学习经验做一个建议，仅供参考。
现在大数据这么火，各行各业想转行大数据，那么问题来了，该往哪方面发展，哪方面最适合自己？
Apache Hadoop目前市场上主流的大数据研发技术之一，基于 Hadoop 开源框架开发的一个开源的分布式存储、分布式计算平台。
腾讯云大数据产品中心总经理刘煜宏在AI大数据专场论坛，介绍了在大数据时代背景下，腾讯是如何打造全域数据体系的。
最近遇到了一些朋友在群里讨论数据有哪些工作内容，看了一些讨论后总感觉不是很全面。今晚就顺便整理一波居士自己对数据工作内容的理解，这次会从数据团队的角度出发有哪些工作内容，希望能帮助大家理清思路。
随着数字经济的蓬勃发展，产业数字化进程持续推进，数据技术拥有了广泛的端到端应用场景，而借助数据技术可以实现从数据到信息、从信息到知识、从知识到决策的转换，助力实体经济的创新发展。IDC预计，到2026年，全球大数据市场的IT总投资规模将增至4491.1亿美元，实现约15.6%的复合增长率。
除了支撑集团的大数据建设，团队还提供To B服务，因此我也有机会接触到一些正在做数字化转型的传统企业。从2018年末开始，原先市场上各种关于大数据平台的招标突然不见了，取而代之的是数据中台项目，建设数据中台俨然成为传统企业数字化转型的首选，甚至不少大数据领域的专家都认为，数据中台是大数据下一站。
大数据时代这个词被提出已有10年了吧，越来越多的企业已经完成了大数据平台的搭建。随着移动互联网和物联网的爆发，大数据价值在越来越多的场景中被挖掘，随着大家都在使用欧冠大数据，大数据平台的搭建门槛也越来越低。借助开源的力量，任何有基础研发能力的组织完全可以搭建自己的大数据平台。但是对于没有了解过大数据平台、数据仓库、数据挖掘概念的同学可能还是无法顺利完成搭建，因为你去百度查的时候会发现太多的东西，和架构，你不知道如何去选择。今天给大家分享下大数据平台是怎么玩的。
自我介绍下，我是微众银行大数据平台的工程师：周可，今天给大家分享一下 Nebula Graph 在微众银行 WeDataSphere 的实践情况。
关注DTCC有几年了，还是在当中学到了很多的干货。今年我的大部分时间也都是投入在了数据治理的学习和数据治理工具的调研中。也非常渴望有这种机会去了解一下国内顶尖公司这方面的前沿技术与应用。
大数据时代这个词被提出已有10年了吧，越来越多的企业已经完成了大数据平台的搭建。随着移动互联网和物联网的爆发，大数据价值在越来越多的场景中被挖掘，随着大家都在使用欧冠大数据，大数据平台的搭建门槛也越来越低。借助开源的力量，任何有基础研发能力的组织完全可以搭建自己的大数据平台。但是对于没有了解过大数据平台、数据仓库、数据挖掘概念的同学可能还是无法顺利完成搭建，因为你去百度查的时候会发现太多的东西，不知道如何去选择。今天给大家分享下大数据平台是怎么玩的。
随着互联网的发展，大数据正在以惊人的速度被创造和收集着，尤其随着诸如Google和Alibaba等互联网公司的崛起，数据的价值越来越得到认可，甚至被公司定义为战略资源。因此越来越多的公司开始搭建自己的大数据平台，用来处理数据，从中挖掘商业价值。大数据运维正是在这样的背景下发展起来的，它与传统领域的运维有很多共性的地方，也有一些自身的特点。 第一个特点是规模大 大数据领域单个集群的规模一般是几百台物理机，多则上万台。为了满足容灾需求，一般会有多个集群，而且是跨地域部署的。集群规模大
京东集团618作战指挥中心 ，成员来自于京东各个技术体系，包括核心系统架构师、一线运维专家、科研学者等。 近200位成员在618时共同努力，确保流量洪峰来临时系统安全、稳定、可靠，致力于提供最佳的用户体验。
公众号开了快一年了，名字叫学一学大数据。但是一直没有分享关于大数据的文章，如是就抽出时间来给大家分享下大数据整理的技术路线及生态全景。 先扯一下大数据的4V特征： 数据量大，TB->PB 数据类型繁多，结构化、非结构化文本、日志、视频、图片、地理位置等； 商业价值高，但是这种价值需要在海量数据之上，通过数据分析与机器学习更快速的挖掘出来； 处理时效性高，海量数据的处理需求不再局限在离线计算当中。 现如今，正式为了应对大数据的这几个特点，开源的大数据框架越来越多，越来越强，先列举一些常见的： 文件存储：Had
4月12日，在腾讯分享日的大数据分论坛上，腾讯首次对外展现了自己的大数据平台，受到外界的普遍关注，后续，我们将持续为大家分享腾讯大数据的方方面面。本篇为综述篇，针对整体情况做概要性的介绍，后续将会有更详细的离线计算、实时计算、数据实时采集以及大数据应用产品等系列文章输出，绝对干货，敬请期待。 腾讯业务产品线众多，拥有海量的活跃用户，每天线上产生的数据超乎想象，必然会成为数据大户。特别是随着传统业务增长放缓，以及移动互联网时代的精细化运营，对于大数据分析和挖掘的重视程度高于以往任何时
贝贝网的主要产品是垂直的母婴类，母婴相对一般的电子商务网站有一些特点：第一个特点是商品周期短，在母婴网站上的商品，在线的时间不会超过5-7天，第二个是用户需求的变化快，在母婴行业，可能是用户的需求变化
母婴相对一般的电子商务网站有一些特点：第一个特点是商品周期短，在母婴网站上的商品，在线的时间不会超过5-7天，第二个是用户需求的变化快，在母婴行业，可能是用户的需求变化最快的领域，比如是用户处在怀孕当
摘要：国家标准委正在着手制定首批共十项大数据标准，分别是大数据术语、大数据技术参考模型、数据交易平台交易数据描述、数据交易服务平台通用功能要求、数据能力成熟度评价模型、多媒体数据语义描述要求、科学数据引用、数据溯源描述模型、数据质量评价指标和通用数据导入接口规范。大数据企业如何发展，市场正在做出自己的选择。 8月末，北京某酒店的一场大数据企业展上，聚集了全国各地的企业。现场展示有随着《江南style》起舞的机器人，有早期科幻电影里走出来的“触摸式数据可视化屏幕”…… “你们的具体业务是做什么的”、“和大数据
python对于电脑硬件基本没什么要求，下载python安装程序的时候，注意看下自己电脑属性是64位系统还是32位系统，再下载对应的python安装程序。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
