随着车联网与 5G 技术的融合以及车辆智能化的发展，车联网的数据采集需求呈现爆发式增长。传统的车辆数据采集主要用于车辆的远程监测和故障诊断。随着车辆应用的丰富和智能化水平的提高，车辆数据采集逐渐应用到更多的场景，如研发用数据采集、数据统计和分析、规则引擎与报警系统、车辆实时控制等。
大数据基础设施的发展经历了四个主要阶段，每个阶段都有着标志性的技术进步来应对新的应用需求。
徐蓓，腾讯云容器专家工程师，10年研发经验，7年云计算领域经验。负责腾讯云 TKE 大数据云原生、离在线混部、Serverless 架构与研发。 1 方案介绍 大数据处理技术现今已广泛应用于各个行业，为业务解决海量存储和海量分析的需求。但数据量的爆发式增长，对数据处理能力提出了更大的挑战，同时对时效性也提出了更高的要求。实时分析已成为企业大数据分析中最关键的术语，这意味企业可将所有数据用于大数据实时分析，实现在数据接受同时即刻为企业生成分析报告，从而在第一时间作出市场判断与决策。 典型的场景如电商大促和金
上面我们讲了 大数据的数据查询方法 ，使用Hive或者 Impala，但是这些只能查询固定历史的数据，如果要实时计算可能就不是那么合适了。
本文包括七个小节：1、什么是数据湖；2、数据湖的基本特征；3、数据湖基本架构；4、各厂商的数据湖解决方案；5、典型的数据湖应用场景；6、数据湖建设的基本过程；7、总结。受限于个人水平，谬误在所难免，欢迎同学们一起探讨，批评指正，不吝赐教。
Apache Spark 是一个统一的、快速的分布式计算引擎，能够同时支持批处理与流计算，充分利用内存做并行计算，官方给出Spark内存计算的速度比MapReduce快100倍。因此可以说作为当下最流行的计算框架，Spark已经足够优秀了。
0x00 前言 数据仓库体系里面的主要内容也写的差不多了，现在补一点之前遗漏的点。这一篇就来聊一下 ETL。 文章结构 先聊一下什么是 ETL。 聊一下大致的概念和一般意义上的理解。 聊一聊数据流是什么样子。因为 ETL 的工作主要会体现在一条条的数据处理流上，因此这里做一个说明。 举个具体的例子来说明。 0x01 什么是 ETL ETL，是英文 Extract-Transform-Load 的缩写，用来描述将数据从来源端经过抽取（extract）、转换（transform）、加载（load）至目的端的过
1. 概要 Hadoop的MapReduce及Spark SQL等只能进行离线计算，无法满足实时性要求较高的业务需求，例如实时推荐，实时网站性能分析等，流式计算可以解决这些问题，spark Streaming就是现在常用的流式计算框架。作为spark的五大核心组件之一，spark Streaming原生地支持多种数据源的接入，而且可以与Spark MLLib、Graphx结合起来使用，具有高吞吐量，容错机制，
随着数据量的爆发式增长，数字化转型称为了整个IT行业的热点，数据也开始需要更深度的价值挖掘，因此需要确保数据中保留的原始信息不丢失，从而应对未来不断变化的需求。当前以oracle为代表的数据库中间件已经逐渐无法适应这样的需求情况，于是业界也开始进行不断的产生的计算引擎，以便应对数据时代的到来。在此背景下，数据湖的概念被越来越多的人提起，希望能有一套系统在保留数据的原始信息情况下，又能够快速对接多种不同的计算平台，从而在数据时代占比的先机。
作者｜陈翔、王东松 在金融场景中，伴随着业务的扩展，应用系统也相应地增加更多的场景，这些新场景对消息系统提出更多样的需求，导致原有架构面临一系列挑战。在尝试使用 Apache Pulsar 后，平安证券决定在生产环境中进行实践。本文介绍了平安证券选择 Apache Pulsar 的原因，使用 Apache Pulsar 的场景，Apache Pulsar 实践应用中遇到的问题，以及使用 Apache Pulsar 的未来规划。 1 背景介绍 传统金融公司或券商一般会使用统一接入服务或组件来处理对外业务。
随着大数据技术架构的演进，存储与计算分离的架构能更好的满足用户对降低数据存储成本，按需调度计算资源的诉求，正在成为越来越多人的选择。相较 HDFS，数据存储在对象存储上可以节约存储成本，但与此同时，对象存储对海量文件的写性能也会差很多。
摘要：本文整理自中泰证券大数据中心实时计算平台架构师连序全，在 Flink Forward Asia 2022 行业案例专场的分享。本篇内容主要分为四个部分：
导读：随着企业数字化转型升级，线上业务呈现多场景、多渠道、多元化的特征。数据要素价值的挖掘可谓分秒必争，业务也对数据的时效性和灵活性提出了更高的要求。在庞大分散、高并发的数据来源背景下，数据的实时处理能力成为企业提升竞争力的一大因素。今天分享的是众安金融实时特征平台实践。
本文作者：腾讯新闻商业化数据高级工程师 罗强 摘要 随着社会消费模式以及经济形态的发展变化，将催生新的商业模式。腾讯新闻作为一款集游戏、教育、电商等一体的新闻资讯平台、服务亿万用户，业务应用多、数据量大。加之业务增长、场景更加复杂，业务对实时计算高可靠、可监控、低延时、数据可回溯的要求也越来越迫切。比如新闻广告投放、停单、在线推荐、电商搜索中，更快的响应用户需求、精准计费停单，意味着着更好的用户体验和更多的收入。 接下来我们将介绍基于腾讯云流计算 Oceanus Flink 平台、PipeLine 设
摘要 随着社会消费模式以及经济形态的发展变化，将催生新的商业模式。腾讯新闻作为一款集游戏、教育、电商等一体的新闻资讯平台、服务亿万用户，业务应用多、数据量大。加之业务增长、场景更加复杂，业务对实时计算高可靠、可监控、低延时、数据可回溯的要求也越来越迫切。比如新闻广告投放、停单、在线推荐、电商搜索中，更快的响应用户需求、精准计费停单，意味着着更好的用户体验和更多的收入。 接下来我们将介绍基于腾讯云流计算 Oceanus Flink 平台、PipeLine 设计模式搭建的实时数据仓库思想。该方案已经落地内
引言 随着大数据技术架构的演进，存储与计算分离的架构能更好的满足用户对降低数据存储成本，按需调度计算资源的诉求，正在成为越来越多人的选择。相较 HDFS，数据存储在对象存储上可以节约存储成本，但与此同时，对象存储对海量文件的写性能也会差很多。 腾讯云弹性 MapReduce(EMR) 是腾讯云的一个云端托管的弹性开源泛 Hadoop 服务，支持 Spark、Hbase、Presto、Flink、Druid 等大数据框架。 近期，在支持一位 EMR 客户时，遇到典型的存储计算分离应用场景。客户使用了 EMR
Flink 从 2014 年诞生之后，已经发展了将近 10 年，尤其是最近这些年得到了飞速发展。在全球范围内，Flink 已经成为了实时流计算的事实标准，成为大数据技术栈中不可或缺的一部分。在 2023 年终盘点之际，InfoQ 有幸采访了 Apache Flink 中文社区发起人、阿里云开源大数据平台负责人王峰（莫问），了解他对大数据技术栈的看法，以及 Flink 的进展和未来规划。
导语 由InfoQ主办的DIVE全球基础软件创新大会，将于4月15-16日线上举办。 关于DIVE 深入基础软件，打造新型数字底座 InfoQ 的使命是让创新技术推动社会进步。所以，基础软件及开源领域将始终是 InfoQ 的重点关注及报道的领域。本次大会分两天进行，60+专家倾心打造，涵盖数据库、开源、操作系统、编程语言、中间件、微服务等十余场专题演讲，希望成为基础软件领域内容最丰富、最前沿、最具技术性的行业大会，成为基础软件领域的风向标，许多标杆企业发布重要趋势性更新的首选舞台；并为行业领导人物、学者、
历时一个多月，我们终于结束了【企业级360°全方位用户画像】的项目，想看具体详情的朋友，可以移步至博主的大数据项目专栏一饱眼福…
Vineyard 是一个专为云原生环境下大数据分析场景中端到端工作流提供内存数据共享的分布式引擎，我们很高兴宣布 Vineyard 在 2021 年 4 月 27 日被云原生基金会（CNCF）TOC 接受为沙箱（Sandbox）项目。
导语 腾讯云消息队列CKafka推出数据接入平台（Data Import Platform），旨在构建数据源和数据处理系统间的桥梁。 为了让开发者们更加深入的了解数据接入平台（DIP），腾讯云消息队列团队将组织系列文章，为大家详解数据接入平台（DIP）的功能及架构。 作者简介 许文强 腾讯高级工程师 Apache Kafka Contributor，腾讯云Kafka和数据接入平台DIP研发负责人。专注于中间件领域的系统设计和开发，在消息队列领域具有丰富的经验。 数据实时接入和分析面临的挑战 随着大
接下来我们将介绍基于腾讯云流计算 Oceanus Flink 平台、PipeLine 设计模式搭建的实时数据仓库思想。该方案已经落地内容商业化新闻如广告实时广告停单、实时报表、实时特征计算、游戏联运行为分析、数据异常检测等场景。
这篇博文中提出的建议并不新鲜。事实上许多组织已经投入了数年时间和昂贵的数据工程团队的工作，以慢慢构建这种架构的某个版本。我知道这一点，因为我以前在Uber和LinkedIn做过这样的工程师。我还与数百个组织合作，在开源社区中构建它并朝着类似的目标迈进。
当前，企业对于数据实时性的需求越来越迫切，因此需要实时数仓来满足这些需求。传统的离线数仓的数据时效性通常为 T+1，并且调度频率以天为单位，无法支持实时场景的数据需求。即使将调度频率设置为每小时，也仅能解决部分时效性要求较低的场景，对于时效性要求较高的场景仍然无法优雅地支撑。因此，实时数据使用的问题必须得到有效解决。实时数仓主要用于解决传统数仓数据时效性较低的问题，通常会用于实时的 OLAP 分析、实时数据看板、业务指标实时监控等场景。
做大数据绝对躲不过的一个热门话题就是实时流计算，而提到实时流计算，就是Spark 和 Flink两面大旗。
在11月6日召开的Techo开发者大会上，腾讯云副总裁、腾讯数据平台部总经理蒋杰博士正式对外披露腾讯大数据平台10年技术演进历程。经过10年的积累，腾讯大数据平台的算力资源池目前已有超过20万台的规模，每天实时数据计算量超过30万亿条，腾讯已经成为中国实时数据计算量最大的公司。并且，随着资源管理平台核心TKE和分布式数据库TBase正式对外开源，腾讯正在成为大数据领域开源最全面的公司。
最近我在学习流式计算引擎Flink，正在阅读Flink的官方文档、一些技术博客以及《Streaming Processing with Apache Flink》这本书，并试图将一些知识整理下来，形成一个系列。
本文介绍了全球计费系统架构演进，从本地部署到全球部署，从单中心到多中心，从单点登录到多点登录，从服务大后到服务小前，从产品运营到产品运营，从单机到集群，从集群到微服务，从PAAS到SAAS，从业务中台到数据中台，从流量计费到时长计费，从自身产品到外部输出，从单产品到多产品，从服务支撑到引领行业，进一步促进了业务的发展，提升了计费的整体规模，并且通过架构演进将计费系统从原本的1000多人的团队逐步精简到20人左右的规模，并不断通过技术输出，将计费能力输送到各个业务，支撑业务的发展，包括公有云、私有云、全球CDN、IDC、5G、云联网、直播、视频云、游戏、应用、内容、企业服务等，实现了业务发展和系统建设的双领先，并且通过计费数据智能，为业务创造更多价值。
北京时间6月26日凌晨消息，今日谷歌在旧金山举行I/O大会，会上技术平台高级副总裁Urs Hlzle介绍了谷歌云计算的发展情况。目前谷歌云平台支持SQL、NoSQL、BigQuery和谷歌计算引擎。根据摩尔定律与云的关系：计算引擎价格下降30-53%；云存储价格下降68%；BigQuery价格下降85%；折扣自动调整。 据介绍谷歌希望用云端平台来统一不同的平台，随后现场演示如何debug一个正在多个服务器上运行的应用，谷歌的云端调试平台和轻松的进行了语法错误查找。谷歌还为开发者提供了性能追踪器，以方便开发人
传统意义上我们通常将数据处理分为离线数据处理和实时数据处理。对于实时处理场景，我们一般又可以分为两类，一类诸如监控报警类、大屏展示类场景要求秒级甚至毫秒级；另一类诸如大部分实时报表的需求通常没有非常高的时效性要求，一般分钟级别，比如10分钟甚至30分钟以内都可以接受。
Pentaho首席技术官James Dixon创造了“数据湖”一词。它把数据集市描述成一瓶水（清洗过的，包装过的和结构化易于使用的）。
相信大数据人对这两年冉冉升起的新星 Flink 都不陌生，Flink是一款构建在数据流之上的有状态计算框架，通常被视为第三代大数据分析方案。
2019年6月爱奇艺会员规模突破1亿，爱奇艺的会员服务业务随之迅速增长，同时也带来了机器集群规模的增加，原有的监控体系也暴露出一些问题。数据监控体系是业务维持稳定服务的基石，会员日志监控体系形成闭环，从网络、应用、异常、页面加载多维度监控，极大提高了系统的成功率、稳定性，对会员视频播放、营销、下单等核心功能增强异常感知。
Java基础语法，面向对象，字符串，异常，集合，IO，线程、数据库、JDBC，Maven
Apache Flink 是大数据领域非常流行的流批统一的计算引擎，数据湖是顺应云时代发展潮流的新型技术架构。那么当 Apache Flink 遇见数据湖时，会碰撞出什么样的火花呢？本次分享主要包括以下核心内容：
8 月 13 日，RocketMQ 迎来了 5.0 版本，这是继 2017 年发布 4.0 版本之后时隔 5 年的一次重大更新。5.0 版本进行了架构重塑，新增或者修改了超过 60% 的代码，但是对 4.0 的所有功能以及整体架构进行了无缝兼容，且没有引入任何外部依赖。而且其中非常重要的一点是，RocketMQ 兼容了开源 Flink 生态。与 Kafka 只是作为 Flink 的上下游数据不同，RocketMQ 直接实现了 Flink 的基础功能或者算子，并首创性地兼容了 Flink/Blink SQL 标准以及 UDF/UDAF/UDTF。为什么 RocketMQ 会选择将 Flink 融合到一起？这样带来哪些好处？适合哪些应用场景？为解答这些问题，InfoQ 采访了 RocketMQ 开源负责人杜恒和 rocketmq-streams cofunder 袁小栋。
MapReduce作业是独立于其他作业，输入与输出目录通过分布式存储系统串联。MapReduce作业的存在相互的依赖关系，前后相互依赖的作业需要将后面作业的输入目录配置为与之前作业的输出目录，工作流调度器必须在第一个作业完成后才开始第二个作业。
上图的Flink示例程序对一个数据流做简单处理，整个过程包括了输入（Source）、转换（Transformation）和输出（Sink）。程序由多个DataStream API组成，这些API，又被称为算子 （Operator），共同组成了逻辑视角。在实际执行过程中，逻辑视角会被计算引擎翻译成可并行的物理视角。
5月24日，2022网络开源技术生态峰会（线上）盛大开幕，本届大会由“科创中国”未来网络专业科技服务团指导，江苏省未来网络创新研究院主办，SDNLAB社区承办。在“P4技术与应用”论坛上，百度智能云IaaS网络负责人王佩龙和大家分享了百度云在云计算网络领域的可编程硬件实践。 云计算网络面临的挑战 随着数字化转型和智能化升级的加速，更多的企业级应用开始基于多云、混合云、边缘云等新模式构建，比如自动驾驶、车路协同、物联网、电商、视频、游戏等。这些应用对网络提出了更高的要求，对云网络产生了一系列挑战： 1. 带宽
长城汽车是一家全球化智能科技公司，业务包括汽车及零部件设计、研发、生产、销售和服务，旗下拥有哈弗、魏牌、欧拉、坦克及长城皮卡。2022年，长城汽车全年销售1,067,523辆，连续7年销量超100万辆。长城汽车面向全球用户提供智能、绿色出行服务，加速向全球化智能科技公司进阶，智能化车型渗透率达86.17%，车联网作为智能化两大应用方向之一，在这个过程中快速发展。
长城汽车是一家全球化智能科技公司，业务包括汽车及零部件设计、研发、生产、销售和服务，旗下拥有魏牌、哈弗、坦克、欧拉及长城皮卡。2022年，长城汽车全年销售1,067,523辆，连续7年销量超100万辆。长城汽车面向全球用户提供智能、绿色出行服务，加速向全球化智能科技公司进阶，智能化车型渗透率达86.17%，车联网作为智能化两大应用方向之一，在这个过程中快速发展。
静态数据：为了支持决策分析而构建的数据仓库系统，其中存放的大量历史数据就是静态数据。
前言 近期Linux基金会旗下的开源组织LF Edge揭晓了2021-2022年度Akraino奖项的评选结果，腾讯主导的5G边缘计算项目-“支持云游戏的5G移动边缘计算/切片系统”（5G MEC/slice system to support cloud gaming ）凭借降低云游戏40%网络时延，节省30%带宽成本的出色表现，从二十多个项目中脱颖而出，荣获年度最佳项目奖。 云游戏及其面临的挑战 云游戏将传统主机游戏中包括渲染在内的计算从本地挪到云端，以音视频流的方式通过网络传输到用户
Apache Flink 功能强大，支持开发和运行多种不同种类的应用程序，是业界公认的性能优异的大数据实时计算引擎之一。事实证明，Flink 已经可以扩展到数千核心，其状态可以达到 TB 级别，且仍能保持高吞吐、低延迟的特性。在全球范围内，越来越多的公司开始使用 Flink，在国内比较知名的互联网公司如阿里巴巴、字节跳动、京东、美团等，都在大规模使用 Flink 作为企业的分布式大数据处理引擎。
导语 | 近几年炙手可热的云原生首先由Matt Stine提出并延续使用至今，但其并没有标准的、严格的定义，比较公认的四要素是：DevOps、微服务、持续交付、以及容器，更多的则是偏向应用系统的一种体系架构和方法论。那么在云上如何改进大数据基础架构让其符合云原生标准，同时给企业客户带来真真切切的数据分析成本降低和性能保障是一个开放性的话题。本文由腾讯专家工程师、腾讯云EMR技术负责人陈龙在 Techo TVP开发者峰会「数据的冰与火之歌——从在线数据库技术，到海量数据分析技术」 的《云原生环境下大数据基础技术演进》演讲分享整理而成，与大家分享和探讨在云上如何实现存储计算云原生，以及未来下一代云原生大数据基础架构。
作者：陈龙 腾讯专家工程师、腾讯云EMR技术负责人 |导语 在金融行业IT系统国产化的大背景下，国内金融行业开始推动IT基础设施国产化，逐渐摆脱对于传统IOE架构的依赖。微众银行自成立之初，就放弃了传统IOE架构路红，结合腾讯金融级分布式数据库TDSQL，建立了基于DCN单元化架构模式的分布式基础平台。如今这套架构承载了微众银行数亿级别的用户规模，数百套银行核心系统，和每天数亿次的金融交易。 近几年炙手可热的云原生首先由Matt Stine提出并延续使用至今，但其并没有标准的、严格的定义，比较公认的四要
网络属于基础设施部分，网络容灾建设作为一个数据中心验收重要指标。试想一个数据中心的网络链路存在单点，就如一个城市道路都是单行道，一旦出现交通事故，小则导致道路拥堵，大则导致整个城市交通瘫痪。IDC时代，业务对网络容灾参与较少，主要依赖数据中心网络容灾建设程度；当到了云的时代，云服务商将底层网络能力产品化后，云上客户更多参与网络容灾建设，提升业务稳定性。本文从云网络概述，云网络容灾复杂度以及典型案例来介绍云网络容灾建设。
提起大数据处理引擎，很多人会想到Hadoop或Spark，而在2019年，如果你身处大数据行业却没听说过Flink，那你很可能OUT了！Flink是大数据界冉冉升起的新星，是继Hadoop和Spark之后的新一代大数据处理引擎。2019年初，阿里巴巴以1.033亿美元的价格收购了总部位于德国柏林的初创公司Data Artisans，Data Artisans的核心产品是正是Flink。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
