目前，大数据的流行程度远超于我们的想象，无论是在云计算、物联网还是在人工智能领域都离不开大数据的支撑。那么大数据领域里有哪些基本概念或技术术语呢？ 今天我们就来聊聊那些避不开的大数据技术术语，梳理并补充我们对大数据的理解。
Log是关系数据库对计算机行业的伟大贡献。在大数据时代，Log更是基础技术之一。然而在大家热烈讨论GFS, NoSQL，乃至Paxos， LSM tree等词语的时候，Log这个基础技术以及它对大数据行业的巨大贡献却一直以来都被业界所忽略。除了Kafka作者之一Jay Kreps2013年一篇非著名的文章以外，我几乎不能发现太多讨论Log的。不论这种忽略有意无意，都让我觉得有必要写一篇文章。本文结合了Jay的文章的观点和本人在这个领域的实践经验，旨在对我们司空见惯的Log在大数据系统里面的巨大作用做一个
「 第一部分 概述 」 数据库中存在两种典型的业务访问场景，一种以在线事务处理为主，称为OLTP（On-Line Transaction Processing）；另一种以在线分析处理为主，称为OLAP（On-Line Analytical Processing）。下面具体介绍他们的区别。 1.1 OLTP OLTP业务的主要特点是有较多的增删改查操作，并且在大部分业务中，写相对于读的比例还很高。并发的事务数较多，而且事务的响应时间要求比较高。此外，每个增删改语句通常只操作少数几行数据；每个查询语句通常也只
近年来，随着数据规模越来越大，以及由此衍生出数据实时化的诉求激增，产生了一系列大数据相关的业务场景，场景复杂性高以及业务多维度是明显的两个特点，因此出现许多了实时数仓架构来满足业务需求。
最近这段时间有很多人问我，大数据到底是什么。当然实际上问题没有那么直接。更多的问题是，飞总啊你看我亲戚家的那个企业是不是可以上个大数据啊，用起来就能发财了。或者说这个大数据的新开源项目是不是对我提高这个那个有帮助啊。诸如此类的问题问多了，我也就在问我自己，写大数据系列写到现在了，大数据到底是个什么鬼。 这就让我想到了很多年前看到的Dan Ariely关于大数据的名言： Big data is like teenage sex: everyone talks about it, nobody really k
摘要 大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
数字化转型浪潮是现在进行时，在企业数字化转型的过程中，我们看到一个普遍的趋势，企业对“海量、实时、在线”的数据需求变得更加迫切。数字化转型并不是互联网公司的专利，人工智能、大数据、物联网这些技术也不仅仅是互联网公司才会使用。事实证明，越来越多的传统企业正在应用这些新兴技术进行业务的创新。每一项新技术的应用都需要一定的技术积累，互联网公司也许会配备很多工程师来支持一个数据体系架构。但对于传统公司来说也许不具备这样的实力，他们会发现自己很难驾驭大数据技术栈。此外，传统大技术栈已经慢慢开始难以应对日新月异的业务需求和爆炸性的数据增长。企业的很多业务对数据实时性的要求越来越高，比如风控、反欺诈等，更早地识别和阻断风险可以让企业减少损失；在物流行业，更实时的数据让物流企业可以更实时地调配行车路线和各类资源，以达到更好的运营效率；公共服务也会对实时数据产生要求，如果去柜台办理一个业务，需要等很久才能查到刚刚办的上一个流程的数据，这对于用户体验来说是非常糟糕的。
大数据这个架构，好像产品非常多，对于初学者来说似乎很不友好。于是大家觉得，好像和我们之前的开发很不一样。但实际上和之前的开发是一模一样的。为什么一模一样？
大家好，我是一名狂热的数据库程序员，趁着 3.15 的良辰吉日，鼓起勇气站上了数据库吐槽大会舞台，以下故事纯属虚构，如有雷同，请对号入座。
随着越来越多的数据涌向企业，通过云服务厂商将数据上云已经成为大多数企业的共识。数据为王的时代，企业需要告别传统上云，让企业应用实现云原生。 数据上云能给企业带来诸多便利。例如，加快企业配置和部署工作，更好地管理资源；云储存带来的高扩展性，可以使得企业获得更多的资源配置等等；然而，企业数字化进程进入到一个新阶段，企业上云不再是传统方式那样把业务放入容器和 VM 中，更应该让业务“生于云、长于云”。企业云化从“ON Cloud”走向“IN Cloud”， 新生能力与既有能力有机协同、立而不破，实现资源高效、应
是传统的关系型数据库(Oracle、Mysql...)的主要应用，主要是基本的、日常的事务处理，数据量小(千万级)，准确性及一致性要求高，例如银行交易，商城订单交易。
AnalyticDB，是阿里云推出的一款数据库产品，主打海量实时数据分析领域。说其是另类“MySQL”，是因为其兼容MySQL生态，可以像MySQL一样去使用，非常简洁方便。不久前，其还推出单机版规格，颇为惊艳，可以说把大数据的门槛大大降低了。正如上图所表现的，"大数据"这头大象也可以敏捷奔跑起来。假期无事，特针对AnalyticDB新推出的单机版与MySQL，在规模数据下的查询表现做了个对比分析。
一般我们分析大数据，也许会想到Spark、Storm，但前提得会JAVA等编程语言，不然拿到数据也无法做分析。而Hive而解决了这个问题，只需要会Sql语言即可做mapreduce的大数据分析任务。今天我们创建测试数据用Hive进行mapreduce的实际分析。
NewLife.XCode是一个有10多年历史的开源数据中间件，支持nfx/netcore，由新生命团队(2002~2019)开发完成并维护至今，以下简称XCode。
2022年，搜狐智能媒体完成了迁移腾讯云的弹性计算项目，其中大数据业务整体都迁移了腾讯云，上云之后的整体服务性能、成本控制、运维效率等方面都取得了不错的效果，达到了预期的降本增效目标。
数据库（理论上来讲，ES 也是数据库，这里的数据库，指的是关系型数据库），首先是存储，搜索只是顺便提供的功能，
1.b+树只有叶子节点存数据 b树是每个节点都存数据 在相同数据量下b树的高度更高,所以查询效率更低
随着 DT 时代的来临，数据对于企业经营决策的价值日益凸显，而企业在进行互联网+转型的过程中，如何让数据架构平滑迁移到大数据平台，对于传统业务的转型升级至关重要。企业 IT 部门该如何进行 PB 级别大数据平台的迁移规划呢，请看云智慧运维总监张克琛带来的经验分享。 提到 PB 级别的大数据解决方案市面上有很多，比较火的有 Hadoop、Spark、Kafka 等等，如果是一个新上线的系统，相信大家都能找到适合自己的方案。但“大数据”在 09 年才逐渐成为互联网信息技术的流行词汇，一个较老的系统如何平滑迁移到
导语 | 随着技术和数据业务的快速发展，新硬件不断迭代更新，使得成本和性能的均衡——降本提效成为可能。今天，我们特邀 英特尔数据库及大数据资深首席工程师、腾讯云 TVP 程从超老师 为我们带来《新硬件赋能创新——数据发展趋势》的解读，他将带我们了解整个数据处理架构的趋势，一起洞见 NoSQL 数字时代发展的新机遇。
随着闲鱼业务的发展，用户规模达到数亿级，用户维度的数据指标，达到上百个之多。如何从亿级别的数据中，快速筛选出符合期望的用户人群，进行精细化人群运营，是技术需要解决的问题。业界的很多方案常常需要分钟级甚至小时级才能生成查询结果。本文提供了一种解决大数据场景下的高效数据筛选、统计和分析方法，从亿级别数据中，任意组合查询条件，筛选需要的数据，做到毫秒级返回。
画像平台功能具有相似性，其技术架构也可以抽象出统一的模式，本节内容主要介绍画像平台常见的技术架构。为了加强读者对技术选型的认识，本节还会介绍几个互联网公司在画像类平台上的技术选型方案。
可视化可以借助kibana实现。这里就体现出elkstack的优势，logstash完成基础数据同步，es完成数据存储和检索，kibana完成数据可视化。
1、TINYINT、SMALLINT、MEDIUMINT、INT、BIGINT 主要根据存储字节长度不一样划分：
本次分享将结合多个大数据项目与产品研发的经验，探讨如何基于不同的需求场景搭建通用的大数据平台。内容涵盖数据采集、存储与分析处理等多方面的主流技术、架构决策与技术选型的经验教训。 大数据平台内容 数据源
摘要 日前，腾讯云大数据数据湖计算 DLC 与国内两家知名云厂商的数据湖产品进行了性能对比，其中腾讯云 DLC 在三款产品中SQL平均执行查询时间短，性能表现优。腾讯云大数据 DLC 在存算分离和大数据量查询场景下，海量查询性能较 A 厂商 产品提升 248%，较 B 厂商产品提升36%。 在存算分离大数据量查询场景下，腾讯云大数据 DLC 较 A 厂商 、B 厂商表现更优，同时在较大任务上的任务执行成功率更高，所有任务均成功执行。结合性能、性价比、使用体验等因素，腾讯云 DLC 在云原生数据湖选择上整体上
在访问量和数据量急剧膨胀的今天，关系型数据库已经难以支撑庞大复杂的系统规模。在此背景下，备受关注的数据库新理念 HTAP，会是一条“正确”的路吗？在刚过去的 QCon 全球软件开发大会上，PingCAP 实时分析产品负责人马晓宇发表了《TiDB HTAP 的架构演进及实践》的主题演讲，它从 HTAP 的历史入手，详述了 HTAP 的技术挑战以及 TiDB 的应对方案。本文为其演讲整理文，enjoy~ 大家好，今天为大家分享以下几方面内容。首先是分享 HTAP 的历史，其次是 TP 和 AP 之间存储和计算的
数据库存储引擎：是数据库底层软件组织，数据库管理系统（DBMS）使用数据引擎进行创建、查询、更新和删除数据。不同的存储引擎提供不同的存储机制、索引技巧、锁定水平等功能，使用不同的存储引擎，还可以获得特定的功能。现在许多不同的数据库管理系统都支持多种不同的数据引擎。MySQL 的核心就是插件式存储引擎。测试面试宝典
一个是成本问题，随着累积的数据量的增大，大数据业务量的增多，数据存储和处理的成本越来越高，企业数据基础设施的投资越来越大，这部分投资挤占了企业大数据业务创新的空间。
近日，腾讯云原生数据库 TDSQL-C 发布列存索引（Column store Index）能力，这一企业级特性将大幅提高用户在使用数据库进行复杂查询时的速度，并降低数据存储空间的使用。
我们公司主要从事平台技术开发和建设方面，工作的重点方向主要在解决用户在数据治理中的各种问题，让用户能更高效地管理自己的数据，进而产生更大的价值，比如如何整合现有功能流程，节省用户使用成本；增加新平台不断调研，丰富平台功能；新平台功能、性能改造，从而满足用户大规模使用需求；根据业务实际需求，输出相应的解决方案等。今天分享的内容主要是从数据库内核到大数据平台底层技术开发，分享网易数据科学中心多年的大数据建设经验。
1、最左前缀匹配原则，非常重要的原则，mysql会一直向右匹配直到遇到范围查询(>、<、between、like)就停止匹配，比如a = 1 and b = 2 and c > 3 and d = 4 如果建立(a,b,c,d)顺序的索引，d是用不到索引的，如果建立(a,b,d,c)的索引则都可以用到，a,b,d的顺序可以任意调整。
《中华人民共和国网络安全法》于2016年11月7日经十二届全国人大常委会第二十四次会议表决通过后，并于2017年6月1日起正式实施。网络安全法的正式施行，不仅从法律上保障了人民群众在网络空间的合法利益，有效维护了国家网络空间主权和安全。而且，还有利于推动信息技术的创新和应用，有利于凸显物联网、云计算以及大数据安全分析的巨大价值。安恒AiLPHA大数据智能分析平台在网络安全法法规和安全分析技术层面有非常高的契合度。
对于离线场景，最典型的就是数据仓库。它和传统的数仓不太一样。因为传统数仓它只能解决中小规模的数据存储与分析问题。大数据这一块要能承接海量的数据。
随着互联网的高速发展，目前数据的存储越来越多，传统的数据库逐渐不能满足人们对海量数据、高效查询的需求，国产的数据库如雨后春笋一样，一个个冒了出来来解决我们高速科技发展的数据库瓶颈，今天就给大家聊一聊目前最火的五款国产数据库，大家一起来学习一下。
存内计算技术是一种新型的计算架构，它将存储器和计算单元融合在一起，以实现高效的数据处理。存内计算技术的优势在于能够消除数据搬运的延迟和功耗，从而提高计算效率和能效比。目前，存内计算技术正处于从学术到工业产品落地的关键时期，随着技术的不断进步和应用场景的不断催生，预计存内计算技术将成为AI计算领域的主要架构。
根据Starburst联合创始人贾斯汀·伯格曼的经验，想要让企业数据架构经得起时间的考验，关键之一就是拥抱存算分离。
各位小伙伴们大家好，我们又见面啦~ 上一期的《你问我答》中 我们的专家解答了大伙对于腾讯大数据团队的开源项目，以及技术实践等方面的一些疑问 与此同时，我们在后台收到了更多的问题 所涉及的话题和专业领域也更加广泛 遗憾的是，由于篇幅限制 我们每期只能挑选5个问题进行答复 没有被选上的小伙伴也不要灰心 本栏目将继续进行下去 大家有任何关于ABCD（人工智能、大数据、云计算、数据库）领域的疑问 或者在工作中遇到了难以解决的相关技术问题 尽管在文章下方留言 您的问题越难，就越有可能得到专家的答复哦！ （
特来电新能源有限公司是创业板第一股特锐德（300001）的全资子公司，主要从事新能源汽车充电网的建设、运营及互联网的增值服务。特来电颠覆了传统充电桩的模式，世界首创了电动汽车群智能充电系统，获得 336 项技术专利，以“无桩充电、无电插头、群管群控、模块结构、主动防护、柔性充电”的特点引领世界新能源汽车充电的发展，系统的鉴定结论为：“产品世界首创、技术水平国际领先。主动柔性充电对电池寿命可以延长 30% 左右，电池充电的安全性可以提升 100 倍以上。”
内容来源：2018 年 10 月 20 日，源数据库论坛（ODF）发起人周彦伟在“ODF走进名企之贝壳技术沙龙-数据库存储技术的多元应用”进行《使用ArkControl实现MySQL运维体系建设》的演讲分享。IT 大咖说（微信id：itdakashuo）作为独家视频合作方，经主办方和讲者审阅授权发布。
大数据是一个大的数据集合，通过传统的计算技术无法进行处理。这些数据集的测试需要使用各种工具、技术和框架进行处理。大数据涉及数据创建、存储、检索、分析，而且它在数量、多样性、速度方法都很出色，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
这几年的大数据热潮带动了一激活了一大批hadoop学习爱好者。有自学hadoop的，有报名培训班学习的。所有接触过hadoop的人都知道，单独搭建hadoop里每个组建都需要运行环境、修改配置文件测试等过程。对于我们这些入门级新手来说简直每个都是坑。国内的发行版hadoop那么多，似乎都没有来填这样的坑？不知道是没法解决，还是没有想到？
左边子节点的数据小于父节点数据，右边子节点的数据大于父节点数据。如果col2是索引，查找索引为89的行元素，那么只需要查找两次，就可以获取到行元素所在的磁盘指针地址。
导语 | ClickHouse 在近几年是大数据分析引擎界的一匹黑马，从默默无闻到一路起飞，在 DB engine Rank 上进入前50名，成为全球数据引擎界耀眼的一颗明星。在全球范围内，ClickHouse 单表查询比其他引擎要快数倍以上，在过去的4年以来未曾有对手。ClickHouse 为什么会这么快？在实际使用当中如何应用这样一个引擎？还有哪些让人振奋和欣喜的feature将会发布？本文由易观CTO、腾讯云TVP 郭炜在 Techo TVP开发者峰会「数据的冰与火之歌——从在线数据库技术，到海
随着企业智能化水平的升级，数据分析变得越来越重要。但是在传统数据处理框架中，OLTP和OLAP两类系统是割裂状态，主要通过ETL把数据从交易型数据库导入到分析型数据库，时延通常是数十分钟到几个小时，甚至是几天，导致数据分析的商业价值大打折扣。
B+ Tree索引类型则是二叉树的升级版，每个节点存的是 <num ，最后存排序的ROWID
企业数字化转型过程中，数据价值被显著放大，大数据应用成为不少企业探索的重点。 从技术上看，大数据业务由于数据体量大，且数据量很多时候呈急速膨胀状态；在进行大数据计算分析时，对资源的需求呈现浪涌式特征，又偶有突发性，因此通过上云充分发挥资源按需使用按需付费的优势，成为了不少企业在探索大数据应用时的常见模式。 这其中，企业在综合考量数据安全性、可扩展、可管理和成本效益等因素后，混合云部署的方式就成为了企业的主流选择。 近日，腾讯云存储高级产品经理贺永红在混合云主题论坛上发表演讲，详解了大数据应用上云的新
最近将公司的solr集群升级到了最新的6.5版本。 之前用了N年的是3点多的版本，那个时候solr还不支持自带的集群，集群方式都是自己实现的。 公司里用的最多的数据库就是mongodb了，大数据量存储，天生集群支持，分片更简单。 mongodb唯一不足的就是全文检索的能力，不过大部分公司都是用的搜索框架来单独提供搜索服务的。 下面介绍下mongodb怎么结合solr或者es来做搜索。 建索引方案一 solr或者es部分只存储需要搜索的索引和数据的主键ID。比如根据标题搜索，那么只建立标题索引。存储部分只存主
本文节选自《基础软件之路 - 企业级实践及开源之路》一书，该书集结了中国几乎所有主流基础软件企业的实践案例，由 28 位知名专家共同编写，系统剖析了基础软件发展趋势、四大基础软件（数据库、操作系统、编程语言与中间件）的领域难题与行业实践以及开源战略、生态建设与人才培养。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
