最近数据库行业还是发生一些事情，例如：NebulaGraph获得获得数千万美元的A轮融资，Oracle将在AWS支持MySQL HeatWave服务，VLDB 2022在悉尼举行，来自中国多篇成果被接收，等等，查看原文
OLAP 是一个很卷的赛道，创业公司也众多。在本文中，笔者基于 10+ 年的大数据与数据仓库的工作经验，就目前的主流趋势：离在线一体化、引擎一体化、云原生化等写一些思考，抛砖引玉，希望能与各位共同探讨。
作为云原生技术先驱，腾讯云数据库内核团队致力于不断提升产品的可用性、可靠性、性能和可扩展性，为用户提供更加极致的体验。为帮助用户了解极致体验背后的关键技术点，本期带来腾讯云数据库专家工程师王鲁俊给大家分享的腾讯云原生数据库TDSQL-C的架构探索和实践，内容主要分为四个部分： 本次分享主要分为四个部分： 第一部分，介绍腾讯云原生数据库 TDSQL-C 产品架构，包括产品的研发背景和架构主要特性； 第二部分，分享用户场景实践，针对线上真实的用户场景做一些分析和针对性实践； 第三部分，分享系统关键优化； 第四部
日前，第11届PostgreSQL中国技术大会圆满落幕，大会上腾讯云多位顶级技术达人携手亮相，分别对腾讯云PostgreSQL系列产品技术亮点和创新实践案例进行了深入解读，针对TDSQL-C PostreSQL高可用特性、TDSQL-A发展历程、技术架构等做出了详细介绍。 会上腾讯云数据库开源产品TDSQL PostgreSQL版（开源代号Tbase）再次公布升级：分区表能力增强，分区剪枝性能提升30%，分布区表关联查询性能（Join）提升超十倍。此外，异地多活易用性增强、分布式死锁自动检测并解锁功能上线
通过阿里云数据传输，并使用 dts-ads-writer 插件， 可以将您在阿里云的云数据库RDS for MySQL中数据表的变更实时同步到分析型数据库中对应的实时写入表中（RDS端目前暂时仅支持MySQL引擎）。 前提条件 您需要在您RDS for MySQL所在的云账号下开通阿里云数据传输服务。并 点击此处 下载dts-ads-writer插件到您的一台服务器上并解压（需要该服务器可以访问互联网，建议使用阿里云ECS以最大限度保障可用性）。服务器上需要有Java 6或以上的运行环境（JRE/JDK）。
各位小伙伴们大家好，我们又见面啦~ 上一期的《你问我答》中 我们的专家解答了大伙对于腾讯大数据团队的开源项目，以及技术实践等方面的一些疑问 与此同时，我们在后台收到了更多的问题 所涉及的话题和专业领域也更加广泛 遗憾的是，由于篇幅限制 我们每期只能挑选5个问题进行答复 没有被选上的小伙伴也不要灰心 本栏目将继续进行下去 大家有任何关于ABCD（人工智能、大数据、云计算、数据库）领域的疑问 或者在工作中遇到了难以解决的相关技术问题 尽管在文章下方留言 您的问题越难，就越有可能得到专家的答复哦！ （
前面我们在介绍TCGA数据库数据挖掘的时候，课程中使用了人了所有miRNA的ID号。
摘要：MySQL在充分利用多核计算资源方面比较欠缺，无法同时满足在线业务和分析型业务的客户需求，而单独部署一套专用的分析型数据库意味着额外的成本和复杂的数据链路。本次主题将介绍腾讯云数据库为满足此类场景而在HTAP for MySQL产品方面进行的尝试。
Online DDL一直是MySQL数据库的一个痛点,好在官方和社区都有不错的解决方案。这些方案大致有以下几个：
6月20-25日，数据库国际顶会2021 ACM SIGMOD在西安举行。本届大会上，腾讯云数据库技术总监邱敏带来了主题为“腾讯云数据库技术演变之路”的演讲。 演讲视频 以下为演讲内容的文字实录： 数据库是三大基础软件之一。近年来，腾讯也在不断加强各类数据库产品的研发投入。企业级分布式数据库TDSQL是腾讯云数据库的代表性产品，同时具备OLTP、OLAP，以及混合OLTP和OLAP的HTAP能力。它包括以下几个系列的产品： 企业级MySQL即腾讯云数据库RDS系统(CDB)，相对原生MySQL进行
存算分离，现在已经成为云原生数据库的标配， 开始大规模流行。存算分离后， 进一步使计算单元和存储单元解耦，每个单元可以实现单独的动态扩缩容，并且可以通过冗余配置，实现对单点故障的容忍度， 可以说是近年来数据库市场上的一大进步。
在刚刚结束的 PingCAP 用户峰会 2023 上，PingCAP 创始人兼 CEO 刘奇分享了题为“创新涌动于先”的演讲， 全面解析了 AI 时代 TiDB 的演进方向，宣布 TiDB Serverless 正式商用，并携手用户代表发布了面向中国企业级用户的平凯数据库 。以下是演讲实录全文，阅读需约 8 分钟。
A云Polardb-x 1.0现已全面升级为Polardb-x 2.0，但Polardb-X 1.0有其自有特色，仍然有很多企业在使用Polardb-X 1.0方案。那么，当这些企业想将业务系统迁移至腾讯云时，该如何进行数据库选型？怎么样进行数据同步？其中又会涉及到哪些问题呢？
数据库这个行业是越来越有意思，参与的PEOPLE 是人山人海，锣鼓喧天，鞭炮齐鸣。 商业数据库 ，开源数据库，国产的数据库， 云原生的数据库 ，云RDS 数据库，已经不是百花齐放的，是星空璀璨。
前面文章中，我们用Kettle工具实现了Hadoop多维数据仓库的基本功能，如使用Sqoop作业项、SQL脚本、Hadoop file output、ORC output等步骤实现ETL过程，使用Oozie、Start作业项定期执行ETL任务等。本篇将继续讨论常见的维度表技术，以最简单的“增加列”开始，继而讨论维度子集、角色扮演维度、层次维度、退化维度、杂项维度、维度合并、分段维度等基本的维度表技术。这些技术都是在实际应用中经常使用的。在说明这些技术的相关概念和使用场景后，我们以销售订单数据仓库为例，给出Kettle实现和测试过程。
本文根据刘迪在【第十三届中国数据库技术大会（DTCC2022）】线上演讲内容整理而成。
本文介绍了在技术社区中，如何从技术角度、业务角度、架构角度、运维角度等多个维度出发，进行社区技术内容的分类、规划、建设、管理、优化，并阐述了在此过程中的技术选型和社区机制建设。同时，本文还分享了基于机器学习和数据挖掘的技术内容管理方法，以及面向知识图谱、智能问答、科技情报等场景的技术实践。
DTS 作为数据交互引擎，以其高效的实时数据流处理能力和广泛的数据源兼容性，为用户构建了一个安全可靠、可扩展、高可用的数据架构桥梁。云数据库 SelectDB 通过与 DTS 联合，为用户提供了简单、实时、极速且低成本的事务数据分析方案。用户可以通过 DTS 数据传输服务，一键将自建 MySQL / RDS MySQL / PolarDB for MySQL 数据库，迁移或同步至云数据库 SelectDB 的实例中，帮助企业在短时间内完成数据迁移或同步，并即时获得深度洞察。
从 2009 年到 2021 年，从千万交易额到千亿交易额，双 11 已经开展了 12 年。如今，每年的双 11 以及一个月后的双 12，已经成为真正意义上的全民购物狂欢节。刚刚过去的 2021 年双 11，就有超过 8 亿消费者参与。
今天把应用部署到AWS上发现后台修改内容提交后程序报错，经过排查发现是更新数据的时候，有张数据表中的一个timestamp类型的字段默认值变成了"0000-00-00 00:00:00.000000"格式，导致解析失败造成的。
来源：https://www.jianshu.com/p/336f682e4b91
一、增加列 数据仓库最常碰到的扩展是给一个已经存在的维度表和事实表添加列。本节说明如何在客户维度表和销售订单事实表上添加列，并在新列上应用SCD2，以及对定时装载脚本所做的修改。假设需要在客户维度中增加送货地址属性，并在销售订单事实表中增加数量度量值。 先看一下增加列时模式发生的变化。 修改后源数据库模式如下图所示。
使用阿里云rds for MySQL数据库（就是MySQL5.6版本），有个用户上网记录表6个月的数据量近2000万，保留最近一年的数据量达到4000万，查询速度极慢，日常卡死。严重影响业务。
版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/wzy0623/article/details/51943736
今天下午，线上阿里云RDS的本地只读从库宕机了，还好，这个个服务器上的数据库实例只是提供了一部分的读需求，很快就复原了，但是上面所有的数据库实例都down掉了，启动实例并保证主从复制关系迫在眉睫。这个过程中发现有一个主从复制的问题值得研究一下，虽然最后我解决了，但是具体的原因没有找到，还请大家帮忙看看，也算是集思广益了，如果某一天找到原因了，再回来更新一下。
上一篇详细讲解了如何用Canal和Kafka，将MySQL数据实时全量同步到Greenplum。对照本专题第一篇中图1-1的数据仓库架构，我们已经实现了ETL的实时抽取过程，将数据同步到RDS中。本篇继续介绍如何实现后面的数据装载过程。实现实时数据装载的总体步骤可归纳为：
单个物理维度可以被事实表多次引用，每个引用连接逻辑上存在差异的角色维度。例如，事实表可以有多个日期，每个日期通过外键引用不同的日期维度，原则上每个外键表示不同的日期维度视图，这样引用具
随着云计算的普及和数据分析需求的扩大，数据湖+数据仓库的湖仓一体分析能力成为下一代数据分析系统的核心能力。相对于数据仓库，数据湖在成本、灵活性、多源数据分析等多方面，都有着非常明显的优势。IDC发布的十项2021年中国云计算市场趋势预测中，有三项和数据湖分析有关。可以预见，跨系统集成能力、数据控制能力和更加全面的数据驱动能力，将会是未来数据分析系统重要的竞争领域。
客如云成立于 2012 年，是全球领先、 国内最大的 SaaS 系统公司。 目前面向餐饮、 零售等服务业商家， 提供软硬一体的新一代智能化前台、收银等 SaaS 云服务，包括预订、排队、外卖、点餐、收银、会员管理、进销存等系统服务，并将数据实时传达云端。我们是客如云的大数据基础架构组，负责公司的大数据架构和建设工作，为公司提供大数据基础数据服务。
在一个风和日丽的下午，姜同学正在研究动态规划算法，突然被临时传递了一个需求，大致就是测试的同学想要做自动化测试。具体的细节略过，姜同学认为需求还比较合理，可以做。要求如下： ● 无损备份线上数据库到文件 ● 支持表级备份 ● 支持字段脱敏 ● 支持版本管理 ● 支持一键还原
随着问问题的同学越来越多，公众号内部私信回答问题已经很困难了，所以建立了一个群，关于各种数据库的问题都可以，目前主要是 POSTGRESQL, MYSQL ,MONGODB ,POLARDB ,REDIS 等，期待你的加入，加群请添加微信liuaustin3.
将现有应用程序迁移到 Citus 有时需要调整 schema 和查询以获得最佳性能。 Citus 扩展了 PostgreSQL 的分布式功能，但它不是扩展所有工作负载的直接替代品。高性能 Citus 集群需要考虑数据模型、工具和所使用的 SQL 功能的选择。
业界比较认可的几个分类：SAAS、PAAS、IAAS 1、SAAS（软件即服务） 就是提供一种软件池，池中包括这样那样的内容，就像水电一样可以自由取送，然后按量收费，这是saas的一个宗旨。 saas具有的几个特点： 1）按需使用，客户根据自身的需求来决定使用多少服务以及服务的时间长短。 现在很多公司都提出了这种模式，以租用的方式来销售软件，云邮件，云呼叫等，客户不必关心最终的服务是由什么开发，无论是java，.net，php，只需知道交纳费用就可以享受相应的服务，这就是saas的一个最大的特点。 2）能够
从传统关系型数据库到云数据库，数据库在不断演进。与此同时，它也发挥着越来越重要的作用。从云计算、新媒体、音视频、云游戏到移动 App，几乎各行各业都离不开数据库。一方面，数据库作为 IT 基础设施的关键一环，对企业业务的发展起着支撑作用；另一方面，数字化在经济社会中不断深入，数据成为核心要素，围绕数据的生产、存储和消费均依赖数据库。
版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/wzy0623/article/details/51783410
版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/wzy0623/article/details/51804557
导语 | 数据库正处在变革期，变革的动力同时来自于外因和内因，外因是用户需求的变化，内因是新技术的爆发。用户需求从强调物理上拥有数据到逻辑上拥有数据，因此云服务的形式被越来越广泛地接受；新技术的爆发体现在新的存储介质的产品化。腾讯云原生数据库就是这种变革的产物，腾讯云原生数据库以云服务的方式提供更好的数据库性能，可用性和可靠性。本文由腾讯云数据库技术总监 张青林在 Techo TVP开发者峰会「数据的冰与火之歌——从在线数据库技术，到海量数据分析技术」 的《腾讯云TDSQL-C架构探索和实践》演讲分享
OceanBase 4.3 正式推出列存功能，打造满足实时分析业务的列存能力。本文将作为《列存能力深入剖析解读》的延伸，进一步探讨列存在 OceanBase 数据库架构中应用和演进，以及未来的发展方向。
本文通过分析2023年5月15日的腾讯财报数据，从多个方面揭示了腾讯在2023年5月15日所呈现的财务、经营和战略状况。
我们都知道，随着业务量的增长，数据量也会随之增加，这个时候就需要关注业务大表，因为大表会影响查询性能，DDL变更时间很长，影响业务的可用性，同时导致从库延迟很大，如果业务做了读写分离，导致用户重复操作产生脏数据，例如重复下单。
这两年一直在做MySQL迁移到PolarDB for MySQL的问题，基本上是迁移一个项目反馈都是好的，优秀的，没有马失前蹄，终于在昨天掉进了陷马坑，MySQL 迁移到 POLARDB FOR MYSQL 后报表任务无法运行，业务强制回滚了。
版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/wzy0623/article/details/80269362
云数据库rds属于关系型数据库，是比较稳定可靠，可弹性伸缩的在线数据库服务，支持多种引擎，可以提供备份，恢复，迁徙等方面的服务，所以在现在的很多场景中都有很好的应用。那么云数据库rds怎么用？云数据库RDS的优势是什么？
云数据库rds是什么？这个问题是很多人都想了解的问题，因为大多数人对于云数据库rds并不是很了解，因为大多数人还停留在自建数据库这种意识上，并没有真正地了解到云数据库的优势，以及云数据库未来的发展趋势，也连带着大家对于云数据库RDS不是很了解。那么接下来就为大家简单说一下云数据库rds是什么？有哪些优势？
本篇介绍如何利用Kettle提供的转换步骤和作业项实现Hadoop数据仓库的数据抽取，即ETL过程中的Extract部分。首先简述Kettle中几种抽取数据的组件，然后讲述变化数据捕获（Change Data Capture，CDC），以及Kettle如何支持不同的CDC技术。Hadoop生态圈中的Sqoop工具可以直接在关系数据库和HDFS或Hive之间互导数据，而Kettle支持Sqoop输入、输出作业项。最后我们使用Kettle里的Sqoop作业项以及基于时间戳的CDC转换实现销售订单示例的数据抽取过程，将MySQL中的源数据抽取到Hive的rds数据库中。
安装驱动 本教程使用了定制的 cnpm 命令进行安装： $ cnpm install mysql 连接数据库 在以下实例中根据你的实际配置修改数据库用户名、及密码及数据库名： test.js 文件代码： var mysql = require('mysql'); var connection = mysql.createConnection({ host : 'localhost', user : 'root', password : '123456', datab
在进行数据库操作前，你需要将本站提供的 Websites 表 SQL 文件websites.sql 导入到你的 MySQL 数据库中。
导读：余额宝开启了划时代的意义，开启了全民理财时代。上个月微博商业产品部联合天弘基金等金融技术团队策划了首届互联网金融系统沙龙，围绕在互联网金融过程中碰到技术架构问题与业界展开分享及交流。本文是陈雨在沙龙上的演讲，授权高可用架构首发。
近日，腾讯云原生数据库 TDSQL-C 发布列存索引（Column store Index）能力，这一企业级特性将大幅提高用户在使用数据库进行复杂查询时的速度，并降低数据存储空间的使用。
云数据库的RDS 产品，在传统开源的系列里面大致可以选择的是 POSTGRESQL 和 MYSQL 两种，诚然在RDS 的里面大部分产品最终的选择还是MYSQL ，今天不想讨论产品的量，而是想讨论以下产品的难度，RDS 产品在 POSTGRESQL 和 MYSQL 两种产品的难度问题。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
腾讯会议
实时音视频
