作者 | 贾瓅园 金融行业作为国民经济的命脉和枢纽,对数据库有着极为严苛的要求。近年来,国产金融级分布式数据库迈上了发展的快车道,在多个领域不断取得新突破。...今天为大家带来腾讯云金融行业架构专家贾瓅园老师在金融级架构方面的分享,主题为“国产金融级分布式数据库在金融核心场景的探索实践”。...3 金融级分布式数据库架构探索 根据上述分析与要求,结合分布式数据库在金融领域的挑战与痛点,我们在金融级分布式架构体系方面进行了探索。...完善金融级整体解决方案,我们必须要在满足金融级监管要求的同时,满足金融客户各类建设特点,以抽象思路和通用化的设计回归到统一的数据库产品。 深入金融业务场景探索。 打磨高可用和稳定性。...创新金融 DB 级 SaaS 服务。以前述提及的数据迁移体系、运维模式、建设模式为例,它能否对未来的金融级厂商、客户提供专业的数据库金融场景服务,这些都需要我们不断地去创新和探索。
行业背景 银行业从最初的手工记账到会计电算化,到金融电子化,再到现在的金融科技,可以看到金融与科技的结合越来越紧密,人工智能、大数据、物联网、区块链等新兴技术改变了金融的交易方式,为金融行业的创新前行提供了源源不断的动力...同时互联网金融的兴起是一把双刃剑,带来了机遇的同时也带来了挑战。普惠金融使得金融的门槛降低,更多的普通大众参与到金融活动中,这让金融信息系统承受了越来越大的压力。...随着数据库瓶颈的凸显,进行分布式改造迫在眉睫。 数据库分布式改造的途径 数据库进行分布式改造主要有三种途径:分布式访问客户端、分布式访问中间件、分布式数据库。...分布式数据库总体架构 其实当前市面上的分布式数据库总体架构都是类似的,由必不可缺的三个组件组成:接入节点、数据节点、全局事务管理器。...分布式数据库如何实现PITR 数据库的PITR一般都是通过一个基础备份加上持续不间断的wal归档来做到的,这个基础备份可以是在线的,因为它并不需要数据库当时处于一致性状态,一致性可以通过replay redo
朋友问我为啥不更新了,我说天天转发这个转发那个。时间一多大家都烦躁,不如不发,或者发一些自己在项目上的一些问题,最近入职了新的公司,没错,终于找到了工作,太不容...
当时,腾讯有一款金融级的分布式数据库产品TDSQL,其业务场景和对数据库的可靠性要求,和银行场景非常类似。...微众银行和腾讯TDSQL团队合作,共同将TDSQL打造为适合银行核心场景使用的金融级分布式数据库产品,并将TDSQL用于微众银行的核心系统数据库。本文是对整个实践历程的总结。...从过往经验来看,当时除了oracle等少数传统的商业数据库,能满足金融级银行场景的数据库产品并不多。...1.TDSQL架构介绍 TDSQL是基于MySQL/Mariadb社区版本打造的一款金融级分布式数据库集群方案。...微众银行通过实践证明,TDSQL作为金融级的核心数据库,是完全胜任的。
金融行业正常业务范围概括起来主要有以下四大部分,分别是银行业,证券业,保险业及其他金融服务。其中银行业包括中央银行,商业银行,其他银行。证券业主要有股票、债券、期货及其他有价证券的投资交易活动。...其他金融业务是上述三种业务之外的业务,主要有金融信托、金融管理、金融租赁、财务公司、邮政储蓄、典当以及其他未列明的金融活动。...在这样的信息化背景下,金融行业紧跟潮流,在信息化设备采购上一直保持着国际先进水平,但仅保持硬件及软件系统的先进性还是不够的。...数据库作为金融行业信息系统的核心和基础,承载着越来越多的关键业务系统,整个业务流程过程中的操作、数据的变更、新增、删除都存储在数据库中,保存着客户的个人资料以及资金等各类信息。...针对网络中的威胁,金融行业也采取了很多防御措施,比如在金融信息系统最外层部署了网络防火墙,在应用层部署了IDS、IPS、WAF、堡垒机等一系列安全产品,在客户终端上也部署了相应的防病毒软件,但在数据库层面安全措施做得不够
GreatSQL由万里数据库发起、主导、维护,也欢迎广大MySQL使用者、爱好者下载使用,或者提交代码、issue等。 1....而GreatSQL已经有效解决了绝大多数较严重的问题,可以更放心地在金融级应用场景使用MGR架构。 2....GreatSQL的优势及展望 在金融级应用场景中,对数据的可靠性和架构的容错性要求都更高,对多数据中心甚至多活都有较高需求。为此,GreatSQL未来会在以下几方面着重发力。...2.1 增加更多金融级场景需求特性 增加地理标签功能。当在多机房部署MGR时,可以保证每个机房中至少有一个节点都参与事务认证,确保该节点总有最新事务,这可用于解决多机房数据同步的问题。...其他更多企业级特性展望 未来我们还计划将一部分企业级特性也开放出来,包括且不仅限于国产化硬件适配、等保合规、安全加密、Oracle兼容等众多特性。 3.
例如:金融机构对安全性要求最高,在数据库灾备建设的各项要求上非常严格,一般核心业务系统会采用热备模式,通过三地五中心的异地多活方案来保证高可用,给予业务系统多重保障;而中小型企业主要保护业务、办公、管理文档数据...一方面,天翼云借鉴国际国内灾备标准,进一步细化灾备指标,添加库级读写分离、表级双写双读、行级双写双读等能力,让数据库灾备标准更加优化,有法可依。...这一要求也达到了金融领域分布式数据库灾难恢复的能力标准。...正是基于金融级高可用能力,天翼云TeleDB从层层选拔中脱颖而出,成功实现了健康码系统主中心和双活中心的切换:当新增资源池间互联电路中断或出现双活中心整体故障时,主中心业务完全不受影响,数据库集群将自动感知到双活中心发生故障...天翼云TeleDB作为云服务“国家队”,不断加快关键核心技术自主攻关,走出了一条引领国产化数据库高速发展之路,其历经十年打磨出的天翼云TeleDB系列产品,核心技术完全自主可控,其容灾方案展现出的金融级高可用标准
hrd7lij4yf.jpg] 第一章,产品简介以及适用场景 第二章,TDSQL架构分析及模块介绍 第三章,数据一致性保障 第四章,分布式TDSQL实践 第五章,数据同步与备份 一、TDSQL是什么:腾讯如何打造一款金融级分布式数据库...我们开始把这个高可用的数据库产品化。到2012年,TDSQL的雏形就已经出来了,作为一款内部产品,开始在公司内部提供金融级的数据强一致性、可靠性服务。...在金融场景,你没有办法去估量——假如错一条数据,到底这条数据是1分钱还是1个亿,所以数据强一致是我们最根本的一个特性。不允许丢,不允许错,这是对数据库起码的要求。 第二是金融级高可用。...第五点是企业级安全。金融数据是敏感的,一些敏感的金融数据需要在当前数据基础上再做一层更高级别的企业安全防护,比如数据库防火墙,以及透明加密,等等。...三、TDSQL金融级特性之:数据强一致性保障 前面我们了解了TDSQL的整体架构和核心特性。接下来我们要重点聊一聊它最重要的特性——作为金融场景下不可或缺的数据强一致性的保障。
实际上,腾讯推出的 TDSQL(TencentDistributed SQL) 金融级分布式数据库,在对内支撑微信红包业务的同时,对外也正在为中国金融行业技术自主可控分布式数据库解决方案 作为国内首家互联网银行...目前 TDSQL 已正式通过腾讯金融云对外输出金融级分布式数据库产品服务,除了微众银行,腾讯分布式数据库 TDSQL 还支撑着华通银行、华夏银行、潍坊银行、内蒙金谷农商银行、北京人寿、爱心人寿等众多银行和保险公司的互联网核心生产系统...并已经为超过 500+ 的政企和金融机构提供数据库的公有云及私有云服务,客户覆盖银行、保险、证券、互联网金融、计费、第三方支付、物联网、互联网 +、政务等领域,得到了客户及行业的一致认可。...所以,从 08 年开始,团队决定重构 TDSQL 解决方案,针对金融类业务的特点,列出以下几个要点: 数据强一致的要求 数据库集群的可用性、稳定性和容灾要求要达到银行标准 业务无需拆分超大表,数据库自动拆分...金融业务的数据库发展及展望 金融业务涉及国计民生的重点业务,一个小小的 BUG,一个操作失误,就可能影响到数以万计的百姓资产准确性。正因为这样的责任,腾讯云 TDSQL 团队始终坚守则“本心”。
在金融行业来说,数据库作为最核心的基础组件之一,要求它能够安全运行和保障数据安全,这是一个刚需。另外,数据库服务本身的高可用,是我们实现整个对外数据服务连续性的最重要的基石。...TiDB 的金融级备份及容灾之道 TiDB 经常这么多年的积累和逐渐完善,在整个分布式数据库的容灾和灾备的领域,我们达到了金融生产级的要求。...但光有上述方案是不不够的,PingCAP 对于自身产品的要求是非常严格的,既然是要达到金融生产级的要求,除了要有对应的技术方案、对应的技术实现之外,必须为产品本身提供专业的分布式测试的体系和手段。...任何中心级失效,都会由另外两个中心来立刻进行故障的转移,以及对外继续提供正常的数据库服务。...、证券等金融客户提供完善的、可靠的、放心的、金融级的分布式数据库服务。
image.png 第一章,产品简介以及适用场景 第二章,TDSQL架构分析及模块介绍 第三章,数据一致性保障 第四章,分布式TDSQL实践 第五章,数据同步与备份 一、TDSQL是什么:腾讯如何打造一款金融级分布式数据库...我们开始把这个高可用的数据库产品化。到2012年,TDSQL的雏形就已经出来了,作为一款内部产品,开始在公司内部提供金融级的数据强一致性、可靠性服务。...在金融场景,你没有办法去估量——假如错一条数据,到底这条数据是1分钱还是1个亿,所以数据强一致是我们最根本的一个特性。不允许丢,不允许错,这是对数据库起码的要求。 第二是金融级高可用。...第五点是企业级安全。金融数据是敏感的,一些敏感的金融数据需要在当前数据基础上再做一层更高级别的企业安全防护,比如数据库防火墙,以及透明加密,等等。...四、TDSQL金融级特性之:数据强一致性保障 前面我们了解了TDSQL的整体架构和核心特性。接下来我们要重点聊一聊它最重要的特性——作为金融场景下不可或缺的数据强一致性的保障。
前几天有小伙伴问关于 miRNA 的数据库,由于 miRNA 相关的数据库太多了,要是分开介绍的话估计要好久好久。...幸好,有人已经把 miRNA 相关的数据库整理好了,我们只需要基于自己的目的进行查找就可以找到相对应的数据库,然后进行使用就行了。...我们需要做的就是,通过里面的描述来进行数据库筛选。 ? 数据库总结 这个数据库的使用基本上就是这样的,剩下的,就是我们基于出来的内容去选择自己想用的数据库了。...对于数据库的选择建议还是: 选择发表日期近的数据库,这样的数据库至少里面包含的数据肯定会比之前发表的多。 选择被引次数多的数据库,这样被引的多说明相对来说比较权威。...这类总结其他数据库的网站,最怕的还是不更新了,这样的话,那我们也就检索不到最新的数据库了。但是这个数据库上面,写了最近的更新是最近,所以应该还是一个时常更新的数据库的。
上述方案确保了TDSQL无任何数据异常,且具备高性能的可扩展性,解决了分布式数据库在金融级场景应用的最核心技术挑战,使得国产分布式数据库实现在金融核心系统场景的可用、好用,进而推动国产基础软件产业化。...在WOT全球技术创新大会2022的腾讯云数据库专场中,腾讯云数据库专家架构师汪泗龙分享了金融级分布式数据库TDSQL的一致性技术及应用实践,以下为详情内容: TDSQL产品介绍 1.1 发展历程...腾讯云数据库TDSQL诞生自腾讯内部百亿级账户规模的金融级场景。...在经过公有云的海量数字化、大规模高并发业务场景打磨以及内核级的深度自研优化后,TDSQL逐渐形成标准化的国产分布式数据库产品,包括金融级分布式TDSQL、计算与存储分离的云原生数据库TDSQL-C 等产品...作为领先的国产分布式数据库,TDSQL针对新型企业级信息化以及快速实现国产化的转型升级需求,具备数据强一致、金融级高可用、高性能低成本、线性水平扩展、企业级安全、便捷智能运维等核心特性。
TDSQL是腾讯云自主研发的企业级分布式数据库,直到今天整个TDSQL的产品家族已经为2000+家客户提供了数据库服务,覆盖政务、银行、保险、游戏、电商、互联网等多种行业。...比赛链接:Change SQL-腾讯云数据库TDSQL精英挑战赛 (tencent.com) 1....登录腾讯云 - 控制台 (tencent.com) 在云产品下找到企业分布式数据库->分布式数据库TDSQL image.png 2....根据实际情况选择自己需要的配置购买,不过要参加比赛的朋友可以先报名比赛,后面比赛开始时,会给每个参赛团队发放一定量的优惠卷,所以大家可以不用急着购买,等比赛开始时使用。 image.png 4....由于我暂时也没有收到优惠卷,所以只能拿TDSQL-C的界面给大家分享一下,都是差不多的 image.png 5.
OceanBase是阿里集团研发的可扩展性关系型数据库,实现了数千亿条记录、数百TB数据上的跨行跨表事务。 OceanBase的目标是支持数百TB的数据量以及数十万TPS、数百万QPS的访问量。...一、OceanBase系统架构: 1、客户端:使用OceanBase的方式与MySQL完全相同,支持JDBC、C客户端访问,基于MySQL数据库开发的应用可以直接迁移至OceanBase。...三、OceanBase扩展 OceanBase融合了分布式存储系统和关系型数据库这两种技术,UpdateServer相当于一个高性能内存数据库,底层采用关系型数据库技术实现,ChunkServer相当于一个分布式文件存储系统...四、存储介质对比 类别 每秒读写(IOPS)次数 每GB价格(元) 随机读取 随机写入 内存 千万级 150 友好 友好 SSD盘 35000 20 友好 写入放大问题 SAS磁盘 180 3 磁盘寻道
社会级的数字化转型也在催生更多的场景化金融需求和金融连接,需要更加具有灵活聚合能力的开放架构特征的银行业务系统,面向未来的超级自动化、智能决策、普惠金融、绿色金融,核心系统已经到了必须要升级的时候了。...为了做好行业级、跨行业的连接,还需要持续推广金融业务和金融科技的标准化,所以,银行的数字化转型早已超越了单个银行的范畴,成为一场生产方式的行业级变化。 这些方向要如何实现呢?...”,通过“金融级云原生工场”将业务标准化、结构化、模块化,形成灵活的业务中台;将数据要素资产化、服务化,形成高效的数据中台;将技术底层化,形成封装的技术中台。...通过“金融级云原生工场”落地企业级中台架构,让技术透出到业务,支撑业务战略的实现,让银行核心系统改造之路可以适合各类金融机构,不再难走。...“金融级云原生工场”融合了多年的互联网敏捷实施经验,代入了对企业级架构的本土特色实践,结合了金融行业核心系统改造探索,既有技术能力做依托,又有转型方法论做指引,更能基于行业级标准化逐步演变成为全行业共创的国内银行数字化转型模式
本文在数据库技术发展趋势下,结合金融行业特点,阐述金融企业如何做到数据库自主创新。在正式展开之前,先谈谈对“自主创新”的理解。...1).数据库自主创新关键因素 ❖ 供应链安全 近期的诸多事件,给我们带来颇多启示,需要更加关注国家级技术供应链的安全问题。...❖ 金融合规需求 金融业,作为数据密集型行业,大量业务依赖于数据的产生与流转。因而金融业对交易与数据的承载者—数据库,提出非常高的要求,诸如数据库的稳定性、可靠性等。...这些都对金融企业如何使用好数据库、乃至如何掌控这一技术栈的发展提出了更高要求。 2).上层引导,国家政策解读 除了上述因素外,作为金融监管方,国家积极鼓励金融业技术自主创新。...国产数据库经历多年的打磨,已具备成熟、可持续发展的生态,在银行、保险、证券等金融行业有许多成功案例,其中包括银行核心系统案例,其稳定性、可靠性已得到验证,可以满足金融级数据库的要求。
日前,《中国金融科技发展报告(2023)》由社会科学文献出版社正式出版发行,在《报告》的“数据库在金融领域的发展与应用”章节中,整体介绍了中国农业银行基于TDSQL数据库构建新一代分布式信用卡核心系统的实践案例...,为金融核心系统应用国产分布式数据库提供参考借鉴。...实现了数据库秒级监控和智能化运维,可以针对SQL运行的全流程耗时进行分析优化,实现数据库全链路分析。...农业银行新一代分布式核心系统是国有大行中首家通过使用数据库原生分布式能力支撑新核心系统建设的案例。...基于腾讯云TDSQL数据库的分布式核心数据库底座,农业银行已经投产了客户信息和信用卡核心系统,目前正有序推进个人负债、投资理财、公司业务、信贷产品等分布式核心产品应用建设,其分布式实例规模业界领先。
其持久化层本质上是一个“按照分布式事务日志架构的大规模发布/订阅消息队列”,[这使它作为企业级基础设施来处理流式数据非常有价值。...kafka的术语 topic(主题): 用来对消息分类,每一个进入kafka的消息都会被放入某一个topic下 通俗理解一下:比如说是我们的业务系统有一个流程是,顾客买了东西需要给顾客发送一个电子优惠卷...,将发优惠卷和完成这个订单流程我们做一个异步操作,我们使用kafka 将这个订单的消息发给kafka,发优惠卷模块来消费这个队列。...那这个发优惠卷订单消息都在同一个topic里。...例如,关系数据库的连接器可能会捕获对表的所有更改 ?
日前,《中国金融科技发展报告(2023)》由社会科学文献出版社正式出版发行,在《报告》的“数据库在金融领域的发展与应用”章节中,整体介绍了中国农业银行基于TDSQL数据库构建新一代分布式信用卡核心系统的实践案例...,为金融核心系统应用国产分布式数据库提供参考借鉴。...易运维性 实现了数据库秒级监控和智能化运维,可以针对SQL运行的全流程耗时进行分析优化,实现数据库全链路分析。...基于腾讯云TDSQL数据库的分布式核心数据库底座,农业银行已经投产了客户信息和信用卡核心系统,目前正有序推进个人负债、投资理财、公司业务、信贷产品等分布式核心产品应用建设,其分布式实例规模业界领先。...﹀ ﹀ ﹀ -- 更多精彩 -- 腾讯云助力富邦华一银行新核心系统群全面上线 2023年度十佳课题成果专题:腾讯云TDSQL助力分布式数据库混沌能力建设 中信信托和腾讯云荣获2023“星河”数据库标杆案例奖
领取专属 10元无门槛券
手把手带您无忧上云