针对这个报错，我们首先要考虑是不是在从库中误操作导致的。结果发现，我们在从库中进行了一条针对有主键表的 sql 语句的插入，导致主库再插入相同 sql 的时候，主从状态出现异常。发生主键冲突的报错。
在一次正常的活动促销之后，客服开始陆续反馈有用户反应在抢标的时候打不开网页或者APP，在打开的时候标的就已经被抢光了，刚开始没有特别的上心，觉得抢标不就是这样吗，抢小米手机的时候也不就这样吗？随着活动继续推进，有更多的用户强烈抗议，用户领了加息卷或者抵现卷之后抢不上标的，认为是平台作假故意不让使用以达到节省资源。 分析过程 其实以前也会有陆续的用户反馈不减少，给客户以小米抢手机为例子忽悠了过去，这次用户反馈太过强烈，才让我们重视了起来。我们前端一共三款产品，app、官网、H5，其中app使用量最大，官网其次
在高并发下,为了解决带宽问题,全站必须做前后分离操作,所有前端资源都可进行cdn代理,进行缓存静态资源,分散服务器带宽压力.
MYSQL 的监控其实说简单也简单，说不简单也不简单，我们现在上百台MYSQL使用的监控方式一部分来自于 Pmm, 此次新项目上线后，8.X开始大量部署，并且PROXYSQL 中间件也大量的被使用，所以PMM2 自然成为监控数据库系统的一部分。
redis是Nosql数据库中使用较为广泛的非关系型内存数据库，redis内部是一个key-value存储系统。它支持存储的value类型相对更多，包括string(字符串)、list(链表)、set(集合)、zset(sorted set –有序集合)和hash（哈希类型，类似于Java中的map）。Redis基于内存运行并支持持久化的NoSQL数据库，是当前最热门的NoSql数据库之一，也被人们称为数据结构服务器。
本文讲述了一位互联网金融公司技术团队的架构师在负责抢标活动过程中，通过优化Web服务器、数据库服务器以及应用服务器等基础设施，解决了高并发问题，并实现了抢标活动的顺利进行。通过采用分布式架构以及缓存技术，解决了数据库压力过大、请求响应慢等问题，提高了系统的稳定性。同时，采用负载均衡技术，提升了系统的处理能力，最终实现了平台的高可用性。
本节内容讲述线上的调优手段以及压力测试的相关工具，结合一些实际的命令参数，我们将会介绍运行结果的具体含义。本节内容为大致的介绍如何压力测试和如何阅读参数，具体的运行效果需要自己部署一台机器测试，关于这部分的内容受到不同的机器影响会出现完全不同的效果，需要实际测试所以没有进行记录。
在高并发流量下,数据库往往是服务端的瓶颈,由于数据库数据需要确保落地,同时保证数据同步,数据即时性,有效性的问题,导致数据库不能像平常后端程序一样负载均衡.
前言 表面看来，JMeter与本系列课程似乎关系不大，但实际上在后面的很多场景中起着重要作用：如何获知修改了某些代码或者设置之后系统性能是提升了还是下降了呢？商业的压力测试工具LoadRunner确实很高大上，但是据说费用也不便宜且体积也不小，而目前最高版本的开源免费压力测试工具JMeter3.2压缩包体积才不到53M，而且对于开发人员而非专业测试人员来说，JMeter提供的测试功能已经够强大了。要完整地介绍JMeter，即使把JMeter自带的文档翻译成中文就是一本厚厚的书了。但是在本篇只讲述如何利用JMeter来对Web网站和数据库进行压力测试，因为测试场景的复杂性，本篇实例讲述基于csv文件的参数化测试。 JMeter提供了对不同的协议、服务器及应用的测试支持，如下： Web – 各种开发语言开发出的网站，比如ASP/ASP.NET/JSP/PHP/Python/Perl等 SOAP / REST Webservices FTP Database via JDBC(基于JDBC对数据库进行压力测试) LDAP Message-oriented middleware (MOM) via JMS Mail - SMTP(S), POP3(S) and IMAP(S) Native commands or shell scripts TCP Java Objects 还是那句话：本篇只讲述对Web网站和基于JDBC对数据库进行压力测试。 软件准备 JMeter3.2：为保持与本文有比较好的对照，建议从官网下载3.2版本，下载地址：http://jmeter.apache.org/[preferred]/jmeter/binaries/apache-jmeter-3.2.zip 此软件解压后即可使用。 Tomcat8.5：本实例中的关于Web网站的压力测试都是基于Tomcat8.5的，下载地址：http://mirror.bit.edu.cn/apache/tomcat/tomcat-8/v8.5.15/bin/apache-tomcat-8.5.15.tar.gz 如果嫌麻烦，可以直接在上一篇《开发人员学Linux(3)：CentOS7中安装JDK8和Tomcat8》的环境中进行。 MySQL Community Server5.7:本篇中将以MySQL为例讲述如何对数据库进行压力测试，实际上本篇对MySQL版本没有要求，但后来今后，还是建议下载5.7版本，下载地址：https://dev.mysql.com/downloads/mysql/，同时请下载MySQL的JDBC驱动。 注意：本篇中JMeter在Windows下运行，MySQL数据库及Tomcat服务器均在CentOS7下运行。 使用JMeter对一般性网站进行压力测试 为便于演示，这里以上一篇《开发人员学Linux(3)：CentOS7中安装JDK8和Tomcat8》中搭建起来的环境进行压力测试，本人的虚拟机支持桥接模式，IP地址为：192.168.60.198，在Tomcat中有一个简单的提交表单，网址是：http://192.168.60.198:8080/examples/servlets/servlet/RequestParamExample，页面如下图所示：
1. 达达系统架构升级经验总结 1.1. 概述 达达是全国领先的最后三公里物流配送平台。达达业务主要包含两部分：商家发单，配送员接单配送。 达达的业务规模增长极大，在1年左右的时间从零增长到每天近
我们可以通过集中式日志服务器将多台机器的日志收集在一个日志服务器，然后通过脚本或者其他方式去分析，但是真正做过运维的小伙伴明白，日子收集在硬盘上，硬盘的空间有限且大文件分析起来IO压力超级大，分析日志需要高超的技术，一般运维人员分析起来会很困难，更无法实时的去查看某个机器的日志。这样的话我们的日志收集就变成了真正意义上的收集了，收集起来如何利用就变成了一个难题，总结一下主要的问题就是以下几点：
上节说到主从复制的一些问题 我们再来回忆一下 主从复制，增加了一个数据库副本，从数据库和主数据库的数据最终会是一致的 之所以说是最终一致，因为mysql复制是异步的，正常情况下主从复制数据之间会有一个微小的延迟 通过这个数据库副本看似解决了数据库单点问题，但并不完美 因为这种架构下，如果主服务器宕机，需要手动切换从服务器，业务中断不能忍受，不能满足应用高可用的要求
https://www.cnblogs.com/along21/p/8011596.html
我之前呆过一家创业工作，是做商城业务的，商城这种业务，表面上看起来涉及的业务简单，包括：用户、商品、库存、订单、购物车、支付、物流等业务。但是，细分下来，还是比较复杂的。这其中往往会牵扯到很多提升用户体验的潜在需求。例如：为用户推荐商品，这就涉及到用户的行为分析和大数据的精准推荐。如果说具体的技术的话，那肯定就包含了：用户行为日志埋点、采集、上报，大数据实时统计分析，用户画像，商品推荐等大数据技术。
很多小伙伴留言说让我写一些工作过程中的真实案例，写些啥呢？想来想去，写一篇我在以前公司从零开始到用户超千万的数据库架构升级演变的过程吧。
达达是全国领先的最后三公里物流配送平台。 达达的业务模式与滴滴以及Uber很相似，以众包的方式利用社会闲散人力资源，解决O2O最后三公里即时性配送难题（目前达达已经与京东到家合并）。 达达业务主要包含两部分：商家发单，配送员接单配送，如下图所示。
买了一台数据库，最大连接数的参数是 4000，看起来很棒！但是 cpu 和内存并不咋好！是 2c4g的超低配制。
如果主从复制之间出现延时，就会影响主从数据的一致性。 此时发生容灾切换，且在新的主库写入了数据，那么从业务角度上，会产生意想不到的严重后果。 复制延时问题，在只读从库的场景下，若从库产生复制延时，也可能会对业务造成一定影响，比如在业务上表现为读写不一致——新增/修改数据查不到等现象。 由此可见，主从复制的延时问题在数据库运营中需要特别关注。一般来说，DBA在库上执行SHOW SLAVE STATUS，并且观察 Seconds_Behind_Master的值，就能够了解当前某个数据库和它的主库之间的数据复制延时。
Apache Hive 是基于 Apache Hadoop 的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并且提供了 Hive SQL 进行查询和分析，在离线数仓中被广泛使用。
一个成熟的数据库架构并不是一开始设计就具备高可用、高伸缩等特性的，它是随着用户量的增加，基础架构才逐渐完善。这篇博文主要谈MySQL数据库发展周期中所面临的问题及优化方案，暂且抛开前端应用不说，大致分为以下五个阶段：
一个成熟的数据库架构并不是一开始设计就具备高可用、高伸缩等特性的，它是随着用户量的增加，基础架构才逐渐完善。这篇博文主要谈MySQL数据库发展周期中所面临的问题及优化方案，暂且抛开前端应用不说，大致分为以下五个阶段： 1、数据库表设计 项目立项后，开发部根据产品部需求开发项目，开发工程师工作其中一部分就是对表结构设计。对于数据库来说，这点很重要，如果设计不当，会直接影响访问速度和用户体验。影响的因素很多，比如慢查询、低效的查询语句、没有适当建立索引、数据库堵塞（死锁）等。当然，有测试工程师的团队，会做压
一个成熟的数据库架构并不是一开始设计就具备高可用、高伸缩等特性的，它是随着用户量的增加，基础架构才逐渐完善。
随着访问量的不断增加，单台MySQL数据库服务器压力不断增加，需要对MYSQL进行优化和架构改造，MYQSL优化如果不能明显改善压力情况，可以使用高可用、主从复制、读写分离来、拆分库、拆分表来进行优化。
基准测试（benchmarking）是性能测试的一种类型，强调的是对一类测试对象的某些性能指标进行定量的、可复现、可对比的测试。
搭建mysql主从的目的是让一台mysql作为主数据库，一台或多台mysql作为从数据库，主数据库只负责数据的写入，从数据库只负责数据的查询（读写分离），且主从数据库是实时同步的，这样就可以减轻单个数据库压力，从而提高项目的并发量。
简单的说就是 master 将数据库的改变写入二进制日志，slave 同步这些二进制日志，并根据这些二进制日志进行数据操作以实现主从同步。
我们在这里开启了 innodb_file_per_table，但这个参数并非本实验所必须，只是为了演示方便。
然后set global sql_slave_skip_counter = 1;跳过一步错误
| 作者 王文安，腾讯CSIG数据库专项的数据库工程师，主要负责腾讯云数据库 MySQL 的相关的工作，热爱技术，欢迎留言进行交流。 ---- 在日常工作中，有时候会发现 MySQL 的状态不太对劲，这时候就会看看监控指标，可能会发现：写入 QPS 开始出现毛刺，或者 IO 的指标很高。这时候该怎么办呢？ 本文会从 Linux 层面入手，根据不同的 IO 特点来分析 MySQL 数据库可能遇到的问题，并给出一些可参考的优化/缓解思路。 一、怎么看懂 IO 指标？ 检查 IO 的问题会使用iostat这
Mysql内建的复制功能是构建大型，高性能应用程序的基础。将Mysql的数据分布到多个系统上去，这种分布的机制，是通过将Mysql的某一台主机的数据复制到其它主机（slaves）上，并重新执行一遍来实现的。复制过程中一个服务器充当主服务器，而一个或多个其它服务器充当从服务器。主服务器将更新写入二进制日志文件，并维护文件的一个索引以跟踪日志循环。这些日志可以记录发送到从服务器的更新。当一个从服务器连接主服务器时，它通知主服务器从服务器在日志中读取的最后一次成功更新的位置。从服务器接收从那时起发生的任何更新，然后封锁并等待主服务器通知新的更新。
读写分离，是把数据库的读和写分开操作，以应对不同的数据库服务器。主数据库提供写操作，从数据库提供读操作，这样能有效的减轻单台数据库的压力。
一、什么是分布式架构 分布式系统（distributed system） 是建立在网络之上的软件系统。 内聚性：是指每一个数据库分布节点高度自治，有本地的数据库管理系统。 透明性：是指每一个数据库
透明性：是指每一个数据库分布节点对用户的应用来说都是透明的，看不出是本地还是远程。
磁盘性能对数据库的读写能力影响很大，如何从多个角度监控数据库的写性能就变得至关重要，当写性能成为瓶颈时我们又该如何调优呢？
在平常的工作中，更新数据是再正常不过的一个需求了，我们只需要执行一个update语句即可，如果有必要我们还可以加上事务来保证数据的可靠性。
所谓的性能优化，一般针对的是MySQL查询的优化。既然是优化查询，我们自然要先知道查询操作要经过哪些环节，然后思考可以在哪些环节进行优化。
版权声明：本文为木偶人shaon原创文章，转载请注明原文地址，非常感谢。 https://blog.csdn.net/wh211212/article/details/52856256
蒸汽机的改进不是一蹴而就的，MySQL性能的改进也是贯穿整个MySQL发展史的。MySQL之父Monty在1981年写了MySQL的第一行代码以后，在开源的帮助下MySQL成长为目前最流行的开源数据库，同样其也凝聚了非常多的开发者、DBA、工程师的心血。
JMeter是apache公司基于java开发的一款开源压力测试工具，体积小，功能全，使用方便，是一个比较轻量级的测试工具，使用起来非常简单。而且JMeter拿到安装包之后直接解压就可以使用，同时它也可以在linux/windows/macos上使用。
目前，对于互联网海量数据的存储以及处理，按使用场景，分为OLTP（联机事务处理，比如即时交易，强调快速响应与处理）与OLAP（联机分析处理，比如BI，强调多维数据分析）。对于这些数据的存储，主要有两种解决方案，即基于SQL的关系型数据库，和NoSQL的非关系型数据库。 非关系型数据库在某些特定场景下有奇效，比如键值存储（redis,ROMA,Memcached）数据库应用在排行更新，会话保存，面向文档的数据库（mongoDB、couchDB）应用在日志记录，面向列的数据库（Cassandra、HBase）在博客中的应用。关系型数据库最大的问题在于速度与可扩展性上，而这些NoSQL数据库一般部署简单，支持扩展，而且速度极高。 但是，NoSQL目前还是只能做为关系型数据库在某些特定应用场景的补充，不能完全替代严谨规范的关系型数据库。
读写分离的基本原理是让主数据库处理事务性增、改、删操作（INSERT、UPDATE、DELETE），而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。一般来说都是通过 主从复制（Master-Slave）的方式来同步数据，再通过读写分离（MySQL-Proxy）来提升数据库的并发负载能力这样的方案来进行部署与实施的。
在前面基础功能实现的过程中，我们后台管理系统及移动端的用户，在进行数据访问时，都是直接操作数据库MySQL的。结构如下图：
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
