数据仓库的数据体系严格、治理容易，业务规模越大，ROI 越高；数据湖的数据种类丰富，治理困难，业务规模越大，ROI 越低，但胜在灵活。
目录： (1).创建kafka生产集群 (2).msk简单使用 (1).创建kafka生产集群 MSK 是采用的滚动升级的方式 版本升级过程中是可以继续使用的。 https://ap-northeas
CDC(Change Data Capture)从广义上讲所有能够捕获变更数据的技术都可以称为CDC，但本篇文章中对CDC的定义限定为以非侵入的方式实时捕获数据库的变更数据。例如：通过解析MySQL数据库的Binlog日志捕获变更数据，而不是通过SQL Query源表捕获变更数据。Hudi 作为最热的数据湖技术框架之一, 用于构建具有增量数据处理管道的流式数据湖。其核心的能力包括对象存储上数据行级别的快速更新和删除，增量查询(Incremental queries,Time Travel)，小文件管理和查询优化(Clustering,Compactions,Built-in metadata)，ACID和并发写支持。Hudi不是一个Server，它本身不存储数据，也不是计算引擎，不提供计算能力。其数据存储在S3(也支持其它对象存储和HDFS)，Hudi来决定数据以什么格式存储在S3(Parquet,Avro,…), 什么方式组织数据能让实时摄入的同时支持更新，删除，ACID等特性。Hudi通过Spark，Flink计算引擎提供数据写入, 计算能力，同时也提供与OLAP引擎集成的能力，使OLAP引擎能够查询Hudi表。从使用上看Hudi就是一个JAR包，启动Spark, Flink作业的时候带上这个JAR包即可。Amazon EMR 上的Spark，Flink，Presto ，Trino原生集成Hudi, 且EMR的Runtime在Spark，Presto引擎上相比开源有2倍以上的性能提升。在多库多表的场景下(比如：百级别库表)，当我们需要将数据库(mysql,postgres,sqlserver,oracle,mongodb等)中的数据通过CDC的方式以分钟级别(1minute+)延迟写入Hudi，并以增量查询的方式构建数仓层次，对数据进行实时高效的查询分析时。我们要解决三个问题，第一，如何使用统一的代码完成百级别库表CDC数据并行写入Hudi，降低开发维护成本。第二，源端Schema变更如何同步到Hudi表。第三，使用Hudi增量查询构建数仓层次比如ODS->DWD->DWS(各层均是Hudi表)，DWS层的增量聚合如何实现。本篇文章推荐的方案是: 使用Flink CDC DataStream API(非SQL)先将CDC数据写入Kafka，而不是直接通过Flink SQL写入到Hudi表，主要原因如下，第一，在多库表且Schema不同的场景下，使用SQL的方式会在源端建立多个CDC同步线程，对源端造成压力，影响同步性能。第二，没有MSK做CDC数据上下游的解耦和数据缓冲层，下游的多端消费和数据回溯比较困难。CDC数据写入到MSK后，推荐使用Spark Structured Streaming DataFrame API或者Flink StatementSet 封装多库表的写入逻辑，但如果需要源端Schema变更自动同步到Hudi表，使用Spark Structured Streaming DataFrame API实现更为简单，使用Flink则需要基于HoodieFlinkStreamer做额外的开发。Hudi增量ETL在DWS层需要数据聚合的场景的下，可以通过Flink Streaming Read将Hudi作为一个无界流，通过Flink计算引擎完成数据实时聚合计算写入到Hudi表。
数据网格（Data Mesh）是近来受到广泛重视的一种新型架构范式。每家数据和平台提供商都说明了怎样使用自己的平台来构建最好的数据网格。数据网格的故事包括像亚马逊云科技这样的云计算提供商，像 Databricks 和 Snowflake 这样的数据分析提供商，以及像 Confluent 这样的事件流解决方案。本文详细讨论了这一原理，并探索了为何没有一种技术最适合构建数据网格。本文列举的例子表明，为何像 Apache Kafka 这样的开放和可扩展的分布式实时平台一般都是数据网格基础设施的核心，而其他数据平台则是为了解决业务问题而提供支持。
企业面临着前所未有的集成挑战。信息技术的发展要求更多的技术集成，应用程序部署在边缘、混合和多云架构中，传统的中间件，如 MQ、ETL、ESB，都不能很好地扩展，仅能批量处理数据而无法实现实时处理。
将事件流与无服务器计算相结合，常常能产生一个高效低成本的解决方案，用于处理流数据，极大地减少了基础设施管理和维护的复杂性。这种协同作用使开发人员能更专注于应用程序逻辑，而减少对基础操作问题的关注，从而加快开发速度。
翻译自 Unveiling the Future of Application Networking: Trends and Impacts 。
6.交易属性 键 默认值 描述 spring.jta.atomikos.connectionfactory.borrow-connection-timeout 30 从池借用连接的超时时间（以秒为单位）。 spring.jta.atomikos.connectionfactory.ignore-session-transacted-flag true 创建会话时是否忽略事务标记。 spring.jta.atomikos.connectionfactory.local-transaction-mode fa
数据是每项技术业务的支柱，作为一个健康医疗技术平台，Halodoc 更是如此，用户可以通过以下方式与 Halodoc 交互：
在这个博客系列的第1部分之后，Apache Kafka的Spring——第1部分:错误处理、消息转换和事务支持，在这里的第2部分中，我们将关注另一个增强开发者在Kafka上构建流应用程序时体验的项目:Spring Cloud Stream。
作为Apache Kafka深挖的博客系列第1部分和第2部分的后续,在第3部分中我们将讨论另一个Spring 团队的项目:Spring Cloud Data Flow,其重点是使开发人员能够轻松地开发、部署和协调事件流管道基于Apache Kafka。作为前一篇博客系列文章的延续，本文解释了Spring Cloud数据流如何帮助您提高开发人员的工作效率并管理基于apache - kafka的事件流应用程序开发。
前两篇文章讲述了 Kafka 的 工作机制 和 服务器集群部署。至此，Kafka 服务器已就绪，本文分别以官方API、Spring、SpringBoot三种构建方式，讲述了 Kafka 消费生产者和消费者的开发。
通过提供 spring-kafka 项目的自动配置来支持Apache Kafka。
Kafka 是一种高吞吐的分布式发布订阅消息系统，能够替代传统的消息队列用于解耦合数据处理，缓存未处理消息等，同时具有更高的吞吐率，支持分区、多副本、冗余，因此被广泛用于大规模消息数据处理应用。Kafka 支持Java 及多种其它语言客户端，可与Hadoop、Storm、Spark等其它大数据工具结合使用。 准备 测试用例 Github 代码 代码我已放到 Github ，导入spring-boot-kafka 项目 github https://github.com/souyunku/spring-boo
Kafka是一种高吞吐量的分布式流处理平台，它具有高可用、高吞吐量、速度快、易扩展等特性。本篇将介绍如何使用Spring Boot整合Kafka及使用Kafka实现简单的消息发送和消费，主要包括以下3部分内容：
Kafka是一个开源的分布式事件流平台，常被用于高性能数据管道、流分析、数据集成和关键任务应用，基于Zookeeper协调的处理平台，也是一种消息系统，具有更好的吞吐量、内置分区、复制和容错，这使得它成为大规模消息处理应用程序的一个很好的解决方案；
本文属于翻译，转载注明出处，欢迎关注微信小程序小白AI博客 微信公众号小白AI或者网站 https://xiaobaiai.net
Spring Kafka 是 Spring Framework 提供的一个集成 Apache Kafka 的库，用于构建基于 Kafka 的实时数据流处理应用程序。Apache Kafka 是一个高性能、分布式的流数据平台，广泛用于构建可扩展的、实时的数据处理管道。
对于事件流应用程序开发人员，根据管道中各个应用程序的更改需要不断更新流管道非常重要。理解流开发人员用于构建事件流管道的一些常见流拓扑也很重要。
Apache Kafka 是一个分布式流平台，具有四个核心 API。借助这些 API，Kafka 可以用于以下两大类应用：建立实时流数据管道，可靠地进行数据传输，在系统或应用程序之间获取数据；构建实时流媒体应用程序，以改变系统或应用程序之间的数据或对数据流做出反应。
参考文章：https://www.cnblogs.com/angelyan/p/10800739.html
上文:spring整合中间件(RocketMQ、kafka、RabbitMQ、ActiveMQ、ZeroMQ、TubeMQ、NSQ)
承接上文( 微服务日志之.NET Core使用NLog通过Kafka实现日志收集 https://www.cnblogs.com/maxzhang1985/p/9522017.html ).NET/Core的实现,我们的目地是为了让微服务环境中dotnet和java的服务都统一的进行日志收集。 Java体系下Spring Boot + Logback很容易就接入了Kafka实现了日志收集。
Kafka在大规模内部托管和管理方面确实很困难，但它提供的实际好处和功能超过了运营方面的挑战。
前短时间在腾讯云上买了一个linux 服务器，决心把kafka这一模快的知识补充起来啦。所以就搞起来。
一、添加依赖项 compile 'org.springframework.kafka:spring-kafka:1.2.2.RELEASE' 二、发消息(生产者) 2.1 xml配置 1 <?xml
又到了写年终总结的时候了。每当这个时候思绪总是翻江倒海，因为太久没有反思和总结的缘故，一年才总结一次，确实是有点久，欠的账的太多，梳理起来有点费劲。这里依旧还是写跟点跟工作/技术相关的总结。
其中KafkaProducer是⽤于发送消息的类，ProducerRecord类⽤于封装 Kafka 的消息。
选自Medium 作者：yonatan hadar 机器之心编译 参与：Nurhachu Null、路 本文介绍了三种用于表征句子的无监督深度学习方法：自编码器、语言模型和 Skip-Thought
在说Kafka之前，假设你有一定的消息队列的知识。知道消息队列的模式（点对点模式，发布/订阅模式），也知道消息队列的优点，如果不知道没关系，去百度或者Google搜索都有相关详细的资料。那么我们接下来说说Kafka。
导致kafka的重复消费问题原因在于，已经消费了数据，但是offset没来得及提交（比如Kafka没有或者不知道该数据已经被消费）。 总结以下场景导致Kakfa重复消费：
根据官网的介绍，ApacheKafka®是一个分布式流媒体平台，它主要有3种功能：
ConsumerInterceptor是Kafka中的一个重要组件，它允许开发人员在Kafka消费者端拦截和修改消息的处理过程。ConsumerInterceptor可以用于实现各种功能，从消息监控到数据转换和错误处理，为开发人员提供了更大的灵活性和可定制性。
在微服务架构中，构建公用的消息主题并由其他微服务去订阅和消费，从而起到广播通知的作用，那么我们就称之为消息总线。
KafkaProducer会将消息先放入缓冲区中，然后由单独的sender线程异步发送到broker服务端，那么既然消息是批量发送的，那么触发批量发送的条件是什么呢？
@SpringBootApplication 这个标注就表示，这个项目是SpringBoot项目，并且此类是项目的主入口类。
Spring Boot是一个用于快速构建基于Spring框架的Java应用程序的框架。Kafka是一种分布式流处理平台，用于实时传输和处理大规模数据。通过Spring Boot与Kafka的连接，可以轻松地在Spring应用程序中使用Kafka进行数据流处理。
在#192.168.1.128服务器上生产者控制台输入：hello kafka进行测试
首先，网络释义：流是一个相对抽象的概念，所谓流就是一个传输数据的通道，这个通道可以传输相应类型的数据。进而完成数据的传输。这个通道被实现为一个具体的对象。
本文是SpringBoot+Kafka的实战讲解，如果对kafka的架构原理还不了解的读者，建议先看一下《大白话kafka架构原理》、《秒懂kafka HA（高可用）》两篇文章。
常用应用属性 可以在application.properties / application.yml file中指定各种属性，也可以在命令行开关中指定。本节提供了常见的Spring Boot属性和对使用它们的基础类的引用的列表。 摘自：http://docs.spring.io/spring-boot/docs/current/reference/html/common-application-properties.html ＃========================================
1966年Donald F. Gleason博士提出Gleason评分，以便对前列腺癌进行分级，为临床医师提供前列腺癌侵犯程度和侵袭性的相关信息。其后Gleason评分历经数次修改，Gleason评分可以衡量前列腺癌的组织分化程度，对于评估前列腺癌患者的生存期有重要价值。该评分一般越低越好，分数越低肿瘤的恶性程度越小，反之分数越高肿瘤恶性程度越高。有研究结果表明，Gleason评分≤8分的患者进展至CRPC的中位时间为21个月，而>8分的患者为14个月。
本文属于原创，转载注明出处，欢迎关注微信小程序小白AI博客 微信公众号小白AI或者网站 https://xiaobaiai.net 或者我的CSDN http://blog.csdn.net/freeape
Kafka需要依赖zookeeper，并且自身集成了zookeeper，zookeeper至少需要3个节点保证集群高可用，下面是在单机linux下创建kafka3个节点伪集群模式。
作为消息队列，Kafka允许发布和订阅数据，这点和其他消息队列类似，但不同的是，Kafka作为一个分布式系统，是以集群的方式运行的，可以自由伸缩。同时还提供了数据传递保证—可复制、持久化等。
GitHub仓库：https://github.com/XinLiGitHub/STM32F4xx_Delay_Example
案例代码:https://github.com/q279583842q/springcloud-e-book
用户模式(usr):ARM处理器正常的程序执行状态 快速中断模式(fiq):用于高速数据传输或通道处理 中断模式(irq):用于通用的中断处理 管理模式(svc):操作系统使用的保护模式 数据访问终止模式(abt):当数据或指令预取终止时进入该模式，可用于虚拟存储及存储保护 系统模式(sys):运行具有特权的操作系统任务 未定义指令中止模式(und):当未定义的指令执行时进入该模式，可用于支持硬件协处理器的软件仿真 除用户模式外，其他6种工作模式都属于特权模式，大多数程序运行于用户模式，进入特权模式是为了处理中断、异常，或者访问被保护的系统资源。
Spring Cloud Stream is a framework for building highly scalable event-driven microservices connected with shared messaging systems.
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
