在不断发展的软件开发世界中,可观察性使软件工程师能够实时洞察复杂的系统。OpenTelemetry 和 Prometheus 是著名的云原生计算基金会 (CNCF) 毕业项目,但用于监控和调试应用程序的可观察性工具不同。
最近关于“物联网”(IoT) 的争论有很多,而且理由都很充分。 Ericsson 的 CEO Hans Vestberg 预测到 2020 年将有 500 亿台设备连接到 Web(bit.ly/yciS7r [PDF 下载])。 目前约有 15 亿台 PC 以及不足 10 亿台电话连接到 Web — 500 亿相当于全球每个人约 7 台设备,这可以帮助您直观理解这一数字! 市场研究机构 IDC 则预测到 2015 年将有超过 160 亿台设备连接到 Internet(参见图 1)。 不可否认,也存在一些较保
这个系列的文章翻译由信安之路红蓝对抗小组的所有成员共同完成,后续将陆续发布,敬请期待!
警报提供对代码问题和对用户的影响的实时可见性。有多种类型的警报可用于自定义阈值和集成。
随着实时数据的日渐普及,企业需要流式计算系统满足可扩展、易用以及易整合进业务系统。Structured Streaming是一个高度抽象的API基于Spark Streaming的经验。Structured Streaming在两点上不同于其他的Streaming API比如Google DataFlow。 第一,不同于要求用户构造物理执行计划的API,Structured Streaming是一个基于静态关系查询(使用SQL或DataFrames表示)的完全自动递增的声明性API。 第二,Structured Streaming旨在支持端到端实时的应用,将流处理与批处理以及交互式分析结合起来。 我们发现,在实践中这种结合通常是关键的挑战。Structured Streaming的性能是Apache Flink的2倍,是Apacha Kafka 的90倍,这源于它使用的是Spark SQL的代码生成引擎。它也提供了丰富的操作特性,如回滚、代码更新、混合流\批处理执行。 我们通过实际数据库上百个生产部署的案例来描述系统的设计和使用,其中最大的每个月处理超过1PB的数据。
大数据架构设计用来处理对传统数据库系统而言太大或太复杂的数据的引入、处理和分析。组织进入大数据领域的门槛各不相同,具体取决于用户的权限及其工具的功能。对某些组织来说,大数据可能意味着数百个 GB 的数据,而对另一些组织来说,大数据则意味着数百个 TB 的数据。随着处理大数据集的工具的发展,大数据的涵义也在不断地变化。慢慢地,这个术语更多的是指通过高级分析从数据集获取的价值,而不是严格地指数据的大小,虽然这种情况下的数据往往是很大的。
Zabbix 作为企业级的网络监控工具,通过从服务器,虚拟机和网络设备收集的数据提供实时监控,自动发现,映射和可扩展等功能。
这篇文章的主要内容是展示Helios内部利用开源项目和创造性思维快速高效地向客户提供基于链路跟踪的告警机制。
原文地址:http://msdn.microsoft.com/zh-cn/magazine/hh205648.aspx 下载代码示例 生产线的产量下降后,将容易出现用户媒体流跳过这些流程,或者您的一个产品成为了“必需产品”的情况。 真正的窍门是在这些情况发生时进行识别,或根据以往趋势对其做出预测。 成功预测这些情况需要使用近乎实时的方法。 在对相关数据进行提取、转换并加载到 SQL Server Analysis Services (SSAS) 等传统商业智能 (BI) 解决方案中时,情况早已发生改变。
监控系统是整个运维环节,乃至整个产品生命周期中最重要的一环,事前及时预警发现故障,事后提供翔实的数据用于追查定位问题。监控系统作为一个成熟的运维产品,业界有很多开源的实现可供选择。当公司刚刚起步,业务规模较小,运维团队也刚刚建立的初期,选择一款开源的监控系统,是一个省时省力,效率最高的方案。之后,随着业务规模的持续快速增长,监控的对象也越来越多,越来越复杂,监控系统的使用对象也从最初少数的几个SRE,扩大为更多的DEVS,SRE。这时候,监控系统的容量和用户的“使用效率”成了最为突出的问题。 监控系统业
Sentry 是集错误监控与性能监控、指标分析于一身的开源软件。可帮助开发人员快速诊断、修复和优化其代码的性能。Sentry 支持 30 多种编程语言。还集成了一大堆有用的工具,如 GitHub、Slack 和 Jira 等。
Prometheus是一个开源监控系统和时间序列数据库。Prometheus最重要的一个方面是它的多维数据模型以及随附的查询语言。此查询语言允许您对维度数据进行切片和切块,以便以临时方式回答操作问题,在仪表板中显示趋势,或生成有关系统故障的警报。
◆ 通过查询实施解放 基于查询的数据解放涉及查询数据存储并将所选择的结果发布到相关的事件流中。一个使用合适的 API、SQL 或类 SQL 语言的客户端会被用于向数据存储请求特定的数据集。必须能够批量查询数据集以提供事件的历史记录,然后定期更新,以确保数据的更改被发布到输出事件流中。 此模式有几种查询类型。 ◆ 批量加载 执行批量查询并加载数据集中的所有数据。当需要在每个轮询间隔加载整张表时,以及在进行增量更新之前,都需要执行批量加载。 批量加载成本很高,因为它需要从数据存储中获取整个数据集。对较小的数据集
高级持续性威胁(APT,Advanced Persistent Threat)对蓝队来说是一项重大挑战,因为攻击者会长时间应用各种攻击,阻碍事件关联和检测。 在这项工作中利用各种不同的攻击场景来评估终端检测与响应系统(EDR,Endpoint Detection and Response)和其他安全解决方案在检测和预防 APT 方面的功效。 结果表明,由于最先进的终端安全系统无法预防和记录这项工作中报告的大部分攻击,因此仍有很大的改进空间。 此外,还讨论了篡改 EDR 遥测提供者的方法,从而允许攻击者进行更隐蔽的攻击。
官方示例:Eventdrv - Code Samples | Microsoft Learn
开源 Retina 使用 eBPF 为 Kubernetes 中的容器网络带来可观测性。
Active Directory 帮助 IT 团队在整个网络中集中管理系统、用户、策略等。因为它是组织不可分割的一部分,所以这给攻击者提供了机会,利用 Active Directory 的功能来做一些恶意的操作。在这篇文章中,我们可以了解到 DCSync 的原理及检测方法。
经过3个月的碎片时间的翻译和校验,由长沙.NET技术社区翻译的英文原文文档《Microsoft REST API指南 》已经翻译完成,现刊载前十一章如下,欢迎大家点击“查看原文”按钮,查看指南的完整内容。
Microsoft Defender for Identity是一个基于云的安全解决方案,利用本地 Active Directory信号识别、检测并调查针对企业内部的高级威胁、身份盗用和恶意内部操作。Defender for Identity之前的名字Azure ATP为微软三大ATP之一,大家应该不陌生。ATP对应的本地部署版本为Advanced Threat Analytics(ATA 已于2021年1月12日结束主流支持。扩展支持将持续到2026年1月。) Microsoft Defender for Identity体系架构
Confluent提供了业界唯一的企业级事件流平台,Confluent Platform通过将来自多个源和位置的数据集成到公司的单个中央事件流平台中,可以轻松构建实时数据管道和流应用程序。Confluent平台使您可以专注于如何从数据中获取业务价值,而不必担心诸如在各种系统之间传输或处理数据的基本机制。具体来说,Confluent平台简化了将数据源连接到Kafka,使用Kafka构建应用程序以及保护,监视和管理Kafka基础架构的过程。
SQL Server 2008 R2的十大变化(上),SQL Server 2008 R2的十大变化(下) 这十大特性中我比较感兴趣的是StreamInsight:通过SQL Server 2008 R2新的StreamInsight组件,Microsoft进入了复杂事件处理(Complex Event Processing,CEP)竞争,其中相关的供应商还有Oracle、IBM和StreamBase。 SQL Server 2008 R2引入StreamInsight功能,可以为开发人员提供一套全方位的平
Microsoft Defender for Identity是一个基于云的安全解决方案,利用本地 Active Directory信号识别、检测并调查针对企业内部的高级威胁、身份盗用和恶意内部操作。Defender for Identity之前的名字Azure ATP为微软三大ATP之一,大家应该不陌生。ATP对应的本地部署版本为Advanced Threat Analytics(ATA 已于2021年1月12日结束主流支持。扩展支持将持续到2026年1月。)
全球大约72%的企业使用 Microsoft Windows 服务器操作系统 (OS),每台服务器都使用 Active Directory 将用户相关数据和网络资源存储在域中。
前一篇文章分享了NDSS 2020的《UNICORN: Runtime Provenance-Based Detector for Advanced Persistent Threats》,一种基于溯源图的实时APT检测器。
“ 编者按 据研究机构 Forrester 称,扩展检测和响应 (XDR) 市场目前还处于早期阶段,现有的 XDR 产品成熟度各有不同。成熟的 XDR 供应商结合了其产品组合中的最佳元素,以简化事件响应并构建有针对性的高效检测机制。相比之下,不太成熟的供应商则使用 XDR 作为其产品组合的统一层,对用户和组织几乎没有增加价值。 而介于两者之间的供应商拥有新兴的、原生的和混合的 XDR 功能,但仍处于早期阶段,并且大多数强调的是端点检测和响应 (EDR) 功能。 本文介绍了2022 年值得关注的 10 家最热
Grafana v8.0 的重大变更包括对告警系统的重构;新的可视化改进,包括状态时间线、状态历史和直方图面板;实时流;可以重用的库面板;和细粒度的访问控制,允许企业客户确保其组织中的每个人都具有适当的访问级别。
众所周知,单体应用程序,由于其种种不足,几乎不支持敏捷方法。如果你想为一个大型或复杂的业务创建一个软件项目,最好从微服务架构开始。
ETL 工具已经使用了近五年,使组织能够持续分析、开发和处理数据,数家数据库管理、分析和商业智能领域的资深企业供应商继续保持领先地位,同时,行业解决方案在 2022 年不断演进,以满足云和边缘数据处理需求。
综合考虑,第三点肯定是不靠谱的,第一点成本太高,公司本来就比较忙,那就只能去找一个现成的了…
在我们正在进行的 Kubernetes FAQ 系列中,我们回答了社区中一些常见的问题,本周我们将讨论在选择 CI/CD 工具时需要考虑什么。
我们对本月的更新感到非常兴奋!我们发布了两个最重要的社区请求:Power BI Pro的增量刷新和分层切片器。此外,我们还对新功能区和一些新的DAX功能进行了一些改进。自上次发布以来,AppSource上发布了一些新的Power BI视觉效果,因此请务必尝试一下!如果您想了解本月的所有更新和增强功能,请查看完整的博客。
首先服务提供者(用户、商品等微服务子模块)按照指定格式的服务接口描述,向注册中心注册服务,声明自己能够提供哪些服务以及服务的地址是什么,完成服务发布。
假设我们正在构建一个简单的 Web 应用程序。在大多数情况下,此类项目从最小的数据架构开始。例如,像 MySQL 或 PostgreSQL 这样的关系数据库足以处理和存储许多用户可以使用的数据。他们输入查询,更新它们,关闭它们,更正它们,通常会执行许多操作。它可以是 CRM、ERP、自动银行系统、计费系统,甚至是 POS 终端,应有尽有。
Cloudera Manager是一个用于管理、配置和监控CDP私有云基础集群和Cloudera Runtime服务的应用程序。
Sentry 可以通过建议可能将错误引入您的代码库的可疑提交来帮助您更快地解决错误。这是通过配置提交跟踪启用的。需要集成您的源代码管理解决方案并添加您的代码存储库才能启用提交跟踪,有关更多信息,请参阅此链接。
编写智能合约[1]时,通常状态的变化是通过触发一个事件来表达,The Graph 则是捕捉区块链事件并提供一个查询事件的 GraphQL 接口,让我们可以方便的跟踪数据的变化。实际上很多 DEFI[2] 协议及都是 The Graph 来基于查询数据。
作者:Ankush Gulati, David Gevorkyan 贡献:Michael Clark, Gokhan Ozer翻译:欧阳锦校对:张睿毅 本文约3700字,建议阅读10+分钟本文简单介绍了Netflix构建的快速事件通知系统 (Rapid Event Notification System, RENO),包括该系统的基本架构和优点等。 介绍 Netflix 拥有超过 2.2 亿活跃会员,他们会使用各种功能执行大量操作,从个人资料重命名到影片标题搜索。确保最佳会员体验这件事上,这件事至关重要:接
Azure Monitor 是 Azure 中的一项完整堆栈监视服务,是一种收集和分析遥测数据的服务。它提供了一组完整的功能来监视 Azure 资源以及其他云中和本地的资源。Azure Monitor 该服务有助于实现云应用程序以及本地资源和应用程序的最大性能和可用性。它显示了应用程序的执行方式,并可识别应用程序存在的任何问题。
加载相关数据:https://docs.microsoft.com/zh-cn/ef/core/querying/related-data/
本文翻译于 Jeremy Likness, Angelos Petropoulos 和 Jon Douglas 的博客
通过DynaTrace的OneAgent等功能组建能全面了解服务所运行的环境。其中包括:Metric、Log、Trace,具有完整的分布式跟踪能力,可以在抓取到代码层面的运行时信息,自动构建出运行时的上下文信息,将实体关系和用户体验以及用户的行为数据较好的关联起来。在实现服务的可观测性这个场景中,DynaTrace提供了一系列的工具和能力:
Hello folks,我是 Luga,今天我们来分享一款用于 Kubernetes Cluster 故障排查的开源工具 - Robusta (罗布斯塔)。作为一个用于多集群 Kubernetes 监控、故障排除和自动化的开源平台,就像 Docker 用于部署应用程序的基础设施即代码一样,Robusta 用于维护 Kubernetes Cluster 应用程序和处理其警报的基础设施即代码。
微服务架构已经成为现代应用程序开发中公认的技术选择。尽管它解决了某些问题,但不是灵丹妙药。它有几个缺点,使用这种体系架构时,还需要解决许多问题。这就需要学习这些问题的通用模式,并通过可重用的解决方案来解决它们。因此,有必要讨论微服务的设计模式。在深入研究设计模式之前,我们需要了解微服务架构的构建原理: 1.可扩展性 2.可用性 3.弹性 4.独立自治性 5.去中心化治理 6.失败隔离 7.自动配置 8.通过DevOps持续交付
首先,我们将讨论支持InnoDB克隆技术的一些内部产品。MySQL企业版备份(MEB)是一种企业级产品,可为MySQL提供备份和恢复。在各种类型的备份中,我们关注下面两种类型:
Minitab, LLC 是一家质量改进和统计学教育方面的软件和服务提供商,总部设在美国宾夕法尼亚州州立大学,在全球的多个地方(包括英国、法国、德国、中国香港和澳大利亚)设有分公司。
在 Halodoc,我们始终致力于为最终用户简化医疗保健服务,随着公司的发展,我们不断构建和提供新功能。我们两年前建立的可能无法支持我们今天管理的数据量,以解决我们决定改进数据平台架构的问题。在我们之前的博客中,我们谈到了现有平台的挑战以及为什么我们需要采用 Lake House 架构来支持业务和利益相关者以轻松访问数据。在这篇博客中,我们将讨论我们的新架构、涉及的组件和不同的策略,以拥有一个可扩展的数据平台。
随着 DevOps 的出现频率越来越高,很多企业都在蠢蠢欲动,想要设计和开发 DevOps 平台。工欲善其事必先利其器,本文为大家总结了 DevOps 各个阶段可以选择的工具,也许 DevOps 平台的技术选型在这一篇文章中就可以完成。
这是一篇长篇阔论的文章,是关于我使用 SaaS 来运行设置的详细介绍,文章会涉及到多方面的内容,包括负载均衡、cron 作业监控、订阅和支付等等。
这篇文章介绍了一种架构以及用于隐私的相关组件,旨在为全国范围内的主动联系跟踪解决方案构建数据平台。
领取专属 10元无门槛券
手把手带您无忧上云