首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

数据库智能探索与实践

在业务驱动下,美团点评DBA团队经历了从“人肉”到工具化、产品化、自助化、自动化转型之旅,也开始了智能数据库领域思考和实践。...本文将介绍美团点评整个数据库平台演进历史,以及我们当前情况和面临一些挑战,最后分享一下我们从自动化到智能过渡时,所进行思考、探索与实践。...还有一个就是专业DBA越来越匮乏,越来越贵,关键是根本招聘不到人手。 在这种背景下,我们必须去思考:如何突破困局?如何朝着智能化转型?传统苦在哪里智能又能解决哪些问题?...但主动出击不一定是通过DBA去做,可能是系统或者机器人操作;第三,传统是由DBA发起和解决,而智能是系统发起、RD自助;第四,传统属于“人肉救火”,而智能属于“智能决策执行”;最后一点...w=1340&h=672&f=png&s=274797] 上图是传统维和智能特点分析,左边属于传统,右边属于智能

4K10

1位5年智能开发对智能理解

同时跟公司数据平台同事有了交流,对数据仓库在智能应用,有了初步想法,并且开始尝试实践。...年:开始基于特定业务,搭建智能解决方案。...对完整智能解决方案,开始有了自己独特理解; 总结一下自己认知过程 12.png 从不同角度看智能,以质量保障为例   个人认为,智能是一套复杂的人工智能解决方案。...从业务角度看智能   首先,智能是建立在运基础之上,只有了解了现有的内容和技术体系,我们才能够合理思考,智能在整个体系中地位和作用。   ...,同时也可以为 智能 提供数据样本;    • 故障管理平台    • 等等    数据分析    • 动态阈值检测服务:涵盖了 算法模型、样本管理、算法评估等

1.3K72
您找到你想要的搜索结果了吗?
是的
没有找到

为什么要搞数据库平台

实际上很多企业都有想做一套数据库平台想法,主要基于以下一些原因 1 ORACLE 淘汰,导致更换其他数据库后,数据库台数和数量等都有上升,管理手段和方式在使用纯手工方式进行大批量数据库管理...2 固定种类数据库监控种类平台建立,这样平台也是见得不少,都有自己特性和卖点,并且有些产品是固化与某一种数据库产品或自研数据库产品所推出,这些平台包含,自动搭建数据库,自动巡检数据库,自动故障处理...3 基于业务数据库平台,这点可能是商业数据库平台一个无法触及地方,目前经济环节问题会导致针对成本核算重视,而数据库成本计算,尤其与业务方面有关方面这是一个空白,比如数据库为什么要扩充容量...自研平台可以针对各种数据库原理结合自身业务特性,做出适合企业特有的数据库与工作性能监控,任务自动一体化平台,通过平台搭建,搭建者会成为数据库技术及公司业务精通者,并且对于DEVOPS 软件平台规划和功能模块划分也会有深入了解...从某种角度,如果深入到业务甚至可以通过平台方式节省在数据库投入,转变被动管理方式,为主动管理,让数据库从花钱角色,变为省钱角色,乃至一个“赚钱”部门。

2.8K60

未来发展方向是智能(AIops)

随着智能化技术发展,为了解决上述领域问题,智能呼声越来越高。...3、在大数据时代, 智能与数据、自动化之间关系 智能理想状态就是把工作三大部分(监控、管理和故障定位),利用一些机器学习方法有机结合起来。...目前能够把这三部分融合起来办法就是利用人工智能手段,最后达到一种智能状态。 4、智能当下状况及智能发展预测 智能当下还是一个初步探索阶段。...可以举几个时间数字,我所看到一个和智能相关开源项目是在 2013 年,第一个主动出来宣讲智能相关内容国内企业是百度,时间是 2015 年,智能大量出现在宣讲上时间是在 2016 年下半年...现在比较明确是大家会朝着智能方向发展,并且智能发展一定是一个长期演进过程。 对于智能发展预测,我简单看法如下: 智能会首先体现出其在告警系统上价值。

3.7K30

探究-智能配电平台到底是什么?

易电务作为国内智能配电维系统整体解决方案提供商,为企业提供更好应对不断变化技术环境和业务模式。...微信图片_20210506133120.png  智能配电平台是基于云计算、移动互联网、大数据等先进技术,为客户提供全面的配用电系统监视、管理以及等功能。...平台通过对用电网络和设备365*24远程集中监控,确保配用电系统安全可靠运行;通过专业丰富能效管理功能,帮助用户实现节能降耗,经济用电;通过线上、线下打通管理功能使得管理更加高效、便捷;通过丰富和友好用户交互界面以及移动...智能电力平台特点及优势:   安全:365*24远程集中监控,智能告警与事件记录,确保用电系统安全;   专业:一套平台集成监控、、能效、管理等功能,打通数据流和业务流。   ...微信图片_20210419101306.jpg   智能电力平台客户价值:   1、维新模式,服务更高效   7*24小时用能实时监测与报警,系统自动生成巡检计划,科学指导巡检,效率相对传统模式提高

5.6K50

设备远程平台—助力工业设备智能

远程是工业互联网重要组成部分,没有工业互联网核心技术,远程不可能实现目标,设备远程平台运用了各种新技术,物联网实现数据接入,云计算实现存储、大数据实现分析, 人工智能实现状态检修与预警预报。...01设备远程平台设备远程平台通过智能终端对设备进行在线监测,将各种数据上传到云平台,存储、整理、分析,通过智能应用系统实现在线监控、记录、查询、统计、分析、修改、报警等操作,实现远程智能化管理。...04设备远程维系统优势1、一物一码,快速全面掌握设备信息系统给每台设备配置唯一码标识,扫一扫即可快速查看设备详情、服务记录、备件更换记录、设备使用帮助、知识库以及设备实时运行数据,更加有利于客户对产品使用...3、连接用户更紧密,提高企业和客户黏性通过智能化服务,随时为客户提供各种信息,保障客户设备良性运作和使用寿命。变被动服务为主动服务,增加客户配件在原厂家购买率及新设备复购率。...4、盘活数据资产价值,提升行业竞争优势把厂家多年辛苦积累售出设备、客户、售后服务等数据进行可视化展示,让沉默数据盘活成企业有价值资产,向领导和顾客更好展示公司实力。05设备远程应用价值

1.1K50

从ITOM到AIOps:IT管理向智能进化

面对这些新形势下挑战,IT 管理(ITOM)需要从原有的人工加被动响应,转变为更高效、更智能体系,为新形势下IT系统保驾护航。...(来源:Turn Big Data Inward With ITAnalytics) 令IT团队感到欣慰是,智能(AIOps)踏着人工智能时代浪潮应运而生。...AIOps平台通过收集各类数据源(包括操作系统、系统软件、数据库、应用日志等),统一进行管理。...不同于以往每次仅可查看数量有限几种日志,人员可通过智能平台所提供关键字、统计函数、单条件、多条件、模糊查找等功能,在多个系统中快速定位故障信息,帮助人员从全局视角查看系统数据信息。...AIOps与现有ITOM平台关系具体如何呢?传统IT管理平台,即 ITOM 平台,往往是为完成单一管理任务而设计,更偏向于管理某一细分专业领域。

4.6K50

腾讯织云Metis智能学件平台正式开源

10月20日,腾讯织云 Metis 智能学件平台正式对外开源。...Metis 是 AIOps(Algorithmic IT Operations),即智能领域首个开源产品,它是聚焦在智能应用实践集合,基于腾讯已有的数据,将机器学习领域分类、聚类、回归...1、项目描述 “Metis”取名自希腊神话中智慧女神墨提斯,全称为:腾讯织云 Metis 智能学件平台。“织云”指的是腾讯智能一体化平台,“学件”概念由南京大学周志华教授提出。...如 Metis 智能咨询机器人、舆情监控、集群智能负载均衡、数据库参数调优、容量预测。...5、Metis 智能学件未来开源计划 Metis 将打造一个开放学件平台,陆续开源时间序列指标预测、主机异常智能分析、MySQL 异常智能分析、硬盘生命周期预测等其它智能学件,集合广大用户在智能领域建设经验和实践

4.7K21

相关平台个人理解

在接触一些不同平台时不太清楚这些平台侧重点以及主要功能在此做一个梳理规划NacosNacos主要是为了解决微服务架构中服务注册、配置管理和服务发现等问题而设计微服务架构将一个应用程序拆分成多个独立服务...宝塔面板宝塔面板是一个用于管理和监控服务器开源面板软件(Linux图形监控化)它提供了图形化界面,使用户可以轻松地管理网站、数据库、DNS、FTP等服务。...DockerDocker是一种容器化平台,它提供了创建、打包和分发应用程序工具和环境。...Docker利用Linux内核容器功能,实现了资源隔离和环境一致性,使应用程序可以在不同主机上以相同方式运行。...安全审计:Rancher提供了安全审计功能,可以记录和跟踪用户对集群和应用程序操作,以及集群中各个组件状态变化,从而增强对系统安全性和可追踪性。

13220

平台脚本管理

比如下面的元数据部分就是平台后面要扩展支持基础,这个部分花了一些时间做基础构建和实现。 ? 脚本管理内容之前写过两篇,供参考。...平台设计中脚本管理 web脚本编辑器ACE Editor 在这个阶段,也收获了一些经验,所以准备把这部分内容做扎实一些,同时有些内容会延伸一下。 我会从脚本管理和工具管理两个大维度来说。...Paramiko    Ansible    websocket   2)连接到数据库,不同数据库,只要我输入指定信息,就返回给我一个数据库连接。   ...3.数据库层    数据库层级调用,比如SQL语句,举一个例子,比如查看数据库基本信息,那么无论是shell,Python都是接入层实现,我们在这里关注是SQL层逻辑。   ...这里主要是一些基本操作,比如查看数据库基本信息,得到DDL信息,得到从库信息等等,都是通过脚本(这里主要核心就是SQL逻辑)方式来实现。

3.4K50

数据库自动化平台–自助DML

为了使DBA工作轻松,有效率很多年前各大公司就开始自动化平台建设,在这方面我们属于比较晚了。 今天介绍下最近开发一个平台,自助DML。什么是DML,就是平常执行增删改查数据库操作。...有人有疑问这不是程序访问操作,为什么还要做一个平台操作这些呢,其实这种操作主要是开发需要线下修复数据一种操作,不只是增删改,还有建表,建索引,添加字段等,这些操作开发一般会提给DBA协助操作数据库。...虽说现在公司实例少点,但每天工作量还是很大,关键这种工比较重复,枯燥,没有技术含量,所以迫切需要一个自助服务平台开放出去来提高工作效率,解放DBA。...(5)celery rabbitmq 平台部分截图: 1) 提交任务需要满足两个条件:(1) 元数据平台(请参考之前元数据平台博客)集群归属部门信息不能为空 (2)提交任务的人所在部门要跟集群归属部门一致...5)如果是库归属人提交任务则需要同部门另一人审核 (这些条件需要结合元数据平台,请参考之前博客) 6)审核完事就可以点击执行了,执行权限只有DBA和提交人才能执行 7)

3.2K20

数据库管理平台面面观

数据库运管平台发展趋势 为满足前文所谈多样性、跨平台、异构化等趋势,数据库管理平台发展趋势包括以下几个方面: 云化趋势:随着云计算技术迅速发展,云化趋势将成为数据库管理平台主流发展趋势。...数据库管理平台将逐渐向基于云SaaS平台发展,实现跨地域、跨云平台资源监控和管理。 智能化趋势:数据库管理平台将更加注重应用人工智能、机器学习等技术,实现数据库管理自动化和智能化。...安全智防趋势:随着数据库安全事件频繁发生,数据库管理平台将更加注重数据库安全智能防护。例如对不合法SQL操作,恶意登录,数据泄漏等安全事件进行实时监控,及时发现并处理异常情况。...自动化趋势:数据库管理平台将更加注重自动化发展,推进各项操作自动化实现,减少人工操作参与,提高效率和管理质量。...综上所述,数据库管理平台将逐渐实现云化、智能化、多模式化、安全化和自动化发展趋势。作为一个专门用于进行数据库管理和平台,将实现更高效数据库管理,更保障企业数据可靠性和安全性。

28720

智能机器人--AI实践探索【二】

登场亮相 什么是智能机器人?我们所开发智能机器人,就是采用了人工智能技术,预设场景定位于日常咨询和操作需求,面向开发和两类人群,依托于企业IM工具客服机器人。...另一方面,它不是一个单纯客服,它还是一个面向同学自己移动平台智能机器人这样设计,自然是针对场景特殊性而来。场景最典型特点有以下三条: • 操作类需求。...产品定位 不管依托于哪种企业IM工具,披着什么样“外衣”,智能机器人本质上是一个开发自助平台,也是一个移动平台。...作为移动平台,用户鉴权和联通内网环境,企业IM工具已经内嵌了这两个功能;参数提取,操作识别以及界面交互,智能机器人帮你做好。...这一点切合工具定制化强,开发敏捷特点。而且相比手机APP这个正统移动平台智能机器人移动工具开发门槛低到大多数同学都能够迈过去。

5.3K61

智能告警抑制实现

在监控系统中,频繁告警通知可能会对团队造成干扰和疲劳,影响其对真正重要告警事件关注。...NetView告警抑制作为一种优化告警管理方法,可以有效减少无关紧要告警通知,提高效率。本文将介绍NetView告警抑制定义、工作原理以及其在告警管理中应用。...告警抑制定义告警抑制是一种基于规则功能,它允许在特定条件下抑制或延迟告警通知。通过定义告警抑制规则,可以阻止不必要或重复告警通知,减少对团队干扰。...告警抑制具有以下优势:减少告警噪音:通过抑制无关紧要告警通知,减少运团队干扰和疲劳,使其能够更专注于重要告警事件。优化资源利用:避免因大量重复告警而浪费资源,提高资源有效利用率。...告警抑制适用于以下应用场景:频繁产生重复告警:对于一些周期性出现告警,可以通过告警抑制规则将其抑制,避免对团队干扰。

32310

美创日记|我内存都去哪里了?

但变是办公方式,不变是美创7*24小时不间断支持。 这不,一位客户发来了一条消息: 客户:张工,好像我这个数据库服务器内存使用率有点高啊,你帮我看看?...共享内存和tmpfs,即free命令中shared部分 在正常业务数据库系统中,cached较高是一件比较普遍事情,尽量不要去手动清缓存,毕竟它是为了提高效率而产生,如果冒然释放缓存会造成IO...美创科技拥有强大中心数据库服务团队,其中Oracle ACE 1人、OCM 10余人、数十名Oracle OCP、MySQL OCP、红帽RHCA、中间件weblogic、tuxedo认证、达梦工程师...,并著有《Oracle DBA实战攻略》,《Oracle数据库性能优化方法和最佳实践》,《Oracle内核技术揭秘》等多本数据优化书籍。...今天小技巧就分享到这了,下期再和美创团队一起学习知识吧!

1.6K40

工程师出路到底在哪里

工程师是IT行业中不可或缺一环,他们负责维护系统稳定性和可靠性,确保业务正常运行。然而,随着技术不断发展,工程师也面临着一些挑战和困惑,他们出路到底在哪里呢?...35岁被称为半衰期,究竟为何? 近年来,有一种说法称35岁是工程师半衰期,意思是说在这个年龄之后,工程师职业生涯会开始走下坡路。...此外,随着云计算、物联网、人工智能等新技术出现,工程师工作范围和职责也在不断扩大,他们需要掌握更多知识和技能,以适应新业务需求。...工程师需要掌握知识和技能非常广泛,包括操作系统、网络、数据库、安全等方面,因此需要不断学习和更新自己知识和技能,以适应技术发展和业务需求。 深入了解业务需求。...职业发展路径 工程师职业发展路径有很多种,以下是其中几种比较常见方向: 技术专家。工程师可以深入研究某一个领域或技术,成为该领域专家,提供专业技术支持和解决方案。 架构师。

18310

平台中RESTfulToken认证

在近期要做RESTful服务API化过程中,对于开放API还是需要考虑基本安全认证,如果API能够随便被调用,可能对于功能来说是畅通,如果调用模式固定了之后,再加上更强安全机制,对于已有的业务流程都需要做加固...我看了下网上很多文章,似乎要想完整调试通,中间总是会碰到一些额外问题,今天在同事帮助下把这个基本功能先搞定了。...所以现在优先目标是功能调用,我们配置两个url,一个是api-token-auth这个是调用token验证逻辑,第二个是我们新写一个cmdb调用api,这个部分可以根据你需求来自行定制,哪怕你自己只是输出一个...然后写一个cmdb_api.py,内容如下,这个逻辑是根据输入参数来得到相应数据库信息列表,比如输入db_type=MySQL则输出MySQL信息,大概是这样信息。...结果,getresponse是一个相对通用方法,可以传入url得到返回数据。

57030

智能综合管理平台能否解决企业目前面临困难?

图片    依托于大数据分析技术,为各行业管理提供信息化支撑。通过对管理平台进行智能化改造,构建基于云平台用监控统一管理平台。...实现“监、管、控”为一体先进管理目标,为企业业务管理积累运行数据。     目前企业在运管理过程中仍然经常碰到一些难点,本文华汇数据将为您整理一些管理难点及解决办法。...智能管理系统1、设备没有联网,动态数据缺失巡检靠经验,无法实时查看动态数据。被动,故障预测无从谈起。...2、多种因素制约,质量较差设备类型繁多,受气候条件、环境因素、人员素质和责任心等多方面因素制约,导致流程难以标准化,巡检质量无法保证。...IT综合运营管理平台(ITOM)包含监控系统(IM)、用户体验 (UE)、IT管理平台(ITOA)、IT系统后评价平台(PPE)四大系统,帮助府、企业、行业用户解决IT问题,提高效率,提升服务质量

1.1K10

哪些是数据库智能必踩坑?

将脚本打包成工具使用,比如说自动化平台、性能优化平台、监控平台,简单来说就是将所用脚本归档集中起来。...然后是自动化,关于这方面的讨论这几年非常火,各种大会上都在讲自动化。根据我观察,目前自动化主要在做那么一件或两件事,大多是一些不需要太多流程,不需要太多的人工智能事情。...最后是智能,这是也本次要讲一个比较重要主题。所谓智能就是让机器去干人事情,让机器学习人思想,再通过人工智能一些手段实现出来。...而智能甚至还在起步阶段,或者说在概念阶段。 AI性能需求 作为一个非甲方公司,我们考虑智能化性能,必须要兼容所有的数据,这是一个大前提。不同数据库类型,智能需求是不一样。...因此在智能性能这块,我们要把这些毫无头绪环节梳理出来。 性能优化目标 ?

1.5K30
领券