总第507篇 2022年 第024篇 DAS(Database Autonomy Service, 数据库自治服务)面向研发和DBA,是一款为用户提供数据库性能分析、故障诊断、安全管理等功能的数据库自治服务 长期来看,只有完善能力版图,才能持续不断地提升整个数据库的稳定性及保障能力。 ,同时也可以为智能化打下一个良好的基础。 这就需要找其中的可控因素,并不断改善。 我们在学习亚马逊的时候,刚好发现他们有一个可控输入和输出指标的方法论,就很好地指导了我们的工作。 (2)自治能力在少部分场景上落地:数据库自治能力上,会采取三步走的策略: 第一步:建立根因诊断和SOP文档的关联,将诊断和处理透明化; 第二步:SOP文档平台化,将诊断和处理流程化; 第三步:部分低风险无人干预
作者介绍 杨江, 6年Oracle工作经验,4年Oracle数据库专业服务经验,擅长性能优化、性能问题诊断、故障排查、GOLDENGATE。 影响数据库性能的因素有很多,从大的方面可以分为硬件和软件。 硬件包括CPU、内存、存储、网络设备等,软件方面包括操作系统版本、操作系统参数、数据库版本、数据库参数、数据库架构、运行的SQL代码等。 通过我们处理的故障类型统计,80%的性能问题来自于不良的SQL语句编写。 生产环境常做访问控制,管理生产环境DBA忙于日常事务无法顾及数据库性能。 本文介绍一次性从生产库上获取分析性能SQL相关的数据,拿到本地环境分析诊断生产性能问题。 小时内还未执行完一次,但占用整个采样期间8.21%的物理读,并伴有严重的IO等待,对采样期间数据库整体性能有较大影响 执行计划中存在全表扫描操作 语句简单易懂 解析 表基础信息 ?
提供包括云服务器,云数据库在内的90+款云计算产品。打造一站式的云产品试用服务,助力开发者和企业零门槛上云。
大数据和人工智能,都是当下的技术热点,受到的关注都不少,并且这两个技术领域,本身也存在很强的关联性,因此很多人也会把这两者拿来做对比,从技术难度到未来前景,大家都非常关注。大数据还是人工智能? 哪个未来发展更好?今天我们来具体聊一聊。 7.jpg 对于大数据和人工智能这两个技术领域,首先都很新,这是事实,同时发展势头也很好,前景可期,但是对专业技术的要求,也都不低。 在学大数据还是人工智能这个问题上,建议一定要考虑的一点就是,自身的基础水平,以及未来的发展规划。 学大数据还是人工智能? 9.jpg 不管是学习大数据,还是学习人工智能,都建议先选一个方向,找到入门的路线,至少有精通一门语言,再图谋其他。要想在某个方向要精通,是需要足够的时间去钻研和积累实际经验的。 关于大数据还是人工智能,哪个发展更好,以上就是简单的分享了。大数据和人工智能都在快速发展当中,不管选择哪个方向入行,都要先迈出第一步,先开始学习,提升技术实力才是入行的关键。
关键字(Keyword): 性能问题,分析方法,诊断方法,方法论 本文介绍笔者技术支持中应用多年的Oracle数据库性能问题分析和诊断方法,以及笔者的一些经验分享。 分析和解决数据库性能问题也可以概括地分为三步,第一步形成“共识”;第二步,分析和诊断;第三步,提供解决方案。 ・在回答客户问题的同时,顺便问一下问题背景是不是更好? "我的数据库慢了,我该怎么办?" ・客户遇到现象是什么样的?是整个数据库慢?所有的应用处理都慢?还是某一条特定的SQL慢? 问题的处理能力 个人认为数据库性能问题诊断中对问题的处理能力,可以总结为以下几个方面: ・知识架构的系统性(广度)・某一领域知识点的理解程度(深度)・经验和时间积累的问题敏感度 知识不等同于信息, 数据库性能诊断清单 对于数据库性能问题,我们通常采取自上而下的方法进行诊断,下面是一个自上而下性能问题诊断的清单: ?
TencentDB for DBbrain(以下简称DBbrain)中文名数据库智能管家,是一款智能诊断和优化数据库的产品,为用户提供实时的数据库防护,在出现故障时高效地定位原因并提供解决方案,同时也协助用户进行源头的预防 帮助用户更好的掌握所有数据库实例动态,以及监控数据库实例健康和异常状况。 智能分析 智能分析为开启 DBbrain 的所有数据库实例提供实时的性能监控和智能诊断,让用户既可以直观的感知数据库实例的实时运行状况,也可以定位实时异常性能,并根据 DBbrain 建议进行系统优化。 智能分析由如下三个子功能组成: · 智能监控 智能监控融合了腾讯云数据库大量技术专家的最佳实践,提供了更加聚焦的监控维度和组合形式,能更直观的呈现出云数据库实例的性能状况,且所有监控项均具有极高的实时性 监控.png · 智能诊断 智能诊断以智能监控采集的数据为依据,提供7 * 24小时实时数据库异常诊断分析。
关于腾讯云数据库提供的服务,他们这样说: 重磅 数据库智能管家DBbrain面向所有用户开放体验啦! ? 有朋友问了,我能在哪里进入DBbrain呢? 1 四、DMC控制台 登入数据管理DMC(https://dms.cloud.tencent.com/),也可从mysql实例列表点击“登入”,选择【DBbrain智能优化】或【一键诊断】等多个按钮,跳转进入数据库智能管家 1 五、小程序:腾讯云助手 搜索“腾讯云助手”小程序,点击【云数据库】,选择数据库服务-数据库智能管家DBbrain,开启移动端数据库智能运维旅程。 ? 全新的宏观监控查看视角,横向对比全实例监控 异常诊断:7*24小时异常发现诊断,提供实时优化建议 实时会话:还原实例的实时会话信息现场 健康报告:一键生产数据库巡检报告,细粒度审查数据库健康隐患 慢SQL 分析:慢SQL全方位分析优化,专家级优化建议 空间分析:数据库空间使用一览,AI预测助力 SQL透视:全量SQL深层次的分析,多维度分透视数据库运行情况 SQL优化器:一键优化 SQL 语句,上线审查好帮手
原因有4个: 1、对于同时都是收费版的Sqlyog和Navicat,大家用得都是盗版或者破解版,无所谓价格。但是如果购买的话,Sqlyog还是有很大价格优势的。 2、如果是连接本地或者没有锁定远程的话,无所谓,但是我是连接AWS的远程数据库,需要跟本地MySql对比啥的,用PHPMyAdmin不行,Navicat也不好使,Sqlyog对SSH and HTTP Tunneling支持很好,一连就行! 也可能是我当时Navicat设置的问题,理论上2者都支持。 3、如果你是Windows平台,可以两个都安装。如果要连接阿里云,可以选择Navicat。 但关于Navicat连接阿里云的那个,感觉是个噱头。 4、UI方面,我个人更喜欢Sqlyog的风格,不仅是软件界面,光看其官网,就喜欢。当然Navicat的软件界面也相当专业。 ?
但是,哪怕是走了半步的人工智能也足以颠覆很多古老的职业,如医生。 现阶段的人工智能擅长的是什么? 人工智能具有迅速处理海量复杂数据信息能力,具备通过逻辑推理和深度的归纳分析解决通用问题的能力,并能够从一个平台迁移到另一个平台的不朽思维,永远不会抹去或忘记事情,也不会搞错任何信息。 当前大部分医生的工作其实就是简单的、重复性的、有规律的脑力劳动,而人工智能在这些医生面前有更多的优势,如,诊断速度更快,机器能实现一体化的检查、分析、诊断和治疗方案,患者不需要一个个检验科地跑,来回穿梭于诊室和药房 而在国内,一众科技巨头也在积极布局智能医疗,如,腾讯就在开发一个名为“腾讯觅影”的医疗领域AI产品,它通过对人体进行扫描,就能检查出人体内各部位、各器官的的疾病,哪怕还只是一个苗头。 据介绍,腾讯觅影的工作原理分两步:第一步,海量学习、理解和归纳各种医疗信息,包括权威医学书籍文献、诊疗指南和病历等海量信息,自动构建一个大规模的“医学知识图谱”;第二步,接入各大医院的临床诊断案例库进行深度学习
当然有办法,以后测试,不妨加上这个:数据库智能诊断报告。 在测试环境中开启全量审计日志,记录运行过程中的各种行为,业务全量回归。 这时候,数据库则可以基于全量审计日志和智能诊断系统获得一份专属的数据库诊断报告,这个报告基于真实的运行情况,通过AI来提前发现潜在风险并进行规避。 目前,腾讯云上就有这样的智能诊断系统——腾讯云DBbrain,利用机器学习、大数据手段、专家经验引擎等技术,实时诊断并得出智能调优建议,让你的数据库测试稳如老狗 扩容好了,高峰期也过了 往往只有热点来的时候 林晓斌(网名丁奇)给出了他的答案——数据库的未来就是“没有数据库”。智能化、超融合和去服务化将是未来的数据库形态。 在过去,数据库也在不断地由繁化简。 数据的使用发展到最后,可能只需要一个个函数或者更加简洁的形式来体现,至于背后是什么数据库存的,数据库怎么存的,就是一个完美的黑箱,复杂,但好用。
5月22日上午,以“智医疗 至健康”为主题的智慧医疗专场重磅开启。 随着医疗行业融入更多大数据、人工智能、传感技术等高科技,医疗服务正走向真正意义的智能化,并快步走进寻常百姓的生活。 对于患者来说,诊前会根据身体状况进行一些咨询,需要知道自己要去哪家医院哪个科室看病;诊中需要和医生交流反映病情;诊后要了解自己的用药和康复计划。 目前腾讯AI Lab已开发了智能导诊、AI预问诊、AI辅助诊断和智能用药几个贯穿疾病诊疗全流程的产品。 AI辅助诊断系统技术框架 ? 通过对这些原始数据进行清洗、信息提取和知识关联,我们可以建立结构化的临床知识库、标志库和规则库。 第二个主要研究方向是病理组学,也就是从病理数据中提取对诊断有用的特征,进行定量化分析,建立病理特征和诊疗结果的关联性。
论文阐述通过深度学习与知识图谱相结合,解构临床电子病历数据,形成一套智能病种库,并在其基础上构建辅助诊断模型的技术。也就是说,有了这项技术,计算机能够「读懂」病历,并进行初步诊断。 整个系统的运作分为两部分。首先,基于医疗知识图谱,利用深度学习技术按照一定规则解构临床电子病历数据,将非结构化文本数据变为结构化数据,建成一套智能病种库。 依图医疗表示,已联合30余位高级儿科医师及10余位信息学研究人员构建了6000余个Schema,搭建起基础模型,并通过大量数据训练,形成前文所述的「智能病种库」。 病种库构建好后,团队利用分层的逻辑回归的分类器建立诊断模型。倪浩介绍道,该模型与其他系统的不同之处在于其采用层次化结构进行判断。 当一位患者进入医院就诊,会产生影像检查数据、电子病历数据、化验结构化数据等,那么若人工智能要为未来医生提供全面的诊断辅助和治疗辅助,其对各种模态数据的理解能力都非常重要。 「这次实验最大的意义在哪里?
在这样残酷的局面下,数据库团队开始运维智能化的探索,发现数据库运维结合微信移动化以及人工智能可以有效解决人力问题。 不断思考运维效率提升方式后诞生了DBbrain的前身智能托管平台。 这个确实是个好问题,也正是我今年在做“数据库智能管家DBbrain”时思考最多的一个问题。 运维自动化的未来必然是智能化。但是如何开始,可能每个团队有自己不同见解。 数据库智能管家DBbrain在探索无人值守的智能化运维道路上首先攻坚的就是从故障诊断、SQL优化。 我相信无人值守的智能化数据库运维将是一个不断优化的过程,也必须从最简单的开始不断深入挖掘,才能不断的完善。 03 进入无人值守的时代以后,那么传统的运维工程师会转向什么方向呢? ? 进入无人值守的时代,即level4(服务智能化),传统的运维工程师将不需要消耗精力在基本的性能优化、问题发现和数据收集工作上,一方面可以更好的聚焦于复杂的数据库问题,不断完善和推动运维服务智能化进程,更重要的是能够聚焦于业务逻辑架构
LUNA16挑战赛聚焦在基于 LIDC/IDRI 数据库的结节大规模自动检测与评估。 作为中国人工智能领域的佼佼者,科大讯飞除了深耕智能语音领域以外,也在视觉和自然语言理解等人工智能相关领域持续布局,以期更好的发挥人工智能技术的价值、提供更好的产品体验。 关于落地应用 AI科技大本营:这个模型(医学影像辅助诊断系统)能直接应用到医院了吗?效果如何?目前和哪家医院合作? 鹿晓亮:目前科大讯飞医学影像智能辅助诊断系统基于图像识别和深度学习技术,结合医学专家诊断经验和大量样本数据,能自动从医学影像中检出病灶并对良恶性作出判断,辅助医生快速、准确地完成影像诊断。 目前在实际应用中科大讯飞医学影像智能辅助诊断系统已能在很大程度上能够辅助医生工作,减少误诊、漏诊。
human lncRNA+mRNA array V.2.0 把119个食管癌病人数据拆分成为 training (n=60) and test (n=59) 数据集 在训练集里面,筛选 4874 lncRNAs 组成的食管癌诊断分类器基因集,过程比较复杂,如下: ? PMID: 27172796 学徒作业 大家可以去tcga数据库下载食管癌的转录组数据,提取分离lncRNA的部分,走同样的诊断建模流程,看看得到的lncRNA是否作者的3个lncRNA有交叉。 这里面变量很多: 首先,两个队列的人群地域差异 其次,lncRNA芯片和测序技术差异 还有,肿瘤组织和癌旁配对问题,两个组数据量问题 对大家来说,比较难的地方就是如何取最小可诊断的lncRNA集合。 可以参考我的4个小时TCGA肿瘤数据库知识图谱视频教程,其中中共使用了四种算法构建模型: cox(可做单因素和多因素) TCGA的cox模型构建和风险森林图 lasso回归 用lasso回归构建生存模型
, PPP2R2A, and LATS2,最后定位到DICER1 30-UTR 我以前在在生信技能树分享了几个miRNA的靶向基因的查询工具,分别是: microRNAs靶基因数据库哪家强 使用miRNAtap 数据源提取miRNA的预测靶基因结果 对miRNA进行go和kegg等功能数据库数据库注释 大家可以尝试看看hsa-miR-31 的靶基因,是否有这3个基因,示意图如下: ? miRNA靶向调控示意图 学徒作业 大家可以去tcga数据库下载肺鳞癌的miRNA芯片或者测序数据,走同样的诊断建模流程,看看得到的miRNA是否作者的5个miRNA有交叉。 这里面变量很多: 首先,两个队列的人群地域差异 其次,miRNA芯片和miRNA测序技术差异 还有,肿瘤组织和癌旁配对问题,两个组数据量问题 对大家来说,比较难的地方就是使用主成分分析和支持向量机建模。 可以参考我的4个小时TCGA肿瘤数据库知识图谱视频教程,其中中共使用了四种算法构建模型: cox(可做单因素和多因素) TCGA的cox模型构建和风险森林图 lasso回归 用lasso回归构建生存模型
在这样严峻甚至堪称残酷的局面下,当时OMG的数据库负责人邵宗文发现可以结合微信移动化以及人工智能可以有效解决人力问题,于是运维小分队选择开发了兼容PC端和移动端的智能运维平台,来完成这个“不可能完成的任务 信息获取难 数据库异常诊断和优化的前提是需要采集足够多和粒度细的监控数据、日志数据、状态数据等,只有基于完备的信息才能给出准确的解法。 无需获取足够多的样本来,减少前期数据采集的工作量,获得较好的参数调优效果。 2、双剑合璧,数据库安全防护加持 数据库的安全是一个永恒的话题。 1)全面掌控数据流 帮助您了解各类数据的流转信息,解决企业哪些敏感数据常被访问、被谁访问、访问途径是什么等安全问题,助您更好优化数据安全措施。 结合用户使用习惯和场景,其功能涵盖了管理实例、监控告警、诊断优化、日报订阅和推送等数据库高频操作。
演讲嘉宾:邓侃 【新智元导读】新智元AI WORLD 2017 世界人工智能大会,大数医达CEO、CMU计算机学院暨机器人研究所博士邓侃,发表演讲《智能诊断系统的4大技术难点》,分享了构建中国首个全过程医学诊疗导航系统解决方案的历程 大数医达的智能医疗导航系统,将这个庞大医学临床知识图谱融入深度学习模型中,用临床数据做初始化数值,用知识规则做后验,结合在一起做精细化诊断,后续利用强化学习,将多种检查手段合在一起形成闭环。 但是,很多进展都只发生在某一个诊断,或者某一个治疗环节。我们创业的人,动机和定位与前面研究略有不同。我们更强调诊断和治疗全过程的人工智能,我们称之为“导航”的系统。 接下来,我们开始进行实时诊断导航,这件事情怎么做?首先,我们将所有病历描述压缩成为一个等长的定长的张量,接下来大致识别哪一组疾病,进行分等。 这样诊断得出的结果有两个:一是诊断模型,根据现有的可能是有限的病情描述,告诉患者患了哪些病;二是导航模型,现在由于病情描述有限,推断出来可能的疾病有非常多,后续需要更多化验和检查。
腾讯云数据库智能管家(DBbrain)是一款可为用户提供数据库性能、安全、管理等功能的数据库自治平台。利用机器学习、大数据手段快速复制资深数据库管理员的成熟经验,将大量数据库问题的诊断优化工作自动化,服务于云上和云下企业。提供从用户行为安全、SQL安全到数据存储加密安全等多项数据安全服务,公安部认证的等保合规性安全产品。提供免安装、免运维、即开即用、多种数据库类型与多种环境统一的web数据库管理终端。
扫码关注云+社区
领取腾讯云代金券