多服务器终端交互利器--polysh和atnodes到高逼格日志中心

  最近博客更新的少了,相对而言,我在自己的个人公众号里还是挺活跃的,大家可以扫描旁边的二维码,或者微信搜索公众号:“编程一生”加关注。

  在分布式的年代,一个应用需要部署到多台服务器上。那么要查看日志文件咋办?一台台的查?这年头还真有这么干的。多服务器终端交互利器有不少。最流行的是polysh。atnodes据说“去哪儿”在用。

      polysh这种跨机器的,想想就知道需要做多台机器的ssh免密码登陆,比较麻烦,所以建议一个团队用一个公用目录来装,大家统一用这个账户来操作即可。安装和使用方法大家自行百度吧。主要想说的是现在python脚本和shell脚本一样,已经成了程序员的必备技能。

  而polysh是一种思维方式。如果一件事情你觉得重复麻烦的,必然会有一个工具能代替你做事情。举个例子,刚才提到需要多台机器的ssh免密码登陆。这个时候要所有服务器的autorized_keys文件都要写入polysh所在机器的公钥。那么这时候一定有简单的办法,就是key2nodes命令(将key写入服务器节点)。

  key2nodes是SSH::Batch提供的强大的的批量工具之一。其他工具还包括atnodes和tonodes。atnodes可以在目标集合上同步批量执行命令或者脚本。tonodes可以将文件批量上传到集群制定位置。

   像查看日志这种对系统安全危害小的,又常用的服务。既然可能多服务器终端交互,自然可以不用登陆跳板机,用一个网页形式来替我们完成这个功能,我们习惯上把这个叫做实时日志。这个可能公司内部的基础设施部门自己搭建。

  更高逼格一点的基础设施就是日志中心了。

  日志中心的架构思路各个公司间总体还是差不多的。我们磁盘上有日志,日志有一些通用格式。日志中心的进程会监控日志的变更,将增量通过消息队列收集到数据平台。数据平台进行数据计算,将计算结果可视化。现在所谓的大数据大多也是这种思路嘛。

  除了上面说的本地磁盘手机之外,比较常用的收集方式还有SDK上报和APP端上报。对java来说,现在比较流行的日志组件有原生的log4j2、logback。还有scribe-log4j2来自定义ScribeAppender。还有日志格式化工具Xmd-log4j2。

  比较简单的实现思路上:消息队列用kafka,上传到ES集群,建立索引后,用kibana做可视化。我们作为使用的业务方来说,除了简单了解架构,按照文档进行相应的配置之外,还需要了解DSL(Domain Specific Languae),即领域专用语言。如果使用ES的话,这个DSL就是ES的语法。

跑题时间:

  天冷了,是低调的缩被窝的季节。

  国庆节过完happy的八天长假。上班第一天下雨,晚上照例打车可以报销我还是一个人拉着大箱子坐地铁,然后自己把箱子搬上没有电梯的6楼。我问别的女孩子,你遇到这种情况会不会觉得很凄凉。MM说会啊,女孩子应该矫情一点。我当时没有任何觉得凄凉,反而很感谢婆婆装箱子的时候被子用塑料布包起来了。晚上睡的很暖和。

  人家说好的爱情不是雪中送炭,是锦上添花。但是所有让人泪流满面的电视剧都是天时地利人和。我需要的时候,你也在那里。锦上添花的爱情听起来很美,只是锦上添上什么花都会很美,到底什么来确保你是唯一。人随着年龄的增长,自己能做的越来越多,越来越不需要别人,锦上添花可以有,雪中送炭难求。所以我觉得人应该感谢现在还年轻,一无所有的自己,起码有机会遇到那个会在自己需要的时候出现的那个人。

  越努力越幸福。很多年前看《你给的夏天》一直记着这句话。日语的,原文是“頑張れば、幸せになれる”。这半年,我的家人在各方面都给了我巨大的支持。但是,工作上,总是一波未平一波又起。别人总是在追求更好的东西。我工作上就一个目标:不失业。做起来却已经很难。别人换工作,经常是休息调整一下,我换工作,从来都是马不停蹄,没有一个工作日是处于无工作状态。这样,还是总是在担心未来会怎样。

  微信里有个“鬼脚七”的好友,前阿里高管,已经财务自由,做着自由媒体人。人家过的自然好,我却不想过这样的日子。我需要对未来的担忧,对现在的奔波,现实和理想是有碰撞的。生活太过理想化,人会很容易掉进唯心主义的漩涡。

  爸爸、妈妈因为是医生,在小县城里算是收入不错又受人尊敬的职业。但是人年纪大了,会越来越固执,觉得自己很厉害。我爸经常开口就是:“你不懂”。然后什么什么的。我妈五年前去世了,这么多年我经常会做梦梦见她还活着。然后梦里会对自己说我醒着的时候一定是弄错了,现在才是对的,看,我妈还活着。可五年前我妈活着的时候我的日子并不好过。她在家乡,我在外地。每周我给她打电话都需要很大的勇气。她总想掌控我的生活,她根本不能完全考虑我的实际情况,却要我一切都听她的。我怀孕的时候,每次打电话都是很强硬的让我做这做那。每次打完电话我都不开心。然后我就找借口跟她吵一架,不跟她打电话了。最后还是男神在小鲜肉出生的时候瞒着我给我妈打了电话。我妈从那以后对我说话谨慎多了,但是最后还是因为她的固执丧失了生命。

  我要的东西很简单,也很容易满足。女汉子一条,像个lady一样站在旁边看男孩子为我做体力活,那只是出于礼貌。就好像之前在日本的时候,因为日本的习惯,女孩子吃的太多是件不太好意思的事情。所以一个日本客人把旁边一个女孩吃的一大堆虾壳用餐巾纸盖起来了。

  但是现在,我不应该只看自己已经有的,知道自己很幸运,珍惜自己拥有的。还要更多的看到自己没有的。这样会更谦虚、谨慎,吸收更多的东西,变成一个更不固执的自己。未来的路还很长,现在,不能止步。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏罗超频道

GMAIL教会我们:互联网服务不牢靠

GMAIL彻底无法访问,包括WEB和客户端。在Google退出中国之后的4年里,GMAIL每天都在抽风,过去也曾短暂地因为Google自身故障在几天之内连续无法...

2719
来自专栏数据和云

生日快乐:DB-Engines五周年及数据库排行榜中的中国势力

在10月11日,DB-Engines的网站上,发布了一条消息:Five years of DB-Engines.com ,这个网站已经走过了5年的历程。我们很多...

3034
来自专栏机器人网

电气工程师需要哪些知识结构?掌握了你也是大神…

近来许多学生和已经入职工作的知友们,纷纷以私信的形式来询问我到底电气工程师需要哪些知识。我没法给出电网工作的知识结构,但对于本专业的知识结构倒是略知一二。 以...

2698
来自专栏互联网数据官iCDO

恶意评论快照删除与投诉渠道

互联网数据官(iCDO)原创作者 郑智超 各位好,目前的互联网营销涉及方方面面,但是在竞争营销环境下,不免会出现恶意竞争的情况,恶评例如: 医美行业:我的鼻子让...

3326
来自专栏区块链技术指北

「区块链技术指北」官方社区 bcage.one 上线

本文由币乎社区(bihu.com)内容支持计划奖励。 这是「区块链技术指北」的第 16 篇文章。 如果对我感兴趣,想和我交流,我的微信号:Wentasy,加我时...

3195
来自专栏大数据文摘

70多个网站让你免费获取大数据存储库

3458
来自专栏机器人网

高水平自动化工程师是如何炼成的?

成长篇:如何成为一名合格的工程师 初入工控行业的年轻人,肯定梦想着早日成为一名合格的电气工程师。 个人觉得,首要任务,需要具备以下几个能力: 能用计算机进行...

2756
来自专栏BestSDK

Mashape 和 RapidAPI 合并,搭建全球最大的API开发市场

应用编程接口发行商RapidAPI和Mashape Inc.近日宣布合并,将组建它们号称的全球最大的应用编程接口市场。 ? RapidAPI的总部位于旧金山,已...

3179
来自专栏一名叫大蕉的程序员

我差不多,哦不我已经是个废人了No.4

我是小蕉。 好吧大家都说技术看不懂,那好吧,今天一点技术都没有,主要谈谈一个人来如何懒起来。 前几日因为要部署一个ElasticSearch集群...

18210
来自专栏BestSDK

逛逛水果摊,秒懂云计算

今天路过楼下的水果摊 突发奇想 如此拥挤和繁荣,像不像我们云计算市场 ? 如果用水果来类比云计算技术和品牌 那么,吃货就能懂了 虚拟化技术 ? ? ? ? ...

3297

扫码关注云+社区