首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

Hadoop-2.4.1学习之如何确定Mapper数量

MapReduce框架的优势是可以在集群中并行运行mapper和reducer任务,那如何确定mapper和reducer的数量呢,或者说Hadoop如何以编程的方式控制作业启动的mapper和reducer数量呢?在《Hadoop-2.4.1学习之Mapper和Reducer》中曾经提及建议reducer的数量为(0.95~1.75 ) * 节点数量 * 每个节点上最大的容器数,并可使用方法Job.setNumReduceTasks(int),mapper的数量由输入文件的大小确定,且没有相应的setNumMapTasks方法,但可以通过Configuration.set(JobContext.NUM_MAPS, int)设置,其中JobContext.NUM_MAPS的值为mapreduce.job.maps,而在Hadoop的官方网站上对该参数的描述为与MapReduce框架和作业配置巧妙地交互,并且设置起来更加复杂。从这样一句含糊不清的话无法得知究竟如何确定mapper的数量,显然只能求助于源代码了。

02

EmguCV 常用函数功能说明「建议收藏」

大家好,又见面了,我是你们的朋友全栈君。AbsDiff,计算两个数组之间的绝对差。 dst(I)c = abs(src1(I)c-src2(I)c)。所有数组必须具有相同的数据类型和相同的大小(或ROI大小)。 累加,将整个图像或其所选区域添加到累加器和。 累积产品,将2张图像或其选定区域的产品添加到累加器中。 AccumulateSquare,将输入src或其选定的区域,增加到功率2,添加到累加器sqsum。 累积权重,计算输入src和累加器的加权和,以使acc成为帧序列的运行平均值:acc(x,y)=(1-alpha)* acc(x,y)+ alpha * image(x,y )如果mask(x,y)!= 0,其中alpha调节更新速度(累加器对于先前帧的多少速度).. 自适应阈值,将灰度图像转换为二进制图像。每个像素单独计算的阈值。对于方法CV_ADAPTIVE_THRESH_MEAN_C,它是blockSize x blockSize像素邻域的平均值,由param1减去。对于方法CV_ADAPTIVE_THRESH_GAUSSIAN_C,它是blockSize x blockSize像素邻域的加权和(高斯),由param1减去。 添加,将一个数组添加到另一个数组:dst(I)= src1(I)+ src2(I)if mask(I)!= 0所有数组必须具有相同的类型,除了掩码和大小(或ROI)尺寸)。 AddWeighted,计算的两个数组的加权和如下:dst(I)= src1(I)* alpha + src2(I)* beta + gamma所有的数组必须具有相同的类型和相同的大小(或ROI大小)。 ApplyColorMap,将颜色映射应用于图像。 ApproxPolyDP,近似具有指定精度的多边形曲线。 ArcLength,计算轮廓周长或曲线长度。 ArrowedLine,绘制从第一个点指向第二个点的箭头段。 BilateralFilter,将双边滤镜应用于图像。 BitwiseAnd,并计算两个数组的每元素的逐位逻辑连接:dst(I)= src1(I)&src2(I)if mask(I)!= 0在浮点数组的情况下,使用它们的位表示为了操作。所有阵列必须具有相同的类型,除了掩码和大小相同。 BitwiseNot,反转每个数组元素的每一位:。 BitwiseOr,计算两个数组的每元素逐位分离:dst(I)= src1(I)| src2(I)在浮点数组的情况下,它们的位表示用于操作。所有阵列必须具有相同的类型,除了掩码和大小相同。 BitwiseXor,计算两个数组的每元素的逐位逻辑连接:dst(I)= src1(I)^ src2(I)if mask(I)!= 0在浮点数组的情况下,使用它们的位表示为了操作。所有阵列必须具有相同的类型,除了掩码和大小相同。 模糊,使用归一化的盒式过滤器模糊图像。 BoundingRectangle,返回2d点集的右上角矩形。 BoxFilter,使用框过滤器模糊图像 BoxPoints(RotatedRect),计算输入2d框的顶点。 BoxPoints(RotatedRect,IOutputArray),计算输入2d框的顶点。 CalcBackProject,计算直方图的反投影。 CalcCovar矩阵,计算一组向量的协方差矩阵。 CalcGlobalOrientation,计算所选区域中的一般运动方向,并返回0到360之间的角度。首先,函数构建方向直方图,并将基本方向作为直方图最大值的坐标。之后,该函数计算相对于基本方向的移位,作为所有方向向量的加权和:运动越近,权重越大。得到的角度是基本方向和偏移的圆和。 CalcHist,计算一组数组的直方图 CalcMotionGradient,计算mhi的导数Dx和Dy,然后计算梯度取向为:方向(x,y)= arctan(Dy(x,y)/ Dx(x,y)),其中Dx(x,y)考虑Dy(x,y)“符号(如cvCartToPolar函数)。填写面罩后,指出方向有效(见delta1和delta2说明).. CalcOpticalFlowFarneback(IInputArray,IInputArray,IInputOutputArray,Double,Int32,Int32,Int32,Int32,Double,OpticalflowFarnebackFlag),使用Gunnar Farneback算法计算密集的光流。 CalcOpticalFlowFarneback(Image <Gray,Byte>,Image <Gray,Byte>,Image <Gray,Single>,Image <Gray,Single>,Double

02

存储瘫痪抢救Oracle数据库案例

本次分享的案例是关于HP FC MSA2000存储瘫痪抢救Oracle数据库的案例,故障存储整个存储空间由8块硬盘组成,其中7块硬盘组成一个RAID5的阵列,剩余1块做成热备盘使用。由于RAID5阵列中出现2块硬盘损坏,而此时只有一块热备盘成功激活,因此导致RAID5阵列瘫痪,上层LUN无法正常使用。 由于存储是因为RAID阵列中某些磁盘掉线,从而导致整个存储不可用。因此接收到磁盘以后先对所有磁盘做物理检测,检测完后发现没有物理故障。排除物理故障后对数据全部备份后在进行进一步的分析。 【故障分析】 1、分析故障原因 由于前两个步骤并没有检测到磁盘有物理故障或者是坏道,由此推断可能是由于某些磁盘读写不稳定导致故障发生。因为HP MSA2000控制器检查磁盘的策略很严格,一旦某些磁盘性能不稳定,HP MSA2000控制器就认为是坏盘,就将认为是坏盘的磁盘踢出RAID组。而一旦RAID组中掉线的盘到达到RAID级别允许掉盘的极限,那么这个RAID组将变的不可用,上层基于RAID组的LUN也将变的不可用。目前初步了解的情况为基于RAID组的LUN有6个,均分配给HP-Unix小机使用,上层做的LVM逻辑卷,重要数据为Oracle数据库及OA服务端。 2、分析RAID组结构 HP MSA2000存储的LUN都是基于RAID组的,因此需要先分析底层RAID组的信息,然后根据分析的信息重构原始的RAID组。分析每一块数据盘,发现4号盘的数据同其它数据盘不太一样,初步认为可能是hot Spare盘。接着分析其他数据盘,分析Oracle数据库页在每个磁盘中分布的情况,并根据数据分布的情况得出RAID组的条带大小,磁盘顺序及数据走向等RAID组的重要信息。 3、分析RAID组掉线盘 根据上述分析的RAID信息,尝试通过北亚RAID虚拟程序将原始的RAID组虚拟出来。但由于整个RAID组中一共掉线两块盘,因此需要分析这两块硬盘掉线的顺序。仔细分析每一块硬盘中的数据,发现有一块硬盘在同一个条带上的数据和其他硬盘明显不一样,因此初步判断此硬盘可能是最先掉线的,通过北亚RAID校验程序对这个条带做校验,发现除掉刚才分析的那块硬盘得出的数据是最好的,因此可以明确最先掉线的硬盘了。 4、分析RAID组中的LUN信息 由于LUN是基于RAID组的,因此需要根据上述分析的信息将RAID组最新的状态虚拟出来。然后分析LUN在RAID组中的分配情况,以及LUN分配的数据块MAP。由于底层有6个LUN,因此只需要将每一个LUN的数据块分布MAP提取出来。然后针对这些信息编写相应的程序,对所有LUN的数据MAP做解析,然后根据数据MAP并导出所有LUN的数据。 【数据恢复过程】 1、解析修复LVM逻辑卷 分析生成出来的所有LUN,发现所有LUN中均包含HP-Unix的LVM逻辑卷信息。尝试解析每个LUN中的LVM信息,发现其中一共有三套LVM,其中45G的LVM中划分了一个LV,里面存放OA服务器端的数据,190G的LVM中划分了一个LV,里面存放临时备份数据。剩余4个LUN组成一个2.1T左右的LVM,也只划分了一个LV,里面存放Oracle数据库文件。编写解释LVM的程序,尝试将每套LVM中的LV卷都解释出来,但发现解释程序出错。 仔细分析程序报错的原因,安排开发工程师debug程序出错的位置,并同时安排高级文件系统工程师对恢复的LUN做检测,检测LVM信息是否会因存储瘫痪导致LMV逻辑卷的信息损坏。经过仔细检测,发现确实因为存储瘫痪导致LVM信息损坏。尝试人工对损坏的区域进行修复,并同步修改程序,重新解析LVM逻辑卷。 2、解析VXFS文件系统 搭建环境,将解释出来的LV卷映射到搭建好的环境中,并尝试Mount文件系统。结果Mount文件系统出错,尝试使用“fsck –F vxfs” 命令修复vxfs文件系统,但修复结果还是不能挂载,怀疑底层vxfs文件系统的部分元数据可能破坏,需要进行手工修复。 3、修复VXFS文件系统 仔细分析解析出来的LV,并根据VXFS文件系统的底层结构校验此文件系统是否完整。分析发现底层VXFS文件系统果然有问题,原来当时存储瘫痪的同时此文件在系统正在执行IO操作,因此导致部分文件系统元文件没有更新以及损坏。人工对这些损坏的元文件进行手工修复,保证VXFS文件系统能够正常解析。再次将修复好的LV卷挂载到HP-Unix小机上,尝试Mount文件系统,文件系统没有报错,成功挂载。 4、检测Oracle数据库文件并启动数据库 在HP-Unix机器上mount文件系统后,将所有用户数据均备份至指定磁盘空间。所有用户数据大小在1TB左右。 使用Oracle数据库文件检测工具“dbv”检测每个数据库文件是否完整,发现并没有错误。再使用北亚Oracle数据库检测工具,发现有部分数据库文件和日志文件校验不一致,安排北亚工程师对此类文件进行修复

01
领券