首页
学习
活动
专区
工具
TVP
发布

大数据-Hadoop、Spark

专栏作者
88
文章
141442
阅读量
39
订阅数
Linux的一些知识
:wq 强制性写入文件并退出。即使文件没有被修改也强制写入,并更新文件的修改时间。
sparkle123
2021-03-07
4710
Linux /var/log下的各种日志文件
last等日志是二进制文件,无法直接修改。所以清除的最简单方式是清空日志文件本身。
sparkle123
2021-01-21
1.8K0
Spark任务日志
SparkListenerLogStart SparkListenerBlockManagerAdded SparkListenerEnvironmentUpdate SparkListenerApplicationStart //N个 SparkListenerExecutorAdded //N个 SparkListenerBlockManagerAdded org.apache.spark.sql.execution.ui.SparkListenerSQLExecutionStart SparkListenerJobStart //N个 SparkListenerStageSubmitted //N个 SparkListenerTaskStart SparkListenerTaskEnd //N个
sparkle123
2021-01-13
4360
ReadProcessor read fields took xx ms
cd /opt/log/xdp/hadoop-hdfs/hdfs_datanode
sparkle123
2021-01-08
9190
2018-08-01-日报
1、研究了数据治理、数据质量两份文档,整理了产品的功能需求文档, 使用在线工具将pdf转化为word,使用工具将chm转为word,转化效果还挺好的。 2、发现两个linux命令: 执行以下命令,查看内存是否不足。 free -m 当内存不足时,执行以下命令,释放空闲内存。 echo 3 > /proc/sys/vm/drop_caches 3、截图前后对比:
sparkle123
2018-08-15
3270
本地Eclipse提交MR程序到Yarn
1、一般地,从Windows本地的Eclipse提交程序到yarn,会报如下错误: Diagnostics: Exception from container-launch. Container id: container_1526537597068_0006_02_000001 Exit code: 1 Exception message: /bin/bash: line 0: fg: no job control Stack trace: ExitCodeException exitCode=1: /
sparkle123
2018-07-04
5280
Linux解决方案:No space left on device
字面上理解,磁盘上没有多余的空间了。 1/先用df命令查看当前计算器磁盘空闲情况 df -a image.png /dev/mapper/vg_spark01-lv_root文件系统占用了95%
sparkle123
2018-06-19
2.3K0
Flume整合Kafka实时收集日志信息
Linux系统查看文件内容的特殊方法: 最基本的有cat和less,more,如果有特殊的要求的话。 1/如果只想看文件的前5行,可以使用head命令,如: head -5 /etc/passwd 2/如果想查看文件的后10行,可以使用tail命令,如: tail -10 /etc/passwd 3/参数-f使tail不停地去读最新的内容,这样有实时监视的效果: tail -f /var/log/messages 定时调度工具的使用 1/各种工具聚集的网站:https://tool.lu/cront
sparkle123
2018-06-14
1.1K0
Linux本地Yum源制作
操作之前准备好以下环境: VMWare Workstation SecureCRT CentOS-6.7-x86_64-minimal.iso //用来安装minimal版本的Linux虚拟机
sparkle123
2018-04-26
6.8K0
Linux环境基本设置
安装好Linux系统后,通常要做一些基本设置,比如网络,防火墙等。 1.修改ip地址,执行如下命令: vi /etc/sysconfig/network-scripts/ifcfg-eth0 DEVICE=eth0 TYPE=Ethernet ONBOOT=yes #开机使用 BOOTPROTO=static #ip地址设置为静态 IPADDR=192.168.92.82 #Linux服务器ip地址 GATEWAY=192.168.92.1 #网关地址 NETMASK=255.
sparkle123
2018-04-26
3.8K0
Linux NAT网络设置访问外网
1.查看本地实体机的VMNet8的属性, 物理机VMNet8信息.png 实体机的网络信息 本地实体机的IP4地址:192.168.92.2 子网掩码: 255.255.25
sparkle123
2018-04-26
7.8K0
Linux上安装MySql
准备安装环境 CentOS6.7 Final MySQL-5.5.48-1.linux2.6.x86_64.rpm-bundle.tar 上传MySQL安装包到CentOS上 执行rz,就可以从本地选择要上传的文件了。 默认上传至服务器的usr/local目录下 设置执行权限chmod u+x MySQL-5.5.48-1.linux2.6.x86_64.rpm-bundle.tar 执行解压命令 tar -xvf MySQL-5.5.48-1.linux2.6.x86_64.rpm-bundle.t
sparkle123
2018-04-26
3K0
Linux上安装Tomcat后,远程访问不了
1.上传apache-tomcat-7.0.82.tar.gz到Linux上 2.解压tomcat tar -zxvf apache-tomcat-7.0.82.tar.gz -C /usr/local/ 3.启动tomcat /usr/local/apache-tomcat-7.0.82/bin/startup.sh 4.查看tomcat进程是否启动,执行 jps 4085 Jps 3698 Bootstrap 5.查看tomcat进程端口 netstat -anpt | grep 3698
sparkle123
2018-04-26
4K0
Linux下redis下载,编译,安装
1.在Linux系统的~/Downloads目录下,下载redis3.0.5。 wget http://download.redis.io/releases/redis-3.0.5.tar.gz 2.解压文件,并创建软件连接 tar -zxvf redis-3.0.5.tar.gz -C ln –s redis-3.0.5/ redis 3.编译redis源码 cd ~/Downloads/redis make(先安装gcc) Redis安装报错error:jemalloc/jema
sparkle123
2018-04-26
7.2K0
没有更多了
社区活动
RAG七天入门训练营
鹅厂大牛手把手带你上手实战
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档