但是最让人烦的问题是这些语言之间的 IO 接口都是不一样的,这样子导致我们学习成本很高! 这些语言拥有文件操作接口的目的找到文件,然后对文件进行操作。那么文件是在磁盘上,磁盘是属于硬件。...对于硬件的访问只有操作系统才能进行。...所有人想访问磁盘都不能绕开操作系统,C语言也好,其他语言也罢都是人表达出意思让操作系统理解我们想要干嘛,所以任何上层语言想要进行对磁盘进行操作,都会使用操作系统提供的接口。 ...所以我们只要搞清楚了操作系统提供的 IO 接口,那么其它语言只是对其的一个包装而已!下面我们一起来认识一下系统的IO接口! Ⅱ....系统IO接口 一、open接口 #include #include #include int open(const char *
Linux基础IO 零、前言 一、C语言文件IO 1、C库函数介绍 2、stdin/stdout/stderr 二、系统文件IO 1、系统调用介绍 2、系统调用和库函数 三、文件描述符 1、open返回值...2、制作使用动态库 零、前言 本章主要讲解学习Linux基础IO流的知识 一、C语言文件IO 1、C库函数介绍 具体详解博文: 文件操作超详解CSDN博客 打关文件fopen/fclose...对于任何语言来说,都有输入输出的需求,而不打开这三个输入出输出流文件,则无法使用这些接口 二、系统文件IO 1、系统调用介绍 操作文件,除了上述C接口(当然C++也有接口,其他语言也有),还可以使用系统接口...1、FILE 概念: 因为IO相关函数与系统调用接口对应,并且库函数封装系统调用,所以本质上,访问文件都是通过fd访问的,所以C库当中的FILE结构体内部,必定封装了fd 示例: #include...*_lock; #ifdef _IO_USE_OLD_IO_FILE }; 2、文件系统 命令 ls -l 查看文件信息: [root@localhost linux]# ls -l 总用量
这句话换到编程中就是 CPU 与外部存储器的输入输出,包括 CPU 本身的一,二,三级的缓存,内存,硬盘,网络,Usb 设备等等 Linux中的IO机制 阻塞与非阻塞 在调用IO函数时,如果需要等待IO...事件准备就绪才返回执行结果就是阻塞的IO调用,如果调用IO函数时,不需要IO事件准备就绪就可以返回结果就是非阻塞。...同步与异步 同步是指在非阻塞的前提下每次调用IO函数不一定会返回准备就绪的IO事件,所以需要不断地去调用IO函数查看是否有IO事件准备就绪。...异步是指在非阻塞的前提下每次调用IO函数后,本线程不在接管IO事件的处理,会告诉程序如果你有准备就绪的IO事件你就去把你的IO事件交给其他线程的函数处理。...多路复用IO技术 在早期的网络服务器中为了处理多个连接请求往往需要开辟多个线程,每个线程负责一个连接的处理,但是多线程需要进行CPU的上下文切换。
今天看到一篇文章,其中有几张图很有意思,进行记录一下,我相信如果你对IO子系统有初步了解的话,将会有一些收获: Linux 存储栈:涉及比较全面,分为文件系统层,块层,设备层三层; 对上图进行抽象后:...Buffer IO: 经典读写操作IO: 从磁盘到网络; 网络与磁盘读写IO: 参考来源: https://mp.weixin.qq.com/s/ccZJaRLq2-Ns9dJILigIgw...Linux Storage Stack Diagram
传统的 System Call I/O 在 Linux 系统中,传统的访问方式是通过 write() 和 read() 两个系统调用实现的,通过 read() 函数读取文件到到缓存区中,然后通过 write...存储设备的 I/O 栈 由图可见,从系统调用的接口再往下,Linux 下的 IO 栈致大致有三个层次: 文件系统层,以 write 为例,内核拷贝了 write 参数指定的用户态数据到文件系统 Cache...块层,管理块设备的 IO 队列,对 IO 请求进行合并、排序(还记得操作系统课程学习过的 IO 调度算法吗?)。 设备层,通过 DMA 与内存直接交互,完成数据和具体设备之间的交互。...结合这个图,想想 Linux 系统编程里用到的 Buffered IO、mmap、Direct IO,这些机制怎么和 Linux I/O 栈联系起来呢?...(甚至 Linux 2.4 还要求是文件系统逻辑块的整数倍)。
Linux下的IO统计工具如iostat,nmon等大多数是只能统计到per设备的读写情况,如果你想知道每个进程是如何使用IO的就比较麻烦,使用iotop命令可以很方便的查看。...iotop使用Python语言编写而成,要求Python2.5(及以上版本)和Linux kernel2.6.20(及以上版本)。iotop提供有源代码及rpm包,可从其官方主页下载。...有三种指定方式; -q:只在第一次监测时显示列名; iotop常用快捷键: 1)左右箭头:改变排序方式,默认是按IO排序。 2)r:改变排序顺序。 3)o:只显示有IO输出的进程。
:因为OS是软件,磁盘是硬件,硬件定位一个地址,用的是CHS,但是如果OS直接用了这个地址,万一硬件改变,OS也要发生变化,所以OS要和硬件做好解耦工作 ---- 第二点:即便是扇区512字节,单位IO...的基本数据量也是很小的,所以硬件是按照512字节处理, 操作系统实际进行IO,基本单位是4KB 操作系统和磁盘进行交互时,基本以4KB为单位, 基本大小:进行磁盘读取和磁盘写入时,必须以基本单位为基本大小...sector_disk1 ---- 初步完成了从物理逻辑到线性逻辑抽象的过程 因为看作是一个数组,而数组都是有下标的 假设数组下标为n,定位一个扇区,只需要数组下标就可以定位一个扇区了 ---- OS是以4KB为单位进行IO...---inode表 ---- 文件的内容是变化的,用数据块对文件内容保存的,所以一个有效文件要保存内容就需要1/n数据块 若有多个文件就需要更多的数据块,数据块称为 Data blocks ---- linux...不正常工作 每一个比特位表示 一个inode是否空闲可用 ---- Block Bitmap 每一个bit位表示data block是否空闲可用 ---- 细节问题 1.inode与文件名 Linux
1 传统的系统调用 I/O 在 Linux 系统中,传统的访问方式是通过 write() 和 read() 两个系统调用实现的,通过 read() 函数读取文件到到缓存区中,然后通过 write()...存储设备的 I/O 栈 由图可见,从系统调用的接口再往下,Linux 下的 IO 栈致大致有三个层次: 用: 文件系统层,以 write 为例,内核拷贝了 write 参数指定的用户态数据到文件系统...结合这个图,想想 Linux 系统编程里用到的 Buffered IO、mmap、Direct IO,这些机制怎么和 Linux I/O 栈联系起来呢?...上面的图有点复杂,我画一幅简图,把这些机制所在的位置添加进去: Linux IO系统 这下一目了然了吧?传统的 Buffered IO 使用 read 读取文件的过程什么样的?...(甚至 Linux 2.4 还要求是文件系统逻辑块的整数倍)。
今日更新了Linux基础IO的内容 欢迎大家关注点赞收藏⭐️留言 理解文件系统 磁盘 图1,2是磁盘,图3是服务器,磁盘插入到服务器的凹槽中。...上图下半部分是磁盘文件系统图。 Linux文件系统特点:文件内容和文件属性 分开存储。 Block Group:文件系统会根据分区的大小划分为数个Block Group。...根目录是系统给我们的,是已知的,就可以找到目标文件了。这种逆向的路径解析由OS完成。这也是为什么Linux定位一个文件时,都要有路径的原因。...一个目录内部有几个目录=该目录引用计数-2 Linux系统中,不允许给目录建立硬链接。主要是为了避免路径环绕。...-static就是强制要求程序进行静态链接,如果没有静态库版本,就会报错。 也就是说,没有带-static时,优先使用动态库,没有动态库就使用静态库。
文件描述符 表示 宏 0 标准输入(stdin) STDIN_FILENO 1 标准输出(stdout) STDOUT_FINENO 2 标准错误(stderr) STDERR_FILENO 遵循Linux...open()系统调用 对文件进行读写之前,必须先打开文件。Linux提供了系统调用open()。...read()系统调用 文件打开后,就能够读文件了。read()是最基础、最常见的读取文件的机制。...系统调用write()时,数据从用户空间的缓冲区中拷贝到了内核空间的缓冲区,但并没有立即把数据写入磁盘中,这称为延迟写。延迟写的问题在于,如果在数据真正写入磁盘之前系统崩溃了,则数据可能丢失。...Linux系统也支持强制文件立即写入磁盘上,这在后面介绍。 close()系统调用 程序完成文件的读写后,调用close函数关闭文件描述符与文件之间的连接,使得文件描述符可以被重用。
存储设备的 I/O 栈 由图可见,从系统调用的接口再往下,Linux 下的 IO 栈致大致有三个层次: 文件系统层,以 write 为例,内核拷贝了 write 参数指定的用户态数据到文件系统 Cache...块层,管理块设备的 IO 队列,对 IO 请求进行合并、排序(还记得操作系统课程学习过的 IO 调度算法吗? )。 设备层,通过 DMA 与内存直接交互,完成数据和具体设备之间的交互。...结合这个图,想想 Linux 系统编程里用到的 Buffered IO、mmap、Direct IO,这些机制怎么和 Linux I/O 栈联系起来呢?...上面的图有点复杂,我画一幅简图,把这些机制所在的位置添加进去: Linux IO系统 这下一目了然了吧?传统的 Buffered IO 使用 read 读取文件的过程什么样的?...(甚至 Linux 2.4 还要求是文件系统逻辑块的整数倍)。
经过查找资料,找到了一个解决方案 进入 /var/lock/subsys目录下,删掉里面的httpd文件
而对于磁盘文件的管理,则离不开文件系统,本次文章将对此进行探讨。 磁盘的物理结构 磁盘是什么?...当然,OS进行IO的基本单位是可以进行调整的,一般都是4KB,即一个数据块的大小,这也是为什么磁盘会被称之为块设备的原因之一。这样也是为了提高IO效率,根据内存对齐原则。...同样,Linux操作系统为了更好的管理整个磁盘空间,也会对磁盘进行分区,对OS来说,管理好一个分区,就能管理好所有的分区(每一个分区的管理方法都一样),而为了更好的管理一个分区,又会在该区内进行分组管理...块组内的信息 如上所说,OS只需要管理好一个块组,就能管理好所有的块组,进而管理好一个分区,再进而管理好整个文件系统。那么,一个块组内,都包含些什么呢?...如下所示: 上面提到了一个inode节点,我们知道,Linux下一切皆文件,文件=内容+属性,Linux是将文件的内容与属性的数据分离开来,一个inode节点内,保存文件的各种属性信息,比如:文件的读写权限
---- 二、系统文件I/O 文件操作除了上面我们所说的语言级别的文件操作,还有系统级别的文件操作调用接口。...stdin—>0,dup2(fd,0);//输入重定向 ---- 六、Linux一切皆文件 Linux一切皆文件: 在冯诺依曼体系中,我们知道硬件有键盘、显示器、磁盘、网卡等外设,在IO过程中,外设任何的数据处理都需要把数据读到内存...因为软硬件资源多,所以操作系统需要对其先描述,在组织。所以这些外设都有对应的结构体,对应着属性信息,同时,对应着自己的IO函数,具体硬件的读写方法都在应用匹配的驱动程序里。...每种硬件的访问方法都是不一样的,而Linux一切皆文件是这样体现的:任何一个被打开的文件结构体对象struct file{ //各种文件的属性 }对象,不同的文件对应的读写方法不一样,struct file...站在struct file上层看来,所有的设备和文件,统一都是struct file->,就可以调用具体的设备方法了,所以在用户级看到的就是Linux下一切皆文件!
PS:如果你对 top 的用法不了解,请参考我去年写的一篇博文: linux 系统监控、诊断工具之 top 详解 常用组合方式有如下几种: 用vmstat、sar、iostat检测是否是CPU瓶颈...注意:内存够用的时候,这2个值都是0,如果这2个值长期大于0时,系统性能会受到影响,磁盘IO和CPU资源都会被消耗。...IO(现在的Linux版本块的大小为1kb) • bi: 每秒读取的块数 • bo: 每秒写入的块数 注意:随机磁盘读写的时候,这2个值越大(如超出1024k),能看到CPU在IO等待的值也会越大。...://bencane.com/2012/08/06/troubleshooting-high-io-wait-in-linux/ [2] 理解Linux系统负荷 http://www.ruanyifeng.com.../en/interesting-articles/126-linux-wait-io-problem [10] Tracking Down High IO Wait in Linux http://ostatic.com
文件I/O 直接使用系统调用的缺点: 影响系统性能 系统调用比普通函数调用开销大,因为系统调用要进行用户空间和内核空间的切换。 系统调用一次所能读写的数据量大小,受硬件的限制。...文件系统缓存 主存(通常是DRAM)的一块区域用来缓存文件系统的内容,包含各种数据和元数据。...注意:直接IO的缺点就是如果访问的数据不在应用程序缓存中,那么每次数据都会直接从磁盘进行加载,这种直接加载会非常慢,通常直接IO跟异步IO结合使用会得到较好的性能。...---- O_SYNC 缓存同步 为了保证磁盘系统与缓冲区内容一致,Linux系统提供了sync,fsync,fdatasync三个函数。...---- Linux文件IO流程图 内核中会有一个线程,不断地将高速页缓冲区中的数据写入到物理磁盘中。
在 Linux 操作系统中,文件 I/O(输入/输出)是程序与文件系统交互的基础。理解文件 I/O 的工作原理对于编写高效、可靠的程序至关重要。本文将深入探讨系统文件 I/O 的机制。...结论 通过深入分析 FILE 结构体、task_struct 中的 file_struct 以及 fd_array[] 数组的关系,我们能够更清晰地理解 Linux 系统中文件操作的底层机制。...比如,Windows 和 Linux 都有 C 语言的实现,但它们的文件 I/O 操作部分会有所不同,Windows 可能使用 CreateFile(),而 Linux 使用 open()。...操作系统依赖: 不同的操作系统有不同的API和系统调用。例如,Linux和windows的文件操作、内存管理、线程处理等API不同。...使用 dup2() 系统调用 在 Linux 中,dup2() 系统调用用于复制一个文件描述符,并将其指向另一个指定的文件描述符。这对于实现输入输出的重定向非常有用。
【这是一猿小讲的第 86 篇原创分享】 Linux 为什么要区分内核空间与用户空间? Linux 操作系统的 IO 模型有哪几种?有啥区别? 常说的阻塞现象,到底是咋回事?...前几期的分享,我们站在编码视角去聊 Java IO,旨在理解与编码,本次从 Linux 操作系统层面了解一下 IO 模型,这样方能做到知其然,知其所以然。 01....一定记住这两个阶段,也正因为存在这两个阶段,Linux系统升级迭代中出现了五种网络 IO 模型。 03....Linux 网络 IO 模型 ---- (一)阻塞 IO 模型 - Blocking IO ? 图解:当应用进程调用了 recv() 这个系统调用,内核就开始了 IO 的第一个阶段:准备数据。...遗憾的是,Linux 的网络 IO 模型中是不存在异步 IO 的,Linux 的网络 IO 处理的第二阶段总是阻塞等待数据 copy 完成的。 04. Linux 网络 IO 模型比较 ?
交给外设进行访问即可 LBA和CHS转换 因此对于外设中文件的管理,经过 先描述,再组织 后,变成了对数组的管理,这个数据就是 task_struct 中的 struct block 最后我们就能理解为什么 IO...的基本单位是 4 kb 了,因为直接读取一个数据块(4 kb),这样可以提高 IO 效率(内存对齐) ---- 3、磁盘信息 一般电脑中会存在多个分区,比如 C盘、D盘,那么为何需要存在这些分区呢?...-i 查看当前系统中的 分区数 及 详细信息 系统在分区后,需要对区块进行格式化 不同的文件系统在格式化时写入的数据是不同的,这里讨论的是 EXT 文件系统 磁盘分区后,分组、填写系统属性是...答案是 套娃,Data block 中存储其他 Data block 信息,此时称为多级索引,可以做到一个数据块中存储大量数据 注:本篇博客中的大部分图片来自 Linux基础IO、学习系统编程No.13...【文件系统】 && 学习系统编程No.14【动静态库】 以及互联网 ---- 总结 以上就是本次关于 Linux基础IO【深入理解文件系统】的全部内容了,本文理论偏多,重点在于机械硬盘结构及文件系统组成的理解
领取专属 10元无门槛券
手把手带您无忧上云