Linux基础IO 零、前言 一、C语言文件IO 1、C库函数介绍 2、stdin/stdout/stderr 二、系统文件IO 1、系统调用介绍 2、系统调用和库函数 三、文件描述符 1、open返回值...2、制作使用动态库 零、前言 本章主要讲解学习Linux基础IO流的知识 一、C语言文件IO 1、C库函数介绍 具体详解博文： 文件操作超详解CSDN博客 打关文件fopen/fclose...对于任何语言来说，都有输入输出的需求，而不打开这三个输入出输出流文件，则无法使用这些接口 二、系统文件IO 1、系统调用介绍 操作文件，除了上述C接口（当然C++也有接口，其他语言也有），还可以使用系统接口...1、FILE 概念： 因为IO相关函数与系统调用接口对应，并且库函数封装系统调用，所以本质上，访问文件都是通过fd访问的，所以C库当中的FILE结构体内部，必定封装了fd 示例： #include...*_lock; #ifdef _IO_USE_OLD_IO_FILE }; 2、文件系统 命令 ls -l 查看文件信息： [root@localhost linux]# ls -l 总用量
这句话换到编程中就是 CPU 与外部存储器的输入输出，包括 CPU 本身的一，二，三级的缓存，内存，硬盘，网络，Usb 设备等等 Linux中的IO机制 阻塞与非阻塞 在调用IO函数时，如果需要等待IO...事件准备就绪才返回执行结果就是阻塞的IO调用，如果调用IO函数时，不需要IO事件准备就绪就可以返回结果就是非阻塞。...同步与异步 同步是指在非阻塞的前提下每次调用IO函数不一定会返回准备就绪的IO事件，所以需要不断地去调用IO函数查看是否有IO事件准备就绪。...异步是指在非阻塞的前提下每次调用IO函数后，本线程不在接管IO事件的处理，会告诉程序如果你有准备就绪的IO事件你就去把你的IO事件交给其他线程的函数处理。...多路复用IO技术 在早期的网络服务器中为了处理多个连接请求往往需要开辟多个线程，每个线程负责一个连接的处理，但是多线程需要进行CPU的上下文切换。
今天看到一篇文章，其中有几张图很有意思，进行记录一下，我相信如果你对IO子系统有初步了解的话，将会有一些收获： Linux 存储栈：涉及比较全面，分为文件系统层，块层，设备层三层； 对上图进行抽象后：...Buffer IO: 经典读写操作IO: 从磁盘到网络； 网络与磁盘读写IO： 参考来源： https://mp.weixin.qq.com/s/ccZJaRLq2-Ns9dJILigIgw...Linux Storage Stack Diagram
Linux下的IO统计工具如iostat，nmon等大多数是只能统计到per设备的读写情况，如果你想知道每个进程是如何使用IO的就比较麻烦，使用iotop命令可以很方便的查看。...iotop使用Python语言编写而成，要求Python2.5（及以上版本）和Linux kernel2.6.20（及以上版本）。iotop提供有源代码及rpm包，可从其官方主页下载。...有三种指定方式； -q：只在第一次监测时显示列名； iotop常用快捷键： 1）左右箭头：改变排序方式，默认是按IO排序。 2）r：改变排序顺序。 3）o：只显示有IO输出的进程。
传统的 System Call I/O 在 Linux 系统中，传统的访问方式是通过 write() 和 read() 两个系统调用实现的，通过 read() 函数读取文件到到缓存区中，然后通过 write...存储设备的 I/O 栈 由图可见，从系统调用的接口再往下，Linux 下的 IO 栈致大致有三个层次： 文件系统层，以 write 为例，内核拷贝了 write 参数指定的用户态数据到文件系统 Cache...块层，管理块设备的 IO 队列，对 IO 请求进行合并、排序（还记得操作系统课程学习过的 IO 调度算法吗？)。 设备层，通过 DMA 与内存直接交互，完成数据和具体设备之间的交互。...结合这个图，想想 Linux 系统编程里用到的 Buffered IO、mmap、Direct IO，这些机制怎么和 Linux I/O 栈联系起来呢？...（甚至 Linux 2.4 还要求是文件系统逻辑块的整数倍）。
1 传统的系统调用 I/O 在 Linux 系统中，传统的访问方式是通过 write() 和 read() 两个系统调用实现的，通过 read() 函数读取文件到到缓存区中，然后通过 write()...存储设备的 I/O 栈 由图可见，从系统调用的接口再往下，Linux 下的 IO 栈致大致有三个层次： 用： 文件系统层，以 write 为例，内核拷贝了 write 参数指定的用户态数据到文件系统...结合这个图，想想 Linux 系统编程里用到的 Buffered IO、mmap、Direct IO，这些机制怎么和 Linux I/O 栈联系起来呢？...上面的图有点复杂，我画一幅简图，把这些机制所在的位置添加进去： Linux IO系统 这下一目了然了吧？传统的 Buffered IO 使用 read 读取文件的过程什么样的？...（甚至 Linux 2.4 还要求是文件系统逻辑块的整数倍）。
：因为OS是软件，磁盘是硬件，硬件定位一个地址，用的是CHS，但是如果OS直接用了这个地址，万一硬件改变，OS也要发生变化，所以OS要和硬件做好解耦工作 ---- 第二点：即便是扇区512字节，单位IO...的基本数据量也是很小的，所以硬件是按照512字节处理， 操作系统实际进行IO，基本单位是4KB 操作系统和磁盘进行交互时，基本以4KB为单位， 基本大小：进行磁盘读取和磁盘写入时，必须以基本单位为基本大小...而且是统一更新的 为了防止Super Block区域坏掉，如果出现故障，整个分区不可以被使用，所以要做好备份 ---- Group Descriptor Table GDT:组描述符 -- 改组内的详细统计等属性信息...---inode表 ---- 文件的内容是变化的，用数据块对文件内容保存的，所以一个有效文件要保存内容就需要1/n数据块 若有多个文件就需要更多的数据块，数据块称为 Data blocks ---- linux...不正常工作 每一个比特位表示 一个inode是否空闲可用 ---- Block Bitmap 每一个bit位表示data block是否空闲可用 ---- 细节问题 1.inode与文件名 Linux
文件描述符 表示 宏 0 标准输入（stdin） STDIN_FILENO 1 标准输出（stdout） STDOUT_FINENO 2 标准错误（stderr） STDERR_FILENO 遵循Linux...open()系统调用 对文件进行读写之前，必须先打开文件。Linux提供了系统调用open()。...read()系统调用 文件打开后，就能够读文件了。read（）是最基础、最常见的读取文件的机制。...系统调用write()时，数据从用户空间的缓冲区中拷贝到了内核空间的缓冲区，但并没有立即把数据写入磁盘中，这称为延迟写。延迟写的问题在于，如果在数据真正写入磁盘之前系统崩溃了，则数据可能丢失。...Linux系统也支持强制文件立即写入磁盘上，这在后面介绍。 close()系统调用 程序完成文件的读写后，调用close函数关闭文件描述符与文件之间的连接，使得文件描述符可以被重用。
在Linux系统中作为一个普通线程是非常苦逼的。不仅NMI 、硬中断、软中断可以打断它，甚至其它普通线程也可以来打断干扰到它的运行。...从Linux 5.14-rc1开始引入了一个新的tracer---(osnoise tracer)。就是从一个线程thread的角度把这些噪音全部详细统计出来。...统计到这个程度，感觉还是不够详细。 可以打开osnoise对应的trace event....代码实现： 在以上每个打断事件处理函数中都插上trace event的钩子函数 来统计事件的执行时间，然后在每个cpu上运行一个内核线程进行周期性统计....我在阅码场发布过一个视频课程，对linux系统中各个tracer的使用和代码实现都有非常详细的讲解： ---end---
存储设备的 I/O 栈 由图可见，从系统调用的接口再往下，Linux 下的 IO 栈致大致有三个层次： 文件系统层，以 write 为例，内核拷贝了 write 参数指定的用户态数据到文件系统 Cache...块层，管理块设备的 IO 队列，对 IO 请求进行合并、排序（还记得操作系统课程学习过的 IO 调度算法吗？ ）。 设备层，通过 DMA 与内存直接交互，完成数据和具体设备之间的交互。...结合这个图，想想 Linux 系统编程里用到的 Buffered IO、mmap、Direct IO，这些机制怎么和 Linux I/O 栈联系起来呢？...上面的图有点复杂，我画一幅简图，把这些机制所在的位置添加进去： Linux IO系统 这下一目了然了吧？传统的 Buffered IO 使用 read 读取文件的过程什么样的？...（甚至 Linux 2.4 还要求是文件系统逻辑块的整数倍）。
而对于磁盘文件的管理，则离不开文件系统，本次文章将对此进行探讨。 磁盘的物理结构 磁盘是什么？...当然，OS进行IO的基本单位是可以进行调整的，一般都是4KB，即一个数据块的大小，这也是为什么磁盘会被称之为块设备的原因之一。这样也是为了提高IO效率，根据内存对齐原则。...同样，Linux操作系统为了更好的管理整个磁盘空间，也会对磁盘进行分区，对OS来说，管理好一个分区，就能管理好所有的分区（每一个分区的管理方法都一样），而为了更好的管理一个分区，又会在该区内进行分组管理...块组内的信息 如上所说，OS只需要管理好一个块组，就能管理好所有的块组，进而管理好一个分区，再进而管理好整个文件系统。那么，一个块组内，都包含些什么呢？...如下所示： 上面提到了一个inode节点，我们知道，Linux下一切皆文件，文件=内容+属性，Linux是将文件的内容与属性的数据分离开来，一个inode节点内，保存文件的各种属性信息，比如：文件的读写权限
---- 二、系统文件I/O 文件操作除了上面我们所说的语言级别的文件操作，还有系统级别的文件操作调用接口。...stdin—>0,dup2(fd,0);//输入重定向 ---- 六、Linux一切皆文件 Linux一切皆文件： 在冯诺依曼体系中，我们知道硬件有键盘、显示器、磁盘、网卡等外设，在IO过程中，外设任何的数据处理都需要把数据读到内存...因为软硬件资源多，所以操作系统需要对其先描述，在组织。所以这些外设都有对应的结构体，对应着属性信息，同时，对应着自己的IO函数，具体硬件的读写方法都在应用匹配的驱动程序里。...每种硬件的访问方法都是不一样的，而Linux一切皆文件是这样体现的：任何一个被打开的文件结构体对象struct file{ //各种文件的属性 }对象，不同的文件对应的读写方法不一样，struct file...站在struct file上层看来，所有的设备和文件，统一都是struct file->，就可以调用具体的设备方法了，所以在用户级看到的就是Linux下一切皆文件！
注意：内存够用的时候，这2个值都是0，如果这2个值长期大于0时，系统性能会受到影响，磁盘IO和CPU资源都会被消耗。...2.2 iostat 下面再用更加专业的磁盘 IO 诊断工具来看下相关统计数据。 ? 它的相关字段说明如下： rrqm/s: 每秒进行 merge 的读操作数目。...://bencane.com/2012/08/06/troubleshooting-high-io-wait-in-linux/ [2] 理解Linux系统负荷 http://www.ruanyifeng.com.../en/interesting-articles/126-linux-wait-io-problem [10] Tracking Down High IO Wait in Linux http://ostatic.com...type=bbs [13] RAID卡 http://baike.baidu.com/view/95439.htm [14] Linux下的一些I/O统计工具 http://blogread.cn/it
文件I/O 直接使用系统调用的缺点: 影响系统性能 系统调用比普通函数调用开销大，因为系统调用要进行用户空间和内核空间的切换。 系统调用一次所能读写的数据量大小，受硬件的限制。...文件系统缓存 主存(通常是DRAM)的一块区域用来缓存文件系统的内容，包含各种数据和元数据。...注意：直接IO的缺点就是如果访问的数据不在应用程序缓存中，那么每次数据都会直接从磁盘进行加载，这种直接加载会非常慢，通常直接IO跟异步IO结合使用会得到较好的性能。...---- O_SYNC 缓存同步 为了保证磁盘系统与缓冲区内容一致，Linux系统提供了sync,fsync,fdatasync三个函数。...---- Linux文件IO流程图 内核中会有一个线程，不断地将高速页缓冲区中的数据写入到物理磁盘中。
交给外设进行访问即可 LBA和CHS转换 因此对于外设中文件的管理，经过 先描述，再组织 后，变成了对数组的管理，这个数据就是 task_struct 中的 struct block 最后我们就能理解为什么 IO...的基本单位是 4 kb 了，因为直接读取一个数据块（4 kb），这样可以提高 IO 效率（内存对齐） ---- 3、磁盘信息 一般电脑中会存在多个分区，比如 C盘、D盘，那么为何需要存在这些分区呢？...-i 查看当前系统中的 分区数 及 详细信息 系统在分区后，需要对区块进行格式化 不同的文件系统在格式化时写入的数据是不同的，这里讨论的是 EXT 文件系统 磁盘分区后，分组、填写系统属性是...答案是 套娃，Data block 中存储其他 Data block 信息，此时称为多级索引，可以做到一个数据块中存储大量数据 注：本篇博客中的大部分图片来自 Linux基础IO、学习系统编程No.13...【文件系统】 && 学习系统编程No.14【动静态库】 以及互联网 ---- 总结 以上就是本次关于 Linux基础IO【深入理解文件系统】的全部内容了，本文理论偏多，重点在于机械硬盘结构及文件系统组成的理解
【这是一猿小讲的第 86 篇原创分享】 Linux 为什么要区分内核空间与用户空间？ Linux 操作系统的 IO 模型有哪几种？有啥区别？ 常说的阻塞现象，到底是咋回事？...前几期的分享，我们站在编码视角去聊 Java IO，旨在理解与编码，本次从 Linux 操作系统层面了解一下 IO 模型，这样方能做到知其然，知其所以然。 01....一定记住这两个阶段，也正因为存在这两个阶段，Linux系统升级迭代中出现了五种网络 IO 模型。 03....Linux 网络 IO 模型 ---- （一）阻塞 IO 模型 - Blocking IO ? 图解：当应用进程调用了 recv() 这个系统调用，内核就开始了 IO 的第一个阶段：准备数据。...遗憾的是，Linux 的网络 IO 模型中是不存在异步 IO 的，Linux 的网络 IO 处理的第二阶段总是阻塞等待数据 copy 完成的。 04. Linux 网络 IO 模型比较 ?
IO子系统一般是linux系统中最慢的部分。一个原因是它距离CPU的距离，另一个原因是它的物理结构。访问磁盘的时间与访问内存的时间是7天与7分钟的区别。linux kernel要尽量减少磁盘IO。...1.Reading and Writing Data linux内核以page为单位访问磁盘IO，一般为4K。...free内存比较少，并不能说明系统内存紧张，只能说明linux系统充分使用内存来做cache....6.监控IO的工具 top,vmstat,iostat,sar 10万转速的磁盘，一般的响应时间是8ms，可以达到120~150IOPS. 7.顺序IO与随机IO ## 8.iotop可以显示所有应用的...IO占用情况 9.总结 一旦CPU在等待IO，说明磁盘负载过重 计算磁盘可以承受的IOPS 顺序IO与随机IO 监控慢盘的等待时间和服务时间
今天我们要学习的是基础IO部分，主要涉及内存和外设之间的数据交互。接下来，就让我们共同探讨这部分内容吧，那我们就开始吧！...本文章重点： 复习C文件IO相关操作 认识文件相关系统调用接口 认识文件描述符,理解重定向 对比fd和FILE，理解系统调用和库函数的关系 理解文件系统中inode的概念 认识软硬链接，对比区别 认识动态静态库...文件在哪里——>文件在磁盘——>磁盘属于硬件，由操作系统进行管理——>所有人想访问磁盘都绕不开操作系统——>使用操作系统的接口——>提供文件级别的系统调用接口——>吧冉语言的文件操作接口都可以在Linux...3.read函数 read函数是Linux下的一个系统调用接口，C语言的fread函数的底层就是read。作用为从一个特定的文件流中读取内容。...4.close函数 close函数也是Linux下的一个系统调用接口，C语言的fclose底层就是close。 参数 fd：就是调用open时的返回值，本质是第一个文件描述符。
本文将结合用户态的接口以及内核态的实现剖析文件IO。...Reference: The Linux Programming Interface: Chapter 4/14/15, Kernel/fs 通用接口 通用IO包含open/read/write/close...文件创建标志 - 创建以及后续IO的选项，不可读写。...因为这个原因，写操作并不能实时的进行持久化，需要linux使用journal机制来保证文件系统的崩溃一致性，然而journal机制本身又需要进行flush。...通过间接层处理空洞 - 当我们进行SEEK_END时，END到当前的pos会存在空洞，那么Linux并不会为空洞分配block存储，空洞通过为inode系统中的指针打上标记0表明其并未指向实际磁盘块即可
领取专属 10元无门槛券
手把手带您无忧上云
