最近遇到一个MySQL数据写入异常的问题, 由于之前踩过磁盘IO速度的坑, 所以这次也优先排查磁盘写入速度是否有问题, 废话少说, 上代码:
package main
import (
"os"
"log"
"time"
)
var filename = "test.txt"
func write() {
// 1K
s := "1234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901111111112345678901234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890123456789011111111123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890111111111234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901111111112345678901234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890123456789011111111123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890111111111234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901111111112345678901234567890123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890123456789011111111"
str := ""
// 400M
for k:=0; k<400*1024;k++{
str = str+s
}
f, err := os.OpenFile(filename, os.O_RDWR|os.O_CREATE|os.O_TRUNC, 0777)
if err != nil {
log.Printf("open accounts's file failed. err:%s", err.Error())
return
}
defer f.Close()
t0 := time.Now()
f.WriteString(str)
log.Printf("XXXuse time:%v", time.Since(t0))
}
func main() {
write()
time.Sleep(time.Hour)
}
结果仔细一看不对, 400M写入不论是 SSD还是HDD, 都是1s不到, 这不符合预期, 想了一下, 应该是磁盘缓存的原因, 相当于并没有实际写入到磁盘,而是缓存在内存中
那么怎么办呢, 磁盘缓存肯定是有一个极限的, 可能几百M或者1/2G, 不能再多了,这块没具体去研究, 想到这里就优化了一下测试方案, 改单次写入为持续写入, 修改后:
// 4M
for k:=0; k<4*1024;k++{
str = str+s
}
f, err := os.OpenFile(filename, os.O_RDWR|os.O_CREATE|os.O_TRUNC, 0777)
if err != nil {
log.Printf("open accounts's file failed. err:%s", err.Error())
return
}
defer f.Close()
// 持续写入4G
for k:=0; k<1024; k++ {
t0 := time.Now()
f.WriteString(str)
log.Printf("XXXuse time:%v", time.Since(t0))
}
然后运行, 效果就出来了,
本机Win10测试, 上面黑色的是固态, 下面的蓝色部分是机械
然后到Ubuntu上测试, 发现上面挂载的 Samsung SSD 960 EVO 250GB 没有问题,持续写入4G内容, 速度全程都是在 2-5ms/4M, 对磁盘写入速度的怀疑消除~~!
写完这篇文章后, 留着一个关于系统磁盘缓存的问题, 网上查了一下, 发现其实我的第一段测试代码有一个比较好的优化方案, 只需要调用os.File.Sync()就可以了, 如下:
f.WriteString(str)
f.Sync()
它会要求系统立即将文件的缓存进行持久化,写入到磁盘…加上sync()之后测试, 结果也符合预期.
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。