前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Go性能优化小结

Go性能优化小结

作者头像
李海彬
发布2018-07-26 11:03:26
2.1K0
发布2018-07-26 11:03:26
举报
文章被收录于专栏:Golang语言社区Golang语言社区

1 内存优化

1.1 小对象合并成结构体一次分配,减少内存分配次数

做过C/C++的同学可能知道,小对象在堆上频繁地申请释放,会造成内存碎片(有的叫空洞),导致分配大的对象时无法申请到连续的内存空间,一般建议是采用内存池。Go runtime底层也采用内存池,但每个span大小为4k,同时维护一个cache。cache有一个0到n的list数组,list数组的每个单元挂载的是一个链表,链表的每个节点就是一块可用的内存,同一链表中的所有节点内存块都是大小相等的;但是不同链表的内存大小是不等的,也就是说list数组的一个单元存储的是一类固定大小的内存块,不同单元里存储的内存块大小是不等的。这就说明cache缓存的是不同类大小的内存对象,当然想申请的内存大小最接近于哪类缓存内存块时,就分配哪类内存块。当cache不够再向spanalloc中分配。

建议:小对象合并成结构体一次分配,示意如下:

代码语言:javascript
复制
1for k, v := range m {
2    k, v := k, v // copy for capturing by the goroutine
3    go func() {
4        // using k & v
5    }()
6}

替换为:

代码语言:javascript
复制
1for k, v := range m {
2    x := struct {k , v string} {k, v} // copy for capturing by the goroutine
3    go func() {
4        // using x.k & x.v
5    }()
6}

1.2 缓存区内容一次分配足够大小空间,并适当复用

在协议编解码时,需要频繁地操作[]byte,可以使用bytes.Buffer或其它byte缓存区对象。

建议:bytes.Buffert等通过预先分配足够大的内存,避免当Grow时动态申请内存,这样可以减少内存分配次数。同时对于byte缓存区对象考虑适当地复用。

1.3 slice和map采make创建时,预估大小指定容量

slice和map与数组不一样,不存在固定空间大小,可以根据增加元素来动态扩容。

slice初始会指定一个数组,当对slice进行append等操作时,当容量不够时,会自动扩容:

  • 如果新的大小是当前大小2倍以上,则容量增涨为新的大小;
  • 否而循环以下操作:如果当前容量小于1024,按2倍增加;否则每次按当前容量1/4增涨,直到增涨的容量超过或等新大小。

map的扩容比较复杂,每次扩容会增加到上次容量的2倍。它的结构体中有一个buckets和oldbuckets,用于实现增量扩容:

  • 正常情况下,直接使用buckets,oldbuckets为空;
  • 如果正在扩容,则oldbuckets不为空,buckets是oldbuckets的2倍,

建议:初始化时预估大小指定容量

代码语言:javascript
复制
1m := make(map[string]string, 100)
2s := make([]string, 0, 100) // 注意:对于slice make时,第二个参数是初始大小,第三个参数才是容量

1.4 长调用栈避免申请较多的临时对象

goroutine的调用栈默认大小是4K(1.7修改为2K),它采用连续栈机制,当栈空间不够时,Go runtime会不动扩容:

  • 当栈空间不够时,按2倍增加,原有栈的变量崆直接copy到新的栈空间,变量指针指向新的空间地址;
  • 退栈会释放栈空间的占用,GC时发现栈空间占用不到1/4时,则栈空间减少一半。

比如栈的最终大小2M,则极端情况下,就会有10次的扩栈操作,这会带来性能下降。

建议:

  • 控制调用栈和函数的复杂度,不要在一个goroutine做完所有逻辑;
  • 如查的确需要长调用栈,而考虑goroutine池化,避免频繁创建goroutine带来栈空间的变化。

1.5 避免频繁创建临时对象

Go在GC时会引发stop the world,即整个情况暂停。虽1.7版本已大幅优化GC性能,1.8甚至量坏情况下GC为100us。但暂停时间还是取决于临时对象的个数,临时对象数量越多,暂停时间可能越长,并消耗CPU。

建议:GC优化方式是尽可能地减少临时对象的个数:

  • 尽量使用局部变量
  • 所多个局部变量合并一个大的结构体或数组,减少扫描对象的次数,一次回尽可能多的内存。

2 并发优化

2.1 高并发的任务处理使用goroutine池

goroutine虽轻量,但对于高并发的轻量任务处理,频繁来创建goroutine来执行,执行效率并不会太高效:

  • 过多的goroutine创建,会影响go runtime对goroutine调度,以及GC消耗;
  • 高并时若出现调用异常阻塞积压,大量的goroutine短时间积压可能导致程序崩溃。

2.2 避免高并发调用同步系统接口

goroutine的实现,是通过同步来模拟异步操作。在如下操作操作不会阻塞go runtime的线程调度:

  • 网络IO
  • channel
  • time.sleep
  • 基于底层系统异步调用的Syscall

下面阻塞会创建新的调度线程:

  • 本地IO调用
  • 基于底层系统同步调用的Syscall
  • CGo方式调用C语言动态库中的调用IO或其它阻塞

网络IO可以基于epoll的异步机制(或kqueue等异步机制),但对于一些系统函数并没有提供异步机制。例如常见的posix api中,对文件的操作就是同步操作。虽有开源的fileepoll来模拟异步文件操作。但Go的Syscall还是依赖底层的操作系统的API。系统API没有异步,Go也做不了异步化处理。

建议:把涉及到同步调用的goroutine,隔离到可控的goroutine中,而不是直接高并的goroutine调用。

2.3 高并发时避免共享对象互斥

传统多线程编程时,当并发冲突在4~8线程时,性能可能会出现拐点。Go中的推荐是不要通过共享内存来通讯,Go创建goroutine非常容易,当大量goroutine共享同一互斥对象时,也会在某一数量的goroutine出在拐点。

建议:goroutine尽量独立,无冲突地执行;若goroutine间存在冲突,则可以采分区来控制goroutine的并发个数,减少同一互斥对象冲突并发数。

3 其它优化

3.1 避免使用CGO或者减少CGO调用次数

GO可以调用C库函数,但Go带有垃圾收集器且Go的栈动态增涨,但这些无法与C无缝地对接。Go的环境转入C代码执行前,必须为C创建一个新的调用栈,把栈变量赋值给C调用栈,调用结束现拷贝回来。而这个调用开销也非常大,需要维护Go与C的调用上下文,两者调用栈的映射。相比直接的GO调用栈,单纯的调用栈可能有2个甚至3个数量级以上。

建议:尽量避免使用CGO,无法避免时,要减少跨CGO的调用次数。

3.2 减少[]byte与string之间转换,尽量采用[]byte来字符串处理

GO里面的string类型是一个不可变类型,不像c++中std:string,可以直接char*取值转化,指向同一地址内容;而GO中[]byte与string底层两个不同的结构,他们之间的转换存在实实在在的值对象拷贝,所以尽量减少这种不必要的转化

建议:存在字符串拼接等处理,尽量采用[]byte,例如:

代码语言:javascript
复制
1func Prefix(b []byte) []byte {
2    return append([]byte("hello", b...))
3}

3.3 字符串的拼接优先考虑bytes.Buffer

由于string类型是一个不可变类型,但拼接会创建新的string。GO中字符串拼接常见有如下几种方式:

  • string + 操作 :导致多次对象的分配与值拷贝
  • fmt.Sprintf :会动态解析参数,效率好不哪去
  • strings.Join :内部是[]byte的append
  • bytes.Buffer :可以预先分配大小,减少对象分配与拷贝

建议:对于高性能要求,优先考虑bytes.Buffer,预先分配大小。非关键路径,视简洁使用。fmt.Sprintf可以简化不同类型转换与拼接。

参考: 1. Go语言内存分配器-FixAlloc 2. https://blog.golang.org/strings

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-06-26,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Golang语言社区 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1 内存优化
    • 1.1 小对象合并成结构体一次分配,减少内存分配次数
      • 1.2 缓存区内容一次分配足够大小空间,并适当复用
        • 1.3 slice和map采make创建时,预估大小指定容量
          • 1.4 长调用栈避免申请较多的临时对象
            • 1.5 避免频繁创建临时对象
            • 2 并发优化
              • 2.1 高并发的任务处理使用goroutine池
                • 2.2 避免高并发调用同步系统接口
                  • 2.3 高并发时避免共享对象互斥
                  • 3 其它优化
                    • 3.1 避免使用CGO或者减少CGO调用次数
                      • 3.2 减少[]byte与string之间转换,尽量采用[]byte来字符串处理
                        • 3.3 字符串的拼接优先考虑bytes.Buffer
                        相关产品与服务
                        对象存储
                        对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
                        领券
                        问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档