[collect]性能调优攻略

本文最后更新于2017年6月8日,已超过 1 年没有更新,如果文章内容失效,还请反馈给我,谢谢!

=Start=

缘由:

本文是酷壳博主陈皓几年前(2012年06月20日)写的「性能调优攻略」,时隔多年再看,依旧很有启发性。在征得作者同意的情况下,转载至此,方便经常观摩学习。

原文链接:http://coolshell.cn/articles/7490.html

正文:

关于性能优化这是一个比较大的话题,在《由12306.cn谈谈网站性能技术》中我从业务和设计上说过一些可用的技术以及那些技术的优缺点,今天,想从一些技术细节上谈谈性能优化,主要是一些代码级别的技术和方法。本文的东西是我的一些经验和知识,并不一定全对,希望大家指正和补充

在开始这篇文章之前,大家可以移步去看一下酷壳以前发表的《代码优化概要》,这篇文章基本上告诉你——要进行优化,先得找到性能瓶颈! 但是在讲如何定位系统性能瓶劲之前,请让我讲一下系统性能的定义和测试,因为没有这两件事,后面的定位和优化无从谈起。

系统性能定义

让我们先来说说如何什么是系统性能。这个定义非常关键,如果我们不清楚什么是系统性能,那么我们将无法定位之。我见过很多朋友会觉得这很容易,但是仔细一问,其实他们并没有一个比较系统的方法,所以,在这里我想告诉大家如何系统地来定位性能。 总体来说,系统性能就是两个事:

  1. Throughput,吞吐量。也就是每秒钟可以处理的请求数,任务数。
  2. Latency, 系统延迟。也就是系统在处理一个请求或一个任务时的延迟。

一般来说,一个系统的性能受到这两个条件的约束,缺一不可。比如,我的系统可以顶得住一百万的并发,但是系统的延迟是 2 分钟以上,那么,这个一百万的负载毫无意义。系统延迟很短,但是吞吐量很低,同样没有意义。所以,一个好的系统的性能测试必然受到这两个条件的同时作用。 有经验的朋友一定知道,这两个东西的一些关系:

  • Throughput 越大,Latency 会越差。因为请求量过大,系统太繁忙,所以响应速度自然会低。
  • Latency 越好,能支持的 Throughput 就会越高。因为 Latency 短说明处理速度快,于是就可以处理更多的请求。

系统性能测试

经过上述的说明,我们知道要测试系统的性能,需要我们收集系统的 Throughput 和 Latency 这两个值。

  • 首先,需要定义 Latency 这个值,比如说,对于网站系统响应时间必需是 5 秒以内(对于某些实时系统可能需要定义的更短,比如 5ms 以内,这个更根据不同的业务来定义)
  • 其次,开发性能测试工具,一个工具用来制造高强度的 Throughput,另一个工具用来测量 Latency。对于第一个工具,你可以参考一下“十个免费的 Web 压力测试工具”,关于如何测量 Latency,你可以在代码中测量,但是这样会影响程序的执行,而且只能测试到程序内部的 Latency,真正的 Latency 是整个系统都算上,包括操作系统和网络的延时,你可以使用 Wireshark 来抓网络包来测量。这两个工具具体怎么做,这个还请大家自己思考去了。
  • 最后,开始性能测试。你需要不断地提升测试的 Throughput,然后观察系统的负载情况,如果系统顶得住,那就观察 Latency 的值。这样,你就可以找到系统的最大负载,并且你可以知道系统的响应延时是多少。

再多说一些,

  • 关于 Latency,如果吞吐量很少,这个值估计会非常稳定,当吞吐量越来越大时,系统的 Latency 会出现非常剧烈的抖动,所以,我们在测量 Latency 的时候,我们需要注意到 Latency 的分布,也就是说,有百分之几的在我们允许的范围,有百分之几的超出了,有百分之几的完全不可接受。也许,平均下来的 Latency 达标了,但是其中仅有 50% 的达到了我们可接受的范围。那也没有意义。
  • 关于性能测试,我们还需要定义一个时间段。比如:在某个吞吐量上持续 15 分钟。因为当负载到达的时候,系统会变得不稳定,当过了一两分钟后,系统才会稳定。另外,也有可能是,你的系统在这个负载下前几分钟还表现正常,然后就不稳定了,甚至垮了。所以,需要这么一段时间。这个值,我们叫做峰值极限。
  • 性能测试还需要做 Soak Test,也就是在某个吞吐量下,系统可以持续跑一周甚至更长。这个值,我们叫做系统的正常运行的负载极限。

性能测试有很多很复要的东西,比如:burst test 等。 这里不能一一详述,这里只说了一些和性能调优相关的东西。总之,性能测试是一细活和累活。

定位性能瓶颈

有了上面的铺垫,我们就可以测试到到系统的性能了,再调优之前,我们先来说说如何找到性能的瓶颈。我见过很多朋友会觉得这很容易,但是仔细一问,其实他们并没有一个比较系统的方法。

查看操作系统负载

首先,当我们系统有问题的时候,我们不要急于去调查我们代码,这个毫无意义。我们首要需要看的是操作系统的报告。看看操作系统的 CPU 利用率,看看内存使用率,看看操作系统的 IO,还有网络的 IO,网络链接数,等等。Windows 下的 perfmon 是一个很不错的工具,Linux 下也有很多相关的命令和工具,比如:SystemTap,LatencyTOP,vmstat, sar, iostat, top, tcpdump 等等 。通过观察这些数据,我们就可以知道我们的软件的性能基本上出在哪里。比如:

1、先看 CPU 利用率,如果 CPU 利用率不高,但是系统的 Throughput 和 Latency 上不去了,这说明我们的程序并没有忙于计算,而是忙于别的一些事,比如 IO。(另外,CPU 的利用率还要看内核态的和用户态的,内核态的一上去了,整个系统的性能就下来了。而对于多核 CPU 来说,CPU 0 是相当关键的,如果 CPU 0 的负载高,那么会影响其它核的性能,因为 CPU 各核间是需要有调度的,这靠 CPU0 完成)

2、然后,我们可以看一下 IO 大不大,IO 和 CPU 一般是反着来的,CPU 利用率高则 IO 不大,IO 大则 CPU 就小。关于 IO,我们要看三个事,一个是磁盘文件 IO,一个是驱动程序的 IO(如:网卡),一个是内存换页率。这三个事都会影响系统性能。

3、然后,查看一下网络带宽使用情况,在 Linux 下,你可以使用 iftop, iptraf, ntop, tcpdump 这些命令来查看。或是用 Wireshark 来查看。

4、如果 CPU 不高,IO 不高,内存使用不高,网络带宽使用不高。但是系统的性能上不去。这说明你的程序有问题,比如,你的程序被阻塞了。可能是因为等那个锁,可能是因为等某个资源,或者是在切换上下文。

通过了解操作系统的性能,我们才知道性能的问题,比如:带宽不够,内存不够,TCP 缓冲区不够,等等,很多时候,不需要调整程序的,只需要调整一下硬件或操作系统的配置就可以了

使用 Profiler 测试

接下来,我们需要使用性能检测工具,也就是使用某个 Profiler 来差看一下我们程序的运行性能。如:Java 的 JProfiler/TPTP/CodePro Profiler,GNU 的 gprof,IBM 的 PurifyPlus,Intel 的 VTune,AMD 的 CodeAnalyst,还有 Linux 下的 OProfile/perf,后面两个可以让你对你的代码优化到 CPU 的微指令级别,如果你关心 CPU 的 L1/L2 的缓存调优,那么你需要考虑一下使用 VTune。 使用这些 Profiler 工具,可以让你程序中各个模块函数甚至指令的很多东西,如:运行的时间 ,调用的次数,CPU 的利用率,等等。这些东西对我们来说非常有用。

我们重点观察运行时间最多,调用次数最多的那些函数和指令。这里注意一下,对于调用次数多但是时间很短的函数,你可能只需要轻微优化一下,你的性能就上去了(比如:某函数一秒种被调用 100 万次,你想想如果你让这个函数提高 0.01 毫秒的时间 ,这会给你带来多大的性能)

使用 Profiler 有个问题我们需要注意一下,因为 Profiler 会让你的程序运行的性能变低,像 PurifyPlus 这样的工具会在你的代码中插入很多代码,会导致你的程序运行效率变低,从而没发测试出在高吞吐量下的系统的性能,对此,一般有两个方法来定位系统瓶颈:

1、在你的代码中自己做统计,使用微秒级的计时器和函数调用计算器,每隔 10 秒把统计 log 到文件中。

2、分段注释你的代码块,让一些函数空转,做 Hard Code 的 Mock,然后再测试一下系统的 Throughput 和 Latency 是否有质的变化,如果有,那么被注释的函数就是性能瓶颈,再在这个函数体内注释代码,直到找到最耗性能的语句。

最后再说一点,对于性能测试,不同的 Throughput 会出现不同的测试结果,不同的测试数据也会有不同的测试结果。所以,用于性能测试的数据非常重要,性能测试中,我们需要观测试不同 Throughput 的结果

常见的系统瓶颈

下面这些东西是我所经历过的一些问题,也许并不全,也许并不对,大家可以补充指正,我纯属抛砖引玉。关于系统架构方面的性能调优,大家可移步看一下《由12306.cn谈谈网站性能技术》,关于Web方面的一些性能调优的东西,大家可以看看《Web开发中需要了解的东西》一文中的性能一章。我在这里就不再说设计和架构上的东西了。

一般来说,性能优化也就是下面的几个策略:

  • 用空间换时间。各种 cache 如 CPU L1/L2/RAM 到硬盘,都是用空间来换时间的策略。这样策略基本上是把计算的过程一步一步的保存或缓存下来,这样就不用每次用的时候都要再计算一遍,比如数据缓冲,CDN,等。这样的策略还表现为冗余数据,比如数据镜象,负载均衡什么的。
  • 用时间换空间。有时候,少量的空间可能性能会更好,比如网络传输,如果有一些压缩数据的算法(如前些天说的“Huffman 编码压缩算法” 和 “rsync 的核心算法”),这样的算法其实很耗时,但是因为瓶颈在网络传输,所以用时间来换空间反而能省时间。
  • 简化代码。最高效的程序就是不执行任何代码的程序,所以,代码越少性能就越高。关于代码级优化的技术大学里的教科书有很多示例了。如:减少循环的层数,减少递归,在循环中少声明变量,少做分配和释放内存的操作,尽量把循环体内的表达式抽到循环外,条件表达的中的多个条件判断的次序,尽量在程序启动时把一些东西准备好,注意函数调用的开销(栈上开销),注意面向对象语言中临时对象的开销,小心使用异常(不要用异常来检查一些可接受可忽略并经常发生的错误),…… 等等,等等,这连东西需要我们非常了解编程语言和常用的库。
  • 并行处理。如果 CPU 只有一个核,你要玩多进程,多线程,对于计算密集型的软件会反而更慢(因为操作系统调度和切换开销很大),CPU 的核多了才能真正体现出多进程多线程的优势。并行处理需要我们的程序有 Scalability,不能水平或垂直扩展的程序无法进行并行处理。从架构上来说,这表再为——是否可以做到不改代码只是加加机器就可以完成性能提升?

总之,根据 2:8 原则来说,20% 的代码耗了你 80% 的性能,找到那 20% 的代码,你就可以优化那 80% 的性能。下面的一些东西都是我的一些经验,我只例举了一些最有价值的性能调优的的方法,供你参考,也欢迎补充。

算法调优

算法非常重要,好的算法会有更好的性能。举几个我经历过的项目的例子,大家可以感觉一下。

  • 一个是 过滤算法,系统需要对收到的请求做过滤,我们把可以被 filter in/out 的东西配置在了一个文件中,原有的过滤算法是遍历过滤配置,后来,我们找到了一种方法可以对这个过滤配置进行排序,这样就可以用二分折半的方法来过滤,系统性能增加了 50%。
  • 一个是 哈希算法。计算哈希算法的函数并不高效,一方面是计算太费时,另一方面是碰撞太高,碰撞高了就跟单向链表一个性能(可参看 Hash Collision DoS 问题)。我们知道,算法都是和需要处理的数据很有关系的,就算是被大家所嘲笑的“冒泡排序”在某些情况下(大多数数据是排好序的)其效率会高于所有的排序算法。哈希算法也一样,广为人知的哈希算法都是用英文字典做测试,但是我们的业务在数据有其特殊性,所以,对于还需要根据自己的数据来挑选适合的哈希算法。对于我以前的一个项目,公司内某牛人给我发来了一个哈希算法,结果让我们的系统性能上升了 150%。(关于各种哈希算法,你一定要看看 StackExchange 上的这篇关于各种 hash 算法的文章 )
  • 分而治之和预处理。以前有一个程序为了生成月报表,每次都需要计算很长的时间,有时候需要花将近一整天的时间。于是我们把我们找到了一种方法可以把这个算法发成增量式的,也就是说我每天都把当天的数据计算好了后和前一天的报表合并,这样可以大大的节省计算时间,每天的数据计算量只需要 20 分钟,但是如果我要算整个月的,系统则需要 10 个小时以上(SQL 语句在大数据量面前性能成级数性下降)。这种分而治之的思路在大数据面前对性能有很帮助,就像 merge 排序一样。SQL 语句和数据库的性能优化也是这一策略,如:使用嵌套式的 Select 而不是笛卡尔积的 Select,使用视图,等等。

代码调优

从我的经验上来说,代码上的调优有下面这几点:

字符串操作。这是最费系统性能的事了,无论是 strcpy, strcat 还是 strlen,最需要注意的是字符串子串匹配。所以,能用整型最好用整型。举几个例子,第一个例子是 N 年前做银行的时候,我的同事喜欢把日期存成字符串(如:2012-05-29 08:30:02),我勒个去,一个 select  where between 语句相当耗时。

另一个例子是,我以前有个同事把一些状态码用字符串来处理,他的理由是,这样可以在界面上直接显示,后来性能调优的时候,我把这些状态码全改成整型,然后用位操作查状态,因为有一个每秒钟被调用了 150K 次的函数里面有三处需要检查状态,经过改善以后,整个系统的性能上升了 30% 左右。还有一个例子是,我以前从事的某个产品编程规范中有一条是要在每个函数中把函数名定义出来,如:const char fname[]=”functionName()”, 这是为了好打日志,但是为什么不声明成 static 类型的呢?

多线程调优。有人说,thread is evil,这个对于系统性能在某些时候是个问题。因为多线程瓶颈就在于互斥和同步的锁上,以及线程上下文切换的成本,怎么样的少用锁或不用锁是根本(比如:多版本并发控制 (MVCC) 在分布式系统中的应用 中说的乐观锁可以解决性能问题),此外,还有读写锁也可以解决大多数是读操作的并发的性能问题。

这里多说一点在 C++ 中,我们可能会使用线程安全的智能指针 AutoPtr 或是别的一些容器,只要是线程安全的,其不管三七二十一都要上锁,上锁是个成本很高的操作,使用 AutoPtr 会让我们的系统性能下降得很快,如果你可以保证不会有线程并发问题,那么你应该不要用 AutoPtr。我记得我上次我们同事去掉智能指针的引用计数,让系统性能提升了 50% 以上。对于 Java 对象的引用计数,如果我猜的没错的话,到处都是锁,所以,Java 的性能问题一直是个问题。另外,线程不是越多越好,线程间的调度和上下文切换也是很夸张的事,尽可能的在一个线程里干,尽可能的不要同步线程。这会让你有很多的性能。

内存分配。不要小看程序的内存分配。malloc/realloc/calloc 这样的系统调非常耗时,尤其是当内存出现碎片的时候。我以前的公司出过这样一个问题——在用户的站点上,我们的程序有一天不响应了,用 GDB 跟进去一看,系统 hang 在了 malloc 操作上,20 秒都没有返回,重启一些系统就好了。这就是内存碎片的问题。这就是为什么很多人抱怨 STL 有严重的内存碎片的问题,因为太多的小内存的分配释放了。有很多人会以为用内存池可以解决这个问题,但是实际上他们只是重新发明了 Runtime-C 或操作系统的内存管理机制,完全于事无补。

当然解决内存碎片的问题还是通过内存池,具体来说是一系列不同尺寸的内存池(这个留给大家自己去思考)。当然,少进行动态内存分配是最好的。说到内存池就需要说一下池化技术。比如线程池,连接池等。池化技术对于一些短作业来说(如 http 服务) 相当相当的有效。这项技术可以减少链接建立,线程创建的开销,从而提高性能。

异步操作。我们知道 Unix 下的文件操作是有 block 和 non-block 的方式的,像有些系统调用也是 block 式的,如:Socket 下的 select,Windows 下的 WaitforObject 之类的,如果我们的程序是同步操作,那么会非常影响性能,我们可以改成异步的,但是改成异步的方式会让你的程序变复杂。异步方式一般要通过队列,要注间队列的性能问题,另外,异步下的状态通知通常是个问题,比如消息事件通知方式,有 callback 方式,等,这些方式同样可能会影响你的性能。但是通常来说,异步操作会让性能的吞吐率有很大提升(Throughput),但是会牺牲系统的响应时间(latency)。这需要业务上支持。

语言和代码库。我们要熟悉语言以及所使用的函数库或类库的性能。比如:STL 中的很多容器分配了内存后,那怕你删除元素,内存也不会回收,其会造成内存泄露的假像,并可能造成内存碎片问题。再如,STL 某些容器的 size()==0  和 empty() 是不一样的,因为,size() 是 O(n) 复杂度,empty() 是 O(1) 的复杂度,这个要小心。Java 中的 JVM 调优需要使用的这些参数:-Xms -Xmx -Xmn -XX:SurvivorRatio -XX:MaxTenuringThreshold,还需要注意 JVM 的 GC,GC 的霸气大家都知道,尤其是 full GC(还整理内存碎片),他就像“恐龙特级克赛号”一样,他运行的时候,整个世界的时间都停止了。

网络调优

关于网络调优,尤其是 TCP Tuning(你可以以这两个关键词在网上找到很多文章),这里面有很多很多东西可以说。看看 Linux 下 TCP/IP 的那么多参数就知道了(顺便说一下,你也许不喜欢 Linux,但是你不能否认 Linux 给我们了很多可以进行内核调优的权力)。强烈建议大家看看《TCP/IP 详解 卷 1: 协议》这本书。我在这里只讲一些概念上的东西。

  TCP 调优

我们知道 TCP 链接是有很多开销的,一个是会占用文件描述符,另一个是会开缓存,一般来说一个系统可以支持的 TCP 链接数是有限的,我们需要清楚地认识到 TCP 链接对系统的开销是很大的。正是因为 TCP 是耗资源的,所以,很多攻击都是让你系统上出现大量的 TCP 链接,把你的系统资源耗尽。比如著名的 SYNC Flood 攻击。

所以,我们要注意配置 KeepAlive 参数,这个参数的意思是定义一个时间,如果链接上没有数据传输,系统会在这个时间发一个包,如果没有收到回应,那么 TCP 就认为链接断了,然后就会把链接关闭,这样可以回收系统资源开销。(注:HTTP 层上也有 KeepAlive 参数)对于像 HTTP 这样的短链接,设置一个 1-2 分钟的 keepalive 非常重要。这可以在一定程度上防止 DoS 攻击。有下面几个参数(下面这些参数的值仅供参考):

对于 TCP 的 TIME_WAIT 这个状态,主动关闭的一方进入 TIME_WAIT 状态,TIME_WAIT 状态将持续 2 个 MSL(Max Segment Lifetime),默认为 4 分钟,TIME_WAIT 状态下的资源不能回收。有大量的 TIME_WAIT 链接的情况一般是在 HTTP 服务器上。对此,有两个参数需要注意,

前者表示重用 TIME_WAIT,后者表示回收 TIME_WAIT 的资源。

TCP 还有一个重要的概念叫 RWIN(TCP Receive Window Size),这个东西的意思是,我一个 TCP 链接在没有向 Sender 发出 ack 时可以接收到的最大的数据包。为什么这个很重要?因为如果 Sender 没有收到 Receiver 发过来 ack,Sender 就会停止发送数据并会等一段时间,如果超时,那么就会重传。这就是为什么 TCP 链接是可靠链接的原因。重传还不是最严重的,如果有丢包发生的话,TCP 的带宽使用率会马上受到影响(会盲目减半),再丢包,再减半,然后如果不丢包了,就逐步恢复。相关参数如下:

一般来说,理论上的 RWIN 应该设置成:吞吐量  * 回路时间。Sender 端的 buffer 应该和 RWIN 有一样的大小,因为 Sender 端发送完数据后要等 Receiver 端确认,如果网络延时很大,buffer 过小了,确认的次数就会多,于是性能就不高,对网络的利用率也就不高了。也就是说,对于延迟大的网络,我们需要大的 buffer,这样可以少一点 ack,多一些数据,对于响应快一点的网络,可以少一些 buffer。

因为,如果有丢包(没有收到 ack),buffer 过大可能会有问题,因为这会让 TCP 重传所有的数据,反而影响网络性能。(当然,网络差的情况下,就别玩什么高性能了) 所以,高性能的网络重要的是要让网络丢包率非常非常地小(基本上是用在 LAN 里),如果网络基本是可信的,这样用大一点的 buffer 会有更好的网络传输性能(来来回回太多太影响性能了)。

另外,我们想一想,如果网络质量非常好,基本不丢包,而业务上我们不怕偶尔丢几个包,如果是这样的话,那么,我们为什么不用速度更快的 UDP 呢?你想过这个问题了吗?

  UDP 调优

说到 UDP 的调优,有一些事我想重点说一样,那就是 MTU——最大传输单元(其实这对 TCP 也一样,因为这是链路层上的东西)。所谓最大传输单元,你可以想像成是公路上的公交车,假设一个公交车可以最多坐 70 人,带宽就像是公路的车道数一样,如果一条路上最多可以容下 100 辆公交车,那意味着我最多可以运送 7000 人,但是如果公交车坐不满,比如平均每辆车只有 20 人,那么我只运送了 2000 人,于是我公路资源(带宽资源)就被浪费了。 所以,我们对于一个 UDP 的包,我们要尽量地让他大到 MTU 的最大尺寸再往网络上传,这样可以最大化带宽利用率。

对于这个 MTU,以太网是 1500 字节,光纤是 4352 字节,802.11 无线网是 7981。但是,当我们用 TCP/UDP 发包的时候,我们的有效负载 Payload 要低于这个值,因为 IP 协议会加上 20 个字节,UDP 会加上 8 个字节(TCP 加的更多),所以,一般来说,你的一个 UDP 包的最大应该是 1500-8-20=1472,这是你的数据的大小。当然,如果你用光纤的话, 这个值就可以更大一些。(顺便说一下,对于某些 NB 的千光以态网网卡来说,在网卡上,网卡硬件如果发现你的包的大小超过了 MTU,其会帮你做 fragment,到了目标端又会帮你做重组,这就不需要你在程序中处理了)

再多说一下,使用 Socket 编程的时候,你可以使用 setsockopt() 设置 SO_SNDBUF/SO_RCVBUF 的大小,TTL 和 KeepAlive 这些关键的设置,当然,还有很多,具体你可以查看一下 Socket 的手册。

最后说一点,UDP 还有一个最大的好处是 multi-cast 多播,这个技术对于你需要在内网里通知多台结点时非常方便和高效。而且,多播这种技术对于机会的水平扩展(需要增加机器来侦听多播信息)也很有利。

  网卡调优

对于网卡,我们也是可以调优的,这对于千兆以及网网卡非常必要,在 Linux 下,我们可以用 ifconfig 查看网上的统计信息,如果我们看到 overrun 上有数据,我们就可能需要调整一下 txqueuelen 的尺寸(一般默认为 1000),我们可以调大一些,如:ifconfig eth0 txqueuelen 5000。Linux 下还有一个命令叫:ethtool 可以用于设置网卡的缓冲区大小。在 Windows 下,我们可以在网卡适配器中的高级选项卡中调整相关的参数(如:Receive Buffers, Transmit Buffer 等,不同的网卡有不同的参数)。把 Buffer 调大对于需要大数据量的网络传输非常有效。

  其它网络性能

关于多路复用技术,也就是用一个线程来管理所有的 TCP 链接,有三个系统调用要重点注意:一个是 select,这个系统调用只支持上限 1024 个链接,第二个是 poll,其可以突破 1024 的限制,但是 select 和 poll 本质上是使用的轮询机制,轮询机制在链接多的时候性能很差,因主是 O(n) 的算法,所以,epoll 出现了,epoll 是操作系统内核支持的,仅当在链接活跃时,操作系统才会 callback,这是由操作系统通知触发的,但其只有 Linux Kernel 2.6 以后才支持(准确说是 2.5.44 中引入的),当然,如果所有的链接都是活跃的,过多的使用 epoll_ctl 可能会比轮询的方式还影响性能,不过影响的不大。

另外,关于一些和 DNS Lookup 的系统调用要小心,比如:gethostbyaddr/gethostbyname,这个函数可能会相当的费时,因为其要到网络上去找域名,因为 DNS 的递归查询,会导致严重超时,而又不能通过设置什么参数来设置 time out,对此你可以通过配置 hosts 文件来加快速度,或是自己在内存中管理对应表,在程序启动时查好,而不要在运行时每次都查。

另外,在多线程下面,gethostbyname 会一个更严重的问题,就是如果有一个线程的 gethostbyname 发生阻塞,其它线程都会在 gethostbyname 处发生阻塞,这个比较变态,要小心。(你可以试试 GNU 的 gethostbyname_r(),这个的性能要好一些) 这种到网上找信息的东西很多,比如,如果你的 Linux 使用了 NIS,或是 NFS,某些用户或文件相关的系统调用就很慢,所以要小心。

系统调优

   I/O 模型

前面说到过 select/poll/epoll 这三个系统调用,我们都知道,Unix/Linux 下把所有的设备都当成文件来进行 I/O,所以,那三个操作更应该算是 I/O 相关的系统调用。说到  I/O 模型,这对于我们的 I/O 性能相当重要,我们知道,Unix/Linux 经典的 I/O 方式是:

第一种,同步阻塞式 I/O,这个不说了。

第二种,同步无阻塞方式。其通过 fctnl 设置 O_NONBLOCK 来完成。

第三种,对于 select/poll/epoll 这三个是 I/O 不阻塞,但是在事件上阻塞,算是:I/O 异步,事件同步的调用。

第四种,AIO 方式。这种 I/O 模型是一种处理与 I/O 并行的模型。I/O 请求会立即返回,说明请求已经成功发起了。在后台完成 I/O 操作时,向应用程序发起通知,通知有两种方式:一种是产生一个信号,另一种是执行一个基于线程的回调函数来完成这次 I/O 处理过程。

第四种因为没有任何的阻塞,无论是 I/O 上,还是事件通知上,所以,其可以让你充分地利用 CPU,比起第二种同步无阻塞好处就是,第二种要你一遍一遍地去轮询。Nginx 之所所以高效,是其使用了 epoll 和 AIO 的方式来进行 I/O 的。

再说一下 Windows 下的 I/O 模型,

a)一个是 WriteFile 系统调用,这个系统调用可以是同步阻塞的,也可以是同步无阻塞的,关于看文件是不是以 Overlapped 打开的。关于同步无阻塞,需要设置其最后一个参数 Overlapped,微软叫 Overlapped I/O,你需要 WaitForSingleObject 才能知道有没有写完成。这个系统调用的性能可想而知。

b)另一个叫 WriteFileEx 的系统调用,其可以实现异步 I/O,并可以让你传入一个 callback 函数,等 I/O 结束后回调之, 但是这个回调的过程 Windows 是把 callback 函数放到了 APC(Asynchronous Procedure Calls)的队列中,然后,只用当应用程序当前线程成为可被通知状态(Alterable)时,才会被回调。只有当你的线程使用了这几个函数时 WaitForSingleObjectEx, WaitForMultipleObjectsEx, MsgWaitForMultipleObjectsEx, SignalObjectAndWait 和 SleepEx,线程才会成为 Alterable 状态。可见,这个模型,还是有 wait,所以性能也不高。

c)然后是 IOCP – IO Completion Port,IOCP 会把 I/O 的结果放在一个队列中,但是,侦听这个队列的不是主线程,而是专门来干这个事的一个或多个线程去干(老的平台要你自己创建线程,新的平台是你可以创建一个线程池)。IOCP 是一个线程池模型。这个和 Linux 下的 AIO 模型比较相似,但是实现方式和使用方式完全不一样。

当然,真正提高 I/O 性能方式是把和外设的 I/O 的次数降到最低,最好没有,所以,对于读来说,内存 cache 通常可以从质上提升性能,因为内存比外设快太多了。对于写来说,cache 住要写的数据,少写几次,但是 cache 带来的问题就是实时性的问题,也就是 latency 会变大,我们需要在写的次数上和相应上做权衡。

  多核 CPU 调优文件系统调优

关于 CPU 的多核技术,我们知道,CPU0 是很关键的,如果 0 号 CPU 被用得过狠的话,别的 CPU 性能也会下降,因为 CPU0 是有调整功能的,所以,我们不能任由操作系统负载均衡,因为我们自己更了解自己的程序,所以,我们可以手动地为其分配 CPU 核,而不会过多地占用 CPU0,或是让我们关键进程和一堆别的进程挤在一起。

  • 对于 Windows 来说,我们可以通过“任务管理器”中的“进程”而中右键菜单中的“设置相关性……”(Set Affinity…)来设置并限制这个进程能被运行在哪些核上。
  • 对于 Linux 来说,可以使用 taskset 命令来设置(你可以通过安装 schedutils 来安装这个命令:apt-get install schedutils)

多核 CPU 还有一个技术叫 NUMA 技术(Non-Uniform Memory Access)。传统的多核运算是使用 SMP(Symmetric Multi-Processor ) 模式,多个处理器共享一个集中的存储器和 I/O 总线。于是就会出现一致存储器访问的问题,一致性通常意味着性能问题。NUMA 模式下,处理器被划分成多个 node, 每个 node 有自己的本地存储器空间。关于 NUMA 的一些技术细节,你可以查看一下这篇文章《Linux 的 NUMA 技术》,在 Linux 下,对 NUMA 调优的命令是:numactl 。如下面的命令:(指定命令“myprogram arg1 arg2”运行在 node 0 上,其内存分配在 node 0 和 1 上)

当然,上面这个命令并不好,因为内存跨越了两个 node,这非常不好。最好的方式是只让程序访问和自己运行一样的 node,如:

  文件系统调优

关于文件系统,因为文件系统也是有 cache 的,所以,为了让文件系统有最大的性能。首要的事情就是分配足够大的内存,这个非常关键,在 Linux 下可以使用 free 命令来查看 free/used/buffers/cached,理想来说,buffers 和 cached 应该有 40% 左右。然后是一个快速的硬盘控制器,SCSI 会好很多。最快的是 Intel SSD 固态硬盘,速度超快,但是写次数有限。

接下来,我们就可以调优文件系统配置了,对于 Linux 的 Ext3/4 来说,几乎在所有情况下都有所帮助的一个参数是关闭文件系统访问时间,在 /etc/fstab 下看看你的文件系统 有没有 noatime 参数(一般来说应该有),还有一个是 dealloc,它可以让系统在最后时刻决定写入文件发生时使用哪个块,可优化这个写入程序。还要注间一下三种日志模式:data=journal、data=ordered 和 data=writeback。默认设置 data=ordered 提供性能和防护之间的最佳平衡。

当然,对于这些来说,ext4 的默认设置基本上是最佳优化了。

这里介绍一个 Linux 下的查看 I/O 的命令—— iotop,可以让你看到各进程的磁盘读写的负载情况。

其它还有一些关于 NFS、XFS 的调优,大家可以上 google 搜索一些相关优化的文章看看。

数据库调优

数据库调优并不是我的强项,我就仅用我非常有限的知识说上一些吧。注意,下面的这些东西并不一定正确,因为在不同的业务场景,不同的数据库设计下可能会得到完全相反的结论,所以,我仅在这里做一些一般性的说明,具体问题还要具体分析。

  数据库引擎调优

我对数据库引擎不是熟,但是有几个事情我觉得是一定要去了解的。

  • 数据库的锁的方式。这个非常非常地重要。并发情况下,锁是非常非常影响性能的。各种隔离级别,行锁,表锁,页锁,读写锁,事务锁,以及各种写优先还是读优先机制。性能最高的是不要锁,所以,分库分表,冗余数据,减少一致性事务处理,可以有效地提高性能。NoSQL 就是牺牲了一致性和事务处理,并冗余数据,从而达到了分布式和高性能。
  • 数据库的存储机制。不但要搞清楚各种类型字段是怎么存储的,更重要的是数据库的数据存储方式,是怎么分区的,是怎么管理的,比如 Oracle 的数据文件,表空间,段,等等。了解清楚这个机制可以减轻很多的 I/O 负载。比如:MySQL 下使用 show engines; 可以看到各种存储引擎的支持。不同的存储引擎有不同的侧重点,针对不同的业务或数据库设计会让你有不同的性能。
  • 数据库的分布式策略。最简单的就是复制或镜像,需要了解分布式的一致性算法,或是主主同步,主从同步。通过了解这种技术的机理可以做到数据库级别的水平扩展。
  SQL 语句优化

关于 SQL 语句的优化,首先也是要使用工具,比如:MySQL SQL Query Analyzer,Oracle SQL Performance Analyzer,或是微软 SQL Query Analyzer,基本上来说,所有的 RMDB 都会有这样的工具,来让你查看你的应用中的 SQL 的性能问题。 还可以使用 explain 来看看 SQL 语句最终 Execution Plan 会是什么样的。

还有一点很重要,数据库的各种操作需要大量的内存,所以服务器的内存要够,优其应对那些多表查询的 SQL 语句,那是相当的耗内存。

下面我根据我有限的数据库 SQL 的知识说几个会有性能问题的 SQL:

全表检索。比如:select * from user where lastname = “xxxx”,这样的 SQL 语句基本上是全表查找,线性复杂度 O(n),记录数越多,性能也越差(如:100 条记录的查找要 50ms,一百万条记录需要 5 分钟)。对于这种情况,我们可以有两种方法提高性能:一种方法是分表,把记录数降下来,另一种方法是建索引(为 lastname 建索引)。索引就像是 key-value 的数据结构一样,key 就是 where 后面的字段,value 就是物理行号,对索引的搜索复杂度是基本上是 O(log(n)) ——用 B-Tree 实现索引(如:100 条记录的查找要 50ms,一百万条记录需要 100ms)。

索引。对于索引字段,最好不要在字段上做计算、类型转换、函数、空值判断、字段连接操作,这些操作都会破坏索引原本的性能。当然,索引一般都出现在 Where 或是 Order by 字句中,所以对 Where 和 Order by 子句中的子段最好不要进行计算操作,或是加上什么 NOT 之类的,或是使用什么函数。

多表查询。关系型数据库最多的操作就是多表查询,多表查询主要有三个关键字,EXISTS,IN 和 JOIN(关于各种 join,可以参看图解 SQL 的 Join 一文)。基本来说,现代的数据引擎对 SQL 语句优化得都挺好的,JOIN 和 IN/EXISTS 在结果上有些不同,但性能基本上都差不多。有人说,EXISTS 的性能要好于 IN,IN 的性能要好于 JOIN,我各人觉得,这个还要看你的数据、schema 和 SQL 语句的复杂度,对于一般的简单的情况来说,都差不多,所以千万不要使用过多的嵌套,千万不要让你的 SQL 太复杂,宁可使用几个简单的 SQL 也不要使用一个巨大无比的嵌套 N 级的 SQL。

还有人说,如果两个表的数据量差不多,Exists 的性能可能会高于 In,In 可能会高于 Join,如果这两个表一大一小,那么子查询中,Exists 用大表,In 则用小表。这个,我没有验证过,放在这里让大家讨论吧。另,有一篇关于 SQL Server 的文章大家可以看看《IN vs JOIN vs EXISTS》

JOIN 操作。有人说,Join 表的顺序会影响性能,只要 Join 的结果集是一样,性能和 join 的次序无关。因为后台的数据库引擎会帮我们优化的。Join 有三种实现算法,嵌套循环,排序归并,和 Hash 式的 Join。(MySQL 只支持第一种)

  • 嵌套循环,就好像是我们常见的多重嵌套循环。注意,前面的索引说过,数据库的索引查找算法用的是 B-Tree,这是 O(log(n)) 的算法,所以,整个算法复法度应该是 O(log(n)) * O(log(m)) 这样的。
  • Hash 式的 Join,主要解决嵌套循环的 O(log(n)) 的复杂,使用一个临时的 hash 表来标记。
  • 排序归并,意思是两个表按照查询字段排好序,然后再合并。当然,索引字段一般是排好序的。

还是那句话,具体要看什么样的数据,什么样的 SQL 语句,你才知道用哪种方法是最好的。

部分结果集。我们知道 MySQL 里的 Limit 关键字,Oracle 里的 rownum,SQL Server 里的 Top 都是在限制前几条的返回结果。这给了我们数据库引擎很多可以调优的空间。一般来说,返回 top n 的记录数据需要我们使用 order by,注意在这里我们需要为 order by 的字段建立索引。有了被建索引的 order by 后,会让我们的 select 语句的性能不会被记录数的所影响。使用这个技术,一般来说我们前台会以分页方式来显现数据,Mysql 用的是 OFFSET,SQL Server 用的是 FETCH NEXT,这种 Fetch 的方式其实并不好是线性复杂度,所以,如果我们能够知道 order by 字段的第二页的起始值,我们就可以在 where 语句里直接使用>= 的表达式来 select,这种技术叫 seek,而不是 fetch,seek 的性能比 fetch 要高很多。

字符串。正如我前面所说的,字符串操作对性能上有非常大的恶梦,所以,能用数据的情况就用数字,比如:时间,工号,等。

全文检索。千万不要用 Like 之类的东西来做全文检索,如果要玩全文检索,可以尝试使用 Sphinx。

其它。

  • 不要 select *,而是明确指出各个字段,如果有多个表,一定要在字段名前加上表名,不要让引擎去算。
  • 不要用 Having,因为其要遍历所有的记录。性能差得不能再差。
  • 尽可能地使用 UNION ALL  取代  UNION。
  • 索引过多,insert 和 delete 就会越慢。而 update 如果 update 多数索引,也会慢,但是如果只 update 一个,则只会影响一个索引表。
  • 等等。

关于SQL语句的优化,网上有很多文章, 不同的数据库引擎有不同的优化技巧,正如本站以前转发的《MySQL性能优化的最佳20+条经验

先写这么多吧,欢迎大家指正补充。

注:这篇文章的确是个大杂烩。其实其中的说到的很多技术在网上都有很多很多的技术文章,google一下就能找到一堆有很多细节的文章,所以我也就不写了。这篇性能调优的文章写作的动机是之前看到 @淘宝褚霸 强推的highscalability.com上的这篇文章:Big List Of 20 Common Bottlenecks,觉得这篇文章泛泛而谈,觉得自己能写得比它好,所以就产生了动机。

=END=

声明: 除非注明,ixyzero.com文章均为原创,转载请以链接形式标明本文地址,谢谢!
https://ixyzero.com/blog/archives/3343.html

《[collect]性能调优攻略》上有22条评论

  1. 性能调优攻略
    http://coolshell.cn/articles/7490.html

    系统性能定义
    系统性能测试
    定位性能瓶颈
      查看操作系统负载
      使用 Profiler 测试
    常见的系统瓶颈
      算法调优
      代码调优
      网络调优
        TCP 调优
        UDP 调优
        网卡调优
        其它网络性能
      系统调优
        I/O 模型
        多核 CPU 调优文件系统调优
        文件系统调优
      数据库调优
        数据库引擎调优
        SQL 语句优化

  2. Linux:找出使用了多少文件描述符
    https://www.cyberciti.biz/tips/linux-procfs-file-descriptors.html

    # lsof | wc -l
    # sysctl fs.file-nr

    在长时间运行的服务器上修复文件描述符泄漏的问题 #非常给力
    https://oroboro.com/file-handle-leaks-server/

    Sockets # socket() / accept()
    Pipes # dup() / dup2()
    Database connections # dup() / dup2()
    Files # open() / fopen()

    在退出时关闭文件描述符是一种很好的做法
    https://stackoverflow.com/questions/15246833/is-it-a-good-practice-to-close-file-descriptors-on-exit

    Files are automatically closed, but it's a good practice.

    FILE pointer returned by fopen() is not a file descriptor. It is a file stream, which has an associated buffer. So when your program returns from main without proper fclose() call you leave this memory leaked, as valgrind shows.

    尽量不要依赖于系统去做这些关闭的操作,这些本应该是你要去做的。

  3. 如何做高可用的架构设计
    https://mp.weixin.qq.com/s?__biz=MzI3OTUwMjM4MA==&mid=2247483756&idx=1&sn=7bda8ca7926977b12d4b8fd94cc72220

    定义目标
    1. 保持业务高稳定性
    2. 支持快速定位故障
    3. 支持快速恢复业务

    服务分级 + 服务降级
    一、服务分级:根据业务的需求,将服务进行分类,划分核心服务和普通服务,核心服务与普通服务不会相互影响,服务背后的资源,缓存,数据库,MQ相互分离。服务分级,对应于我们的子目标1。
    二、服务降级:当出现故障的时候,可以将普通服务直接降级,保护核心服务不受影响。服务降级,对应于我们的子目标3。

    建立分层监控
    建立监控分层的目的对应于我们的子目标2,就是将故障分析和定位时涉及的所有的相关信息都要监控起来,共分为5层,具体各层如下:
    网络层
    接口层
    业务层
    中间件层
    系统层

  4. 不要在linux上启用net.ipv4.tcp_tw_recycle参数
    https://mp.weixin.qq.com/s/ydPhvFEhrol-8qYxp4LFog

    关于TCP连接的TIME-WAIT状态,它是为何而生,存在的意义是什么?
    TIME-WAIT的:
    第一个作用是避免新的连接(不相关的)接收到重复的数据包。由于使用了时间戳,重复的数据包会因为timestamp过期而丢弃。
    第二个作用是确保远程端(远程的不一定是服务端,有可能,对于服务器来说,远程的是客户端,我这里就用远程端来代替)是不是在LAST-ACK状态。

  5. 高并发和高可用的一点思考
    http://kriszhang.com/high_performance/

    指导原则
    高可用
     事前
      副本技术
      隔离技术
      配额技术
      探知技术
      预案
     事发
      监控和报警
     事中
      降级
      回滚
      failXXX系列
     事后
    高并发
     提高处理速度
      缓存
      异步
     增加处理人手
      多线程
      扩容

  6. 低延迟与用户体验杂谈
    https://liudanking.com/arch/latency-and-user-experience/

    Latency Comparison Numbers
    --------------------------
    L1 cache reference 0.5 ns
    Branch mispredict 5 ns
    L2 cache reference 7 ns 14x L1 cache
    Mutex lock/unlock 25 ns
    Main memory reference 100 ns 20x L2 cache, 200x L1 cache
    Compress 1K bytes with Zippy 3,000 ns 3 us
    Send 1K bytes over 1 Gbps network 10,000 ns 10 us
    Read 4K randomly from SSD* 150,000 ns 150 us ~1GB/sec SSD
    Read 1 MB sequentially from memory 250,000 ns 250 us
    Round trip within same datacenter 500,000 ns 500 us
    Read 1 MB sequentially from SSD* 1,000,000 ns 1,000 us 1 ms ~1GB/sec SSD, 4X memory
    Disk seek 10,000,000 ns 10,000 us 10 ms 20x datacenter roundtrip
    Read 1 MB sequentially from disk 20,000,000 ns 20,000 us 20 ms 80x memory, 20X SSD
    Send packet CA->Netherlands->CA 150,000,000 ns 150,000 us 150 ms

    Notes
    -----
    1 ns = 10^-9 seconds
    1 us = 10^-6 seconds = 1,000 ns
    1 ms = 10^-3 seconds = 1,000 us = 1,000,000 ns

    Credit
    ------
    By Jeff Dean: http://research.google.com/people/jeff/
    Originally by Peter Norvig: http://norvig.com/21-days.html#answers

    Contributions
    -------------
    Some updates from: https://gist.github.com/2843375
    'Humanized' comparison: https://gist.github.com/2843375
    Visual comparison chart: http://i.imgur.com/k0t1e.png
    Animated presentation: http://prezi.com/pdkvgys-r0y6/latency-numbers-for-programmers-web-development/latency.txt

  7. SOA,Webservice,SOAP,REST,RPC,RMI,JMS的区别与联系
    http://blog.csdn.net/pcceo1/article/details/51245249

    SOA、SOAP、RPC、REST、DUBBO的区别与联系
    http://blog.csdn.net/silencecarrot/article/details/52468521

    谈谈自己对REST、SOA、SOAP、RPC、ICE、ESB、BPM知识汇总及理解
    http://blog.csdn.net/tantexian/article/details/48196453

    SOA接口的两种常用实现比较:SOAP vs REST
    http://blog.csdn.net/zhaohuabing/article/details/39643127

  8. “左耳听风”专栏是由陈皓(网名“左耳朵耗子”)贡献和维护的全年付费专栏。
    https://time.geekbang.org/column/intro/48

    《分布式系统架构的本质》系列文章
    · 分布式系统架构的冰与火
    · 从亚马逊的实践,谈分布式系统的难点
    · 分布式系统的技术栈
    · 分布式系统关键技术:全栈监控
    · 分布式系统关键技术:服务调度
    · 分布式系统关键技术:流量与数据调度
    · 洞悉 PaaS 平台的本质
    · 推荐阅读:分布式系统架构经典资料
    · 推荐阅读:分布式数据调度相关论文

    《分布式系统设计模式》系列文章
    弹力设计篇
    · 认识故障和弹力设计
    · 隔离设计
    · 异步通讯设计
    · 幂等性设计
    · 服务的状态
    · 补偿事务
    · 重试设计
    · 熔断设计
    · 限流设计
    · 降级设计
    · 弹力设计总结

    管理设计篇
    · 配置中心
    · 边车模式
    · 服务网格
    · 网关模式
    · 部署升级策略

    性能设计篇
    · 缓存
    · 异步处理
    · 数据库扩展
    · 秒杀
    · 边缘计算

    《编程范式游记》系列文章
    编程范式游记(1)- 起源
    编程范式游记(2)- 泛型编程
    编程范式游记(3)- 类型系统和泛型的本质
    编程范式游记(4)- 函数式编程
    编程范式游记(5)- 修饰器模式
    编程范式游记(6)- 面向对象编程
    编程范式游记(7)- 基于原型的编程范式
    编程范式游记(8)- Go 语言的委托模式
    编程范式游记(9)- 编程的本质
    编程范式游记(10)- 逻辑编程范式
    编程范式游记(11)- 程序世界里的编程范式
    ……

  9. 系统吞吐量、TPS(QPS)、用户并发量、性能测试概念和公式
    https://blog.csdn.net/wind19/article/details/8600083
    http://www.ha97.com/5095.html

    一个系统的吞度量(承压能力)与request对CPU的消耗、外部接口、IO等等紧密关联。
    单个reqeust对CPU消耗越高,外部系统接口、IO影响速度越慢,系统吞吐能力越低,反之越高。

    系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间
      QPS(TPS):每秒钟request/事务 数量
      并发数: 系统同时处理的request/事务数
      响应时间: 一般取平均响应时间

  10. 服务调优
    http://luojinping.com/2017/08/13/%E6%9C%8D%E5%8A%A1%E8%B0%83%E4%BC%98/

    目录
    1. 服务异常的处理流程
    2. 负载
    2.1 查看机器 cpu 的负载
    2.2 查找 cpu 占用率高的线程
    3. 内存
    3.1 系统内存
    1. 什么是buffer/cache?
    2. 系统如何回收cache?
    3.2 进程内存
    3.2.1 进程内存统计
    3.2.2 JVM 内存分配
      1. 方法区
      2. 虚拟机栈
      3. 本地方法栈
      4. 堆
      5. 程序计数器
      6. 直接内存
    3.2.4 JVM 内存分析
      1. 查看 JVM 堆内存情况
      2. 查看 JVM 堆各个分区的内存情况
      3. 分析 JVM 堆内存中的对象
    4. 服务指标
    4.1 响应时间(RT)
    4.2 吞吐量(Throughput)
    4.3 并发用户数
    4.4 QPS每秒查询率(Query Per Second)
    4.5 CPU利用率
    5. 工具
    Reference

发表评论

电子邮件地址不会被公开。 必填项已用*标注