磁盘IO高和线程切换过高性能压测案例分析

时间：2017-11-06 13:59:06 阅读：309 评论：0 收藏：0 [点我收藏+]

标签：分析脚本关闭设置统计 es2017 案例 for over

案例现象：

压力测试的时候，发现A请求压力80tps后，cpu占用就非常高了（24核的机器，每个cpu占用率全面飙到80%以上），且设置的检查点没有任何报错。

1、top命令如下：

技术分享

2、了解了一下后台实现逻辑：大体是这样的：服务器接到请求后，会再到另一台kv服务器请求数据，拿回来数据后，根据用户的机器码做个性化运算，最后将结果返回给客户端，期间会输出一些调试log。

查了下，kv服务器正常，说明是本机服务服务器的问题。具体用vmstat命令看一下异常的地方。

技术分享

3、从图中可以直观的看出，bi、bo、in、cs这四项的值都很高，根据经验，bi和bo代表磁盘io相关、in和cs代表系统进程相关。一个一个解决吧，先看io。

4、用iostat –x命令看了下磁盘读写，果然，磁盘慢慢给堵死了。

技术分享

5、看了下过程，只有写log操作才能导致频繁读写磁盘。果断关闭log。重新打压试下。

技术分享

6、 Bi和bo降到正常值了，说明磁盘的问题解决了。但是上下文切换数竟然达到了每秒40万次！好可怕~

7、只知道上下文切换数很大，怎么知道是在哪些进程间切换呢？

到网上搜了一个脚本，这个脚本用来统计特定时间内进程切换的top20并打印出来。

#! /usr/bin/env stap
#
#
global csw_count

global idle_count

probe scheduler.cpu_off {

csw_count[task_prev, task_next]++

idle_count+=idle
}

function fmt_task(task_prev, task_next)

{

return sprintf("%s(%d)->%s(%d)",

task_execname(task_prev),

task_pid(task_prev),

task_execname(task_next),

task_pid(task_next))

}

function print_cswtop () {

printf ("%45s %10s\n", "Context switch", "COUNT")

foreach ([task_prev, task_next] in csw_count- limit 20) {

printf("%45s %10d\n", fmt_task(task_prev, task_next), csw_count[task_prev, task_next])

}

printf("%45s %10d\n", "idle", idle_count)

delete csw_count

delete idle_count

}
probe timer.s($1) {

print_cswtop ()

printf("--------------------------------------------------------------\n")

}