shell多进程并发数控制

时间：2019-12-24 15:30:49 阅读：86 评论：0 收藏：0 [点我收藏+]

在批量执行任务是，单进程执行速度太慢，使用&不加数量控制，又担心资源占用过多，导致宕机等问题，因此我们需要控制并发进程的数量，保证效率的同时，保证资源占用不会太高。

其中一个解决思路是利用简单的生产者-消费者模型。

以下为范例脚本：

#!/bin/bash

fifo_file=a.pipe

mkfifo $fifo_file #创建任务队列

exec 5<>$fifo_file

rm $fifo_file

process_num=10 #并发任务的数量

function task() #要执行的任务

{

sleep 2

}

#初始化任务队列，向队列里添加process_num个任务额度

for ((i=0;i<process_num;i++))

echo "" ;

done >&5

while read line #不断从任务列表中获取任务

read -u 5 #从任务队列中获取一个任务，即消费一个额度

{

echo $(echo $line | awk ‘{print $1}‘)

task #执行任务

echo "" >&5 #任务执行完成之后，再产生一个任务额度到任务队列

done < task_list

wait #等待所有子进程执行完毕

exec 5>&- #关闭任务队列

exit 0

注：task_list中内容如下

1 test line

2 test line

3 test line

...

99 test line

原文地址：https://www.cnblogs.com/Reggie/p/12091510.html

踩

(0)

评论一句话评论（0）

分享档案

更多>

周排行