shell的多进程实现

方法总结：

1. command & + wait 方式

2. 管道fifo

1.1

实例1.1：将需要多进程执行的程序块全部使用command & wait 转移到后台执行即可。

用“{}”将主执行程序变为一个块，用&放入后台，四次执行全部放入后台后，

需要用一个wait指令，等待所有后台进程执行结束，

不然系统是不会等待的，直接继续执行后续指令，直到整个程序结束。

#!/bin/bash

start=`date +”%s”`

for (( i=0; i
do

{

echo “success!!!”

sleep 3

} & #将上述程序块放到后台执行

done

wait #等待上述程序结束

end=`date +”%s”`

echo “time: ” `expr $end – $start`

2.1

实例2.1：

#!/bin/sh

function a_sub {

sleep 2;

endtime=`date +%s`

sumtime=$[$endtime-$starttime]

echo “我是whl，整个脚本已经执行了$sumtime秒”

}

starttime=`date +%s`

export starttime

tmp_fifofile=”/tmp/$$.fifo” ##其中$$为该进程的pid

mkfifo $tmp_fifofile ##创建命名管道

exec 6$tmp_fifofile ##把文件描述符6和FIFO进行绑定

rm -f $tmp_fifofile ##绑定后，该文件就可以删除了

thread=30 ##

进程并发数为30，用这个数字来控制一次提交的请求数

for ((i=0;i
do

echo >&6 ##写一个空行到管道里，因为管道文件的读取以行为单位

done

while read dat

do

##读取管道中的一行,每次读取后，管道都会少一行

read -u6

{ a_sub || {echo “a_sub is failed”}

echo $dat

echo >&6 ##每次执行完a_sub函数后，再增加一个空行，这样下面的进程才可以继续执行

} &

done

wait ##这里的wait意思是，需要等待以上所有操作（包括后台的进程）都结束后，再往下执行。

exec 6>&- ##关闭文件描述符6的写

exec 6

实例2：多线程备份数据库

#!/bin/bash

hour=`date +%H`

day=`date +%F`

now=`date +%F_%H`

all_dbs=”no”

passwd=”mysql_pass”

sshpass=”ssh_pass”

dbs=”db1 db2 db3 dbx dby dbz”

cpu_num=`cat /proc/cpuinfo |grep processor|wc -l`

p_fifo=”/tmp/$$.pipo”

mkfifo $p_fifo

exec 111$p_fifo #关联文件描述符和管道

rm -f $p_fifo

trap “exec 111>&-;exec 111
for ((i=1; i
do

echo >&111 #定义进程队列大小，cpu核数

done

function backup()

{

if [ $all_dbs == “no” ];then

for db in $dbs

do

read -u111 #从队列中获取一个消息，队列中消息数减一

{

dbname=`echo $db|sed “s/-/@002d/g”`

ops=”–parallel=5 –compress-threads=5 –databases=$dbname”

bpath=”/data1/ehr-mysql-backup/${day}/${db}”

inbackup

sleep 10

echo >&111 #添加一个消息到队列中，维持队列中消息数不变（进程个数）

} & #将代码块放后台处理

done

wait #等待所有后台进程处理完

exec 111>&- #关闭描述符，写关闭

exec 111
else

ops=”–parallel=5 –compress-threads=5″

bpath=”/data1/ehr-mysql-backup/${day}”

inbackup

fi

}

function inbackup()

{

if [ -f ${bpath}/lsn_${last}/xtrabackup_checkpoints ];then

echo “incremental_basedir found,do a increment backup”

/usr/bin/innobackupex -u root -p${passwd} –no-timestamp ${ops}
–incremental –incremental_basedir=${bpath}/lsn_${last}/
–extra-lsndir=${bpath}/lsn_${now}/ ${bpath} –stream=xbstream |gzip
|sshpa开发云主机域名ss -p “${sshpass}” ssh -p 18122 root@10.10.10.79 “cat – >
${bpath}/${now}.xbstram.gz”

else

echo “incremental_basedir not found,do a full backup”

/usr/bin/innobackupex -u root -p${passwd} –no-timestamp ${ops}
–extra-lsndir=${bpath}/lsn_${now}/ ${bpath} –stream=tar |gzip |sshpass
-p “${sshpass}” ssh -p 18122 root@10.10.10.79 “cat – >
${bpath}/${now}.tgz”

fi

}

case $hour in

22)

last=`date +%F -d -yesterday`

find /data1/ehr-mysql-backup/ -name “${last}*” -type d -exec rm -r “{}” ;

day=`date +%F -d +1days`

backup

;;

10)

last=`date +%F_%H -d -12hours`

backup

;;

14|18)

last=`date +%F_%H -d -4hours`

backup

;;

*)

echo “not backup time”

;;

esac