☰

bash for 루프를 병렬화하고 파일 IO에 반복 변수를 사용하는 방법

tag-icon • tag-icon bash parallelism
bash for 루프를 병렬화하고 파일 IO에 반복 변수를 사용하는 방법

다음과 비슷한 bash 스크립트가 있습니다.

N=32
for i in $(seq -f "%06g" 0 ${LAST_NUM}) # LAST_NUM is an env variable
do
  ((j=j%N)); ((j++==0)) && wait # Wait for all processes in batch to finish
  python foo1.py $i &
  python foo2.py "foo1_output${i}.file_extension" &
  python foo3.py "foo2_output${i}.file_extension" &
done

출력을 확인할 때 FileNotFound중간 파일에 대한 오류가 발생합니다 foo1_output${i}.file_extension. 이를 확인하지는 않았지만 i해당 루프에서 생성된 프로세스에 상태가 연결되지 않았을 수 있다고 생각됩니다. 루프의 첫 번째 명령뿐만 아니라 하나의 프로세스가 루프의 한 번의 반복을 담당하기를 원합니다. 위 코드에 문제가 있는 걸까요? 그렇다면 이 문제를 해결하는 올바른 방법은 무엇인가요?

답변1

GNU Parallel 기반 솔루션은 필요하지 않지만 GNU Parallel은 이러한 종류의 작업을 위해 특별히 제작되었으므로 관련성이 있을 수 있습니다.

doit() {
  i="$1"
  python foo1.py $i
  python foo2.py "foo1_output${i}.file_extension"
  python foo3.py "foo2_output${i}.file_extension"
}
export -f doit

# This will run one job per CPU thread (e.g. 32 if your server has 32 CPU thread)
seq -f "%06g" 0 ${LAST_NUM} | parallel doit

# If you really want to force 32 in parallel:
N=32
seq -f "%06g" 0 ${LAST_NUM} | parallel -j$N doit

GNU Parallel은 동일한 컴퓨터 또는 SSH를 통해 액세스할 수 있는 여러 컴퓨터에서 작업을 병렬로 쉽게 실행할 수 있게 해주는 범용 병렬 처리기입니다.

4개의 CPU에서 32개의 서로 다른 작업을 실행하려는 경우 병렬화하는 간단한 방법은 각 CPU에서 8개의 작업을 실행하는 것입니다.

간단한 스케줄링

대신, GNU Parallel은 작업이 완료되면 새로운 프로세스를 생성하여 CPU를 활성 상태로 유지하여 시간을 절약합니다.

GNU 병렬 스케줄링

설치하다

보안상의 이유로 패키지 관리자를 사용하여 GNU Parallel을 설치해야 하지만 GNU Parallel이 배포용으로 패키지되어 있지 않은 경우 루트 액세스가 필요하지 않은 개인 설치를 수행할 수 있습니다. 이 작업은 10초 안에 완료할 수 있습니다.

$ (wget -O - pi.dk/3 || lynx -source pi.dk/3 || curl pi.dk/3/ || \
   fetch -o - http://pi.dk/3 ) > install.sh
$ sha1sum install.sh | grep 883c667e01eed62f975ad28b6d50e22a
12345678 883c667e 01eed62f 975ad28b 6d50e22a
$ md5sum install.sh | grep cc21b4c943fd03e93ae1ae49e28573c0
cc21b4c9 43fd03e9 3ae1ae49 e28573c0
$ sha512sum install.sh | grep da012ec113b49a54e705f86d51e784ebced224fdf
79945d9d 250b42a4 2067bb00 99da012e c113b49a 54e705f8 6d51e784 ebced224
fdff3f52 ca588d64 e75f6033 61bd543f d631f592 2f87ceb2 ab034149 6df84a35
$ bash install.sh

다른 설치 옵션은 다음을 참조하세요.http://git.savannah.gnu.org/cgit/parallel.git/tree/README

더 알아보기

더 많은 예시 보기:http://www.gnu.org/software/parallel/man.html

소개 비디오 보기:https://www.youtube.com/playlist?list=PL284C9FF2488BC6D1

이 튜토리얼을 살펴보세요:http://www.gnu.org/software/parallel/parallel_tutorial.html

이 책을 읽어보세요:https://doi.org/10.5281/zenodo.1146014

지원을 받으려면 이메일 목록에 가입하세요.https://lists.gnu.org/mailman/listinfo/parallel

관련 정보