비대화형, 메모리 집약적 프로세스의 속도가 실행 중인 프로세스 수(및 수정 방법)에 따라 달라지는 이유는 무엇입니까?

Question 1

이제 무엇이 잘못되었는지 이해하고 이것이 UNIX 제한이 아니라 하드웨어 제한이라는 것을 알고 있으므로 여기에 게시하는 것이 적합하지 않습니다. 그러나 마무리 발언을 추가해야겠다고 생각했습니다.

메모리가 제한된 독립 실행형 프로세스에 메모리 대역폭 문제가 있습니다. Knights Landing 프로세서에서 프로세스를 반복하고 로컬 MCDRAM에 Numpy 어레이를 할당하는 방법을 배웠습니다. 로컬 메모리를 사용하면 메모리 버스에 경합이 없으며 프로세스는 기본 하드웨어에서 관찰한 한도를 훨씬 초과하여 계속해서 확장됩니다.

MCDRAM(일반 RAM 대신)에 Numpy 배열을 할당하는 방법은 다음과 같습니다.

import ctypes
import numpy

def malloc_mcdram(size):
    libnuma = ctypes.cdll.LoadLibrary("libnuma.so")
    assert libnuma.numa_available() == 0   # NUMA not available is -1

    libnuma.numa_alloc_onnode.restype = ctypes.POINTER(ctypes.c_uint8)
    return libnuma.numa_alloc_onnode(ctypes.c_size_t(size), ctypes.c_int(1))

def custom_allocator_array(allocator, size, dtype):
    ptr = allocator(size)
    ptr.__array_interface__ = {"version": 3,
                               "typestr": numpy.ctypeslib._dtype(type(ptr.contents)).str,
                               "data": (ctypes.addressof(ptr.contents), False),
                               "shape": (size,)}
    return numpy.array(ptr, copy=False).view(dtype)

myarray = custom_allocator_array(malloc_mcdram, sizeInBytes, numpy.float64)

Answer

이제 무엇이 잘못되었는지 이해하고 이것이 UNIX 제한이 아니라 하드웨어 제한이라는 것을 알고 있으므로 여기에 게시하는 것이 적합하지 않습니다. 그러나 마무리 발언을 추가해야겠다고 생각했습니다.

메모리가 제한된 독립 실행형 프로세스에 메모리 대역폭 문제가 있습니다. Knights Landing 프로세서에서 프로세스를 반복하고 로컬 MCDRAM에 Numpy 어레이를 할당하는 방법을 배웠습니다. 로컬 메모리를 사용하면 메모리 버스에 경합이 없으며 프로세스는 기본 하드웨어에서 관찰한 한도를 훨씬 초과하여 계속해서 확장됩니다.

MCDRAM(일반 RAM 대신)에 Numpy 배열을 할당하는 방법은 다음과 같습니다.

import ctypes
import numpy

def malloc_mcdram(size):
    libnuma = ctypes.cdll.LoadLibrary("libnuma.so")
    assert libnuma.numa_available() == 0   # NUMA not available is -1

    libnuma.numa_alloc_onnode.restype = ctypes.POINTER(ctypes.c_uint8)
    return libnuma.numa_alloc_onnode(ctypes.c_size_t(size), ctypes.c_int(1))

def custom_allocator_array(allocator, size, dtype):
    ptr = allocator(size)
    ptr.__array_interface__ = {"version": 3,
                               "typestr": numpy.ctypeslib._dtype(type(ptr.contents)).str,
                               "data": (ctypes.addressof(ptr.contents), False),
                               "shape": (size,)}
    return numpy.array(ptr, copy=False).view(dtype)

myarray = custom_allocator_array(malloc_mcdram, sizeInBytes, numpy.float64)

Question 2

프로세스는 CPU가 아닌 메모리가 무겁습니다. 이 시도:

#!/usr/bin/env python

import datetime
import hashlib

data = "\0" * 64

ts_start = datetime.datetime.now()
for i in range(10000000):
    data = hashlib.sha512(data).digest()
ts_end = datetime.datetime.now()
print("Elapsed: %s" % (ts_end - ts_start))

2소켓/8코어/16스레드 시스템에서 최대 8개의 런타임을 병렬로 실행하면 완료하는 데 약 20초가 걸리는 일관된 결과를 얻습니다. 또한 프로세스가 CPU 리소스를 놓고 경쟁하기 시작하면 성능이 저하됩니다.

단일 실행:

~$ python cpuheavy.py 
Elapsed: 0:00:20.461652

8개 병렬(= 코어당 1개), 여전히 동일한 시간:

~$ for i in $(seq 8); do python cpuheavy.py & done
Elapsed: 0:00:18.979012
Elapsed: 0:00:19.092770
Elapsed: 0:00:19.873763
Elapsed: 0:00:20.139105
Elapsed: 0:00:20.147066
Elapsed: 0:00:20.181319
Elapsed: 0:00:21.328754
Elapsed: 0:00:21.495310

16번 병렬로 실행(= 하이퍼스레드당 1번), 프로세스가 CPU 시간 경쟁을 시작하면서 시간이 약 31초로 늘어났습니다. Ca 시간이 50% 증가했습니다.

32개의 프로세스를 병렬로 실행하려면 CPU 스레드를 공유해야 하므로 성능이 저하됩니다. 각 프로세스의 완료 시간은 2분 이상으로 늘어났습니다(시간 4배 증가).

Answer