GPU 메모리 I/O 모니터링

GPU 메모리 I/O 모니터링

GPU 메모리 I/O 및 CUDA와 함께 사용되는 Nvidia 그래픽 카드를 셸에서 모니터링할 수 있는 방법이 있습니까?

나는 nvidia-smi현재 메모리 활용도를 보는 데 익숙하지만, 이를 증분(예: 10MB/s)으로 보고 바람직하게는 프로세스별로 분류합니다( iotop디스크 I/O와 마찬가지로).

nvidia-smi:

여기에 이미지 설명을 입력하세요.

iotop:

여기에 이미지 설명을 입력하세요.

답변1

nvprof적절한 스위치를 설정하면 멋진 통계를 인쇄할 수 있습니다. 불행히도 예제 출력이 없지만 다음과 같이 사용할 수 있습니다.

nvprof \
    --devices 0 \
    --metrics l1_cache_global_hit_rate \
    --metrics shared_load_transactions \
    ./your_app

관련 정보