infiniband

서버와 NFS 볼륨 간의 HDR Infiniband 네트워크 처리량을 최대한 활용할 수 있습니까?
infiniband

서버와 NFS 볼륨 간의 HDR Infiniband 네트워크 처리량을 최대한 활용할 수 있습니까?

저는 CPU 클러스터를 구축하는 프로젝트를 진행 중이며, 서버와 NFS 스토리지(병렬 파일 시스템 아님)는 HDR InfiniBand 케이블을 통해 연결됩니다. 이 아키텍처에서는 InfiniBand 네트워크를 통해 적절한 스토리지 I/O 성능을 얻을 수 있으며 NFS는 InfiniBand 통신을 지원합니까? 아니면 스토리지를 쓰고 읽으려면 200G 이더넷(IB 네트워크 아님) 패브릭을 구축해야 합니까? 그렇다면 구성해야 할 사항이 있습니까? ...

Admin

기본 Redhat InfiniBand 지원에 비해 MLNX OFED 설치에 이점이 있습니까?
infiniband

기본 Redhat InfiniBand 지원에 비해 MLNX OFED 설치에 이점이 있습니까?

RHEL 8.8에서는 Mellanox InfiniBand 하드웨어를 사용하는 사용자가 선택할 수 있습니다. Red Hat과 함께 제공되는 그룹 설치 InfiniBand Support(설치 중에 선택)를 활용하여 InfiniBand 네트워킹을 활성화하거나 스크립트를 선택 MLNX_OFED_LINUX-23.04-1.1.3.0-rhel8.8-x86_64.iso하고 실행하여 mlnxofedinstallRed Hat 패키지를 자체 패키지로 대체할 수 있습니다. 펌웨어 업데이트 외에 Red Hat 경로를 통해 ...

Admin

CentOS 7의 NFS/RDMA, 작은 파일 손상
infiniband

CentOS 7의 NFS/RDMA, 작은 파일 손상

HPC 환경에는 2개의 노드 시리즈가 있습니다. 하나는 7.1.1503(커널 3.10.0-229.el7.x86_64)을 실행하고 다른 하나는 7.7.1908(커널 3.10.0-1062.12.1.el7.x86_64)을 실행합니다. 둘 다 하나씩 설치되어 있습니다.NFS/RDMA서버에는 공급업체(Melanox)가 문서화한 다음 플래그가 있습니다. 10.0.0.1:/pool0/home on /mnt/rdma type nfs (rw,relatime,sync,vers=3,rsize=262144,wsize=26...

Admin

RHEL에서 Infiniband ib0 설정
infiniband

RHEL에서 Infiniband ib0 설정

Mellanox HDR 인피니밴드 카드가 설치된 일부 서버에서 RHEL 7.9를 실행합니다. DVD를 통해 각 장치에 RHEL 7.9를 설치했으며 다음을 선택했습니다.그래픽 사용자 인터페이스를 갖춘 서버와 함께무제한 대역폭 지원그리고 몇 가지 다른 항목(하단 5). 따라서 Application - System Tools - Settings - Network해당 GUI의 그림이 여기에 사용됩니다. 알겠어요연결됨하지만 이렇게 하면 ip a나타납니다 ib0 state DOWN. 이것은 간단한 LAN에 ...

Admin

Infiniband RHEL7, NFS RDMA 설정 및 도움말
infiniband

Infiniband RHEL7, NFS RDMA 설정 및 도움말

내가 잘못하고 있거나 누락된 부분에 대해 누군가 도움을 줄 수 있기를 바랍니다. 3개의 테스트 서버(호스트 이름 node1..3)가 있으며 각 서버에는 Mellanox MT28908 시리즈 인피니밴드 카드, 모델 CX653105A가 장착되어 있습니다. Mellanox HDR 인피니밴드 스위치 QM8700이 있습니다. RHEL 7.9를 실행하는 모든 서버에서 커널 3.10.0-1160.49.1.el7.x86_64 Access_Redhat 스토리지 관리 가이드, 8.6을 참조하세요.NFS 서버 구성. ...

Admin

네트워크 전송 속도 및 하드웨어 제한 테스트
infiniband

네트워크 전송 속도 및 하드웨어 제한 테스트

이것은 다소 컴퓨터 엔지니어링 및 네트워크 엔지니어링 질문이지만 Linux 기반입니다.없이주로 Linux 운영 체제를 통해 사용됩니다. 내 하드웨어에서 Linux 운영 체제를 사용할 때 발생하는 속도 제한을 이해하고 싶습니다. 무제한 광대역(mellanox) QDR, FRD, EDR, HDR 등 다양한 데이터 속도가 출시되었습니다. HDR은 현재 100Gbps 또는 200Gbps에서 작동합니다(2021년 기준 Mellanox 광고 참조). 다음을 통해 iperf사용rhel 7.9IPoIBiperf에서...

Admin

HDR IPoIB 및 10GbE 이상의 속도, 복사 속도 측정
infiniband

HDR IPoIB 및 10GbE 이상의 속도, 복사 속도 측정

저는 대용량 데이터 파일(예: 10GB 이상)을 처리할 때 IPoIB {IP over infiniband}를 사용하고 있으며 기존의 1gbps 유선 네트워크 속도보다 더 나은 것이 필요합니다. 배경: 1Gbps 유선 네트워크에서는 SSH안전 사본내 Linux 서버와 Windows PC 간의 속도 또는 삼바 파일 전송은 다음과 같습니다.112MB/초. 노트:초당 메가바이트입니다. 우리는 더 빨라지고 싶습니다. 내 Linux 서버에는 Mellanox HDR inifiniband 스위치와 어댑터 카드가...

Admin

RHEL 7에서 IPoIB(IP over infiband), scp 속도 구성
infiniband

RHEL 7에서 IPoIB(IP over infiband), scp 속도 구성

RHEL 7.9의 인피니밴드에 대한 집중 강좌를 진행 중입니다. 내 서버에는 모두 HDR ConnectX-6 카드가 설치되어 있습니다. 이것은 각 서버가 Q8700 mlnx에 연결된 간단한 LAN의 내 연구실에 있습니다.변화우선, infiniband의 기본 네트워킹 기능만 필요하므로 서버 간에 기본 nfs 마운트를 생성 할 수 있습니다 ssh.scp c1이름이 5개인 서버가 있습니다 .c5 각각은 RHEL 7.9 x86-64를 실행합니다. mlnxofedinstall처음부터 끝까지 해냈 MLNX...

Admin

Infiniband 인터페이스는 IPoIB 트래픽을 라우팅하지 않습니다.
infiniband

Infiniband 인터페이스는 IPoIB 트래픽을 라우팅하지 않습니다.

나는 Puppet정확히 같은 방식으로 구성한 일부 호스트 블록을 가지고 있습니다. 그들은 동일한 하드웨어(동일한 블레이드 섀시)를 갖고 있으며 완전히 동일한 방식으로 연결되어 있으며 일부 인터페이스는 다른 인터페이스와 다르게 작동합니다. 이는 Infiniband 인터페이스이므로 및 같은 명령을 사용하여 테스트할 수 있으며 ibping이는 ibsysstat유효한 UVERBS/RDMA 연결이 있음을 보여줍니다. 예를 들어: master# ibsysstat 29 sysstat ping succeeded ...

Admin

RDMA가 아닌 설정에 대한 Permanent-ipoib.rules 선택? (rhel7.3)
infiniband

RDMA가 아닌 설정에 대한 Permanent-ipoib.rules 선택? (rhel7.3)

네트워크를 수동으로 다시 시작할 때 오류가 발생했습니다 journalctl -xe. 다시 시작할지 여부를 확신하지 못하고 시간을 다시 확인하지 않았습니다. 두 번째 어댑터가 손상되었습니다. 이름을 바꾸고 ipoib에 적용하는 것과 얽혀 있는 것 같지만 어떻게 되는지는 잘 모르겠습니다. 먼저, 어떤 종류의 RDMA도 사용하지 않고 1Gb/s 이상의 슈퍼 네트워크 속도도 필요하지 않다는 점을 분명히 하고 싶습니다. -- Unit user-995.slice has begun shutting d...

Admin

1분기
infiniband

1분기

가장 먼저 해야 할 일: slurm이나 Infiniband에 대한 지식이 필요하지 않습니다. 이는 순전히 텍스트 처리 문제입니다. 두 번째 - 알아요ib2slurm- 코드가 어떤 방식으로든 손상되었으며 최신 버전이 아닐 가능성이 높습니다. - 매핑 파일의 존재 여부나 형식에 관계없이 실행될 때마다 코어 덤프가 생성됩니다. ibnetdiscover의 출력을 양식당 37줄 청크로 줄일 수 있습니다. Switch 36 "S-0002c90200423e70" # "MF0;ibsw20:SX6036...

Admin

InfiniBand를 통해 원격으로 부팅하는 방법은 무엇입니까?
infiniband

InfiniBand를 통해 원격으로 부팅하는 방법은 무엇입니까?

두 대의 컴퓨터에 InfiniBand 어댑터가 있고 두 컴퓨터 사이에 InfiniBand 케이블이 있고 컴퓨터 중 한 대의 모든 하드 드라이브가 필요한 호스트 소프트웨어(iSCSI/SRP/등)를 실행 중인 경우 하드 드라이브가 없는 컴퓨터는 원격 부팅을 시작하시겠습니까? 이더넷 카드의 iSCSI를 이해합니다. BIOS에는 부트로드를 위해 "충분한" 이더넷 카드 지원/드라이버가 내장되어 있어야 합니다. 하지만 MSI X99S SLI Plus와 같은 상당히 전통적인 마더보드의 비통합 InfiniBan...

Admin