Hadoop 클러스터 + 설계 디스크 수 및 데이터 노드 시스템의 최소 요구 사항

Hadoop 클러스터 + 설계 디스크 수 및 데이터 노드 시스템의 최소 요구 사항

우리는 HDP 버전 2.6.5를 사용하고 있으며 HDFS 블록 복제는 3입니다.

우리는 블록 복제 = 3이라는 사실을 기반으로 프로덕션 모드에서 데이터 노드 디스크의 최소 요구 사항을 이해하려고 노력했습니다.

프로덕션 클러스터에 대해 이야기하고 HDFS 복제본으로 다시 업그레이드하는 것이므로 = 3

데이터 노드 머신당 최소 디스크 수는 얼마입니까?

답변1

복제 요소는 단순히 필요한 스토리지 용량이 필요하다는 의미입니다* 3. 디스크의 경우, 디스크 하나를 OS/소프트웨어용으로 사용하고 나머지 디스크는 데이터용으로 사용하는 것이 현명합니다. 저장할 데이터의 크기, 필요한 I/O 작업을 제공하지 않았기 때문에 더 자세한 답변을 제공하기가 어렵습니다. 그러나 3개의 디스크(DAS의 경우)를 사용하는 것을 고려할 수 있습니다. 하나는 OS/애플리케이션용이고 2개(미러)는 데이터용입니다.

관련 정보