md raid1 ext3 및 4k 섹터는 디렉토리 작업으로 인해 속도가 느려집니다.

md raid1 ext3 및 4k 섹터는 디렉토리 작업으로 인해 속도가 느려집니다.

최근에 하드웨어 RAID1 인클로저에서 md가 포함된 eSATA 드라이브 2개를 사용하도록 전환했습니다. 디렉토리 순회/목록이 때때로 크롤링되는 점(약 10초 소요)을 제외하면 모든 것이 잘 작동하는 것 같습니다. 저는 블록 크기가 4K로 설정된 ext3 파일 시스템을 사용하고 있습니다.

중요한 일부 명령의 관련 출력은 다음과 같습니다.

mdadm --세부정보:

/dev/md127:
        Version : 1.2
  Creation Time : Sat Nov 16 09:46:52 2013
     Raid Level : raid1
     Array Size : 976630336 (931.39 GiB 1000.07 GB)
  Used Dev Size : 976630336 (931.39 GiB 1000.07 GB)
   Raid Devices : 2
  Total Devices : 2
    Persistence : Superblock is persistent

    Update Time : Tue Nov 19 01:07:59 2013
          State : clean
 Active Devices : 2
Working Devices : 2
 Failed Devices : 0
  Spare Devices : 0

         Events : 19691

    Number   Major   Minor   RaidDevice State
       2       8       17        0      active sync   /dev/sdb1
       1       8        1        1      active sync   /dev/sda1

fdisk -l /dev/sd{a,b}:

Disk /dev/sda: 1000.2 GB, 1000204886016 bytes, 1953525168 sectors
Units = sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 4096 bytes
I/O size (minimum/optimal): 4096 bytes / 4096 bytes
Disk identifier: 0xb410a639

   Device Boot      Start         End      Blocks   Id  System
/dev/sda1            2048  1953525167   976761560   83  Linux

Disk /dev/sdb: 1000.2 GB, 1000204886016 bytes, 1953525168 sectors
Units = sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 4096 bytes
I/O size (minimum/optimal): 4096 bytes / 4096 bytes
Disk identifier: 0x261c8b44

   Device Boot      Start         End      Blocks   Id  System
/dev/sdb1            2048  1953525167   976761560   83  Linux

시간 dumpe2fs /dev/md127 grep 크기:

dumpe2fs 1.42.7 (21-Jan-2013)
Filesystem features:      has_journal ext_attr resize_inode dir_index filetype needs_recovery sparse_super large_file
Block size:               4096
Fragment size:            4096
Inode size:               256
Required extra isize:     28
Desired extra isize:      28
Journal size:             128M

real    2m14.242s
user    0m2.286s
sys     0m0.352s

내가 이해한 바에 따르면 이 드라이브에는 4K 섹터가 있지만(가장 가까운 WD 빨간색) 파티션/파일 시스템이 올바르게 정렬된 것 같습니다. md 메타데이터 버전 1.2를 사용하고 있는 것 같으니 저도 괜찮은 것 같습니다.mdadm raid1 및 4k 드라이브의 블록 크기(또는 블록 크기)는 얼마입니까?). 내가 온라인에서 답을 찾지 못한 한 가지는 256의 inode 크기가 문제를 일으킬 것인지 여부입니다. 모든 작업이 느린 것은 아니지만 버퍼 캐시는 작업을 빠르게 유지하는 데 효과적입니다.

내 커널 버전은 3.11.2입니다.

편집자: 새로운 정보, 2013-11-19

mdadm --examine /dev/sd{a,b}1 | grep -i offset
    Data Offset : 262144 sectors
   Super Offset : 8 sectors
    Data Offset : 262144 sectors
   Super Offset : 8 sectors

또한 파일 시스템을 마운트할 때 noatime,nodiratime로깅을 너무 많이 처리하는 데 별로 관심이 없습니다. RAID1에 대해 충분히 신경을 쓰면 자멸할 수 있기 때문입니다. 디렉토리 색인을 열고 싶습니다

2013년 11월 20일 수정

어제 나는 ext3의 디렉토리 색인을 열고 e2fsck -D -f그것이 도움이 되었는지 알아보기 위해 실행해 보았습니다. 불행하게도 그렇지 않습니다. 나는 이것이 하드웨어 문제일지도 모른다고 의심하기 시작했습니다(아니면 eSATA의 md raid1이 정말 멍청한 것일까요?). 각 드라이브를 오프라인으로 전환하여 개별적으로 어떻게 작동하는지 살펴보는 것을 고려 중입니다.

2013년 11월 21일 수정

iostat -kx 10 |grep -P "(sda|sdb|장치)":

Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
sda               0.37     1.17    0.06    0.11     1.80     5.10    84.44     0.03  165.91   64.66  221.40 100.61   1.64
sdb              13.72     1.17    2.46    0.11   110.89     5.10    90.34     0.08   32.02    6.46  628.90   9.94   2.55
Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
sda               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00
sdb               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00

출력을 0.00%로 자릅니다.

나는 이것이 단지 약간 느린 느낌이 아니라 수십 초에서 1분 정도 걸릴 수 있고 탭 자동 완성이나 ls 실행에 약간의 변경이 필요할 수 있기 때문에 ext4 및 ext3과 아무 관련이 없어야 한다고 생각합니다.

편집: 하드웨어 문제일 수 있습니다. 확인되면 질문을 닫겠습니다.

생각하면 할수록 이게 eSATA 카드에 문제가 있는 건 아닐까 하는 생각이 듭니다. 나는 현재 이것을 사용하고 있습니다 :http://www.amazon.com/StarTech-PEXESAT32-Express-eSATA-Controller/dp/B003GSGMPU 그러나 방금 dmesg를 확인했는데 다음 메시지가 넘쳐났습니다.

[363802.847117] ata1.00: status: { DRDY }
[363802.847121] ata1: hard resetting link
[363804.979044] ata2: softreset failed (SRST command error)
[363804.979047] ata2: reset failed (errno=-5), retrying in 8 secs
[363804.979059] ata1: softreset failed (SRST command error)
[363804.979064] ata1: reset failed (errno=-5), retrying in 8 secs
[363812.847047] ata1: hard resetting link
[363812.847061] ata2: hard resetting link
[363814.979063] ata2: SATA link up 1.5 Gbps (SStatus 113 SControl 10)
[363814.979106] ata1: SATA link up 1.5 Gbps (SStatus 113 SControl 10)
....
[364598.751086] ata2.00: status: { DRDY }
[364598.751091] ata2: hard resetting link
[364600.883031] ata2: softreset failed (SRST command error)
[364600.883038] ata2: reset failed (errno=-5), retrying in 8 secs
[364608.751043] ata2: hard resetting link
[364610.883050] ata2: SATA link up 1.5 Gbps (SStatus 113 SControl 10)
[364610.884328] ata2.00: configured for UDMA/100
[364610.884336] ata2.00: device reported invalid CHS sector 0
[364610.884342] ata2: EH complete

간섭이 있는지 궁금해서 더 짧은 차폐형 eSATA 케이블도 구입할 예정입니다.

답변1

결국 하드웨어 문제가 됩니다

새 차폐 케이블로 전환해도 도움이 되지 않았지만 기존 카드를 다음으로 교체했습니다.http://www.amazon.com/gp/product/B000NTM9SY오류 메시지와 이상한 동작을 실제로 제거했습니다. 변경사항이 있으면 새로운 콘텐츠가 게시됩니다.

SATA 인클로저에 대한 중요 참고 사항:

위의 작업을 수행한 후에도 드라이브가 일정 시간 동안 유휴 상태인 한 모든 드라이브 작동은 매우 느려집니다(10-30초 동안만 정지). 제가 사용하고 있는 케이스에는 eSATA 포트가 있지만 USB로 전원이 공급됩니다. 나는 회전할 힘이 충분하지 않기 때문이라고 판단하여 몇 가지를 시도했습니다.

  • 외부 고전류 USB 전원 공급 장치 사용(포트가 최소 500mA만 공급하는 경우)
  • 스핀 비활성화 hdparm -S 0 /dev/sdX(이렇게 하면 문제가 크게 완화되지만 완전히 해결되지는 않습니다)
  • 고급 전원 관리 비활성화 hdparm -B 255 /dev/sdX(역시 완전히 해결되지는 않음)

결국 나는 Western Digital에 전력 회전 감소를 위한 점퍼 설정이 있다는 것을 발견했습니다. 특히 이 사용 사례를 위해 설계되었습니다!

내가 사용하고 있는 하드 드라이브는 WD Red WD10JFCX 1TB IntelliPower 2.5"입니다. http://support.wdc.com/images/kb/scrp_connect.jpg

모든 전원 관리 및 스핀다운 기능 없이 여전히 실행 중입니다(여전히 hdparm -B 255에서 ).-S 0

최종 평결

불행하게도 RPS는 내 문제를 모두 해결하지 못했고 진폭과 주파수만 줄였습니다. 결국 문제는 케이스가 충분한 전원을 공급하지 못하기 때문인 것 같습니다(AC-USB 어댑터를 사용하더라도). 결국 이 케이스를 구매하게 되었습니다.

http://www.amazon.com/MiniPro-eSATA-6Gbps-External-Enclosure/dp/B003XEZ33Y

지난 3주 동안 모든 일이 순조롭게 진행되었습니다.

관련 정보