한 줄에 수백만 개의 객체가 포함된 JSONline 파일을 가져오는 bash 프로그램이 있습니다(참조:원천)
{
"company_number": "09626947",
"data": {
"address": {
"address_line_1": "Troak Close",
"country": "England",
"locality": "Christchurch",
"postal_code": "BH23 3SR",
"premises": "9",
"region": "Dorset"
},
"country_of_residence": "United Kingdom",
"date_of_birth": {
"month": 11,
"year": 1979
},
"etag": "7123fb76e4ad7ee7542da210a368baa4c89d5a06",
"kind": "individual-person-with-significant-control",
"links": {
"self": "/company/09626947/persons-with-significant-control/individual/FFeqke7T3LvGvX6xmuGqi5SJXAk"
},
"name": "Ms Angela Lynette Miller",
"name_elements": {
"forename": "Angela",
"middle_name": "Lynette",
"surname": "Miller",
"title": "Ms"
},
"nationality": "British",
"natures_of_control": [
"significant-influence-or-control"
],
"notified_on": "2016-06-06"
}
}
내 JQ 쿼리는 다음과 같습니다.
for file in psc_chunk_*; do
jq --slurp --raw-output 'def pad($n): range(0;$n) as $i |
.[$i]; ([.[] | .data.natures_of_control | length] | max) as $mx |
.[] |
select(.data) |
[.company_number, .data.kind, .data.address.address_line_1, .data.address.country, .data.address.locality, .data.address.postal_code, .data.address.premises, .data.identification.country_registered, .data.identification.legal_authority, .data.identification.legal_form, .data.identification.place_registered, .data.identification.registration_number, .data.ceased_on, .data.country_of_residence, "\(.data.date_of_birth.year)-\(.data.date_of_birth.month)", .data.etag, .data.links.self, .data.name, .data.name_elements.title, .data.name_elements.forename, .data.name_elements.middle_name, .data.name_elements.surname, .data.nationality, .data.notified_on, (.data.natures_of_control | pad($mx))] |
@csv' $file > $file.csv;
done
이는 많은 JQ 전문가의 눈을 아프게 할 수 있습니다. 키:값 쌍을 추출하는 데 그다지 효율적이지 않으며 공급자가 키 이름을 변경하면 내 코드가 더 이상 작동하지 않습니다.
모든 json을 csv로 병합하는 방법이 있습니까?키를 헤더로 유지- 추가 난이도는natures_of_control
다양한 항목 수의 목록이 있습니다.(이를 위해 직사각형 결과를 얻기 위해 pad 기능을 사용합니다).
답변1
Miller(https://github.com/johnkerl/miller), 달리기
mlr --j2c unsparsify input.json>output.csv