테이블 DDL에서 열 이름 추출

테이블 DDL에서 열 이름 추출

테이블 목록이 포함된 텍스트 파일이 있습니다. 각 테이블의 열을 추출하고 테이블 이름과 함께 다른 csv 파일에 작성해야 합니다.

describe test_table
+-----------+------------+
| col_name  | data_type  |
+-----------+------------+
| Name      | string     |
| Age       | string     |
+-----------+------------+

다음 세부 정보로 csv 파일을 만들어야 합니다.

test_table,Name,Age

뭔가 제안해주실 수 있나요?

답변1

모든 Unix 시스템의 모든 쉘에서 awk를 사용하십시오.

$ cat tst.awk
$1 == "describe" {
    out = $2
    next
}
/^[+]/ {
    mod = (++cnt % 3)
    if ( mod == 0 ) {
        print out
    }
    next
}
mod == 2 {
    out = out "," $2
}

$ awk -f tst.awk file
test_table,Name,Age

답변2

Perl에서 이를 수행하는 한 가지 방법의 예는 다음과 같습니다.

$ cat extract-column-names.pl
#!/usr/bin/perl -l

while(<>) {
  # Is the current line a "describe" line or are we at the End Of File?
  if (m/describe\s+(.*)/i || eof) {
    # Do we already a table name and column names?
    if ($table && @columns) {
      print join(",", $table, @columns);
      # clear current @columns array
      @columns=();
    };
    # extract table name
    $table = $1;
    next;
  };

  # skip header lines, ruler lines, and empty lines
  next if (m/col_name|-\+-|^\s*$/);

  # extract column name with regex capture group
  if (m/^\|\s+(\S+)\s+\|/) { push @columns, $1 };
}

여러 테이블 설명이 포함된 입력 예:

$ cat table.txt
describe test_table
+-----------+------------+
| col_name  | data_type  |
+-----------+------------+
| Name      | string     |
| Age       | string     |
+-----------+------------+

describe test_table2
+------------+------------+
| col_name   | data_type  |
+------------+------------+
| FirstName  | string     |
| MiddleName | string     |
| LastName   | string     |
+------------+------------+

실행 예시:

$ ./extract-column-names.pl table.txt
test_table,Name,Age
test_table2,FirstName,MiddleName,LastName

그런데 이 스크립트는 표준 입력(예: cat table.txt | ./extract-column-names.pl)과 여러 파일 이름 인수(예: ./extract-column-names.pl table1.txt table2.txt ... tableN.txt)도 처리할 수 있습니다.

data_type또한 각 열을 추출하는 기능을 추가하는 것도 어렵지 않을 것입니다. 이는 별도의 배열(예: )에 저장되거나 해시( 키 및 값으로 사용됨)를 @types사용하도록 스크립트를 변경할 수 있습니다 . 그러나 해시를 사용하는 경우 해시는 본질적으로 순서가 없다는 점을 기억하는 것이 중요합니다. 따라서 열이 나타나는 순서를 기억하려면 배열이 필요합니다 .col_namedata_type@columns


단일 라인 버전:

$ perl -lne 'if (m/describe\s+(.*)/i || eof) {if ($table && @columns) {print join(",", $table, @columns);@columns=()}$table = $1;next};next if (m/col_name|-\+-|^\s*$/);if (m/^\|\s+(\S+)\s+\|/) {push @columns, $1};' table.txt 
test_table,Name,Age
test_table2,FirstName,MiddleName,LastName

답변3

테스트 환경을 준비합니다.

# Get all the table
mysql -S /var/run/mysqld/mysqld.sock -D mysql -e 'SHOW TABLES;' > all_tables

# Get all the column for each tables
xargs -a all_tables -i -- /bin/sh -c '
    printf "describe %s\\n" "$1"
    mysql -S /var/run/mysqld/mysqld.sock -D mysql -te "DESC $1"
' _Z_ {} >> tables

다음은 발췌한 내용입니다. 파일은 샘플 데이터와 같습니다.

describe column_stats
+---------------+-----------------------------------------+------+-----+---------+-------+
| Field         | Type                                    | Null | Key | Default | Extra |
+---------------+-----------------------------------------+------+-----+---------+-------+
| db_name       | varchar(64)                             | NO   | PRI | NULL    |       |
| table_name    | varchar(64)                             | NO   | PRI | NULL    |       |
| column_name   | varchar(64)                             | NO   | PRI | NULL    |       |
| min_value     | varbinary(255)                          | YES  |     | NULL    |       |
| max_value     | varbinary(255)                          | YES  |     | NULL    |       |
| nulls_ratio   | decimal(12,4)                           | YES  |     | NULL    |       |
| avg_length    | decimal(12,4)                           | YES  |     | NULL    |       |
| avg_frequency | decimal(12,4)                           | YES  |     | NULL    |       |
| hist_size     | tinyint(3) unsigned                     | YES  |     | NULL    |       |
| hist_type     | enum('SINGLE_PREC_HB','DOUBLE_PREC_HB') | YES  |     | NULL    |       |
| histogram     | varbinary(255)                          | YES  |     | NULL    |       |
+---------------+-----------------------------------------+------+-----+---------+-------+
describe columns_priv
+-------------+----------------------------------------------+------+-----+---------------------+-------------------------------+
| Field       | Type                                         | Null | Key | Default             | Extra                         |
+-------------+----------------------------------------------+------+-----+---------------------+-------------------------------+
| Host        | char(60)                                     | NO   | PRI |                     |                               |
| Db          | char(64)                                     | NO   | PRI |                     |                               |
| User        | char(80)                                     | NO   | PRI |                     |                               |
| Table_name  | char(64)                                     | NO   | PRI |                     |                               |
| Column_name | char(64)                                     | NO   | PRI |                     |                               |
| Timestamp   | timestamp                                    | NO   |     | current_timestamp() | on update current_timestamp() |
| Column_priv | set('Select','Insert','Update','References') | NO   |     |                     |                               |
+-------------+----------------------------------------------+------+-----+---------------------+-------------------------------+

다음을 사용하여 구문 분석합니다 awk.

awk -F'|' -v OFS=, '
    match($0, /^describe /) {
        tbl = substr($0, RSTART+RLENGTH)
        c = 3
        next
    } 

    /^[+]/ && c < 0 {print tbl}

    c-- <= 0 {
        gsub(/ */, "", $2)
        tbl = tbl OFS $2
    } 
' tables

관련 정보