Lustreファイルシステムの利用方法

Lustreファイルシステム とは

スーパーコンピュータや大規模データ処理環境で広く利用されている並列分散ファイルシステム(ストレージ)です。mdx II上の仮想マシンに接続してご利用いただけます。
仮想マシンにデフォルトで接続されているストレージと比べ、以下の特徴があります。

  • 高いアクセス性能
  • 大規模データを高速に読み書きでき、効率的な計算処理が可能です。

  • 複数サーバから同時利用可能
  • 一つのデータ領域に対して、複数の仮想マシンが同時にアクセスできます。

Lustreファイルシステム マウントの利用申請

Lustre ファイルシステムをご利用いただく場合は、あらかじめ仮想マシンを作成いただいた後に、以下からシステム管理者宛に以下の情報を記載の上、Lustreマウントの利用申請をお願いいたします。
仮想マシンを起動する際は、次の点にご注意ください。

  • Lustre 用ネットワーク「lustre-network」を選択してください。仮想マシンに対して192.168.100.XX あるいは192.168.101.XX といったIPアドレスが割り振られますので、そちらを以下のフォームに入力してください。
  • vc8m16g 以上のフレーバーを選択してください。vc8m16g より小さいフレーバーを選択してLustre マウントを行うと、メモリ不足によりマウントエラーになる場合があります。






     

    Lustreファイルシステムを仮想マシンにマウントする方法

    システム管理者から Lustre マウント利用可能のお知らせが届いた後、利用者ご自身で仮想マシン上で Lustre クライアントの設定を行ってください。RokcyLinux / Ubuntu Server のテンプレートでは Lustre クライアントのパッケージと設定ファイルが組み込まれていますので、以下の手順で設定が可能です。

    (1) 仮想マシンにSSH接続して sudo su などで root アカウントに切り替えます。

    (2) 仮想マシンでLustreネットワークの IP アドレス(192.16.100.XX or 192.168.11.XX )が設定されているインターフェース名を確認します。

    (実行するコマンド)
    ip a

    (実行結果 例)
    …省略…
    2: eth0: mtu 1442 qdisc fq_codel state UP gro
    up default qlen 1000
    …省略…

     →ここでは インターフェース名が “eth0” であることがわかりました。

    (3) /etc/modprobe.d/lustre.conf でインターフェース名の指定を確認したインターフェース名に修正します。

     →options lnet networks=tcp(ここに先ほど確認したeth0を指定)

    (実行するコマンド)
    vi /etc/modprobe.d/lustre.conf

    (修正 例)
    options lnet networks=tcp(eth0)
    options lnet lnet_transaction_timeout=100
    options ksocklnd rx_buffer_size=16777216
    options ksocklnd tx_buffer_size=16777216
    options ksocklnd conns_per_peer=8
    options ksocklnd nscheds=8

    (4) /etc/sysconfig/lustre_clientでインターフェース名の指定を確認したインターフェース名(今回はeth0)に修正します。Rocky Linux(RHEL 系)と Ubuntu Server ではファイルパスが異なります。

    Rocky Linux の場合 Ubuntu Server の場合
    (実行するコマンド)
    vi /etc/sysconfig/lustre_client

    (実行結果 例)
    …省略…
    #++++++++++++++++++++++++++++++++++++
    # LNET Interface
    #
    IF1=eth0
    …省略…

    (実行するコマンド)
    vi /etc/lustre_client

    (実行結果 例)
    …省略…
    #++++++++++++++++++++++++++++++++++++
    # LNET Interface
    #
    IF1=eth0
    …省略…

    (5) lustre_client.service を起動します。

    systemctl start lustre_client.service

    (6) Lustreファイルシステムのマウント状況を確認します。

    (実行するコマンド)
    df -h -t lustre

    (実行結果 例)
    Filesystem Size Used Avail Use% Mounted on
    10.10.0.16@tcp:10.10.0.18@tcp:10.10.0.17@tcp:10.10.0.19@tcp:/lustre 503T 520G 497T 1% /lustre

    (7) 仮想マシンの OS 起動時に自動で Lustre マウントするように lustre_client.service の自動起動を有効にします。(任意)

    systemctl enable lustre_client.service

    (8) Lustre ファイルシステムの利用が可能となりました。Lustre ファイルシステムにデータを保管する場合は「/lustre」のディレクトリ配下をご利用ください。