HPCでのLinuxベースのオンデマンドGPUレンダリング (2024/04/23)

HPCでのLinuxベースのオンデマンドGPUレンダリング (2024/04/23)

https://blogs.oracle.com/cloud-infrastructure/post/ondemand-linuxbased-gpu-rendering-in-hpc

投稿者：Arun Mahajan


リモート・ビジュアライゼーション・エコシステムは、数十年にわたり仮想製品設計プロセスに不可欠な要素となっています。最初の年にはCPUベースのソフトウェアレンダリングが含まれていましたが、基礎となるスタックや前処理ツール、後処理ツールの進歩により、特に過去10年間で3Dハードウェアレンダリングが普及しています。大規模で複雑な3Dエンジニアリング・モデルに取り組む設計者やエンジニアは、ローカル・ワークステーションと高性能コンピューティング(HPC)クラスタ間で前後にデータを移動することなく、データを事前に処理および後処理できるようになり、高帯域幅の専用ネットワーク・パイプでも数日かかる可能性があります。


このブログ記事では、エンジニアや研究者がOracle Cloud Marketplaceで利用可能なHPCスタックの自動スケーリング機能を使用して、既存のHPCクラスタに3Dレンダリング対応Linuxサーバーをオンデマンドでプロビジョニングする方法について説明します。このソリューション全体はオープンソース・ツールに基づいており、ソフトウェアの観点からはゼロコスト環境となっています。基礎となるハードウェアの支払いは、ソフトウェア・ツールではなく、使用した時間に対してのみ行います。



オラクルの自動スケーリング・ユースケースの環境


この例のユースケースでは、Oracle Cloud Infrastructure (OCI)テナンシで自動スケーリング機能が有効になっているHPCクラスタがすでに実行されており、NVIDIA A10 Tensor Core GPUを搭載した仮想シェイプVM.GPU.A10.1もプロビジョニングするために必要な制限が設定されています。また、グラフィック・ドライバ、仮想GLライブラリおよびTurbo VNCを使用したGPUシェイプのオペレーティング・システム・イメージも事前構成されています。OS、イメージまたはリモート・ビジュアライゼーション・ツールの構成の詳細は確認しません。かわりに、事前構成済のOSイメージを使用して、概念全体を共有します。



アーキテクチャ


図1: HPC VDIアーキテクチャの簡略化された例



エンタープライズクラスのHPC環境は、通常、管理サーバー、コンピュートおよびGPUノード、LinuxまたはWindowsベースの仮想デスクトップ、および高スループットのストレージ・ファイル・システムで構成されます。OCIは、エコシステム全体を構築するために、幅広いIntelベースおよびAMDベースの仮想マシン(VM)とベアメタル・シェイプを提供しています。現在使用可能なシェイプの完全なリストは、コンピュート・シェイプを参照してください。オンデマンドGPUレンダリングには、NVIDIA A10ベースの仮想インスタンスを使用しています。同じシェイプ名と仕様が以下で共有されます。

  • Shape: VM.GPU.A10.1
  • OCPU: 15
  • GPU Memory (GB): 24
  • CPU Memory (GB): 240
  • Local Disk (TB): Block Storage Only
  • Max Network Bandwidth (Gbps): 24
  • Max VNICs (Linux): 15
  • Max VNICs (Windows): 15



HPCでのオンデマンド・プロビジョニングの有効化


すでに稼働しているHPCクラスタ内のコンピュート・シェイプのオンデマンド・プロビジョニングでは、バッチ・ジョブ・スケジューラとHPCスタックの自動スケーリング機能の両方の構成を更新する必要があります。


Oracle Cloud Marketplaceで使用可能なHPCスタックでは、SLURMがジョブ・スケジューラとして使用されます。GPUレンダリングにNVIDIA A10 GPUベースのシェイプVM.GPU.A10.1を使用するには、最初のステップはSLURMの技術仕様を「将来の状態」で更新することです。この選択は、ノードが将来の使用のために定義されており、SLURMデーモンの起動時に存在する必要がないことを示します。詳細は、SLURMワークロード マネージャの構成ガイド を参照してください。


次に、HPCスタックの自動スケーリング構成ファイルqueues.confを更新します。スタックには、複数のキューおよび複数のインスタンス・タイプの構成方法を簡単に理解できるように、サンプル・ファイル/opt/oci-HPC/conf/queues.conf.exampleが用意されています。


OCIのネイティブ自動スケーリング機能(より多くのコンピュート・リソースをプロビジョニングするためにインスタンス・プールに依存し、メトリックまたはスケジュールのいずれかに基づいている)とは異なり、HPCスタックの自動スケーリング機能では、ジョブごとにクラスタをオンデマンドでプロビジョニングでき、使用中またはアイドル状態でなくなったときに自動的に破棄されます。この機能を使用して、GPUベースのシェイプをリモート・ビジュアライゼーション・サーバーとしてプロビジョニングし、大規模なエンジニアリング・モデルの3Dレンダリングと前処理および後処理を行います。このセットアップは、GPUリソースの最適な利用に役立つだけでなく、HPCクラスタでリモート・ビジュアライゼーション・ファームを実行する全体的なコストも削減します。


HPCスタックの自動スケーリング機能の詳細は、「High Performance Computing - RDMAクラスタ・ネットワーク」のスタックの使用情報の下にある「自動スケーリング」の項を参照してください。



対話型ジョブの発行


バッチ・スケジューラおよび自動スケーリングを正常に構成した後、SLURMコマンドsrunを使用して対話型ジョブを発行できます。この設定では、次のパラメータとそれに関連する値を使用しました。


# srun –-partition=compute -–gpus=1 -–constraint=a10 -–pty /bin/bash


ここで、"--partition"はSLURMキューを示し、"--gpu"は必要なGPUの数を示し、"-constraint"は自動スケーリング構成ファイル"queues.conf"の"instance_types"定義で定義されている名前を示します。


自動スケーリング・フレームワークでは、バックエンドに事前構成されたイメージでGPUシェイプのプロビジョニングが自動的に開始されます。コマンドによって、すべてのHPC共有ストレージ・フォルダにもアクセスできる、新しくプロビジョニングされたGPUシステムのbashプロンプトが表示されるまで、プロセスは約5分かかります。GPUシステムは正常にプロビジョニングされ、使用可能であるため、適切な引数を指定してコマンドvncserverを実行し、VNCセッションを開始します。


たとえば、カスタム・イメージでは、ワンタイム・パスワード機能VirtualGLライブラリ、「Mate」をWindowsマネージャとして使用するように構成されたTurbo VNCサーバーがあり、次の引数で「vncserver」コマンドを使用しました。


# vncserver -vgl -otp -wm mate-session

            Desktop 'TurboVNC: compute-gpu-node-172:1 (opc)' started on display compute-gpu-node-172:1

            One-Time Password authentication enabled.  Generating initial OTP ...

            Full control one-time password: XXXXXXXX

            Run '/opt/TurboVNC/bin/vncpasswd -o' from within the TurboVNC session or

                '/opt/TurboVNC/bin/vncpasswd -o -display :1' from within this shell

                to generate additional OTPs

            Starting applications specified in /opt/TurboVNC/bin/xstartup.turbovnc

            (Enabling VirtualGL)

            Log file is /home/opc/.vnc/compute-gpu-node-172:1.log


VNCサーバー・コマンドによって返されたパスワードおよびその他の情報(ホスト名など)を使用して、ローカル・ワークステーションにインストールされたVNCクライアント(Tiger VNC Viewerなど)を使用してリモート・デスクトップ・セッションを確立できます。


次の図に示すように、VM.GPU.A10.1サーバーでホストされたVNCセッション内でインドから標準のGLX Spheresベンチマークを実行しました。また、400フレーム/秒以上を達成できました。


図2: GLX Spheresベンチマーク出力(フレーム/秒)



まとめ


OCIは、GPUおよび3Dハードウェア・レンダリング要件に対応した最新のクラス最高のグラフィック・カードを備えたさまざまなGPUシェイプをお客様に提供するだけではありません。また、LinuxベースのHPCクラスタで効率的に使用するための最適な方法も提供されます。


OracleのHPCチームとつながり、30日間の無料トライアル版を使用してOracle Cloud Infrastructure上のソリューションを評価することをお薦めします。詳細は、次のリソースを参照してください。

コメント

コメントを投稿

このブログの人気の投稿

Oracle RACによるメンテナンスのためのドレインとアプリケーション・コンティニュイティの仕組み (2023/11/01)

イメージ
Oracle RACによるメンテナンスのためのドレインとアプリケーション・コンティニュイティの仕組み (2023/11/01) https://database-heartbeat.com/2023/11/01/draining-ac-rac/ はじめに Oracle RACは、Oracle Databaseのスケーラビリティと高可用性を提供します。1つのサーバー(RACノード)に障害が発生した場合、またはメンテナンスのためにオフラインになった場合でも、追加のノードを介してデータベースにアクセスできます。ただし、メンテナンスの開始時に、データの読取りまたは変更に関係なく、一部の作業を実行しているクライアント・セッションはどうなりますか。この作業は中断され、ドレインを実装してアプリケーション・コンティニュイティまたは透過的アプリケーション・コンティニュイティを有効にしないかぎり、エンドユーザーまたはアプリケーションによって再度実行する必要があります。 環境 2ノードのOracle RACを例に挙げて、高速アプリケーション通知(FAN)、ドレインおよびアプリケーション・コンティニュイティによってメンテナンス・イベントがエンドユーザーに透過的になる方法を理解しましょう。アプリケーションは、30個のセッションを保持するように構成された接続プールを使用しています。 通常の操作 通常の操作中は、両方のRACノードが起動し、アプリケーションを実行しています。ロード・バランシング戦略によっては、セッションの数が両方のノード間で異なるか、均等に分散される場合があります。次の図をよりよく視覚化するために、ノード2のノード1および20のセッションに10のセッションがあるとします。 セッションは、アイドル状態(接続されているが何もしていない)またはアクティブ状態(リクエストの途中)にできます。リクエストは、データの読取り(SELECT)または操作(INSERT、DELETE、UPDATE)が可能です。 ドレインによるサービスの停止 ある時点で、システムのメンテナンスが必要になります。2ノードRACがあるため、メンテナンスはローリング方式で、1つのノードを順番に(ほとんどの場合)実行できます。メンテナンスは、たとえば、オペレーティング・システム、Grid Infrastructureまたはデ
続きを読む

Oracle Cloud Infrastructure Secure Desktopsを発表: デスクトップ仮想化のためのOracleのクラウドネイティブ・サービス (2023/06/28)

イメージ
Oracle Cloud Infrastructure Secure Desktopsを発表: デスクトップ仮想化のためのOracleのクラウドネイティブ・サービス (2023/06/28) https://blogs.oracle.com/cloud-infrastructure/post/secure-desktops-cloud-native-virtualization 投稿者： Joost Pronk Van Hoogeveen Jan Hendrik Mangold | Principal Product Manager Oracleは、Oracle Cloud Infrastructure(OCI)Secure Desktopsという新しいクラウド・ネイティブ・サービスをリリースしています。このエキサイティングな開発により、顧客はOCIテナンシから簡単にすばやく仮想デスクトップ・インフラストラクチャ(VDI)をデプロイできます。 OCIの使用状況は大幅に拡大しています。組織は、OCI内でデータを安全に保つことの価値を実現しています。ゼロトラストなセキュリティ優先アーキテクチャを実装することで、OCI Compute、Storage、およびNetworkingサービスは、グローバル・アクセスのためのエンタープライズ・アプリケーションを導入するための信頼できるプラットフォームを提供します。 データ・セキュリティとVDIがどのように役立つか 業界のアナリストによると 、ラップトップは53秒ごとに盗まれています。その事実と現実を結び付けると、会社のデータは、公共の場所を経由したり、従業員の自宅に座ったりするラップトップやデスクトップへと移行します。ローカル・ディスクの暗号化、データ・アクセス権限の強制、VPNアクセスの保護によってデータを保護するためにテクノロジが使用されていますが、いずれも許容可能なセキュリティ・レベルが適用されるため、リスクは依然として高くなる可能性があります。盗難または準拠していないいくつかのマシンでは、企業データ、さらには顧客データのデータ侵害が発生する可能性があります。 VDIテクノロジは長年にわたって存在してきましたが、従業員はローカル・マシンを使用して、会社のデータ・センター内の仮想マシンで実行されているデスクトップ・アプリケー
続きを読む

Oracle Cloudのデータベースをオブジェクト・ストレージにバックアップする3つの方法 (2021/12/13)

イメージ
Oracle Cloudのデータベースをオブジェクト・ストレージにバックアップする3つの方法 (2021/12/13) https://database-heartbeat.com/2021/12/13/three-ways-backup-cloud/ はじめに Oracle Cloudでは、ボタンをクリックするだけで自動バックアップを有効にするオプションが用意されています。バックアップの要件が異なる場合でも、手動でバックアップ設定を行い、コマンドライン・ツールやRMANを直接使用してバックアップを作成する柔軟性があります。これは、VM DB Systems、Exadata Cloud Service、およびExadata Cloud at Customerに適用されます。 このブログ記事では、Oracle Cloud Object Storageをバックアップ先として使用する場合の、さまざまなバックアップ・オプションの主な違いと、それに伴うコストについて紹介します。Object Storageは、内蔵されたトリプル・ミラーリングと99.999999%(イレブンナイン)の耐久性を提供します。 ハイブリッド・クラウドとマルチ・クラウド Oracle Cloud Object StorageへのOracle Databaseのバックアップは、Oracle Cloud上のOracle Databaseに限らず、ハイブリッドクラウド上のオンプレミスのOracle Databaseや、マルチクラウド環境のOracle以外のクラウド上で稼働しているOracle Databaseに対しても、RMANを介して実装することができます。 プライベートおよび専用のネットワーク接続は、FastConnect、Azure Interconnect、またはサードパーティのネットワーク接続プロバイダを介して提供できます。マルチクラウド環境では、クラウドプロバイダー、リージョン、転送するデータ量に応じて、追加のアウトバウンドトラフィックコストが発生する可能性があります。オラクルをはじめとする多くのクラウドプロバイダーは、すでに Bandwidth Alliance に参加しており、ネットワークエグレス料金を削減または排除しています。 環境について     Oracle Cloud VM DB Sy
続きを読む