MLPerf: OCI上でのマルチノードMLトレーニングのベンチマーク (2023/02/28)

MLPerf: OCI上でのマルチノードMLトレーニングのベンチマーク (2023/02/28)

https://blogs.oracle.com/cloud-infrastructure/post/mlperf-benchmark-multi-node-ml-training-on-oci

投稿者：Joanne Lei

Ruzhu Chen | Master Principal Cloud Architect


前回の記事「Accelerate distributed deep learning with OCI」では、OCIのRDMAネットワーキングによって、GPUノード1台を超えるスケーリング時にモデルのトレーニングジョブを高速化できることを説明しました。具体的な例で性能向上を示すため、4つのBare Metal GPUノード（BM.GPU.GM4.8）からなるComputeクラスタを立ち上げ、MLPerfトレーニングベンチマークを実行しました。各BM.GPU.GM4.8はNVIDIA A100 80G GPUを8基搭載しているため、Computeクラスタは最大32GPUまでスケールアップし、機械学習（ML）トレーニング時間を高速化することができます。



MLPerf 101


MLPerfは、オープンエンジニアリングコンソーシアムであるMLComonsが開発したベンチマークスイートで、様々なシステムの学習・推論性能を評価するためのものです。学習ベンチマークでは、システムが目標精度のモデルをどれだけ速く学習できるかを測定し、推論ベンチマークでは、システムが新しい入力を処理し、学習済みモデルを使用して予測を計算できるかを測定します。MLPerfは、ML向けのさまざまなハードウェアインフラやソフトウェアフレームワークを測定・比較するための業界指標となりつつあります。



NVIDIA A100 Tensorコアを搭載したOCI Computeクラスタは、リニアにスケール


今回のベンチマークでは、画像分類と自然言語処理（NLP）の両方のユースケースをカバーする性能を把握するために、以下のモデルを実行しました。


  •     MLPerf v1.1 ResNet50 (画像分類)
  •     MLPerf v2.1 ResNet50 (画像分類)
  •     MLPerf v2.1 BERT (NLP)


以下の図では、1ノード＝8GPU、2ノード＝16GPU、4ノード＝32GPUとしています。



その結果、異なるMLフレームワークを用いた3つのモデルすべてにおいて、Computeノード数の増加に伴い、ほぼ直線的に性能が向上することがわかりました。複数のノードでMLモデルをトレーニングする場合、性能向上はしばしばサブリニアとなり、ノードを増やしても性能向上に比例しないことを意味します。その要因のひとつが通信のオーバーヘッドです。OCIの高スループット、超低遅延RDMAネットワークにより、クラスタはノード間のGPU間通信を最適化することで、トレーニングジョブを効率的に分散させることができました。例えば、ResNet50 v1.1モデルのトレーニングに要する時間は、8GPUで31.5分、32GPUで10.67分と短縮されています。


トレーニング時間の短縮は、MLモデルをより迅速にトレーニングできることを意味し、データサイエンティストやエンジニアはより迅速に反復し、異なるモデルアーキテクチャ、ハイパーパラメータ、データセットを実験することができます。このスピードは、より正確なモデルや、変化するビジネス環境に素早く対応するための高い開発アジリティにつながります。


詳細なレポートは、Oracle Cloud Infrastructure (OCI)の非公式ベンチマークサイトでご覧いただけます。



まとめ


このシリーズの次の記事では、RDMAをサポートしたMLPerfのマルチノードトレーニングを設定するための技術的な詳細に踏み込みます。


OCIでは、大規模な言語モデルのトレーニングやAIのアットスケールでの展開について、クラウドエンジニアによるサポートを提供しています。Oracle Cloud Infrastructureの機能の詳細については、弊社にお問い合わせいただくか、以下のリソースをご覧ください。

コメント

コメントを投稿

このブログの人気の投稿

Oracle APEXのInteractive Gridで、Oracle Formsと比較して、重複行の検証を制御/通過させる方法 (2022/07/21)

イメージ
Oracle APEXのInteractive Gridで、Oracle Formsと比較して、重複行の検証を制御/通過させる方法 (2022/07/21) https://medium.com/oracledevs/how-to-control-or-pass-validation-for-duplicate-rows-in-interactive-grid-of-oracle-apex-as-compare-18f453f750bf 投稿者： Jignesh oracle Formsでは、データブロックの重複行を制御するのは非常に簡単ですが、IGの検証を制御するにはどうすればよいでしょうか。 必要な出力 ステップ1：インタラクティブグリッドのある白紙ページを作成します（私は1つの領域「IG」を作成し、インタラクティブグリッドとしてタイプを選択しました） ステップ 2: リージョンに Static ID を定義する (私の場合、リージョンは IG で、Static ID も IG です) ステップ3：複製を制御したいカラムのStatic IDを定義します ステップ4：関数とグローバル変数に移動します コード： var validity, message, ui = this.data; (function($) { function update(model) { var projKey = model.getFieldKey(“PROJECT_ID”), recObj = [], recArray = []; model.forEach(function(record, index, id) { var projid = parseInt(record[projKey], 10), // record[salKey] should be a little faster than using model.getValue in a loop meta = model.getRecordMetadata(id); if (!isNaN(projid) && !meta.deleted && !meta.agg) { recObj = {ID: id, project_id: projid}; recArray.push(recObj)
続きを読む

Oracle APEX 24.1の一般提供の発表 (2024/06/17)

イメージ
Oracle APEX 24.1の一般提供の発表 (2024/06/17) https://blogs.oracle.com/apex/post/announcing-oracle-apex-241 投稿者： Ashish Mohindroo | Vice President, Product Management APEX Low Code Application Platform Oracle APEX 24.1は、 ダウンロード が一般的に可能になり、世界中のOCI APEX Application DevelopmentおよびAutonomous Database Cloud Serviceリージョンにロールアウトされています。この最新リリースで、GenAIを使用して最初のローコード・アプリケーションを構築する方法を学習します。リリースのお知らせのリプレイはこちらからご覧いただけます。 このリリースでは、優れたエンタープライズ・グレードのアプリケーションを簡単に構築できるイノベーションの3つの主要な柱(AI支援アプリケーション開発、Oracleの次世代データ・プラットフォームのパワー活用、高度なWebおよびモバイル・アプリケーションを構築するための強力なエンタープライズ・グレードのコンポーネント)が提供されています。 AI支援アプリ開発 このリリースでは、AIをローコード開発に直接取り込み、すべての開発者が高度なクラウドおよびモバイル・アプリケーションを簡単に構築できるようにしています。開発者は、AIをアシスタントとして使用して、時間と労力を削減してアプリを構築できるようになりました。APEX AIアシスタントを使用すると、開発者は複数のウィンドウを使用して表名と列名を検索する必要がなくなります。 APEX 24.1 では、クラウドおよびモバイル・アプリの自然言語ベースの開発を可能にするネイティブAI搭載APEX AIアシスタントを導入しました。APEX AIアシスタントを使用すると、すべての開発者は自然言語を使用してSQLを生成できるため、アプリケーションをより簡単に構築したり、ワンクリックで構文修正を実行したり、表名を覚える必要がなくなります。開発者は、自然言語プロンプトを使用して目的の機能とコンポーネントを指定し、直感的な会話型インタフェースを使用し
続きを読む

Oracle Cloudのデータベースをオブジェクト・ストレージにバックアップする3つの方法 (2021/12/13)

イメージ
Oracle Cloudのデータベースをオブジェクト・ストレージにバックアップする3つの方法 (2021/12/13) https://database-heartbeat.com/2021/12/13/three-ways-backup-cloud/ はじめに Oracle Cloudでは、ボタンをクリックするだけで自動バックアップを有効にするオプションが用意されています。バックアップの要件が異なる場合でも、手動でバックアップ設定を行い、コマンドライン・ツールやRMANを直接使用してバックアップを作成する柔軟性があります。これは、VM DB Systems、Exadata Cloud Service、およびExadata Cloud at Customerに適用されます。 このブログ記事では、Oracle Cloud Object Storageをバックアップ先として使用する場合の、さまざまなバックアップ・オプションの主な違いと、それに伴うコストについて紹介します。Object Storageは、内蔵されたトリプル・ミラーリングと99.999999%(イレブンナイン)の耐久性を提供します。 ハイブリッド・クラウドとマルチ・クラウド Oracle Cloud Object StorageへのOracle Databaseのバックアップは、Oracle Cloud上のOracle Databaseに限らず、ハイブリッドクラウド上のオンプレミスのOracle Databaseや、マルチクラウド環境のOracle以外のクラウド上で稼働しているOracle Databaseに対しても、RMANを介して実装することができます。 プライベートおよび専用のネットワーク接続は、FastConnect、Azure Interconnect、またはサードパーティのネットワーク接続プロバイダを介して提供できます。マルチクラウド環境では、クラウドプロバイダー、リージョン、転送するデータ量に応じて、追加のアウトバウンドトラフィックコストが発生する可能性があります。オラクルをはじめとする多くのクラウドプロバイダーは、すでに Bandwidth Alliance に参加しており、ネットワークエグレス料金を削減または排除しています。 環境について     Oracle Cloud VM DB Sy
続きを読む