【AWS新機能】東京リージョン対応!SageMaker AIでNVIDIA Nemotron 3.5 Lightningのサーバーレスカスタマイズ(SFT/DPO/RFT)が可能に

はじめに

こんにちは!クラウドアーキテクトの技術ブログへようこそ。

今回は、Amazon SageMaker AI(旧SageMaker)に関する非常にエキサイティングなアップデートをお届けします。AWSは、NVIDIAの最新LLM(大規模言語モデル)である「NVIDIA Nemotron 3.5 Lightning」のサーバーレスモデルカスタマイズへの対応を開始しました!

さらに嬉しいことに、この機能はローンチ時点で東京リージョン(ap-northeast-1)でも利用可能となっています。インフラ管理の手間を一切かけずに、高性能な最新モデルを自社データに適合させることが可能になりました。本記事では、このアップデートの概要とエンジニアにとってのメリットを詳しく解説します。

この機能の概要とメリット

1. NVIDIA Nemotron 3.5 Lightningとは?

Nemotron 3.5 Lightningは、NVIDIAが開発した最新のオープンウェイトモデルです。ハイブリッドのMixture-of-Experts (MoE)アーキテクチャを採用しており、総パラメータ数は30B(300億)ですが、推論時にアクティブになるパラメータはわずか3B(30億)に抑えられています。これにより、フロンティアモデル(最先端の超巨大モデル)に匹敵する高い精度を保ちつつ、極めて低いレイテンシーと低コストでの推論を実現しています。

2. 3つのカスタマイズ手法(SFT / DPO / RFT)をフルサポート

今回のアップデートにより、SageMaker AI上で以下の3つの強力な手法を用いてモデルを微調整(カスタマイズ)できるようになりました。

  • SFT (Supervised Fine-Tuning / 教師あり微調整): ラベル付きデータを使用して、特定のドメイン知識やタスク(社内規約の理解、専門用語の学習など)における回答精度を向上させます。
  • DPO (Direct Preference Optimization / 直接好みの最適化): ユーザーの好みのペアデータ(「こちらの方が良い回答」という比較データ)を用いて、組織のトーン&マナーや安全基準に合致した出力を学習させます。
  • RFT (Reinforcement Fine-Tuning / 強化学習微調整): 報酬シグナルを活用して、新しいタスクや複雑な論理的思考タスクにおけるパフォーマンスを強化します。

3. 「サーバーレス」カスタマイズによる開発体験の向上

従来のファインチューニングでは、GPUインスタンス(ml.g5やml.p4など)の確保、クラスターのプロビジョニング、分散学習の設定など、インフラ管理に多大な工数がかかっていました。

今回のサーバーレスカスタマイズでは、SageMaker AIがインフラのプロビジョニングやトレーニングのスケジューリングを完全に自動化します。エンジニアはデータの準備と評価だけに集中でき、課金は実際に学習で消費したリソース分(使った分だけ支払う従量課金制)のみとなります。

想定されるユースケース

この機能を活用することで、以下のような実務シナリオにおいて、低コスト・高パフォーマンスな独自LLMを構築できます。

  • ドメイン特化型アシスタントの構築: 金融、医療、法律、ITインフラ保守などの専門的な社内ドキュメントをSFTで学習させ、専門知識を持つ軽量・高速なチャットボットを構築する。
  • ブランドトーンの統一: 自社のマーケティング資料や過去の優れた顧客対応ログを用いてDPOを実行し、自社ブランドに完璧に適合したトーン&マナーで回答する要約・文章生成AIを作成する。
  • 業務自動化パイプラインの効率化: 特定のJSONフォーマットでの出力や、API呼び出し用のパラメータ生成(Function Calling)を確実に実行できるようファインチューニングし、システム連携の安定性を向上させる。

注意点や従来の機能との違い

インフラ管理からの解放(プロビジョンドインスタンスとの違い)

従来のモデルカスタマイズでは、学習ジョブを実行するために特定のGPUインスタンスを指定し、トレーニング終了後にインスタンスを削除する必要がありました。サーバーレスカスタマイズでは、これらのインスタンス選定やライフサイクル管理が完全にAWS側で自動処理(抽象化)されます。

SDKによるシンプルな実装例

SageMaker Python SDKを使用すると、以下のようにシンプルなコードでカスタマイズジョブを開始できます。

from sagemaker.model_customization import ModelCustomizer

# サーバーレスカスタマイズジョブの定義
customizer = ModelCustomizer(
    model_id="nvidia-nemotron-3.5-lightning",
    hyperparameters={
        "epoch": "3",
        "learning_rate": "2e-5"
    }
)

# SFTジョブの実行(S3のデータソースを指定)
customizer.fit(
    training_data="s3://my-bucket/sft-train-data.jsonl",
    validation_data="s3://my-bucket/sft-val-data.jsonl",
    method="SFT"
)

東京リージョンで即時利用可能

この手の最新機能は米国東部(バージニア北部)などから段階的に展開されることが多いですが、今回はローンチ時点で東京リージョン(ap-northeast-1)がサポート対象に含まれています。データ転送コストやデータガバナンス、ネットワークレイテンシーを気にする国内企業にとって、非常に大きなメリットです。

まとめ

Amazon SageMaker AIによるNVIDIA Nemotron 3.5 Lightningのサーバーレスモデルカスタマイズのサポートは、企業の生成AI活用を次のフェーズへと引き上げる素晴らしいアップデートです。

MoEアーキテクチャによる「高精度かつ低遅延・低コスト」なモデルを、インフラ管理不要のサーバーレス環境で、SFT、DPO、RFTといった高度な手法を用いて手軽にカスタマイズできるようになりました。東京リージョンですぐに試せるため、ぜひ自社のデータを用いて、ビジネスに特化した高性能なAIモデルを構築してみてください!

詳細な設定方法やステップバイステップのチュートリアルは、SageMaker Studioの「Models」ページ、またはAWS公式ドキュメントを参照してください。

上部へスクロール