はじめに
生成AIのビジネス活用が急速に進む中、多くの企業でAmazon Bedrockが導入されています。しかし、クラウド管理者やFinOps(財務開発運用)担当者にとって、「どのモデル(Claude、Llamaなど)で、どのトークン(入力/出力)に対して、いくらコストが発生しているのか」を正確に把握・集計することは、これまで一筋縄ではいきませんでした。
従来の「コストと使用状況レポート(CUR)」では、製品メタデータの一貫性が不十分であり、詳細なコスト配分を行うためには、複雑な文字列パースやカスタムロジックを実装する必要がありました。
本日、AWSはAWS Data Exports(CUR 2.0)において、Amazon Bedrockの標準化された製品メタデータの提供を開始したことを発表しました。これにより、カスタムロジックを組むことなく、簡単にBedrockのコストを詳細かつ一貫した形で分析できるようになります。
この機能の概要とメリット
AWS Data Exportsは、AWSのコストと使用状況のデータをカスタマイズしてAmazon S3に出力し、Amazon Athenaなどでクエリ分析できるようにするサービスです。今回のアップデートにより、CUR 2.0においてAmazon Bedrockに関する以下の属性が標準化され、デフォルトで提供されるようになりました。
提供される標準化メタデータ一覧
- 製品ファミリー名の統一: すべてのBedrock関連コストが「Amazon Bedrock」という統一された製品ファミリー名(Product Family)に統合されます。
- モデルプロバイダー(model provider): Anthropic、Meta、AI21 Labsなどのプロバイダー名。
- モデル名(model name): Claude 3.5 Sonnet、Llama 3 などの具体的なモデル名。
- 推論タイプ(inference type): 入力トークン(Input Tokens)や出力トークン(Output Tokens)などの課金要素。
- 機能/サービングモード(feature): オンデマンド(On-Demand)やバッチ(Batch)などの実行モード。
- 料金単位(pricing unit): トークン数などの課金単位(専用の列として提供)。
主なメリット
- カスタムパース処理の撤廃: 従来のように、複雑な製品説明テキストから正規表現等を用いてモデル名やトークン種別を抽出する必要がなくなります。
- FinOpsの強力な推進: プロバイダー別、モデル別、あるいは「入力 vs 出力」といった多角的なコスト分析が即座に実行可能になります。
- 追加料金なし: AWS Data Exportsを利用しているすべてのAmazon Bedrockユーザーは、追加費用なしで自動的にこのデータを利用できます。
想定されるユースケース
この標準化されたメタデータは、以下のような実践的なシーンで大きな威力を発揮します。
1. マルチモデル運用におけるコスト比率の可視化
システム内で「Claude 3.5 Sonnet(高度な推論用)」と「Llama 3(軽量なタスク用)」など、複数のモデルを使い分けている場合、それぞれのモデルが全体コストに占める割合を正確に可視化し、コストパフォーマンスを検証できます。
2. 入力(Input)と出力(Output)のコストバランス分析
生成AIアプリのプロンプト設計(RAGのドキュメント量など)によって、入力トークンと出力トークンの比率は大きく変わります。どちらのトークン消費がコストを逼迫しているかを分析し、プロンプトの最適化(削減)に繋げることができます。
3. Amazon Athenaを使用したシンプルで強力なコストクエリ
CUR 2.0において、新しいメタデータは product_map 列に格納されています。以下のようなシンプルなSQLクエリを実行するだけで、モデル別・推論タイプ別のコストを集計できます。
SELECT
product_map['model_provider'] AS model_provider,
product_map['model_name'] AS model_name,
product_map['inference_type'] AS inference_type,
pricing_unit,
SUM(line_item_unblended_cost) AS total_cost
FROM
your_cur_2_0_table
WHERE
product_product_family = 'Amazon Bedrock'
GROUP BY
1, 2, 3, 4
ORDER BY
total_cost DESC;
注意点や従来の機能との違い
- CUR 2.0(AWS Data Exports)限定機能: 今回の標準化メタデータは、最新の「CUR 2.0」形式でのみ利用可能です。従来のレガシーな「コストと使用状況レポート(CUR v1)」をご利用の場合は、AWS Data Exportsを用いたCUR 2.0への移行が必要です。
- product_map列の仕様: モデルプロバイダー、モデル名、推論タイプなどの新しいメタデータは、単一の列ではなく
product_mapというMap型の列の中に格納されています。クエリを記述する際は、上記のコード例のようにproduct_map['key']の形式でアクセスする必要がある点に注意してください。
まとめ
今回のアップデートにより、Amazon Bedrockのコスト管理は大幅に簡素化されました。ブラックボックスになりがちだった生成AIの利用料を、モデルごと、プロバイダーごとにクリアに解き明かすことができます。
企業のクラウドガバナンスやFinOpsを推進するエンジニアの皆様は、ぜひこの機会にAWS Data Exports(CUR 2.0)を有効化し、Amazon AthenaやQuickSightを組み合わせた「Bedrockコストダッシュボード」の構築に挑戦してみてください!