Q1. ある企業は社内ナレッジ検索アシスタントの実現可能性を3か月で検証する必要があります。専任の機械学習エンジニアはおらず、複数ベンダーの大規模言語モデルを比較したうえで最終的なモデルを決めたいと考えています。検証期間中の利用量は読めないため、アイドル時に費用が発生する構成は避けたいという制約があります。この検証基盤として最も適切なものはどれですか。
- A. Amazon Bedrock のサーバーレスAPIで複数プロバイダのモデルを従量課金で呼び出す
- B. Amazon SageMaker AI にオープンウェイトモデルをデプロイし、常時稼働のリアルタイムエンドポイントで比較する
- C. Amazon EKS 上に推論サーバーを構築し、GPUノードグループでモデルごとにPodを配置する
- D. AWS Trainium インスタンスで自社データからモデルを事前学習し、性能を比較する
答えと解説を見る
正解:A
A(正解) 正解。Bedrockは単一のAPIから複数プロバイダのFMを呼び出せ、インフラの管理が不要で、呼び出した分だけの従量課金になる。短期のPoCで基盤管理の負担とアイドルコストを同時に避けられる
B リアルタイムエンドポイントはインスタンス時間で課金されるため、呼び出しがない時間帯もコストが発生する。モデルごとにエンドポイントを立てると比較のたびに費用が積み上がる
C クラスター運用とGPUノードの管理が必要になり、専任の機械学習エンジニアがいない体制では3か月の検証期間の大半が基盤構築に消える
D 事前学習は数か月規模の投資であり、実現可能性の検証段階で選ぶ手段ではない。既存FMの比較という目的にも合致しない