AIワークロードの実行基盤

モデルの学習とには計算資源が必要です。 AIF-C01では、AWSが用意している専用のチップとインスタンスの役割、そして実行基盤の選び方が問われます。

概要

AIの計算には、学習とで求められる性質が違います。学習は短期間に大きな計算力を必要とし、推論は1件あたりの応答速度と単価が重要になります。

用途	代表的な選択肢	判断ポイント
学習	インスタンス、AWS Trainium搭載インスタンス	大規模な学習の性能とコスト
推論	AWS Inferentia搭載インスタンス、GPU、	応答速度と1件あたりのコスト
の利用		計算資源を意識せず使えます。

AWSが設計した向けの専用チップです。

チップ	用途	特徴
AWS Trainium	学習	大規模な学習のコスト効率を高めます。
AWS Inferentia		推論のコストと消費電力を抑えます。

⚠️ 頻出: 名前で役割を判断します。Trainiumはtrain (学習) 、Inferentiaはinference (推論) です。

Point

Trainium は train（訓練する） から、Inferentia は inference（推論） から作られた名前です。
学習 = Trainium、推論 = Inferentia と対応させて覚えます。
和訳
- train: 訓練する、鍛える
- Weblio英和辞書「train」

種類	向く処理
	の学習、大きなモデルの
	小さなモデルの推論、前処理、表形式データの学習

大きなモデルは記憶容量の大きい構成が必要になるため、インスタンスの選定では計算力と搭載メモリーの両方を見ます。

⚠️ 頻出: 「インフラ管理を避けたい」ならBedrockやSageMaker AIのマネージド機能を選びます。ECSやEKSは自分で運用する前提です。

サービス	用途
	、モデルの成果物、生成物の保管
、	学習中に共有ファイルとして高速に読み書きする場合

学習データはS3に置き、学習ジョブが読み出す構成が基本です。