SageMaker AI Training Sessions|GPU管理を任せて、モデルの学習を制御する仕組み
Chart Design
0:00 / 0:00
SageMaker AI Training Sessions|GPU管理を任せて、モデルの学習を制御する仕組み
27 просмотров · 4 дн. назад
Chart Design
49 подписчиков
27 просмотров · 4 дн. назад
SageMaker AI Training Sessionsで、学習ループをPythonから組み立て、GPU上の計算処理をサービスへ任せる仕組みを解説します。
対象はgpt-oss-20b。入力の準備、1ステップの学習更新、チェックポイント保存、セッション停止の4工程を追います。
呼出元の権限と実行ロール、S3とモデルパッケージグループ、ServiceClientの設定を分けて整理します。
入力・次トークンの正解・weightsの対応と、forward_backward/optim_stepのfutureを受け取り、result()で完了を待つ流れを図解します。
save_state()による重みとoptimizer状態の保存は、推論用の重みスナップショットとは別です。学習後のサンプラーは必要に応じて明示的に再取得します。
料金はprefill/sample/trainなどの処理トークンと、セッション枠の占有を区別して確認します。stop()後もS3に残る保存物の料金などは別途発生し得ます。
本動画は公式コードと独自の説明用模式図を使っています。AWSの実操作・有料学習・設定変更・性能測定は行っていません。
仕様の確認日は2026年10月28日です。対応モデル、リージョン、必要な権限、単価は、以下の公式資料で利用前に最新情報をご確認ください。
【チャプター】
00:00 学習ループとGPU処理の分担
00:24 本動画で追う4工程
00:49 利用者が決めること
01:24 権限・保存先・実行環境
02:00 tokenizer付きSDKの準備
02:28 ServiceClientの接続情報
03:06 対応モデルとLoRA設定
03:40 入力・正解・weights
04:32 学習更新とfuture
05:23 チェックポイント保存とARN
06:02 処理トークンの料金と停止
06:55 更新後のサンプラー再取得
07:36 4工程のまとめ
【公式資料】
導入手順・公式コード
https://docs.aws.amazon.com/sagemaker...
機能概要・対応範囲
https://docs.aws.amazon.com/sagemaker...
前提条件・権限
https://docs.aws.amazon.com/sagemaker...
Python SDKと操作の振る舞い
https://docs.aws.amazon.com/sagemaker...
保存・学習操作
https://docs.aws.amazon.com/sagemaker...
セッションとトラブルシューティング
https://docs.aws.amazon.com/sagemaker...
機能発表
https://aws.amazon.com/blogs/machine-...