Перейти к содержимому

SageMaker AI Training Sessions|GPU管理を任せて、モデルの学習を制御する仕組み

Chart Design

0:00 / 0:00

SageMaker AI Training Sessions|GPU管理を任せて、モデルの学習を制御する仕組み

27 просмотров · 4 дн. назад
Chart Design
49 подписчиков
27 просмотров · 4 дн. назад
SageMaker AI Training Sessionsで、学習ループをPythonから組み立て、GPU上の計算処理をサービスへ任せる仕組みを解説します。 対象はgpt-oss-20b。入力の準備、1ステップの学習更新、チェックポイント保存、セッション停止の4工程を追います。 呼出元の権限と実行ロール、S3とモデルパッケージグループ、ServiceClientの設定を分けて整理します。 入力・次トークンの正解・weightsの対応と、forward_backward/optim_stepのfutureを受け取り、result()で完了を待つ流れを図解します。 save_state()による重みとoptimizer状態の保存は、推論用の重みスナップショットとは別です。学習後のサンプラーは必要に応じて明示的に再取得します。 料金はprefill/sample/trainなどの処理トークンと、セッション枠の占有を区別して確認します。stop()後もS3に残る保存物の料金などは別途発生し得ます。 本動画は公式コードと独自の説明用模式図を使っています。AWSの実操作・有料学習・設定変更・性能測定は行っていません。 仕様の確認日は2026年10月28日です。対応モデル、リージョン、必要な権限、単価は、以下の公式資料で利用前に最新情報をご確認ください。 【チャプター】 00:00 学習ループとGPU処理の分担 00:24 本動画で追う4工程 00:49 利用者が決めること 01:24 権限・保存先・実行環境 02:00 tokenizer付きSDKの準備 02:28 ServiceClientの接続情報 03:06 対応モデルとLoRA設定 03:40 入力・正解・weights 04:32 学習更新とfuture 05:23 チェックポイント保存とARN 06:02 処理トークンの料金と停止 06:55 更新後のサンプラー再取得 07:36 4工程のまとめ 【公式資料】 導入手順・公式コード https://docs.aws.amazon.com/sagemaker... 機能概要・対応範囲 https://docs.aws.amazon.com/sagemaker... 前提条件・権限 https://docs.aws.amazon.com/sagemaker... Python SDKと操作の振る舞い https://docs.aws.amazon.com/sagemaker... 保存・学習操作 https://docs.aws.amazon.com/sagemaker... セッションとトラブルシューティング https://docs.aws.amazon.com/sagemaker... 機能発表 https://aws.amazon.com/blogs/machine-...