AWS認定AIプラクティショナー（AIF-C01）で配点が最大のドメイン3「基盤モデルの応用」。その入口が、基盤モデル(FM)を使ったアプリの設計の考え方です。この記事では「どのモデルを選ぶか」「推論パラメータの調整」「カスタマイズの使い分け」を整理します。基盤モデル自体は Amazon Bedrock入門 もどうぞ。
基盤モデルの選び方（選定基準）
用途に合うモデルを選ぶとき、次の観点を比較します。「高性能＝正解」ではなく、コストや速度とのバランスで選ぶのがポイントです。
- コスト：トークン課金などの利用料
- モダリティ：テキストのみか、画像なども扱うマルチモーダルか
- レイテンシ（応答速度）：リアルタイム用途では特に重要
- モデルのサイズ・複雑さ：大きいほど高性能だが、高コスト・低速になりがち
- 対応言語：日本語など必要な言語に対応しているか
- 入出力の長さ（コンテキスト長）：長い文書をまとめて扱えるか
- プロンプトキャッシュ：繰り返す共通のプロンプトをキャッシュし、コストとレイテンシを下げる仕組み
推論パラメータの調整
同じモデルでも、推論パラメータで出力の性質を調整できます。代表が temperature（温度）です。
- temperature：出力のランダム性。低い＝決定的・一貫（事実重視に向く）、高い＝多様・創造的（アイデア出しに向く）
- Top-P（核サンプリング）：確率の高い候補語に絞って選ぶ度合い
- 最大トークン数（出力長）：生成する文章の長さの上限
カスタマイズの4つの方法と使い分け
基盤モデルを自社用途に寄せる方法は4つ。手軽さ・コストが大きく違うので、目的に合わせて選びます。
- ① インコンテキスト学習：プロンプトに例を入れて望む出力を促す。最も手軽・低コスト。モデルは変えない（→ Few-shot等）
- ② RAG：外部文書を検索し、根拠にして回答。最新・社内の「知識」を足したいとき。再学習不要（→ 解説）
- ③ ファインチューニング：少量データでモデルを適応。口調・形式など「振る舞い」を変えたいとき。中コスト
- ④ 事前学習：大量データでゼロから学習。最も高コスト。通常は既成のFMを使うので自前では行いません
使い分けのコツ：まず手軽なインコンテキスト学習で試し、知識を足すならRAG、振る舞いを変えるならファインチューニング、という順で検討すると無駄がありません。
- モデル選定＝コスト/モダリティ/レイテンシ/サイズ/言語/入出力長/プロンプトキャッシュ
- temperature：低い＝決定的、高い＝多様
- カスタマイズは手軽さ順に インコンテキスト学習＜RAG＜ファインチューニング＜事前学習
- 知識を足す＝RAG／振る舞いを変える＝ファインチューニング
確認クイズ
Q1. 法律事務所が、契約書の要点を毎回ブレなく一定の形式で要約させたい。出力の一貫性を高める推論パラメータ設定は？
Q2. 社内ヘルプデスクAIに、毎週更新される社内規定の最新内容を正確に答えさせたい。再学習はコスト面で避けたい。最適なアプローチは？
Q3. モデルのカスタマイズ手法を『手軽・低コスト→高コスト』の順に正しく並べたものは？
よくある質問（FAQ）
Q. プロンプトキャッシュとは？
A. 毎回同じになる共通のプロンプト部分をキャッシュし、再利用することでコストとレイテンシを下げる仕組みです。長い指示を繰り返す用途で効きます。
Q. インコンテキスト学習とファインチューニングの違いは？
A. インコンテキスト学習はモデルを変えずプロンプト内の例で誘導する方法。ファインチューニングはモデル自体を追加学習して適応させる方法です。
Q. Top-Pとは？
A. 出力候補を確率の高い順に絞り込むサンプリング手法です。temperatureと同様、出力の多様性を調整するパラメータです。
まとめ
- モデル選定はコスト・モダリティ・レイテンシ・サイズ・言語・入出力長・プロンプトキャッシュで判断
- temperature：低＝決定的、高＝多様
- カスタマイズは手軽さ順にICL＜RAG＜FT＜事前学習。知識追加＝RAG、振る舞い＝FT
※本記事はAWS公式試験ガイド(AIF-C01)に基づき、エンジニアKが作成しています。
コメント