労務管理AI／モラルの一言

ファインチューニング・プロンプトの比較

人事Q&Aの回答に添える「モラルの一言」をどう生成するか。応答速度・一言の精度・工数の三点で性質が正反対に分かれるため、どれを優先するかで結論が決まります。

比較対象：Vertex AI（Gemini）でのファインチューニング ／ Azure AI Foundry でのプロンプト制御

1

応答速度

LINE WORKS 上の一問一答では、待ち時間がそのまま使用感になります。差は約3倍。

案Aファインチューニング
60秒
案Bプロンプト
20秒
実測値。バーの長さは実際の秒数の比率
2

各案のメリット・デメリット

○＝メリット／×＝デメリット。強調部分がその案の決め手になります。

案A

ファインチューニング

モラルの言い回しをモデル自体に学習させる

○メリット

  • 一言の精度が高い。質問の文脈に合わせて言い回しが変わり、定型文にならない
  • 教育方針をモデル側に持たせられるため、プロンプトが肥大化しない
  • 「何を答えるか（RAG）」と「どう言い添えるか（学習モデル）」の役割分離を構造で担保できる
  • トーンの逸脱が起きにくく、回答本文への滲み出しを抑えやすい

×デメリット

  • 応答が約60秒。チャットの体感としては明確に長い
  • GCP（Vertex AI）の構築が別途必要。Azure 中心の構成に、契約・権限・監視の対象がもう一系統増える
  • 最大の負担は学習データの作成工数。500件で約125人時の見積り
  • 方針を変えるたびに再学習。文面の微修正が即日では反映できない
  • Gemini 2.5系は2026年10月に提供終了。学習先は 3.1 Flash-Lite を前提に置く必要がある
案B

プロンプト

既存モデルへの指示文でモラルの一言を生成する

○メリット

  • 応答が約20秒。待たせている感覚が出る手前に収まる
  • 工数が圧倒的に少ない。学習データの準備が要らず、着手した日から試せる
  • Azure AI Foundry 内で完結。GCP の構築・運用・課金が発生しない
  • 文面の修正が即日反映できる。クライアントのレビューを何周でも回せる

×デメリット

  • 一言の精度が低い。質問が違っても似た文面になりやすく、教育効果が薄い
  • 回答本文への滲み出し。聞かれていない指導コメントが事実回答に混ざる
  • ナレッジ文書にない一般論（法令の原則など）を語り出すことがある
  • いずれもモラル生成部でトーンが緩むことが原因で、指示文を足すほど起きやすくなる

デメリットへの対策（優先順）

  1. 回答本文とモラル部の独立性を明示する一文を入れる
  2. 生成後のガードレールで滲み出しを検出・除去する
  3. 本文生成とモラル生成を二段に分ける構造的な分離
3

観点別の比較

赤い「優位」ラベルが、その観点で有利な方式です。

観点案A　ファインチューニング案B　プロンプト
応答速度 約60秒 優位約20秒
一言の精度 優位文脈に応じて変化する 定型的になりやすい
初期工数 学習データ500件で約125人時＋環境構築 優位指示文の作成と検証のみ
変更のしやすさ 再学習が必要 優位即日反映
インフラ Azure＋GCP の二系統 優位Azure で完結
ランニングコスト ホスティング費なし・トークン課金のみ トークン課金のみ
主なリスク モデルの提供終了、データ作成工数の膨張 事実回答への滲み出し、根拠のない一般論
4

ファインチューニングを選ぶ場合の料金

学習・デプロイ・モデル利用の三つに分けて、Azure・Fireworks・GCP を同じ条件で試算しました。推測値です。

稼働20営業日／月、100人 × 10メッセージ＝20,000メッセージ／月
1メッセージ入力2,000トークン（システムプロンプト＋RAG抜粋＋質問）、出力400トークン
月間トークン入力40M ／ 出力8M
学習データ500件 × 800トークン × 3エポック＝1.2Mトークン
為替1USD＝150円
デプロイ24時間365日の常時稼働を前提（730時間／月）

Fireworks AI

¥318,000

Azure OpenAI

¥192,000

最安

GCP／Vertex AI

¥5,000

月額合計（デプロイ費＋モデル利用費）。バーの長さは金額の比率

項目 Azure OpenAI Fireworks AI GCP／Vertex AI
想定モデル GPT-4.1-mini 級 16B以下のOSSモデル（LoRA SFT） Gemini 3.1 Flash-Lite
学習費（初回1回） 約$4／¥600単価 $3／1Mトークンと想定 約$0.6／¥90LoRA SFT $0.50／1Mトークン 約$3.6／¥540$0.003／1,000トークン
デプロイ費（月額） 約$1,241／¥186,000$1.70／時 × 730時間。使用量と無関係に発生 約$2,117／¥318,000A100 80GB $2.90／時 × 730時間。H100なら¥767,000 $0／¥0エンドポイントの時間課金なし
モデル利用費（月額） 約$43／¥6,500FT単価はベースの1.5倍＝$0.60／$2.40 $0GPU時間料金に内包 約$33／¥5,000FT単価はベースの1.5倍＝$0.375／$2.25
月額合計 約¥192,000 約¥318,000〜767,000 約¥5,000