LoRAとは？ファインチューニングの仕組みとQLoRA・評価・運用

LoRAによるファインチューニングは、プロンプトを十分に改善しても、文体や出力形式、タスクの判断で同じ誤りが繰り返される場合に検討したい手法です。元の重みを固定したまま、適応対象の重み行列ごとに2つの小さな行列を学習します。QLoRAでは、固定するベースモデルの重みを4ビット精度で保持します。目指すべき成果は、実際のタスクで測定でき、推論環境に移しても維持できる改善です。

ドキュメントとデプロイ上の制約は、2026年10月26日に確認しています。仕組みの説明は、原著のLoRA論文とQLoRA論文に基づきます。

開発者が最初に見るべきなのは、繰り返し起きている失敗です。たとえば、サポート用モデルに正しい対応方針をコンテキストで渡しているのに、エスカレーション先のラベルを間違え続ける場合。あるいは、文章作成アシスタントが依頼内容を理解しているのに、定めた文体のルールを何度も無視する場合です。こうした問題は学習を検討する価値があります。一方、最新の返金規定を知らないモデルに必要なのは、まずその規定を参照できるようにすることです。

LoRAとは？ファインチューニングの仕組み

LoRAは、選んだ重み行列に対する小さな補正を学習し、モデルの振る舞いを変えます。通常のLoRA学習では、元の行列は固定したままです。重み行列とは、モデル内部で情報を変換するために学習された数値の表です。アダプターは、その変換に補正を加える追加の学習パラメーターを指します。

建物に、その建物に合わせた入口のモジュールを後付けする場面を想像するとわかりやすいでしょう。建物の構造は残し、人の通り方を変えます。モジュールは建物より小さくても、建物がなければ機能しません。同じように、LoRAアダプターも、それだけで完結した言語モデルではなく、ベースモデルの代わりにもなりません。

LoRAはLow-Rank Adaptationの略です。重み行列と同じ大きさの更新を学習する代わりに、一般にA、Bと呼ばれる小さな行列の積で更新を表します。線形層で実際に行われる変換は、W + sBAと書けます。固定した重みWに、スケーリングしたアダプターの更新を加える形です。入力はベースとアダプターの経路をそれぞれ通り、両方の出力が加算されます。LoRA原論文の定式化。

この仕組みにより、ベースモデルの重みをすべて変更して別のコピーとして保存しなくても、独自の出力形式を学習できます。ただし、ベースモデルが、もともとそのタスクの土台として適している必要もあります。補正は、選んだモデルを前提に機能するものだからです。

パラメーター数の計算例と、GPUメモリの見積もりは別です

仮に、ある層の重みが4,096 × 4,096で、元のパラメーター数が16,777,216だとします。ランクを8にすると、LoRA行列のパラメーター数はそれぞれ8 × 4,096と4,096 × 8になります。合計は65,536の学習可能パラメーターで、元の行列の約**0.39%**です。

これは論文に記載された行列の形状を使った本記事の計算例であり、ベンチマークでも、推奨ランクの提示でもありません。対象は、アダプターを適用する単一の行列です。固定した重みは引き続き保持する必要があり、中間計算、アダプターの勾配、オプティマイザーの状態にも作業用メモリが必要です。オプティマイザーの状態とは、次の学習更新を決めるために保持する管理情報です。

実務では、更新するパラメーターの数と、学習ジョブ全体に必要なメモリ量を分けて考えることが大切です。アダプターが小さくても、土台となるモデルまで小さくなるわけではありません。

これらの区別は、LoRAとQLoRAの論文に基づきます。手法の名称だけで、手元のデータに対する結果が保証されるわけではありません。

LoRA学習で押さえるランク・適用先・スケーリング

設定項目が決めるのは、補正の大きさや適用先です。モデルの賢さを直接指定するものではありません。ランクはAとBの内側の次元で、大きくすると学習可能なパラメーターが増えます。ターゲットモジュールは、モデルのどの部分にアダプターを適用するかを指定します。Alphaは更新の大きさを調整し、ドロップアウトはアダプター学習の正則化に使えます。各項目はLoRAの設定リファレンスで定義されています。

まずは、対象モデル向けに保守されている学習手順から始め、検証結果に理由があるときに設定を変えます。サポートの二つのカテゴリーを取り違えるなら、先にラベルの矛盾や、カテゴリーの境界に当たる事例の不足を確認してください。矛盾する事例のうち、業務上どちらを正解とするかは、ランクを上げてもモデルには伝わりません。

何が学習対象になっているかも確認します。設定によっては、アダプターに加えて出力ヘッドなどのモジュールも学習します。「LoRA」と呼ばれるジョブだからといって、変更されたのがAとBだけとは限りません。それを決めるのは設定です。

QLoRAで変わること、変わらないこと

QLoRAは、学習するパラメーター数だけでなく、固定したベースモデルが占めるメモリにも対処します。基本構成ではベースモデルを4ビットで保持し、そのモデルを通じて、より高い精度のLoRAアダプターを学習します。ベースモデルは固定されていますが、アダプターを学習するための計算には引き続き使われます。QLoRA論文。

論文では、正規分布に従う重み向けに設計された数値表現のNF4、量子化に使う定数を圧縮する二重量子化、メモリ使用量の急増に対処するページ化オプティマイザーを組み合わせています。保守されているQLoRAの学習手順を利用するなら、これらを自分で実装する必要はありません。

「4ビット学習」という表現には注意が必要です。すべての計算、活性値、アダプターのパラメーターが4ビットになるという意味ではありません。また、量子化した重みを読み込むだけの場合と同じメモリ量で学習できるわけでもありません。長い学習例や大きなバッチには、引き続き作業用メモリが必要です。

QLoRAが選択肢になるのは、ベースモデルのメモリ使用量が障害になっていて、学習環境が必要なモデルに対応している場合です。通常のLoRAですでにメモリに収まるなら、量子化したほうがよいと決めつけず、検証用の事例で両者を比較してください。圧縮すると数値計算の条件が変わるため、タスクへの影響は評価で確かめる必要があります。

推論エンジンがどの圧縮形式を実行できるかという、デプロイ時の別の論点は、LLM量子化ガイドで解説しています。QLoRAアダプターを学習できたからといって、あらゆる量子化済みの推論形式で使えるわけではありません。

プロンプトやRAGより、ファインチューニングが向いているのはどんなときですか？

承認済みの事例で望ましい振る舞いを示すことができ、残る失敗が一貫した行動パターンの問題なら、ファインチューニングを検討します。明確な指示だけで要件を満たせるなら、プロンプトで対応します。リクエスト時に関連文書やデータベースの情報を渡すには、**検索拡張生成（RAG）**を使います。詳しい判断の枠組みは、RAGとファインチューニングの比較で紹介しています。

独自の文体を整えたいなら、まずは簡潔な文体ルールと代表例をプロンプトに入れます。望ましい振る舞いが定まっているのに、さまざまな入力で同じ違反が続く場合に学習を検討してください。学習例には、決まり文句を繰り返すだけでなく、先に答えを述べる、根拠のない最上級表現を避ける、といった判断を示します。

出力形式では、構文と意味を分けて考えます。実行環境が制約付きの構造化出力に対応しているなら、有効なJSONを得ることだけを目的に学習する前に、その機能を試してください。スキーマには従っていても、選んだカテゴリーが間違っていることはあります。この意味上の判断が繰り返し失敗するなら、LoRAを検討する意義が増します。アダプターで改善した後も、アプリケーション側の検証は残します。

限定したタスクでは、判断の境界を定義します。身に覚えのない請求の問い合わせにはアカウント確認が必要でも、二重払いが確認できた場合には請求担当の確認が必要かもしれません。この違いを示す承認済みの入力と出力の組を用意し、追加確認が必要な事例も含めて学習します。目指すのは、繰り返し行う判断の改善です。それをもって、モデル全体が賢くなったとはいえません。

変化する知識については、引き続き検索を使うほうが、正しい情報の参照先を明確にできます。文体を調整するアダプターに、製品の現在の提供状況まで判断させるべきではありません。検索とファインチューニングは併用できます。最新の方針を検索で取得し、与えられた根拠を使って必要な形式で返答するようモデルを学習させます。組み合わせたアプリケーションを評価するときは、比較する両方に同じ検索コンテキストを渡します。

開発者にとっては、学習環境を選ぶ前に、残っている誤りを測定することが必要です。運用担当者は、承認済みの事例を管理し、どの誤りを重く見るかを決めます。導入を判断する担当者は、「カスタムモデル」という名称だけで改善したと受け取らず、導入前後の評価表と、実際にデプロイできる成果物を確認します。

大きな教師モデルから小さなモデル用の学習例を作るなら、それはモデル蒸留のワークフローでもあります。LoRAが表すのは、生徒モデルのどのパラメーターを更新するかです。蒸留が表すのは、その学習信号をどこから得るかです。両者は組み合わせられますが、生成した正解例にもレビューは必要です。

ホスト型APIと自前GPU、どちらを選びますか？

対応モデル、データの取り扱い、デプロイ方法がアプリケーションに合うなら、ホスト型サービスを選びます。チェックポイント、学習手順、実行環境を自分で管理する必要があり、その構成を運用できるなら、自前GPUを選びます。推論時にどう提供するかは、学習ジョブを始める前に決めてください。

Together AI：LoRAの学習方法とエクスポートを確認する

Together AIは、ホスト型のファインチューニングAPIを提供しています。クイックスタートにはLoRAジョブを起動する手順が明記されています。Pythonのclient.fine_tuning.create()は、デフォルトでLoRAを使用し、lora=Trueと明示することもできます。会話データを準備し、検証してアップロードした後、学習して結果をデプロイする流れです。Together AIクイックスタート。

制約になるのは、デプロイの対応条件です。学習に対応していることと、サーバーレスで利用できることは別です。現行ガイドでは、ファインチューニング済みモデルを専用のモデル推論環境で提供します。採用を決める前に、選んだベースモデルが専用デプロイに対応しているか確認してください。

エクスポートの形式も、別途選択します。Togetherのドキュメントでは、アダプターの重みだけを取得する場合はcheckpoint="adapter"、ベースとアダプターをまとめたチェックポイントを取得する場合はcheckpoint="merged"を指定します。対応するベースモデルに重ねて読み込む実行環境ならアダプターを、単独のモデルとして扱う必要があるならマージ済みの成果物を選びます。デプロイとチェックポイントの種類。

Fireworks AI：学習と推論の対応状況を分けて確認する

Fireworks AIは、マネージドの教師ありファインチューニングでLoRAを使う手順を公開しています。**教師ありファインチューニング（SFT）**は、望ましい応答の例から学習する方法です。アダプターの学習ジョブを明示的に指定するには、REST APIではloraRank、Python SDKではlora_rankを使います。FireworksのSFTドキュメント。

確認すべき区別は、TunableとSupports Loraです。外部で学習したアダプターを使った推論には対応していても、Fireworks上での学習には対応していないベースモデルがあります。学習ガイドでは、別途evaluation_datasetを渡すこともできます。自動分割に任せず、検証用の事例を指定できます。

推論の提供方法として、Fireworksはデプロイ時にアダプターをマージするlive mergeと、共有ベースモデルに選択したアダプターを適用するmulti-LoRAを説明しています。現行のデプロイガイドによると、学習済みLoRAにはオンデマンドの専用デプロイが必要で、サーバーレスのデプロイには対応していません。また、FP8およびFP4のデプロイ構成はLoRAアドオンに対応していません。圧縮したモデルを使える構成でも、アダプターに対応しているとは限らないのです。Fireworksデプロイガイド。

LoRAのファインチューニングにはPEFTとUnslothのどちらを使いますか？

Hugging Face PEFTは、LoRAを含むパラメーター効率のよいファインチューニング手法を実装したオープンなライブラリです。モデル、量子化の設定、アダプターを適用するモジュールを明示的に制御したい場合に向いています。量子化ガイドでは、量子化したベースモデルを読み込み、学習の準備をしてからアダプターを追加する手順を説明しています。

ドキュメントに記載されたQLoRAの手順では、BitsAndBytesConfigでload_in_4bit=True、NF4、二重量子化を指定します。prepare_model_for_kbit_training()でモデルを準備してから、get_peft_model()でラップします。QLoRAのように線形層を広く対象にするため、ガイドはtarget_modules="all-linear"を使っています。これはサポートされている設定例です。あらゆるアーキテクチャーや、その後の実行環境が、どのアダプターにも対応するという証拠ではありません。

PEFTで別途整える必要があるのは、学習システムの残りの部分です。学習例の選定、チャットテンプレートの修正、製品の成功指標の用意までは行ってくれません。

Unslothは、継続的に保守されるファインチューニングのガイドやノートブックを備えた、オープンな学習ツールキットです。ガイドではLoRA、QLoRA、フルファインチューニングを扱い、量子化する場合のload_in_4bit=Trueも説明しています。使いたいモデルとハードウェアに合う、保守中のノートブックがあるなら、それを学習手順の出発点として選べます。Unslothファインチューニングガイド。

Unslothで確認すべきなのは、学習手順と実行環境の互換性です。ノートブックで学習が完了しても、エクスポートしたモデルが別の環境で同じ振る舞いを保つとは限りません。トークナイザー、チャットテンプレート、生成設定を一致させたうえで、推論環境に配置した成果物を評価します。チャットテンプレートとは、ユーザーやアシスタントなど、メッセージの役割をモデルに示すための書式です。

Hugging Face TRLは、PEFTと連携する教師あり学習ループのSFTTrainerを提供しています。学習用と評価用のデータセットに対応し、互換性のあるチャットテンプレートでassistant_only_loss=Trueを使えば、会話内の全トークンではなく、アシスタントの応答を学習対象にできます。ただし、テンプレートが必要なアシスタントマスクに対応している必要があります。実際に整形された学習例を確認してください。TRL SFTTrainer。

自前GPUで試す場合は、対応するベースモデルと学習手順を選び、会話例を実際の形式に整形し、どのトークンが学習損失の対象になるかを確認します。そのうえでアダプターを追加し、学習用と検証用のデータを渡して、チェックポイントを保存します。チェックポイントは、評価や復元に使えるよう保存したモデルの状態です。プロジェクト全体の判断については、LLMをファインチューニングする手順でも解説しています。

アダプターを推論で使い、切り替えるには

アダプターには、ベースモデルを特定する情報と設定を必ず付けて管理します。PEFTのsave_pretrained()は、アダプターの重みとadapter_config.jsonを保存します。これらのファイルは、ベースモデルの重みの代わりにはなりません。ベースモデルの正確なリビジョン、トークナイザー、チャットテンプレート、学習設定を、アダプターと一緒に保管してください。PEFTのチェックポイント形式。

複数のタスク向けの設定でベースを共有したい場合や、設定を切り替えることが重要な場合は、アダプターを分離したまま保持します。PEFTのload_adapter()で別の名前付きアダプターを読み込み、set_adapter()で選択します。読み込みと有効化は、別の操作です。disable_adapter()コンテキストマネージャーを使えば、ベースモデルの振る舞いで推論できます。PEFTモデルAPI。

この区別は評価に役立ちます。ただし、共有アプリケーションでのアダプター選択は、同時実行時にも正しく動作しなければなりません。無関係なリクエストが処理されている最中に、共有するモデルの有効なアダプターを切り替え、各リクエストで意図した動作になると考えるのは危険です。リクエストごとの振り分けが明確に定義された推論ランタイムを使います。

vLLMは、対応するモデル実装でLoRAを利用できる推論エンジンです。サーバーでは--enable-loraと--lora-modulesでアダプターを登録し、リクエストのmodelフィールドでアダプターを選択します。モデルのLoRA対応状況、アダプターの最大ランク、同時に扱えるアダプター数の設定を確認してください。これらは学習の設定ではなく、推論提供時の制約です。vLLMのLoRAドキュメント。

実行中の読み込みとアンロードもドキュメントに記載されています。ただし、vLLMは、隔離され、完全に信頼できる環境でない限り、この機能を本番で使わないよう注意を促しています。通常のデプロイでは、起動時に既知のアダプターを登録するほうが、運用をシンプルにできます。

単独のモデルとして扱いたく、その成果物でアダプターを切り替える必要がない場合は、アダプターをマージします。PEFTのmerge_and_unload()は、更新をベースモデルに組み込み、PEFTのアダプター機能を持たないモデルを返します。量子化の設定によっては、マージに対応していません。後でアダプターを扱う構成に戻したいなら、元のアダプターとベースモデルも別々に保存しておきます。PEFTのマージに関する制約。

別の環境へ移す際には、最後にもう一つ確認が必要です。「対応するベース」とは、同じモデルファミリー名ではなく、正確に同じ重みを指します。Fireworksは、学習に使うベンダー側のチェックポイントが、公開されている重みと異なる場合があると明示しています。アダプターをプラットフォーム外へ移す前に、この依存関係を確認してください。アダプターのエクスポートに関するガイド。

LoRAのファインチューニングを学習前後で評価する

選んだアダプターをリリースするのは、その選択に使っていない事例で、目的の振る舞いが改善したときだけです。学習損失の低下は、学習例によりよく適合したことを示しますが、リリースの判断基準にはなりません。

サポートの振り分けを例に、次の評価手順を使います。これは推奨する手順であり、学習実験の結果を報告するものではありません。

1. 1

   学習前に合格基準を書き出す

   使用できるラベル、必須の出力項目、エスカレーションの動作を定義します。どの誤りがあればリリースを止めるかも決めてください。文体なら、「背景説明より先に答えを述べる」「根拠のない主張を加えない」など、観察できるルールにします。「もっとよい文章にする」という曖昧な指示では、信頼できる比較はできません。

2. 2

   学習用・検証用・最終テスト用の事例を分ける

   学習用の事例はアダプターの更新に使い、検証用の事例は学習手順とチェックポイントの選択に使います。最終テスト用の事例は、その選択が確定するまで使いません。関連する問い合わせ、同じ文書の言い換え、ほぼ重複する事例は、同じデータ区分にまとめます。そうしないと、未知の事例への対応力ではなく、見覚えがあることをテストで評価してしまいます。

3. 3

   十分に改善したベースラインを記録する

   追加学習していないベースモデルを、実用上最もよいプロンプトと、引き続き使う予定の構造化出力の制御で実行します。検索を使うアプリケーションなら、検索で得た根拠も記録します。モデルのリビジョン、プロンプト、テンプレート、生成設定、出力、評価器のバージョンを保存してください。アダプターが上回るべき相手は、実用的な代替案です。意図的に弱くしたプロンプトではありません。

4. 4

   検証で選び、未使用の最終テストで比較する

   検証結果でチェックポイントを選び、その選択を確定します。同じ最終テストの入力に対して、設定をそろえてアダプターとベースラインを実行します。学習後のアプリケーションで短いプロンプトを使う予定なら、その効果は条件をそろえたアダプター比較とは分けて測定します。何が改善につながったかを明確にするためです。

5. 5

   実際に推論で使う成果物を評価する

   マージ、量子化、推論エンジンの変更を行った後は、デプロイした成果物でも合格基準を再確認します。長い入力、曖昧な依頼、ベースモデルの振る舞いを維持すべき事例も含めてください。目的の改善がデプロイ後も維持され、回帰チェックの結果も許容範囲にある場合にだけリリースします。

構文、タスクの正確さ、文体は、それぞれ別のスコアにします。サポート用モデルでは、きれいなJSONを返しても、エスカレーションの判断が間違っていれば誤りです。文章作成モデルでも、表現が洗練された一方で製品についての主張を捏造するようになれば、品質の後退です。

全体の成功率だけでなく、分母とカテゴリー別の結果も報告します。適合率は、あるカテゴリーだと予測したうち、実際に正しかった割合です。再現率は、そのカテゴリーに属する事例をどれだけ拾えたかを示します。大半が定型的な請求の問い合わせなら、全体の平均値では、件数は少なくても重大なエスカレーション区分での失敗が隠れかねません。失敗から成功に変わった事例に加え、成功から失敗に変わった事例も含めてください。

主観的な文体のレビューでは、どのモデルの出力かを隠し、表示順も変えます。モデルによる評価器はレビューの整理に役立ちますが、そのスコアをリリース条件に使う前に、人間の判断との一致を確認してください。有用性を決めるのは評価基準であり、評価理由の説明が流暢かどうかではありません。

最終テストを、もう一つの検証用データにしてはいけません。失敗を確認して学習手順の変更に使った時点で、その事例は開発に影響しています。以後は回帰テスト用として保持し、次の最終比較には新しい未使用の事例を確保します。必要なデータセットの大きさに、一律の基準はありません。評価が、実際のアプリケーションで求められる判断を代表しているかが重要です。

最後に、デプロイ後のシステムが受ける実際の負荷を想定し、レイテンシーとリソース使用量を比較します。LoRAでパラメーターを節約できるからといって、推論が高速になるとは限りません。合格したベースモデルとアダプターの組み合わせを保持し、ロールバック先を残して、リリース後も同じ誤りのカテゴリーを監視します。

LoRAで過大評価されがちな点は何ですか？

「安価なファインチューニング」で効率化できる範囲は、「安価なカスタマイズ」全体より狭いものです。 承認済みの事例、評価、推論の提供、保守は引き続き必要です。チェックポイントが小さいことも、学習ログが正常に終わったことも、アプリケーションが改善した証拠にはなりません。

重みを固定しても、振る舞いまで固定されるわけではありません。 アダプターは、モデルの出力を意図的に変えます。そのため、一般的な能力、回答を拒否する際の振る舞い、応答品質についても回帰チェックが必要です。アダプターを外せばベースモデルの経路に戻せますが、有効にしたままで他の回答が変わらないという保証はありません。

LoRAがフルファインチューニングと同等になる保証はありません。 原論文は、評価したタスクで優れた結果を報告しています。それは手法の有効性を示す証拠であり、あらゆる条件で同等になるという定理ではありません。十分に評価したアダプターでも要件を満たせないなら、学習規模を大きくすれば解決すると考える前に、データ、ベースモデル、タスクを調べます。

どこでも通用する最適なランク、学習例の件数、GPU時間の目安はありません。 モデルのアーキテクチャー、系列長、ターゲットモジュール、実際のタスクによって実験条件は変わります。公開されている学習手順から始め、検証結果を根拠に次の変更を決めてください。

LoRAのファインチューニングでよくある質問

LoRAによるファインチューニングとは何ですか？

元のベースモデルの重みを固定したまま、追加した低ランク行列を学習する方法です。学習したアダプターがベースモデルの計算を補正します。重みをマージしない限り、推論にもそのベースモデルが必要です。

ファインチューニングは効果がないと証明されたのですか？

失敗した実験やベンチマークだけで、手法全体に結論を出すことはできません。実際のアプリケーションで使える最も強いプロンプトのベースラインと、学習したモデルを、未使用の事例で比較してください。必要な振る舞いが改善しなければ、リリースしません。

ファインチューニングにはどれくらい費用がかかりますか？

モデル、処理するデータ、学習手順、推論の提供方法によって変わります。LoRAは学習可能なパラメーターを減らしますが、データ準備、評価、ホスティングはなくなりません。まず、対応が確認できる学習から推論提供までの構成を選び、そのサービスなどの現行の公開料金を確認します。あらゆるジョブに当てはまる、実用的な一律料金はありません。

ファインチューニングにはどんな具体例がありますか？

承認済みのサポートメッセージに、正しいカテゴリー、エスカレーションの対応、応答形式を組み合わせて学習する例があります。学習例から身につけるのは、繰り返し使う判断パターンです。最新の顧客情報は、引き続きリクエスト時に渡す必要があります。

ファインチューニングは今も使われていますか？

はい。Together AI、Fireworks AI、Hugging Face PEFT、Unslothが、現在利用できる学習方法を公開しています。ただし、適切な選択かどうかは、プロンプトや、必要に応じた検索を導入した後に、どの失敗が残るかで決まります。

ファインチューニングはどう進めればよいですか？

タスクの評価指標を定め、ベースラインを作り、学習用と評価用のデータを分けて準備します。対応するモデルと学習手順を選んで学習し、検証結果で選択した後、デプロイ前に未使用の最終テストで比較します。デプロイした成果物も確認してください。

PEFTとLoRAはどう違いますか？

PEFTは、限られたパラメーターを学習する、パラメーター効率のよいファインチューニング手法の総称です。Hugging Face PEFTは、それらの手法を実装したライブラリの名称でもあります。LoRAは、この手法群に含まれる一つの方法です。

どのモデルをファインチューニングできますか？

利用するホスト型サービスやオープンな学習環境の正確な対応モデル一覧と、モデルのライセンスを確認します。学習への対応、アダプターを使った推論への対応、ベースモデルの重みの入手可否は、それぞれ別の確認事項です。モデルファミリー名だけでは判断できません。

ファインチューニングは別の言葉でどう表せますか？

この文脈では、タスクへの適応や、目的に合う事例を使った追加学習と表せます。プロンプトエンジニアリングが推論時に渡す指示を変えるのに対し、ファインチューニングは学習されたパラメーターを変えます。

次の開発で取り組むこと

来週は、すでに運用しているアプリケーションで繰り返し起きる失敗を一つ選び、明確な受け入れテストにしてください。承認済みの事例を集め、関連する事例を整理してからデータを分割し、最もよいプロンプトのベースラインを測定します。そのベースラインが、一貫して求められる振る舞いで失敗するなら、出力した成果物を推論で利用できる、文書化されたLoRAの手順を選びます。学習を始めるのは、これらを決めてからです。

AIシステムの開発と評価に役立つ実践ガイドは、ニュースレターに登録してお読みください。