操作マニュアル
GGUF Generator は、対話学習・LoRA適応・ペア自動生成・量子化変換をスマートフォン上で完結できるアプリです。主な機能はホーム画面のタイルから開く4つの画面に分かれています。
① 共通設定
- LLM AI サーバ URL（既定
http://127.0.0.1:11434）を設定し、「取得」でモデル一覧を読み込みます（起動時にも自動取得）。 - 生成モデル（LLM）と埋め込みモデル（RAG）を選択します。「サーバ起動」で外部のローカル API サーバを起動できます。状態タイルで接続可否を確認できます。
- デフォルト保存先（Downloads / Documents）を指定します。個別のファイル参照は標準ダイアログで選択します。
- 入力プロファイルで各種設定を名前付きで保存・復元できます。
② 対話学習（新規 GGUF）
指示と応答のペアをチャット形式で教え込みながら、小型 LLM モデルをその場でゼロから作成します。学習状態は「Retrainable GGUF」として保存・再開できます。
基本操作
- 「新規作成」でモデルを初期化。構成（dModel / ff / 層数 / 文脈長）と学習率を設定します。
- 指示を入力 → 「新規学習」 → 応答を入力 → 「新規学習」で学習＋推論確認。
- 学習後は「再学習」ボタンに変わります。タップすると直前のペアを繰り返し強化できます。
- 「応答学習」は直前のモデル応答を指示として次の入力を応答に学習します（会話フロー学習用）。
- 「推論試行」で現在の学習状態を確認できます。
- 「GGUF出力」で F32 / F16 / Q8_0 を選んで Retrainable GGUF を保存します。
連続学習（タップで展開）
- ペアファイル取込: JSONL を一括インポート。BPE 語彙を再構築してコーパス全件を再学習します。バックグラウンドで実行し、アプリを閉じても継続します。
- 目標ロス: スライダで指定した損失値まで追加学習します。ペアファイル取込時も目標ロスが参照され、到達した時点で自動停止します。
- モデル再生成: 語彙を全データから再構築し、埋め込みを拡張して全ペアで再学習します。
GGUF 読込からの継続
「GGUF読込」で以前に保存した Retrainable GGUF を読み込むと、教材ペア履歴と Adam 最適化状態が復元され、続きから学習を再開できます（Retrainable GGUF の詳細）。
③ 対話学習（LoRA）
既存の GGUF モデルに LoRA アダプタを重ねて対話学習します。基底重みを凍結し、アダプタのみを学習するため軽量です。
対応アーキテクチャ
llama / gemma3 / qwen3 / LFM2（1B 未満推奨）
基本操作
- 「モデル読込」でベース GGUF を読み込みます。
- 「新規学習」「応答学習」で対話形式でアダプタを学習します（操作は新規GGUF と同じ）。
- 「アダプタ出力」で LoRA アダプタ GGUF を保存します。
- 途中状態（教材ペア＋最適化状態）はアダプタ GGUF に内蔵。「アダプタ読込」で再開できます。
連続 LoRA 学習
- ペアファイル取込: JSONL を一括インポートして全ペアで LoRA 再学習します。バックグラウンドで実行。
- 全ペア再学習: 設定（LR・回数）を変更後に全コーパスで再学習する際に使用します。
LoRA 設定（タップで展開）
| パラメータ | 説明 | 目安 |
|---|---|---|
| rank (r) | アダプタの容量（低ランク次元） | 4〜16（標準8） |
| alpha (α) | 適用強度。実効スケール = α÷r | rank と同値か1〜2倍 |
| 学習率 | Adam の更新幅 | 0.001〜0.003 |
| 学習回数 | ペアあたりの最大エポック数 | 1〜3 |
| targets | 対象投影（q,v が既定） | q,k,v,o,gate,up,down |
④ ペア編集・生成
LLM サーバを使って学習ペアを自動生成・編集します。生成したペアは対話学習のペアファイル取込にそのまま渡せます。
ペアリスト操作
- 行タップで編集、長押しでコピー追加・削除。チェックで複数選択。
- 「読込」で JSONL ファイルを読み込み、「保存」で書き出します。
LLM 操作
- 新規ペア追加: プロンプト指示（任意の素材: URL / Wikipedia 1件）から N 件を生成して追加します。
- ペア編集: 選択したペアを1件ずつ LLM で変換します（翻訳・言い換え・書き換えなど）。
- 派生追加: 選択したペアを種にして、各ペアから N 件の新しいペアを派生生成します。
LLM 操作を使うには「共通設定」でサーバ URL とモデルを先に設定し、「取得」でモデル一覧を取得してください。
⑤ 量子化変換
既存の GGUF ファイルを別の精度・量子化型に変換します。
- 「変換元 GGUF 選択」でソースファイルを指定します。
- 変換先の量子化型を選択します（F32 > F16 > Q8_0 > Q6_K > Q5_K_M > Q4_K_M > Q3_K_M > Q2_K の順に小型・高速・低精度）。
- 「量子化変換を実行」をタップして変換します。
- 1次元テンソル（正規化係数）は常に F32 で保存します。
- 行長がブロックサイズの倍数でない行列は F16 に自動フォールバックします。
早期停止・評価（任意・全学習モード共通）
- 「早期停止・評価を有効にする」をオンにすると、評価が合格閾値（既定 60%）に達した時点で学習を自動終了します。
- 期待値の指定: 手動キーワード（「入力 => キーワードA|キーワードB」を1行1件）または 自動トークン抽出（surprisal 上位）から選べます。
- 合格閾値・評価間隔・生成最大トークン・評価件数を指定できます。
ヒント
- 段階目標ロスは値が大きいほど弱学習（汎化・判断の余地大）、小さいほど強学習（暗記）になります。
- 対話学習は新しいペアを教えるたびにコーパス全件を再学習します。ペアが増えると重くなりますが忘却を防ぎます。
- 端末内学習は CPU・メモリを多く使用します。長時間学習では通知権限・電池最適化除外の許可を推奨します。
- LLM 操作（ペア編集・生成）には Ollama 互換サーバが必要です。同端末または同一 LAN 上に立ち上げてください。
- Retrainable GGUF の詳細は こちら。