本文へスキップ

ローカルLLMとクラウドの比較:J-WorkBenchの相対得点と測定の限界

2026年6月6日のJ-WorkBench保存記録を読み解きます。クラウド比66〜87点という相対指標、カテゴリ別の品質、AI採点の制約を整理。実業務を同じ割合で自動化できるという測定ではありません。

SHAYOUWORLD 更新 約4分

J-WorkBenchは、日本語の議事録、メール、規程照合など7カテゴリの人工課題を使う自作ベンチマークです。本稿は2026年6月6日の保存記録を整理します。RTX 3090 24GB上のローカル4モデルと、クラウドのサブスクCLI3種類を比較した当時の結果で、現在のモデルを再測定したものではありません。

この測定から分かること

  • 当時の課題では、ローカルの相対得点はqwen2.5:14bが86、gpt-oss:20bが87、qwen2.5-coder:14bが68、qwen2.5:7bが66でした。
  • 総合点は品質だけの順位ではありません。速度・経済性・ローカル価値への評価が合計40%入り、ローカルを有利にする設計上の仮定があります。
  • 品質の集計軸ではクラウド群の点が高く、議事録・メールでは近い結果もありました。どちらも今回の課題・採点に限った観察です。
  • 長文課題は全モデル満点でしたが、問題文に正解が明示されすぎる既知の制約があります。長文処理に十分な性能があるという証拠にはできません。

相対指標と総合点を分けて読む

「代替率」という記録上の名称はクラウド比の得点を表します。一方、総合点は正確性35、信頼性20、速度15、経済性15、ローカル価値10、導入容易性5という重みで集計しています。総合トップ4をローカルが占めても、品質で上回ったとは判断できません。

経済性は計算用の仮定、ローカル価値は評価上の加点です。GPU取得費や保守費を含む総保有コスト、システムの無停止、外部通信が一切ないことを実証する指標ではありません。費用は電気代を差し引く計算例を使い、自分の条件で計算します。

J-WorkBench リーダーボード

日本語の実務(社内規程RAG・契約照合・議事録・メール敬語・表/CSV・コード保守・長文耐性)で、 手元PCのローカルLLMがサブスク版クラウドの何割を肩代わりできるかを5軸で測ったスナップショット。 データ確定日: 2026-06-06

クラウド代替率ランキング

クラウド最良 = 100 が基準線
  1. 1 Codex (ChatGPT) クラウド クラウド基準 100%
  2. 2 Claude (Claude Code / Max) クラウド クラウド基準 100%
  3. 3 Gemini (Gemini CLI) クラウド クラウド基準 100%
  4. 4 gpt-oss:20b ローカル ゲーミングPC級 87%
  5. 5 qwen2.5:14b ローカル ゲーミングPC級 86%
  6. 6 qwen2.5-coder:14b ローカル ゲーミングPC級 68%
  7. 7 qwen2.5:7b ローカル ゲーミングPC級 66%

5軸スコア(重み付き合計100点満点)

各軸0–100 / 重みは軸名に併記
Codex (ChatGPT) 総合 79
  • 実務正確性×35 98
  • 信頼性×20 99
  • 速度UX×15 76
  • 経済性×15 60
  • ローカル価値×10 0
  • 導入容易性×5 95
Claude (Claude Code / Max) 総合 73
  • 実務正確性×35 94
  • 信頼性×20 98
  • 速度UX×15 43
  • 経済性×15 60
  • ローカル価値×10 0
  • 導入容易性×5 92
Gemini (Gemini CLI) 総合 72
  • 実務正確性×35 89
  • 信頼性×20 97
  • 速度UX×15 50
  • 経済性×15 60
  • ローカル価値×10 0
  • 導入容易性×5 95
gpt-oss:20b 総合 89
  • 実務正確性×35 86
  • 信頼性×20 96
  • 速度UX×15 83
  • 経済性×15 95
  • ローカル価値×10 95
  • 導入容易性×5 70
qwen2.5:14b 総合 91
  • 実務正確性×35 85
  • 信頼性×20 95
  • 速度UX×15 98
  • 経済性×15 95
  • ローカル価値×10 95
  • 導入容易性×5 70
qwen2.5-coder:14b 総合 83
  • 実務正確性×35 66
  • 信頼性×20 89
  • 速度UX×15 100
  • 経済性×15 95
  • ローカル価値×10 95
  • 導入容易性×5 70
qwen2.5:7b 総合 82
  • 実務正確性×35 65
  • 信頼性×20 88
  • 速度UX×15 99
  • 経済性×15 95
  • ローカル価値×10 95
  • 導入容易性×5 68

カテゴリ別ヒートマップ

行=モデル / 列=タスク / 濃いほど高スコア(0–100)
モデル \ タスク 社内規程RAG契約・見積照合議事録ToDoメール敬語表/CSVコード保守長文耐性
Codex (ChatGPT) 99 99 91 100 98 100 100
Claude (Claude Code / Max) 82 100 91 93 99 100 100
Gemini (Gemini CLI) 95 97 91 93 98 48 100
gpt-oss:20b 71 79 86 100 98 83 100
qwen2.5:14b 77 81 92 100 56 100 100
qwen2.5-coder:14b 75 47 86 90 51 28 100
qwen2.5:7b 39 57 88 85 31 83 100

称号

各モデルの個性を1行で
Codex (ChatGPT)
クラウド代替率 100% 月額破壊力 0 秘密文書適性 0% 社畜耐性 97% 普通のPC適性 0% 待てる速度か指数 76
Claude (Claude Code / Max)
クラウド代替率 100% 月額破壊力 0 秘密文書適性 0% 社畜耐性 97% 普通のPC適性 0% 待てる速度か指数 43
Gemini (Gemini CLI)
クラウド代替率 100% 月額破壊力 0 秘密文書適性 0% 社畜耐性 96% 普通のPC適性 0% 待てる速度か指数 50
gpt-oss:20b
クラウド代替率 87% 月額破壊力 3 秘密文書適性 75% 社畜耐性 94% 普通のPC適性 70% 待てる速度か指数 83
qwen2.5:14b
クラウド代替率 86% 月額破壊力 3 秘密文書適性 78% 社畜耐性 88% 普通のPC適性 70% 待てる速度か指数 98
qwen2.5-coder:14b
クラウド代替率 68% 月額破壊力 3 秘密文書適性 62% 社畜耐性 82% 普通のPC適性 70% 待てる速度か指数 100
qwen2.5:7b
クラウド代替率 66% 月額破壊力 3 秘密文書適性 47% 社畜耐性 79% 普通のPC適性 70% 待てる速度か指数 99
方法論: bench/SPEC.md / 背景: docs/adr/0025-*.md。 クラウドは従量APIではなくサブスク版CLI(claude / codex / gemini)の現実構成を基準にしている。 採点は3層: 客観(決定的・条項は部分一致)/ルーブリック(Claude独立採点)/コード課題はテスト通過。 総合点はコスト・速度・ローカル価値(45%)を含むためローカルが上位に出るが、品質(35%軸)はクラウドが明確に上位。 生トランスクリプトは bench/results/2026-06-06/ に全件公開。

カテゴリごとの品質得点

保存記録のscore01を100倍した値です。範囲は比較したモデル間の最小・最大で、統計的な信頼区間ではありません。

ローカル4モデル / RTX 3090
クラウドCLI3種類
長文
100(課題設計に制約)
100(課題設計に制約)
議事録ToDo
86〜92
91
メール敬語
85〜100
92〜100
表/CSV
31〜98
98
社内規程RAG
39〜77
82〜99
契約・見積照合
47〜81
97〜100
コード保守
28〜100
48〜100
2026年6月6日の保存済み課題・設定・採点方式に限った品質得点。ルーブリックにはClaudeによるAI採点を含みます。

表/CSVではgpt-oss:20bが98、他のローカル3モデルが31〜56でした。この結果だけから現在の製品選びを「一択」とは決められません。コード保守ではqwen2.5-coder:14bが28、Geminiが48で、ローカルかクラウドかという区分だけでは失敗を予測できませんでした。

具体的な出力は失敗例と負の結果の記録で確認できます。規程・契約の扱いは、クラウドの点が高くても人による照合や組織の利用承認を省略する根拠にはなりません。

採点の制約

環境は保存記録上、RTX 3090 24GB、Ollama 0.19、温度0・seed7です。ルーブリックはClaudeを別実行のAI採点者として168ペア再採点していますが、独立した第三者や専門家による監査ではありません。採点モデルへの依存や、内容の誤りを見逃す可能性が残ります。

数値・JSONなどの機械的な採点とルーブリック採点が混在しています。慎重に条件付きで答えた出力を部分一致の規則が過小評価する可能性もあります。コード保守や長文など、Claudeによる二重採点をしていない課題もあります。

長文課題の全員満点は問題設計の弱さを含みます。少数の人工課題から、機密文書の安全性、実務全体の正答率、将来の品質や速度を推定しないでください。

自分の用途で確かめる手順

  1. まず架空データで、実際に任せたい処理を代表する課題と正解・失敗条件を用意します。
  2. 両方の環境で出力を確認し、正答だけでなく再作業と人の確認時間を記録します。
  3. 外部通信、ログ保存、連携ツール、同時実行数を確認します。ローカル起動だけでは通信しないことの証明になりません。
  4. 実際に削減できるクラウド費用から、電気代など追加費用を引いて比較します。

この手順は今後の評価案です。今回、実業務を使った検証やモデルの再実行は行っていません。

出典と次に読む記事

2026年9月21日訂正:相対得点を実業務の自動化率へ一般化する説明を訂正し、表/CSVのクラウド得点範囲を保存記録に合わせました。価格・モデル性能の再測定ではありません。

関連して読む

この記事の情報・検証メモ
Tags
公開日
情報確認
参考リンク
2件
更新性
定期更新
更新管理

仕様・料金・提供範囲が変わりやすいテーマは、公開日・更新日・情報確認日を分けて管理します。 導入前には必ず記事末尾の一次情報と公式ドキュメントで最新状況を確認してください。

Primary sources

一次情報・参考リンク

About the author
SHAYOUWORLD

日本の公共データAPIを使うMCPサーバーを作って公開し、ローカルLLMを自分のGPUで測った記録を、一次情報・検証ログ・失敗例とあわせて整理します。