local-llm
12 件の記事
-
LM StudioとOllamaの比較：GUI/CLI・API互換・複数モデル・ライセンス
LM StudioとOllamaをGUI/CLI、モデル形式、OpenAI/Anthropic互換API、複数モデル同時ロード、ヘッドレス運用、ライセンスと商用利用条件で比較。公式ドキュメントと利用規約を2026年9月14日に確認し、両方を同じPCで実行した結果も載せています。
local-llm / ollama / lm-studio / tips -
ローカルLLM用途別モデル選び2026：日本語要約・翻訳・コード・RAG・長文対応
日本語要約、翻訳、コード補完・エージェント、RAGの埋め込みと回答、長文コンテキストの5用途で、2026年9月時点にHugging Faceで実在を確認したQwen3.6/Gemma 4/gpt-oss/llm-jp-4/Swallow/PLaMo等を整理。数値は各モデルカードの公式値のみ引用。
local-llm / ollama / rag / tips -
ローカルLLMのVRAM別モデルサイズ早見：8〜32GBで載る量子化とKVキャッシュ
VRAM 8/12/16/24/32GB以上ごとに載るモデルと量子化を、Hugging FaceのGGUF実ファイルサイズとKVキャッシュの概算式で整理。RTX 3090でgpt-oss・Qwen3.6・Gemma 4を実際にロードしたVRAM実測（2026-09-14）付き。
local-llm / ollama / benchmark / tips -
ローカルLLMをClaude Code / Codex CLIから使う：Ollama接続の実行ログと限界、使い所
Ollamaのモデルを Claude Code（ANTHROPIC_BASE_URL）と Codex CLI（--oss）から呼ぶ手順と、RTX 3090での実行ログ（2026-09-14）、ローカルに任せる作業の判断基準を整理します。
local-llm / ollama / claude-code / codex-cli / コスト管理 / セキュリティ -
Ollama導入ガイド：Windows/Mac/Linuxのインストール・API・保存先
Ollamaの導入からollama pull/run、REST API（/api/generate・/api/chat）とOpenAI互換/v1、モデル保存先と環境変数までを整理。RTX 3090環境で2026年9月14日に実行した出力を根拠に書いています。
local-llm / ollama / windows / tips -
OllamaがWindowsでGPUを使わない・遅いときの確認手順：ollama psとログ
OllamaがWindowsでGPUを使わない、急に遅くなったときの確認手順です。ollama psのPROCESSOR列、server.logのGPU検出行、nvidia-smiの見方を整理し、RTX 3090でnum_ctxを上げてCPUへ一部オフロードされる様子を2026年9月14日に再現しました。
local-llm / ollama / windows / troubleshooting -
LM Studioの使い方：導入・モデル選び・API連携
LM Studioの導入から、ローカルLLMの選び方、日本語チャット、PDF・文書RAG、OpenAI互換API、CLI、MCP、重い・動かないときの対処までを初心者向けに詳しく解説します。
lm-studio / local-llm / gguf / rag / openai-compatible-api / mcp / windows / ai-tools -
ローカルLLMの費用回収：削減できる月額から電気代を引いて比べる
GPU初期費用13万円・月額削減3,000円・電気代651円という仮定なら単純回収は約55.3か月。契約を維持する場合との違い、測定済みベンチマークの範囲を整理します。
local-llm / cost / ollama / claude-code / codex-cli -
ローカルLLMの失敗と負の結果：J-WorkBenchの保存出力7ケース
2026年6月6日のJ-WorkBench保存出力から、JSON崩壊、根拠のない断定、二重計上などの失敗、ローカルが高得点だった例、長文課題で失敗を観測できなかった例を紹介します。人工課題の結果で、一般的な故障率の測定ではありません。
local-llm / ollama / troubleshooting / rag / benchmark -
ローカルLLMとクラウドの比較：J-WorkBenchの相対得点と測定の限界
2026年6月6日のJ-WorkBench保存記録を読み解きます。クラウド比66〜87点という相対指標、カテゴリ別の品質、AI採点の制約を整理。実業務を同じ割合で自動化できるという測定ではありません。
local-llm / ollama / claude-code / codex-cli / benchmark / rag -
自分のPCで J-WorkBench を回す — ローカルLLM実務ベンチの再現手順
日本語実務ベンチ J-WorkBench を自分のPCで再現する手順。Ollamaでモデルをpullし、npm run bench で7カテゴリを採点、結果からサイト用データを生成するまでを通しで解説します。サブスクCLIのフラグは要検証。
local-llm / ollama / benchmark / claude-code / codex-cli -
ローカルLLM GPU選び 2026年4月版: RTX・MoE・量子化
RTX 50/40/30シリーズとApple Siliconを前提に、VRAM階層、MoE、量子化、日本語モデル、Ollama運用の判断軸を整理します。
local-llm / rtx / gpu / quantization / moe / ollama / tensorrt-llm / japanese-llm / apple-silicon