1. 最初に揃えるのはモデルの版と配布形式
中国の公開LLMを日本語で使うとき、「DeepSeek」「Qwen」というブランド名だけでは動作条件を決められません。モデル名、配布元、タグまたはリビジョン、量子化方式、アプリの版を記録します。ここではQwen3-8BとDeepSeek-R1-Distill-Qwen-7Bを小型モデルの例にします。最新・最高性能を意味する選定ではありません。
2026年10月16日のOllama公式ライブラリ表示は次の通りです。これはダウンロード対象の情報で、必要RAMやVRAMの保証値ではありません。
| 配布タグ | 表示パラメータ | 形式 | 表示ファイル容量 |
|---|---|---|---|
| qwen3:8b | 8.19B | Q4_K_M | 5.2GB |
| deepseek-r1:7b | 7.62B | Q4_K_M | 4.7GB |
DeepSeekの7bタグはQwen2.5系の蒸留版です。タグを省略したdeepseek-r1や8bタグを、同じモデルとして比較しないでください。正式な版とライセンスはモデル比較表で確認できます。
2. 「ファイルが入る」と「快適に動く」は違う
必要メモリはウェイトに加え、文脈を保持するKVキャッシュ、実行時バッファ、OSや他のアプリの使用量で変わります。GPUへ全て載せるか、CPU側へ一部を分けるかでも速度は変わります。Apple Siliconのユニファイドメモリを、専用VRAMと別々に足し算することもできません。
概算を理解するため、8.2Bパラメータのウェイトを全て16bitと仮定すると、8.2×10億×2バイト＝約16.4GBです。全て4bitと仮定すれば約4.1GBですが、量子化用の情報や高精度で保持する部分は含みません。この算術上の下限を、実際の配布容量や推奨搭載メモリとみなさないでください。
| 手元の設備 | 最初に確認すること |
|---|---|
| 専用GPUなし | CPU対応、搭載RAM、短い入力での待ち時間。対話速度は機種ごとに測定 |
| 専用GPUあり | VRAMへの収容、GPU/CPUの配置、ドライバ対応、長文時のメモリ増加 |
| 統合メモリ型の端末 | OS用の余裕、実行アプリの対応、同時利用アプリの影響 |
| 大型MoEを検討 | 総ウェイトと分散構成を確認。GLM-5の40B、Kimi K2.6の32Bという活性化数だけで端末を選ばない |
3. ローカル実行を確認する最小手順
Ollamaを導入済みの端末なら、公式ライブラリが示す以下のタグを使えます。モデル取得にはネット接続が必要です。これは手順例であり、本稿での実行・速度検証は行っていません。
ollama run qwen3:8b別のターミナルで稼働モデルを確認できます。
ollama ps
curl http://localhost:11434/api/psモデル名、量子化形式、メモリ使用量、文脈長を記録します。文脈長を増やすとメモリ使用量も増えるため、最初は短い課題から始めます。ローカル版とクラウド版を選べるアプリでは、どこで推論しているかも確認してください。Ollamaはクラウド機能を無効にする設定を公式FAQで案内しています。外部検索やプラグインを併用する場合、それぞれの通信先は別に確認します。
4. 日本語の能力を自分の課題で評価する
以下は編集部が提案する評価設計です。結果表ではありません。固有名詞や数値の正解を人が用意し、モデルごとに同じ入力を使います。モデル指定の推奨設定は尊重し、差分を記録します。
| 課題 | 同じ入力例 | 評価する点 |
|---|---|---|
| 要約 | 公開した日本語記事を400字程度へ要約 | 事実の欠落、元文にない断定、指定文字数 |
| 数値抽出 | 日付・金額・通貨の異なる短文を表へ変換 | 単位変換、通貨の保持、不明項目を補わないこと |
| 敬語・表現 | 依頼メールを丁寧に修正 | 主体や期限を変えず自然な日本語にできるか |
| 根拠付き回答 | 与えた資料だけで回答、情報なしの設問も混ぜる | 根拠の位置、回答不能と判断できるか |
各課題を複数回実行し、正解率・重大な誤り・初回応答までの時間・全体時間を記録します。モデル版、端末、量子化、入力/出力トークン数、思考モード、文脈長も保存します。短文での好印象を長文や業務全体の保証へ広げず、量子化前後も同じ課題で比較します。料金を含めたAPIとの使い分けはAPIガイドへ進んでください。
関連ガイドと企業の動向
企業別のニュースは、アリババ、DeepSeek、智譜AI、Moonshot AI、MiniMaxの時系列ページで確認できます。
更新：2026年10月16日。既存記事を継続参照用ガイドへ再構成しました。初出日とURLは維持しています。仕様・料金は確認日の資料に基づき、実行速度や日本語能力を編集部が実測した記事ではありません。
コメント
...