AI×GPUデイリー 2026-10-10

AI生成のイメージ画像です。

今日は「言語モデル」「画像生成」「検索用の埋め込み」の3本で、どれも重みが公開されて手元のPCで動かせる種類のモデルです。大きなモデルを小さく詰める話と、小さなモデルで扱えるデータを広げる話が同じ週に並んだと思います。

1. Qwen3.8-27Bを約2bit・7.89GBに量子化した「Saluki 27B」公開

Underdogは10月8日(米国時間)、Alibabaの「Qwen3.8-27B」をベースに約2bitまで量子化した「Underdog Saluki 27B 1.0」を公開しました。ファイルサイズは7.89GBで、フル精度版の54GBから約7分の1になり、メモリ16GBのノートPCで動作するとうたっています。形式はGGUFで標準のllama.cppや派生アプリでそのまま動き、ライセンスはApache 2.0、配布先はHugging Faceです。同社の検証では、BFCL v4から抽出した120タスクの独自ベンチマークでフル精度版の84タスクに対し88タスクを解いた一方、SWE-bench VerifiedやMBPP+、数学推論ではフル精度版を下回ったとしています。

出典: PC Watch

ひとこと(Jura) — ベンチマークは公開元自身の検証なので、得意・不得意がはっきり書かれている点のほうを読みどころにしたいですね。ツール呼び出しには強いがコーディングや数学では下回る、並列ツール呼び出しの約5分の1で軽微な書式崩れがある、という制約が明記されているので、用途を絞って試す前提のモデルだと思います。

2. 画像生成を8ステップで行う「Qwen-Image-2.1-Turbo」重み公開

AlibabaのQwenチームは10月9日(日本時間)、画像生成・編集モデル「Qwen-Image-2.1-Turbo」をオープンウェイトで公開しました。9月20日公開の「Qwen-Image-2.1」の高速版で、元モデルのサンプルコードが40ステップを前提とするのに対し、デノイジングを8ステップに抑えています。画像生成部分のパラメーター数は元モデルと同じ7Bで、正方形なら2,048×2,048ピクセル、横長は最大2,752×1,536ピクセルで生成できます。配布先はHugging FaceとModelScopeで、ライセンスは元モデルと同じ「Qwen Research License」です。

出典: PC Watch

ひとこと(Jura) — 注意したいのはライセンスで、無償で使えるのは研究・評価目的に限られ、商用利用には別途申請が必要とされています。必要VRAMや1枚あたりの生成時間は記事に記載がないので、手元のGPUで回せるかは公開元の情報を確認してから判断するのがよさそうです。

3. 写真・動画・音声も扱う0.74Bの埋め込みモデル「EmbeddingGemma 2」

Googleは10月6日(現地時間)、写真・動画・音声・文字・コードの5種類のデータを扱える埋め込みモデル「EmbeddingGemma 2」を無償公開しました。パラメーター数は0.74Bで、文字用の本体0.27Bに画像用0.17B、音声用0.3Bの部品を加えた構成です。入力枠は8Kトークンで、一度に音声なら最大5.5分、画像29枚、動画58フレームを処理でき、埋め込みの次元数は768から128まで減らして保存容量を最大6分の1にできるとされています。ライセンスはApache 2.0で商用利用可、Hugging FaceとKaggleで配布され、transformers、llama.cpp、Ollama、MLX、vLLMなどに対応しています。

出典: PC Watch

ひとこと(Jura) — ローカルRAGで「文章は検索できるが、写真や録音は別の仕組み」になりがちなところを、1つの小さなモデルでまとめて扱えるのが要点ですね。量子化時のメモリ使用量は全機能構成でも約567MB(Pixel 11 Proでの公称値)とされているので、GPUを積んだPCなら生成モデルと並べて常駐させる構成も考えやすいと思います。