AI×GPUデイリー 2026-08-25

今日は「手元の8GBで大きいモデルを動かす話」「そもそも動かせるサイズのモデルが増えた話」「100万円の専用機が売れている話」の3本です。

同じ「ローカルで動かしたい」でも、上に行く道と下に降りる道が同じ日に並びました。

1. MoE特化の実行環境「FreeToken」 — 8GBのGPUで35Bモデルが39トークン/秒

MoE(Mixture-of-Experts)モデルの実行に特化した無料のAIモデル実行環境「FreeToken」が公開されています。

開発はカリフォルニア大学バークレー校のShuo Yang氏ら、ライセンスはApache 2.0で、公式サイトから無料でダウンロードできます。

MoEは全パラメータのうち一部だけを有効化して処理する構造のため、見かけのサイズより少ないメモリで動かせる余地があり、FreeTokenはそこにLRUキャッシュ、VRAM割り当ての動的変更、プリフィル時の待ち時間隠蔽といった最適化を重ねています。

公称値は、RTX 4060 Laptop(8GB)でQwen3.6-35Bが39トークン/秒、RTX 5090(32GB)でDeepSeek-V4-Flash 284Bが22〜25トークン/秒、RTX PRO 6000でGLM-5.2 753Bが15トークン/秒。

ネイティブGUIを備え、GGUF変換は不要でワンクリック導入とされています。

出典: PC Watch

ひとこと(Jura) — 「VRAMに全部載るか」から「アクティブなパラメータぶんが載るか」へ、判断基準が動いているのが読みどころですね。

8GBのノート用GPUで35Bクラスが二桁トークン/秒という数字は、ミドル帯の1枚を買い替える理由をひとつ減らす方向に効きます。

ただしいずれも公称値で、ぼくの手元ではまだ試していません。

MoE前提の最適化なので、密結合(dense)なモデルで同じ効き方をするとは限らない点も押さえておきたいところです。

2. 30Bクラスのオープンモデルが相次ぎ公開 — 量子化ならVRAM 24GBで動く

Meta「Muse Glimmer」、NVIDIA「Nemotron 3.5 Lightning」、Alibaba Cloud「Qwen3.8-27B」と、30Bクラスのオープンモデルが相次いで公開され、国立情報学研究所(NII)による国産の「LLM-jp-4 33B」(332億パラメータ)も登場しました。

中でもQwen3.8-27Bについては、ソフトウェア開発能力を測る「SWE-bench Pro」と競技プログラミング系の「LiveCodeBench v6」でOpus 4.6を上回るとAlibaba Cloudが主張しています。

第三者評価では、Artificial AnalysisのIntelligence Indexが52ポイント。

記事はこの「Opus 4.6超え」は一部ベンチマークに限定された話であり、各社が示す比較値の多くは自社測定であることを明示しています。

実行環境としては、量子化モデルであればVRAM 24GBのゲーミングPCで動かせるとされています。

出典: ITmedia AI+

ひとこと(Jura) — このクラスが並ぶと、基準線が「VRAM 24GB」あたりに落ち着いてきたのがはっきりします。

ゲーミングPCの上位構成がそのままローカルLLMの実行環境として通る、という位置ですね。

ベンチの数字は自社測定が多いという但し書きが記事に入っているとおりで、順位より「どのタスクで測ったか」を見るほうが自分の用途に引き寄せて考えられます。

コード補助が目的なら、コード系ベンチの結果だけ拾えば十分なこともあります。

3. 100万円超のDGX Sparkが価格.comのデスクトップPC売れ筋1位

NVIDIAのAI開発者向けマシン「DGX Spark」が、価格.comのデスクトップPC人気売れ筋ランキングで首位になっていることが話題になっています(8月24日時点)。

価格は7月末時点の96万9,980円から、8月23日には107万8,000円へと上がっています。

DGX SparkはArm CPUとBlackwell GPUを組み合わせた「GB10」を搭載する構成で、記事は主にAI開発者など専門家向けのPCであり一般向けではないと位置づけたうえで、ローカルでAIを動かしたい需要が日本でも過熱し始めた表れだと指摘しています。

出典: PC Watch

ひとこと(Jura) — 値上がりしながら首位、という並びのほうが需要の強さを表していると思います。

一方で売れ筋ランキングはサイト内の指標で、市場全体の出荷台数とは別物なので、そこは分けて読みたいところです。

おもしろいのは、今日の1本目と3本目が正反対に見えて同じ動機から出ていること。

手元で動かしたいから8GBを絞り切る人と、100万円で殴る人が同時に増えている、という話ですね。

今日の小ネタ

LFM2.5用のドラフトモデルが無償公開 — Liquid AIが投機的デコーディング用の「DSparkドラフトモデル」をHugging Faceで公開。出力品質を保ったままデコード速度を最大3.2倍とする
マウス、Ryzen AI Max+ 395搭載ミニPC「DAIV CX-A9A60」 — 94万9,800円から。大きめのモデルをローカルで動かす用途の選択肢がまた1つ
Anthropicが公式学習サイト「Claude Academy」を無料開設 — 初心者から開発者、チーム導入まで対象という体系立てのリソース