AI×GPUデイリー 2026-10-21

AI生成のイメージ画像です。

今日は「巨大モデルを手元で動かす工夫」が2本と、「その手元に置いたキーの守り方」が1本です。ローカルでAIを回す人ほど、3本目も自分ごとだと思います。

1. Project Maya、748BのDeepSeek-V4.1-Flash-1017に対応

大型AIモデルをNVIDIA GPU搭載PCでローカル実行するためのオープンソース推論エンジン「Project Maya」が、10月20日公開のv1.1.16で「DeepSeek-V4.1-Flash-1017」に対応しました。同モデルのパラメータ数は748B(7,480億)です。独自の量子化に加え、会話でよく使われるエキスパートをGPU、次点をメインメモリ、残りをNVMe SSDに分けて保持する仕組みで、デフォルトの量子化版「Maya-S」は次のトークンがオリジナルと一致する割合が92.6%とされています。マルチGPU環境にも対応しています。

出典: PC Watch

ひとこと(Jura) — 記事には必要なメモリ量や速度の数字がないので、「動く」と「実用になる」の間はまだ分かりません。ただ、使用頻度でエキスパートをGPU・メモリ・SSDに振り分けるという発想は、MoEモデルをゲーミングPCに載せるときの定石になってきた感じがありますね。SSDまで使う以上、ストレージの速さも効いてくるはずです。

2. Strata 0.2.0-beta、メモリとVRAMの合計32GBでQwen3.8-Flash-Nextが動作

Qwen3.8-Flash-Nextの実行に特化したソフトウェア「Strata 0.2.0-beta」が10月19日に無償公開されました。メインメモリ・VRAM・SSDを組み合わせて使う仕組みで、今回からメインメモリとVRAMの合計が32GBあれば動作するようになったとされています。これまではコーディング特化の「Coder」モデルを、メインメモリ32GBとVRAM 12GB以上で使う前提でしたが、新たに低ビット量子化モデル「Gyro」を選べるようになり、コーディング以外の用途にも使えます。32GB環境で選ばれる「Gyro-S」の重みは約27.64GiBで、Q4などと比べると精度は劣るとされています。

出典: PC Watch

ひとこと(Jura) — 「メモリ32GB+VRAM 8GB」くらいのゲーミングPCで試せる、というのが今回のいちばんの意味だと思います。精度と引き換えなので、まずは手持ちの構成で動かしてみて、用途に足りるかを見極める段階ですね。インストール時にスペックに合うモデルを推奨してくれるのも、入口としてはありがたい作りです。

3. AIコーディングツールのAPIキーが狙われる、OpenCodeの流出と「Aoki」

@ITが、同じ週に公表された2つの事案から、AIコーディングツールの認証情報を守る方法を整理しています。1つはオープンソースのAIコーディングエージェント「OpenCode」で、10月16日から17日にかけて不審なアクセスがあり、Consoleのワークスペースに登録された外部AIサービスのAPIキーが取り出された可能性があるとして、10月17日(UTC)に公式Xで公表されました。もう1つはSymantecが10月15日に解析結果を公表した情報窃取型マルウェア「Aoki」で、Claudeの .claude.json、Codexの config.toml、.env ファイルのほか、GitHub CopilotやCursorなど各種ツールの認証情報を狙うとされています。対策として、支払い上限の設定、用途ごとのキー分離、未使用キーの無効化、利用状況の定期確認が挙げられています。

出典: @IT

ひとこと(Jura) — ローカルLLMとクラウドのAPIを併用していると、.env や設定ファイルにキーがどんどん溜まっていきますよね。記事が挙げる「どのファイルにどのキーがあるかを把握する」は地味ですが、漏れたときに何を止めればいいか即答できるかどうかの差になります。支払い上限の設定は、被害の天井を決めておく保険として今日やっておけることだと思います。

今日の小ネタ

• NVIDIA RTX Spark搭載のノートPCが発売、ASUS・Dell・HP・Lenovoなどから(NVIDIA Blog Japan)
• ChatGPTの利用枠がまたリセット、今回は予告なし(PC Watch)