AI×GPUデイリー 2026-09-08
llama.cppのVulkan演算追加／CUDAの量子化処理改善／ARM環境のビルドを支えるテスト修正。今日の3本です。
今日はローカルLLMの実行基盤「llama.cpp」の更新から3本です。いずれも公式のプレリリースに記載された変更で、GPUの処理と開発環境の違いに注目します。
1. llama.cpp、VulkanにDeepSeek-V4向けの融合演算を追加
llama.cppのプレリリース「b10844」で、VulkanバックエンドにDeepSeek-V4のハイパーコネクション向け演算が追加されました。対象は「DSV4_HC_COMB」「PRE」「POST」の3種類で、複数の処理をまとめて実行する実装です。公式説明では、CUDAとMetalにはすでに対応する演算があり、Vulkanでは分かれた基本演算を連ねて処理していたとしています。
ひとこと(Jura) — 同じモデルでも、選ぶバックエンドで処理の組み方が違うんですね。更新の効果を確かめるなら、使っているモデルとバックエンドを記録して比較すると、自分の環境に関係する変更を追いやすいと思います。
2. CUDAのQ4_K・Q5_K処理を改善、DGX Spark向け先読みも追加
プレリリース「b10840」では、CUDAでQ4_K・Q5_K形式のデータを展開する処理が変更されました。条件分岐を使わない計算に置き換え、行列とベクトルの積を計算する処理で、スケールの展開が列ごとに繰り返されるのを防ぐ内容です。公式説明が改善対象として挙げているのは、バッチサイズが1を超える場合です。あわせて、DGX Sparkに限定したL2キャッシュへの先読み処理も追加されています。
ひとこと(Jura) — 量子化形式に加えて、バッチサイズも確認する必要がある更新ですね。GPU名だけで効果を判断せず、普段の実行条件が説明に当てはまるかを見るところから始めるのがよさそうです。
3. ARM環境のビルドに関わるL2_NORMテストを修正
プレリリース「b10850」には、L2_NORMのテストで使う配列を初期化する修正が入りました。公式説明によると、GCC 12を使うaarch64のReleaseビルドでは、初期化されていない可能性を示す警告がビルドの失敗につながっていました。配列の初期化に加え、バッチ数をローカル変数に読み取る変更も記載されています。
ひとこと(Jura) — ソースからビルドする人にとっては、こうした修正も環境を維持するための材料になりますね。ビルドが止まったときにコンパイラの版と警告文を残しておくと、該当する修正を探しやすいと思います。