AI×GPUデイリー 2026-09-10
llama.cppの旧読み込み引数整理、Intel GPUのVulkan修正、IQ4_XS専用処理。今日の3本です。
AI生成のイメージ画像です。
今日はllama.cppの更新から、手元のローカルLLM環境に関わる3本です。起動スクリプトの互換性、Intel GPUの不具合修正、量子化モデル向けの処理を分けて確認します。
1. llama.cpp、旧メモリ読み込み引数をパーサーから削除
llama.cppの9月9日にマージされた変更では、旧来の --mmap、--mlock、--direct-io を引数パーサーから削除しています。公式PRは、これらが --load-mode に置き換えられてからの整理だと説明しています。関連するb10875の更新を取り込む場合、古い引数を残した起動スクリプトは確認の対象になります。
ひとこと(Jura) — モデルを変えなくても、実行側の更新で起動方法が変わることがありますね。以前のコマンドをそのまま使う前に、更新先のヘルプと読み込み設定を照合しておくと切り分けがしやすいと思います。
2. Intel GPU向けVulkan処理、作業グループ数の上限超過を回避
llama.cppのb10881では、VulkanのFILL処理で作業を二次元に分配する変更が入りました。公式説明では、Intel GPUでQwen 3.8 flash nextを扱う際に maxComputeWorkGroupCount を超える問題への対応とされています。全モデルの高速化をうたう更新ではなく、特定の処理で上限を超える問題を避けるための修正です。
ひとこと(Jura) — GPUで止まったとき、原因が必ずVRAM不足とは限らないという例ですね。エラー名と使っているバックエンドを残しておくと、こうした修正が自分の環境に関係するか判断しやすくなります。
3. VulkanのIQ4_XS向けに専用シェーダーを追加
llama.cppのb10871では、IQ4_XS形式の行列・ベクトル計算に専用のVulkanシェーダーが追加されました。従来の汎用処理を専用処理に置き換える変更です。リリースノートはRDNA4でモデルに応じて約6〜17％のトークン生成改善を報告していますが、これは開発側の報告で、このサイトでの実測ではありません。
ひとこと(Jura) — 同じGPUでも、量子化形式とバックエンドの組み合わせで効く更新が違いますね。この数字を別世代のGPUへ当てはめず、手元のモデル形式から関係の有無を確認するのがよさそうです。