AI×GPUデイリー 2026-09-12

AI生成のイメージ画像です。

今日はローカルAIの処理に関する修正2本と、国内向けゲーミングPCの新構成です。性能を見るときに、入力内容や実行ソフト、搭載メモリを切り分ける材料を集めました。

1. llama.cpp、画像入力後の投機的デコードを修正

llama.cppは9月11日、画像入力後の投機的デコードに関する修正を取り込みました。候補の文章を先に生成する側へ渡す値を、トークン数から実際の位置に修正する内容です。PRでは画像入力後に性能が落ちる報告を受けて再現したと説明し、影響はDFlashだけでなく他のドラフターにも及ぶとしています。改善結果は特定のGPU・モデル・設定での検証として掲載されています。

出典: llama.cpp公式GitHub・PR #28715

ひとこと(Jura) — 文字だけの入力では気づきにくく、画像を入れた後に差が出る修正ですね。手元の速度を比較するときも、文章だけのテストと画像付きのテストを分けると原因を追いやすいと思います。

2. llama.cpp、AMD向けFlash Attentionの処理を調整

llama.cppでは同じく9月11日、CUDA/HIPのFlash Attentionを調整するPR #28102が取り込まれました。RDNA 4でヘッドサイズ256の処理を有効化する変更や、カーネル選択の見直しを含みます。PRにはAMD GPUでモデルやマイクロバッチサイズを変えた比較が掲載されており、改善幅は条件によって異なります。すべてのモデルや生成工程が一律に高速化するという内容ではありません。

出典: llama.cpp公式GitHub・PR #28102

ひとこと(Jura) — 長い入力を読み込む処理と、返答を順番に生成する処理では、同じ変更でも効き方が違いますね。GPU名だけで比較せず、モデル・入力長・実行設定も一緒に記録すると、更新の効果を判断しやすいと思います。

3. GIGABYTE、9800X3DとRTX 5080搭載のAORUSを国内量販店へ

PC Watchの9月11日付記事によると、GIGABYTEはAORUS PRIME 5 AP551の国内量販店向け構成「AP5A7N8-5103」を9月12日に発売します。Ryzen 7 9800X3DとGeForce RTX 5080（VRAM 16GB）を搭載し、メインメモリは32GB、SSDは2TBです。価格はオープンプライスで、記事に掲載された実売予想価格は67万円前後。メーカー公式ページでも、シリーズの最大構成として9800X3DとRTX 5080、32GBメモリ、2TB SSDを案内しています。

出典: PC Watch ／ GIGABYTE公式製品情報

ひとこと(Jura) — AI用途で見るなら、メインメモリ32GBとGPUのVRAM 16GBを混同しないことが出発点ですね。実売予想価格は販売店で確認した確定価格ではないので、購入を検討する際は型番と最終構成まで照合したいと思います。