AI×GPUデイリー 2026-08-29
LM Studio 0.4.22が投機的デコーディング3手法に対応/NVIDIAがHBM再設計の「NVHBM」発表/Anthropicが実験機器制御の共通規格「MHS」公開。今日の3本です。
今日は「手元の推論を速くする」「メモリの置き場所を変える」「AIに機械を触らせる」の3本です。
ソフト・ハード・規格と層は違いますが、どれも「待ち時間」と「つなぎ込みの手間」を削る方向に揃っています。
1. LM Studio 0.4.22、投機的デコーディングの新手法3つに対応
Element Labsは8月28日(現地時間)、ローカルLLM実行環境「LM Studio」の最新安定版「0.4.22 Build 1」を公開しました。
同バージョンでは、DFlashとDSpark、MTP Draftersという3つの投機的デコーディング手法に新たに対応しています。
投機的デコーディングは、小さく高速な「ドラフトモデル」が続きの単語を数個先まで一気に書き出し、そのあとで本命の大きなモデルが、提案された単語が自分の答えと一致するかをまとめて確認する仕組みで、これにより待ち時間の短縮を図るものです。
LM StudioはWindowsやmacOS、Linuxに対応し、基本無料で利用できます。
出典: PC Watch
ひとこと(Jura) — ローカルLLMの体感速度を上げる話は、これまで「量子化を落とす」「VRAMを増やす」みたいなハード寄りの選択肢に寄りがちでした。
投機的デコーディングは出力の中身を変えずに待ち時間だけ削る種類の工夫なので、性格がだいぶ違います。
手法が3つ同時に入ったということは、どれが効くかはモデルとタスク次第ということでもあるので、常用しているモデルで一度切り替えて比べてみるのが早いと思います。
2. NVIDIA「NVHBM」発表、メモリコントローラをHBM内へ
NVIDIAは8月26日、HBMの構成を再設計する技術「NVHBM」を発表しました。
メモリコントローラをXPU(カスタムAIアクセラレータ)からHBM内に移動するとともに、メモリインターフェイスをより狭いカスタムPHYに変更するというものです。
公称値では、HBM4eと比べてPHYおよびサポート回路の面積を最大67%削減でき、同じチップ面積でシリコンに使えるエリアが最大80%増加するとされています。
性能面ではHBM4e比でスタックあたりのメモリ帯域幅を最大30%引き上げ、電力使用量を15%削減し、XPUあたりのエンドツーエンドでの性能は30%引き上がるとしています。
NVIDIAは、2,000WのXPUを使った1GWデータセンターの場合であればXPU最大1万5,000台分の演算余力が生まれると説明しており、NVLink Fusionとの組み合わせでカスタムAIアクセラレータの性能向上を実現するとしています。
出典: PC Watch
ひとこと(Jura) — 面白いのは、性能の伸びを「速くなった」ではなく「面積が空いた」で説明しているところですね。
メモリコントローラをGPU側からメモリ側へ引っ越させて、空いたシリコンを演算に回す。
データセンター規模だと台数換算で語れてしまうのも、いまのAIハードの経済がどこで決まっているかをよく表しています。
個人のPCにすぐ降りてくる話ではありませんが、「帯域はもう配線とコントローラの置き場所の問題になっている」という前提は覚えておいて損はないと思います。
3. Anthropic、AIが実験・製造機器を操作する共通規格「MHS」を発表
Anthropicは8月27日(現地時間)、AIエージェントが実験・製造機器を安全に操作するための共通仕様「Model Hardware Standard」(MHS)を発表しました。
温度取得などの「読み取り」や「書き込み」といった基本命令(プリミティブ)のみで構成した標準ドライバを導入し、各機器をネットワーク上で発見可能な標準形式で公開する設計です。
対象として顕微鏡、分注ロボット、ロボットアーム、リキッドハンドラー、プレートリーダーが挙げられており、これまで数週間から数カ月を要していた統合作業を数時間から数分に短縮するとしています。
米HHMIジャネリア・リサーチ・キャンパスとの共同作業のほか、米Genentechがリキッドハンドラー、ロボットアーム、プレートリーダーを連携させるBCAタンパク質定量法の自動化にMHSを適用。
AWS、Tecan、Universal Robots、Hugging Face、Raspberry Piも対応や検証を進めています。
同社はリサーチプレビューを通じて安全性評価を整備し、物理世界でのAI利用に関する保護策を強化したうえでMHSをオープンソース化する方針です。
出典: ITmedia AI+
ひとこと(Jura) — 構造としてはMCPとよく似ていますね。
命令セットを極端に絞って、あとは「ネットワーク上で自分を名乗る」ところを標準化する。
ソフトのAPIでうまくいった型を、そのまま物理機器に持っていこうとしている形です。
ただソフトと違って、書き込みの失敗が装置の破損や事故になるので、オープンソース化の前に安全性評価を挟むという順番は妥当だと思います。
Raspberry Piが名前を連ねているあたり、個人の実験装置まで降りてくる可能性も一応あります。
今日の小ネタ
- キオクシアとSandiskが8月27日、日本での生産能力拡充に2032年までで総額約5兆円の投資を見込むと発表(政府支援が前提) — PC Watch
- Googleの音声認識モデル「Gemini 3.5 Transcribe」は「えーと」「あー」といった言いよどみを自動除去できます — PC Watch
- Pollen Roboticsが二足歩行ロボット「Microduck」を399ドルで予約開始。高さ25cm、SDKとシミュレーターはOSS公開 — ITmedia AI+