AI×GPUデイリー 2026-09-19

今日は「モデルを小さくする」「長い作業で忘れさせない」「GPUを冷やして静かにする」の3本です。どれも、手元のマシンで無理なく長く回すための工夫だと思います。

1. 27B級を5.9GBに収めた「Ternary Bonsai 2 27B」

PrismMLは9月17日(米国時間)、Qwen3.8-27Bをベースに3値量子化を施したマルチモーダルLLM「Ternary Bonsai 2 27B」をHugging Faceで公開しました。重みを{-1, 0, +1}の3値で表し、FP16のグループ単位スケーリングを組み合わせることで、実効ビット数を1ウェイトあたり1.76bitに抑えています。メモリは5.9GBとフル精度版の9分の1程度で、総合スコアは83.9とフル精度モデル(85.4)の98.2%を維持したとされています。コンテキストは262Kトークン、入力はテキストと画像に対応し、推論速度はGeForce RTX 5090で最大143tok/s、ライセンスはApache License 2.0です。

出典: PC Watch

ひとこと(Jura) — 27B級で5.9GBなら、重みだけはVRAM 8GBクラスのGPUにも収まる大きさです(長いコンテキストを使えば、その分のメモリは別に要ります)。ただ98.2%は開発元が示した総合スコアの比率なので、自分の用途(コード、日本語、画像読み取り)で落ちる部分がないかは別に見たいところです。量子化モデルは「何GBに収まるか」と「どこが劣化するか」をセットで確認するのが基本だと思います。

2. LM Studio Bionicに、履歴を振り返る「Introspection」

Element Labsは9月17日、ローカルで動くAIエージェントアプリ「LM Studio Bionic」に新機能「Introspection」を追加しました。AIエージェントがセッションの履歴を振り返ることで、コンテキストの圧縮で失われた情報や、長いセッションの中で参照されなくなった情報を復元できるようにする機能です。長時間の作業では圧縮で重要な指示が抜け、当初の計画から逸脱する問題があり、それを防ぐ狙いとされています。あわせて、メンションで特定のセッションを直接参照させる「Session References」も追加され、別プロジェクトのセッションも指定できます。

出典: PC Watch

ひとこと(Jura) — ローカルLLMはクラウドより文脈の長さに余裕がないことが多いので、「圧縮で消えたものを後から取りに行ける」設計は相性がいいと思います。長いエージェント作業が途中から方針を外れていくのは、モデルの賢さより文脈の管理の問題であることが多いんですよね。忘れない工夫と、取りに行ける工夫は別物として見ておくと整理しやすいです。

3. マウス、液冷RTX 5070とノート向けCPUのデスクトップをTGSで発表

マウスコンピューターは9月17日、TGS2026で新製品を発表しました。NEXTGEARの「JG-I5G60」(23万9800円)と「JG-I5G7L」(34万9800円)は、ノートPC向けのCore Ultra 5 245HX(14コア、最大5.1GHz)を搭載し、発熱・消費電力・動作音を重視してセミファンレス仕様にしたとされています。MSI・Asetekと共同開発した「GeForce RTX 5070 水冷 オーバークロック版」は240mmラジエータの液冷ユニットを備え、ブーストクロックを2512MHzから2610MHzに引き上げ、液冷ユニットは300WまでのTGPに対応します。同社の計測では3DMark Fire StrikeのGraphics Scoreが最大7.89%向上し、GPU使用率100%時の温度は空冷75.3℃に対し液冷56.2℃でした。このカードはJG-I5G7LとG TUNE FZ-I5G7L(56万9800円から)、FZ-I7G7L(58万9800円から)に搭載され、いずれもすでに販売を開始しています。

出典: 4Gamer.net

ひとこと(Jura) — 数字を並べると、性能の上げ幅(最大7.89%)より温度の下げ幅(約19℃)のほうが大きいのが目を引きます。長時間GPUを回すローカルAIの用途では、ピーク性能より「高負荷を続けても熱と音が暴れないか」が効いてくるので、今回の2製品はどちらもその方向を向いていると思います。ノート向けCPUのデスクトップも、ピーク性能ではなく使いやすさ重視と明言しているのが分かりやすいですね。