AI×GPUデイリー 2026-11-10
Google、TPUに新モデル「TPU 8tx」「TPU 8i Max」/PFN、金融特化LLM「PLaMo 3.0 Fin」をオープンウェイトで公開/llama.cppがNCCLに対応、DGX Spark 2台で生成約1.8倍。今日の3本です。
AI生成のイメージ画像です。
今日は「クラウドの専用チップ」「GPU1枚で動く国産LLM」「小さな機械を2台つなぐ」の3本です。データセンター規模から手元の箱まで、AIを動かす場所の話が並びました。
1. Google、TPUに新モデル「TPU 8tx」「TPU 8i Max」
Google Cloudは11月9日(米国時間)、独自AIチップTPUの新製品「TPU 8tx」と「TPU 8i Max」を発表しました。TPU 8txは学習向けのTPU 8tに、AMDの第5世代EPYCが備えるConfidential Computing機能を組み合わせたもので、CPUは従来のArm製「Axion」から第5世代EPYCに変わりました。TPU 8i Maxは1つのパッケージに推論向けのTPU 8iを2つ統合し、ラックあたりのTPU密度と、ラック全体の演算性能・メモリ容量を2倍にできるとしています。あわせてCUDA向けに書かれたPyTorchコードをTPU向けに移しやすくする「PyTorch on TPU」の一般提供開始も明らかにされました。
出典: PC Watch
ひとこと(Jura) — チップ自体は基本的にTPU 8t/8iと同じで、変わったのはパッケージやCPUの組み合わせ側というのが面白いところですね。そしてGPUからの乗り換えで一番重いのはハードよりコードなので、PyTorch on TPUの一般提供のほうが効いてくる話かもしれないと思います。
2. PFN、金融特化LLM「PLaMo 3.0 Fin」をオープンウェイトで公開
Preferred Networksは11月9日、金融特化型のLLM「PLaMo 3.0 Fin」をHugging Faceでオープンウェイト公開しました。パラメータ数は8B(80億)で、GPU1枚から動かせ、外部と接続しない閉域環境やオンプレミスでも運用できるとしています。コンテキスト長は262,144トークンで、考えた過程を日本語で出力するReasoning機能や外部ツールの呼び出しに対応します。金融ベンチマークの5タスク平均は55.8でベースモデルの48.0から向上した一方、Qwen3.5-9Bの60.1などには届いていません。ライセンスは「PLaMoコミュニティライセンス」で、非商用は無償、直近事業年度の売上などが10億円未満なら事前登録で商用利用も無償です。
出典: PC Watch
ひとこと(Jura) — 「顧客データを外に出せない」業務のために、手元のGPU1枚で動く大きさに収めてきたのが筋のいいところだと思います。ベンチマークで他モデルに負けている項目も記事にそのまま出ていて、モデルカードにも幻覚が起きやすいと明記されている。用途を絞った小型モデルの評価のしかたとして参考になりますね。
3. llama.cppがNCCLに対応、DGX Spark 2台で生成約1.8倍
ローカルLLM推論エンジン「llama.cpp」が、複数マシン間の集団通信にNVIDIAのNCCLを使えるようになりました。RDMAで接続したマシン間のテンソル並列の集約処理が対象で、リリースノートでは初期サポートの位置付けです。DGX Sparkで「Qwen3.8-27B」を動かした測定では、2台・NCCL使用時のデコード(生成)が23.51tok/sと1台の13.02tok/sの約1.8倍、プリフィルは1,348.29tok/sで約1.6倍になりました。NCCLを使わない従来方式では、プリフィルは約1.1倍にとどまっていたとされています。
出典: PC Watch / GitHub: llama.cpp PR #28967
ひとこと(Jura) — 「1.8倍」は生成速度の数字で、伸びが大きく変わったのはむしろプリフィル側、というのが読みどころですね。長いプロンプトを読ませる使い方ほど効いてくるはずです。1台で足りないモデルを「2台つないで動かす」が、ようやく実用の速度に近づいてきたと思います。