2026年8月26日、Unsloth が Qwen3.8-Flash-Next の GGUF 版を公開しました。GGUF は、大規模言語モデルを手元の機械で動かすために使われるファイル形式です。公開されたのは、本家の重みが公開されたのと同じ日です。当サイトが同日に伝えたQwen3.8-Flash発表とFlash-Next重み公開の記事の続報にあたります。配布は Hugging Face のリポジトリ で行われており、公開時刻は2026年8月26日12時29分(UTC)と記載されています。
今回の中心は、必要なメモリの種類です。Unsloth は公式 X の投稿で、75GB の RAM で動くとしています。さらに同社は、Qwen3.8-Flash-Next について、CPU の RAM やユニファイドメモリの構成でも VRAM に近い速度を出せるとしています。VRAM は GPU に載っているメモリのことで、一般に RAM より高価です。つまり、高価な GPU メモリでなく普通の RAM で足りる、という主張になります。ただし「VRAM に近い速度」が具体的に何トークン毎秒なのかは公表されていません。
必要メモリは量子化の度合いで変わります。量子化は、モデルの数値の精度を落としてファイルを小さくする手法です。公式ガイドによると、1-bit で75GB、2-bit で79GB、3-bit で90GB、4-bit で112GB、5-bit で200GB、8-bit で270GB、BF16 で355GB とされています。ガイドは最低75GB の RAM またはユニファイドメモリを勧め、96GB の機器が望ましいとしています。
用意されている量子化は、UD-Q4_K_XL、UD-IQ4_XS、UD-Q3_K_XL、UD-IQ3_XXS、UD-Q2_K_XL、UD-IQ1_M、UD-IQ1_S です。1-bit 版は BF16 より79%小さいと説明されています。Hugging Face のリポジトリでは、GGUF ファイルが22個確認できます。base_model は Qwen/Qwen3.8-Flash-Next です。
推奨設定は動作モードで異なります。思考モードは temperature 1.0、top-p 0.95、top-k 20 です。指示モードは temperature 0.7、top-p 0.80、top-k 20 です。文脈長は最大262,144トークンとされています。ライセンスは other で、本家と同じ表記です。Apache-2.0 ではありません。以上はいずれも2026年8月26日時点の記載です。
性能については、扱いに注意が必要な記述があります。Unsloth は、この125BのMoEモデルが Claude-Opus-4.6(Max)を上回るとしています。MoE は、入力に応じて内部の一部だけを使う構造のことです。同じ記述は公式ガイドにもあります。ここで押さえておきたいのは、これが配布する側の主張だという点です。どのベンチマークで測ったのか、比較の条件はどうだったのかは書かれていません。
対比として、当サイトが同じ日に扱ったGLM-5.3-Flash に関する記事があります。こちらは Artificial Analysis という測る側が出した数字でした。今回は配布する側が出した記述です。誰が測ったのかという点で、両者は立場が異なります。どちらが優れているかの判断は、この記事では行いません。量子化についても「積極的に圧縮しても top-1% の精度を80%回復」という記述がありますが、測り方は書かれていません。
最後に、2026年8月26日時点で公表されていないことを並べます。具体的な生成速度(トークン毎秒)は示されていません。Claude-Opus-4.6 を上回るという記述のベンチマーク名と条件も示されていません。精度回復80%の測り方も書かれていません。実際に動かした機器の構成も公表されていません。手元の機械で大きなモデルを動かす話題としては、FreeToken に関する記事、Arduino の VENTUNO Q に関する記事、ユニファイドメモリ最大512GBに触れたApple の M6 と M5 Ultra に関する記事も併せてご覧ください。数字や配布条件は変わる可能性があるため、導入前に公式ガイドと Hugging Face の記載をご確認ください。



