AIの世界で使われる「量子化」とは、コンピュータがデータを扱うときの精度を落として、計算に必要なメモリや処理時間を減らす技術のことです。名前に「量子」とついていますが、量子コンピュータとは直接関係のない、AIモデルを効率化するための工夫です。
たとえば、写真をとても細かい色数(数千万色)で保存すると美しいですが、ファイルサイズが大きくなります。色数を少し減らして(たとえば256色に)保存しても、見た目にはあまり変わらないのにファイルサイズはぐっと小さくなります。量子化はこれと似ていて、AIモデルの中の数値を「32ビット」のような細かい精度から「8ビット」のような粗い精度に変換することで、モデルを軽く・速くします。
最近はスマートフォンやパソコンでも大きなAIモデル(ローカルLLM)を動かしたいというニーズが高まっており、量子化はそのために欠かせない技術としてニュースでもよく取り上げられています。




