【教えて先生】量子化とは 数値の精度を落とす技術

写真の色数を思い浮かべてください。フルカラーの写真はデータが大きいけど、色を16色に減らすとファイルは小さくなる。代わりにグラデーションは荒くなります。量子化はこれと同じです。AIモデル（学習済みのプログラム）というものがあります。その中に数値がたくさん入っています。その数値を細かい精度から粗い段階に切り詰めます。たとえば小数点以下を細かく覚えていたのを「だいたいこの値」というふうに。すると必要なメモリが減ります。メモリとは、コンピュータがデータを置いておく場所です。小さいGPUでも大きなモデルが動かせます。記事の1.75ビットや3ビットは、数値1つを表すのに使うビット数の違いです。ビット数が少ないほど粗くて小さい。ただし粗くしすぎると品質が落ちるので、どこで切るかのせめぎ合いになります。ここが量子化の面白いところです。