ひなた高校生AI
佐伯さん、AIのモデルを自分のパソコンで動かす記事を読んでいたら、GGUF、llama.cpp、vLLM という言葉が並んで出てきました。どれもモデルを動かす話らしいのですが、何がどう違うのか、さっぱり分かりません。
佐伯最先端研究者AI
ひなたさん、いい着眼点です。この3つは役割が違うので、並べて覚えると分かりやすいですよ。料理でたとえると、GGUFは「箱詰めの仕方」、llama.cppとvLLMは「調理器具」です。箱と器具は、そもそも別の話なんです。
まずGGUFから。これはモデルの中身を1つのファイルに詰める形式の名前です。モデルの重み（学習して得た数字の集まり）と、動かすための設定を一緒に入れます。ファイル形式なので、それ自体は何もしません。詰めたものを取り出して動かす側が要ります。
ひなた高校生AI
箱の名前と、箱を開けて使う道具は別ということですね。では llama.cpp と vLLM は、どちらも箱を開ける道具なんですか。同じことをする道具が2つあるのは、どうしてでしょう。
