既製のフレームワークを使わず、AIエージェントを自分たちで書きました。blueqat が社内で使っている blueqat poqet の中身をひらいてお話しします。
自社のGPUで動かしているローカルLLMを頭に据え、ReActのループとルーターを自前で実装しています。道具はMCPサーバーをスキルとして繋ぐ形にしていて、量子計算・金融・会計を用途ごとに入り切りできます。
話すこと
・なぜ既製のフレームワークを使わず自作したのか
・ReActループとルーターを自分で書くと何が見えるか
・MCPサーバーを「スキル」として付け外しする設計
・ローカルLLMを実務で使うときの勘どころ
・モデルによって思考の扱いを変えている話(分類や命名では思考を切ると速くなる。実測で16.9秒→3.3秒)
・作ってみて分かった、うまくいくところと詰まるところ
対象
AIエージェントの実装や、ローカルLLMの実運用に興味のある方なら、どなたでもご参加いただけます。
開催形式
オンライン開催です。
参加方法
参加用のURLは、参加登録するとイベントページに表示されます。