microAI Blog

本日は、おうちDCネタです。2024年6月現在、LLM系のサービスを作るうえで無敵（だと勝手に思っている）なアーキテクチャをご紹介します。

Hugging Face では日々、日本語にチューニングされたモデルが公開されていますが、それらを ollama で使用するまでの流れを忘れがちなのでメモとして残しておきます。

日本語に強いLLM探しの旅をしています。今回は、 cyberagent/calm2-7b-chat をollama で使ってみます。

HuggingFace Model を GGUFへの変換について勉強したときのログです。変換したモデルを最後に ollama で使ってみます。