microAI Blog

前回「Kubernetes に Dify をインストールして、Cloudflare Tunnel でインターネット経由で見られるようにしたときの備忘録」で Dify をインストールしましたが、この手順では、ベクトルDBの Milvus がインストールされていませんので、インデックス方法で「高品質」を選択するとエラーになります。

Dify が話題でしたので、インストールして使ってみました。結論、「やばい」です。世界を変えるレベルですね。これがオープン・ソースで提供されているのが本当に驚きです。今後も色々と使ってみたいと思いますが、まずは、Kubernetes にデプロイしたときのメモを残しておきます。

おうちDCの中でMongoDBをインストールする前に、ノードの１つをNFSにすることにしました。当然、READ,WRITEが速いほうが良いので、各ノードのディスクIOスピードをチェックしてみました。それぞれ１回ずつしか実行していないので、正確なものではありませんが、おおよその目処はつきました。

Kubernetes の監視を行う必要がでてきたため、kube-prometheus-stackで、Prometheus、Grafana をインストールしたときのログ

Kubernetes PV,PVC 関連をメモ代わりにまとめておきます。

よく忘れてしまうので、Kubernetes のネームスペース関連をメモ代わりにまとめておきます。

おうちDCは、リソースが限られています。何も設定しないと、ひたすらユーザーをまたせた挙句に、504 Gateway Timeout を発生させてしまいます。ならば、予めアクセスの上限を設けて、429 Too Many Requests を素早く返してあげる方が良いかと思いますので、その設定についてまとめます。

おうちDC（Kubernetes x Raspberry Pi 5）上で動いている Next.js の負荷テストを実施してみました