microAI
Get started
microAI
Blog
topic: GPU
microAI Blog
topic: GPU
ベクトルデータベース Weaviate (GPU使用) を Jetson Orin Nano NX 16G で動かす (v1.26.1)
Aug 2, 2024, 8:07 AM
以前、「ベクトルデータベース Weaviate (GPU使用) を Jetson Orin Nano NX 16G で動かす」で Jetson Orin Nano NX 16Gで weaviate を動かしましたが、weaviate のバージョンが 1.26.1 にあがったことと、それに伴い t2v-transformers のモデルが変わったこと、reranker を使ってみたくなったことが合わさり、ビルドし直しました。
ベクトルデータベース Weaviate (GPU使用) を Jetson Orin Nano NX 16G で動かす
Jul 24, 2024, 7:35 AM
Jetson で weaviate (text2vec-transformers,sum-transformers) を起動する必要がありましたが、Jetson オーナーなら誰でも悩む「一般的なNvidia製品との違い」があり、通常のDockerイメージではインストールできませんでした。なので、Jetson用にリビルドして起動しました。その時のログです。リビルドしたイメージも公開しておきます。
ベクトルデータベース Weaviate を試す。Docker で起動〜簡単なテストまで(Nvidia GPU使用)
Jul 16, 2024, 1:21 AM
ベクトルデータベース Weaviate を試す。Docker で起動〜簡単なテストまで で M1 Mac でインストールしましたが、CPUバージョンですので、改めて、RTX4090を搭載した Ubuntu で、GPU版のWeaviateをインストールするまでの手順をメモしておきます。