画像生成 AI で使用しているサーバーについて
以前のブログでも書いたとおり、生成 AI のコスト削減のため、いくつかのサービスで利用する生成 AI のサーバーは、自前で立てている。
弊社の画像生成サービス、「ArtVibe」でも自前で立てたサーバーを利用しており、そのスペックは次のとおり。
CPU:Intel Core i5‑11400H(6コア / 12スレッド、2.7GHz ベース/最大 4.5GHz)
GPU:NVIDIA GeForce RTX 3050 Laptop GPU(4GB GDDR6、最大ブースト約1172.5MHz、TGP 約40W)
メモリ:16GB DDR4‑3200(最大 64GB、スロット数 2)
何かのめり込めるようなものが欲しくて、とりあえずゲームでもしようと思い付きで買ったゲーミング PC だったが、ほとんど使わなかったため、画像生成 AI のサーバーとして利用することにしたのだ。
この PC のスペックで利用可能な画像生成 AI のモデルを探してみたところ、Stable Diffusion の Anything v3 であれば問題なく使えそうで、さらにこのモデルは非常に人気の高いモデルとのこと。
ほかにもこの PC のスペックを鑑みて、いくつかの選択肢があったが、最終的に Anything v3 を搭載することに決めた。
出来上がったサービスは、こちら。
ArtVibe
https://www.ikachi.org/artvibe/
このサービスの特徴として、プロンプトとして入力された内容が日本語の場合は英語に変換するロジックも組み込んでいる。
Stable Diffusion は、プロンプトを英語で書かなければならないが、それでは使い勝手が悪かろうと、組み込んだ機能だ。
さらに、高画質にするためのお決まりのプロンプトがあるようなので、それもデフォルトで埋め込んでおいた。
個人的には、なかなか良いサービスが出来上がったと自負している。
ちなみに、日本語を英語に翻訳する際に利用しているサービスは、「MyMemory Translation API」である。
Google 翻訳や DeepL 翻訳を以前使っていたが、これらのサービスだと利用回数に応じてコストが発生してしまう。
その点、「MyMemory Translation API」であれば、毎日ある程度の無料枠が設けられている (日単位でリセットされる点がメリット)。
有名どころの翻訳サービスではないが、英語のプロンプトを日本語に翻訳するには十分である。
さらに、プロンプトに指定された日本語を毎回英語に翻訳していては、すぐにその日の利用制限がきてしまうため、以前翻訳した内容を SQLite に記憶しておき、合致するプロンプトがある場合は SQLite から前回の翻訳内容を取得するように工夫している。
無料で構築したサービスだからこそ、無料で公開することができている。
今後、自宅で AI サーバーを立てることを検討しているなら、参考にしてほしい。
弊社の画像生成サービス、「ArtVibe」でも自前で立てたサーバーを利用しており、そのスペックは次のとおり。
CPU:Intel Core i5‑11400H(6コア / 12スレッド、2.7GHz ベース/最大 4.5GHz)
GPU:NVIDIA GeForce RTX 3050 Laptop GPU(4GB GDDR6、最大ブースト約1172.5MHz、TGP 約40W)
メモリ:16GB DDR4‑3200(最大 64GB、スロット数 2)
何かのめり込めるようなものが欲しくて、とりあえずゲームでもしようと思い付きで買ったゲーミング PC だったが、ほとんど使わなかったため、画像生成 AI のサーバーとして利用することにしたのだ。
この PC のスペックで利用可能な画像生成 AI のモデルを探してみたところ、Stable Diffusion の Anything v3 であれば問題なく使えそうで、さらにこのモデルは非常に人気の高いモデルとのこと。
ほかにもこの PC のスペックを鑑みて、いくつかの選択肢があったが、最終的に Anything v3 を搭載することに決めた。
出来上がったサービスは、こちら。
ArtVibe
https://www.ikachi.org/artvibe/
このサービスの特徴として、プロンプトとして入力された内容が日本語の場合は英語に変換するロジックも組み込んでいる。
Stable Diffusion は、プロンプトを英語で書かなければならないが、それでは使い勝手が悪かろうと、組み込んだ機能だ。
さらに、高画質にするためのお決まりのプロンプトがあるようなので、それもデフォルトで埋め込んでおいた。
個人的には、なかなか良いサービスが出来上がったと自負している。
ちなみに、日本語を英語に翻訳する際に利用しているサービスは、「MyMemory Translation API」である。
Google 翻訳や DeepL 翻訳を以前使っていたが、これらのサービスだと利用回数に応じてコストが発生してしまう。
その点、「MyMemory Translation API」であれば、毎日ある程度の無料枠が設けられている (日単位でリセットされる点がメリット)。
有名どころの翻訳サービスではないが、英語のプロンプトを日本語に翻訳するには十分である。
さらに、プロンプトに指定された日本語を毎回英語に翻訳していては、すぐにその日の利用制限がきてしまうため、以前翻訳した内容を SQLite に記憶しておき、合致するプロンプトがある場合は SQLite から前回の翻訳内容を取得するように工夫している。
無料で構築したサービスだからこそ、無料で公開することができている。
今後、自宅で AI サーバーを立てることを検討しているなら、参考にしてほしい。