AI 化社会

AI についてのブログ

検索結果 (4件)

タグ: 生成AIサーバー

すべての記事を表示

Llama 3 8B Instruct について

使わなくなったビジネス用ノート PC に GPT4ALL をインストールし、モデルとして Llama 3 8B Instruct を入れてサーバーを公開した。
詳細は、昨日のブログを見てほしい。

しかし、やはり生成 AI のサーバーとして利用するには厳しいようだ。

まず、日本語でのやりとりになると、英語よりもだんぜんレスポンス時間がかかる。
日本語で少し長めの文章になっただけで、す ...

テキスト生成 AI で使用しているサーバーについて

前回の画像生成 AI で使用しているサーバーのスペック公開に続き、今回は、テキスト生成 AI で使用しているサーバーのスペックを公開する。

プロセッサ(CPU):Intel Core i7‑8565U @ 1.80GHz(最大 4.60GHz)
グラフィックス:Intel UHD Graphics 620(最大1.15GHz、共有メモリ)
実装RAM:32.0 GB(使用可能:31.8 ...

画像生成 AI で使用しているサーバーについて

以前のブログでも書いたとおり、生成 AI のコスト削減のため、いくつかのサービスで利用する生成 AI のサーバーは、自前で立てている。
弊社の画像生成サービス、「ArtVibe」でも自前で立てたサーバーを利用しており、そのスペックは次のとおり。

CPU:Intel Core i5‑11400H(6コア / 12スレッド、2.7GHz ベース/最大 4.5GHz)
GPU:NVIDIA G ...

画像生成 AI とテキスト生成 AI のサーバーを立てる

自宅でほとんど使用していなかったゲーミングノート PC と、独立する前に購入した普通のノート PC を、生成 AI のサーバーとして利用することにした。

理由は、なるべくコストを掛けずに生成 AI を使うためである。

生成 AI の利用にかかるコストは、サービスを公開する者の立場としては、やはり少々高いと言わざるを得ない。
ちょっとしたミスで、本来公開する予定だったモデルとは違う高価 ...