前回の画像生成 AI で使用しているサーバーのスペック公開に続き、今回は、テキスト生成 AI で使用しているサーバーのスペックを公開する。

プロセッサ（CPU）：Intel Core i7‑8565U @ 1.80GHz（最大 4.60GHz）
グラフィックス：Intel UHD Graphics 620（最大1.15GHz、共有メモリ）
実装RAM：32.0 GB（使用可能：31.8 GB）

RAM 以外はあまりにも貧弱で、専用 GPU も搭載していない。
一般的な、旧型のビジネス用途の ノート PC である。

このノート PC は、私が独立する前に購入した PC で、独立してから常に使い続けてきた愛用機である。
ところが、今年の 7 月に入ってから頻繁にブルースクリーンが出るようになってしまい、ある日においては朝、業務を開始して午前中に 3 回もブルースクリーンが表示されるようになってしまったため、普段使いを辞めざるを得なくなった。
そこで、別 PC に業務環境を移行し、この PC を初期化した次第だ。

初期化した後は、ブルースクリーンになるようなことはなくなったため、どうやらハードの問題というよりもソフトの問題だったようだが、再度業務環境を移行するのも面倒だったため、次の用途として思いついたのが、テキスト生成 AI のサーバー機という選択だったのである。
(ちなみに、現在の業務用 PC は、これよりもさらに 2 世代ほど古い CPU で、かなりの低スペック PC である)

専用 GPU も搭載されていないが、あまり精度のよくないモデルのテキスト生成 AI であれば、なんとか稼働できた。
(Llama 3 8B Instruct というモデル)

テキスト生成 AI のサーバーとして、GPT4ALL というアプリをインストールした。
GPT4 とつくものの、この場合の "4" は英単語の "for" のようで、現行の ChatGPT の GPT4 とは違うようだ。
(たぶん。調べていない。勝手にそう思っただけ。)

もう少し高スペックなマシンであれば、より上位のモデルにも出来たであろうが、やはり本家の ChatGPT と比較すると、かなり性能が落ちる。
そのため、「生成 AI を使ったアプリを使ってみたい」という人向けに、API 経由でこのサーバーを公開することが最も有意義な使い方ではないかと思った。

それが、昨日公開した、「TextAI」というサービスである。

TextAI
https://www.ikachi.org/textai/

メールアドレスだけ、このサイトから登録することで、誰もがテキスト生成 AI の API を無料で利用することができる。
ぜひ、生成 AI をより深く学ぶためのきっかけにしてほしいと思う。