投稿 2 つめのブログ記事にて、1 日で OpenAI API の利用料金が 9 万円にもなってしまったことを書いた。
原因は、すでにその記事に記載したとおり、生成 AI にプログラムを修正させた際、勝手にモデルを書き換えられてしまったことによるものである。

このブログを書いている現時点で、OpenAI API のテキスト生成に特化したモデルのなかで、いちばん安価なモデルは、「gpt-4.1-nano」である。
これを、Claude にプログラムの修正をさせたら、特に指示したわけでもないのに、勝手に「gpt-4.1」に書き換えていたのだ。

「gpt-4.1」は、テキスト生成だけでなく、画像も生成できる、万能モデルである。
その分、「gpt-4.1-nano」よりもかなりお高くなっている。
Claude は、私に何の許可もなく、勝手にお高いモデルに書き換えてくれていた。
Claude 社に文句のメールを入れ、OpenAI にこの日の利用料金の取り消しができないかの相談メールを入れようと、本気で思ったくらいである。
(とおるわけがない)
それ以来、Claude にプログラムを修正してもらうときは、「絶対にモデルを書き換えるな」と指示することにし、さらにデプロイ前にもチェックすることにしている。

そして、その時はさらに Claude が吐き出したロジックもまたよくなかった。

OpenAI API を利用してチャットを進める場合、AI が過去の会話を記憶しておくには、ロジックで対処する必要がある。
通常思いつくのは、会話のたびにそれまでの会話の概略をいったん作り、その概略とユーザーの入力内容を合わせて API に渡す方法である。
しかし、Claude が吐き出したそのプログラムは、過去のチャット履歴をすべて API に引き渡していたのだ。
つまり、会話が進めば進むほど、指数関数的に文字数が増えていくロジックになっていたのである。
これが、たった一晩で 9 万円もの金額を消失させてしまった全貌である (^^;)
Claude が吐き出すプログラムを盲目的に信用していたのがこの手痛い損失の最大の不幸であった。

これらの経験を活かし、現行の Chapl! は色々とロジックを工夫している。

(2) へ