Up 疲労監視プログラム 作成: 2025-08-13
更新: 2025-08-24

    ChatGPT は，延々とテクストを生成できるわけではない。
    テクスト生成は，全テクスト参照を繰り返すアルゴリズムになっている。
    テクストが長くなると，このアルゴリズムの計算量が厖大になり，リソースの使用が過度になる。
    症状としては，トークンの追加にひどく時間がかかるようになる。


    現行の ChatGPT は，
      人間ユーザのテクスト入力がのろいことと，
      セッションの終了を以て初期化されること
    により，過労が防がれている。

    研究型 ChatGPT のテクスト生成は，いわば自分との対話なので，人間ユーザとの１セッションの対話量を，忽ち超えてしまう。
    翻って，現行の ChatGPT では間に合っていたリソースは，研究型 ChatGPT が自然体でテクスト生成をするには，決定的に足りない。
    研究型 ChatGPT は，すぐに過労状態になる。

    過労が進むと，体が壊れてしまう。
    壊れたときの修復は，「リセット」と相場が決まっている。
    しかしこれは，研究型 ChatGPT の場合，死を意味する。


    こうして，疲労の監視が運用者の仕事になる。
    運用者は，これをプログラムによって自動化する。

    疲労の監視として行うことは，リソースの使用状況の計測である：
      計算負荷
      メモリ占有
      KVキャッシュ
      など

    一方，疲労の原因は生成しているテクストの長さであるから，テクストの長さを疲労の指標にできる。
    疲労計測は，テクスト長の計測に代えられると，簡単になる。