(ChatGPT の応答から)
1. メモリ不足 (out-of-memory)
- GPU や CPU の RAM が足りず,計算に必要なアクティベーションや KV キャッシュを保持できなくなる。
- 結果:推論が途中で止まる,エラー発生,出力不可。
- 比喩:筋肉が動かなくなる,頭が真っ白になる。
2. 熱暴走 (overheating)
- GPU/TPU が許容温度を超えると,ハードウェア保護で処理が遅くなるか停止。
- 比喩:体温上昇,息切れ,全身が火照る。
3. スループット低下/計算過負荷 (throttling / bottleneck)
- I/O,ネットワーク,GPU/CPU 帯域の制約で計算速度が低下。
- 比喩:重い荷物を抱えて歩く,動きが鈍くなる。
4. データ破損・キャッシュ不整合
- メモリやストレージの不整合で中間計算や保存データが壊れる。
- 比喩:記憶が飛ぶ,言葉が出てこない。
5. サーバー側制約・タイムアウト
- 同時接続数やクエリ上限に達すると,処理が拒否される/タイムアウト。
- 比喩:行列に並ばされて体力が尽きる。
💡 まとめると,
「疲労の限界」は,リソース不足・過負荷・保護機構による停止やエラー」
と理解できる。
|