Up Web検索 作成: 2025-09-14
更新: 2025-09-14


    ChatGPT は,テクスト生成中に,Web検索を起動することがある。

    「テクスト生成」は,つぎの構造になっている:

     テクスト トークン トークン ‥‥ 
            ↑    ↑     
       │ 処理 │ 処理 │  ‥‥ 

    Web検索は,この「テクスト生成」に含まれるものではない。
    したがってこれは,Transformer 脳のテクスト生成への ChatGPT の<割り込み>ということになる。


    この<割り込み>は,Transformer 脳かコールしていることになる。
    ChatGPT は,このコールに応えて,Web検索し,得たテクストを Transforemer 脳にわたす。

    この「テクストをわたす」は,
     「Transformer が生成中のテクストに,そのままつなぐ」
    であると推理される。
    「テクスト生成」は,この長くなったテクストから処理を再開できる構造になっているからである:

     テクスト‥‥トークン     テクスト トークン ‥‥
            ↑         ↑    ↑
         ‥‥ │ 処理 │    │ 処理 │  ‥‥
                 ↓    │
                コール   │
                 │ 割込 │


    また,この場合の「Web検索」だが, ChatGPT search だろう。
    ChatGPT search の出力は,そのまま Transfomer が生成しているテクストに自然につながるものだからである。


    Web検索において,ChatGPT は Transformer 脳の外部インタフェースである。
    ChatGPT は chat のユーザインタフェースだが,これも外部インタフェースである。

    Transformer 脳とインタフェースは,ダイアログでつながる。
    ユーザインタフェースだと,
     Transofomer脳 : テクスト生成で <eod>
       → ChatGPT : ユーザに入力をプロンプト
     ChatGPT : ユーザーの入力テクストを Transformer に入力
       → Transofomer : テクスト生成を開始
    そして Web検索だと,
     Transofomer脳 : Web検索割り込みをコール
       → ChatGPT : Web検索
     ChatGPT : Web検索で得たテクストを Transformer に入力
       → Transofomer脳 : テクスト生成を再開

    ユーザインタフェースは, <eod>が割り込みコールの格好になる。
    Web検索の場合,割り込みコールはどんなコード/トークンか?

    また,Web検索インタフェークに対しては,割り込みコールと併せて,検索フレーズも知らせねばならない。
    Transformer は,割り込みコールに先行するテクストの中で,検索フレーズを生成していることになる。
    したがって,そのフレーズを前後で挟むコードなんかも,あるのだろう。