Text Generation WebUI

Text Generation WebUI（テキスト・ジェネレーション・ウェブユーアイ）は、自分のパソコンやサーバーで動かすAIモデルと、ブラウザの画面で会話できるオープンソースのソフトです。作者の名前から「oobabooga」と呼ばれることもあります。公式のREADMEでは、現在は「TextGen」というデスクトップアプリとして紹介されていて、リポジトリも oobabooga/textgen に移っています。

できること

• 会話と文章の生成：指示に答えるモードや、キャラクターと話すモードがあります。会話を分岐して、やり直すこともできます。
• 画像や文書の読み込み：公式のREADMEでは、画像を添付して内容を聞く機能や、テキスト・PDF・.docxのファイルを読ませる機能が挙げられています。
• いろいろな実行の仕組み：llama.cpp、Transformers、ExLlamaV3などに対応します。GGUF形式のモデルのファイルを置けば、自動で見つかります。
• OpenAI互換のAPI：公式の説明では、OpenAIやAnthropicのAPIと同じ形で呼び出せます。ほかのソフトから使うときに便利です。
• ツールの呼び出しと学習：道具（関数）をAIに使わせる機能と、LoRAの追加学習の画面があります。
• オフラインで動く：公式の説明では、テレメトリ（利用情報の送信）はなく、完全にオフラインで使えます。
• Dockerでの導入方法を確認できています。

ChatGPT Plusとの違い

ChatGPT Plusは、月額で最新のモデルをすぐに使える手軽さが強みです。Text Generation WebUIは、自分でモデルを選んで、自分の環境で動かすためのソフトです。会話の内容が外部に出ない使い方ができますが、答えの質は、選ぶモデルと、パソコンの性能で決まります。

もっとチャットの画面に近い使い心地を求めるなら、Open WebUIや、モデルを動かす部分のOllamaも候補です。

注意点

• 当サイトでは、画面の日本語翻訳は確認できていません。
• 名前と配布の場所が変わっています。古い手順や記事の導入方法は、そのままでは使えないことがあります。最新の手順は、公式のREADMEで確認してください。
• モデルの動作には、性能の高いGPUや、十分なメモリが必要になる場合があります。大きなモデルほど、必要な資源が増えます。
• 当サイトの掲載データでは、最後の更新は69日前です。公開された脆弱性の情報（セキュリティアドバイザリ）も12件あります。ほかの人に公開して使うときは、更新に気をつけてください。
• 手軽さを重視するなら、ChatGPT Plusのままのほうが楽です。
• ライセンスはAGPL-3.0です。改変して、ネットワーク越しにサービスとして提供する場合は、ソースコードの公開が求められることがあります。

ChatGPT Plusの代替のページで、ほかの候補も比べられます。