AI・LLM基盤のオープンソース

生成AIを自前のサーバで動かす。入力内容を外部に送らずに使える。 現在38件を収録しています。

OpenClaw

代替対象: ChatGPT / TypeScript / MIT

日本語の画面あり

自分のPCやサーバーで動かす、オープンソースのAIアシスタント。Discord・Slack・Telegram・WhatsApp・Signalなど20以上のチャットから使え、モデルはClaudeやローカルモデルなどから選べる(入力は、設定したモデルの提供元とチャットサービスに送られる)。Dockerでも導入できる。有料プランやホスト版はないと明記されている。【注意】ツールは、サンドボックスを設定しない限り、メインのセッションではホスト上で実行され、権限が広い。受信メッセージは信用できない入力として扱い、外部に公開する前にREADMEのセキュリティの手引きを読むこと。READMEは競合の製品名を挙げておらず、ChatGPTの代替は編集上の分類。

スター39.4万
健全度
142,281
セキュリティScorecard未評価

Hermes Agent

代替対象: ChatGPT / Python / MIT

日本語の画面あり

Nous Researchが開発する、使うほど記憶とスキルが育つAIエージェント。CLIと、Telegram・Discord・Slack・WhatsApp・Signal・メールのゲートウェイで使い、実行環境はローカル・Docker・SSHなどから選べる。MCPサーバーに対応し、OpenClaw・Claude Code・Codex CLI・Cursorからの移行も用意されている。本体はMIT。有料のNous Portal(モデル利用などの契約)も案内されているが必須ではない。【注意】コマンドを実行でき、自分でスキルを作り変えるため、権限が広い。モデルやツールのAPIキーが必要。READMEは競合の製品名を挙げておらず、ChatGPTの代替は編集上の分類。

スター26.1万
健全度
96,789
セキュリティScorecard未評価

Stable Diffusion WebUI

代替対象: Adobe Firefly / Python / AGPL-3.0

Adobe Fireflyの代わりに、画像生成AIを自分のPCで動かす定番の画面(AUTOMATIC1111)。入力欄にプロンプトを書いて生成する分かりやすい操作で、拡張機能も多い。

スター16.5万
健全度
57,839
セキュリティScorecard未評価

Ollama

代替対象: ChatGPT / Go / MIT

ローカルでモデルを動かす最も簡単な方法。コマンド1つで開始できる。

スター18.6万
健全度
56,571
セキュリティScorecard未評価

Dify

代替対象: ChatGPT Plus / Python / Apache-2.0(改変条項あり)

日本語の画面あり

エージェントとRAGを画面で組む。運用に必要な管理機能が揃う。

スター16.1万
健全度
53,885
セキュリティScorecard未評価

Open WebUI

代替対象: ChatGPT / Svelte / Open WebUI License

日本語の画面あり

自前のLLMに接続するチャット画面。権限管理と文書の取り込みを備える。

スター15.8万
健全度
51,555
セキュリティScorecard未評価

llama.cpp

代替対象: ChatGPT API / C++ / MIT

量子化してCPUでもモデルを動かす。多くのツールの土台になる。

スター13.4万
健全度
47,360
セキュリティScorecard未評価

ComfyUI

代替対象: Adobe Firefly / Python / GPL-3.0

Adobe Fireflyの代わりに、画像生成AIを自分のPCで動かすツール。処理の部品(ノード)を線でつないで生成の流れを組み立てるので、細かい制御や同じ手順の繰り返しに向く。

スター14.5万
健全度
45,339
セキュリティScorecard未評価

Langflow

代替対象: ChatGPT Plus / Python / MIT

日本語の画面あり

ChatGPT Plusの代わりに、AIを使ったアプリやエージェントを画面上で組み立てるツール。部品を線でつないで処理を作り、Pythonで部品を自作して拡張できる。

スター15.6万
健全度
44,590
セキュリティScorecard未評価

vLLM

代替対象: OpenAI API / Python / Apache-2.0

日本語の画面あり

OpenAI APIの代わりに、大規模言語モデルを自分のGPUで提供する推論サーバー。メモリを効率よく使い、多くのリクエストを同時に速くさばける。OpenAI互換のAPIを持つ。

スター9.6万
健全度
38,487
セキュリティScorecard未評価

Whisper

代替対象: Notta / Python / MIT

Nottaの代わりに使える、OpenAIが公開した文字起こしのモデル。日本語を含む多くの言語の音声を文字にでき、翻訳もできる。Pythonから使い、GPUがあると速い。

スター11.2万
健全度
35,022
セキュリティScorecard4.1

RAGFlow

代替対象: ChatGPT Plus / Go / Apache-2.0

日本語の画面あり

ChatGPT Plusの代わりに、社内の文書を読み込ませて質問に答えさせる(RAG)ための基盤。表や図を含む文書を解析する機能を備え、回答の根拠の箇所を示せる。

スター9.4万
健全度
29,600
セキュリティScorecard未評価

LobeChat

代替対象: ChatGPT / TypeScript / LobeHub Community License

日本語の画面あり

モデルを切り替えて使えるチャット。プラグインで機能を足せる。

スター8.4万
健全度
29,405
セキュリティScorecard未評価

GPT4All

代替対象: ChatGPT / C++ / MIT

ChatGPTの代わりに、パソコンの中だけで動くAIチャットのアプリ。インターネットにつながずに使え、手元の文書を読ませて質問することもできる。

スター7.7万
健全度
23,652
セキュリティScorecard未評価

AnythingLLM

代替対象: ChatGPT with files / JavaScript / MIT

日本語の画面あり

手元の文書を読み込ませて質問する。データを外に出さずに使える。

スター6.8万
健全度
21,110
セキュリティScorecard未評価

PrivateGPT

代替対象: ChatGPT Plus / Python / Apache-2.0

ChatGPT Plusの代わりに、手元の文書について質問できるAIを、自分の環境で動かすための基盤。ローカルのモデルを使えば、文書を外部に送らずに使う構成にできる。

スター5.8万
健全度
18,385
セキュリティScorecard未評価

whisper.cpp

代替対象: Notta / C++ / MIT

Nottaの代わりに使える、Whisperを C/C++ で動くようにした文字起こしツール。GPUがなくても動き、Apple製のチップを積んだMacでも速く動く。

スター5.5万
健全度
17,543
セキュリティScorecard未評価

LibreChat

代替対象: ChatGPT / TypeScript / MIT

日本語の画面あり

複数のモデルを1つの画面で使う。会話の保存先を自分で選べる。

スター4.7万
健全度
16,783
セキュリティScorecard未評価

Text Generation WebUI

代替対象: ChatGPT Plus / Python / AGPL-3.0

各種ローカルLLMをブラウザUIから動かせる汎用インターフェース。

スター4.8万
健全度
15,166
セキュリティScorecard未評価

LocalAI

代替対象: OpenAI API / Go / MIT

日本語の資料あり

OpenAI APIの代わりに、OpenAIと同じ形のAPIを自分の環境で提供するツール。文章、画像、音声などのモデルを動かせ、GPUがなくても動く構成を選べる。

スター5.0万
健全度
15,073
セキュリティScorecard未評価

Milvus

代替対象: Pinecone / Go / Apache-2.0

Pineconeの代わりに使える、大規模向けのベクトルデータベース。役割ごとに部品を分けた分散構成を取れ、大量のベクトルの検索に向く。

スター4.7万
健全度
14,096
セキュリティScorecard4.4

Jan

代替対象: ChatGPT / Rust / Apache-2.0

日本語の画面あり

端末内でモデルを動かすデスクトップアプリ。通信なしで使える。

スター4.5万
健全度
13,099
セキュリティScorecard未評価

Continue

代替対象: GitHub Copilot / TypeScript / Apache-2.0

エディタに組み込めるAIコーディングアシスタント。モデルを自分で選べる。

スター3.6万
健全度
12,178
セキュリティScorecard未評価

Quivr

代替対象: ChatGPT Plus / Go / MIT

流れ続ける内容を取り込み、数秒で検索でき、話題を追い続けられるようにする、オープンソースのエンジン(Quivr V2)。現在のREADMEは「評価の段階で、本番ではまだ動かさないでください」と書いている。完成したチャットのサービスではない。

スター4.0万
健全度
11,898
セキュリティScorecard未評価

Langfuse

代替対象: LangSmith / TypeScript / MIT

日本語の資料あり

LangSmithの代わりに使える、LLMアプリの記録と評価のツール。AIの呼び出しの流れ、かかった時間と費用を記録し、回答の質を評価して改善に役立てられる。

スター3.7万
健全度
11,523
セキュリティScorecard未評価

Khoj

代替対象: ChatGPT Plus / Python / AGPL-3.0

ChatGPT Plusの代わりに使える、自分専用のAIアシスタント。手元のメモや文書とWebを横断して調べ、質問に答える。自分のサーバーでも動かせる。

スター3.8万
健全度
10,820
セキュリティScorecard未評価

Qdrant

代替対象: Pinecone / Rust / Apache-2.0

Pineconeの代わりに使える、ベクトルデータベース。Rust製で、単体のサーバーとして手軽に動かせる。属性での絞り込みと組み合わせた検索がしやすい。

スター3.5万
健全度
10,415
セキュリティScorecard未評価

InvokeAI

代替対象: Adobe Firefly / TypeScript / Apache-2.0

日本語の画面あり

Adobe Fireflyの代わりに使える、画像生成AIの作業環境。キャンバスの上で描き足しや部分の描き直しをしながら制作でき、プロの制作の流れを意識した作り。

スター2.9万
健全度
9,063
セキュリティScorecard未評価

Chroma

代替対象: Pinecone / Rust / Apache-2.0

Pineconeの代わりに使える、手軽なベクトルデータベース。Pythonから数行で使い始められ、AIアプリの試作や、小さめの規模のRAGに向く。

スター3.0万
健全度
8,841
セキュリティScorecard5.3

faster-whisper

代替対象: Notta / Python / MIT

Whisperを高速化した実装。実用的な速度で文字起こしする。

スター2.7万
健全度
7,820
セキュリティScorecard未評価

WhisperX

代替対象: Notta / Python / BSD-2-Clause

Whisperをもとに、単語ごとの時刻と、話している人の区別(話者分離)を付けて文字起こしするツール。会議の議事録づくりに向く。

スター2.5万
健全度
7,649
セキュリティScorecard未評価

pgvector

代替対象: Pinecone / C / PostgreSQL

PostgreSQLでベクトル検索を行う拡張。既存のDBに足せる。

スター2.4万
健全度
6,642
セキュリティScorecard4.4

Weaviate

代替対象: Pinecone / Go / BSD-3-Clause

Pineconeの代わりに使える、ベクトルデータベース。ベクトル検索とキーワードの検索を組み合わせた検索ができ、データとベクトルを一緒に保存する。

スター1.7万
健全度
5,083
セキュリティScorecard6.7

Phoenix

代替対象: LangSmith / Python / Elastic License 2.0

日本語の資料あり

LangSmithの代わりに使える、AIアプリの観測と評価のツール。LLMの呼び出しの流れを記録し、回答の評価や、RAGの検索の結果の確認に使える。

スター1.2万
健全度
3,823
セキュリティScorecard未評価

Kokoro

代替対象: Voicepeak / JavaScript / Apache-2.0

Voicepeakの代わりに使える、軽い音声合成のモデル。小さなモデルながら自然な読み上げができ、少ない資源で動かせる。

スター9,941
健全度
3,027
セキュリティScorecard2.9

Helicone

代替対象: LangSmith / TypeScript / Apache-2.0

LLMの利用状況を記録する。プロキシとして挟むだけで使える。

スター6,272
健全度
1,980
セキュリティScorecard未評価

Piper

代替対象: Voicepeak / C++ / GPL-3.0

ローカルで動く音声合成。日本語の音声も生成できる。

スター6,181
健全度
1,872
セキュリティScorecard未評価

Whisper ASR Webservice

代替対象: Otter.ai / Python / MIT

音声認識WhisperをHTTP APIとして提供するサーバ。

スター3,366
健全度
1,132
セキュリティScorecard未評価

AI・LLM基盤のオープンソースの選び方

AIのツールは数が多く、このカテゴリには35件を掲載しています。まず、目的ごとに見ていきましょう。

  • AIモデルを手元で動かす:Ollamaやllama.cppが代表的です。画面から使いたいなら、デスクトップアプリのJanがあります。たくさんの人に提供する用途にはvLLMが向いています。
  • ChatGPTのようなチャット画面:Open WebUI、LibreChat、LobeChatが候補です。
  • AIアプリ・社内文書のAI:AIを使った業務アプリを作るならDify、処理を細かく組み立てるならLangflow、社内文書に答えさせるならRAGFlowやAnythingLLMがあります。
  • 画像の生成:Stable Diffusion WebUIやComfyUIがあります。
  • 文字起こし:会議の録音などを文字にするならWhisperがあります。

選ぶときのポイント

  • 性能の差を理解する:自前で動かせるモデルは、最新の大規模なモデルに比べて性能が劣ることが多いです。用途に足りるかを試してから決めましょう。
  • 必要なパソコン・サーバー:大きなモデルを快適に動かすには、高性能なGPUが必要です。
  • ライセンスは2種類ある:ツールのライセンスと、使うAIモデルのライセンス(利用条件)は別です。両方を確認しましょう。Dify、Open WebUI、LobeChatは、独自の条件つきのライセンスです。

ChatGPTの代替のページも参考にしてください。

最終更新:2026/10/06

代替するSaaSから探す

いま使っているサービスの名前から、代わりになるオープンソースをまとめて比べられます。

2つを比べる