跳至主要内容

AI 生態系整理

三大陣營(OpenAI / Google / Anthropic)在同樣的產品位置上各自都有對應品項,這頁用來對照,避免名詞混淆。

比較表格​

OpenAIGoogleAnthropicPerplexity AI
ChatChatGPTPerplexity
POCGoogle AI Studio
BrowserChatGPT AtlasChrome AI 模式Perplexity Comet
AI 筆記與研究工具Notebook LM
地端IDEAntigravity
企業AI 搜尋Google Agentspace
CLICodex CLI
Agent FrameworkAgent builder

AI 歷史​

年份事件意義
2017Transformer 論文(Attention Is All You Need)提出 self-attention,取代 RNN 成為所有現代 LLM 的基礎架構
2018BERT / GPT-1「預訓練 + 微調」範式確立
2020GPT-3參數規模跳到 175B,展示 few-shot / in-context learning——不必微調,光靠 prompt 裡的範例就能執行新任務。這是「prompt engineering」概念的起點
2022InstructGPT / RLHF用人類回饋做強化學習,讓模型「聽得懂指令」而不只是接續文字。這是 ChatGPT 好用的真正原因
2022/11ChatGPT把 LLM 包裝成對話介面對大眾開放,兩個月破億使用者
2023GPT-4多模態(可讀圖)、推理能力大幅提升,開始出現「可用於正式工作」的評價
2023–2024開源模型崛起(Llama 系列等)本地部署變得可行,催生 ollama / LM Studio 這類工具
2024–2025Agent / 工具使用成為主軸重點從「模型會不會答」轉向「模型能不能自己動手完成多步驟任務」
2024/11MCP 發布工具接入的標準化,見下方 mcp 章節

Agent Framework​

Agent builder​

OpenAI Agent Builder 是 OpenAI 平台上的視覺化 agent 編排工具。用拖拉節點的方式定義流程:哪一步呼叫模型、哪一步呼叫工具、什麼條件下分支、何時交給人類確認。

它解決的問題是:純用 code 寫 agent 迴圈時,「流程長什麼樣」散在程式碼各處,難以檢視與調整。視覺化編排讓流程本身變成可見的產物。

同類型的東西:

  • Google:Agent Development Kit(ADK)、Vertex AI Agent Builder
  • Anthropic:Claude Agent SDK
  • 開源:LangGraph、n8n、Dify

三家的 Agent 相關產品對照​

類型 / 公司OpenAIGoogleAnthropic
Agent frameworkModel Context Protocol (MCP) + OpenAI Agents SDK(Agent 標準 + SDK)Agent Development Kit (ADK)、Vertex AI Agent Builder(雲端部署 Agent)Claude Agent SDK(搭配 Claude Code / Claude 模型的 Agent SDK)
Web-based AI editor / IDE(不含 NotebookLM)Codex 線上編輯 / ChatGPT Code InterpreterGoogle AI Studio、Firebase Studio、Gemini for WebClaude Code Web App(claude.ai)
Local AI editor / IDE(OpenAI:目前無本地 IDE)Gemini in Zed Editor、Antigravity(本地運行)、VSCode Gemini PluginClaude Code CLI(帶編輯能力)
CLI toolOpenAI CLI、Codex CLI(直接在終端呼叫 OpenAI API / 模型)Gemini CLI(開源 AI agent,帶 Gemini 到你的 terminal)Claude Code CLI(終端內的 Claude coding / agent 工具)
Research / Note-taking Tools(OpenAI:暫無專門筆記工具)NotebookLM(AI 筆記與研究工具)(Anthropic:暫無專門工具)

alt text

MCP​

MCP(Model Context Protocol)是 Anthropic 在 2024 年底提出並開源的工具接入標準協定,現已被 OpenAI、Google 等採用。

它要解決的問題:在 MCP 出現之前,每個 AI 應用都要為每個外部服務(GitHub、Slack、資料庫、檔案系統)各自寫一套整合。M 個應用 × N 個服務 = M×N 份重複的整合程式碼。

MCP 的做法是定義一個中間層,把它變成 M + N:

AI 應用(MCP client) 外部服務(MCP server)
Claude Code ┐ ┌ github-mcp-server
Codex CLI ├─ MCP ──┤ filesystem-server
你自己的 agent ┘ └ 你自己寫的 server

協定定義三種能力:

能力說明
Tools模型可以呼叫的函式(有副作用,例如建立 PR、發訊息)
Resources模型可以讀取的資料(檔案、資料庫查詢結果)
Prompts預先定義好的提示範本,讓使用者快速觸發常見流程

傳輸方式有 stdio(本機子行程,最常用)與 HTTP/SSE(遠端服務)兩種。

實作參考:

self-host​

自己跑模型的兩個層次,常被搞混:

桌面 App:JAN vs LM Studio​

兩者都是「下載模型、開個聊天視窗就能用」的桌面應用,底層都用 llama.cpp。

JANLM Studio
授權開源(AGPL)閉源(個人免費)
介面簡潔,偏向「開源版 ChatGPT」功能較多,模型參數可調細節多
API server支援 OpenAI 相容端點支援 OpenAI 相容端點
適合想要開源、想改的人想快速試各種模型、調參數的人

兩者都提供 OpenAI 相容的 API,所以既有的程式碼把 base_url 換掉就能改用本地模型。相關筆記:JAN AI、openclaw + JAN。

推論引擎:ollama vs vLLM​

這一層是「怎麼把模型跑起來對外提供服務」,取捨完全不同:

ollamavLLM
定位個人 / 開發用,一行指令跑起來正式服務用,追求吞吐量
底層llama.cpp自研 CUDA kernel
量化預設用量化模型(GGUF),省記憶體主要跑全精度 / AWQ / GPTQ
並發弱,一次一個請求較順強,PagedAttention + continuous batching,多人同時用效率極高
硬體CPU 也能跑,Mac 上表現好必須有 NVIDIA GPU
上手ollama run llama3 就結束要設定較多參數

判斷原則:自己一個人用、或在筆電上跑 → ollama。要架給一個團隊用、在意每秒能服務多少請求 → vLLM。

相關筆記:claude 接 ollama、ollama 對外開放、openwebui。

使用方法​

幾個實際用下來有效的原則:

  1. 先給脈絡再給任務。把背景、限制、期望的輸出格式講清楚,比反覆修正省時間。
  2. 要求它先列計畫。複雜任務先讓它說明打算怎麼做,確認方向對了再讓它執行,避免做完一大堆才發現理解錯。
  3. 把重複的脈絡固化成檔案。專案的慣例、架構、禁忌寫進 CLAUDE.md / AGENTS.md(見下方 cli 章節),不要每次重講。
  4. 給它能自己驗證的方法。能跑測試、能編譯、能看 log 的任務,品質遠高於「憑空生成一段程式碼」。
  5. 長對話要適時重開。脈絡累積過多雜訊時,把結論整理成一段新的開場白重開,比繼續拖著有效。

CLI​

終端機裡的 agent 工具,共通模式是「在專案根目錄放一份說明檔,工具每次啟動時自動讀取」:

工具設定檔說明
Claude Code CLICLAUDE.md專案慣例、build 指令、架構說明
Codex CLIAGENTS.md同上,OpenAI 的對應物
Gemini CLIGEMINI.md同上

這份檔案的內容建議放:怎麼跑起來、怎麼測試、專案的特殊慣例、不要碰的東西。不要放程式碼本身讀得出來的東西(目錄結構、函式列表)——那是浪費 context。

相關筆記:Claude Code、Claude Skills、gemini。

Tools​

  • ChatGPT Atlas — OpenAI 的 AI 瀏覽器,把 agent 能力直接嵌進瀏覽情境,可以讓它代為操作網頁。
  • Perplexity Comet — Perplexity 的同類產品,強項是搜尋與來源引用。
  • Chrome AI 模式 — Google 在 Chrome 內建的 AI 功能。

三者都在爭同一個位置:把 agent 放進「使用者本來就在的地方」,而不是要使用者切換到另一個 App。

延伸:4 Next-Level ChatGPT Techniques

Materials​

Coding​

  • 无限免费 Claude Code,免费模型有满血版几成功力? — 影片
  • Claude 與 n8n 串接的自動化流程,見 automation