關於 AI Gateway
關於 AI Gateway
AI Gateway 是一個統一 LLM 入口，幫你整合多家供應商（NVIDIA、OpenAI、Anthropic、Gemini…），讓你用一把 API key 就能切換模型，不用被單一供應商綁死。
我們想做什麼
把「串接 LLM 這件事」變簡單。
不管你是要：
- 寫個小工具用 Llama 3.1 8B 翻譯文章
- 比較 GPT-4o 跟 Claude 3.5 哪個比較會寫文案
- 在 production 服務混用 embedding + chat completion
- 換 provider 不想重寫 SDK
AI Gateway 都能幫你少寫一堆 boilerplate，專注在你的產品邏輯。
目前狀態
- 測試版 正式上線，2026 年 8 月
- 整合 NVIDIA NIM 平台 9 個開源模型（Llama 3.x、Mistral Large 2、Qwen 2.5、Gemma 2、Nemotron、Vision 11B、Embedding V1）
- 之後會接 OpenAI / Anthropic / Google Gemini（見首頁「供應商生態系」）
- 繁體中文 介面、台灣本地化 OAuth（ccpass 串串通）
技術棧
- PHP 8.2 + MySQL 8.0
- BT Panel + Nginx（正式站）
- 沒有外部 LLM 框架，自己寫的 adapter pattern，要接新供應商只加 3 個檔案
怎麼聯絡
- 站內：登入會員後到
/chat跟 AI 聊聊，或到 管理後台 - Email：ai@0800945.com（所有客服 / 業務 / 法務 / 安全 / 隱私 / API 問題）
- 緊急事故：email 主旨加
[urgent]，會優先處理