开源

“AI 应用的上层建筑是 Prompt，经济基础是 Gateway。没有稳固的 Gateway 层，再精美的 RAG 和 Agent 都是沙上建塔。” 一、为什么 AI Gateway 是 2026 年的必选项 2023-2025 年的 AI 开发经历了三个阶段： Demo 时代（2023）：调用 OpenAI API，跑通就是胜利 RAG 时代（2024）：向量数据库、检索增强，拼的是数据质量 工程时代（2025-2026）：多模型切换、成本控制、安全合规、可观测性 AI Gateway 是工程时代的基石。 没有 Gateway 的典型痛点： 单点故障：OpenAI 挂了，整个应用死 成本失控：没有 token 监控，月底账单暴雷 安全黑盒：不知道用户输入了什么，AI 回了什么 无法切换：从 GPT-4 迁到 Claude，代码重写一遍 二、AI Gateway 四大金刚 1. LiteLLM | 推荐指数：🌟🌟🌟🌟🌟 开源 LLM 代理的事实标准。统一 100+ 模型接口，一行代码切换。 import litellm # 调用 GPT-4 response = litellm.completion(model="gpt-4", messages=[...]) # 切换到 Claude（只改一行） response = litellm.completion(model="claude-3-5-sonnet", messages=[...]) # 换本地 Ollama 模型（同样一行） response = litellm.completion(model="ollama/llama3", messages=[...]) 免费点：开源核心完全免费 杀手锏：Fallback 链、请求记录、虚拟 Key 管理 官网：litellm.ai ...

“当所有人都在聊 Prompt Engineering 的时候，真正的工程师在优化 Gateway 层的延迟和成本。” 为什么 AI Gateway 如此重要 2026年的AI应用开发已经分层： 上层：Prompt 工程、RAG、Agent 编排 中层：模型选择、参数调优 底层：AI Gateway —— 路由、重试、缓存、限流、成本监控 AI Gateway 是生产环境的咽喉。 没有它，你的应用只是个玩具。 一、AI Gateway 核心工具 1. Kong AI Gateway | 🌟🌟🌟🌟🌟 定位：企业级 API Gateway + AI 专用插件 免费点：开源版完全免费 AI加持：原生支持 LLM 路由、token 计费、语义缓存 杀手锏：《 fortune 500 企业的选择，插件生态极其丰富 适用场景：已有 Kong 基础设施的团队扩展 AI 能力 官网：konghq.com # Kong AI 插件配置示例 plugins: - name: ai-proxy config: route_type: "llm/v1/chat" model_provider: "openai" auth_header_name: "Authorization" “如果你已经在用 Kong，AI 能力就是一行配置的事。” ...

“2020年代的开发者是幸运的——大量世界级工具免费开放。问题是，选择太多反而让人迷失。” 评选标准 真正免费：有永久免费层，不只是14天试用 AI 原生或深度集成AI：符合2020年代特征 活跃维护：社区活跃，持续更新 生产可用：不是玩具，能扛真项目 一、代码编辑与IDE 1. VS Code | 🌟🌟🌟🌟🌟 定位：代码编辑器之王 免费点：完全开源免费 AI加成：Copilot、GitHub Copilot Chat 深度集成，Cursor 基于其构建 必装插件：GitLens、ESLint、Prettier、AI 代码助手 官网：code.visualstudio.com 没有 VS Code 的开发者工作台是不完整的。它定义了现代代码编辑的标准形态。 2. Cursor | 🌟🌟🌟🌟🌟 定位：AI 原生 IDE 免费点：个人免费，无限次 AI 补齐和对话 杀手锏：和 VS Code 插件完全兼容，但 AI 体验断层领先 适用场景：从零写代码、重构旧项目、学习新技术栈 官网：cursor.com “写代码就像对话”——Cursor 将此体验推向极致。 二、AI 辅助编程 3. GitHub Copilot | 🌟🌟🌟🌟 免费点：学生/教师/Open Source Maintainer 免费；新用户2个月试用 优势：基于数十亿行开源代码训练，补全最自然 限制：收费后 $10/月，对学生党不够友好 官网：github.com/copilot 4. Codeium | 🌟🌟🌟🌟 免费点：个人完全免费，无限次使用 定位：Copilot 最佳免费替代品 特色：IDE 插件全覆盖，Chat 功能不限量 官网事业：codeium.com 5. Google AI Studio / Gemini API | 🌟🌟🌟🌟 免费点： generous free tier for the Gemini API, generous rate limits 用途：构建 AI 应用后端，代码生成和分析 官网：ai.google.dev 三、部署与托管 6. Vercel | 🌟🌟🌟🌟🌟 免费点： hobby计划完全免费，无限项目 定位：前端部署首选 AI加成：AI SDK，内置流式响应支持 杀手锏：零配置 CDN，全球秒级部署，Git 自动同步 官网：vercel.com 7. Modal | 🌟🌟🌟🌟 免费点：每月 $30 额度（足够跑大量GPU推理） 定位：AI/ML 应用部署 杀手锏：秒级 GPU 容器启动，按秒计费 官网：modal.com 8. Fly.io | 🌟🌟🌟🌟 免费点：每月 $5 额度 + 3个共享CPU实例 定位：容器化应用的 Heroku 继任者 特色： --region全球分布公网应用，内置 Postgres 和 Redis 官网：fly.io 四、数据库与后端 9. Supabase | 🌟🌟🌟🌟🌟 免费点：500MB 空间，无限项目，每月 25万 行读取 定位：Firebase 的 PostgreSQL 替代品 杀手锏：实时订阅、Row Level Security、AI 向量扩展 官网：supabase.com 10. Neon | 🌟🌟🌟🌟 免费点：500MB，分支无限制 定位：无服务器 PostgreSQL 杀手锏：Git 式数据库分支，按计算付费，成本极低 官网：neon.tech 11. Upstash | 🌟🌟🌟🌟 免费点：每天 10,000 请求 定位：无服务器 Redis/Kafka 用途：API 限流、会话缓存、消息队列 官网：upstash.com 五、API 与工具链 12. OpenWeatherMap / 聚合数据API | 🌟🌟🌟 免费点：基本层完全免费 用途：天气、金融、地理位置等数据接入 替代：RapidAPI 市场（大量免费 API） 13. Hugging Face | 🌟🌟🌟🌟🌟 免费点：模型下载、推理 API Spaces 完全免费 定位：AI 模型 GitHub 杀手锏：30万+ 开源模型，一键部署为推理端点 官网：huggingface.co 六、设计与文档 14. Figma | 🌟🌟🌟🌟🌟 免费点：个人版完全免费 定位：协作设计标准 AI加成：AI 生成设计、自动布局 官网：figma.com 15. Notion | 🌟🌟🌟🌟 免费点：个人版无限页面 定位：知识库与文档 AI加成：AI 写作助手、自动摘要 官网：notion.so 综合评价表 工具 类别 免费力度 学习曲线 AI 集成 VS Code 编辑器 ⭐⭐⭐⭐⭐ 低 中 Cursor AI IDE ⭐⭐⭐⭐⭐ 低 极高 GitHub Copilot AI 辅助 ⭐⭐⭐ 无 极高 Codeium AI 辅助 ⭐⭐⭐⭐⭐ 无 高 Vercel 部署 ⭐⭐⭐⭐⭐ 极低 高 Modal AI 部署 ⭐⭐⭐⭐ 中 极高 Fly.io 部署 ⭐⭐⭐⭐ 中 低 Supabase 数据库 ⭐⭐⭐⭐⭐ 中 中 Neon 数据库 ⭐⭐⭐⭐ 中 低 Hugging Face AI 模型 ⭐⭐⭐⭐⭐ 中 极高 Figma 设计 ⭐⭐⭐⭐⭐ 低 中 Notion 文档 ⭐⭐⭐⭐⭐ 低 中 组合推荐：按场景选型 最快启动 MVP 前端：Vercel + Next.js 后端：Supabase（数据库+认证+存储） AI：Hugging Face API 或 OpenAI API 编辑：Cursor AI 原生应用 推理：Modal GPU 函数 前端：Vercel + Vercel AI SDK 数据：Neon Postgres + pgvector 模型：Hugging Face 个人博客/网站 建站：Hugo / Next.js 部署：Vercel / GitHub Pages 评论：Giscus 分析：Umami 免费工具的两个真相 免费是商业策略，不是慈善——善用即可，不要指望永远免费。核心是：用免费层验证想法，验证成功后再付费。 ...