Apache APISIX API 网关 ｜ AI 网关

Apache APISIX 是一个动态、实时、高性能的 API 网关。

APISIX API 网关提供了丰富的流量管理功能，如负载均衡、动态上游、金丝雀发布、熔断、认证、可观测性等。

APISIX 可以通过其灵活的插件系统作为 AI 网关，提供 AI 代理、LLM 的负载均衡、重试和回退、基于令牌的速率限制以及强大的安全性，以确保 AI 代理的效率和可靠性。APISIX 还提供了 mcp-bridge 插件，将基于 stdio 的 MCP 服务器无缝转换为可扩展的 HTTP SSE 服务。

您可以使用 APISIX API 网关处理传统的南北流量，以及服务之间的东西流量。它还可以用作 k8s ingress controller。

Apache APISIX 的技术架构：

社区

• 请在 G2 上为 APISIX 撰写评论。
• 邮件列表：发送邮件至 dev-subscribe@apisix.apache.org，按照回复订阅邮件列表。
• Slack 工作区 - 邀请链接（如果此链接过期，请提交 issue），然后加入 #apisix 频道（Channels -> Browse channels -> 搜索 "apisix"）。
• - 关注并使用 #ApacheAPISIX 与我们互动
• 文档
• 讨论
• 博客

功能

您可以使用 APISIX API 网关作为流量入口来处理所有业务数据，包括动态路由、动态上游、动态证书、A/B 测试、金丝雀发布、蓝绿部署、限速、防御恶意攻击、指标、监控告警、服务可观测性、服务治理等。

• 全平台支持

  • 云原生：平台无关，无供应商锁定，APISIX API 网关可以从裸金属运行到 Kubernetes。
  • 支持 ARM64：不用担心基础设施技术的锁定。

• 多协议支持

  • TCP/UDP 代理：动态 TCP/UDP 代理。
  • Dubbo 代理：动态 HTTP 到 Dubbo 代理。
  • 动态 MQTT 代理：支持通过 client_id 对 MQTT 进行负载均衡，支持 MQTT 3.1.*, 5.0。
  • gRPC 代理：代理 gRPC 流量。
  • gRPC Web 代理：将 gRPC Web 流量代理到 gRPC 服务。
  • gRPC 转码：支持协议转码，使客户端可以通过 HTTP/JSON 访问您的 gRPC API。
  • 代理 WebSocket
  • 代理协议
  • HTTP(S) 正向代理
  • SSL：动态加载 SSL 证书
  • HTTP/3 with QUIC

• 全动态

  • 热更新和热插件：无需重启即可持续更新其配置和插件！
  • 代理重写：支持在发送到上游之前重写请求的 host, uri, schema, method, headers。
  • 响应重写：向客户端设置自定义的响应状态码、正文和头信息。
  • 动态负载均衡：带权重的轮询负载均衡。
  • 基于哈希的负载均衡：使用一致性哈希会话进行负载均衡。
  • 健康检查：在上游节点上启用健康检查，并会在负载均衡期间自动过滤不健康的节点，以确保系统稳定性。
  • 熔断：智能跟踪不健康的上游服务。
  • 代理镜像：提供镜像客户端请求的能力。
  • 流量拆分：允许用户逐步将流量百分比定向到不同的上游。

• 细粒度路由

  • 支持全路径匹配和前缀匹配
  • 支持所有 Nginx 内置变量作为路由条件，因此您可以使用 cookie, args 等作为路由条件来实现金丝雀发布、A/B 测试等。
  • 支持 各种运算符作为路由的判断条件，例如 {"arg_age", ">", 24}
  • 支持 自定义路由匹配函数
  • IPv6：使用 IPv6 匹配路由。
  • 支持 TTL
  • 支持优先级
  • 支持批量 HTTP 请求
  • 支持通过 GraphQL 属性过滤路由

• 安全性

  • 丰富的认证与授权支持：
    • key-auth
    • JWT
    • basic-auth
    • wolf-rbac
    • casbin
    • keycloak
    • casdoor
  • IP 白名单/黑名单
  • Referer 白名单/黑名单
  • IdP：支持外部身份平台，如 Auth0, okta 等。
  • 限流
  • 限数
  • 限并发
  • 防 ReDoS（正则表达式拒绝服务）：内置策略，无需配置即可防止 ReDoS。
  • CORS 为您的 API 启用跨域资源共享（CORS）。
  • URI 拦截器：通过 URI 拦截客户端请求。
  • 请求验证器
  • CSRF 基于 Double Submit Cookie 方式，保护您的 API 免受 CSRF 攻击。

• 运维友好

  • Zipkin 追踪：Zipkin
  • 开源 APM：支持 Apache SkyWalking
  • 与外部服务发现集成：除了内置的 etcd，还支持 Consul, Consul_kv, Nacos, Eureka 和 Zookeeper (CP)。
  • 监控与指标：Prometheus
  • 集群化：APISIX 节点是无状态的，创建配置中心的集群，请参考 etcd 集群指南。
  • 高可用性：支持在同一集群中配置多个 etcd 地址。
  • 仪表盘
  • 版本控制：支持操作回滚。
  • CLI：通过命令行启动\停止\重载 APISIX。
  • 独立模式：支持从本地 YAML 文件加载路由规则，这在 Kubernetes(k8s) 下更为友好。
  • 全局规则：允许为所有请求运行任何插件，例如限速、IP 过滤等。
  • 高性能：单核 QPS 达到 18k，平均延迟小于 0.2 毫秒。
  • 故障注入
  • REST Admin API：使用 REST Admin API 控制 Apache APISIX，默认只允许 127.0.0.1 访问，您可以修改 conf/config.yaml 中的 allow_admin 字段以指定允许调用 Admin API 的 IP 列表。另外，请注意 Admin API 使用 key auth 来验证调用者的身份。
  • 外部日志记录器：将访问日志导出到外部日志管理工具。（HTTP 日志记录器, TCP 日志记录器, Kafka 日志记录器, UDP 日志记录器, RocketMQ 日志记录器, SkyWalking 日志记录器, 阿里云日志服务(SLS), Google 云日志记录, Splunk HEC 日志记录, 文件日志记录器, SolarWinds Loggly 日志记录, 腾讯云 CLS）。
  • ClickHouse：将日志推送到 ClickHouse。
  • Elasticsearch：将日志推送到 Elasticsearch。
  • Datadog：将自定义指标推送到 DogStatsD 服务器，与 Datadog 代理 捆绑在一起，通过 UDP 协议传输。DogStatsD 基本上是 StatsD 协议的实现，它收集 Apache APISIX 代理的自定义指标，将其聚合为单个数据点并发送到配置的 Datadog 服务器。
  • Helm charts
  • HashiCorp Vault：支持在低信任环境中从 Vault 安全存储后端访问机密的解决方案。目前，RS256 密钥（公私钥对）或密钥可以通过 APISIX Secret 资源从 vault 链接到 jwt-auth 认证插件中。

• 高度可扩展

  • 自定义插件：允许钩住常见阶段，如 rewrite, access, header filter, body filter 和 log，也允许钩住 balancer 阶段。
  • 插件可以用 Java/Go/Python 编写
  • 插件可以用 Proxy Wasm SDK 编写
  • 自定义负载均衡算法：您可以在 balancer 阶段使用自定义负载均衡算法。
  • 自定义路由：支持用户自己实现路由算法。

• 多语言支持

  • Apache APISIX 是一个多语言网关，用于插件开发，并通过 RPC 和 Wasm 提供支持。
  • RPC 方式是当前的方式。开发者可以根据需要选择语言，并通过 RPC 启动独立进程后，通过本地 RPC 通信与 APISIX 交换数据。到目前为止，APISIX 支持 Java, Golang, Python 和 Node.js。
  • Wasm 或 WebAssembly 是一种实验性的方式。APISIX 可以通过 Proxy Wasm SDK 编写的 wasm 插件 加载和运行 Wasm 字节码。开发者只需根据 SDK 编写代码，然后将其编译为在 Wasm VM 上运行的 Wasm 字节码。

Apache APISIX API 网关 ｜ AI 网关

Apache APISIX是一个动态的、实时的、高性能API网关。

APISIX API网关提供了丰富的流量管理功能，例如负载均衡、动态上游、金丝雀发布、断路器、身份验证、可观察性等等。

通过其灵活的插件系统，APISIX可以作为**AI网关**，提供AI代理、大型语言模型(LLM)负载均衡、重试和回退、基于令牌的速率限制以及强大的安全性，以确保AI代理的效率和可靠性。APISIX还提供mcp-bridge插件，可以将基于stdio的MCP服务器无缝转换为可扩展的HTTP SSE服务。

您可以使用APISIX API网关处理传统的南北向流量，以及服务之间的东西向流量。它还可以用作k8s Ingress控制器。

Apache APISIX的技术架构：

社区

• 请在G2上为APISIX 留下评价。
• 邮件列表：发送邮件到dev-subscribe@apisix.apache.org，按照回复中的说明订阅邮件列表。
• Slack工作区 - 邀请链接（如果此链接过期，请打开一个issue），然后加入#apisix频道（频道 -> 浏览频道 -> 搜索 "apisix"）。
• - 使用标签 #ApacheAPISIX 关注我们并与我们互动
• 文档
• 讨论
• 博客

功能特性

您可以使用 APISIX API 网关作为流量入口，处理所有业务数据，包括动态路由、动态上游、动态证书、A/B 测试、金丝雀发布、蓝绿部署、限流、恶意攻击防御、监控指标、告警监控、服务可观测性、服务治理等。

• 全平台支持

  • 云原生：平台无关，无厂商锁定，APISIX API 网关可以从裸机运行到 Kubernetes。
  • 支持 ARM64：无需担心基础设施技术的锁定。

• 多协议支持

  • TCP/UDP 代理：动态 TCP/UDP 代理。
  • Dubbo 代理：动态 HTTP 到 Dubbo 代理。
  • 动态 MQTT 代理：支持按 client_id 负载均衡 MQTT，同时支持 MQTT 3.1.*、5.0。
  • gRPC 代理：代理 gRPC 流量。
  • gRPC Web 代理：将 gRPC Web 流量代理到 gRPC 服务。
  • gRPC 转码：支持协议转码，允许客户端使用 HTTP/JSON 访问您的 gRPC API。
  • WebSocket 代理
  • Proxy Protocol
  • HTTP(S) 正向代理
  • SSL：动态加载 SSL 证书
  • HTTP/3 with QUIC

• 完全动态

  • 热更新和热插件: 无需重启即可持续更新其配置和插件！
  • 代理重写: 支持在将请求发送到上游之前重写请求的host、uri、schema、method、headers。
  • 响应重写: 为客户端设置自定义的响应状态码、正文和标头。
  • 动态负载均衡：带权重的轮询负载均衡。
  • 基于哈希的负载均衡：使用一致性哈希会话进行负载均衡。
  • 健康检查: 启用上游节点的健康检查，并在负载均衡期间自动过滤不健康的节点，以确保系统稳定性。
  • 断路器：智能跟踪不健康的上游服务。
  • 代理镜像: 提供镜像客户端请求的能力。
  • 流量分割: 允许用户将不同百分比的流量逐步导向不同的上游。

• 细粒度路由

  • 支持完整的路径匹配和前缀匹配
  • 支持所有 Nginx 内置变量作为路由条件，因此您可以使用cookie、args等作为路由条件来实现金丝雀发布、A/B 测试等。
  • 支持各种运算符作为路由判断条件，例如{"arg_age", ">", 24}
  • 支持自定义路由匹配函数
  • IPv6：使用 IPv6 进行路由匹配。
  • 支持TTL
  • 支持优先级
  • 支持批量 HTTP 请求
  • 支持根据 GraphQL 属性过滤路由

• 安全

  • 丰富的认证与授权支持：
    • key-auth
    • JWT
    • basic-auth
    • wolf-rbac
    • casbin
    • keycloak
    • casdoor
  • IP 白名单/黑名单
  • Referer 白名单/黑名单
  • IdP: 支持外部身份平台，例如 Auth0, okta 等。
  • 限流
  • 计数限流
  • 并发限流
  • 防范正则表达式拒绝服务 (Anti-ReDoS)：内置策略，无需配置即可防范 ReDoS 攻击。
  • CORS 启用 CORS（跨域资源共享）以支持您的 API。
  • URI拦截器：通过 URI 拦截客户端请求。
  • 请求验证器
  • CSRF 基于 双提交 Cookie 方法，保护您的 API 免受 CSRF 攻击。

• 运维友好

• Zipkin追踪：Zipkin

• 开源APM：支持Apache SkyWalking

• 支持外部服务发现：除了内置的etcd，还支持Consul、Consul_kv、Nacos、Eureka和Zookeeper (CP)。

• 监控和指标：Prometheus

• 集群：APISIX节点是无状态的，创建配置中心的集群，请参考etcd集群指南。

• 高可用性：支持在同一集群中配置多个etcd地址。

• Dashboard

• 版本控制：支持操作回滚。

• 命令行界面：通过命令行启动/停止/重新加载APISIX。

• 独立模式：支持从本地YAML文件加载路由规则，在Kubernetes(k8s)等环境下更友好。

• 全局规则：允许为所有请求运行任何插件，例如：限流、IP过滤等。

• 高性能：单核QPS达到18k，平均延迟小于0.2毫秒。

• 故障注入

• REST Admin API：使用REST Admin API控制Apache APISIX，默认只允许127.0.0.1访问，您可以修改conf/config.yaml中的allow_admin字段来指定允许调用Admin API的IP列表。另外，请注意Admin API使用密钥认证来验证调用者的身份。

• 外部日志记录器：将访问日志导出到外部日志管理工具。（HTTP日志记录器、TCP日志记录器、Kafka日志记录器、UDP日志记录器、RocketMQ日志记录器、SkyWalking日志记录器、阿里云日志服务(SLS)、Google Cloud Logging、Splunk HEC Logging、文件日志记录器、SolarWinds Loggly Logging、腾讯云CLS)。

• ClickHouse：将日志推送到ClickHouse。

• Elasticsearch：将日志推送到Elasticsearch。

• Datadog：通过UDP协议将自定义指标推送到DogStatsD服务器，与Datadog agent捆绑在一起。DogStatsD基本上是StatsD协议的一个实现，它收集Apache APISIX代理的自定义指标，将其聚合到单个数据点，并将其发送到配置的Datadog服务器。

• Helm charts

• HashiCorp Vault：支持密钥管理解决方案，用于从Vault安全存储（在低信任环境中）访问密钥。目前，可以使用APISIX密钥资源，从vault中链接RS256密钥（公钥-私钥对）或密钥到jwt-auth认证插件。

• 高度可扩展

  • 自定义插件：允许挂接常用阶段，例如rewrite、access、header filter、body filter和log，也允许挂接balancer阶段。
  • 插件可以用Java/Go/Python编写
  • 插件可以用Proxy Wasm SDK编写
  • 自定义负载均衡算法：您可以在balancer阶段使用自定义负载均衡算法。
  • 自定义路由：支持用户自行实现路由算法。

• 多语言支持

  • Apache APISIX是一个支持多语言插件开发的网关，并通过RPC和Wasm提供支持。
  • RPC方式是目前的主要方式。开发者可以根据自身需求选择语言，并在启动独立进程与RPC通信后，通过本地RPC通信与APISIX交换数据。目前，APISIX支持Java、Golang、Python和Node.js。
  • Wasm或WebAssembly是一种实验性方式。APISIX可以通过使用Proxy Wasm SDK编写的APISIX wasm插件加载并运行Wasm字节码。开发者只需根据SDK编写代码，然后将其编译成在APISIX的Wasm VM上运行的Wasm字节码。

• 无服务器

  • Lua 函数: 在 APISIX 的每个阶段调用函数。
  • AWS Lambda: 与 AWS Lambda 函数集成，作为动态上游，将特定 URI 的所有请求代理到 AWS API 网关端点。支持通过 API 密钥和 AWS IAM 访问密钥进行授权。
  • Azure Functions: 与 Azure 无服务器函数无缝集成，作为动态上游，将特定 URI 的所有请求代理到 Microsoft Azure 云。
  • Apache OpenWhisk: 与 Apache OpenWhisk 无缝集成，作为动态上游，将特定 URI 的所有请求代理到您自己的 OpenWhisk 集群。

开始使用

1. 安装

   请参考安装文档。

2. 快速入门

   快速入门指南是学习 APISIX 基础知识的好方法。只需按照快速入门中的步骤操作即可。

   此外，您可以参考文档尝试更多插件。

3. 管理 API

   Apache APISIX 提供REST 管理 API 来动态控制 Apache APISIX 集群。

4. 插件开发

   您可以参考插件开发指南 和示例插件 example-plugin 的代码实现。 阅读插件概念 将帮助您更多地了解插件。

更多文档，请参考Apache APISIX 文档站点

基准测试

使用AWS的八核服务器，APISIX的QPS达到140,000，延迟仅为0.2毫秒。

基准测试脚本已开源，欢迎尝试和贡献。

APISIX 也完美运行在 AWS Graviton3 C7g 上。

用户案例

• 哥白尼参考系统软件
• 更多案例

谁在使用 APISIX API 网关？

众多公司和组织机构将APISIX API网关用于研究、生产和商业产品，部分用户如下：

• Airwallex
• Bilibili
• CVTE
• 欧洲eFactory平台
• 欧洲哥白尼参考系统
• 吉利
• 荣耀
• 地平线机器人
• 爱奇艺
• 联想
• NASA喷气推进实验室
• Nayuki
• OPPO
• 青云
• Swisscom
• 腾讯游戏
• 航旅纵横
• vivo
• 新浪微博
• WeCity
• WPS
• 小鹏汽车
• Zoom

Logo

• Apache APISIX logo (PNG)
• Apache APISIX logo 源文件

感谢

受 Kong 和 Orange 启发。

许可证

Apache 2.0 许可证