AI 网关

原生 AI API 网关

官方网站 | MCP Server 快速入门 | Wasm 插件中心 |

English | 中文 | 日本語

什么是 Higress？

Higress 是一款基于 Istio 和 Envoy 的云原生 API 网关，支持使用 Go/Rust/JS 编写的 Wasm 插件进行扩展。它提供了数十个开箱即用的通用插件及一个开箱即用的可视化控制台（可在线体验 DEMO）。

核心场景

Higress 的 AI 网关能力支持所有主流模型服务商（国内外），并通过插件机制支持托管 MCP（模型上下文协议）Server，使 AI Agent 能便捷调用各类工具与服务。借助openapi-to-mcp 工具，可快速将 OpenAPI 规范转为远程 MCP Server 进行托管。Higress 实现了 LLM API 与 MCP API 的统一管理。

🌟 马上访问 https://mcp.higress.ai/，亲身体验 Higress 托管的远程 MCP Server：

Higress MCP Server 平台

企业落地

Higress 诞生于阿里巴巴，旨在解决 Tengine reload 对长连接业务的影响及 gRPC/Dubbo 负载均衡能力不足等问题。在阿里云内部，Higress 的 AI 网关能力已支撑通义百炼模型工坊、机器学习 PAI 平台等核心 AI 应用。阿里云基于 Higress 打造了云原生 API 网关产品，为大量企业客户提供 99.99% 网关高可用保障服务能力。

快速入门

Higress 支持通过 Docker 一键启动，个人开发者本地学习或搭建简单站点极为方便：

# 创建工作目录
mkdir higress; cd higress
启动 higress，配置文件将写入工作目录
docker run -d --rm --name higress-ai -v ${PWD}:/data \
        -p 8001:8001 -p 8080:8080 -p 8443:8443  \
        higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest

端口说明：

8001 端口：Higress UI 控制台入口
8080 端口：网关 HTTP 协议入口
8443 端口：网关 HTTPS 协议入口

> 所有 Higress Docker 镜像均使用 Higress 自有镜像仓库，不受 Docker Hub 拉取速率限制。

此外，镜像的提交与更新均有安全扫描机制（由阿里云 ACR 驱动）保障，生产可放心使用。

若在拉取 higress-registry.cn-hangzhou.cr.aliyuncs.com 镜像时遇到超时，可尝试替换为以下镜像源：

东南亚地区：higress-registry.ap-southeast-7.cr.aliyuncs.com

如需使用 Helm 部署到 K8s 等其它安装方式，请参考官方快速入门文档。

应用场景

MCP Server 托管：

Higress 通过插件机制托管 MCP Server，使 AI Agent 能便捷调用各类工具与服务。借助openapi-to-mcp 工具，可快速将 OpenAPI 规范转为远程 MCP Server。

Higress 托管 MCP Server 的主要优势：

统一鉴权与授权机制
细粒度限流，防止滥用
全量调用审计日志
丰富可观测性，便于性能监控
插件机制简化部署
动态热更新，无中断、无连接丢失

了解更多...

AI 网关：

Higress 采用统一协议对接所有 LLM 模型服务商，具备 AI 可观测性、多模型负载均衡、Token 限流、缓存等能力：

Kubernetes Ingress 控制器：

Higress 可作为高功能丰富的 Ingress 控制器，兼容 K8s nginx Ingress 控制器的大量注解。即将支持 Gateway API，助力 Ingress API 平滑迁移至 Gateway API。

微服务网关：

Higress 可作为微服务网关，从多种服务注册中心（如 Nacos、ZooKeeper、Consul、Eureka 等）发现微服务。深度集成 Dubbo、Nacos、Sentinel 等微服务技术栈。

安全网关：

Higress 可作为安全网关使用，支持 WAF 及多种认证方式，如 key-auth、hmac-auth、jwt-auth、basic-auth、oidc 等。

核心优势

生产级稳定性

源自阿里内部产品，已历经 2 年+ 生产级验证，支撑超十万 QPS 大规模场景。

完全消除了 Nginx reload 带来的流量抖动，配置变更毫秒级生效且对业务透明，特别适合 AI 等长连接场景。

流式处理

支持请求/响应体真正的全流式处理，Wasm 插件可轻松自定义 SSE 等流式协议处理。

在 AI 等高带宽场景下显著降低内存占用。

易扩展

提供丰富的官方插件库，涵盖 AI、流量治理、安全防护等常用功能，满足 90% 以上业务场景需求。

专注 Wasm 插件扩展，通过沙箱隔离保障内存安全，支持多语言开发，插件可独立升级，网关逻辑热更新无丢流。

安全易用

基于 Ingress API/Gateway API 标准，内置 UI 控制台、WAF 防护插件、IP/Cookie CC 防护插件即开即用。

支持对接 Let's Encrypt 自动申请、续期免费证书，可脱离 K8s 部署，单条 Docker 命令即可启动，个人开发者极为方便。

社区

欢迎加入我们的 Discord 社区！在这里你可以与 Higress 的开发者及其他热情用户交流。

致谢

Higress 离不开社区中众多开源项目的宝贵贡献，特别感谢 Envoy 和 Istio 项目。

贡献者

Star 趋势

↑ 返回顶部 ↑

--- Tranlated By Open Ai Tx | Last indexed: 2025-06-07 ---

higress