InfoQ · AI/ML/Data· Sergio De Simone·· 3 天前AI 评分50
Google Cloud API Gateway 为实时与 AI 应用推出流式支持
Google Cloud API Gateway Introduces Streaming Support for Real-Time and AI-Powered Applications
AI 导读
Google 宣布 Cloud API Gateway 流式支持进入公开预览，流式端点可部署在网关后并保留鉴权、监控等既有安全策略。该功能支持 SSE、WebSockets 和 gRPC 等流式模式，连接最长保持 1 小时。配合 model routing，可通过单一 OpenAI 兼容端点将请求路由到 Gemini、Claude 或 OpenAI gpt-oss 模型。
来源：InfoQ · AI/ML/Data · infoq.com