AgentCore Gateway新增InvokeModel支持和故障转移路由

Amazon Bedrock AgentCore Gateway已在其推理端点新增对InvokeModel和InvokeModelWithResponseStream API的支持，扩展了该端点能够处理的请求类型。¹ 该网关现在还为推理请求提供故障转移路由，因此当主要目标无法提供服务时，可将流量转至其他模型或提供商。¹ 这是两项相互关联的变化：API支持让现有Bedrock SDK集成能够使用该网关，而故障转移则提供了一种配置方式，可在出现指定问题时切换目标。¹ 公告没有提供受这些新增功能影响的流量规模或用户数量等量化指标；其说明的范围是API能力、路由行为和区域可用性。¹

API变更涉及两种指定的调用推理方式：InvokeModel和InvokeModelWithResponseStream，两者均可通过网关的推理端点使用。¹ 对于已经使用Amazon Bedrock SDK的集成，网关可以作为目标端点，无需重写客户端代码。¹ 所述端点可通过一个受管控的网关目标连接模型提供商，而无需更改客户端集成即可实现访问。¹ 这说明了API支持与故障转移之间的实际区别：前者关乎现有SDK客户端如何连接提供商，后者关乎主要目标遇到已配置的问题时请求会被发送到哪里。¹

故障转移行为始于一条网关规则，该规则按指定顺序列出备选目标。¹ 该规则还会指出允许从主要目标切换出去的条件，包括限流、服务器错误或响应超时。¹ 因此，网关的路由行为取决于按顺序排列的备选目标以及规则中设定的触发条件，而不是由系统随意选择目标。¹ 更广泛的说明还将容量不足和主要目标无法访问列为可将请求路由至其他位置的情况。¹

一旦出现符合条件的情况，故障转移就会将请求发送至备选模型或提供商，而不是让请求只停留在主要目标。¹ 内置断路器会避开当前出现故障的目标，帮助请求更快到达可正常工作的目标，并避免因尝试这些故障目标而产生额外延迟。¹ 该断路器与配置好的故障转移链协同工作：规则提供备选目标和触发条件，断路器则跳过已被判定为故障的目标。¹ 跳过这些目标的既定目的是更快到达健康目标，同时避免尝试已发生故障的目标带来延迟。¹

从客户端的角度看，故障转移不会呈现一连串独立的请求和回复：即使内部发生重试，客户端也只发送一个请求并收到一个响应。¹ 这种面向客户端的行为不同于内部路由过程，后者可能包括重试以及在配置链中的不同目标之间切换。¹ 公告将故障转移描述为对客户端透明，但并未表示不会发生内部重试；公告明确说明了可能发生重试。¹ 对于使用受支持API的集成，公告所述的单次请求、单次响应模式，与通过受管控的网关端点访问模型提供商的能力并存。¹

公告所述受影响的客户端集成，是可以将调用指向网关以访问模型提供商的现有Amazon Bedrock SDK集成。¹ 公告称，这些集成无需重写客户端代码即可通过网关访问模型提供商。¹ 公告指出了受支持的API调用和网关的路由功能，但没有说明使用这些功能的集成、请求、模型或提供商的数量。¹ 因此，这项变更的规模是通过新增的两种API和故障转移能力来描述的，而非通过报告的用户数或推理流量总量来衡量。¹

公告将故障转移描述为一种自动响应机制，用于应对主要目标受到限流、容量不足或无法访问等情况。¹ 更具体的配置指引指出，限流、服务器错误和响应超时都可能成为启动备用路由的条件。¹ 这些说明既明确了所应对的服务问题类型，也说明了规则的作用：当规则条件适用时，系统会按照预先选定的备选目标进行路由。¹ 公告所列事实中没有提供具名官员或直接引语，因此只能依据所述产品行为来介绍这项变更。¹

公告以区域范围说明可用性：除中国区域外，AgentCore Gateway可用的每个AWS区域均可使用这两项新功能。¹ 这一范围适用于此处宣布的功能，但公告没有提供覆盖区域的数量。¹ 在解读更广泛的API和路由说明时，区域限定十分重要，因为这些说明并未取消公告所述的中国区域例外。¹ 因此，公告以AgentCore Gateway现有的服务范围界定可用性，中国区域除外，而不是宣称所有区域都能使用。¹

综合来看，这些新增功能让受支持的Bedrock SDK客户端能够通过网关使用指定的推理API，并在出现指定条件时按配置路由至备选目标。¹ 断路器和对客户端透明的响应模式说明了故障转移流程如何处理故障目标和内部重试，同时不向客户端呈现多次交互。¹ 这些细节说明了此次变更的运行范围，但并未证明可用性、延迟或任何其他结果得到量化改善。¹ 公告所述的更广泛背景是通过受管控的网关访问模型提供商；新增API和故障转移功能仅在中国以外提供该网关的区域推出。¹