来源:AWS Machine Learning Blog 2026-06-18 23:31

使用 CloudWatch 上的 SageMaker 详细指标和 Insights 仪表板监控和调试生成式 AI 推理

SageMaker AI 推理 模型 端点
Amazon SageMaker AI 为机器学习模型提供完全托管的实时推理托管。您将模型部署到由一个或多个计算实例支持的 SageMaker 终端节点,SageMaker 负责处理配置和扩展。 SageMaker 支持多种端点架构。本文重点介绍与具有详细可观察性的生成式 AI 工作负载最相关的两个:单模型端点 (SME) 和推理组件 (IC) 端点。

相关文章推荐

返回首页