- 7
- 单块 GPU 的最多分区数
- 24
- 单个 p4d 端点的分区数
- 17 秒
- 测试中新增的配置耗时
- 适合人群
- 托管模型的团队
- 适用场景
- SageMaker AI 端点
- 适用时机
- 现已可用
要点
适用场景
功能简介
Amazon SageMaker AI 现可将一块 GPU 划分为多个独立分区，每个分区拥有自己的计算和内存份额，因此多个模型可以在同一加速器上运行。
适用对象
在 AWS 端点上托管 AI 模型、希望更充分利用 GPU 的团队。
价格与试用方式
该文章未说明价格。此功能适用于使用推理组件的 SageMaker AI 端点，不适用于单模型端点或无服务器端点。
根据上方来源由 AI 撰写。如有出入，请以原始来源为准。
