Train, Deploy, and Infer with Inference Pipeline


标题: “使用推理管道进行训练、部署和推理” 权重: 327


如果我们直接从数据整理器(Data Wrangler)训练模型 (如前几章所述), 我们可以使用数据整理器转换部署推理管道, 用于实时和批量推理用例。 如果我们希望使用AutoPilot进行训练, 然后将找到的最佳模型部署到端点, 这是推荐的方法。

但是, 该方法不允许我们自动化或修改训练或部署代码, 也不允许我们使用自己的/指定特定的算法(仅限Autopilot派生的模型和算法)。

通过使用"导出到SageMaker推理管道"功能, 数据整理器创建了一个Jupyter笔记本, 我们可以使用它来定义、实例化、运行和管理推理管道。

除了直接训练到Autopilot提供的内容(如前几章所述)之外, 当我们导出到SageMaker推理管道笔记本时, 我们还可以使用自己的模型, 或使用SageMaker Autopilot或XGBoost为训练或推理提供支持。 此外, 还会自动为我们生成推理代码, 以便我们可以测试我们的端点。

导出到推理管道 一节介绍了如何使用数据整理器生成的笔记本来训练和部署我们的模型。

如果我们还没有执行该章节中的步骤, 请单击上面的链接来运行它。