Inference Patterns - Inference pipeline based feature lookup

title: “模式推理 - 基于特征查找的推理管道” weight: 5

在本笔记本中,我们演示了如何从两个在线特征组中检索特征。我们将使用部署在同一端点上的多个容器的推理管道。下图说明了该架构。

注意:本模块取决于模块1 、模块2 和模块3 先运行,以显示我们如何从端点实时查找在线特征存储中的特征。

关键要点

  • 首先,我们使用模块1和2中导出的特征集,以及模块3中训练的模型。该模型是SageMaker XGBoost算法,预测用户将添加到他们购物车中的产品。

  • 在检索已经训练的模型后,我们将创建推理管道 。使用推理管道,您可以链接2到15个容器的序列并部署在同一端点上 - 推理管道对于实时推理非常好,其中模型序列相互输入以生成最终预测,或者需要实时预处理或后处理的结果。

  • 您将看到我们如何使用XGBoost容器作为推理管道中的第一个容器,从在线特征存储中查找特征并将检索到的特征馈送到第二个XGBoost容器进行模型推理。您还将看到我们如何通过使用推理pipelineModel将这两个容器部署到同一个端点。

  • 我们的第一个XGBoost容器将通过发送客户ID和产品ID作为请求体来检索客户和产品特征组的相关特征,从而获取两个在线特征存储(模块2中创建的客户和产品特征组)的特征。

导航到笔记本

  • 导航到amazon-sagemaker-feature-store-end-to-end-workshop Jupyter 实验室目录结构的主目录。然后导航到04-module-working-with-online-store并打开笔记本m4_nb3_Inference_pipeline_lookup.ipynb

  • 将内核设置为Python 3 (Data Science),并将实例选择为ml.t3.medium

  • 通过在每个单元格中按Shift+Enter来执行单元格。代码运行时,方括号之间会出现*。几秒钟后,代码执行将完成,*将被替换为数字。

  • 您可以按照笔记本中的说明继续操作。