使用Kubernetes容器服务在云上搭建AI推理环境

场景描述

本方案适用于使用GPU进行AI在线推理的场景。在推理之前，模型已经训练完成。例如,刷脸支付中，我们在刷脸的时候，就是推理的一个过程。再比如图像分类，目标检测，语音识别，语义分析等返回结果的过程。

解决问题

• 使用GPU云服务器搭建推理环境
• 使用容器服务Kubernetes版构建推理环境
• 使用NAS存储模型数据
• 使用飞天AI加速推理工具加速推理

产品列表

• GPU云服务器
• 容器服务Kubernetes版
• 文件存储NAS

 

原文链接

本文为阿里云原创内容，未经允许不得转载。

云栖号 - 上云就看云栖号