部署模型SDK至Windows设备

1、概述

本文将描述如何将EasyEdge SDK制作成一个BIE边缘程序包，然后通过BIE云边协同将二进程序包下发至windows边缘节点并运行。BIE纳管windows边缘节点参考：在windows上安装进程模式边缘节点

2、获取Windows类型SDK

参考使用EasyEdge模型转换获取边缘模型获取Window版本的模型SDK。

3、本地验证

获取windows版本EasyEdge SDK以后，在本地运行 EasyEdge.exe 程序，输入相关参数，然后启动服务。

服务启动成功后，打开浏览器，输入：http://[ip]:24401 ， 然后在web界面当中上传一张图片进行测试。

注：目前最新版的SDK已经SDK封装成windows服务，后台运行的仍为easyedge_serving.exe的二进制程序。

4、利用BIE进程模式部署

本章节介绍如何使用进程模式下发模型二进制执行程序和模型文件。

如果要使用BIE实现模型下发并运行，需要执行一下操作：

• 下发文件

  • 程序包：包含easyedge_serving和program.yml配置文件的压缩包，上传对象存储。在program.yml配置文件当中定义了entry。
  • 配置项：模型资源文件，上传对象存储

• 启动参数

  • 模型资源文件下发以后的工作目录。
  • 模型序列号
  • 服务暴露IP
  • 服务暴露端口

基于上述需要的内容，我们开始后面的的操作。

4.1 制作程序包

用户下载解压后的SDK目录如下所示：

用户需要将标红文件夹中的文件剪切到外层根目录下，并新建program.yml文件，文件内容如下：

4.2 添加程序包配置项

将上述修改后的SDK文件夹压缩成zip文件并上传到对象存储中，然后在BIE程序包中引入这个压缩文件。

示例程序包可点此下载。

4.3 创建进程应用

添加进程服务，将模型以卷的形式添加到服务中。

添加启动参数及环境变量如下：

环境变量：

• EDGE_CONTROLLER_KEY_ENABLE_DEBUG_LOG : 开启easyedge日志模式，用于debug，可关闭
• HomeDrive :根目录
• HomePath :easyedge授权文件需要保存路径，类似于linux下的HOME,必须配置。跟HomeDrive搭配组成完整路径。

启动参数

• .\var\lib\baetyl\bin\data\model\ : 模型文件相对路径
• F937-F6AE-D9A1-8C0D : SDK序列号
• 0.0.0.0 : easyedge 服务IP
• 24401 : easyedge 服务端口

4.4 创建对应节点并将应用部署到节点上

4.5 进程模式安装节点

4.6 验证边缘节点AI推断服务

通过浏览器打开在线推断服务：http://「ip」 :24401/，上传测试图片，推断结果如下，证明AI服务正常启动。