【创科广场】降低边缘AI门槛 Azure Percept预览版面世

人工智能（AI）应用愈来愈广泛，不过一般人不易掌握，要部署在边缘更加困难。虽然AI推理（Inference）可在云端执行，但是不少推理功能，要马上作出决定，瞬间就作出回应，必须在边缘执行。

 

模型训练可能是在云端，推理则在边缘执行，采用的硬件不同，部署边缘模型，须作修改和优化，以针对特殊的硬件要求。

 

去年，AWS推出多种用于边缘推理的专用设备，包括AWS Panorama和Amazon Monitron，以在边缘执行视觉运算分析，另外Amazon Monitron专门则蒐集温度和震动，供机器作预测性分析。

 

云运算平台推出专门的硬件，以降低部署的门槛。Microsoft在刚举行Ignite大会上，推出Azure Percept预览版，简单来说就是可直接在边缘上部署AI，包括了部署和管理设备、开发AI模型及分析等。Percept设备是向客户提供端到端系统，从硬件到AI分析，毋须太高技术要求亦可以运作。

 

Azure Percept包括了开发包及智能镜头Azure Percept Vision，并且包括了Azure Percept Studio指导用户如何开发、训练以及架设概念验证的想法。

 

专用方案陆续出笼

 

例如上述系统设立的视觉运算，可应用在产品检查，产品未出厂之前，AI镜头检查是否有疪漏，Microsoft的AI边缘产品包括Azure Percept Vision及Azure Percept Audio两大功能，配合不同开发套装出货，并自动连接Azure云端服务，装置有内嵌硬件AI加速模组，毋须连接到网上，亦可自行独立执行AI视觉和语音分析，并传回答案。

 

边缘运算对AI尤其重要，不少分析和决定，都要极短时间内执行传回结果，不够时间连接到云端才执行，又或部署场所，根本上没有稳定上网连接，自动驾驶就是几乎完全靠边缘AI运算。

 

Azure Percept包含了硬件和云服务，可直接连至云端的服务，自动使用Azure人工智能和物联网功能，除了今次公布的硬件，Microsoft正与多家晶片设计及设备生产商，包括NXP等展开合作，以推出专为Azure Percept平台设计的边缘设备，直接可使用Azure物联网各种保安功能。

 

Sones表示，Azure Percept产品只示范如何使用两种最常见AI功能；包括视觉运算和语音处理，日后厂商会推出不同专用设备。

 

简易设计边缘方案

 

以往，企业要建立边缘的AI，须找工程师设计硬件，再找数据科学家训练AI模型，然后移植到边缘设备。工程人员和数据科学，又往往不了解对方的要求，Azure Percept则打破双方鸿沟，简化开发边缘的AI方案。开发人员既不须开发设备经验，又毋须数据科学基础知识，就可设计部署边缘AI方案。

 

Azure Percept以工业标准80/20T-slot framing硬件包装，易于在概念验证嵌入设计，再以Azure Percept development kit连接设备到Azure AI Cognitive Services及机器学习模型，并且可以使用专门设备，针对边缘推理的AI公开源码模型。

 

除了预设的AI模型，设备一旦连接Azure，自动由Azure IoT Hub接管，自动启动物联网各项保安设定。

 

Azure Percept预设的各项AI模型针对物件辨识、货架分析、场地保安、指令及控制中心等。

 

Microsoft指客户毋须编程经验，就可修改、训练、部署上述多种模型作特定用途。而所有数据在传送、静止、均到不同层面加密保护，并以零信任机制，不断监察和验证设备身分。