人工智慧走近人们现实生活,入驻到民营企业制造早已并非两件可说。
根据 Gartner 统计数据显示,截至 2019 年,全球早已有 37% 的民营企业在制造中会使用到 AI,而那个统计数据将在 2024 年翻番至 75%。
这意味著:各个领域早已或者将要展开“数据服务网化结构调整”,AI 发展前景一片片颇佳。但是距 AI 破冰,仍遭遇着最终一千米的痛点
例如:两个众所周知情景 AI 演算法的民用破冰除了数学模型体能训练外,还须要展开音频相片音频、HTTP服务、后处理、后处理、多数学模型繁杂业务串连、网络管理、装箱等工程建设合作开发,往往须要花费比数学模型体能训练大得多的时间,同时演算法的操控性和安全性通常随合作开发者的工程建设能力水平多寡而良莠不齐,严重影响AI演算法的上架效率。
归纳来说,AI 破冰须要横跨这些隔阂:01 INS13ZD生产成本高昂问题;02 民用情景价值不如多元化丰富;03 AI 合作开发准入门槛较低且专业人才贫乏
那么应该什么样贯通这最终一千米,让 AI 破冰并助推民营企业数据服务网化结构调整呢?
2020年,一些 AI 合作开发者提出边沿智能化(Edge AI)的基本概念,并将其可视为贯通天地万物数据服务,实现 AI 破冰的机遇。
这并非两个崭新的基本概念。边沿排序可以认知为两个小型数据服务网系统的柱状数据服务网,那个数据服务网在本地处理或储存关键性统计数据,并将转交到的统计数据发送到中央数据服务网系统或云储存库。
面对此类问题,华为云开源了两个边沿 AI 应用合作开发与运行架构——modelbox: AI应用合作开发和运行架构,并在 Gitee 上获得推荐,成功收录入 Gitee旗下创新研究所 「Gitee星球」。 那个开源项目提供屏蔽底层软硬件差异的能力,通过 AI 应用合作开发的统一格式和接口,实现 AI 应用的端边云统一部署管理,助推合作开发者降低跨平台合作开发工作量。
关于我们
Gitee星球 是 Gitee 旗下的创新研究所。在这里,我们收集整理了 Gitee 上高品质、有意思的开源项目,同时也挖掘 Gitee 项目作者的一手开源故事,邀请优秀的合作开发者们讲述自己的开源经历,举办有趣的开源活动。
什么是 ModelBox
ModelBox 是适用于端边云情景提供的 AI 应用合作开发与运行架构。它提供了两个基于 Pipeline 的并行执行流程,能够帮助 AI 合作开发者快速完成数学模型文件到 AI 推理应用的合作开发和上架工作,降低 AI 演算法破冰准入门槛,同时带来 AI 应用的高稳定性和极致操控性。
项目地址: modelbox: AI应用合作开发和运行架构开源许可证: Apache-2.0
特点
合作开发可视化,功能模块化,支持多语言,易于合作开发集成云上对接组件并发运行 Pipeline支持 CPU,GPU,NPU 的软硬件异构适用音频,语音,文本,NLP 全场全情景服务运行状态可视化,组件操控性实时监控合作开发前准备
1.运行/编辑环境准备
使用已有 Docker 镜像源码构建 ModelBoxubuntu 操作系统
apt update apt install build-essential unzip ffmpeg cmake aptinstallpython3-setuptools python3-wheel python3-numpy python3-opencv python3-pip aptinstalllibssl-dev libcpprest-dev python3-dev libswscale-dev libavformat-dev graphviz-devcentos 操作系统
yum update yum install ffmpeg cmake libcpprest2.配置服务模式
服务模式:可用于制造环境运行 AI 流程图合作开发者模式:可用于合作开发流程图时展开可视化编排推理业务合作开发流程
合作开发者可以按照自己的诉求合作开发 AI 推理业务,或扩展 ModelBox 功能。
合作开发内容详情
流程图合作开发每个 ModelBox 推理业务都有两个流程图对应,所以须要先合作开发流程图
功能单元合作开发完成了流程图编排之后,还需通过功能单元(FlowUnit)来实现应用的实际功能
服务插件合作开发主要用于扩展 ModelBox 管理接口
SDK 集成针对已有业务,可将已搭建的AI 推理功能扩展到已有进程中
针对新业务,建议使用服务模式
合作开发代码调试与优化
采用 ModelBox 网络管理调试工具,快速运行流程图甘特图展开流程图操控性调试若有 Bug,采用代码调试如何部署到制造环境
1.部署环境准备
准备对应镜像、ModelBox 软件以及 AI 业务流程图
2.将合作开发完成的流程图,部署到制造环境中并运行
3.运行流程图后,通过 REST-API 发送执行请求给 ModelBox服务
应用参考案例
喜欢就点个Star
如果你对为了解决合作开发者的关键性点,华为云开源了边沿 AI 合作开发架构推荐感兴趣,也欢迎各位转发、评论、点个 star。
同时也欢迎给我推荐有趣的开源项目,如果成功收录 Gitee星球将有小礼品噢~