雲邊端一體化的異構 AI 計算

中國人工智能市場快速增長，其中邊緣計算佔比越來越高，業務場景的碎片化以及底層硬件的多樣性的問題給邊緣計算的開發部署帶來較大的挑戰。

本次分享主要介紹阿里雲 AI 異構計算編譯框架 HALO 以及面向深度學習的異構硬件統一接口規範 ODLA，通過具體的實例說明如何利用異構編譯和硬件架構抽象實現上層應用在異構計算資源上的平滑遷移。後半部分介紹 ODLA.CV (多媒體 Pipeline 自動生成) 技術，以及多媒體 + AI 的相關探索和應用。

通過 HALO 總體框架介紹，以及異構硬件統一接口規範 ODLA，通過靜態全編譯的方式可以讓業務模型跟框架解耦合，通過 ODLA 實現和具體硬件解耦合，實現平滑遷移；通過具體的例子來說明 Halo 和 ODLA 的工作流程。

介紹多媒體 Pipeline 自動生成技術，解決上層業務場景的碎片化定製化的問題。

首先，通過 HALO 靜態全編譯的方式可以讓業務模型跟框架解耦合，同時提升性能，避免框架開銷；通過 ODLA 統一抽象的方式實現和具體硬件解耦合，實現平滑遷移，產生一次，隨處執行；通過 HALO/ODLA 實現 AI 的平滑遷移。

其次，通過多媒體 Pipeline 自動生成技術解決上層業務場景的碎片化（需要高度定製）帶來的開發效率問題。

最後，介紹多媒體 + AI 相關的一些探索和優化工作，以及相關的應用落地，和未來的思考。

**來源：**智能計算芯世界

下載鏈接：雲邊端一體化的異構 AI 計算

來源：智能計算芯世界

下載鏈接：雲邊端一體化的異構 AI 計算

智能異構計算服務器

智能平臺白皮書

2021 年 AI 在工業領域的研究報告

異構芯片研究框架合集

本文由 Readfog 進行 AMP 轉碼，版權歸原作者所有。
來源：https://mp.weixin.qq.com/s/wlE98hnE-Xtm1JftY90jzg