一、前言 TVM是通過Relay進行模型計算圖IRModule的構建，并且可以使用不同的優(yōu)化策略（即Pass）對IRModule進行優(yōu)化，最終編譯成特定后端可執(zhí)行的代碼（co...
發(fā)簡信
IP屬地：廣東
-
【TVM系列十一】Relay可視化
-
【TVM系列九】FFI注冊機制
一、前言 TVM通過PackedFunc機制實現了Python與C++之間的相互調用，即FFI(Foreign Function Interface)，整體流程與原理可以參閱...
-
【TVM系列七】TVMC介紹
一、前言 TVMC是TVM python包提供的一個工具，可以通過命令行的方式執(zhí)行auto-tuning，編譯，性能profiling以及模型運行。本文將根據TVM官網的指導...
-
【TVM系列六】PackedFunc原理一、前言 在TVM中，PackedFunc貫穿了整個Stack，是Python與C++進行互相調用的橋梁，深入理解PackedFunc的數據結構及相應的調用流程對理解整個TV...
-
【TVM系列五】添加Relay自定義算子
一、前言 本文以實現一個axis_abs的自定義算子為例介紹如何在tvm中添加新的relay算子，該算子實現的功能是以輸入的3維tensor取某一維度的指定切片取絕對值。 二...
-
【TVM系列四】模型編譯與運行過程一、前言 針對神經網絡模型的編譯，TVM封裝了非常簡潔的python接口，如下： 在上一篇文章中介紹了模型的算子轉換與Relay IR Module的流程，當TVM將Rela...
-
【TVM系列三】算子轉換調用流程一、前言 本文將從源碼分析一個算子在TVM中是如何從前端到后端的轉換過程。首先來看一下keras模型編譯推理的一個示例：通過pip安裝好keras和tensorflow，按照...
-
【TVM系列二】TVM介紹一、TVM的工作流程 TVM主要由兩個部分組成： （1）TVM編譯器：負責編譯和優(yōu)化模型 （2）TVM runtime：提供目標設備上運行模型的API 1、整體流程 如圖所示...
-
【TVM系列一】開發(fā)環(huán)境搭建一、前言 眾所周知，深度學習的計算量龐大，在追求效率與實用性的工業(yè)界，深度學習所面臨的一個最大的問題就是如何在不影響模型精度的前提下將算法模型部署到目標硬件平臺上進行高效的前...