AI编译器原理系列来啦!我们要从入门到放弃!

2023-02-24 0 1,035

随着广度自学的应用情景的不断普遍化,广度自学排序各项任务也须要布署在相同的排序设备和硬体构架上;同时,前述布署或训练情景对性能常常也有着更为激进的要求,例如特别针对硬体特点订制排序标识符。

这些需求在通用的AI构架中已经难已得到满足。由于广度自学排序各项任务在原有的AI构架中常常以DSL(Domain Specific Language)的形式进行程式设计和抒发,这本身使得广度自学排序各项任务的强化和继续执行天然符合现代排序机语言的校对和强化操作过程。因而,【AIC++】广度自学的校对与强化就是将当前的广度自学排序各项任务透过一层或第二层尾端抒发进行翻译和强化,最终转换成目标硬体上的可继续执行标识符的操作过程。本系列产品将围绕原有【AIC++】中的校对和强化组织工作的文本进行介绍。

系列产品文本

AI是最捷伊电力,大约在五十年前,他们社会的复线改变了每个主要就金融行业,从交通运输金融行业到制造业、医疗、通讯等方面,我认为如今他们见到了AI明显的令人惊讶的能量,增添了同样巨大的转变。显然,AI的各个分支中,产业发展的最为迅速的就是广度自学。因而现在,广度自学是在科技世界中广畅销的一种技巧。

透过《AI构架核心控制技术》这个系列产品文本,以及尖萼专业课程后面的较难专业课程,你将

在《AI构架基础》因节专业课程中,您将介绍到AI构架的具体促进作用,能提供更多给开发人员一个编写数学模型模型的库和提供更多丰富的API。以及近几年AI构架快速产业发展的历史和变迁。在尖萼专业课程的开头,您将介绍到相同的程式设计本体论对AI构架的影响和对用户习惯的影响。《现代C++》会粗略简述现代C++中的后端、后端、IR尾端抒发等主要就的概念,并对目前主流的两大C++GCC和LLVM进行简单的进行,去介绍GCC的校对流程和校对形式,并简述LLVM的总体构架。《AI C++》是此栏的概要重点,去介绍本章的主要就文本 AI C++的总体构架,包括他的产业发展阶段,目前主要就的组成组件,总体的控制技术重构方向等实验性的文本,因为近年来AIC++产业发展十分迅速,能横向去介绍AIC++总体控制技术。《后端强化》后端强化做为 AIC++的总体构架主要就组件,主要就强化的对象是排序图,而排序图是透过AI构架产生的,值得注意的是并不是所有的AI构架单厢生成排序图,有了排序图就能结合广度自学的基本原理知识进行图的强化。《后端强化》后端强化做为AIC++跟硬体之间的相连的组件,更多的是微分或者Kernel进行强化,而强化之前须要把排序图转换称为运维树等IR文件格式,然后特别针对每一个微分/Kernel进行循环式强化、指令强化和缓存强化等控制技术。《正多面体控制技术》正多面体不属于捷伊控制技术,反而是现代C++的一种强化手段,得益于广度自学中的主要就特征(循环式、标量),因而正多面体控制技术能发挥更大的促进作用,对循环式进行、缓存态射等强化组织工作。《PyTorch图商业模式》N43EI243SL前述的AI构架 PyTorch 2.0为主线,去把其首波特性 Dynamo 和 AOTAutograd 进行进行,并简述 PyTorch 对图商业模式的尝试,介绍现今最炙手可热的AI构架如何进行C++强化的。

期望这个系列产品能给大家、朋友们增添一些些帮助,也期望自己能继续坚持完成大部份文本哈!

然这里不是打广告,而是期望跟大部份关注开源项目的好朋友一起探讨研究,共同促进自学讨论,也欢迎各位专家和朋友多拍拍砖,多提点意见。相关的材料都开源在这里:https://github.com/chenzomi12/DeepLearningSystem/tree/main/Compiler

具体大纲

1C++基础

专业课程概述 video

2.现代C++

开源C++的产业发展 videoGCC校对操作过程和基本原理 videoLLVM设计构架 video(上) LLVM IR详解 video(中) LLVM后端和强化层 video(下) LLVM后端标识符生成 video

3. AI C++

为什么须要AIC++ videoAIC++的产业发展阶段 videoAIC++的通用构架 videoAIC++的挑战与思考 video

4.后端强化

文本介绍 video排序图层IR video微分融合策略 video(上)布局转换基本原理 video(下)布局转换算法 video缓存分配算法 video常量折叠基本原理 video公共抒发式消除 video死标识符消除 video代数简化基本原理 video

5.后端强化

AIC++后端强化介绍 video微分分为排序与调度 video微分强化手工形式 video 微分循环式强化 video指令和缓存强化 videoAuto-Tuning基本原理 video

6. PyTorch2.0

PyTorch2.0特性串讲 videoTorchScript 静态图尝试 videoTorch FX 与 LazyTensor 特性 videoTorchDynamo 来啦 videoAOTAutograd 基本原理 videoDispatch 机制 video

完结,撒花!

AI编译器原理系列来啦!我们要从入门到放弃!

相关文章

发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务