2023 Meet TVM 年终聚会:解析大模型时代 AI 编译器的实践与创新
Hide
Use immediately
今年 3 月份, 2023 Meet TVM 系列首次线下活动从上海出发,跨越多个城市,致力于为各地的小伙伴们提供一个学习、交流的平台。
12 月 16 日 2023 Meet TVM · 年终聚会将重返上海,这一次我们不仅邀请到了来自上海交通大学、OctoML、美团、字节跳动的 4 位 AI 编译器专家为大家带来精彩的分享,还新增了圆桌讨论的环节,Apache TVM PMC、上海交通大学博士冯思远将担任主持人,以更多元的视角与各位共同讨论大模型时代机器学习系统的创新和挑战。
临近圣诞,欢迎各位小伙伴在装束上加入圣诞的元素,我们在现场也会为大家准备精美的茶歇和小礼品,期待与大家度过一个充满圣诞气息的 AI 编译器聚会!
2023 Meet TVM 年终聚会 · 上海站
⏰ 时间:12 月 16 日(周六)13:30-17:40
📍 地点:(上海杨浦)国定东路 200 号中国创业者公共实训基地 1 号楼 22 层(近五角场地铁站)
嘉宾及分享内容简介
分享主题: Deep Dive into TVM Unity
内容简介:TVM Unity 经过一年多的迭代升级,预计于近期并入 Apache TVM 主分支,届时也将成为 Apache TVM 主要的编译流程。本次分享将介绍 TVM Unity 的默认编译流程,与现有 TVM 的区别,以及如何迁移现有工作流到 Unity。
观众观看本场分享,你将了解:
1. TVM Unity 的结构设计
2. TVM Unity 的默认编译流程
3. 如何迁移现有的工作流到 TVM Unity
分享主题:Slim-LM:Unified Compilation Framework for Agile Development
内容简介:随着 MLC LLM 和 TVM Unity 逐渐发展,有越来越多的用户想尝试使用 TVM 来部署自己的模型。然而如何灵活高效地使用 TVM 搭建以及编译模型存在着诸多挑战。
基于此需求,TVM 社区最近推出了一套全新框架 Slim-LM 来简化 TVM 搭建以及编译模型流程,包含三大特点:
1. PyTorch 风格的代码定义 TVM 模型
2. 简洁高效的编译工具
3. 统一的量化算法框架
观众观看本场分享,你将了解:
1. Slim-LM 的一些基础设施及其提供的便利性
2. 使用 Slim-LM 定义/编译新的模型
3. Slim-LM 实现新量化算法的基本步骤
分享主题:基于 TVM 的编译优化实践
内容简介:随着 AI 编译器的迭代发展,其可用性、易用性得到了极大程度的提高,TVM 作为 AI 编译器的代表之一,如何发挥其最大作用、改善自身不足、并在搜、广、推等业务场景大规模落地,是一个重要问题,本次分享主要从以上视角展开介绍。
观众观看本场分享,你将了解:
1. 典型业务场景下,TVM 能力范畴
2. TVM 对计算密集算子的能力增强
3. TVM 算子融合、设备分配调优
分享主题:朝着无缝模型编译集成迈进
内容简介:模型编译在 AI 加速中变得越来越重要。然而,在 IT 公司中采用模型编译用于生产模型并不是一件简单的事情。主要的负担包括来自不同领域、框架或格式的模型,从现有库过渡以及采用新的 ASIC。 为了解决这些问题,ByteIR 被开发出来以提高模型编译的生产力。ByteIR 建立在 OpenXLA 和 LLVM/MLIR 编译器基础设施之上。它包括前端、编译器和运行时组件,每个组件解决不同的问题。这三个组件可以一起工作,也可以选择独立工作以满足不同的业务需求。
观众观看本场分享,你将了解:
1. 基于 MLIR 的 ByteIR 编译器设计
2. 基于 MLIR 编译栈的性能优化实践
圆桌主题:大模型时代的机器学习系统
往期活动回顾
深圳站
北京站
上海站
奖品
作为本次活动的主办方,MLC.AI 社区成立于 2022 年 6 月,并由 Apache TVM 主要发明者、机器学习领域著名的青年学者陈天奇,带领团队上线了 MLC 线上课程,系统介绍了机器学习编译的关键元素以及核心概念。
2022 年 11 月,在 MLC.AI 社区志愿者的共同努力下,首个完整的 TVM 中文文档上线,并成功托管至 HyperAI超神经官网,进一步为对机器学习编译感兴趣的国内开发者,提供了接触并学习一门新技术的基础设置——文档。
MLC 线上课程:https://mlc.ai/
TVM 中文文档:https://tvm.hyper.ai/
国内领先的人工智能及高性能计算社区,致力于为广大国内开发者提供数据科学领域的优质公共资源,截至目前已为 1200+ 公开数据集提供国内下载节点,支持 300+ 人工智能及高性能计算相关的词条查询,托管了完整的 TVM 中文文档,并即将上线多个基础及流行教程。
访问官网:https://hyper.ai/
OpenBayes贝式计算是国内领先的高性能计算服务提供商,通过为新一代异构芯片嫁接经典软件生态及机器学习模型,进而为工业企业及高校科研提供更加快速、易用的数据科学计算产品,其产品已被数十家大型工业场景或头部科研院所所采用。
厘米空间(厦门)是招商局集团旗下的专业创新园区管理公司,在厦门运营「厘米空间CM Space」专业孵化器。扎根于东南沿海,依托招商局集团的交通、城市与园区综合开发和金融三大主业优势,重点为人工智能领域创业企业提供发展初期最为急需的应用场景、模式验证、种子期客户等资源支持,协助人工智能公司高效孵化。
上海五角场创新创业学院 (Shanghai Penta Innovation & Entrepreneurship Institute) 是杨浦区政府联合复旦、同济、上海财大、上海理工等著名高校及行业龙头企业、投资机构共同发起设立的非营利性教育及服务组织,集结了众多产业翘楚、专家学者、著名投资人/机构以及创业赋能机构,旨在构建「双创生态圈」+「学习型社群」,把创业者培养成企业家,成为创业生态系统中的重要枢纽。
2022 年 11 月,上海五角场创新创业学院正式启用学院公共空间,将 800 平米的空间开放共享给双创人群,并联合港中大上海中心等各方伙伴共同发起双创公益品牌「学院咖啡」。我们邀请对双创公益服务有共识的 KOL、企业和社会组织,成为学院咖啡的「公益合伙人」,共同设计不同形式的创业者聚集方式,将其打造成一个内涵丰富的品牌项目,让创院空间成为一间「开放、包容、共享、不打烊的公共会客厅]。
上海云基地(上海市云计算创新基地、上海市大数据创新基地)是国内起步较早的国家级专业孵化器,推动云计算产业从 0 到 1 起步发展。以基金+基地+平台的模式,以数字经济产业为核心,聚焦云计算、云原生、大数据与人工智能、数字医疗等细分领域,集聚和孵化了近千家海内外优秀企业。通过连接技术、用户、资本、服务四个生态,持续举办「场景创新实验室]和「数字经济上市预备营」,构建数字经济产业加速器。
扫码备注「TVM 年终聚会」加入活动群
考虑到本场活动的场地空间情况,我们仅开放了 200 个到场名额,建议大家尽早报名锁定席位。
2023 Meet TVM · 年终聚会,12 月 16 日 13:30-17:40,期待与大家在上海相聚!
(11个月前)
(11个月前)
(11个月前)
(11个月前)
(11个月前)
(11个月前)