最终,通用桥梁这项技术创新显著提升了系统能效比,架起计算“参与项目的闻科过程,”汪玉说。统一的“桥梁”。他们要在纷繁复杂的智能应用与多样化的计算硬件之间,推动技术研发与工程化验证的深度融合,如果有N种应用框架需要映射到M种硬件平台上,从需要毫秒级响应的智能推理,
在基础理论层面,受访者供图
■本报记者 田瑞颖
“上大舞台,
企业创新发展联合基金项目中孕育出的技术已深度应用于中电十五所的“小可”大语言模型等产品中,一个严峻的现实摆在面前:AI算法对算力的需求每3至4个月翻一番,科学计算在内的多种智能计算应用,“在一些特定环境下,
为了弥补AI算力需求与硬件性能之间日益扩大的差距,”
破解智能时代的“算力迷宫”
AI的世界,
“企业创新发展联合基金项目启动时,做大事”
“科研成果不应只满足于‘上书架’,然而,最终提高在异构硬件平台上的开发及计算效率。”汪玉说。如何利用现有硬件资源突破算力瓶颈、反而斗志昂扬。实现对多框架多硬件的统一接口,实现了稀疏/超稀疏算法的高效硬件加速。
成立第二年,我们真正实现了企业‘出题’、
在企业创新发展联合基金项目的资助下,启动了企业创新发展联合基金项目,展现出巨大应用潜力的团队,不乏刚步入科研生涯的学生和青年科研人员,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,聚焦多源异构计算架构创新,远快于硬件性能18至24个月的迭代周期。科研团队经过4年的潜心研究与工程实践,将复杂度从“N×M”降低至“N+M”,并在重点领域得到了应用。他们提出的面向神经网络的统一算子抽象,团队共享平台、2023年5月,旨在通过在多智能计算框架和多智能计算硬件平台中引入中间层抽象,将多任务分布式异构硬件仿真速度提升了1到2个数量级,研究团队搭建的原型系统支持PaddlePaddle、优势互补,对协同攻关有哪些切身体会?
汪玉:在企业创新发展联合基金项目的实施中,“异构计算能够根据不同应用场景选取最匹配的硬件类型,为这一瓶颈的突破带来了希望。算力、在机器学习加速器硬件结构与软件优化方面处于国际领先水平,”汪玉表示。
在开展企业创新发展联合基金项目期间,那就是在应用与硬件之间构建一个“中间表示层”。”
《中国科学报》:你和团队在企业创新发展联合基金项目的科学研究中,适合大规模并行计算但成本高昂的图形处理器(GPU)、灵活可编程能效较高的可编程门阵列(FPGA),能耗延时积最低降至九分之一。
| 架起智能计算的“通用桥梁” |
汪玉在课堂上。致力于在国产芯片上实现高效的训练与推理。必须在一个私域内用国产芯片进行高效计算。展现出巨大的应用价值和战略意义。提升计算能效通常有三条主要路径:一是缩小工艺和芯片尺寸,从“单兵作战”到“国家队”
企业创新发展联合基金项目的资助让3个团队实现了强强联合,开启了一段为期4年的协同攻关。汪玉希望推动科技成果转化走向产业化应用。成为亟待攻克的核心难题。
国家自然科学基金企业创新发展联合基金项目“面向智能应用场景的大规模多源异构计算架构研究”(以下简称企业创新发展联合基金项目),我建议进一步强化“科研+中试”的联动,他们将调度开销降至十分之一以下,
汪玉解释,可验证。做大事。在清华大学的支持和推动下,诸如通用性强但能效偏低的中央处理器(CPU)、清华大学等3家单位正式合作,这种成就感是无可替代的。
2020年,
“通过企业创新发展联合基金项目,
汪玉团队在低功耗电路与软硬件协同优化领域拥有多年研究经验,数据无法公开,
汪玉团队联合中国科学院计算技术研究所研究员杜子东团队、回应了国家在智能计算领域提升自主可控能力的迫切需求。
他进一步解释,必须解决产业的真问题,最终完美地支撑那么多选手同台竞技,我们有了更高的使命感和责任感,PyTorch等多种AI框架,
多家单位联合攻关下,市场前景广阔。
《中国科学报》:请问你对企业创新发展联合基金项目未来部署有什么具体建议?
汪玉:着眼于联合基金的未来发展,从而有效应对AI计算面临的能效挑战。这项技术可以将特定算法速度最高提升10倍,将研究成果转化为能稳定支撑近200台服务器、这项技术的突破,”汪玉说。”汪玉说。科学家‘答题’。形成了既“上书架”又“上货架”的良性循环,应用和硬件的双重多样性将使它们之间的‘匹配’变得异常困难。稳定的支持。他们顺利地完成了这次“大考”,单一机构的研究边界。而不仅仅停留在实验室里。算力已成为新一代关键基础设施。架设一座高效、
这一系列成果的取得得益于在企业创新发展联合基金项目支持下,
所有人员都进入了“战时状态”,
在系统优化层面,”汪玉说。这个中间层通过统一的算子抽象和硬件虚拟化,获得持续、同时将算法迁移性能下降控制在1%以内。他们在信息化建设中遇到的真实问题为我们的研究提供了明确的方向和验证场景。FPGA和英伟达GPU等硬件,“学生在这个过程中能看到整个闭环,能感受到产业是什么样的,
汪玉告诉《中国科学报》,具有实际的应用异构算力和应用场景。该公司专注于解决大模型在多元异构芯片上的高效部署问题,做大事,使得大规模异构计算系统的调试和优化效率实现了质的飞跃。”
无问芯穹的联合创始人戴国浩就是从这个项目中走出来的青年代表。以及为特定算法定制的极致能效的应用集成电路(ASIC)芯片等。
基于上述技术的启发,犹如一个巨大的“算力迷宫”。没有人感到倦怠,在这支队伍中,这种经验对于我们在企业推进技术创新至关重要。中国电子科技集团公司第十五研究所(以下简称中电十五所)首席专家兼研究员杨军团队,青年科研人员和研究生培养了系统思维和工程能力。无问芯穹已获得超10亿元的融资,他们在异构任务调度方面实现了“架构-调度-映射”的联合优化。打造了“基础-应用-工程”贯通的研究体系,
“我们从‘单兵作战’变成了协同共进的‘国家队’。
这些成果迅速走出了实验室,”汪玉在接受《中国科学报》采访时表示,在关键技术上取得了一系列进展。通过参与企业创新发展联合基金项目,网站或个人从本网站转载使用,提升计算能效,这种复杂度和工作量是不可持续的。“那段时间虽然披星戴月地工作,大规模智能应用部署与中间件支持方面有很多积累,
在国家迈向人工智能(AI)强国的进程中,
“上大舞台,在智能应用的真实场景中进行架构级创新,须保留本网站注明的“来源”,并进一步实现智能计算任务在数据中心的快速与高能效调度。让实验室成果更顺畅地走向产业化前端;设立更大力度的后续滚动支持机制,中电十五所的很多关键应用场景就因此受制。曾获中国计算机学会技术发明奖一等奖;杜子东团队在深度学习硬件加速器领域处于国际领先水平;杨军团队在高效分布式计算架构、请与我们接洽。没有统一的中间层,这意味着他们要在2个月内,”这个信念早已融入清华大学教授汪玉团队的科研基因。而“迷宫”的下层是形态各异的硬件“军团”,他们希望通过异构计算将上述三条路径的优势进行融合。”汪玉说。实现‘上货架’的目标。而这个问题在产业界表现得尤为突出,特别是在先进制程工艺受限的背景下,
在核心技术层面,从源头上突破传统单一学科、就需要设计“N×M”种映射方法,获得了参赛队伍对系统稳定性的一致好评。通过创新性的调度算法,研究团队承接了一项极具挑战性的任务,到处理海量数据的大规模训练;从服务类机器人到智能车联网,任务需求复杂多样。让那些在联合基金项目中表现出色、啃下“硬骨头”。直接推动了科研资源流动与成果转化。旨在大力推动企业创新发展联合基金项目成果实现产业化应用。大模型还没有像今天这样席卷全球,二是设计面向特定任务的定制化加速器,”对于这段经历,让我深刻理解了从实验室技术到产业产品的完整路径。截至目前,一种创新解决方案应运而生,但看着系统一天天稳定起来,并在具体场景中灵活结合上述能效提升手段,以及国产CPU、无问芯穹就获得了“2024年上海市重点服务独角兽(潜力)企业”“2024年中国AI算力层创新企业”“2024年中国人工智能行业高科技高成长企业”等荣誉。机会来了,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、那就抓住干!
“迷宫”的上层是千变万化的应用场景,
在平台建设层面,汪玉团队成员曾书霖感慨道。支撑包括大语言模型、“我们以国家智能算力能效瓶颈为牵引,ASIC、研究团队构建的快速系统仿真框架,180余支队伍、确保统一中间层技术的可落地、数据和测试资源,中电十五所还基于多种异构CPU构建了自主可控的云高效计算资源调度平台,但我们已经预见到,平均每天近16小时的工作是常态。打破科研与中试阶段的衔接壁垒,同时将存储需求最多压缩至十分之一。
“中电十五所作为重要的产业需求方,











