智能计算专题-赛道A背景

聚焦智能加速芯片、智能计算系统、人工智能大模型算法等热点领域,通过算子开发创新、系统性能调优以及模型创新应用,形成更高算力、更高能效、更加多样的智能计算技术,实现计算性能的有效提升和智算系统的高效利用。

2024A3-DPU技术产品在行业中的应用探索

赛题背景及意义

近年来随着云计算、大模型、生成式人工智能、自动驾驶等业务应用的迅速发展,对于大带宽、低时延无损的DPU、高性能网卡等产品技术需求爆发式增长。DPU可以提供计算、网络、存储、安全、管理等IT基础设施服务的卸载和加速能力,是CPU+DPU+GPU三U一体架构下一代数据中心和智算中心的重要组成部分,已逐渐成为新型算力的核心。

本赛题面向金融、电信、交通等重点行业,云计算、大数据分析、生成式人工智能等重点技术领域,征集并评选出优秀的国产DPU芯片及产品的应用落地方案,旨在通过业务和市场驱动,大力推进国产高性能DPU技术和产业的发展,壮大完善国内DPU市场和产业生态,为建设我国新型信息基础设施,发展新质生产力提供坚实的基础支撑。

1.赛题概述

赛题要求:体现DPU技术及产品在某个业务场景的应用效果

评判标准:

(1)体现DPU面向重点行业、重点领域的应用场景探索;

(2)体现应用DPU的主要技术指标: 高带宽、低时延、大规模ROCE组网等;

(3)体现DPU在性能、成本、业务创新等方面的技术优势和经济价值;

2.赛题介绍

整个应用方案应涵盖以下主要内容:

(1)当前业务场景面临的主要技术难点和痛点问题分析;

(2)提炼总结出能够利用DPU技术特点和优势(高带宽、低时延、大规模组网、高性能存储)的应用方案设想;

(3)利用hadoop、spark、pytorch、k8s、openstack等业界成熟的主流应用软件,结合DPU提供的OVS、DPDK、SPDK、裸金属架构、容器CNI、服务网格、安全、管理等基础设施卸载和加速能力的应用落地方案;

(4)应用落地方案应包括:整体架构、利用的应用软件功能说明、使用的DPU技术特性和能力详细说明、实现的应用效果和经济价值;

(5)业务发展对下一步我国DPU技术、市场、产也生态发展的诉求和展望;

3.评判标准

(1)是否体现DPU面向金融证券、电信、云厂商等重点行业的应用探索。得分占比20%;

(2)是否体现DPU面向云原生、生成式人工智能、大数据分析、自动驾驶重点领域的应用探索。得分占比20%

(3)是否体现应用到DPU的主要技术指标: 100GB以上的超高带宽、微秒级超低时延、超大规模组网、高性能存储。得分占比30%

(4)是否体现DPU在性能、成本、促进业务创新、国产替代等方面的技术优势和经济价值。得分占比30%

现场风采










调优思路及性能对比

详情见PPT展示。

A3-房银轰-DPU技术在算力网络中的思考与探索-20241211.pdf


0 条评论

发表回复

Avatar placeholder

您的邮箱地址不会被公开。 必填项已用 * 标注