AMD实现处理器效能提升30倍!比原定时间提早一年
12月13日消息,实时间早在四年前,现处效AMD就曾设定目标,理器到2025年EPYC系列服务器处理器和Instinct系列AI芯片的提升提早能效,较2020年提高30倍。倍比如今,原定MI300X AI芯片基本上实现目标,实时间时间提了早一年。现处效
据THW报道,理器AMD两个64核心EPYC 9575F CPU、提升提早八个Instinct MI300X AI芯片及2304GB DDR5内存的倍比服务器,Llama3.1-70B(vLLM 0.6.1.post2、原定TP8)测试推理性能,实时间用一组复杂计算确定系统能源效率,现处效并与2020年的理器旧机器比较,
结果显示,新机能源效率是旧机的28.3倍。
不过,AMD并未透露2020年的旧机是何规格。但大概率是EPYC 7002系列,Zen 2架构,每个CPU最多64个核心,以及CDNA 1架构Instinct MI100 AI芯片。
AMD表示,除了强力硬件改进,更高性能效率是架构进步,加上软件优化结合,是跳跃式进展。
今年10月份的Advancing AI 2024大会上,AMD正式发布了新款AI芯片——GPU加速卡“Instinct MI325X”。它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。
MI325X配备了多达256GB HBM3E内存,相比于MI300X又增加了64GB。
MI325X也支持八块并行组成一个平台,这就有多达2TB HBM3E、48TB/s带宽,总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。
对比NVIDIA H200,无论单卡还是八卡平台,不同大模型推理的性能都可以领先20-40%。
训练性能方面,单卡可领先H200 10%,八卡平台则是持平。
MI325X加速卡和平台将在四季度内投产,而合作伙伴的整机系统、基础架构解决方案,将从明年第一季度起连续推出。
(责任编辑:知识)
- ·联想新掌机Legion Go S配备AMD锐龙Z2 Go:架构居然还是Zen3
- ·[流言板]美记:篮网与卡梅伦
- ·⚽欧冠战报:迪亚兹帽子戏法 加克波建功 萨拉赫2助攻 利物浦4
- ·⚽欧冠战报:迪亚兹帽子戏法 加克波建功 萨拉赫2助攻 利物浦4
- ·电动汽车维修贵吗 我们明码标价!陶琳:特斯拉5年使用成本比同级别油车便宜60%
- ·《神之亵渎3》要来 官推暗示三天后发布新消息
- ·😲梅西式报价!新女篮联赛极力招募克拉克:超百万薪水+股权
- ·🔨再锤一把?阿德巴约与阿贾携手出席韦德雕像揭幕😍
- ·[流言板]施耐德谈亨特:他已经全身心投入到我们正在做的事情中
- ·欧冠改制以来利物浦已有7次帽子戏法,仅次于皇萨仁
- ·瑞幸疑喝出蟑螂当事人撤销投诉:瑞幸操作规范 选择原谅他们
- ·会员6选2!华为HarmonyOS NEXT公测用户第三方App权益今日开领
- ·小米汽车释疑APP预计交付时间不准:并非实际交付时间
- ·《怪物猎人:荒野》PS5公测预载开启 PS Plus玩家明天开测
- ·一人赛一队!文班本赛季场均3.8帽 热火全队仅3.5帽&篮网3.9
- ·49元!小米四合一双头分线器开售:四口USB 3.0可同时传输
- ·[流言板]ClutchPoints发问:切特能获得今年的DPOY吗
- ·《索尼克×夏特 世代重启》上市预告片展示双重冲突
- ·华为鸿蒙成全球第三大移动操作系统!鸿蒙工程师招聘月薪提高11.91%
- ·B站UP主影视飓风Tim离婚 双方回应:婚姻跟恋爱有很大的不同