亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。 据了解,实例佳木斯市某某搬家有限公司亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马佳木斯市某某搬家有限公司用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用 据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。 Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。 此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- 央视曝光“陈皮”造假骗局!提醒:喝陈皮时,千万多留意这几点!
- 智利两列火车相撞致2死9伤,伤者中有4名中国公民
- 岩井俊二:我的音乐电影,更能反映社会问题的深度和广度
- 全国6所“顶级”211大学,就业率不输985,今年值得报考!
- 明日起 北京机动车尾号限行轮换
- 以军袭击加沙多地 已致超20人死亡
- 美国宣布加速向乌克兰运送防空拦截导弹
- 印度一工厂发生爆炸,已致9人死亡
- 背大学英语四级单词,每天要复习的单词越来越多怎么办?
- 南阳市十五小教育集团:特色铸品牌 内涵促发展
- 南阳市三十一小:一年级数学特色课程展示
- 韩军称朝鲜士兵越过军事分界线 朝方暂无回应
- 台湾宜兰县海域发生6.6级地震,全台多地震感明显
- 广东平远县强降雨已造成38人死亡、2人失联
- 菲律宾东部海域发生5.5级地震
- 广西桂林一医院住院部被洪水围困 院区处于停电状态
- 从应急充饥到深夜治愈 方便面解锁生活新食尚
- 苹果要在中国上线AI 传正与百度阿里百川等谈合作
- 智源研究院院长王仲远:GPT4不是国内大模型的尽头
- 韩国警方:性侵中国女游客的韩酒店员工被拘捕
- 搜索
-