8月9日凌晨,洛杉矶SIGGRAPH大会上,英伟达CEO黄仁勋宣布推出新一代Grace HopperGH200超级芯片,用于满足越发庞大的人工智能大模型的训练和推理需求。GH200在此前5月30日的COMPUTEX 2023上已有亮相,此次黄仁勋公布了更多详细信息。
该芯片由英伟达当前最高规格GPU H100和72核Grace系列CPU组合而成,具有4PFLOPS的高算力,并搭载500GB的LPDDR5X以及141GB的HBM3E存储器,实现了5TB/秒的数据吞吐量。如果将GH200进行双路配置,则可以实现性能的翻倍,相当于具有8PFLOPS算力和282GB的HBM3E。
英伟达GH200
英伟达此次还推出了搭载256块GH200的DGX GH200超级计算机。相较于上一代搭载8块H100的DGX H100,性能有了显著飞跃。DGX GH200的算力达到1EFLOPS,并且具有1TB的快速存储。同时,借助英伟达的最新技术NVlink Switch System,该产品实现了更加整体的运算协同。
英伟达DGX GH200
据悉,首批GH200预计2024年第二季度出货。
除了最新一代的超级芯片和超级计算机之外,黄仁勋也透露了其他英伟达在生成式人工智能上的新进展,分别为:降低门槛、易于AI开发者使用的工作空间AI Workbench;帮助开发者和企业更好地在OpenUSD框架上进行AI内容创作的Omniverse更新;生成式AI推理平台RTX系列的新品以及针对人工智能垂直行业应用的L40升级版L40s。