• 张尧浠 打卡获得15积分
  •  嘴角的弧线づ打卡获得10积分
  • 张尧浠 打卡获得10积分
  • 张尧浠 打卡获得15积分
  • aa123213打卡获得10积分
  • 张尧浠 打卡获得15积分
  • aa123213打卡获得15积分
  • aa123213打卡获得15积分
  • aa123213打卡获得20积分
  • 汉声集团SinoSound打卡获得15积分
  • aa123213打卡获得15积分
  • aa123213打卡获得20积分
  • 张尧浠 打卡获得20积分
  • aa123213打卡获得10积分
  • 张尧浠 打卡获得20积分
  • aa123213打卡获得15积分
  • 张尧浠 打卡获得20积分
  • aa123213打卡获得20积分
  • 张尧浠 打卡获得10积分
  • jxy打卡获得20积分
  • jxy打卡获得10积分
  • 张尧浠 打卡获得15积分
  • lywmx77打卡获得15积分
  • 金论非凡打卡获得20积分
  • 何小冰打卡获得20积分
  • 张尧浠 打卡获得20积分
  • aa123213打卡获得15积分
  • 宝星环球打卡获得10积分
  • 张尧浠 打卡获得15积分
  • 张尧浠 打卡获得10积分
我要打卡

英伟达推出了用于训练人工智能模型的最新高端芯片H200
  hodor 2023-11-14 13:58:59 28116
这款新GPU是OpenAI用于训练其最先进的大型语言模型GPT-4的H100芯片的升级版。大公司、初创公司和政府机构都在争夺有限的芯片供应。

【友财网讯】-英伟达(Nvidia)周一发布了H200,这是一款图形处理单元(GPU),旨在训练和部署推动生成式人工智能热潮的各种人工智能模型。


英伟达推出了用于训练人工智能模型的最新高端芯片H200


这款新GPU是OpenAI用于训练其最先进的大型语言模型GPT-4的H100芯片的升级版。大公司、初创公司和政府机构都在争夺有限的芯片供应。


据雷蒙德·詹姆斯公司(Raymond James)估计,H100芯片的成本在2.5万美元到4万美元之间,在一个被称为“训练”的过程中,需要数千个芯片一起工作,才能制造出最大的模型。


对英伟达AI GPU的兴奋推动了该公司的股价,到目前为止,该公司股价在2023年上涨了230%以上。英伟达预计第三财季收入约为160亿美元,同比增长170%。


H200的关键改进在于它包含了141GB的下一代“HBM3”内存,这将有助于芯片进行“推理”,即在训练后使用大型模型来生成文本、图像或预测。


英伟达表示,H200的输出速度将是H100的近两倍。这是基于Meta的Llama 2 LLM测试得出的结论。


H200预计将于2024年第二季度上市,将与AMD的MI300X GPU竞争。与H200类似,AMD的芯片比其前一代拥有更多的内存,这有助于在硬件上安装大型模型来运行推理。


英伟达表示,H200将与H100兼容,这意味着已经在使用之前型号进行培训的人工智能公司不需要改变他们的服务器系统或软件来使用新版本。


英伟达表示,它将在该公司的HGX完整系统上提供四个GPU或八个GPU服务器配置,以及一款名为GH200的芯片,该芯片将H200 GPU与基于Arm的处理器配对。


然而,H200可能不会长期占据英伟达最快AI芯片的桂冠。


虽然像英伟达这样的公司提供了许多不同的芯片配置,但新的半导体通常每两年就会向前迈出一大步,因为制造商会转向一种不同的架构,这种架构比增加内存或其他较小的优化能带来更显著的性能提升。H100和H200都基于英伟达的Hopper架构。


今年10月,英伟达告诉投资者,由于对其GPU的高需求,它将从两年的架构周期转变为一年的发布周期。该公司展示了一张幻灯片,暗示它将在2024年宣布并发布基于即将推出的Blackwell架构的B100芯片。


【版权申明】友财网部分内容及图文转载于网络,仅供学习、参考、介绍及报道时事新闻所用。友财网不拥有版权,版权归版权持有人所有,如有版权方请联系我们删除!
字数:0
我来叨两句
最新评论