• WAYING打卡获得15积分
  • 张尧浠 打卡获得10积分
  • 孙建发打卡获得10积分
  • sun001002打卡获得20积分
  • 缘水打卡获得10积分
  • 闫瑞祥打卡获得15积分
  • 邵悦华打卡获得15积分
  • 缘水打卡获得20积分
  • eison打卡获得20积分
  • 孙建发打卡获得10积分
  • 闫瑞祥打卡获得20积分
  • 何小冰打卡获得20积分
  • 缘水打卡获得20积分
  • 缘水打卡获得15积分
  • 张尧浠 打卡获得10积分
  • 缘水打卡获得20积分
  • 缘水打卡获得10积分
  • 孙建发打卡获得20积分
  • 张尧浠 打卡获得20积分
  • 张尧浠 打卡获得10积分
  • 张尧浠 打卡获得15积分
  • 闫瑞祥打卡获得20积分
  • 张尧浠 打卡获得15积分
  • 张尧浠 打卡获得10积分
  • PrismNET打卡获得20积分
  • 闫瑞祥打卡获得10积分
  • 温莎打卡获得10积分
  • 何小冰打卡获得10积分
  • 闫瑞祥打卡获得10积分
  • 闫瑞祥打卡获得20积分
我要打卡

英伟达一个大约1万美元的芯片 已经成为人工智能行业最重要的工具之一
  天成 2023-02-24 12:02:07 28150
微软(Microsoft)和谷歌(Google)等公司正在努力将前沿的人工智能集成到他们的搜索引擎中,因为OpenAI和Stable Diffusion等价值数十亿美元的竞争对手抢在了前面,并向公众发布了他们的软件。

【友财网讯】-能够书写文字段落或绘制看起来像人类创造的图片的软件在科技行业掀起了一股淘金热。


英伟达一个大约1万美元的芯片 已经成为人工智能行业最重要的工具之一


微软(Microsoft)和谷歌(Google)等公司正在努力将前沿的人工智能集成到他们的搜索引擎中,因为OpenAI和Stable Diffusion等价值数十亿美元的竞争对手抢在了前面,并向公众发布了他们的软件。


驱动这些应用程序的是一个大约1万美元的芯片,它已经成为人工智能行业最重要的工具之一:英伟达(Nvidia) A100。


投资者内森·贝纳奇(Nathan Benaich)说,A100目前已经成为人工智能专业人士的“主力”,他出版了一份涵盖人工智能行业的时事通讯和报告,包括使用A100的超级计算机的部分列表。据New Street Research称,英伟达占据了可用于机器学习的图形处理器95%的市场份额。


A100非常适合为ChatGPT、Bing AI或Stable Diffusion等工具提供动力的机器学习模型。它能够同时执行许多简单的计算,这对训练和使用神经网络模型非常重要。


A100背后的技术最初用于在游戏中渲染复杂的3D图形。它通常被称为图形处理器,但最近英伟达(Nvidia)的A100被配置为针对机器学习任务,并在数据中心运行,而不是在发光的游戏电脑中运行。


从事聊天机器人和图像生成器等软件的大公司或初创公司需要成百上千的英伟达芯片,他们要么自己购买,要么从云提供商那里安全地访问计算机。


需要数百个图像处理器(GPU)来训练人工智能模型,像大型语言模型。芯片需要足够强大,能够快速处理万亿字节的数据,以识别模式。之后,A100这样的GPU也需要进行“推理”,或使用模型生成文本,进行预测,或识别照片中的对象。


这意味着AI公司需要接触大量A100。该领域的一些企业家甚至将他们拥有的A100数量视为进步的标志。


“一年前我们有32个A100。”Stability AI首席执行官伊马德·穆斯塔克(Emad Mostaque)今年1月在推特上写道,“孩子们,做个大梦想,堆一堆GPU。呵。”Stability AI公司帮助开发了去年秋天引起关注的图像生成器Stable Diffusion,据报道,该公司的估值超过10亿美元。


现在,根据《人工智能状况报告》(State of AI report)的一项估计,Stability AI可以使用超过5400个A100 GPU,该报告绘制并跟踪了哪些公司和大学拥有最多的A100 GPU——尽管它不包括云提供商,云提供商不公开发布他们的数字。


*英伟达正在搭乘人工智能的列车*


英伟达将从人工智能炒作周期中受益。在周三的第四财季财报中,尽管整体销售额下降了21%,但投资者周四推动该股上涨了约14%,主要是因为该公司的人工智能芯片业务——报告为数据中心——在该季度的销售额增长了11%,达到36亿美元以上,显示出持续增长。


2023年迄今为止,英伟达的股价上涨了65%,超过了标准普尔500指数和其他半导体股票。


英伟达首席执行官黄仁勋在周三与分析师的电话会议上不停地谈论人工智能,这表明最近人工智能的繁荣是该公司战略的核心。


“围绕我们建立的人工智能基础设施的活动,以及围绕使用Hopper和Ampere影响大型语言模型的推理的活动,在过去60天里刚刚突破了新记录。”黄仁勋说,“毫无疑问,无论我们对今年的看法如何,随着我们进入新的一年,过去60、90天的结果已经发生了相当大的变化。”


Ampere是英伟达对A100代芯片的代号。Hopper是新一代产品的代号,包括最近开始发货的H100。


相比于其他类型的软件,如服务网页,偶尔会在几微秒内突发使用处理能力,机器学习任务可能会占用整个计算机的处理能力,有时会持续几个小时或几天。


这意味着发现自己拥有热门人工智能产品的公司通常需要获得更多GPU来处理高峰期或改进他们的模型。


这些图形处理器不便宜。除了可以插入现有服务器的卡上的单个A100之外,许多数据中心使用包括八个A100 GPU一起工作的系统。


这款系统是英伟达的DGX A100,尽管配备了所需的芯片,但建议价格接近20万美元。周三,英伟达表示,将直接出售DGX系统的云接入,这可能会降低修补程序和研究人员的入门成本。


不难看出A100的成本是如何累积起来的。


例如,New Street Research的一项估计发现,必应(Bing)搜索中基于OpenAI的ChatGPT模型可能需要8个GPU在不到一秒的时间内对一个问题做出响应。


按照这个速度,微软将需要超过2万台8-GPU服务器才能将必应中的模型部署到每个人身上,这意味着微软的这项功能可能需要40亿美元的基础设施支出。


“如果你来自微软,你想扩大规模,像必应那样,那可能是40亿美元。如果你想达到谷歌每天服务80亿或90亿次查询的规模,你实际上需要在DGX上花费800亿美元。”New Street Research科技分析师安托万·切凯班(Antoine Chkaiban)说,“我们得出的数字是巨大的。但它们只是反映了这样一个事实,即每个用户在使用如此庞大的语言模型时,都需要一台巨大的超级计算机。”


根据Stability AI在网上发布的信息,图像生成器Stable Diffusion的最新版本在256个A100 GPU上进行了训练,即32台机器,每台机器有8个A100,总计20万个计算小时。


Stability AI首席执行官穆斯塔克在推特上表示,按照市场价格,仅训练模型就需要60万美元,并在推特上表示,与竞争对手相比,这个价格异常便宜。这还不包括“推理”或部署模型的成本。


英伟达首席执行官黄仁勋在接受CNBC采访时表示,就这类模型所需的计算量而言,该公司的产品实际上并不昂贵。


“我们把原本价值10亿美元的运行CPU的数据中心,压缩成1亿美元的数据中心。”黄仁勋说,“现在,当你把1亿美元放到云端,并由100家公司共享时,几乎不算什么。”


黄仁勋说,英伟达的GPU允许初创公司以比使用传统计算机处理器低得多的成本来训练模型。


“现在你可以花1000万到2000万美元,建立一个大型语言模型,比如GPT。”黄仁勋说,“这真的非常非常实惠。”


*新的竞争*


英伟达并不是唯一一家为人工智能用途制造GPU的公司。AMD和英特尔(Intel)拥有相互竞争的图形处理器,谷歌和亚马逊(Amazon)等大型云公司正在开发和部署自己专门为人工智能工作负载设计的芯片。


然而,“人工智能硬件仍然与英伟达紧密结合。”根据人工智能计算报告,截至去年12月,超过2.1万篇开源AI论文表示他们使用了英伟达芯片。


人工智能计算指数(State of AI Compute Index)中的大多数研究人员都使用英伟达在2017年推出的芯片V100,但A100在2022年迅速增长,成为第三大使用的英伟达芯片,仅次于最初用于游戏的1500美元或更低的消费级图形芯片。


A100的另一个特点是,它是少数几个因为国防原因而受到出口管制的芯片之一。去年秋天,英伟达在提交给美国证券交易委员会(SEC)的一份文件中表示,美国政府对A100和H100的出口实施了许可证要求,禁止向中国内地、香港和俄罗斯出口。


“美国政府表示,新的许可要求将解决涵盖产品可能在中国和俄罗斯被用于或转移到‘军事最终用途’或‘军事最终用户’的风险。”英伟达在提交的文件中表示。英伟达此前表示,它为中国市场调整了一些芯片,以符合美国的出口限制。


A100最激烈的竞争可能是它的继任者。A100于2020年首次推出,这是芯片周期中的一段漫长岁月。2022年推出的H100开始批量生产——事实上,英伟达在周三表示,在截至1月份的季度中,H100芯片的收入超过了A100,尽管H100的单价更高。


英伟达表示,H100是其第一款针对变频进行优化的数据中心GPU,变压器是一项越来越重要的技术,许多最新和顶级的人工智能应用都在使用。英伟达周三表示,它希望让人工智能训练速度提高100万倍以上。这可能意味着,人工智能公司最终将不需要这么多英伟达芯片。


【版权申明】友财网部分内容及图文转载于网络,仅供学习、参考、介绍及报道时事新闻所用。友财网不拥有版权,版权归版权持有人所有,如有版权方请联系我们删除!
字数:0
我来叨两句
最新评论