2016年,英伟达创始人黄仁勋将全球首款 DGX 交给了 OpenAI,加速了生成式AI革命的到来。如今,在ChatGPT这一现象级产品的带动下,全球科技公司纷纷入场开发各自的大模型,预训练和推理所需的算力需求也呈现指数级增长。
来自OpenAI的分析报告显示,2012 年至2018年的6年间,人工智能训练任务中使用的算力需求便增长了约30万倍。这一趋势下,GPU被广泛应用于加速芯片,也让全球GPU市场82%份额的英伟达成为其中的受益者。
(相关资料图)
“一台包含8张A800的DGX超算,现在市面上的价格可能要到230万元到250万元之间,价格还在持续上涨。”位于上海张江的一家数据公司内,公司负责人陈运文正在向技术负责人纪达麒询问算力设备的采购情况。
自从今年3月份发布了面向垂直领域的“曹植”大语言模型,庞大的算力规模需求,让英伟达DGX的采购计划,出现在了公司每周的日程表内。
算力成本高企
国内大模型开发者期待国产解决方案
“我们的算力平台是自建的,像国内的云服务厂商,还没有这么大的算力服务。我们现在采购的是DGX的高性能的一些解决方案,单套8张GPU价格接近200万元,现在已经采购了很多套。”在陈运文看来,现在市面上英伟达A800的供应还是有保障的,就是得排队,真正难买的是存量的A100产品。
不过,无论哪种解决方案,算力成本短期内将给这些从事大模型开发的初创公司,带来极大的困扰。陈运文表示,现在公司算力设施主要依赖于进口产品,他们也很期待,国内的GPU厂商能够推出与之媲美的产品,来有效降低算力成本的投入。
而国内的GPU厂商,其实也已经看到了AIGC带来的算力机遇。国内GPU厂商燧原科技,早在两年前就落地了国内第二个千卡集群的训练项目,那时候AIGC还未引发关注。
而现在AIGC火了,燧原科技看到了大模型预训练之上的市场机会。燧原科技创始人、董事、CEO赵立东告诉记者,在大模型预训练之上,还有一层Fine-tune精调层,再上面是推理应用层。
当有了基础模型以后,还可以针对场景做一些精调的训练,而这些训练需要的算力需求就小了很多,准入门槛也低了很多,会有大量的开发者涌入这个赛道。针对这样的需求变化,国内GPU厂商也在调整自身的产品路线图,使得它更加符合AIGC时代的人工智能算力需求。
上海人工智能研究院院长助力、行业赋能中心主任杨浩也表示,国内通用芯片厂商目前有数十家,可能未来有一两家脱颖而出,而更多的厂家会在FPGA、ASIC等专用芯片领域,找到新的市场机会。
新型算力研发提速
国内首条光子芯片中试线有望明年建成
传统电子芯片技术已经逼近物理极限,在AIGC时代,谁来承接人工智能计算需求的指数级增长?
以光子计算、量子计算为核心的新型算力技术,可能成为新的接棒者。
“传统的电子芯片,包括英伟达的GPU,再早的CPU,一直沿着摩尔定律向前发展,而我们现在新型架构的芯片,是沿着满足人工智能计算需求的方向发展,它的增长曲线一定是更陡峭的。” 图灵量子创始人、上海交大教授金贤敏对记者表示。
自从2014年带团队从事光子芯片研发以来,从在校学术成果积累,到创办公司进行产业化应用,金贤敏团队即将迎来阶段性成果——国内首条光子芯片中试线有望在明年年中建成,预计产能可达上万片。
金贤敏非常自豪地告诉记者,如果在无锡的产线建成,他们将是全球范围内唯一一个拥有光芯片流片中试线的团队。
在AIGC时代,算力已经成为大模型开发的短期瓶颈,而要解决算力短缺的问题,将是一个系统性的工程。上海社科院信息所研究员、互联网研究中心主任惠志斌表示,现在不光要看到国外GPU厂商的一些先进的产品,更要立足长远,在光子计算、量子计算等一些颠覆性技术的领域,也要加强科技攻关。
(文章来源:第一财经)
关键词:
记者实探:一台英伟达AI超算售价高达200万元 AIGC时代的算力瓶颈如何破解? 【记者实探:一台英伟达AI超算售价高达200万元AIGC时代的算力瓶颈如何破解?】“一台包含8张A800的DGX超算
2023年了 带货主播还是好工作吗?_快看点 主播是什么,究竟什么样的主播才是好主播?已经在直播带货领域打拼八年的李佳琦对于这个问题,自然有一定的
全球快资讯:万马股份:可为农村新能源汽车充电服务提供低成本、高效稳定、高智能... 证券时报网讯,万马股份在互动平台表示,公司拥有从7kW到480kW功率的产品线,包括大功率一体式 分体式直流
浙商期货喜获央行金融科技发展二等奖 上证报中国证券网讯日前,中国人民银行公布“2021年度金融科技发展奖获奖项目”名单,浙商期货团队开发的“
永信至诚:公司通常不会存在产品产能限制 永信至诚5月25日披露投资者关系活动记录表显示,公司的产品形态为软件和软硬件一体化两种形态。其中,后者
全球焦点!苏伊士运河局长:悬挂中国香港旗帜的货轮已经成功脱浅 据央视新闻,当地时间5月25日上午,埃及苏伊士运河局长拉比耶对外表示,此前搁浅的悬挂中国香港旗帜的货轮
记者实探:一台英伟达AI超算售价高达200万元 AIGC时代的算力瓶颈如何破解? 【记者实探:一台英伟达AI超算售价高达200万元AIGC时代的算力瓶颈如何破解?】“一台包含8张A800的DGX超算
张文宏受聘为延安大学附属医院客座教授 天天简讯 张文宏教授是国家传染病医学中心主任、复旦大学附属华山医院感染科主任,他所带领的团队13年蝉联专科排名全
高铁退票扣多少手续费2017 目前,高铁退票的手续费标准是根据购票时间距离出发时间的时间差来计算的。具体来说,购票时间距离出发时间
全球微头条丨中国皮具行业整体竞争状况 皮具行业市场发展趋势 我国是全球箱包的第一制造大国,数据显示,我国生产的箱包已占全球近40%的市场份额。随着海外客商的回流,
2023中国智慧工厂建设行业发展分析 随着智慧工厂建设行业竞争的不断加剧,大型企业间并购整合与资本运作日趋频繁,国内外优秀的智慧工厂建设企
环球聚焦:消费动力强劲 年内快递业务量同比增长17.0% 今年全国快递业务量数据分析 消费动力强劲年内快递业务量同比增长17 0%据国家邮政局公布的4月份邮政行业运行数据显示,1月份至4月份,邮
5月中旬全国白酒环比价格总指数下跌0.01%|今日热门 北京商报讯(记者翟枫瑞)5月25日,据全国白酒价格调查资料显示,2023年5月中旬全国白酒环比价格总指数为99
2023年了 带货主播还是好工作吗?_快看点 主播是什么,究竟什么样的主播才是好主播?已经在直播带货领域打拼八年的李佳琦对于这个问题,自然有一定的
全球快资讯:万马股份:可为农村新能源汽车充电服务提供低成本、高效稳定、高智能... 证券时报网讯,万马股份在互动平台表示,公司拥有从7kW到480kW功率的产品线,包括大功率一体式 分体式直流
浙商期货喜获央行金融科技发展二等奖 上证报中国证券网讯日前,中国人民银行公布“2021年度金融科技发展奖获奖项目”名单,浙商期货团队开发的“
中兴通讯于北京投资设立科技新公司 企查查APP显示,近日,北京中怡南华科技有限公司成立,法定代表人为孙怡,注册资本1000万元,经营范围包含
中国互联网协会:警惕“AI换脸”新骗局-每日快看 中国互联网协会:警惕“AI换脸”新骗局
孔明午评:外围影响失守3200,午后能否回暖成关键! 截至午间收盘,上证指数跌0 66%,报收3183 75点;深证成指跌0 54%,报收10861 6点;创业板指跌0 28%,报收2
热点在线丨水性工业漆书籍(水性木器漆 2009年化学工业出版社出版的图书) 当前大家对于水性木器漆2009年化学工业出版社出版的图书都是颇为感兴趣的,大家都想要了解一下水性木器漆20
对网络传销要露头就打 北京警方日前通报打击新型传销团伙有关情况,违法犯罪团伙搭建网络平台销售所谓“收藏品”,通过招募会员、
热头条丨全球及中国螺旋藻行业市场发展现状分析 一、螺旋藻行业概况螺旋藻,颤藻科螺旋藻属一类经济微藻,原核生物。藻丝体为单列细胞构成无分支、无异性胞
中国视频会议系统行业应用现状 中国视频会议系统行业市场规模预测 视频会议系统由终端设备、数字通信网络、网路节点交换设备、MCU等组成。目前视频会议逐步向着多网协作、高
当前看点!花胶行业消费需求分析 花胶行业市场规模预测 花胶即鱼肚,是各类鱼鳔的干制品,以富有胶质而著名,故名为花胶。花胶又名鱼肚,是从鱼腹中取出鱼鳔,切开
2023风电塔筒市场前景分析 国内风电塔筒行业发展机会如何? 聚看点 未来风电塔筒行业市场机会在哪?风能技术发展缓慢,没有引起人们足够的重视。但自1973年世界石油危机以来,
全球快消息!开盘1秒钟涨停 3200亿巨头大利好!10天3涨停 N型电池龙头狂飙 受益股来了 开盘1秒钟涨停,3200亿巨头大利好!10天3涨停,N型电池龙头狂飙,受益股来了。
东张西望类似的成语二年级_东张西望类似的成语|百事通 1、类似的词语:东拼西凑、东逃西窜、东躲西藏、左顾右盼、东奔西走、瞻前顾后、侧目而视、左顾右盼、左邻
曼联官方:范德贝克与萨比策将缺席本赛季,拉什福德出战存疑 环球观速讯 ℹ️红魔阵容信息更新:拉什福德能否出战仍有待观察;❌范德贝克与萨比策将缺席本赛季剩余比赛,马丁内斯仍
热议:尖峰集团子公司缬沙坦氨氯地平片(I)获药品注册证书 上证报中国证券网讯(记者张问之)5月24日晚,尖峰集团公告披露,公司控股子公司尖峰药业收到国家药品监督
永信至诚:公司通常不会存在产品产能限制 永信至诚5月25日披露投资者关系活动记录表显示,公司的产品形态为软件和软硬件一体化两种形态。其中,后者
全球焦点!苏伊士运河局长:悬挂中国香港旗帜的货轮已经成功脱浅 据央视新闻,当地时间5月25日上午,埃及苏伊士运河局长拉比耶对外表示,此前搁浅的悬挂中国香港旗帜的货轮
理想智驾提速:感知换帅 芯片提速 高层赴美招人_全球微速讯 理想汽车智能驾驶与芯片团队正在快速扩张,进入国内外双线招聘模式。有业内人士表示,近期理想汽车一些核心
ETF观察丨电力板块再度活跃,华能国际涨超2%,央企创新驱动ETF(515900)盘中溢价 今日(5月25日)A股三大指数震荡调整,沪指失守3200点。盘面上,电力板块再度活跃,杭州热电10天9板,桂东
焦点热文:湖北荆门发布枯水蓝色预警 395座水库开闸放水 【湖北荆门发布枯水蓝色预警395座水库开闸放水】近期,湖北省荆门市水文水资源勘测局发布枯水蓝色预警。针
舍得酒业召开2023年供应链大会,百家供应链生态企业齐聚射洪论道生态发展 生态共创,共赢未来。5月23日至5月24日,舍得酒业2023年供应链大会在沱牌舍得文化旅游区圆满举行。来自全国各地的百家供应链生态企业齐聚中国
5月中旬全国白酒环比价格总指数下跌0.01%|今日热门 北京商报讯(记者翟枫瑞)5月25日...
中兴通讯于北京投资设立科技新公司 企查查APP显示,近日,北京中怡南...
热议:尖峰集团子公司缬沙坦氨氯地平片(I)获药品注册证书 上证报中国证券网讯(记者张问之)...
理想智驾提速:感知换帅 芯片提速 高层赴美招人_全球微速讯 理想汽车智能驾驶与芯片团队正在快...
怎样保存大米一年不坏?真空大米放了3—4年还能吃么? 怎样保存大米一年不坏?1、用锅煮花...
最新消息:河北省40幅摄影作品参加第三十四届华北摄影艺术展览 近日,第三十四届中国华北摄影艺术...
获奖名单公布!第十三届中国艺术节在河北雄安新区落下帷幕 9月15日晚,第十三届中国艺术节在...
2022北京时装周9月15日至22日将在线上线下举办多场活动 一年一度的北京时装盛典即将拉开帷...