逐浪AIGC|生成式AI的花园里 英伟达如何做“挖掘工” 环球观热点
21世纪经济报道 2023-05-30 22:32:12

5月29日在台北国际电脑展上,英伟达创始人兼CEO黄仁勋宣布:“CPU扩张的时代已结束。”整场持续了2小时的演讲中,他围绕着生成式AI带来的“触发点”,将英伟达近期的硬件、软件、系统新品进行了一番兜底式介绍。


(资料图片仅供参考)

黄仁勋称,GPU塑造的“新计算机”到来了。由英伟达打造的新型“计算机”,形态已经不同以往,它的单台售价高达20万美元。在“昂贵”的争议之中,黄仁勋又称,GPU是每个电力预算有限的公司之不二选择,也是最“省钱”的基建选择。

黄仁勋近期在公开演讲中称,面对AI时代,人们需要“奔跑、而不是慢慢地走”。在生成式AI的花园里,英伟达显然正在奋力挖掘中。

解码GPU数据中心成本

“大家总是说GPU数据中心很贵,让我来算给你看。”5月29日,英伟达创始人兼首席执行官黄仁勋在台北国际电脑展上,向公众具体地介绍了GPU数据中心的成本。

在此次与供应商、客户的见面中,英伟达带来了全新的AI“计算机”DGX GH200。这是一款集成了256个英伟达最高性能CPU和GPU的超级计算机,能满足“超大大模型”的训练需求。

DGX GH200使用英伟达NVLink-C2C互连技术,将基于Arm的Grace架构CPU和Hopper架构GPU进行架构互联,实现了高达900GB/s的总带宽,比传统加速系统中的标准PCIe Gen5通道高出7倍,这种算力能够满足眼下要求最苛刻的生成式AI和HPC应用。

随着市场对数据中心基建需求的增长,英伟达眼下也需要向市场施展一些“销售手段”。最迫切的需求,就是化解人们对其设备“昂贵”的恐惧。

简单来说,“使用GPU数据中心,你可以获得150倍的性能,并省下2/3的成本。”黄仁勋称。

黄仁勋介绍,以同样的1000万美元预算为例,AIGC开发商可以搭建一个由960个CPU服务器组成的数据中心,这足以训练1个大语言模型,最终的运营消耗是11千兆瓦时电力(GWh,相当于1100万度电)。

但若换做GPU,则可搭建一个由48个GPU服务器组成的数据中心,不过这个数据中心可以训练44个大语言模型,总共消耗3.2千兆瓦时(相当于320万度电)。

按照上面的计算方法,按照单片价格计算,一片GPU芯片的价格是一片CPU的20倍,似乎“更贵”。不过,如果按照数据中心TCO成本计算法,则GPU数据中心更“省钱”。

黄仁勋甚至直接在演示PPT中列出了一个公式:数据中心持有成本=f{硬件成本(芯片、系统、硬件生态系统),吞吐量(GPU、AIgo软件、网络、系统软件、软件生态系统),使用率(AIgo Lib、软件生态系统),采购运营,生命周期最佳化,算力},从而解释了数据中心的TCO成本问题。

“为什么这非常重要?因为现实生活中大多数企业都有电力限制。”黄仁勋再次强调。如果加上这一客观因素,企业在投身AIGC时,就必须选择更高效、更低功耗的数据中心产品。

为何GPU在数据中心中的性能如此强大?黄仁勋介绍,这主要归功于三大功能:光线追踪(模拟光的特性)、以张量计算为核心的人工智能和全新的算法。

英伟达于2017年开始实践在GPU上同时实现上面三个功能,当时用GPU生成图片的效果首次惊艳了市场。当时,使用CPU服务器“无中生有”一张图片需要花费数个小时(这个过程用专业说法叫做“渲染”),但英伟达使用GPU只花了15秒。

不过,新型GPU计算机的所谓“便宜”,并不是针对消费级市场的。值得注意的是,由于它的高昂价格,目前无法在个人电脑市场上替代CPU为核心的PC、笔记本等。

在演讲现场,黄仁勋揭开了一台由8个H100芯片组成的“新型GPU计算机”。“它是全球最昂贵的计算机。”黄仁勋称。

这个新型电脑重达65磅(大约29.5公斤),必须要借助机器人才能实现平稳、精确的安装。“这台电脑售价20万美元。”黄仁勋称。

启动AIGC行业变革

用硬件来淘汰“CPU时代”,还只是英伟达攻占AIGC龙头地位的第一步。眼下,英伟达已经在软件生态圈中进行精心布局,除了将CUDA计算模型推广给400万名软件开发者以外,还推出了游戏AI模型代工服务,并深入到制造业中支持虚拟工厂、机器人仿真技术和自动化检测。

“为什么这么多年来,人们无法创造一种新的计算方法?”黄仁勋谈及CPU时代时称。他指出,这是因为硬件与软件、消费市场与开发商供应者之间存在一种“鸡生蛋、蛋生鸡”的关系,导致互相牵制,令基于CPU的计算方法得以持续甚久。

因此,为了打破“CPU时代”的桎梏,英伟达除了大力设计芯片硬件,也十分关注搭建软件生态环境。CUDA计算模型就是英伟达为这个长远布局落下的一枚关键棋子。

“英伟达Cuda计算模型现在服务于400万开发者和超过3000个应用程序。Cuda的下载量达到了4000万次,其中仅去年一年就达到了2500万次。”黄仁勋称。他指出,在拥有了如此庞大规模的软件基础上,GPU取代CPU才实现可能。

总结黄仁勋两个小时的演讲内容,可以看到英伟达对AIGC领域的挖掘,涵盖了核心的超级芯片、到互连技术再到算法引擎的优化、以及配套软件的升级。

事实上,AIGC所涉及到的文生文、文生图、2D图生3D图等,正在经过多种大模型或应用进行实现,包括英伟达旗下的对话式 AI 模型开源框架NeMo、Meta旗下的大模型LLaMa、使用GPT模型的应用ChatGPT、以及文生图应用Stable Diffusion等。目前,全球最有影响力的AIGC科技龙头都在深度使用英伟达所提供的工具,也推动英伟达在美股市场上攀爬“1万亿美元”市值的高峰,很快就要和苹果、微软、谷歌、亚马逊一起处于“万亿俱乐部”中。

英伟达此次带给AIGC行业的工具之多,令市场感到十分吃惊。除了以上的产品,英伟达在大型游戏创作和数字化工厂方面的介入,也十分引人注目。

在游戏创作方面,黄仁勋展示了一段游戏片段。这个片段中,除了现实感逼真的画面制作外,游戏玩家和NPC之间的对话也是完全由AIGC生成的。换句话说,以后的游戏可以“千人千面”,玩家面对的不再是只会吐露模式化回复的NPC。这个功能依赖英伟达的AI模型代工服务ACE游戏开发版,有利于游戏开发商简易上手上面的功能。

英伟达又介绍,现在一些领先的电子制造商已经使用英伟达的AIGC和元宇宙平台omniverse实现工厂的“数字化”。

在制造业,全球大约有1000万家工厂,它们是工业数字化的重点领域。

黄仁勋表示:“工业制造的都是实物,如果能先以数字的方式制造产品,可以节省数十亿美元。”

眼下,在工业领域,英伟达主要打造了Omniverse和生成式AI来帮助工厂进行虚拟工厂的设计,还推出了Isaac Sim模拟和测试机器人、Metropolis光学检测自动化工具。

据了解,富士康、和硕、广达等电子设备制造商已经在利用英伟达上述工具加快笔记本电脑、智能手机的生产和装配。

(文章来源:21世纪经济报道)

逐浪AIGC|生成式AI的花园里 英伟达如何做“挖掘工” 环球观热点

2023-05-30 22:32:12

热文:裴秀智电视剧有哪些_裴秀智演过的电视剧

2023-05-30 21:51:54

全球热点!怀孕4个月女子遭家暴 江西涌山镇官方:对家庭暴力行为严厉训诫 双方和解

2023-05-30 21:39:23

焦点讯息:“网上直通车”精准扶持农村电商

2023-05-30 21:04:36

全球简讯:探讨“落户”EMEA机遇与挑战 专家助力本土生物科技创新企业出海

2023-05-30 20:37:11

第八届中国机器人峰会成功举办 百余项技术成果展示上千名行业精英共聚 世界快播报

2023-05-30 20:23:21

【甘快说】飞天网评:激荡大数据产业发展“一池春水”

2023-05-30 20:01:00

【世界速看料】广州白云站上盖开发平台盖板主体结构施工完成

2023-05-30 19:52:34

注意!建科机械将于6月15日召开股东大会-当前消息

2023-05-30 19:14:12

当前要闻:赛轮轮胎:自2023年6月6日至权益分派股权登记日期间,“赛轮转债”将停止转股

2023-05-30 19:00:46

制作qq头像发光字软件(发光字qq分组)

2023-05-30 18:28:44

家族财富接力时刻:香港力图成为超高净值人士的理财中心

2023-05-30 18:12:34

世界观焦点:英伟达推出AI超级计算机:集成256颗超级芯片

2023-05-30 18:17:11

【环球播资讯】猪肉炒油豆腐?

2023-05-30 17:37:49

当前热门:金昌市教育局智慧档案库房基础设备建设项目成交公示

2023-05-30 17:25:28

热点聚焦:小米3和小米3s电视主机哪个好(小米3和小米3s)

2023-05-30 17:09:40

中际旭创涨13.54%-世界聚焦

2023-05-30 17:17:39

发动机机油多久换一次(发动机机油应该多长时间更换一次) 天天简讯

2023-05-30 16:29:55

印控克什米尔地区发生客车坠谷事故 已致10死55伤|全球热闻

2023-05-30 16:13:26

宜昌市疾病预防控制局挂牌成立 世界百事通

2023-05-30 16:17:08

墨西哥恰帕斯州发生大客车翻覆事故 造成至少22人受伤

2023-05-30 15:39:33

马琳搭肩王励勤!二王一马同框满脸笑容,无缘大满贯遗憾都已释然 每日资讯

2023-05-30 15:33:41

「问题少年」逆袭成资产350亿美元CEO!60岁黄仁勋或成LLM爆发背后最大赢家 当前快讯

2023-05-30 14:59:18

北京民生银行网点查询西城区_北京民生银行网点

2023-05-30 14:35:01

穆迪:随着房地产行业趋稳 国企和实力较强的民企将获益更大|全球播报

2023-05-30 13:58:43

鹂字组词有哪些_鹂字组词大全|快资讯

2023-05-30 13:32:57

公安部交管局:全力保障高考考生安全及时应考 焦点快看

2023-05-30 12:55:24

世界热点!益禾堂加盟标准:总投资10万可以吗?2023加盟条件+政策

2023-05-30 12:12:14

主动脉瓣狭窄杂音听诊位置_主动脉瓣狭窄杂音

2023-05-30 10:46:33

当前速讯:台北电脑展上英伟达公布了哪些产品和服务?

2023-05-30 10:36:18

全球观热点:通胀高企 英国政府欲让零售商对基本食品限价

2023-05-30 09:50:34

洗衣机“救星”,不用拆,15分钟掏空污垢,就花十几元换了台新机!

2023-05-30 08:49:47

卡布西游最新修改器 卡布西游修改器秒杀boss-当前讯息

2023-05-30 07:43:06

某商店准备购进ab两种商品_某商店准备进一批季节性小家电

2023-05-30 06:54:15

前妻恭贺前夫“纳妾快乐”,真相来了

2023-05-30 06:13:12

世界观速讯丨珩磨管(关于珩磨管的基本详情介绍)

2023-05-30 05:16:36

东方中科(002819):5月29日北向资金增持9.03万股-观热点

2023-05-30 04:34:18

世界今日讯!211项新技术、新产品—— 北京亦庄创新发展活力迸发

2023-05-30 03:41:32

招商蛇口: 关于公司发行股份购买资产并募集配套资金暨关联交易事项获得深圳证券交易所并购重组审核委员会审核通过的公告

2023-05-30 02:50:23

【世界播资讯】「一周大事」一起回顾海南农垦这周都发生了哪些大事 丨2023.5.22-5.28

2023-05-30 01:37:49

中甲联赛第七轮战罢 广西平果哈嘹领跑积分榜|精彩看点

2023-05-30 00:44:05

四送四进四提升 健康知识进校园——烟台市疾控中心与烟台山医院联合开展健康促进公益行动-每日消息

2023-05-30 00:11:34

环球看点!开展防灾减灾演练 筑牢校园安全防线

2023-05-29 23:50:09

天津聚力产业链优势打造信创产业基地-要闻速递

2023-05-29 22:46:12

建发股份为子公司26.7亿关税保证保险提供连带责任保证

2023-05-29 22:20:21

徐诗寒个人资料_徐诗寒个人简介 环球滚动

2023-05-29 21:29:39

全球要闻:板桥幼儿园:倾听心声 共育未来

2023-05-29 20:28:16

环球新动态:中山个人停息挂账申请条件是什么?停息挂账怎么申请能通过?

2023-05-29 20:14:01

江西省新余市市场监管局发布2023年第6期食品安全监督抽检信息

2023-05-29 18:36:26

夏日神器清热解暑多好处_当前报道

2023-05-29 17:54:36

动滑轮它的用处是什么_动滑轮的作用是什么?

2023-05-29 17:14:32

神十六航天员乘组见记者 景海鹏第四次飞天

2023-05-29 16:33:57

禹州市委常委督导安全生产、消防安全工作_当前热议

2023-05-29 15:57:08

洪都拉斯访华记者:中国的发展令人震撼_快播报

2023-05-29 15:35:00

多一分热爱,就多一次闪光——2023新疆导游大赛全面展现新疆导游“硬核实力”_全球看点

2023-05-29 14:19:56

记者:姆巴佩没胆量称自己将要离开,皇马应该永远忘记他

2023-05-29 13:27:46

环球信息:东风汽车澄清:公司与武汉市财政局、武汉长江资产经营管理有限公司均无债权债务关系

2023-05-29 12:36:18

环球速看:工商银行步步高升金条100g价格今天多少一克(2023年05月29日)

2023-05-29 11:51:24

“践行二十大·迈向新征程”主题健步走活动举行

2023-05-29 11:31:33

“安徽全球招商合作伙伴”名单发布_每日关注

2023-05-29 10:51:28

中国空间站从T字型到十字型 环球快讯

2023-05-29 09:41:10

【快播报】深圳特色垃圾分类科普教育体系走向全国

2023-05-29 09:11:56

中信证券:消费短期关注估值回落至低位时的配置机会-看热讯

2023-05-29 08:21:11

即许一人以偏爱,愿尽余生之慷慨|环球关注

2023-05-29 07:05:02

环球焦点!人过五十,做到“三不管”,晚年才能幸福

2023-05-29 06:01:01

阿根廷男足公布亚洲行大名单!梅西、迪玛利亚领衔 观速讯

2023-05-29 04:59:08

当前观察:当年杨志刚和江珊拍戏,江珊说:弟弟啊,姐的屁股翘吗?

2023-05-29 01:49:29

评书乱世枭雄全集mp3下载_评书乱世枭雄打包下载 世界百事通

2023-05-28 23:46:42

用半导体量子点锻造梦想材料

2023-05-28 22:10:02

两家药企因垄断协议被罚3亿 基本信息讲解

2023-05-28 21:20:21

每日简讯:诺克萨斯之手出装_快来看看

2023-05-28 20:19:18

珍珠粉可以祛斑吗_珍珠粉可以祛斑

2023-05-28 19:17:08

《五十公里桃花坞》第三季首播 17位新老坞民开局坦诚相见 天天观天下

2023-05-28 17:53:12

数据里看影响力 亚洲已成为中国网络文学传播最广泛地区 世界快消息

2023-05-28 17:05:25

焦点简讯:word截图快捷键电脑_word截图快捷键

2023-05-28 16:01:56

环球新资讯:如何制作婚礼长凳

2023-05-28 15:15:01

这路大G都走不了 宝骏悦也“全路况”试驾体验

2023-05-28 15:08:53

农村投资项目申请宅基地(农村投资好项目)

2023-05-28 13:32:39

当前讯息:邳州61.5万亩大蒜“丰”景大好

2023-05-28 12:11:14

4月份工业生产继续恢复 企业利润降幅继续收窄-世界观察

2023-05-28 11:20:53

卖轮胎的app叫什么来着(卖轮胎的app) 世界快讯

2023-05-28 10:32:06

携手央媒讲好中国式现代化南通新实践故事 市政府与新华通讯社江苏分社签订战略合作协议

2023-05-28 09:42:19

生活中什么小习惯可以保持健康 生活中保持健康的生活方式有哪几点

2023-05-28 08:33:34

焦点观察:当前讯息:多项数据呈现积极变化 推动经济高质量发展

2023-05-28 07:26:48

互联网3.0白皮书发布 大咖论坛畅想行业前景

2023-05-28 06:08:38

密云通过马拉松探索体育产业发展模版

2023-05-28 04:54:06

环球快播:下排水滚筒洗衣机推荐_滚筒洗衣机上排水和下排水哪个好

2023-05-28 02:44:38

首套利率3.7%!银行为了催我贷款,也太拼了-环球消息

2023-05-28 01:41:41

1500年是什么年?1500年2月29日是星期几?来看看

2023-05-27 23:57:39

泰国时差与中国差多少_泰国时间和北京时间差多少-天天热推荐

2023-05-27 22:09:57

环球要闻:或为轿跑SUV形式 全新标致3008将于今年9月发布

2023-05-27 21:10:15

世界视点!大股东出尔反尔?8个议案仅通过1个 易主后的梦洁股份陷入“内耗”

2023-05-27 20:11:03

天天要闻:跨立的基本动作要领_动作介绍

2023-05-27 19:01:57

4399美食大战老鼠好号和密码真的60级没改密码没有_4399美食大战老鼠好号和密码真的60级 当前快播

2023-05-27 18:04:08

回顾上海解放长卷 龙华烈士陵园推系列活动

2023-05-27 16:51:26

东莞市总工会举行“新就业形态劳动者温暖行动”服务月活动

2023-05-27 15:53:42

南回归线和北回归线的纬度是多少度_南回归线和北回归线的纬度是多少?-当前速递

2023-05-27 14:08:51

162102天天基金_环球看热讯

2023-05-27 13:04:29

当前热文:推特API溢价210倍 学者无法承担高额费用 且要求删除此前研究数据

2023-05-27 12:07:05

天天快看点丨卧室40w太亮吗

2023-05-27 11:19:04