英伟达宣布推出最强AI芯片，成本和能耗较前代改善25倍
号称今年全球头号人工智能（AI）领域开发者大会的英伟达2024 GTC AI大会于美东时间3月18日周一拉开帷幕。今年是英伟达时隔五年首次让年度GTC重回线下，也是此前分析认为英伟达要“拿出点真家伙”的AI盛会。
当地时间周一下午，英伟达创始人兼CEO黄仁勋在美国加州圣何塞SAP中心进行主题为“面向开发者的1#AI峰会”（1#AI Conference for Developers）演讲。黄仁勋介绍了运行AI模型的新一代芯片和软件。英伟达正式推出名为Blackwell的新一代AI图形处理器（GPU），预计将在今年晚些时候发货。
Blackwell平台能够在万亿参数级的大型语言模型（LLM）上构建和运行实时生成式AI，而成本和能耗比前身低25倍。
另据媒体报道，英伟达CEO黄仁勋在GTC宣布，将在其企业软件订阅中增加一款名为NIM的新产品。NIM可以更容易地使用旧的英伟达GPU进行推理，并允许公司继续使用他们已经拥有的数亿个英伟达GPU。该产品将使新人工智能模型的初始训练推理所需的算力更少。该公司的策略是让购买英伟达服务器的客户注册英伟达企业版，每个GPU每年收取费用4500美元。黄仁勋表示，该软件还将帮助在配备GPU的笔记本电脑上运行人工智能，而不是在云服务器上运行。
此外，英伟达CEO黄仁勋宣布推出下一代人工智能超级计算机，英伟达还发布6G研究云平台，以便用AI技术推进无线通信。
英伟达推新AI芯片
据外媒报道，英伟达于周一宣布推出新一代人工智能芯片和用于运行人工智能模型的软件。该公司在美国圣何塞举行的开发者大会上宣布了这一消息，正值这家芯片制造商寻求巩固其作为人工智能公司首选供应商的地位。
自OpenAI的ChatGPT于2022年末掀起人工智能热潮以来，英伟达的股价上涨了五倍，总销售额增长了两倍多。英伟达的高端服务器GPU对于训练和部署大型AI模型至关重要。微软和Meta等公司已经花费了数十亿美元购买这些芯片。
来源：视频截图
新一代AI图形处理器命名为Blackwell。首款Blackwell芯片名为GB200，将于今年晚些时候发货。英伟达正在用更强大的芯片吸引客户，以刺激新订单。例如，各公司和软件制造商仍在争相抢购当前一代的“Hopper”H100芯片及类似产品。
“Hopper很棒，但我们需要更大的GPU，”英伟达首席执行官黄仁勋周一在该公司于加利福尼亚州举行的开发者大会上表示。不过，周一盘后交易中，英伟达股价下跌超过1%。该公司还推出了名为NIM的创收软件，该软件将简化AI的部署，为客户提供了在日益增多的竞争者中坚持使用英伟达芯片的另一个理由。
英伟达高管表示，该公司正从一个唯利是图的芯片提供商转变为更像微软或苹果的平台提供商，其他公司可以在此基础上构建软件。
“Blackwell不仅仅是一款芯片，而是一个平台的名称，”黄仁勋表示。
英伟达企业副总裁Manuvir Das在接受采访时表示：“可销售的商业产品是GPU，而软件则是为了帮助人们以不同的方式使用GPU。当然，我们现在仍然这样做。但真正改变的是，我们现在真的有了商业软件业务。”
Das表示，英伟达的新软件将更容易在任何英伟达GPU上运行程序，甚至是那些可能更适合部署而不是构建AI的老旧GPU。“如果你是开发者，你有一个有趣的模型，你希望人们采用它，如果你把它放入NIM中，我们会确保它可以在我们所有的GPU上运行，这样你就可以覆盖很多人，”Das说道。
Blackwell拥有六项革命性技术
英伟达每两年更新一次其GPU架构，实现性能的飞跃。过去一年发布的许多AI模型都是在该公司的Hopper架构上训练的，该架构被用于H100等芯片，于2022年宣布推出。
来源：视频截图
据悉，英伟达称，Blackwell拥有六项革命性的技术，可以支持多达10万亿参数的模型进行AI训练和实时LLM推理：
全球最强大的芯片：Blackwell架构GPU由2080亿个晶体管组成，采用量身定制的台积电4纳米工艺制造，两个reticle极限GPU裸片将10 TB/秒的芯片到芯片链路连接成单个统一的GPU。
第二代Transformer引擎：结合了Blackwell Tensor Core技术和TensorRT-LLM和NeMo Megatron框架中的英伟达先进动态范围管理算法，Blackwell将通过新的4位浮点AI支持双倍的计算和模型大小推理能力。
第五代NVLink：为提高数万亿参数和混合专家AI模型的性能，最新一代英伟达NVLink为每个GPU提供了突破性的1.8TB/s双向吞吐量，确保最复杂LLM之间多达576个GPU之间的无缝高速通信。
RAS引擎：Blackwell支持的GPU包含一个专用引擎，实现可靠性、可用性和服务性。此外，Blackwell架构还增加了芯片级功能，利用基于AI的预防性维护进行诊断和预测可靠性问题。这可以最大限度地延长系统正常运行时间，并提高大部署规模AI的弹性，使其能连续运行数周甚至数月，并降低运营成本。
安全人工智能：先进的机密计算功能可在不影响性能的情况下保护AI模型和客户数据，并支持新的本机接口加密协议，这对于医疗保健和金融服务等隐私敏感行业至关重要。
解压缩引擎：专用解压缩引擎支持最新格式，加快数据库查询，提供数据分析和数据科学的最高性能。未来几年，在企业每年花费数百亿美元的数据处理方面，将越来越多地由GPU加速。
来源：视频截图
Blackwell GPU体积庞大，将两个单独制造的晶粒组合成一个由台积电制造的芯片。它还将作为一款名为GB200 NVLink 2的整个服务器提供，该服务器结合了72个Blackwell GPU和其他旨在训练AI模型的英伟达部件。
亚马逊、谷歌、微软和甲骨文将通过云服务提供对GB200的访问。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU配对。英伟达表示，亚马逊网络服务将构建一个包含20000个GB200芯片的服务器集群。
英伟达没有提供新款GB200或其使用系统的成本。据分析师估计，英伟达基于Hopper的H100芯片成本在2.5万至4万美元之间，而整个系统的成本高达20万美元。
英伟达推理微服务
英伟达还宣布，将在其英伟达企业软件订阅中添加一款名为NIM（英伟达推理微服务）的新产品。NIM让使用较旧的英伟达GPU进行推理（或运行AI软件的过程）变得更加简单，并允许公司继续使用其已经拥有的数亿个英伟达GPU。与新AI模型的初始训练相比，推理所需的计算能力较少。对于那些希望运行自己的AI模型，而不是从OpenAI等公司购买AI结果作为服务的企业来说，NIM无疑是他们的得力助手。
英伟达的策略是吸引购买基于英伟达的服务器的客户注册英伟达企业版，每个GPU每年的许可费为4500美元。
英伟达将与微软或Hugging Face等AI公司合作，确保他们的AI模型能够在所有兼容的英伟达芯片上运行。随后，开发者可以使用NIM在自有服务器或基于云端的英伟达服务器上高效运行模型，无需繁琐的配置过程。
“在我原本调用OpenAI的代码中，我只需替换一行代码，将其指向从英伟达获取的NIM即可。”Das说道。
英伟达表示，该软件还将助力AI在配备GPU的笔记本电脑上运行，而非仅限于云端服务器。
相关文章
-
古巴外交部召见美驻古巴临时代办 强烈抗议美国插手内政
古巴外交部当地时间18日召见美国驻古巴临时代办齐夫，强烈抗议美方通过发布虚假信息和煽动街头骚乱，插手古巴内政。古巴外交部当天发表声明说，古巴外交部副部长德科西奥正告齐夫，古巴政府坚决反对美国及美驻古使馆对古巴的诽谤行径和干涉主义政策。17日，古巴第二大城市圣地亚哥有民众上街游行，表达对停电和食物短缺的不满。古巴国家主席迪亚斯-卡内尔在社交媒体上发文说，目前在网络上出现了利用此事散播对古政府的仇恨...
2024-03-19 18:29:09 古巴外交部美方 -
真的只有153 公分吗？人气女优「七森莉莉」日常穿搭大秀黄金比例
隶属龙头片商S1 的七森莉莉自2020 年出道后便声势爆棚，非但出演的作品于销量榜单上都缔造出抢眼的佳绩，她在去年亮丽出席的成人盛典「TRE台北国际成人展」中更凭借优异的互动以及流利谈吐的关系，大肆收获台湾粉丝们的高度爱戴。然而于不久前，鉴于七森莉莉po 出日常穿搭照并大秀长腿的原因，又令不少粉丝惊艳直呼：「她真的只有153 公分吗？」其实在出道前，七森莉莉凭借抢眼的外貌以及优异比例，就担任过「...
2024-03-19 18:15:32 莉莉成人台北 -
父亲的忠告：凤凰男对财富的渴求，是永无止境的
01唐朝名媛王韫秀《同夫游秦》：“路扫饥寒迹，天哀志气人。休零离别泪，携手入西秦。”王韫秀出于名门望族太原王氏，是唐名将王忠嗣之女，同时，她也是“史上职务最高凤凰男”唐相元载之妻。元载家境贫寒，与王韫秀成亲后，寄住岳父家，饱受旁人嘲讽。后来，不堪受辱的元载，决定到长安求取功名。王韫秀选择与丈夫一起受穷，辞别父母与丈夫同赴长安，并写下此诗，鼓励丈夫。后来，“凤凰男”元载凭借个人才华，成功拜相。可功...
2024-03-19 18:08:18 凤凰小姐父母 -
英伟达宣布推出最强AI芯片，成本和能耗较前代改善25倍
号称今年全球头号人工智能（AI）领域开发者大会的英伟达2024 GTC AI大会于美东时间3月18日周一拉开帷幕。今年是英伟达时隔五年首次让年度GTC重回线下，也是此前分析认为英伟达要“拿出点真家伙”的AI盛会。当地时间周一下午，英伟达创始人兼CEO黄仁勋在美国加州圣何塞SAP中心进行主题为“面向开发者的1#AI峰会”（1#AI Conference for Developers）演讲。黄仁勋介...
2024-03-19 17:29:26 英伟芯片模型 -
俄罗斯外交部发言人扎哈罗娃回怼西方：想想默克尔干了几届？
（观察者网讯）如众人所料，俄罗斯现任总统普京成功赢得连任，西方国家的各种指责也抛了过来。很快莫斯科回应了，并点名连续4次出任德国总理、掌舵德国长达16年的默克尔。据“今日俄罗斯”3月18日报道，俄罗斯外交部发言人说，北约针对俄罗斯的一系列动作只会帮助普京获得第五个任期。扎哈罗娃表示，西方通过稳固北约在俄罗斯人心目中的“危险敌人”形象，恰恰保证了普京在总统选举中取得历史性胜利。据俄媒梳理，德国外交...
2024-03-19 17:29:22 俄罗斯北约德国 -
被骂“对中国有用的傻瓜”，中企外籍高管：会更积极发声
（观察者网讯）“中国企业积极发声标志着策略的转变。”香港《南华早报》3月19日报道提到，在对美国密歇根州梅科斯塔郡格林查特镇提起诉讼后，中国电池制造商国轩高科在美子公司Gotion誓言将更加直接地表明自身立场，确保人们能够听到事情的真相。此前，该镇委员会在反华情绪的推波助澜下，违背了双方关于工厂供水管线的批准合同。“我认为在过去九个月里，人们听到了很多误传和捏造的消息。”Gotion北美制造业务...
2024-03-19 17:29:18 格林南华当地 -
跟随美国？欧盟被曝正考虑评估芯片产业对华依赖程度
（观察者网讯）据彭博社3月18日报道，欧盟正考虑跟随美国，启动行业调查，评估欧洲企业对中国进口芯片的依赖程度，渲染所谓中国传统制程芯片（legacy chips，指以成熟制程打造的芯片）给“国家安全”和全球供应链带来的“潜在风险”，借机为可能出现的欧美联合打压措施铺平道路。而就在前不久，国际半导体产业协会（SEMI）才敦促欧盟在实施更多出口管制或外国投资规则之前应“三思而后行”。对于美西方频频炒...
2024-03-19 17:29:13 芯片美国中国 -
新西兰外长透露：新贸易部长下月访华，总理不久后也将访华
（观察者网讯）综合路透社、法新社等19日报道，当地时间周二，新西兰副总理兼外长彼得斯在当天的媒体吹风会上透露，18日与中方的会晤“非常愉快、非常友好”，去年年底新上任的新西兰贸易部长麦克莱计划将于下个月访问中国，总理拉克森“此后不久”也将访华。据中国外交部网站消息，应新西兰副总理兼外长彼得斯邀请，中共中央政治局委员、外交部长王毅于3月17日对新西兰进行正式访问。新西兰媒体对此评论称，今年是中新两...
2024-03-19 17:29:09 新西兰彼得中方 -
今天，我们到底该怎么看待"资本家”？
作者： 明叔来源公众号：明叔杂谈微信ID：laomingdashu1）前几天，有朋友问：“在今天的中国，我们到底该怎么看待资本和资本家？”对于“资本”，在今天的中国，已经没有什么争议了，它包括国有资本、民营（私人）资本和境外资本等，是社会主义市场经济的重要生产要素，它本身没有好坏之分。但是，对于“资本家”这个说法，是有一定的争议的。争议的根源就在于，“资本家”不仅仅是一个技术性名词——指那些占有资本的人，“资本家”更是一个带有很深意识形态色彩的词语，在普通人的脑海里，“资本家”往往与“剥削”“压榨”，甚至...
2024-03-19 16:43:09 资本家该怎么今天 -
倒逼中国车企赴美建厂，我们要小心肉包子打狗！
作者：牲产队长来源公众号：牲产队特朗普公开威胁，如果自己当选，将针对中国在墨西哥生产的汽车征收100%的关税。同时呢，特朗普又邀请中国车企赴美建厂，雇佣美国人来制造中国车。这是典型的胡萝卜加大棒政策，一边以利益相诱，另一边以关税打击，背后就一个逻辑：要么到美国建厂，要么就别想赚美国人的钱。可是，中国对美出口最多的汽车是特斯拉，其次是通用和福特。中国自主品牌在美国根本就卖不动。也就是说，特朗普如果加征关税，真正打击的是特斯拉上海工厂，福特重庆工厂，还有通用上海工厂。很多人都不知道，最早把中国制造的贴牌车，卖...
2024-03-19 16:43:07 肉包子打狗要小心中国
