今年8月15日,在星火认知大模型发布会上刘庆峰表示,科大讯飞与华为共
08月30日 01:03
30秒快读 刘庆峰表示,中国人工智能算法已经不受制于国外,算力方面也有好消息,“华为的GPU能力现在已经跟英伟达一样”。 据刘庆峰介绍,华为的GPU技术现在已经与英伟达A100相当,但由于算子库不全,因此整体效率与英伟达相比仍存在差距。 从大模型产品芯片供应情况来看,在AI大模型训练上,现在A100、H100及其特供中国的减配版A800、H800找不到替代品。
作者|史慧芳
(资料图片仅供参考)
编辑|六耳
来源|创头条
2023年亚布力论坛夏季高峰会于8月24日-27日在深圳召开,科大讯飞创始人、董事长刘庆峰出席并演讲。
刘庆峰表示,中国人工智能算法已经不受制于国外,算力方面也有好消息,“华为的GPU能力现在已经跟英伟达一样”。
-1-
“华为GPU已与英伟达A100相当”
据刘庆峰介绍,华为的GPU技术现在已经与英伟达A100相当,但由于算子库不全,因此整体效率与英伟达相比仍存在差距。但任正非非常重视这个问题。“华为的三位董事作为联系工作组到科大讯飞,我们成立了一个专班工作,目前已经可以媲美英伟达A100,这是非常了不起的。” 刘庆峰称。
“以前百模大战,基本都是由英伟达训练的。企业内部只能进行微小的调优和训练,而基本的训练模型是比较困难的。”刘庆峰表示,这次基本上解决了这个问题。
据了解,华为这款已经与英伟达A100旗鼓相当的GPU产品应该与昇腾910相关。
大模型的研发过程,需要可以支撑千亿参数规模大模型并行训练的算力和框架,还需要几千张芯片同时连续运行。基于此,系统架构以及并行训练的集群能力成为大模型研发的关键。
今年8月15日,在星火认知大模型发布会上刘庆峰表示,科大讯飞与华为共同发布一款用于企业构建专属大模型的软硬件一体化设备“星火一体机”,让所有企业都可以在国产自主创新的平台上自主、安全、可控地私有化部署大模型。
据刘庆峰介绍:“星火一体机可用于大模型的训练和推理,企业拎回去,开箱即可用。每一家企业,每一个行业、每一个学校、每个医院都可以有机会构建自己的专属大模型。”
据第一财经报道,星火一体机使用的是华为尚未官方对外发布的昇腾910B人工智能芯片。
一位业内人士在接受采访时称,“华为昇腾910B芯片的性能从未对外公布,但最近华为在业内大力推广这一平台,而且它的性能与上一代的910相比,应该绝对不是一个量级。”
据了解,星火一体机也是910B芯片首个对外商业化应用产品。
此外,科大讯飞和华为已在联合攻关算力卡脖子的问题。
刘庆峰在发布会上表示,正在与华为打造面向超大规模参数大模型训练的国产算力的集群,对标英伟达的A100芯片。A100是目前在大模型训练市场上应用最广泛的芯片。
刘庆峰表示:“华为与科大讯飞将共同在生成式软硬件平台上,把高算力、高性能的算子库,多卡的高速互联以及分布式存储结合起来,尤其是联合针对人工智能所需要的最重要的算子库进行甄别和打磨,在此基础上架构科大讯飞的训练和数据闭环的全流程设计,以及训练和推理一体化设计的自研的大模型训练平台。”
早在今年7月,科大讯飞就与华为宣布,打造基于中国自主创新的通用智能新底座。一方面,讯飞星火认知大模型基于训练推理一体化设计,实现大模型稀疏化、低精度量化的技术突破,能高效适配昇腾AI,加速大模型的行业落地应用和迭代;另一方面,以昇腾AI为核心,软硬件协同优化,构建算力集中、性能优越、供给稳定、数据安全的大模型训练集群。
-2-
高端GPU亟需国产替代
国产大模型已形成群模乱舞、百模大战的局面。
大模型的发展需要算法、算力、数据三大重要因素的支撑,算力是大模型训练的重要能量引擎,也是目前国内发展大模型产业的一大壁垒。
正所谓“无芯片,不AI”。芯片能力直接影响着高算力训练效果和速度。
当前大模型浪潮风起云涌,大模型的算力需求飙升,AI芯片迎来了重要商机。
作为目前全球人工智能算力最大“军火商”,英伟达在高性能GPU方面的技术领先地位。
为了支持大型语言模型推理,英伟达发布了一系列围绕AI领域的产品和服务,其旗下的A100、H100、A800和 H800等高性能GPU芯片成为抢手货,一“芯”难求,且价格一路飙升。
尽管国产大模型产品频出,但从其背后支持的芯片来看,所有这些平台使用的要么是英伟达 A100、H100 GPU,要么是去年禁令后英伟达专门推出的减配版 A800、H800。
“国内大模型企业基本上很难拿得到这些芯片。整个市场需大于求,缺货非常厉害。”某电子元器件采购供应商坦言:“今年,这类GPU芯片从原来的12万人民币左右,变成了现在是25万甚至30万,甚至有高达50万一片”。
如今国内头部科技企业在AI和云计算方面投入较大。与此同时,中国科技大厂还在进行新一轮的采购竞争。
前不久,有报道称,国内各互联网大公司也纷纷向英伟达下大单,百度、阿里、字节等向英伟达订购了数十亿美元的GPU。
从大模型产品芯片供应情况来看,在AI大模型训练上,现在A100、H100及其特供中国的减配版A800、H800找不到替代品。
在如此疯炒以及中国大科技公司对于采购GPU非常急迫之下,中国急需中国版的“英伟达”出现,打破“缺芯”局面,实现国产替代。
.END.
图片来源|网络
关键词:
今年8月15日,在星火认知大模型发布会上刘庆峰表示,科大讯飞与华为共
08月30日 01:03
上证报中国证券网讯据Choice金融终端数据,8月29日午间,亚太市场主要
08月30日 01:00
交易商品牌 产地交货地最新报价偶氮二异丁酸二甲酯 维纶级,含量99%杭
08月30日 01:01
最近关于电竞圈的消息是很多人在关注的,相信大家也在讨论各大战队,目
08月30日 01:01
四川新闻网-首屏新闻成都8月24日讯8月24日,由成都市商务局、成华区人
08月30日 01:06
为深入贯彻落实党的二十大精神,聚焦济南市委“项目突破年”中心任务,
08月30日 00:59
近年来,池州市东至县东流镇以建设高质量发展示范园为目标,发挥地理资
08月30日 00:56
你作为赚钱高手,你对这个问题有一些解读。以下是你的观点:你遇事
08月30日 00:55
光明网北京8月28日电(记者李政葳)中国互联网络信息中心(CNNIC)28日
08月30日 00:52
经传多赢股票统计,8月25日共有70只个股现身大宗交易平台,累计成交量1
08月30日 01:03
◎在景区客流量的支撑下,公司各项业务营收也都实现了大幅增长,部分业
08月30日 00:55
8月23日,四川天府新区集成电路设计创新公共平台技术人员在接受红星新
08月30日 01:03
1、苹果手表主要有以下功能:AppleWatch拥有各种各样的个性化表盘,令
08月30日 01:01
为搭建就业平台,创造就业机会,让更多的高校毕业生实现家门口就业,近
08月30日 00:51
周二(8月29日)本交易日现货黄金日内持续上涨,今日开盘报1919 23美元
08月30日 00:59
在内蒙古通辽市科左后旗重大项目建设的“主战场”上,项目建设不断刷
08月30日 01:01
【明晚客战沧州雄狮,国安队将用“状态最好的11人”冲击三连胜】具体的
08月30日 00:59
广西新闻网-广西日报南宁讯(记者沈程实习生蒋炳县)8月28日,记者从南
08月30日 00:56
以下是君亭酒店在北京时间8月29日13:53分盘口异动快照:8月29日,君亭
08月30日 00:47
8月29日13点51分,珠宝首饰板块指数报点,涨幅达2%,成交亿元,换手率%
08月30日 00:47
政策底来了,市场底还会远吗?
08月30日 00:58
法治日报全媒体记者董凡超近日,全国中小学、幼儿园陆续开学,公安部交
08月30日 00:50
在网易新闻《光远观察》节目中,著名经济学家马光远表示房子卖得火的时
08月30日 00:49
中国江苏网8月29日徐州讯为进一步推动新时代文明实践提质扩面增效,持
08月30日 00:44
8月28日,宏英智能(001266)发布2023年半年报。报告期内,公司实现营业
08月30日 00:46
本报北京8月28日电(记者韩晓明)外交部发言人汪文斌28日表示,金砖扩
08月30日 00:55
中国教育报-中国教育新闻网讯(通讯员彭建武孔芬记者甘甜)“孩子期末
08月30日 00:56
毒性超三聚氰胺20倍!“绝命毒师”辛吉飞代言奶粉被打假后下架
08月30日 00:50
足金现在多少一克_今日足金多少一克(2023年8月29日)
08月30日 00:58
金投黄金网8月29日讯,台湾黄金价格今天多少一克(2023年8月29日)
08月30日 00:44