推广 热搜: 索尼  直播  智能手机  全额罚息  奥迪、  小霸王  网约车  新零售  世界杯  短视频 

源头创新突破算力瓶颈 国产大模型进入成长关键期

   日期:2023-11-02 22:21:28     浏览:3    评论:0    

国产大模型“百模大战”激战正酣之际,美国升级对华芯片出口管制带来新的不确定性。全球供应链震荡之下,国产大模型进入成长关键期。

“要坚持源头创新,提高生成式人工智能的核心竞争力。”业内专家表示,只有制定高端算力芯片、大模型算法等基础性、原创性技术攻关的中长期专项规划,实现更多从“0”到“1”的突破,大模型才有望突破瓶颈。

算力需求将是未来十年挑战

近日,美国升级对华芯片出口管制。根据英伟达10月17日在一份文件中披露的受限芯片详情,包括高性能GPU(图形处理器)芯片A800和H800。这两款是该公司专为中国市场设计的AI(人工智能)芯片。

随着大模型浪潮掀起,英伟达成了AI淘金时代的“卖铲人”,其开发的GPU芯片需求井喷。GPU即图形处理器,被设计用来处理并行计算,更适合同时处理相同类型的大量数据。它最早设计用于处理图像、视频和3D图形渲染,后被引入AI计算,成为大模型训练与推理不可或缺的算力基础设备。

“一颗A800芯片的售价已经高达15万元,半年前,这一价格不过八九万元。”有芯片经销商对记者透露,相关存量芯片价格一路看涨。

“尽管中国开发的AI算法非常强大,但国内硬件的计算能力仍有差距。”科大讯飞创始人、董事长刘庆峰表示,中国企业在训练AI大模型上面临的挑战之一,就是训练主要是在英伟达的硬件上完成的,企业内部只能做出微小的调优和训练。

“我相信对计算能力的需求,将会是未来十年对所有人的挑战。”半导体公司AMD全球副总裁唐晓蕾表示,这不仅涉及对能源、算力的需求,还关系到整个环境改变的需求,“这是一种大势,跟以前不一样。”

行业呼唤自主可控算力底座

科大讯飞日前宣布联合华为推出基于昇腾生态的“飞星一号”大模型算力平台,国内的大模型厂商信心得以提振。此外,当天发布的星火认知大模型V3.0,据称已全面对标ChatGPT(GPT-3.5),在中文能力上实现超越。

“星火3.0可以说是除了华为内部应用之外,当前第一个真正在国产算力平台上训练出来的大模型。”虽然没有透露新一代昇腾芯片性能参数,但刘庆峰提到,“飞星一号”半年内就实现了星火大模型训练和推理效率均翻番。“国产算力平台要有从不好用到好用、再到生态繁荣的过程。如果谁都不往前走一步,那始终无法自立自强。”

自主可控的算力底座也有望解决大模型训练成本过于高昂的问题。近日,毕马威中国与联想集团联合发布《普慧算力开启新计算时代》报告显示,以构建GPT-3为例,OpenAI数据显示,满足GPT-3算力需求至少要上万颗英伟达GPU A100,一次模型训练成本超过1200万美元,这还不包括模型推理成本和后续升级所需的训练成本。

此前,科大讯飞在三季报业绩说明会上表示,公司已于2023年初与华为昇腾启动专项攻关,让国产大模型架构在自主创新的软硬件基础之上,当前华为昇腾910B能力已经基本可对标英伟达A100,后者是当下AI大模型训练市场上应用最广泛的GPU芯片。

做好源头创新 突破多而不强

截至今年7月底,我国累计有130个人工智能大模型问世。首批通过《生成式人工智能服务管理暂行办法》备案的11个大模型产品也获批向全社会开放服务。

“对国产大模型而言,亟待解决的问题是多而不强。”北京工业大学经济与管理学院教授何喜军表示,因底层技术突破难,很多公司选择调用较为成熟的大模型,直接应用到原有产品和服务上,技术同质化严重,且缺乏源头创新,高质量落地应用较少。“要建设一批国家级开源平台、代码托管及大模型开发测试平台,确保核心算法自主可控。”

刘庆峰也坦言,国产大模型必须正视与GPT-4的差距。“国产大模型在复杂知识推理、小样本快速学习、超长文本处理、跨模态统一理解上距GPT-4还有差距。”他表示,唯有实事求是,才能实现超越。

着重培育源头创新的步伐正在加快。近日,工信部运行监测协调局局长陶青表示,要夯实人工智能技术底座,通过科技创新重大项目,着力推动大模型算法、框架等基础性原创性的技术突破,提升智能芯片算力水平,释放数据价值,强化“根”技术研发。

各大厂商也在扎牢底层的算法和算力。腾讯集团副总裁蒋杰表示,混元大模型掌握了从模型算法、机器学习框架、人工智能基础设施的全链路自研技术。蚂蚁集团首席技术官何征宇也表示,蚂蚁大模型走纯自研的技术路线,底层算力集群可达万卡规模。

相关新闻

杨元庆:人人可享个人大模型

本报讯(记者 孙奇茹)在联想集团日前举行的Tech World上,公司董事长兼CEO杨元庆在大会上展示了首款AI PC(人工智能电脑)。杨元庆称,智能设备是人工智能触达终端用户的终极载体,未来的智能设备将是用户的数字延伸,如同“个人的人工智能双胞胎”。

生成式AI、大语言模型带来了灯塔式的指引,而人工智能真正落地离不开硬件和设备的负载。大会上展示了联想首款AI PC,利用大模型压缩技术,用户自己的智能终端和设备将可拥有运行个人级大模型的能力。在这些支持人工智能功能的设备和边缘设备上,将建有本地知识库,更好地了解使用者,个人大模型将使用存储在设备或家庭服务器上的个人数据进行推理。据称,它甚至可以根据你的思维模式预测任务,并自主寻找解决方案。

“未来的个人电脑将是人工智能电脑,未来的手机将是人工智能手机,未来的工作站将是人工智能工作站。智能设备是用户的数字延伸,如同用户的双胞胎,我们称之为‘个人的人工智能双胞胎’(AI Twin)。”杨元庆说。

IDC报告此前提出,生成式AI等技术的普及,将是推动PC行业发展的重要因素,AI PC能够在更深层次上个性化用户体验,同时能够保护数据隐私,未来AI PC将迎来新一轮爆发。

 
打赏
免责声明: 本条信息网址: https://www.zhunfafa.com/news/show-40484.html本网站内容来源于网友提供和互联网公开资料等,仅供参考。本网站不对网站所有信息的准确性、可靠性或完整性提供任何保证。若文中涉及有违公德、触犯法律的内容,一经发现,立即删除,作者需自行承担相应责任。涉及到版权或其他问题,请及时联系,我们将在收到通知后第一时间妥善处理。
 
更多>同类新闻资讯
0相关评论

推荐图文
推荐新闻资讯
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  sitemaps  |  网站地图  |  网站留言  |  违规举报