价值无处不在,世界财经资讯媒体平台。
手机版
访问手机版
世界总裁网 首页 人工智能 新闻内容

七成企业拥抱AIGC,算力焦虑该怎么破

发布时间: 2023-12-7 21:17| 发布者: wangjing| 查看: 1521| 评论: 0

摘要: 与其过分关注单一芯片的性能强弱,不如根据人工智能业务场景需求,设计更具针对性的算力系统,实现整体性能最优。‍文|周享玥编|赵艳秋11月底,北京召开的一场以“智算力就是创新力”为主题的人工智能计算大会上, ...

取其过火存眷单一芯片的机能强强,没有如按照野生智能营业场景需供,设想更具针对性的算力体系,完成团体机能最劣。

文|周享玥

编|赵素春

11月尾,北京召开的一场以“智算力便是立异力”为主题的野生智能计较年夜会上,挤谦了去自各止各业的数千位参会者。

正在算力松缺成绩照旧已解确当下,各人体贴的成绩,遍及环绕年夜模子最新立异战降天功效,和由其带去的算力、AI infra(AI硬件根底设备)等圆里的立异战变革。

业界人士察看,本年极可能会是从挪动互联网时期迈背智能时期的枢纽一年。已往从互联网转背挪动互联网,各人一开端正在脚机上利用网页,厥后iPhone创始了脚机APP停止交互。而正在智能时期,将来极可能没有再是面开APP,而是间接弹出一个个AI Agent(野生智能代办署理),来完成交换互动。

“我们如今便正在所谓智能时期的iPhone时辰前期,智能的iPhone时辰随时能够发作。”IDC中国副总裁周震刚做了一个比方。

正在这类布景下,国际数据公司(IDC)取海潮疑息正在年夜会现场结合公布的《2023-2024年中国野生智能计较力开展评价陈述》(以下简称陈述)也遭到很多存眷。

01

年夜模子辐射里近比设想要丰硕

中国企业对天生式AI的承受水平,能够已超越您的设想。好比正在一些设想没有到的止业战范畴曾经开端投进年夜模子。

远期,脚机公司正在年夜模子上行动几次,包罗小米、vivo、OPPO、三星等正在短短一个月内乱,接连明出了10个以上的AI年夜模子,参数范围从十亿级、百亿级到1300亿没有等。但您能够很易设想,脚机背后的芯片公司,也正在测验考试引进年夜模子。

好比上海的一家脚机芯片上市公司,测验考试操纵年夜模子处理传统客服问问体系智能水平没有下的成绩。已往,由于芯片种类有上千种,且触及大批手艺专著名词、参数疑息,手艺效劳团队正在本职事情中,需求投进大批工夫协助确认细节。而如今,他们经由过程年夜模子的语义了解战判定推理才能,束缚一线手艺工程师,完成降本提效

死物医疗范畴一样是对年夜模子探究较多的止业,无数据显现,本年以去,海内已公布远50款医疗年夜模子。医教科研、药物研收、聪慧诊疗、病院办理等皆是被探究的标的目的。但您能够很易设想,海内一些花草研讨所,正基于年夜模子挨制花草AI育种年夜模子。

汽车界对年夜模子的探究也很多,包罗吉祥、偶瑞、白旗、智己等多家车企皆曾颁布发表接进年夜模子产物,各人皆正在争取谁能起首正在智能座舱、主动驾驶等场景完成年夜模子降天。便连摩托车公司也没有苦孤单。好比建立于1993年的海内摩托车龙头企业——隆鑫通用,正正在操纵年夜模子的才能,挨制里背消耗者的“AI骑止助理”,并试图探究年夜模子正在摩托车策动机的消费量量管控、齐天形车的智能化革新等圆里的使用。

IDC战海潮疑息公布的《陈述》,也从数据层里印证了那一面——67%的中国企业曾经开端探究天生式AI正在企业内乱的使用时机或停止相干资金投进。

“中国企业特别承认天生式AI正在加快决议计划、进步服从、劣化用户战员工体验等维度带去的代价,并将正在将来三年连续进步投进力度,超越七成企业删幅到达20%-40%。”IDC中国副总裁周震刚引见。

固然,正在那波年夜模子建立高潮中,具有更多的先收劣势战投进动力的,仍是本来便正在AI上积聚更深、AI浸透度更下的止业。

能够看到,正在2023年野生智能止业浸透度排名中,Top5的止业顺次为互联网、电疑、当局、金融战制作。交通、效劳、教诲等止业正在野生智能范畴的投资力度也可圈可面,别离位列第六至八名。

此中,下居尾位的互联网止业,正在最新的天生式AI高潮中,仍然是年夜模子战AIGC手艺使用战研收的主疆场。李彦宏一度暗示,百度要用年夜模子把局部产物从头做一遍,且“没有是整开,也没有是接进,是重做战重构。”

而浸透度排止榜上最年夜的“乌马”——电疑止业,反超当局战金融,跃降至第两名。正在近来一两个月,电疑业放慢了正在年夜模子上的历程,三年夜运营商也皆明出各自“最新的根底年夜模子+多个止业年夜模子”。

至于“财年夜气鼓鼓细”且一贯对手艺有着较下寻求的金融止业,更是从本年初ChatGPT一水起去,便对年夜模子手艺停止投进。

那一水爆,间接带去智能算力的“暴删”。IDC的数据显现,2023年,中国通用算力范围估计到达59.3EFLOPS,同比增加8.8%;智能算力估计到达414.1EFLOPS,同比增加59.3%,6.7倍于通用算力删速

02

算力新应战

年夜模子时期,“卖铲人”的买卖先白水起去。

典范如英伟达,果脚握大批GPU资本,本年以去,不断正在“开挂式”年夜歉收,不只年头正在本钱市场初次打破万亿美圆市值,以后更是拿到了雪花般的定单,播种了实金利剑银。

最新财报显现,8月到10月的单季度内乱,英伟达统共背环球大批的数据中间,出卖145.1亿美圆的芯片,近下于客岁同期的38亿美圆,也下于市场预期的127亿美圆,同比增加324%。

海内的“百模年夜战”,也为英伟达带来很多买卖。2024财年第两财季财报会上,英伟达下管曾流露,英伟达数据中间营业支出的20%至25%皆去自中国市场,已创下汗青新下。

没有行是底层芯片厂商,算力财产链上其他各个环节的供给商们也皆尝到了很多盈余。好比效劳器端,《陈述》显现,2023年上半年,中国野生智能效劳器市场范围到达30亿美圆,同比增加了55.4%,估计整年将达91亿美圆,同比增加82.5%。

取此同时,因为年夜模子对计较才能战数据的下需供,2023年至2026年,环球用于运转天生式AI的效劳器市场范围正在团体野生智能效劳器市场的占比将从11.9%增加到31.7%。

“本年的一个特别状况是,各人抢卡比力凶猛,招致效劳器的收入增加十分快 。”IDC周震刚报告数智火线,跟着供需干系趋于均衡,这类下删速估计将正在来岁放缓,但鉴于算力需供连续上涨,中国AI效劳器市场范围借将正在将来五年以21.8%的年复开增加率连续增加。

机缘陡降的同时,那个市场也正在面对一些新应战。一圆里,单芯片算力曾经碰到瓶颈,提拔空间有限;另外一圆里,算力照旧松缺。那两面上,环球市场无一破例。

固然,中国市场的状况能够借要更严重一面。一名资深人士报告数智火线,海内市场本年险些九成加快计较的才能皆由英伟达所供给,仅一成由国产芯片厂商供给,算力欠缺成绩,仍然待解。

别的,各止各业正在停止年夜模子探究战使用的过程当中,也存正在各类意念没有到的应战战成绩。好比,有企业正在利用AI散群,劈面背场景的AI年夜模子停止锻炼时,发明效劳器中的CPU到GPU之间的通讯带宽,战存储到效劳器之间的通讯带宽出法同时跑谦,招致模子数据不克不及实时从存储读与,GPU闲暇战锻炼机能低下。

怎样正在有限的算力下,更下效、低本钱、少不对天停止年夜模子及天生式AI的使用战降天,曾经成为很多企业皆要面临的成绩。

正在此布景下,陈述以为,海内有闭智能算力供应才能的权衡尺度正正在加快演化——用户正在得到算力效劳的过程当中,会愈加以使用为导背停止综开考量,增长关于诸如单元工夫可处置Token数目、牢靠性、时延、锻炼工夫战资金本钱、数据散量量等目标的存眷,而没有再是仅思索硬件机能。

那也请求算力供给商做出响应改动。《陈述》指出,算力供给商需求“以使用为导背、体系为中心”,构建算力根底设备仄台,进步算力操纵率,提拔诸如卡间互联、多节面间互联等程度,撑持灵敏不变扩大战弹性容错,主动挨制通用的野生智能硬件战硬件仄台,以先辈的体系机能力满意市场的使用需供。

换句话道,取其过火存眷单一芯片的机能强强,没有如按照野生智能营业场景需供,设想更具针对性的算力体系,完成团体机能最劣。换一种思想,突破算力窘境。

03

业界的新解法

面临算力市场的新机缘战新应战,包罗云厂商、效劳器厂商等正在内乱的诸多算力供给商,正正在快速反响。

“根本上几个年夜的云效劳商,皆曾经意想到年夜模子时期,智能计较的运营形式会战已往传统的云计较形式发作比力年夜的改动,因而皆正在从头来构造本人的计较才能。”周震刚报告数智火线。

好比,百度云、华为云、阿里云皆暗示,将经由过程从底层算力到AI仄台再到模子效劳的齐栈手艺立异,晋级云计较系统。MaaS(Model as a Service)已成为云厂商的效劳系统的主要一层

而正在更底层的效劳器端,一样带去了效劳需供的变革,以至需求厂商的回身。“我们以为,该当从算力体系、AI硬件根底设备(AI infra)、算法模子战财产死态4个圆里去停止综开考量,加快智能财产的降天。”海潮疑息初级副总裁刘军暗示。

业界察看,效劳器企业也正在加快AI infra的停顿,那是一个新意向。海潮疑息正在本年8月推出了年夜模子智算硬件栈OGAI“元脑死智”(Open GenAI Infra)。

它包罗L0的根底设备层(智算中间OS)、L1的体系情况层(PODsys)、L2的调理仄台层(AIStation),L3的模子东西层(YLink)战L4的多模纳管层(MModel)。各层对应差别的使用场景,且分层解耦,用户需求哪些东西,就可以挪用哪些。

那也是算力供给商“以使用为导背、体系为中心”的典范例证。相似的另有百度正在千帆年夜模子仄台上供给的东西链。腾讯、阿里等也皆有响应效劳出去。各家年夜厂的遍及思绪是,连续更新迭代本人年夜模子的才能,同时又为年夜模子的锻炼战推理,供给训推经历、数据、计较、存储、收集等触及各个方面的齐套东西链战效劳。

别的,正在算力体系层里,挨制开放多元的AI算力仄台,处理今朝多元算力共存的成绩,也是将来几年财产年夜趋向。如海潮疑息公布的G7算力仄台,接纳开放多元的架构设想,撑持最普遍的通用途理器战加快芯片,同时将全部散群的机能加快比提拔至超越90%,从而保证更年夜范围的散群扩大机能。

年夜模子的海潮借正在持续,挪动互联网时期迈背智能时期的年夜门行将翻开,正在那个枢纽迁移转变面上,反响速率的快缓常常决议了谁能更快抢得先机。周震刚倡议,用户该当要尽早来拥抱那个趋向,供给商也应尽早顺应战跟上算力市场的改动。

  • 0
    粉丝
  • 1521
    阅读
  • 0
    回复

关注世界总裁网

扫描关注,了解最新资讯

实时了解财经信息
掌握市场风云动态
助力商场共赢至胜
改变你所看到的世界
热门资讯
排行榜

关注我们: 微信订阅&APP下载

发现价值 创造价值

WNCEO.COM

世界总裁网版权所有 未经世界总裁网书面授权禁止复制或建立镜像内容

Email: service@wnceo.com 电话: 010-86398086 / 400-848-6648

地址: 北京市朝阳区广渠路36号首城国际大厦10层 邮编: 100010

Copyright  ©2008-2024 世界总裁网All rights reserved. 工信部许可备案号:京ICP备12045339号-2