边缘计算“下一程”:AI规模化应用如何攻坚
数字化浪潮的下一程汹涌推进,催生了前所未有的边缘数据洪流,加速了计算从云到端的计算发展。在近日举办的规模攻坚英特尔新质生产力技术生态大会上,英特尔市场营销集团副总裁、用何中国区OEM&ODM销售事业部总经理郭威指出,下一程如今云和端的边缘界限正在变得越来越模糊,两者朝着彼此融合的计算方向发展。这一趋势的规模攻坚背后,是用何数据量的爆炸性增长,以及对数据在不同地点处理的下一程考量,而这也构成了推动边缘计算兴起的边缘关键因素。
英特尔市场营销集团副总裁、计算中国区OEM&ODM销售事业部总经理郭威
越来越多的规模攻坚企业应用开始在边缘运行。根据Gartner的用何预测,到2027年,50%的关键企业应用将在边缘运行。研究机构GrandView Research则预计,全球边缘计算市场规模将在2024年至2030年间以高达36.9%的复合年增长率(CAGR)持续扩张。企业正在边缘计算上持续投入,预计从2024到2028年,全球边缘计算支出将以双位数的复合年增长率(CAGR)稳健增长。
AI在边缘也展现出强劲的发展势头。尽管目前,AI应用主要集中在云端,但考虑到成本、时效性和安全性等因素,AI向边缘下沉已成为趋势。Gartner预测,到2026年,50%的全球边缘部署将包含AI。今年以来,生成式AI在各行业的应用不断落地,企业积极利用大模型技术解决商业挑战,并推动了一系列创新成果,大模型商用正进入规模化发展的关键阶段。
边缘AI“痛点”大起底:成本、技术与规模化挑战
尽管边缘AI在数据处理和实时响应方面展现出显著优势,但在其部署过程中仍面临一系列挑战。
首先,将资源从云端转移到边缘通常需要额外的成本投入,包括硬件采购、部署、维护以及能源消耗等。企业需要在价值、质量和成本之间做出权衡,算一笔“经济账”。
其次,技术层面的复杂性是阻碍AI应用的一大难题。“模型幻觉”问题是其中之一,即在边缘环境下,AI模型可能会因数据质量、模型训练不足或硬件限制等原因产生不准确的输出。
此外,边缘应用场景的多样性与碎片化也为边缘AI部署带来了挑战。场景、设备及工作负载的多样性,意味着每个场景都有其独特的需求和限制。如何设计出既灵活又可扩展的标准化方案,以适应不同场景的需求,成为实现边缘AI规模化应用的关键。
三大策略突破瓶颈,助力边缘AI规模化发展
策略一:多样化硬件产品,破解边缘场景碎片化难题。
在边缘计算场景中,面对不同的应用负载和场景需求,通用处理器和通用算力芯片是满足这些多样化场景的最佳方案,这也是英特尔的优势所在。
为实现这一目标,英特尔不断在CPU中集成更多先进功能,通过CPU、GPU和NPU的协同工作,满足各种场景下的复杂需求。
英特尔专为边缘设计的多样硬件产品组合,如英特尔酷睿处理器,为日常的工作负载提供了卓越的性能;英特尔酷睿Ultra处理器则集成了NPU(神经网络处理单元),为多种应用场景提供了更强大的算力支持。此外,英特尔凌动处理器、英特尔锐炫GPU For the Edge、英特尔至强6 处理器,以及专为加速深度学习训练和推理而设计的英特尔Gaudi处理器等,为客户提供了丰富的选择,使客户以较低成本满足多样化负载和碎片化应用成为可能。
策略二:开源开放平台,加速易用、可负担的AI部署。
在软件工具层面,英特尔提供了一系列工具集,如OpenVINO和oneAPI,这些工具集为开发者在英特尔平台上优化和部署AI应用提供了强有力的支持。
在AI模型和框架方面,英特尔提供TensorFlow、HuggingFace、PyTorch和DeepSpeed等主流AI模型和框架,确保开发者能够利用最前沿的工具来构建和训练AI模型。
企业AI开放平台(OPEA)是英特尔携手行业领军企业共同打造的开放性AI开发与部署平台。该平台帮助行业客户更便捷地基于英特尔的产品,构建完整的企业级AI应用。
策略三:以场景驱动创新,携手生态破局未来市场。
英特尔携手合作伙伴,深入挖掘行业场景的需求与痛点,在特定场景中探索创新路径,共同预见并应对未来可能出现的新挑战。
针对多元化的应用场景,英特尔与合作伙伴携手打造了定制化的垂直行业AI解决方案,如英特尔工业边缘控制、基于英特尔架构的AIPOS 方案等,满足零售、工业、教育、医疗、能源和交通等不同领域的特定需求。
多元化的生态是英特尔持续深耕行业、推动创新的基石。英特尔也将持续构建和拓展合作伙伴生态系统,与服务提供商、设备制造商等生态伙伴紧密合作,共促技术联创、共享开发权益、共拓市场项目,加速人工智能的开发和落地部署。
2024年是大模型应用的落地之年,AI应用仍在创新的浪潮下持续拓展边界。在云、边、端融合的趋势下,英特尔凭借CPU、GPU与NPU的强强联合筑牢算力底座,以开放平台和生态推动技术创新与产业发展,让更多行业企业能够轻松拥抱AI技术,从而引领生成式AI及大模型应用走向规模化发展的新阶段,推动业界迈向更加智能、高效与可持续的未来。
-
[情报站]IG solo TES:同时完成击杀!369德莱文极限战胜TheShy千古奇冤莫耶斯!洛佩特吉今夏豪掷1.8亿欧 西汉姆14轮15分排第14足球游戏《超级无厘头足球》Steam页面上线 发售日待定[流言板]波波维奇:真希望帕克和马努也入选了75大巨星🤯爱德华兹连连爆粗:裁判太TM垃圾了 尤其是那两个男裁判🤬[流言板]克莱谈回到湾区:看到所有穿着11号球衣的球迷,心里暖暖的[流言板]保罗上次单场0分,为今年3月26日对阵热火的比赛[流言板]恩比德缺席第16场比赛,若想评选赛季奖项只剩1场缺席余额2024年世界足坛十大瞬间,哪一幕让你记忆犹新?体育观察:从看热闹到喜欢看,赛事经济何以持续升温?
- ·天霸解散了,ctg也要解散了,我去
- ·记者:巴萨仍无法找到明年1月注册奥尔莫方案,西甲否决各种提议
- ·伊萨克3次转会:17岁860万多特,19岁1500万皇社,22岁7000万纽卡
- ·Meta在韩国面临216亿韩元罚款 被指非法收集个人信息
- ·2024年度评奖:CPU处理器篇
- ·葡系球员利好曼联总价1.15亿买B费、乌加特新帅手下能否进步
- ·[流言板]马威谈玻璃人标签:我现在感觉很好,我真的很想出场打球
- ·2025年电视不标配HDMI 2.1就差点意思了
- ·zzx和summer相遇太晚了。
- ·[流言板]就在下场?威少还差8个篮板将超越基德成为控卫历史篮板王
- ·腾讯张军恳请大家别夸微信更新是史诗级:安心做好产品是要务
- ·952055年!暴雪玩家2024游玩时长超83亿小时
- ·Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了
- ·博主:蓉城这赛季打上海俩队奖金都翻倍,这是之前就定好的
- ·《使命召唤:黑色行动6》更新:削弱闪光弹致盲时长等
- ·全球第3例!猪肾人体移植取得突破性成果:猪肾更加接近人类肾脏了!
- ·iPhone 17 Pro屏幕造型揭晓:灵动岛首次缩小
- ·特斯拉前上海工厂厂长宋钢去向已定:真没去小米!
- ·《永劫无间》PS5 Pro帧率是PS5的两倍 支持PSSR
- ·记者:巴萨仍无法找到明年1月注册奥尔莫方案,西甲否决各种提议
- ·[流言板]哈登69次砍下40+&5+三分历史最多,库里利拉德分列二三
- ·艾克森、费南多、蒋光太..奥斯卡、塞尔吉尼奥的中文名会叫什么?
- ·成立14年、负债超5亿元:知名半导体企业世纪金光破产清算!
- ·《刺客信条:影》负责人表示:将重启现代叙事框架
- ·博主自制《黑神话:悟空》美图 已经迫不及待游玩DLC
- ·[流言板]保罗上次单场0分,为今年3月26日对阵热火的比赛
- ·[情报站]IG solo TES:同时完成击杀!369德莱文极限战胜TheShy
- ·澎湃:足协对归化完全持开放态度,接下来是俱乐部和球员合同谈判
- ·Meta在韩国面临216亿韩元罚款 被指非法收集个人信息
- ·博主:蓉城这赛季打上海俩队奖金都翻倍,这是之前就定好的
- ·高速上自动驾驶撞水码!司机:自动驾驶真害人 自己困了它也没识别出来
- ·艾克森、费南多、蒋光太..奥斯卡、塞尔吉尼奥的中文名会叫什么?
- ·金丝银锦破圈大火!华为申请多枚Mate 70系列配色商标
- ·[流言板]格林:施罗德能带来球队需要的东西,我们要调整去适应他
- ·今年的陈列室该背刺詹姆斯了吧,怎么詹姆斯不掉反涨
- ·[流言板]队记:切特在赛前发表了演讲,这可能是球队获胜的原因