吃什么能生精和提高精子质量| 代表什么| 区法院院长是什么级别| 绝望的绝是什么意思| 6月3号什么星座| 庚申五行属什么| 白癜风是什么引起的| 农历8月是什么月| 酵母菌是什么| 2022年是属什么| 什么是醪糟| 什么叫空调病| 鼻孔里面痒是什么原因| 盆腔积液是什么引起的| 毛重是什么| 胃消化不好吃什么调理| 什么叫撤退性出血| 笑面虎比喻什么样的人| 南乳和腐乳有什么区别| 77代表什么意思| 谭震林是什么军衔| 肛门有灼烧感什么原因| 什么是嗳气有何症状| 脸部出油多是什么原因| 猫猴子是什么| 结肠炎吃什么药| 甲亢和甲状腺有什么区别| 前置是什么意思| 圣诞节吃什么| 兵员预征是什么意思| 鱼子酱为什么那么贵| 妇科彩超主要检查什么| 胃一阵一阵的疼是什么原因| 怡五行属性是什么| 屁股疼是什么原因| 肠道胀气吃什么药| 拉肚子吃什么药最有效| examine什么意思| 朋友妻不可欺是什么意思| 伤风感冒吃什么药| 什么是包茎| 懵的意思是什么| 顺势而为什么意思| 孤臣是什么意思| 5月10号是什么日子| 什么水果养胃又治胃病| 咽炎吃什么药最有效| 牛黄解毒片不能和什么药一起吃| 女人适合喝什么茶最好| 女人为什么喜欢坏男人| 脑血栓是什么原因引起的| 鼻梁有横纹是什么原因| 换药挂什么科| 胸是什么| 什么果不能吃| 槊是什么兵器| 8月12日是什么星座| 火车和高铁有什么区别| 双肺局限性气肿是什么病| 2021年属什么生肖| 丑时属什么生肖| 子宫息肉有什么危害| 巨蟹座和什么星座最配| 生抽可以用什么代替| 排湿气吃什么药效果好| 癔病是一种什么病| 炸鸡翅裹什么粉| slow什么意思| 血精和精囊炎吃什么药| 什么是鸡皮肤图片| vd是什么意思| 兔子可以吃什么蔬菜| 眼睛总跳是什么原因| 维生素ad和维生素d有什么区别| 手心脚心热是什么原因| 眼皮跳是什么原因| 小孩发育迟缓是什么原因造成的| 白色舌苔厚是什么原因| 东盟为什么没有中国| 什么叫胰岛素抵抗| 咳嗽喝什么饮料| 卵巢早衰吃什么可以补回来| mary是什么意思| 人为什么会脱发| 腿抽筋是什么原因造成的| 下肢静脉血栓吃什么药| hcg值高说明什么| 市辖区是什么意思| 月经期间吃西瓜有什么影响| 五月初七是什么星座| 肌酐高是什么病| 今天穿什么衣服合适| 艾灸后痒是什么原因| 肺结节是什么症状| 蕴是什么意思| 萎了是什么意思| 利空是什么意思| 九月十四号是什么星座| lala是什么意思| 痛风能吃什么| 重庆什么时候解放的| 风湿关节炎用什么药| 五十知天命什么意思| 天麻不能和什么一起吃| 玫瑰糠疹吃什么药| 孙子兵法到底说什么| 什么药治脂肪肝| 苹果煮水有什么功效| 痤疮是什么引起的| 右侧卵巢囊性回声什么意思| 净空是什么意思| 广西三月三是什么节日| 小钙化灶是什么意思| 又什么又什么的什么| 白发越来越多是什么原因造成的| 风热感冒吃什么| 陈皮和什么泡水喝最好| 乙肝有什么症状| 减肥期间吃什么最好| 什么人容易得类风湿| 梦见钱是什么预兆| 00后属什么生肖| 1930年属什么| 爱是什么| 北京市市长是什么级别| 吃中药喝酒有什么影响| 什么积木| 10年是什么婚| 什么样的羽毛| 早上起来眼睛肿是什么原因| 溶血症是什么意思| 795是什么意思| 肠胃炎吃什么药好得快| 高锰酸钾治疗男性什么病| 晚上猫叫有什么预兆| 渃是什么意思| rca是什么意思| 谷维素片是治什么病的| 胰腺检查挂什么科| mpv什么意思| 三伏天喝什么汤最好| 备孕要注意什么| 什么颜色的头发显白| 2型糖尿病吃什么药降糖效果好| 人类是什么时候出现的| 血氧饱和度低于90有什么危害| 阴道口痒用什么药| 什么是同性恋| 外卖是什么意思| 北京有什么特产好吃| 什么是神话故事| 梦见买帽子是什么意思| 松子吃了有什么好处和坏处| 大白菜什么时候种| 膝盖擦伤用什么药| 玩世不恭是什么意思| 梦到吃肉是什么意思周公解梦| 灸石门为什么会不孕| 62年属什么生肖| 孔子是什么学派的创始人| 确立是什么意思| k是什么牌子| lgg是什么意思| 小孩子发烧抽搐是什么原因| youtube是什么软件| 脚底有黑痣有什么说法| 金针菇为什么叫明天见| 中分化是什么意思| 什么是疤痕体质| 什么竹子| 胃不消化吃什么药好| 物化是什么意思| 梦见猪是什么意思| 脚气挂号应该挂什么科| 九月七日是什么星座| 腰间盘突出是什么原因引起的| 刘伯温属什么生肖| 军官是什么意思| 淋巴细胞偏低是什么意思| 万言万当不如一默是什么意思| 得罪是什么意思| 15天来一次月经是什么原因| 1950年属虎的是什么命| 内痔有什么症状与感觉| 说话快的人什么性格| 三焦指的是什么器官| 黛力新是什么药| 心衰竭吃什么药效果好| 红玫瑰花语是什么意思| 猴日冲虎是什么意思| 白羊座是什么象星座| 用盐洗头发有什么好处| 低压高吃什么降压药| 转氨酶高是什么引起的| 墨鱼是什么鱼| 腊月是什么星座| 一月八号是什么星座| 卢沟桥事变又称什么| 合疗和医保有什么区别| 蓝莓什么季节成熟| 138是什么意思啊| tct检查什么| 粘米粉是什么粉| 总是失眠是什么原因| 69年鸡是什么命| 造纸术什么时候发明的| 拖油瓶是什么意思| 更年期出汗吃什么药好| 刀子嘴豆腐心是什么意思| 2020年是什么年| 淋病是什么| 淋球菌阳性是什么病| 回乳是什么意思| xxoo是什么| 梦到和老公离婚了是什么征兆| 孕妇适合吃什么食物| 为什么歌曲| 胆囊壁增厚是什么意思| 为什么会梦遗| 经常流鼻血什么原因| 无稽之谈是什么意思| 硫酸羟氯喹片是治什么病| 脖子上有结节挂什么科| 俄罗斯特工组织叫什么| 梦见坐牢是什么预兆| 后续是什么意思| 直肠指检能检查出什么| 冲正是什么意思| 丙火代表什么| 雌二醇低吃什么补得快| 什么叫封闭针| 七月十四日是什么节日| 玫瑰红是什么颜色| 狗与什么属相相冲| 得了肠息肉有什么症状| 肺结节是什么症状| 孤军奋战是什么意思| 体检胸透主要检查什么| 小孩便秘吃什么药| 什么是芡实| 心脏是什么组织| 淤泥是什么意思| 治阴虱去药店买什么药| 护资成绩什么时候出| 减肥晚上可以吃什么| 有头皮屑用什么洗发水| 无所不用其极是什么意思| 怀女孩有什么征兆| 梦见捡金首饰是什么意思| 生日送百合花代表什么| 68年属猴的是什么命| 腿弯后面疼是什么原因| 什么叫柞蚕丝| 愚是什么意思| 金钱能买来什么但买不来什么| 排班是什么意思| ect是什么| 胃痉挛吃什么药| 罗马棉是什么面料| 犹太人为什么叫犹太人| 樱桃有什么营养| 主理人是什么意思| 贵姓是什么意思| 95年的属什么生肖| 百度

生态环境部 今年1至2月全国空气质量好转

或许AI的下一波创新,不仅是比拼谁的模型更大,还要看谁能让AI更轻便、更普及、更贴近生活。
百度 比如,把开展“同心”行动,分解成同心建言献策、同心助推发展、同心绿化家乡、同心助学帮教、同心医疗服务、同心法律服务、同心扶贫帮困、同心温暖工程、同心共促和谐等9个重点工程项目,每个工程项目又细化分解成若干个子项目,使行动目标更加明确,活动内容更加具体,不仅为广大统战成员开展工作搭建了载体,也打造和叫响了一批统一战线“同心”品牌,为全市经济社会又好又快发展作出了积极贡献。

作者|周雅

DeepSeek的V3模型的最后一轮训练,仅用557.6万美元的GPU使用成本,就训练出了全球前沿模型,并在后续发布与OpenAI o1推理模型能力不相上下的DeepSeek R1,这股神秘东方力量就像蝴蝶扇动了翅膀,在全球引发连锁反应至今已经整整1个月。

此前,AI产业的发展逻辑似乎还很简单:模型参数越大越好、算力投入越多越好。但DeepSeek R1的横空出世,改写了这一认知,约束条件反而可以推动创新,没有大算力,还可以优化算法。所以现在科技圈普遍出现了一种声音:一个开源、高性能、低部署推理成本的大模型也能带来整个AI产业生态的繁荣,是大家抓紧上车的门票。

那么,究竟接下来产业链中还有谁能从DeepSeek的冲击波中受益?

在2025财年第一季度财报电话会议中,高通公司总裁兼CEO安蒙提到,“DeepSeek R1及其他类似模型表明,AI模型正在向更快、更小、更强大、更高效的方向发展,并且可以直接在终端侧运行。DeepSeek R1的蒸馏模型在发布仅几天内,就能在搭载骁龙平台的智能手机和PC上运行。”

紧接着,高通发布了最新白皮书《AI变革正在推动终端侧推理创新》(下称《白皮书》),首次阐述了终端AI推理迎来突破的深层逻辑。

终端侧AI,如何从DeepSeek的连锁反应中受益?

范式之变:为何现在是终端AI的拐点?

大模型的规模竞赛推动了底层技术创新,同时也让业界思考AI部署的多元路径。

今年年初的时候,高通中国区研发负责人徐晧接受科技行者专访时提到,AI发展现在遵循两个主要轨迹:云端AI、终端侧AI。

首先,大部分人看到的、听到的AI都是云端训练的AI模型,例如Meta的LLaMA、OpenAI的ChatGPT、Anthropic的Claude、谷歌的Gemini等,它们都是用非常多的GPU堆起来,拥有很大的算力,能够处理海量数据,从而训练出的大模型。这些大模型部署在云端,也只能在云端运行。(现在1000亿参数甚至更大的模型只能在云端运行。)

其次,另一个主要趋势是终端侧AI。任何技术要落地到每个人手中,都需要下沉到智能终端,比如手机、PC、汽车、工业物联网等,这些万物智能的设备占据更大规模,且可以实现云端AI所无法实现的隐私、效率、个性化用户体验。

安蒙在财报电话会议中还明确指出,“随着我们进入AI推理时代,模型训练仍将在「云端」进行,但推理将更多在「终端侧」运行,让AI变得更便捷、可定制且高效,那将促进更多专用模型和应用的开发和采用,并因此推动各类终端对高通平台的需求。”

高通还在《白皮书》中,详细介绍了推动终端侧AI变革的四大关键趋势:

第一,当前先进的AI小模型已具有卓越性能。模型蒸馏、AI网络架构优化等新技术,能够在不影响质量的情况下简化开发流程,让新模型的表现超越一些仅在云端运行的大模型。

第二,模型参数规模正在快速缩小。得益于先进的量化和剪枝技术,开发者现在能够在不影响模型准确性的前提下,显著缩减模型参数规模。

(编者注:也就是说,当一个小模型能够做到大模型前两年能做的事情,那么把这个小模型放到终端上就足够了,比如汽车上可以放100个亿-1000亿参数的模型,现在大多数手机已经可以支持30亿参数的模型,在这个维度上,小模型能做越来越多的事情。该趋势解决了终端部署的计算负担问题,为大规模商用部署扫清了技术障碍。

第三,开发者能够在边缘侧打造更丰富的应用。高质量AI模型快速激增,意味着文本摘要、编程助手和实时翻译等特性在智能手机等终端上的普及,让AI能够支持跨边缘侧规模化部署的商用应用。

第四,AI正在成为新的UI。个性化多模态的AI智能体(Agent)将简化交互,高效地跨越各种应用完成任务。

此处引用徐晧当时在对谈中举例而言,比如我们现在要出去旅行,就需要在手机上操作:定机酒-看日程安排-看当地天气-看当地攻略等,这就要调用不同的APP来完成这些事情。但是如果有了AI智能体,那么就能一步到位,只需要告诉AI智能体:“看看我下周哪天有空,我想去某地旅游,帮我订某星际酒店,最好是能够在海边,顺便看看当地天气和功率”。我们和终端的交互只需要通过自然语言和AI智能体,AI智能体会去调用后台所有App来把事情搞定。那么这个UI就完全不是以前的UI了。

市场格局:谁将受益于这一变革?

一、毫无疑问,芯片厂商将成为最直接受益者。终端侧AI对处理器的算力和能效都提出了更多要求,这将催生新一轮硬件升级周期。

二、模型开发商将迎来新机遇。DeepSeek的成功表明,通过技术创新,小型团队同样可以在AI领域实现突破,随着终端部署门槛降低,将会涌现更多面向特定场景的专业化模型。

三、应用开发者将获得更大施展空间。高质量、小模型的普及,使得文本处理、代码辅助、实时翻译等AI功能可以轻松部署到终端设备,这将激发新一轮应用创新。

以高通为例。无论是AI训练正在向大规模推理转型,还是AI计算处理从云端向边缘侧扩展方面,高通都具有战略优势,作为终端侧AI的引领者,高通的解决方案涵盖了数十亿台智能手机、汽车、XR头显和眼镜、PC以及工业物联网终端等。

徐晧告诉我,“高通正在用最节能的方式、最小的芯片面积来做最有效的人工智能应用。”其中有几种有效的方案,可以将大模型缩小或提高不同模型的适应性。

· 首先是对模型本身的简化。

第一种叫“剪枝”(Pruning),就像修剪花草一样。把AI模型中不太重要的“枝节”剪掉,保留最核心的部分,这样模型体积变小了,但依然能保持原有的聪明才智。第二种方法叫“学生-教师模型”(Student-Teacher Model),像是“师徒传艺”,把一个“经验丰富”的大模型当作老师,让它去教导一个“年轻”的小模型,通过不断学习和验证,小模型最终也能掌握老师的本领,但所需的计算资源却少得多。第三种方法叫“LoRA”(Low-Rank Adaptation),可以理解为“化整为零”,把一个庞大的AI任务,分解成几个小任务,用更小的模型来分别处理,这就像是把一个大工程分派给几个小团队,每个团队专注于自己的部分,最终一起完成大任务。

这些技术创新让AI模型变得更加节能和轻量级,不仅能在手机等终端设备上流畅运行,还保持了优秀的性能,为AI的普及应用打开了新的可能。

· 其次是用蒸馏(Distillation)的方法,用大模型训练小模型。

蒸馏是开发高效小模型的一项关键技术,它能够让大模型“教学”小模型,保持准确性的同时迁移知识。蒸馏技术的使用,促使小型基础模型激增,包括众多面向特定任务调优的模型。

高通在《白皮书》中展示了蒸馏的强大能力。下图比较了Llama 3.3 700亿参数模型和同类DeepSeek R1蒸馏模型的LiveBench平均测试结果,显示出在相同参数规模下,蒸馏能够在推理、编程和数学任务中显著提高性能。

终端侧AI,如何从DeepSeek的连锁反应中受益?

图:Meta Llama 700亿参数模型和DeepSeek对应蒸馏模型的LiveBench AI基准测试平均结果对比。来源:LiveBench.ai,2025年2月。

此外,得益于蒸馏和上述其他技术,小模型正在接近前沿大模型的质量。下图显示了DeepSeek R1蒸馏版本与其他领先模型的基准测试结果对比。基于通义千问模型和Llama模型的DeepSeek蒸馏版本展现了诸多明显优势,尤其是在GPQA基准测试中,与GPT-4o、Claude 3.5 Sonnet和GPT-o1 mini等先进模型相比,取得了相似或更高的分数。(GPQA是一个关键评估指标,因其涉及解决复杂问题的深层次、多步骤的推理,这对许多模型颇具挑战性。)

终端侧AI,如何从DeepSeek的连锁反应中受益?

图:数学和编程基准测试。来源:DeepSeek,2025年1月。

《白皮书》中特别指出,将大型基础模型缩减为更小、更高效的版本,不仅能实现更快的推理速度、更少的内存占用和更低的功耗,同时可以保持较高的性能水平,从而使此类模型适合在智能手机、PC和汽车等终端上部署。

挑战犹存:变革之路并非坦途

尽管前景可期,终端侧AI推理仍面临诸多挑战一是性能与效率的平衡问题,如何在有限算力下实现更好的推理效果;二是生态建设问题,需要更完善的开发工具和框架支持;三是标准化问题,不同平台间的模型部署仍缺乏统一标准。

仍以高通为例。首先在硬件层面,高通长期致力于开发定制CPU、NPU、GPU和低功耗子系统,同时拥有封装技术和热设计的技术专长,构成了其行业领先系统级芯片(SoC)产品的基础。

这些SoC能够直接在终端侧提供高性能、高能效的AI推理,通过紧密集成这些核心组件,高通的平台可在保持电池续航和整体能效表现的同时,处理复杂AI任务,这对边缘侧用例至关重要。

其次在软件层面,高通还构建了强大的AI软件栈,旨在赋能软件开发者。高通AI软件栈包括库(libraries)、SDK和优化工具,可简化模型部署并提升性能。开发者可以利用这些资源,面向高通平台高效进行模型适配,缩短AI赋能应用的上市时间。

最后,作为高通面向各行各业规模化扩展AI战略的核心,高通与全球AI模型厂商积极合作,并提供高通AI Hub等服务。

高通《白皮书》中介绍,在高通AI Hub上,仅需三步,开发者即可:1)选择模型,或引入自主模型又或基于他们的数据创建模型;2)选择任意框架和runtime,在基于云的物理设备场(cloud-based physical device farm)上撰写和测试AI应用;3)使用工具商业化部署其应用。高通AI Hub支持主流大语言模型和多模态大模型(LLM、LMM)系列,让开发者可在搭载高通平台的终端上部署、优化和管理推理任务。借助预优化模型库和支持定制模型优化与集成等特性,高通赋能加速开发周期,同时增强了与广泛AI生态的兼容性。

从技术演进规律看,AI计算正在经历与互联网相似的分布式变革。就像是云计算无法完全替代终端计算一样,终端侧AI也将与云端AI形成互补。当前我们正处于这一变革的起点,未来终端AI的应用场景可能远超预期。

DeepSeek事件也给业界提了个醒,AI产业正在进入一个新阶段。在这个阶段,技术创新的重点将从突破模型规模上限,转向提升计算效率和部署灵活性。

或许AI的下一波创新,不仅是比拼谁的模型更大,还要看谁能让AI更轻便、更普及、更贴近生活。

来源:至顶网人工智能频道

0赞

好文章,需要你的鼓励

2025

02/21

12:11

分享

点赞

邮件订阅
肠胃炎吃什么食物 mid什么意思 王八看绿豆是什么意思 指甲发紫是什么原因 做梦梦到自己生病了是什么意思
氨气对人体有什么危害 坐骨神经痛吃什么药快 栀子花什么时候修剪 vfu是什么牌子 长命百岁是什么意思
脑梗不能吃什么东西 菊花是什么季节开的 大黄米是什么米 爱吐口水是什么原因 钾高是什么原因引起的
心安是什么意思 100a是什么尺码 柳下惠姓什么 弱水是什么意思 什么是菊粉
总是放屁什么原因hcv9jop1ns2r.cn 漏斗胸是什么原因造成的0735v.com 大腿根部痛是什么原因hcv9jop0ns0r.cn 皮肤瘙痒是什么病的前兆hcv8jop7ns5r.cn 候场是什么意思hcv9jop2ns4r.cn
火供是什么意思hcv9jop1ns1r.cn 1992属什么生肖hcv9jop2ns1r.cn 跑步对身体有什么好处hcv8jop9ns2r.cn 充电宝充电慢是什么原因hcv9jop1ns6r.cn fpu是什么意思hcv7jop7ns4r.cn
二婚结婚需要什么证件cl108k.com 喝红花有什么作用与功效hcv8jop5ns5r.cn 1942年属什么生肖属相hcv8jop7ns1r.cn 金代表什么生肖hcv7jop6ns6r.cn 老九门讲的是什么故事hcv8jop7ns4r.cn
女生的小鸡鸡长什么样hcv8jop0ns8r.cn 宝字五行属什么hcv7jop7ns2r.cn 冤家是什么意思hcv9jop5ns8r.cn 12月14号是什么星座gysmod.com blissful是什么意思hcv9jop1ns2r.cn
百度