大模型落地应用的关键基础设施与行业实践
自 ChatGPT 横空出世以来,大模型技术如同一股旋风席卷全球科技界。我们亲眼见证了这场革命性变革的演进,从 2023 年上半年开始,企业和开发者们争相囤积算力、训练模型,掀起了一股'大模型军备竞赛'。而随着时间推移,市场逐渐冷静,进入了更为理性的探索阶段。2023 年下半年开始,从'千模大战'到大模型价格战,一定程度上也促进了大模型的落地,更多的企业开始将目光投向实际应用,试图将大模型技术与自身业务相结合。
反映到云市场上,百度智能云事业群总裁沈抖在近期提供了一个观察:'今天跟大家聊的时候是大家出钱要把它用起来,而不只是看热闹、凑热闹。'一个体现是今年大模型招标的规模比去年大了很多。沈抖的判断是但凡人能参与的地方,大模型都会在将来深入地去应用。'企业真正把大模型用起来的决心和可能比以前是变大了。'
从这种由 FOMO(错失恐惧)引发的跟风热炒,到关注真实价值、深耕应用之间的转变,预示着 AI 大模型正在进入一个新的发展阶段,产业落地成为新的关键词。大模型落地,首先要思考的一个问题是什么样的场景才能创造价值。智能手机作为个人计算设备,具备广泛的用户基数,是 AI 和大模型技术理想的落地平台之一。同时,智能手机也是消费者日常生活中最常用的设备,使得 AI 技术能够无缝融入用户体验中,推动其快速普及。
终端设备厂商已经意识到,AI 在提升用户体验上蕴藏着巨大的潜力。然而,开发和维护一个高质量的大模型,就像是从地基开始修建一座复杂的智能大厦,既需要巨大的资源投入,又需要高度专业化的技术储备。对于大多数终端企业来说,从零开始构建自己的 AI 系统无异于'重新发明轮子',因此,选择那些在 AI 领域已经积累深厚的技术伙伴进行合作,无疑是更明智的策略。这不仅能够节省时间和成本,还能让终端企业专注于自己的硬件优势和用户需求,正如拼图中的两块互补的部分,协同合作才能共同打造出更完美的全景图。
把大模型装进手机
在百度云智大会上,三星电子大中华区总裁崔胜植分享了三星如何与百度智能云共同探索大模型在智能终端上的深度应用。他表示,2024 年初,三星在全球市场推出 Galaxy AI,并与百度智能云达成战略合作,基于千帆平台、百度识图为中国用户带来创新的 Galaxy AI 本地化功能,包括即圈即搜、笔记助手、转录助手、聊天助手、浏览助手等移动 AI 体验。
这次合作也反映了百度智能云在 AI 生态构建方面的战略布局。百度智能云通过与三星等全球领先的智能终端企业合作,让 AI 技术触达消费者日常生活的最前沿,这种合作模式就像是行业的'英特尔 inside'战略,让 AI 能力成为智能终端的'大脑'。将大模型部署在端侧或云端协同,关键在于平衡隐私保护与计算能力。端侧大模型虽然响应更快且数据不出设备,但对硬件算力要求极高;而云端大模型则依赖强大的网络传输和服务器集群。通过混合架构,企业可以在保证用户体验流畅度的同时,利用云端强大的推理能力处理复杂任务。
不只是语音助手,更是 AI 伙伴
作为智能电动汽车领域的领军企业,蔚来汽车座舱人工智能研发负责人高杰在百度云智大会上分享了在智能座舱领域的最新进展,特别是在大模型应用方面的创新。智能座舱不仅是一个技术平台,更是'移动的生活空间',关于智能座舱与大模型技术的结合,他指出其核心价值在于'交互效率、使用价值和情感价值'。
蔚来携手千帆平台,接入千帆 API,调用文心大模型共同研发 NOMI GPT 的问答功能,打造了端云多模态大模型,让 NOMI 能够更加自然地与用户互动,成为一个更懂用户、更聪明的座舱 AI 伙伴。关于蔚来的人工智能助手 NOMI,高杰解释道:我们没有把它当语音助手,而是人工智能的伙伴。
高杰分享了 NOMI 的发展历程,从最初的上车打招呼、自定义唤醒词,到后来的灵动音色、儿童专属体验等。随着大模型技术的出现,NOMI 的能力得到了进一步提升。他给出了 NOMI 新一代的人工智能技术框架,包括原生多模态感知、以大模型为主体的决策引擎,以及执行部分。他认为在汽车里,一个无处不在、24 小时可用、不需要被唤醒的原生多模态大模型,能够服务于所有人的有情感的人机交互框架,一定是下一步。
在具体的大模型应用方面,蔚来推出了多个创新功能:一句话多指令,利用大模型提升指令理解能力;生成式交互框架,支持文本、声音、图片和视频的动态生成;多智能体框架,支持多个智能体之间的相互通信和协作;知识类智能体,与百度合作搭建问答系统,支持车辆相关和开放域问题;生成类智能体,可以生成表情、氛围灯效果等;任务型智能体,如'守卫 Agent',可以监控车辆周围环境。高杰还特别强调了情感部分的重要性,最重要的就是 NOMI 懂你。情境的感知,对你的人、车、环境,你的世界知识,拿到这些知识以后再进行一些总结和计算,生成一个具体的场景。
通过这些创新,NOMI 的用户满意度显著提升。NOMI 成功的成为公司购车最重要的因素。如果进行调研的话,今天大家会觉得最重要的就是车的造型,舒适度,彩电、冰箱和大沙发等等,智驾是核心的因素。有了大模型加持,它已经飞速挤到购车因素最重要的点。这些进展表明,随着大模型技术的应用,智能座舱正在成为汽车行业的新焦点,为用户带来更加个性化、智能化的驾驶体验。在相关方案中,与百度智能云与蔚来的合作也成为关键:借助百度文心大模型提升开放域问答交互体验;通过端云多模态大模型实现座舱场景创新;持续进行联合技术研讨,扩大合作范围,共创更多场景和应用。
智驾背后的大算力支撑
作为国内汽车行业的领军企业之一,长安汽车在智能化转型道路上取得了显著进展,特别是在自动驾驶研发方面。长安的智能驾驶系统基于视觉、激光和融合感知算法,辅以 AI 预测和控制算法,希望为用户带来更安全、更人性化的驾驶体验。而智驾的研发,自然离不开算力基础设施建设。具体来看,百舸平台为长安提供了 AI 容器、并行文件存储、AI 训练加速套件等整套自动驾驶训练最佳实践方案,实现 GPU 资源的精细化管理与调度。
双方还在数据加载、计算效率、通信方式等维度进行优化,使得算力总体平均使用率提升到了 90% 以上,综合资源利用率提升了 50%,相同资源条件下,单个模型的训练效率最多提效达到了 30%。云智大会上重庆长安汽车股份有限公司执行副总裁张晓宇表示:'我们将与以百度为代表的行业领军 AI 企业通力合作,积极拥抱大模型对汽车产品智能体验和企业生产力效率提升的历史机遇,用大数据 + 大模型 + 大算力的 AI 技术促进公司向智能低碳出行科技公司转型,最终实现引领汽车文明,造福人类生活的使命愿景。'


