百度文心大模型 4.5 开源深度测评：技术架构、部署实战与生态协同全解析

声明：本文只做实际测评，并非广告

1.前言

2025 年 6 月 30 日，百度做出一项重大举措，将文心大模型 4.5 系列正式开源，并选择国内领先的开源平台 GitCode 作为首发平台。该模型也是百度在2025年3月16日发布的自研的新一代原生多模态基础大模型。模型在图片理解方面表现出色，可处理照片、电影截图、网络梗图、漫画、图标等多种形式的图片内容。在音视频理解上，文心大模型4.5也能精准把握其中场景、画面、人物等关键特征。并且，模型在生成名人形象、物品等相关内容时，呈现出较高的真实性 。

此次开源涉及 10 款模型，其中包含激活参数为 47B、3B 的混合专家（MoE）模型，以及参数规模为 0.3B 的稠密型模型 。而且，百度一并开放了预训练权重与推理代码。目前，开发者与用户能在Gitcode社区、飞桨星河社区、HuggingFace 等平台，完成文心大模型 4.5 开源系列的下载与部署。开源模型 API 服务可在百度智能云千帆大模型平台使用，实现各类应用场景的开发与落地 。

Gitcode上的文心一言4.5系列模型

1.1文心大模型 4.5 开源系列三大分支

文心大模型 4.5 开源系列覆盖A47B、A3B、0.3B三大分支，从超大规模多模态到轻量级文本模型梯度分布，适配不同场景需求。

1.1.1系列内细分逻辑：Base 版与进阶版

所有系列均区分 Base 版（预训练基础模型） 和 进阶版（后训练优化模型）：

• Base 版：聚焦基础能力，适合二次开发（数据微调），可选择 ERNIE-4.5-300B-A47B-Base。
• 进阶版：经 SFT/DPO 后训练，强化指令遵循、知识对齐，直接支持场景化推理（ERNIE-4.5-VL-424B-A47B 运用了思维链技术（COT）支持 “思考模式” 多模态推理 ）。

1.1.2区分运用场景

做多模态复杂任务（视频内容理解、跨模态生成）→ 选 A47B/A3B 的 VL（视觉语言）模型；
纯文本密集型任务（长文档问答、代码生成）→ 选同系列文本模型；
卡脖子资源受限场景（边缘设备、嵌入式部署）→ 0.3B 系列合适。

注：“支持思考模式” 指模型强化了推理调度能力，可拆解复杂任务分步处理，类似人类 “思考过程” 。

2.技术基座剖析

文心一言4.5的技术底座以原生多模态混合专家模型（MoE）为核心，构建了层次化、高效能的技术架构体系：

2.1. 多模态异构MoE架构

文心4.5系列模型通过文本与视觉模态联合预训练，实现多模态信息的细粒度捕捉，显著提升文本生成、图像理解及跨模态推理能力。为解决传统模型中模态间学习干扰问题，百度研究团队设计了一种异构MoE结构。

• 跨模态参数共享机制：在统一架构下实现文本与视觉知识融合，同时为单一模态保留独立参数空间，彻底打破传统拼接式多模态模型的模态割裂瓶颈。
• 模态隔离路由与损失函数优化：引入模态隔离路由机制，通过路由器正交损失（Router Orthogonal Loss）约束不同模态特征的空间独立性，结合多模态标记平衡损失（Multimodal Token-Balanced Loss）均衡模态间训练信号，确保文本与图像特征在相互强化中实现高效协同，避免单一模态对另一模态的抑制。
• 多维旋转位置编码：针对长序列建模需求（文档段落、视频帧序列），通过位置编码技术革新，提升模型对时序依赖关系的捕捉能力，在MathVista数学推理、MMMU多模态理解等复杂任务中有较为明显的优势。

2.2. 高效训练与推理技术

• 训练侧：采用异构混合并行策略（节点内专家并行+流水线调度），结合FP8混合精度训练与细粒度重计算技术，将大模型预训练的FLOPs利用率（MFU）提升至47%，较传统方案训练效率提升30%以上，实现千卡级集群的高效资源调度。
• 推理侧：创新卷积码量化算法，实现4位/2位无损量化，在压缩模型体积的同时保持性能接近原生。以ERNIE-4.5-300B-A47B为例，量化后显存占用从112GB降至28GB，推理延迟减少40%，显著提升边缘计算、嵌入式设备等资源受限场景的部署可行性。

2.3. 分层蒸馏策略

文心4.5针对不同应用场景设计大模型预训练+小模型定向蒸馏路径，形成覆盖全场景的模型矩阵。

• 基础模型：424B参数的ERNIE-4.5-VL-424B-A47B，聚焦多模态复杂推理，在视觉知识理解、跨模态生成等任务中超越DeepSeek-V3-671B强劲开源模型，尤其在医疗影像分析、工业图纸解析等专业领域表现突出。
• 轻量级模型：21B参数的ERNIE-4.5-21B-A3B，通过蒸馏大模型核心知识，在数学推理（BBH、CMATH）、指令遵循（IFEval）等任务上以70%参数量实现优于Qwen3-30B的性能，达成效果与效率的最优平衡，适配智能客服、移动办公等轻量化场景。

3.部署实战

文心一言4.5依托飞桨生态构建了从模型获取到落地部署的全链路工具链，支持多元硬件环境的高效适配。先看测评总结：

3.1. 部署模型所需环境

这里选择的是安装FastDeploy来部署模型。FastDeploy 是基于 PaddlePaddle 的大型语言模型和可视化语言模型的推理部署工具包。它提供具有核心加速技术的生产就绪型开箱即用部署的解决方案。

基于NVIDIA CUDA GPU安装，需要满足以下环境

注：需要Linux系统，Windows和Mac系统需要基于 Docker

我这里本地环境不能满足以上条件，选择租用一台A100-80G显存服务器来部署模型，下面是选择的硬件配置和基础镜像

初始打开终端界面：内存大小是100G，系统盘30G,数据盘50G。

首先搭建一个虚拟环境，如果不搭建虚拟环境的话，有安全风险（我会对比使用虚拟环境安装和未使用的区别）。

注：所有命令都是在终端使用

1.安装虚拟环境工具：

sudoapt update sudoaptinstall -y python3-venv 

2.创建虚拟环境，创建名为 fastdeploy-env 的虚拟环境（使用 Python 3.12）

python3 -m venv fastdeploy-env 

3.在终端执行以下命令激活 fastdeploy-env 虚拟环境：

source fastdeploy-env/bin/activate 

创建成功，在旁边文件目录中会有 fastdeploy-env 文件

4.安装 paddlepaddle-gpu：3.1.0版本

python -m pip install paddlepaddle-gpu==3.1.0 -i https://www.paddlepaddle.org.cn/packages/stable/cu126/ 

虚拟环境下未报错：

直接使用主用户权限安装：

虽然安装成功，但是以 root 用户运行 pip 有风险：一是若软件包有漏洞或恶意代码，会借 root 权限破坏系统权限，致系统异常；二是易与系统包管理器冲突，引发软件功能及管理操作问题 。
5.安装 FastDeploy：
A800属于 SM80/90 架构 GPU使用下面命令

# Install stable release python -m pip install fastdeploy-gpu -i https://www.paddlepaddle.org.cn/packages/stable/fastdeploy-gpu-80_90/ --extra-index-url https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple # Install latest Nightly build python -m pip install fastdeploy-gpu -i https://www.paddlepaddle.org.cn/packages/nightly/fastdeploy-gpu-80_90/ --extra-index-url https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple 

虚拟环境内，安装顺利未报错。

未安装虚拟环境，直接执行指令也会成功，但是有个警告。这是 pip 给出的非强制性警告，以 root 用户（最高权限）运行 pip install，可能导致系统级权限混乱（比如覆盖系统包、权限冲突）。但当前依赖已成功安装（Requirement already satisfied 说明包安装没问题）。

3.2.基础模型部署测试

3.2.1.测试ERNIE-4.5-0.3B-Base-Paddle模型

从Gitcode上拉取模型

命令：

python -m fastdeploy.entrypoints.openai.api_server \ --model baidu/ERNIE-4.5-0.3B-Base-Paddle \ --port 8180\ --metrics-port 8181\ --engine-worker-queue-port 8182\ --max-model-len 32768\ --max-num-seqs 32

部署时长约5分钟，成功后会如下图显示。

查看端口是否连接成功，验证服务状态（HTTP 200 表示成功）：

curl -i http://0.0.0.0:8180/health 

部署总结：有严格的环境要求，不满足依赖会一直报错，比较挺难受。
注意：Ctrl+C退出连接，要想成功与模型交互则不能退出连接，结束与模型交互后再退出（博主经验之谈）

测试模型的文件代码：
主要关注三点：模型响应时间、模型使用token和模型回复结果

import requests import json import time from datetime import timedelta defmain():# 设置API端点 server_ip ="127.0.0.1"# 本地测试用127.0.0.1，公网访问用服务器IP url =f"http://{server_ip}:8180/v1/chat/completions"# 设置请求头 headers ={"Content-Type":"application/json"}# 构建请求体 data ={"model":"ERNIE-4.5-0.3B-Base-Paddle","messages":[{"role":"user","content":"你是一名人民教师，请介绍一下你自己？请详细回答。"}],"temperature":0.7,# 可选参数：控制响应随机性"max_tokens":2000# 可选参数：最大生成长度}try:# 记录请求开始时间 start_time = time.time()# 发送请求 response = requests.post(url, headers=headers, data=json.dumps(data))# 记录请求结束时间并计算耗时 end_time = time.time() elapsed_time = end_time - start_time # 检查响应状态 response.raise_for_status()# 解析响应 result = response.json()# 打印响应结果print(f"状态码: {response.status_code}")print(f"响应耗时: {timedelta(seconds=elapsed_time)}")# 提取输出Token数量（如果API返回） token_usage = result.get("usage",{}) prompt_tokens = token_usage.get("prompt_tokens","N/A") completion_tokens = token_usage.get("completion_tokens","N/A") total_tokens = token_usage.get("total_tokens","N/A")print(f"Token使用: 输入[{prompt_tokens}] | 输出[{completion_tokens}] | 总计[{total_tokens}]")# 打印响应内容print("响应内容:")print(json.dumps(result, indent=2, ensure_ascii=False))# 提取并打印AI的回复内容if"choices"in result andlen(result["choices"])>0: ai_message = result["choices"][0]["message"]["content"]print("\n文心4.5大模型回复:")print(ai_message)except requests.exceptions.ConnectionError:print(f"连接错误: 无法访问 {url}，请确保服务已启动且端口开放")except requests.exceptions.RequestException as e:print(f"请求错误: {e}")except json.JSONDecodeError:print(f"JSON解析错误，原始响应: {response.text}")except Exception as e:print(f"发生未知错误: {e}")if __name__ =="__main__": main()

prompt1：

你是一名人民教师，请介绍一下你自己？请详细回答。

模型响应时间：14.7S
输出token：1109
模型从人民教师的角度详细介绍了自己，是一个比较好的自我介绍。

prompt2：

模型推理结果：

正确答案公布

房间1（黄色）：挪威人，抽Dunhill，喝水，养猫
房间2（蓝色）：丹麦人，抽Blends，喝茶，养马
房间3（红色）：英国人，抽Pall Mall，喝牛奶，养鸟
房间4（绿色）：德国人，抽Prince，喝咖啡，养鱼
房间5（白色）：瑞典人，抽Blue Master，喝啤酒，养狗

可见0.3B模型推理回复有尝试梳理房间人员、行为等关联，呈现推导步骤的优点，符合推理题解题思路；但存在逻辑混乱问题，同一房间信息交叉重复，未形成清晰对应逻辑，且结论错误冗余，无法像正确答案简洁准确呈现对应关系 。

3.2.2.测试ERNIE-4.5-21B-A3B-Base-Paddle模型

首先Ctrl+C退出8180端口链接

拉取21B模型，模型专注文本领域

python -m fastdeploy.entrypoints.openai.api_server \ --model baidu/ERNIE-4.5-21B-A3B-Base-Paddle \ --port 8180\ --metrics-port 8181\ --engine-worker-queue-port 8182\ --max-model-len 32768 --max-num-seqs 32

注：记得在虚拟环境里面启动不然会报错

这里有个变动，刚刚文件都是默认安装到系统盘的，换了21B导致系统盘内存不够了,我们把文件放入数据盘，像上面执行一样的命令即可。文件目录成功后，如下图显示。

尽管这样设置了30GB+50GB的A800单卡GPU仍然不能部署成功，系统盘满了。

不得以要换一个服务器。新服务器实例设置如下：

部署时长约15分钟，终于成功了。

测试代码

import requests import json import time from datetime import timedelta defmain():# 设置API端点 server_ip ="127.0.0.1"# 本地测试用127.0.0.1，公网访问用服务器IP url =f"http://{server_ip}:8180/v1/chat/completions"# 设置请求头 headers ={"Content-Type":"application/json"}# 构建请求体（整合逻辑谜题条件） puzzle_conditions =["有五个不同颜色的房间排成一列，每个房间住着不同国籍的人，每人喝不同的饮料，抽不同品牌的香烟，养不同的宠物。已知以下条件：","1. 英国人住在红色房间；","2. 瑞典人养狗；","3. 丹麦人喝茶；","4. 绿色房间在白色房间左边；","5. 绿色房间主人喝咖啡；","6. 抽 Pall Mall 香烟的人养鸟；","7. 黄色房间主人抽 Dunhill 香烟；","8. 住在中间房间的人喝牛奶；","9. 挪威人住在第一间房；","10. 抽 Blends 香烟的人住在养猫的人隔壁；","11. 养马的人住在抽 Dunhill 香烟的人隔壁；","12. 抽 Blue Master 香烟的人喝啤酒；","13. 德国人抽 Prince 香烟；","14. 挪威人住在蓝色房间隔壁；","15. 抽 Blends 香烟的人有一个喝水的邻居。","请通过逻辑推理，确定每个房间的颜色、住客国籍、饮料、香烟品牌和宠物的对应关系。"] data ={"model":"ERNIE-4.5-21B-A3B-Base-Paddle","messages":[{"role":"user","content":"\n".join(puzzle_conditions)# 拼接条件为清晰的文本}],"temperature":0.7,# 可选参数：控制响应随机性"max_tokens":2000# 可选参数：最大生成长度}try:# 记录请求开始时间 start_time = time.time()# 发送请求 response = requests.post(url, headers=headers, data=json.dumps(data))# 记录请求结束时间并计算耗时 end_time = time.time() elapsed_time = end_time - start_time # 检查响应状态 response.raise_for_status()# 解析响应 result = response.json()# 打印响应结果print(f"状态码: {response.status_code}")print(f"响应耗时: {timedelta(seconds=elapsed_time)}")# 提取输出Token数量（如果API返回） token_usage = result.get("usage",{}) prompt_tokens = token_usage.get("prompt_tokens","N/A") completion_tokens = token_usage.get("completion_tokens","N/A") total_tokens = token_usage.get("total_tokens","N/A")print(f"Token使用: 输入[{prompt_tokens}] | 输出[{completion_tokens}] | 总计[{total_tokens}]")# 打印响应内容print("响应内容:")print(json.dumps(result, indent=2, ensure_ascii=False))# 提取并打印AI的回复内容if"choices"in result andlen(result["choices"])>0: ai_message = result["choices"][0]["message"]["content"]print("\n文心4.5大模型回复:")print(ai_message)except requests.exceptions.ConnectionError:print(f"连接错误: 无法访问 {url}，请确保服务已启动且端口开放")except requests.exceptions.RequestException as e:print(f"请求错误: {e}")except json.JSONDecodeError:print(f"JSON解析错误，原始响应: {response.text}")except Exception as e:print(f"发生未知错误: {e}")if __name__ =="__main__": main()

模型返回结果：
模型响应时间：6m06s
输出token：10000。测试代码设置的"max_tokens": 10000

官方没说明21B模型支持深度思考，但是模型似乎陷入深度思考困境了，未能最终返回正确结果

多轮对话测试

import requests import json import time from datetime import timedelta defstream_chat_test():"""测试模型在不同领域的连续对话能力""" server_ip ="127.0.0.1" url =f"http://{server_ip}:8180/v1/chat/completions" headers ={"Content-Type":"application/json"}# 定义多轮对话问题（数学、古诗、翻译） messages =[# 数学问题{"role":"user","content":"计算二重积分 ∬(x²+y²)dxdy，积分区域为 x²+y²≤4"},# 古诗理解{"role":"user","content":"赏析李白《将进酒》中'天生我材必有用，千金散尽还复来'的意境和情感"},# 英语翻译{"role":"user","content":"将以下段落翻译成英文：'中国古代四大发明对世界文明的发展产生了深远影响，尤其是造纸术和印刷术的发明，极大地促进了知识的传播和文化的交流。'"}]for i, message inenumerate(messages):print(f"\n=== 第 {i+1} 轮对话 [{['数学','古诗','翻译'][i]}] ===")print(f"用户: {message['content']}") data ={"model":"ERNIE-4.5-0.3B-Base-Paddle","messages": messages[:i+1],"temperature":0.5,# 降低随机性，提高准确性"max_tokens":2000,"stream":True}try: start_time = time.time() response = requests.post(url, headers=headers, data=json.dumps(data), stream=True) response.raise_for_status()print("AI回复:") full_content =""for chunk in response.iter_lines():if chunk: chunk_data = chunk.decode('utf-8').lstrip('data: ')if chunk_data =='[DONE]':breaktry: chunk_json = json.loads(chunk_data) content = chunk_json["choices"][0]["delta"].get("content","") full_content += content print(content, end='', flush=True)except Exception as e:print(f"\n解析错误: {e}")print(f"原始数据: {chunk_data}")print()# 换行 end_time = time.time()print(f"响应耗时: {timedelta(seconds=end_time - start_time)}")print(f"回复长度: {len(full_content)} 字符")# 将回复添加到消息列表中 messages.append({"role":"assistant","content": full_content})except Exception as e:print(f"请求错误: {e}")if __name__ =="__main__": stream_chat_test()

返回结果

=== 第 1 轮对话 [数学]=== 用户: 计算二重积分 ∬(x²+y²)dxdy，积分区域为 x²+y²≤4 AI回复:### 问题陈述 计算二重积分 ∬(x² + y²) dxdy，积分区域为 x² + y² ≤ 4。 ### 初步理解 首先，我需要明确题目在问什么。我们有一个二重积分，被积函数是 x² + y²，积分区域是所有满足 x² + y² ≤ 4 的点。这个不等式描述的是一个以原点为中心，半径为 2 的圆。 ### 积分区域的描述 积分区域 x² + y² ≤ 4 是一个圆，其半径为 2。在直角坐标系中，这个区域可以表示为所有 (x, y) 满足 x² + y² ≤ 4 的点。为了计算这个二重积分，可以考虑使用极坐标变换，因为被积函数和积分区域都具有旋转对称性。 ### 极坐标变换 在极坐标下，x = r cosθ，y = r sinθ，且 dxdy = r dr dθ。被积函数 x² + y² = r²。因此，积分可以表示为： ∬(x² + y²) dxdy = ∫∫ r² * r dr dθ = ∫∫ r³ dr dθ ### 积分区域的极坐标表示 在极坐标下，x² + y² ≤ 4 对应于 r ≤ 2。角度 θ 的范围是从 0 到 2π，因为这是一个完整的圆。 ### 设置积分限 因此，积分可以表示为： ∫ (θ=0 to 2π) ∫ (r=0 to 2) r³ dr dθ ### 计算内积分（关于 r） 先计算关于 r 的积分： ∫ (r=0 to 2) r³ dr =[r⁴ /4]from0 to 2=(2⁴ /4)-(0⁴ /4)=16/4=4### 计算外积分（关于 θ） 然后计算关于 θ 的积分： ∫ (θ=0 to 2π)4 dθ =4*[θ]from0 to 2π =4*(2π -0)=8π 响应耗时:0:01:14.363007 回复长度:2851 字符 === 第 2 轮对话 [古诗]=== 用户: 赏析李白《将进酒》中'天生我材必有用，千金散尽还复来'的意境和情感 AI回复: 李白《将进酒》中的“天生我材必有用，千金散尽还复来”两句，以豪迈的笔触展现了诗人对自我价值的坚定信念与豁达胸襟，其意境与情感可作如下赏析： ### **一、意境：豪迈与超脱的交织**1.**自然意象的隐喻** “天生我材必有用”以“天生”与“材”的对比，暗含天地造物之奇与个体价值的契合。李白将自我比作“材”，既是对自身才华的自信，也隐含对宇宙规律的敬畏——天意既已赋予才华，便无需怀疑其存在的必然性。 “千金散尽还复来”则以“千金”象征世俗财富的短暂与虚幻，与“天生我材”形成对比：当物质财富消散时，精神与才华的永恒价值反而凸显，形成“散尽”与“复来”的张力，暗示物质与精神的辩证关系。 2.**时空的宏阔感** 诗句以“天生我材”的永恒性（“天生”）与“千金散尽”的瞬时性（“散尽”）对比，构建出时间维度上的巨大落差。这种对比不仅强化了诗句的豪迈感，更暗含对人生短暂与永恒价值的思考——个体的价值超越了时间的限制，成为永恒的存在。 ### **二、情感：自信与洒脱的统一**1.**自信的底气** “天生我材必有用”是李白对自我价值的绝对肯定。在唐代士人以科举为进阶之路的时代，李白虽未中科举，却以“天生我材”的宣言，将才华视为超越世俗功名的终极资本。这种自信源于他对自身才华的深刻认知，也暗含对命运安排的主动接纳——既然天意已定，便无需迎合世俗标准。 2.**洒脱的豁达** “千金散尽还复来”则展现了李白对物质财富的淡然态度。在唐代，财富是社会地位的重要标志，但李白却以“散尽”为乐，甚至以“还复来”的从容，将财富的消散视为一种“游戏”。这种洒脱源于他对人生无常的深刻理解——财富如浮云，而精神与才华的永恒价值才是人生的真谛。 ### **三、文化内涵：盛唐精神的缩影**1.**盛唐气象的体现** 《将进酒》作于盛唐时期，当时社会开放、文化多元，士人阶层追求个性解放与精神自由。李白以“天生我材必有用”的自信，与“千金散尽还复来”的洒脱，共同构成了盛唐士人“自信人生二百年，会当水击三千里”的精神风貌。 2.**对世俗的超越** 诗句中“天生我材”与“千金散尽”的对比，暗含对世俗价值观的批判。李白以才华为“材”，以财富为“散尽”之物，实质是对“以财论英雄”的世俗标准的否定。这种超越不仅是个体的选择，更是盛唐文化对个体价值的尊重与推崇。 ### **四、艺术特色：语言的张力与节奏**1.**对仗的工整** “天生我材必有用”与“千金散尽还复来”形成对仗，前句强调“天生”与“材”的必然性，后句强调“散尽”与“复来”的从容。这种对仗不仅增强了诗句的节奏感，更通过对比强化了情感的张力。 2.**语言的豪放与凝练** 李白以“天生我材必有用”的豪放宣言，与“千金散尽还复来”的洒脱态度，共同构成了《将进酒》的核心精神。这种语言风格既符合盛唐诗歌的豪放传统，又体现了李白对个体价值的深刻思考。 ### **结语** “天生我材必有用，千金散尽还复来”是李白《将进酒》中最具代表性的诗句，它以豪迈的笔触展现了诗人对自我价值的坚定信念与对世俗财富的淡然态度。这两句诗不仅是个体的宣言，更是盛唐文化精神的缩影——它以自信与洒脱，诠释了“天生我材”的永恒价值，也以“千金散尽”的从容，展现了盛唐士人对精神自由的追求。 响应耗时:0:00:36.329124 回复长度:1424 字符 === 第 3 轮对话 [翻译]=== 用户: 将以下段落翻译成英文：'中国古代四大发明对世界文明的发展产生了深远影响，尤其是造纸术和印刷术的发明，极大地促进了知识的传播和文化的交流。' AI回复: The four great inventions of ancient China had a profound impact on the development of world civilization, especially the invention of paper and printing, which greatly promoted the dissemination of knowledge and cultural exchange. 响应耗时:0:00:01.594493 回复长度:231 字符 

1. 数学问题：回复质量很高，不仅能准确解决了高等数学求解二重积分问题，还通过详细的文字说明降低了理解难度，是非常好的讲解示例，模型数学能力良好。
2. 古诗赏析：从古诗赏析的完整性和深度来看，能够全面剖析诗句的意境与情感，有一定文学价值和思考深度，对于普通读者理解诗句有帮助，但在专业文学赏析的简洁精准度上有提升空间。
3. 从翻译准确性和表意来看，能够正确传达原文内容，属于合格翻译。但在专业术语（“造纸术” ）和部分表达的精准性（ “文化交流” 单复数 ）上表达不够准确，用于一般交流场景没问题，用于专业翻译场景需优化 。

总结：数学问题表现突出，古诗赏析有深度但稍显繁琐，翻译合格但有细节可优化，整体能满足基本的知识问答和任务需求，但在专业精准度上部分场景还有提升空间。

3.2.3.测试ERNIE-4.5-VL-28B-A3B-Paddle模型

此模型是多模态模型，支持图像与文本，且支持深度思考。

拉取28B模型

注：单卡部署时，至少需要 80GB 的 GPU 显存 。

python -m fastdeploy.entrypoints.openai.api_server \ --model baidu/ERNIE-4.5-VL-28B-A3B-Paddle \ --port 8180 \ --metrics-port 8181 \ --engine-worker-queue-port 8182 \ --max-model-len32768 \ --enable-mm \ --reasoning-parser ernie-45-vl \ --max-num-seqs 32

部署大约需要分钟25分钟

在github上找了一个表情包视觉标注数据集，来测试模型能力。

数据集样例

上传图片文件到服务器，一次测试七个图片

测试代码（部分）：

 image_base64 = image_to_base64(image_path) data ={"model":"ERNIE-4.5-VL-28B-A3B-Paddle","messages":[{"role":"user","content":[{"type":"text","text":"请详细解读这张图片的内容，包括场景、人物、物品、动作、情感等方面"},{"type":"image","data": image_base64 }]}],"temperature":0.7,"max_tokens":2000}

各图片的模型响应时间和 Token 使用量

模型处理图片平均约 15 秒，输入输出 Token 比约 1:6.8。

图片01

模型给出的解析：

图片07

模型给出的解析：

模型解析全面深入，从画面元素、场景隐喻到社会心理等多维度剖析，专业且具深度；示例答案更偏向通俗解读。可见文心28B多模态模型图像理解能力强，能精准挖掘内涵、体现文化洞察，远超示例的表层分析 。

在28B模型上再次测试同一逻辑推理谜题

响应时间：2m30s

符合官方给出的模型能力描述，对于复杂逻辑题，模型响应迅速。推理基本正确且能用表格呈现一一对应的关系，但仍存推理漏洞优于0.3B和21B模型。

4.生态协同能力

文心一言4.5以飞桨为核心构建开源生态，形成产学研深度协同的创新体系。

三大模型性能总结对比

4.1. 开源社区活跃度

• Hugging Face模型页累计访问量超50万次，开发者围绕医疗、法律、教育等垂直领域提交超200个微调方案，其中“医疗影像报告生成”“法律文书自动审核”等场景方案下载量突破10万次，展现社区强大创新活力。
• GitCode 社区：GitCode 社区 近年来发展迅速，吸引了众多对开源模型感兴趣的开发者。百度选择在此社区开源文心大模型 4.5 系列，使得利用 GitCode 社区模型应用开发的权重进一步增加。在 GitCode 上，开发者们可以便捷地获取模型的开源代码和预训练权重，利用平台提供的在线开发环境进行模型的调试和应用开发。同时，社区内活跃的交流氛围也促进了不同开发者之间的技术合作，加速了模型在各类场景下的应用创新。

百度智能云平台：百度智能云千帆大模型平台为文心大模型 4.5 系列提供了强大的 API 支持。获取专属的 API 密钥，调用模型能力。

飞桨星河社区：作为百度飞桨生态的重要组成部分，飞桨星河社区为文心大模型 4.5 的开发者提供了丰富的资源和交流平台。社区内有大量关于文心大模型 4.5 的使用教程、技术分享，在社区可以一键部署使用4.5模型。

在后台可以看到调用次数

GitHub仓库（PaddlePaddle/ERNIE）星标数超6.8K，开发焦点集中于模型压缩、多语言扩展、行业数据集构建等方向。

4.2. 工具链与生态兼容性

• 训练工具：ERNIEKit提供数据预处理、模型压缩、指令精调全流程API，支持LoRA、QLoRA等轻量化技术，企业可完成行业模型定制，大幅降低开发门槛。
• 硬件适配：依托飞桨异构调度能力，模型可在NVIDIA、昇腾、英特尔等芯片间动态迁移，在麒麟OS系统+昇腾910B硬件组合中，推理效率较纯CPU环境提升8倍，全面适配国产化信创需求。

部署工具：FastDeploy支持vLLM与OpenAI协议兼容，通过一行命令启动API服务，无缝对接现有业务系统。
基于以下命令可快速搭建兼容OpenAI接口的本地服务：

python -m fastdeploy.entrypoints.openai.api_server --model ./model --port 8080

5.文心4.5与其他模型对比

国内三大开源模型系列对比

文心大模型4.5在多模态能力、推理性能及国产化适配方面展现出综合优势，全谱系模型覆盖与高效部署工具使其更适合从云端到终端的全场景落地；DeepSeek-V3在纯文本推理上表现接近但生态适配较弱；Qwen3则在轻量化部署上有一定优势，但复杂任务处理能力差距明显。对于企业级应用，文心4.5的开源自由度与技术完整性更具吸引力。

5.1.关键能力深度对比

5.1.1. 多模态理解

ERNIE - 4.5 - VL 系列模型在多模态理解领域展现出较强综合实力，从图中可直观看到，其测评覆盖视觉知识问答、文档图表解析、多模态推理、基础视觉感知以及视频理解等关键维度，各维度表现良好，在与其他模型（OpenAI-o1、Qwen2.5-VL系列）的对比中，呈现出明显的多模态理解竞争力 。

5.1.2. 逻辑推理

在逻辑推理相关的 Reasoning - BBH 和 Reasoning - HellaSwag 测评场景中，ERNIE - 4.5 系列模型展现出扎实的性能表现。在与其他同类型模型的横向对比中，ERNIE - 4.5 系列模型能够稳定输出良好结果，清晰展现出较为突出的逻辑推理能力。充分体现出其在逻辑推理任务维度上具备的竞争力，为处理各类逻辑推理场景提供了可靠的性能支撑 。

Reasoning - BBH ：复杂逻辑关系的推理

Reasoning - HellaSwag ：情境推理、语义理解

5.1.3. 数学能力

在数学能力测评里，ERNIE - 4.5 系列模型在 Math - GSM8K 和 Math - CMath 测试中表现突出，于同类型模型对比里，展现出较强的数学解题能力优势，在多模型竞争的数学测评场景下，其数学性能值得肯定 。

Math - GSM8K ：基础数学推理任务

Math - CMath ：复杂中文数学问题

5.1.4. 通用能力

ERNIE - 4.5系列模型从一开始就聚焦对中文语境的适配性，模型从研发逻辑上重视中文理解优化。依托大规模高质量中文语料库预训练，结合针对中文词法、句法、语义的算法优化，为模型筑牢能力底座，推动其在中文及多语言通用能力上实现提升。
从General - MMLU、C - Eval、MMCU、CMMLU等多维度基准测试结果（对应图表数据）可见，ERNIE - 4.5 - 300B - A47B表现突出，多数场景下得分领先同行。如CMMLU测试中，该模型取得91.2分，优势显著，印证其在通用语言理解与生成任务中的实力。 同时参数相对小的ERNIE - 4.5 - 0.3B - Base模型，在适配任务范畴内，也呈现出扎实的通用能力基础（部分测试分数稳定可查），体现出系列模型在不同参数配置下的性能韧性。

General - MMLU ：评估模型在广泛知识领域的多任务语言理解能力的基准数据集

General - C-Eval 性能对比：专门为评估中文语言模型而设计的综合性基准测试数据集

General - MMCU ：面向多语言、多模态理解的基准数据集

General - CMMLU ：在多语言、多模态基础上，更侧重于中文的评估数据集

5.1.5.知识问答能力

ERNIE - 4.5 系列模型在对应的知识问答测评里表现较为突出。在与其他模型的横向对比中，展现出了相对良好的知识问答能力，体现出其在知识理解与问答任务方面具备一定优势，能够有效应对这类知识问答场景的挑战 。

Knowledge - ChineseSimpleQA ：中文知识问答的数据集

Knowledge - SimpleQA ：简单知识问答数据集

6.总结

• 底层稳定性：基于飞桨框架的高效训练体系与MoE架构创新，文心4.5在长序列建模、多模态推理等复杂任务中表现出领先鲁棒性，47%的MFU利用率与无损量化技术为大规模工程化落地奠定基础。
• 部署落地性：从424B大模型到0.3B轻量模型的全谱系覆盖，结合FastDeploy的多硬件适配能力，构建“云端-边缘-终端”一体化部署矩阵，企业可通过“预训练-微调-量化”标准化链路实现快速落地。
• 社区创新潜力：Apache 2.0开源协议与全流程工具链降低技术壁垒，Hugging Face与飞桨社区的高频贡献预示模型在医疗、工业等垂直领域的持续进化空间。

文心一言4.5无疑是国内大模型开源典范，它聚技术架构创新、高效工程化部署及开放开源生态为一体。其多模态理解与企业场景落地能力，为AGI时代产业智能化提供技术与商业兼具的基础设施，推动中国大模型技术向通用人工智能发展。

一起来轻松玩转文心大模型吧
🚀文心大模型免费下载地址：https://ai.gitcode.com/theme/1939325484087291906