博客作者
Node全栈开发者
296
已发布文章
9.7K
博客获赞
683K
博客浏览
第 14 页
2024 年大模型应用正从概念验证走向行业规模化落地。华为云联合生态伙伴在医疗、能源、物流、医药、交通等 16 个重点行业取得显著成果，如山东能源利用盘古大模型优化配煤效率，顺丰丰语模型降低物流信息错误率，天士力构建中医药大模型加速新药研发，北铁所实现动车故障高精度识别。文章强调大模型不应局限于对话交互，需深入产业痛点，结合昇腾算力、盘古模型及 ModelA…
清华大学等机构联合推出 DreamBench++，首个引入 GPT-4o 的图像自动评估新基准。该基准通过精心设计的 Prompt 和思维链提示，使 GPT-4o 能够像人类一样评估图像生成的个性化效果。实验表明，DreamBench++ 在图像相似性和文本遵循方面与人类评价高度一致，显著优于传统的 DINO 和 CLIP 指标。此外，其构建的多元化数据集揭…
中国大模型市场经历近半年价格战，推理算力毛利率跌至负数。头部云厂商通过降价换取长期市场份额与指数级调用增长，但面临模型能力不足与高昂算力成本挑战。相比 OpenAI 的高毛利健康模式，国内厂商需探索差异化路径。淘汰赛加速，预计仅少数基础模型企业能存活，创业公司转向垂直领域或应用层。企业应关注模型实际效果与 ROI，技术侧采用模型压缩、蒸馏及垂直微调策略，生态…
Agent Symbolic Learning 框架，一种让 AI 智能体能够像神经网络一样通过符号化方式进行自我进化的训练方法。该框架将智能体的提示词、工具和工作流程视为符号权重，利用自然语言模拟损失函数、梯度和优化器，实现了端到端的符号化训练。实验表明，该框架在 HotPotQA、MATH、HumanEval 等基准测试及创意写作、软件开发等复杂任务中均…
使用 litgpt 框架从零训练中文大模型时，模型配置是核心环节。文章详细解析了 model_config 中的架构参数，包括层数、头数、GQA 注意力机制、RMSNorm 归一化及 RoPE 位置编码，解释了各参数对模型容量和训练稳定性的影响。同时涵盖了训练参数设置，如全局与微批次大小、学习率预热、BF16 混合精度及 AdamW 优化器选择。此外还介绍了…
亚马逊 Nova 大模型家族提供了从文本到视频的多模态解决方案，包含 Pro、Lite、Micro 等五种定位。斯坦福大学研究通过 1052 名真实个体的深度访谈，构建了能精准模拟人类行为的数字分身，准确率达 85%。这两项技术分别代表了生成式 AI 在商业应用和社会科学研究领域的重大突破，为行业提供了新的工具与伦理参考。
探讨了大型语言模型（LLM）交互中的核心 Prompt 工程技术。重点阐述了两大基本原则：一是写出清晰而具体的指示，涵盖长度、风格、语言、格式及背景信息的明确化；二是给模型更多的思考空间，介绍了思维链（CoT）、自洽性（Self-Consistency）及渐进式提示（PHP）等方法以提升逻辑推理能力。文章还提供了 Prompt 调试与迭代的标准化流程，包括构…
文章探讨了通过迭代提示词（如反复要求'写更好的代码'）来提升大模型生成代码质量的方法。实验显示，使用 Claude 3.5 Sonnet 进行多轮迭代优化，结合明确的提示词工程（如系统指令、激励对齐），可显著减少运行时间并提升性能。虽然自动化优化能带来百倍加速，但仍需人工介入修复幻觉和逻辑错误。结论表明，提示词工程比单纯迭代更有效，但人类工程师的审查不可或缺…
LangChain 框架的概念、结构及其在构建智能 Agent 中的应用。文章阐述了 LangChain 的核心组件，包括 Models、Prompts、Indexes、Memory、Chains 和 Agents，并通过人脸识别问题的智能排查助手案例，展示了如何利用 LangChain 定义工具、初始化模型及实现 Agent 交互。此外，文章还探讨了智能体…
2024 年生成式人工智能将成为主要趋势，初创企业可通过集成 GPT、Bard 等闭源模型或采用开源 LLM（如 LLaMA、Falcon）来构建解决方案。自定义微调模型能针对特定领域优化效果并降低成本。应用场景涵盖 IT、营销、客服、大数据、医疗及人力资源等领域。未来 AI 驱动型初创公司将获得更多投资，重点在于文本生成自动化与垂直领域模型训练。
2025 年秋招 LLM 及多模态模型面试精华涵盖了大模型微调技术如 LoRA 和 Ptuning 的原理，Stable Diffusion 的三组件架构，Decoder-only 结构的优势，缓解复读机问题的策略，Transformer 中 LayerNorm 与 BatchNorm 的区别，多头注意力机制的作用，SFT 导致表现下降的原因及对策，OOM…
Decoder-only 架构的大语言模型基于因果注意力机制，理论上无需显式位置编码即可通过隐藏状态方差隐式感知位置信息。然而，主流模型仍采用 RoPE 等位置编码方案，原因在于无位置编码（NoPE）方案在长文本场景下存在位置分辨率不足、缺乏先验知识引导及外推能力弱等问题。深入分析了位置编码打破置换不变性的核心作用，探讨了 NoPE 通过方差辨位的原理及其局…
LangGraph 基于图论为 LangChain 提供了精细控制能力，解决了传统 AgentExecutor 黑盒和死循环问题。通过 StateGraph、Node 和 Edge 构建状态机，支持循环调用和多 Agent 协作。核心概念、构建步骤及简单聊天机器人示例，并对比了 AutoGen，阐述了 LangGraph 在多智能体框架中的优势与发展前景。
Qwen2.5 系列模型通过预训练数据规模从 7 万亿扩展至 18 万亿 token，结合智能过滤与专业领域数据融入，显著提升了知识储备。后训练阶段采用百万级样本监督微调及分阶段强化学习（DPO、GRPO），增强了长文本生成、逻辑推理及指令遵循能力。在基准测试中，Qwen2.5-72B-Instruct 表现卓越，尤其在数学、编程及长上下文处理方面超越部分更…
DeepSeek R1 671B 全量模型在本地环境的部署流程。内容涵盖模型选择、硬件需求分析、Ollama 安装与配置、Modelfile 参数详解、常见故障排查及性能优化建议。重点讲解了如何利用 Unsloth AI 的动态量化技术降低部署门槛，以及在消费级硬件上实现高效推理的具体方案。文章还提供了关于内存管理、交换空间设置及安全对齐差异的深入分析，帮助…
如何使用 LangChain 框架结合开源大语言模型构建 ReAct 智能体。文章详细解释了 ReAct 智能体基于推理与行动循环的工作原理，展示了如何通过 ChatHuggingFace 类和 AgentExecutor 实现工具调用。通过基准测试对比发现，Mixtral-8x7B 等开源模型在无需微调的情况下表现优异，甚至超越 GPT-3.5，但也存在工…
两种实现爱心动态效果的技术方案。第一部分展示了基于 Python 的粒子动画代码，利用数学公式计算爱心坐标及扩散效果，包含完整的类结构与辅助函数。第二部分提供了基于 HTML5 Canvas 和 JavaScript 的全屏文字飘动效果代码，修复了原有代码截断问题，支持自定义显示文字。文章还附带了将代码保存为可执行文件的详细操作步骤，适合前端开发与 Pyth…
一款结合 DeepSeek 与本地 Ollama 部署的代码审计及 WebShell 检测工具。该工具支持流量分析、JS 代码审计、进程分析及多语言代码审计功能。通过本地模型运行，有效降低 Token 成本并提升处理速度。配置简单，支持切换 API 类型，适合安全工程师进行自动化辅助工作。使用建议优先选择本地大模型如 Qwen2.5 系列以获得更佳效果，但需…
详细阐述了 Android 移动端架构开发的核心技术体系与进阶路径。内容涵盖 Kotlin 与 Java 语言特性对比、Jetpack 组件库的深度应用、性能优化实战方案（启动、内存、UI、网络）、NDK 原生交互开发、Flutter 跨平台技术整合、安全加固措施以及 CI/CD 自动化流水线建设。文章旨在帮助开发者构建完整的知识框架，提升工程化能力，从基础…
30 个数据工程必备的 Python 包，涵盖任务通知、进度监控、日志记录、文本处理、统计计算、模型验证等维度。内容包括 Knockknock、tqdm、Pandas-log、Emoji、TheFuzz 等工具的安装命令、代码示例及应用场景。这些工具能有效提升数据处理效率、简化调试流程并增强模型评估能力，适用于数据分析、机器学习及自动化运维场景。
