博客作者
消息队列专家
373
已发布文章
13K
博客获赞
885K
博客浏览
第 18 页
OpenAI o1 代表大模型在逻辑推理能力上的重大突破，相比 GPT-4o 更注重基座模型的认知深度而非多模态融合。文章分析了 o1 通过自动化思维链（CoT）和蒙特卡洛树搜索（MCTS）提升复杂问题解决能力的机制，探讨了预训练 Scaling Law 放缓的原因及逻辑数据合成的必要性。同时指出 o1 对 Agent 发展和软件工程范式的深远影响，强调未来…
在基于大模型的 Agent 应用中实现长期记忆的 8 种优化方法。涵盖了从简单的全量历史对话缓存、滑动窗口机制，到基于实体、知识图谱的记忆管理，以及摘要总结、缓冲区和 Token 限制策略，最后介绍了基于向量检索的高级记忆方案。每种方法均结合了具体应用场景（如客服、医疗、金融等）进行了分析，并提供了相应的 LangChain 代码示例，帮助开发者根据 Tok…
详细阐述了大模型的定义、核心特点及工作原理。内容涵盖庞大参数规模、深度学习架构、Transformer 机制、预训练与微调流程。分析了大模型在自然语言处理、计算机视觉、生物信息学、自动驾驶及金融等领域的广泛应用。同时探讨了大模型的优势，如强泛化能力和高性能，以及面临的挑战，包括高计算成本、数据依赖、可解释性差、幻觉与偏见等问题。最后介绍了量化、知识蒸馏等部署…
介绍基于 LoRA 技术对 BLIP-2 多模态大模型进行微调的完整流程。涵盖 BLIP-2 架构解析、数据集准备、LoRA 配置参数详解、训练循环实现及推理脚本编写。通过冻结预训练权重并仅训练低秩适配器，有效降低显存占用与计算成本，适用于图像描述生成与视觉问答任务。文章还补充了常见问题与优化建议，帮助开发者解决显存不足、训练不收敛等实际问题。
涵盖大模型面试中的 25 个核心问题，涉及 Transformer 架构原理、注意力机制计算细节、位置编码策略、归一化方法、微调技术（LoRA、RLHF）、推理加速（KV Cache）及显存优化等。内容聚焦于 Decoder-only 结构优势、RoPE 外推方案、混合精度训练差异及 PyTorch 张量操作等关键技术点，旨在帮助技术人员系统掌握大模型底层逻…
ChatGLM3-6B 是清华智谱开源的中英双语对话模型，支持函数调用与代码解释。该模型的本地与云端部署流程，涵盖 AutoDL 镜像使用、手动环境配置、Anaconda 虚拟环境管理及模型文件下载。内容包含 WebUI 启动方法、SSH 隧道配置、插件注册机制以及基于 OpenAI 兼容接口的 API 调用示例。此外，还总结了显存优化、推理加速及常见报错解…
Python 网络爬虫、数据分析与机器学习实战指南涵盖了从基础环境搭建到高级模型部署的全流程。内容包括 Python 核心库如 NumPy 和 Pandas 的使用，Requests 库进行网页抓取，以及 Scikit-learn 实现线性回归、神经网络等算法。文章详细解析了数据处理、建模、评估指标如 MSE 和 ROC 曲线，并提供了正则表达式、函数编程等…
LangChain 是一个用于构建语言模型应用程序的框架。 LangChain 的安装与环境设置，包括使用 pip 或 conda 安装以及配置 OpenAI API 密钥。核心内容涵盖语言模型（LLM 与 ChatModels）的区别、提示模板（Prompt Template）的使用、输出解析器（Output Parsers）的功能以及链（Chains）的…
Python 装饰器允许在不修改类定义的情况下动态修改行为。深入探讨利用装饰器结合 __getattribute__ 和 __setattr__ 方法，实现对类中公有及私有属性的访问监控与控制。内容涵盖基础概念、属性协议机制、递归风险处理、嵌套应用及性能考量。通过具体代码示例展示了如何拦截属性读写操作，增强代码安全性与可维护性，并对比了与传统 propert…
探讨了当前大模型热潮是否构成泡沫。文章回顾了人工智能发展史上的三次浪潮与两次寒冬，分析了当前大模型在商业化落地中面临的高成本、低回报、幻觉问题、数据枯竭及版权风险等挑战。尽管 Sora 等产品仍处于研发阶段，且推理成本高昂，但作者认为不应忽视其长期价值。通过类比互联网发展历程，指出技术常被高估短期价值而低估长期价值。结论建议行业应正视现实，关注垂直场景应用与…
介绍如何利用 LangChain 框架结合大语言模型（LLM）构建私有化文档搜索系统。通过检索增强生成（RAG）技术解决 LLM 幻觉问题及知识更新滞后性。流程涵盖文档加载、文本分割、向量化嵌入、向量数据库存储、相似度检索及最终回答生成。示例代码展示了使用 PyPDFLoader 读取 PDF，RecursiveCharacterTextSplitter 进…
MM1 论文研究了构建高性能多模态大模型（MLLMs）的方法。通过消融实验，确定了图像编码器分辨率、视觉语言连接器 token 数量及数据混合比例对性能的关键影响。最终方案采用 ViT-H 编码器、144 个 token 的 VL 连接器及特定比例的数据混合。扩展至 3B 至 30B 参数规模后，在 few-shot 评估中取得 SOTA。监督微调阶段引入高…
LangChain 中多种 Chain 链的应用场景与实现方式。涵盖 LLMChain 基础用法、文档处理链、信息提取链、数学计算链、URL 请求链、SQL 查询链、API 调用链、顺序链及路由链。通过具体代码示例展示了如何配置环境、构建提示模板、连接数据库及外部 API，并演示了多链组合与动态路由逻辑。内容旨在帮助开发者快速掌握 LangChain 核心组…
探讨利用 Coze 平台结合 DeepSeek 大模型构建一站式视频制作工作流的方法。通过拆解账号内容要素，设计从文本生成、字幕拆分、批量绘图到音频合成及视频聚合的完整流程。重点介绍了如何优化提示词以提升内容质量，处理异步任务以避免超时，以及选择合适的插件确保配音与画面匹配。该方案旨在解决单一工具功能受限的问题，显著提升短视频创作效率。
Android 项目开发整体架构经历了从传统 MVC 到分层架构、MVP 及 MVVM 的演进。传统 MVC 以 Activity 为核心，维护困难且测试不便。分层架构通过引入 DataManager 层剥离数据处理逻辑，提升复用性。MVP 将 View 与 Model 交互剥离至 Presenter，但存在生命周期绑定问题。MVVM 利用 ViewMode…
演示了如何使用 Python 爬虫技术抓取去哪儿网旅游攻略数据，并利用 pandas 和 pyecharts 进行数据清洗与可视化分析。通过 requests 和 parsel 库获取页面信息，解析出标题、费用、行程等关键字段，最终生成费用分布、出行时间等统计图表，帮助旅行者制定预算合理的出游计划。
AI 辅助产品经理工作的核心方法。首先解析了 Prompt 提示词的五大要素框架，包括角色能力、执行指令、背景信息、输入数据及输出指示。其次对比了豆包和 Sider 两款无需特殊网络操作的 AI 工具特性。最后通过写上线通知、获取解决方案灵感、撰写 PRD、审查文档、命名建议、数据分析及竞品调研七个实际场景，展示了如何利用 AI 提升效率并节省时间。文章强调…
详细阐述了网络安全自学的全流程，涵盖从基础认知到实战就业的四个阶段。内容包括操作系统、网络协议、数据库、开发语言及漏洞原理五大基础模块，强调 Burp、MSF 等工具的使用及 OWASP Top 10 漏洞理解。通过 SRC 挖掘、靶场复现、CTF 竞赛及 HVV 行动提升实战能力。文章分析了自学失败原因并提供克服方法，最后针对简历优化与面试技巧给出建议，旨…
渗透测试是通过模拟攻击者行为发现系统漏洞的安全评估手段。文章详细介绍了白盒、黑盒及灰盒测试的区别，阐述了从信息收集、漏洞检测、漏洞利用到内网渗透的完整流程。重点涵盖了 OWASP Top 10 常见漏洞类型、端口转发技术原理以及权限维持方法。强调所有测试必须获得授权，旨在帮助安全人员掌握系统加固方向，提升整体防御能力。
Web 安全漏洞挖掘的核心技巧与实战流程。涵盖 SQL 注入、后台管理、业务逻辑（支付、越权）、通用 CMS 漏洞的发现方法，重点讲解了 Google Dorks 和 FOFA 等搜索语法的应用。同时提供了漏洞提交的标准化规范，包括报告要素、证据材料及修复建议。文章强调在测试过程中需遵循法律法规，坚持授权测试原则，确保数据安全与业务稳定。
