博客作者
战无不胜
357
已发布文章
11K
博客获赞
750K
博客浏览
第 17 页
详细记录了在 Macbook Pro M2 Max 环境下本地部署 Meta Llama 3 大语言模型及集成 LangChain 框架的全过程。内容涵盖环境搭建、Ollama 安装、基础调用测试、RAG 检索增强生成应用构建以及 70B 大模型的部署与性能对比。文章重点解决了 Conda 权限、模型版本兼容性及 FAISS 依赖等常见技术问题，并分析了 A…
探讨了模版方法模式与大语言模型（LLM）的结合应用。通过 JavaScript 代码演示了如何在面向对象编程中实现模版方法模式，并利用 OpenAI API 将自然语言指令转化为结构化步骤。文章涵盖了基础集成示例、进阶的动态流程生成以及结合时的最佳实践，包括提示词工程、异步处理、错误处理和安全性考量。这种跨领域应用展示了如何利用 AI 增强软件设计的灵活性与…
综述了 AI Agent 的核心概念、架构设计及开源实践。AI Agent 是将 LLM 思想链接到一起，自主实现用户设定目标的系统，其核心在于目标设定、规划分解及迭代执行。主要组成部分包括感知、记忆、规划、执行和反思模块。规划策略涵盖思维链 CoT、思维树 ToT、ReAct 及 ReWOO 等方法。文中对比了 LLM 与 Agent 在训练方式、功能定位…
检索增强生成（RAG）技术通过整合外部知识库，有效解决了大型语言模型在特定领域知识缺失及生成幻觉问题。基于剑桥大学博士论文，探讨了 RAG 在多模态问答（VQA）中的应用，包括 RA-VQA 框架、FVQA 2.0 数据集构建、细粒度多模态检索器 FLMR 及 TableQA 中的检索策略。研究展示了联合训练检索器与生成器、引入对抗样本增强鲁棒性以及显式信号…
基于人类反馈的强化学习（RLHF）通过引入人类偏好优化大模型输出。其核心框架包含强化学习算法、行动、环境、观察和奖励机制。InstructGPT 训练分为三个阶段：监督微调（SFT）、奖励模型训练（RM）及 PPO 策略优化。该方法解决了传统训练在主观任务上的局限性，使模型更贴合人类意图。详细解析了 RLHF 的技术原理、实施步骤、PPO 与 KL 散度约束…
GraphRAG 是微软开源的结合知识图谱的检索增强生成技术。相比传统 RAG 仅基于文本块切片，GraphRAG 通过提取实体和关系构建全局知识图谱，能更准确回答复杂问题。 GraphRAG 的安装、配置、索引构建及查询方法，对比了全局与局部查询模式，并分析了使用本地大模型的优缺点。尽管构建成本较高，GraphRAG 在逻辑推理和跨文档关联分析方面具有显著…
Andrej Karpathy 指出大模型分词器存在类似 SQL 注入的安全漏洞。用户输入的特殊字符可能被解析为控制 Token，导致模型行为异常或指令混淆。文章分析了该漏洞的成因，包括特殊 Token 的自动添加与字符串解析冲突，并提供了在 HuggingFace 和 tiktoken 中的具体修复方案，如禁用自动添加特殊 Token 标志。此外还探讨了训…
Python 是一门简单易懂且应用广泛的编程语言，适用于数据分析、自动化办公及 Web 开发等领域。 Python 的安装配置、主流编辑器（PyCharm、VS Code、Jupyter）的使用，以及基础语法核心知识点。内容包括变量定义、数据类型、运算符、条件判断、循环结构、列表与字典等数据结构、函数定义、模块导入、文件操作及异常处理机制。文章旨在帮助初学者…
葫芦娃救爷爷问题通过数学建模分析不同营救策略的成功率。模型设定爷爷每日存活概率为 5/6，单个葫芦娃击败蛇精概率为 1/7，共 6 次尝试机会。通过枚举所有可能的分配方案并计算加权概率，发现平均每次派遣一名葫芦娃的策略成功率最高，约为 39.66%。使用 Python 实现概率计算与蒙特卡洛模拟验证，展示了组合优化在决策中的应用。
详细综述了大语言模型的关键技术环节。首先分析了训练所需的硬件环境，包括 NVIDIA GPU 的主导地位及国产芯片现状。其次阐述了 Encoder、Decoder 及 Encoder-Decoder 三大架构及其核心组件 Transformer 原理。接着深入探讨了分布式训练框架与数据、模型、流水线并行策略。随后介绍了全量微调与 LoRA 等参数高效微调技术…
小红书在 CIKM'24 提出的 AlignRec 框架，旨在解决多模态推荐系统中存在的语义鸿沟及模态对齐难题。文章分析了当前推荐系统依赖 ID 特征带来的局限性，阐述了多模态信息在辅助学习中的挑战，包括内容模态间对齐、内容模态与 ID 模态对齐以及用户物品表征对齐。AlignRec 框架通过 Multimodal Encoder、Aggregation 和…
大模型（LLM）、检索增强生成（RAG）和智能体（Agent）是人工智能发展的关键技术。文章阐述了三者定义与层级关系，介绍了 LLM 的工程化实践如 GPTs 和 API，详细说明了 RAG 技术原理及向量数据库选型，并通过 Python 代码对比了不同嵌入模型在 Chroma 中的推理效果。此外，还探讨了智能体的概念、开发思想及与 LangChain 的集…
Rsnapshot 是基于 rsync 的免费开源备份工具，支持增量备份和硬链接以节省空间。在 Alpine、Arch、Debian、CentOS 等 Linux 发行版中的安装方法，详细说明了如何配置无密码 SSH 认证、编辑 rsnapshot.conf 设置备份间隔与目录、以及通过 cron 实现定时备份。此外还涵盖了验证备份结果及文件恢复的基本操作，…
LangChain 是基于大语言模型构建端到端应用的框架，涵盖模型接口、提示模板、数据检索、记忆管理、链式调用及代理机制。 LangChain 的六大组件与开源库结构，演示了从环境配置、基础调用、提示工程到输出解析的完整流程。内容重点讲解了如何利用 FAISS 向量存储构建 RAG 检索链，结合历史对话实现智能问答，并通过 Agent 工具扩展模型能力。最后…
介绍了 LangChain 中 LLM 抽象层的概念，演示了如何通过继承基类实现自定义 LLM，并提供了基于讯飞星火 WebSocket API 的完整封装示例，包括鉴权逻辑与调用方法。
通用机器人模型面临数据收集难与泛化性差的异构性障碍。MIT 与 Meta FAIR 团队提出异构预训练 Transformer（HPT）模型，通过共享神经网络主干对齐不同本体视觉输入，学习与任务和形态无关的表示。实验表明 HPT 在模拟器和真实世界中将未见任务微调策略性能提升 20%，并被 NeurIPS 2024 接收为 Spotlight。文章深入解析了…
LoRA 是一种参数高效微调方法，通过低秩分解模拟权重更新，显著降低训练成本。系统总结了 LoRA 的核心原理、数学推导及实战经验，涵盖从基础概念到高级优化的完整知识体系。内容包括 Rank 与 Alpha 参数选择策略、内存优化技巧、与全量微调的对比分析，以及基于 HuggingFace PEFT 的代码实现示例。此外，还介绍了 DoRA、QLoRA 等进…
详细阐述了 AI 产品经理的工作全流程，涵盖需求定义、模型预研、数据准备、模型构建、验证、宣讲及上线监控等关键环节。以筛选薅羊毛用户为例，解析了如何定义业务目标、选择算法模型、进行特征工程以及评估模型性能。文章强调了数据质量对模型上限的决定作用，介绍了过拟合与欠拟合的平衡方法，并补充了模型上线后的持续监控与反馈机制。此外，还特别提及了 AI 应用中的伦理合规…
8 个提升 Python 数据分析效率的实用技巧。内容涵盖列表推导式简化循环、Lambda 表达式定义匿名函数、Map 与 Filter 实现函数式编程、NumPy 的 Arange 与 Linspace 生成序列、Pandas 中 Axis 维度的理解、DataFrame 的 Concat/Merge/Join 合并策略、Apply 函数的向量化应用以及…
深入对比了 Python 与 C++ 两种编程语言的特性。文章涵盖了语言概述、编译执行机制、内存管理、性能表现及代码示例。重点分析了 Python 在数据科学、AI 及 Web 开发领域的优势，以及 C++ 在系统编程、游戏开发和嵌入式系统中的高性能应用。通过并发模型与生态系统的对比，提供了基于项目目标、团队技能和维护成本的选型指南，帮助开发者根据实际需求选…
