博客作者
潜行于暗
325
已发布文章
8.5K
博客获赞
573K
博客浏览
第 16 页
RLHF 并非等同于 PPO，其核心在于利用人类反馈优化语言模型。 RLHF 训练中的常见思维误区，包括对 PPO 算法的过度依赖、重要性采样在数据充足场景下的必要性降低、Critic Model 在特定任务中的价值以及 Reward Model 可被 Verifier 替代的可能性。通过梳理 RL 发展史及 GAE、Advantage 函数等基础概念，指出…
介绍如何使用 OpenAI、LangChain、LangGraph 和 MongoDB 构建具备工具调用和记忆功能的 AI Agent。通过配置环境变量，集成 Tavily 搜索工具，利用 LangGraph 编排节点流程，并结合 MongoDB 实现对话状态的持久化存储。最终实现一个能够自主决策、联网搜索并保存多会话记录的智能助手。
探讨了大型语言模型在爬虫数据提取领域的应用与实践。通过豆瓣电影列表的实测案例，展示了如何利用 Prompt 工程替代传统的 XPath 或 JS 逆向技术，将非结构化 HTML 转换为 JSON 数据。文章对比了两种技术路线在开发难度、维护成本及准确率上的差异，并提供了基于 Python 的完整代码实现框架。同时分析了当前方案在稳定性、隐私合规及成本控制方面…
系统介绍了大语言模型（LLM）的技术体系，涵盖 Transformer 架构原理、NLP 与多模态模型分类、Python 开发工具链及 Hugging Face 生态使用。重点讲解了提示词工程技巧、LangChain 应用开发流程以及 LoRA 参数高效微调方法，并提供了代码示例。文章还分析了行业人才需求与技能进阶路径，旨在帮助开发者从零开始构建大模型应用能…
探讨大语言模型（LLM）与信息检索（IR）技术的融合。首先分析利用 LLM 提升检索效果的方法，包括作为基座模型及重排序器；其次介绍检索增强生成（RAG）技术及其优化策略，如输入优化、指令微调与预训练。接着提供了企业知识库问答等典型应用场景及代码示例，并讨论了评估指标。最后总结了应用建议与未来研究方向，涵盖混合检索、多模态检索及主动触发机制，旨在构建更智能、…
深入探讨 AI 大模型学习的核心理论基础，涵盖线性代数、概率论及深度学习算法原理。详细解析了 Transformer 架构、模型训练优化策略如分布式训练与参数压缩，并分析了在自然语言处理、图像识别等领域的应用案例。同时讨论了数据隐私、算法偏见等伦理问题，展望了跨模态学习与自监督学习的未来趋势，为开发者提供全面的技术指南。
大模型 AI 产品经理需要构建跨学科知识体系。学习路线始于计算机科学基础，包括数据结构、算法及 Python 编程，同时掌握数据库操作。进阶至人工智能领域，需理解机器学习原理、深度学习组件及模型训练评估。在大模型技术层面，应熟悉定义发展、应用场景，掌握分布式训练、模型压缩及 AutoML 方法。产品管理部分强调用户研究、产品设计、商业计划书撰写及市场分析。实…
精选了 25 本网上引用最多的经典 Python 书籍，涵盖入门、进阶、数据分析、机器学习及系统管理等方向。内容包括《Python 学习手册》《流畅的 Python》《Python 编程：从入门到实践》《Python 数据科学手册》等知名著作，详细介绍了各书的作者、内容简介及适用人群。文章最后提供了针对不同学习阶段和需求的选书指南，帮助开发者根据自身情况选择…
AI 算法基础是 AI 产品经理与研发团队沟通的核心能力。涵盖机器学习、深度学习及强化学习的定义与经典算法，解析算法、算子与模型的区别，梳理 NLP、大数据决策及图像识别领域的常用算子与算法。重点对比 LightGBM 与 XGBoost 的差异，阐述 LSTM 组合应用，详解 RAG 检索增强生成技术及向量知识库结合方案。此外，还介绍了生成式 AI 主流算…
AIGC 技术涵盖生成式人工智能的核心领域，包括大语言模型、扩散模型和多模态架构。系统介绍了从基础神经网络到高级生成模型的原理，涵盖 CNN、RNN、Transformer、VAE、GAN、StyleGAN、DDPM 及 CLIP 等关键技术。内容涉及 PyTorch 实践、注意力机制、RLHF 优化及数学基础，旨在帮助读者建立完整的 AIGC 技术认知框架…
探讨了 AIGC 技术在金融行业的落地应用与前景。文章指出并非所有智能化问题都需要大模型，需回归业务价值。主要应用场景包括营销素材生成、智能客服、私人助理及内部研发提效。落地难点集中在政策监管、效果成熟度、成本 ROI 及人才储备。未来 3-5 年将迎来大规模应用期，建议优先在非核心数据场景尝试，采用混合部署模式，并注重培养懂业务又懂技术的复合型人才。
网络安全入门所需的核心技能与攻防原理。内容包括黑客定义与道德规范、编程语言（C/C++/Python/Bash/汇编）的重要性、Linux 操作系统的使用、渗透测试全流程（信息收集、端口扫描、漏洞利用、提权、持久化、痕迹清除）以及防御措施。文章强调了合法合规的原则，指出未经授权的攻击是违法行为，并建议初学者通过虚拟机搭建实验环境，遵循最小权限原则，定期更新系…
深入剖析 Transformer 架构中自注意力机制的设计动机。对比传统 RNN 和 CNN 在序列建模上的局限性，如长依赖处理难、计算串行化等，阐述自注意力机制在计算复杂度、并行化能力及路径长度上的三大优势。详细解释了缩放点积注意力、多头注意力及位置编码等核心组件。结合 WMT 2014 翻译任务数据及多模态应用前景，论证其成为当前主流架构的原因。
SRC 漏洞挖掘是安全研究人员通过合法途径发现并报告厂商产品安全漏洞以获取奖励的过程。 SRC 的定义与价值，列举了 HackerOne、Bugcrowd 等主流平台，阐述了从信息收集、漏洞发现到报告提交的标准流程。内容涵盖 Web 安全基础、Burp Suite 工具使用、常见漏洞原理及修复方案，强调法律合规与道德规范，并提供持续学习与技能提升的建议，旨在…
网络安全行业面临百万级人才缺口与招聘难并存的矛盾。政策驱动下合规需求激增，但高校教育重理论轻实践导致毕业生实战能力不足。企业端存在意识差异、招聘渠道封闭及岗位细分认知偏差等问题。解决之道在于强化实战训练，通过 CTF、靶场演练提升技能匹配度，同时呼吁企业完善人才培养机制。
详细阐述了在 Windows 环境下利用 LLaMA-Factory 框架对 Qwen2.5-7B-Instruct 大模型进行微调的完整流程。内容涵盖从系统环境配置、CUDA 工具包安装、Python 虚拟环境搭建，到数据集准备、参数配置及训练执行。随后介绍了如何将微调后的 LoRA 权重转换为 GGUF 格式，并通过 Ollama 进行本地化部署与推理调…
大语言模型（LLM）的微调策略，重点阐述了参数高效微调（PEFT）技术。文章首先分析了微调的应用场景，包括语言学习、可控输出、角色定制及小参数模型优化。随后深入探讨了 PEFT 的三大类别：基于添加、选择和重新参数化的方法，并具体讲解了适配器（Adapters）、低秩适配（LoRA）和 IA3 的原理与优势。文中还提供了基于 Hugging Face 库的…
百度旋转验证码 v2 逆向分析涉及 init、style、log 三个核心接口交互。重点解析了 fs 参数的生成逻辑，该参数由轨迹、角度及 backstr 等数据经 AES 加密生成。密钥 key 通过 as 参数结合 appsapi2 字符串，根据末尾字符动态选择 MD5、SHA1、SHA256、SHA512 或 SHA3 算法截取前 16 位获得。新版填…
本研究调查了大型语言模型（LLM）解决旅行商问题（TSP）的潜力。利用 GPT-3.5 Turbo，实验涵盖零样本上下文学习、少样本上下文学习和思维链（CoT）。对模型进行微调后，其在训练实例大小问题上表现良好，并能推广到更大问题。此外，采用自集成方法在不增加训练成本的情况下提高了解决方案质量。
两数之和是 LeetCode 高频面试题，核心在于快速定位数组中和为目标值的两个数。方案一暴力枚举遍历所有组合，时间复杂度 O(N²)；方案二利用哈希表记录已访问元素索引，将查找成本降为 O(1)，整体复杂度优化至 O(N)。Java 实现中需注意哈希表插入时机，确保当前元素不与自身匹配。该题是理解空间换时间思想的经典案例。
