博客作者
这位作者暂未填写个人简介。
223
已发布文章
1.5K
博客获赞
25K
博客浏览
第 10 页
智算中心建设通过领先的体系架构设计，涵盖基础、支撑、功能和目标四大部分。技术演进聚焦 AI 芯片、服务器、集群及大模型，依托智算 OS 进行资源调度。建设路线强调算力基建化、算法基建化、服务智件化及设施绿色化。应用场景包括自动驾驶、机器人、智慧医疗、文娱创作及科研领域，旨在促进 AI 产业化与产业 AI 化，推动政府治理智能化。
深入解析 Android Framework 核心源码，涵盖系统启动流程、Binder 跨进程通信、Handler 消息机制、AMS 活动管理、WMS 窗口管理、Surface 图形渲染、SurfaceFlinger 合成、PKMS 包管理、InputManager 输入处理及 DisplayManager 显示管理等十大关键模块。文章详细阐述了 Init、…
SELF-Instruct 是一种利用大语言模型自身生成多样性指令的技术，旨在解决微调数据稀缺问题。该方法通过 Bootstrap 策略，基于少量种子指令迭代扩充指令集。核心流程包括新指令生成、样本生成及过滤后处理。生成阶段利用 Few-shot Prompt 引导模型产出多样化任务；样本生成阶段根据任务类型调整输入输出顺序；过滤阶段通过长度、关键词及 Ro…
阐述了 AI 产品经理的核心职责包括数据分析、市场洞察及用户体验设计等关键领域。详细解析了必备的技术知识如机器学习基础、产品管理技能如敏捷开发，以及跨领域的商业智能能力。文章深入探讨了理解 AI 技术原理、数据隐私伦理的重要性，并提供了从想法验证到原型构建的策略流程。通过团队协作、利益相关者管理及案例分析，为读者提供了一套完整的 AI 产品从概念到落地的方法…
通用版面分析技术将文档图像转化为结构化数据。介绍使用 PaddleX 进行服务化部署的步骤，包括安装插件、启动服务及配置参数。提供 Python 客户端调用示例，展示如何通过 HTTP 接口获取布局元素信息。内容涵盖服务发布、应用集成及针对 RAG 场景的数据处理优化，帮助构建智能文档识别平台。
综述了 GraphRAG 全栈技术的最新进展，详细解析了其核心框架与关键组件。文章对比了传统 RAG 与 GraphRAG 的区别，指出后者在处理异构关系信息上的优势。重点阐述了查询处理器、检索器、组织者和生成器四大组件的技术细节，包括实体识别、图遍历、图剪枝及 LLM 融合等方法。同时总结了 GraphRAG 在知识图谱、文档管理、社交网络等领域的应用场景…
AI 产品经理是科技行业的关键角色。本书《AI 赋能：AI 重新定义产品经理》专为该岗位设计，涵盖 AI 基础知识、产品设计、开发流程及实战案例。内容涉及 AI 历史、技术原理、敏捷开发、AI 思维及产品美学，并通过金融、医疗、零售等多个行业的实例展示 AI 落地应用。适合初学者及转型从业者阅读，有助于建立系统的 AI 产品思维体系。
深入解析 OpenAI 发布的 GPT-4o 模型，重点探讨其原生多模态能力、极低延迟响应及端侧部署特性。文章详细列举了 GPT-4o 在教育辅导、多智能体协作、语言学习、会议助手、同声传译、情感交互、语速控制、视障辅助及生活建议等场景的实际应用案例。通过分析其统一编码器的技术架构优势，阐述了该模型对教育、翻译、无障碍技术及软件开发等行业的影响，并展望了端侧…
大语言模型（LLM）是人工智能领域的核心工具，基于深度学习技术实现自然语言的理解与生成。系统梳理了 LLM 的基础概念、发展历史及与 NLP 的关系，重点探讨了提示词工程、本地知识库构建（RAG）、LangChain 框架以及智能体（Agent）与工作流的应用实践。内容涵盖从基础理论到实际落地的关键技术点，包括参数规模影响、离线与在线模型选择、向量数据库检索…
大模型生成回复中解决复读机问题的核心原理。涵盖 PyTorch 常用算子基础，深入分析 Contrastive Search、Multinomial Sampling 及 Beam Search 三种搜索策略的实现机制。重点解读 Temperature、Top-K、Top-P 及 Repetition Penalty 等解码参数对 logits 的处理逻辑，…
混合专家模型（MoE）是一种通过动态选择专门子模型来处理输入的神经网络架构，旨在提高效率和可扩展性。文章详细介绍了 MoE 的核心组件，包括专家、门控网络和稀疏激活机制，并回顾了其在深度学习中的历史演变，从早期的局部专家自适应到现代大规模 NLP 模型如 Switch Transformer 的应用。MoE 通过在推理时仅激活部分专家，显著降低了计算成本，同…
详细解析了大模型产品经理面试中的高频问题，涵盖模型推理能力的定义与分类、LtM 及 Few-shot-LtM 提示策略的执行流程、Llama 与 Llama2 的技术差异及微调步骤。内容补充了大模型产品经理所需的全栈视野、场景落地能力及行业洞察，旨在帮助从业者系统梳理 AIGC 领域的核心技术概念，提升面试通过率与岗位胜任力。
深入探讨了 RAG 技术在落地场景中的关键优化技巧与实战经验。内容涵盖知识加工流程（加载、切片、多元信息抽取、存储）及检索链路优化（查询改写、多策略召回、重排序）。重点介绍了知识图谱、Doc Tree、元数据过滤等增强手段，以及静态知识与动态工具结合的 RAG 架构。通过运维与金融财报两个实际案例，展示了如何通过严谨的流程设计与混合召回机制提升系统专业性与准…
Selenium 是强大的浏览器自动化工具，广泛用于网页测试和爬虫开发。详细介绍基于 Python 的 Selenium 环境搭建、元素定位方法（XPath/CSS）、交互操作（点击/输入/滚动）、显式等待机制以及常见的反爬对抗技巧（如隐藏 webdriver 特征、处理滑块验证）。同时涵盖 Cookie 管理以维持登录状态，并提供完整的代码示例与最佳实践建…
详细解析了深度学习中的主流并行训练算法，涵盖数据并行（DDP）、流水线并行（PP）、张量并行（TP）、序列并行（SP）及零冗余优化（ZeRO）。文章首先区分了模型数据与非模型数据的内存占用，随后阐述了各类并行技术的核心机制、优缺点及适用场景。重点介绍了 ZeRO 如何通过分片优化器状态、梯度和参数来消除显存冗余，并结合硬件互联特性分析了通信开销对性能的影响。…
系统梳理了从零开始掌握大规模语言模型（LLM）的七个阶段学习路径。涵盖数学与编程基础、机器学习理论、深度学习框架、自然语言处理核心概念，以及 Transformer 架构原理与大模型应用开发。内容包含环境搭建、关键算法解析、代码示例及进阶方向，旨在帮助学习者建立完整的知识体系，具备实际项目落地能力。
基于 W&B 发布的白皮书，系统梳理了从零开始训练大型语言模型（LLM）的最佳实践。内容涵盖是否自建模型的决策依据、三种训练路径对比、数据与模型扩展性平衡策略、张量/数据/流水线并行技术详解、训练稳定性优化方案以及基于人类反馈的强化学习（RLHF）流程。旨在为研究者和工程师提供从数据处理到模型部署的全链路技术指导。
Ollama 是一款支持在本地运行大型语言模型的开源工具，兼容 Linux、Windows 和 macOS 系统。 Ollama 的安装方法、常用命令、硬件配置要求及自定义模型文件 ModelFile 的配置方式。同时涵盖了 Web UI 交互工具的使用、API 接口调用以及日志调试技巧，帮助用户快速搭建私有化大模型环境并进行高效开发。
基于 LangChain 框架的大模型应用开发流程与架构。内容涵盖从确定目标、设计功能、搭建架构到数据库构建、Prompt 工程及前后端开发的完整步骤。重点解析了个人知识库助手系统的四层架构（LLM 层、数据层、数据库层、应用层与服务层），并提供了向量数据库选型与验证迭代的方法。适合具备基础 Python 技能的开发者快速入门大模型应用构建。
Transformers 是 Hugging Face 推出的深度学习库，支持文本、视觉和音频任务。介绍安装方法、核心组件 Pipeline 及 Model 的使用，涵盖情感分析、目标检测等示例，并提供最佳实践建议。内容包含环境搭建、代码实战、模型保存加载及性能优化方案。
