博客作者
花哨夺目
334
已发布文章
10K
博客获赞
521K
博客浏览
第 16 页
Android 开发行业初级市场趋于饱和，中高级人才需求增加。梳理了 Android 开发者进阶的八大核心模块，涵盖 Java 基础、框架源码、性能优化、Kotlin 强化、UI 框架、NDK 开发、Flutter 跨平台及微信小程序。旨在帮助开发者构建系统化知识体系，掌握大厂面试重点技术，实现从初中级向高级工程师的职业转型，应对行业技术挑战并提升核心竞争力…
大模型在多 GPU 环境下的分布式训练并行策略。涵盖数据并行（DP/DDP）、模型并行（张量并行 TP/流水线并行 PP）及混合并行（HP）。分析了各策略的原理、优缺点及适用场景，如 DP 适合单机多卡，TP 解决显存不足，PP 处理层间通信。最后提供了单节点与多节点环境下的策略选择建议，帮助开发者根据硬件资源和模型规模优化训练效率。
Meta Llama 3 作为最新开源大模型，基于超过 15T token 训练，支持 8K 上下文及 128K 词汇量。采用分组查询注意力（GQA）提升效率，在推理、代码生成等基准测试中表现优异。引入 Llama Guard 2 增强安全性，并计划推出更大规模参数模型及多模态版本，推动 AI 技术发展。
针对零基础用户，梳理了从零掌握人工智能（AI）的五阶段学习路径。内容涵盖澄清常见误解、建立基础认知、日常场景实践、定制应用开发及工作流闭环搭建。通过消除畏难情绪并提供可落地的行动指南，帮助用户从单纯使用者逐步进阶为能够构建 AI 应用的开发者，系统提升对 AI 技术的理解与应用能力。
文章探讨了 AI 大模型作为工业革命级别机遇的行业背景，分析了通用模型与垂类模型的分化趋势，对比了开源与闭源模型的优劣势。详细介绍了 GPT-4、Claude 3.5、Llama 3 等代表性模型的技术特性与多模态能力。同时深入剖析了当前 AI 领域的人才市场供需状况，提供了国内外大模型相关岗位的薪资数据，并总结了从业人员所需的核心技能栈及未来端侧 AI 的…
在 MacBook 和 Windows 笔记本上部署 BioMedGPT-LM-7B 大模型的完整流程。涵盖环境搭建（Conda、Python、PyTorch）、模型下载（Git、HuggingFace 工具、手动下载）、加载与推理步骤。通过 transformers 库实现文本生成，包含常见内存优化方案及故障排查指南，适合无 GPU 资源的工程师入门体验本…
Agent 是具备感知、规划、行动能力的智能系统。基于 LlamaIndex 框架，详解 Agent 的核心原理与实现方式。通过代码示例展示了工具调用（Function Tool）和检索增强生成（RAG）的集成方法，并探讨了 Agent 的记忆机制。内容涵盖从基础定义到复杂场景的完整构建流程，帮助开发者快速掌握 LLM 应用开发中的智能体技术。
AutoGen 框架中代码执行器的配置与使用，涵盖 Docker 与本地命令行两种执行模式的安全差异。详细讲解了 AssistantAgent 与 UserProxyAgent 的初始化参数及默认行为，并通过实际案例演示了从任务下发、代码生成、依赖安装到结果验证的完整自动化流程。文章强调了容器隔离的重要性，提供了常见问题的排查思路及最佳实践建议，帮助开发者构…
如何使用 Ollama 本地部署大语言模型，结合 ChromaDB 向量数据库和 LangChain 框架构建本地 RAG 问答应用。内容包括环境配置、模型加载、网页内容解析与分块、向量化存储、提示词工程以及使用 Gradio 构建交互界面。通过该方案可实现基于私有数据的离线智能问答，无需依赖云端 API。同时补充了常见问题处理与性能优化建议，帮助用户更好地…
大模型应用开发涉及对语言模型原理的理解及实际工程落地。涵盖 GPT 系列模型架构演变、OpenAI API 调用方法、基于 LangChain 的应用构建流程，以及提示工程与模型微调的核心技术。内容包含 Python 代码示例，旨在帮助开发者掌握从基础接入到垂直领域优化的完整技能栈，解决幻觉问题并提升系统安全性。
基于 Docker 部署 FastGPT 与本地大模型的完整流程。内容涵盖 Docker 及 Compose 的安装配置，FastGPT 的快速部署方法，OneAPI 作为模型网关的渠道配置（包括线上零一万物模型与本地 Ollama 模型），以及 M3E 向量模型的接入以实现 RAG 知识库功能。文章还补充了网络安全加固建议、常见故障排查技巧及性能优化方案，…
详细解析了大型语言模型的三种核心架构：仅编码器、仅解码器及编解码器结构。文章阐述了 Transformer 模型的基础组件，包括自注意力机制、多头注意力、位置编码及残差连接，并通过对比表格总结了不同架构的适用场景与优缺点。内容涵盖从理论定义到实际应用任务的全面介绍，帮助读者深入理解 LLM 的结构原理。
回顾了 2023 年至 2024 年人工智能在训练、性能及企业应用方面的进展，重点分析了 2025 年的三大发展趋势。文章指出，企业 AI 重心正从训练转向推理，面临延迟、扩展、环境和成本等挑战。未来将呈现三大趋势：一是复合人工智能系统取代单一模型，通过多模型协作和工具调用提升复杂任务处理能力；二是加强可观测性与评估，建立自动化监控体系以确保模型行为符合预期…
深入解析了 Transformer 架构及其在大型语言模型中的应用，涵盖编码器、解码器及混合架构的区别，详细阐述了 GPT 系列的因果语言建模机制。内容还介绍了多模态模型（LMMs）的架构与训练目标，对比了专有、开放及开源模型的特点，并探讨了 LLM 在医疗、金融、编程等领域的实际用例与伦理风险。
详细解析了大模型开发转行所需的知识体系，涵盖编程语言、数学基础、机器学习及深度学习核心内容。介绍了从入门到精通的四阶段学习路线，包括编程基础、深度学习理论、NLP 技术及实战项目。通过医疗行业案例展示了 BERT 与 ResNet 的应用流程，并分析了当前岗位需求与薪资水平，为从业者提供系统化的技术掌握标准与职业发展建议。同时补充了经典书籍、在线课程及开源社…
深入解析向量数据库的核心原理，涵盖从 GPT Token 限制背景下的需求出发，介绍向量嵌入技术如何将非结构化数据转化为高维向量。详细阐述了相似性搜索算法如 K-Means、HNSW、LSH 及乘积量化 PQ 的实现机制与权衡。同时对比了欧几里得距离、余弦相似度等测量方法，探讨了元数据过滤策略。最后分析了分布式架构、安全性及 API 设计等选型要素，并列举了…
一款名为 FreeAskInternet 的开源本地 AI 搜索聚合器。该项目基于 Python FastAPI 开发，支持 Docker 一键部署，无需 GPU 即可运行。核心功能是通过调用多个搜索引擎获取结果，并利用大语言模型生成综合回答。文章详细阐述了技术架构、部署步骤、环境变量配置、常见网络故障排查以及模型 Token 获取方法。此外，还分析了其在隐…
基于 Vue.js 和 fetch-event-source 库实现 AI 大模型流式对话接口的技术方案。通过模拟后端 SSE 或 Server-Sent Events 的 POST 请求方式，前端能够实时接收并渲染大模型生成的文本内容。核心逻辑包括使用 AbortController 管理请求生命周期、维护消息列表状态以实现历史对话展示、以及利用 Mark…
LangChain 框架的基本概念、安装配置及核心组件。内容包括环境搭建、模型与提示词管理、内存机制、索引检索以及链式调用。通过智能客服、知识库问答和自动化代理三个实际案例，展示了 LangChain 在构建 AI 应用中的具体用法。此外，文章还总结了 Token 成本控制、错误处理、安全性及常见问题排查的最佳实践，为开发者快速上手 LangChain 提供…
Flutter Web 应用在浏览器刷新后，由于引擎重启导致页面栈丢失，使得 Navigator.pop 和浏览器回退按钮失效。提出通过 localStorage 维护备用路由栈，结合 beforeunload 和 popstate 事件监听来解决此问题。方案要求使用静态路由跳转，需注意回调失效及临时数据丢失等局限性。同时对比了 Navigator 2.0…
