博客作者
快乐疯子
318
已发布文章
10K
博客获赞
563K
博客浏览
第 15 页
大模型开发环境的搭建流程，涵盖 Python 安装配置、VSCode 编辑器设置以及 API Key 的安全管理方法。通过详细的代码示例演示了如何使用 Python SDK 调用大模型接口，并对关键参数如 temperature 和 max_tokens 进行了原理解析。内容旨在帮助开发者快速入门大模型应用开发，解决环境配置难题并提供基础实践指导。
介绍 ChatGLM3 大模型的本地化部署流程、应用开发框架及微调技术。涵盖 PyTorch 环境搭建、Gradio 可视化部署、LangChain 知识图谱构建、提示工程优化、思维链推理、GLM 架构解析、QLoRA 低资源微调以及工具调用与财务数据分析等核心内容，旨在帮助开发者掌握大模型从理论到实践的全链路技能。
Ollama 是一个用于在本地部署和管理开源大语言模型的框架，支持 Mac、Windows 和 Linux 系统。通过简单的命令行即可安装并运行如 Llama2、Mistral 等模型。它提供 REST API 接口，便于集成到 IDE 插件或其他应用中。配置上支持局域网访问、指定 GPU 运行及自定义模型存储路径。此外，用户可通过 Modelfile 创建…
详细阐述了大规模语言模型（LLM）的基本概念、发展历程及技术架构。文章介绍了从 Word2Vec 到 Transformer 再到 GPT 系列的演进路径，分析了预训练、有监督微调和强化学习（RLHF）三大核心训练阶段。同时探讨了大模型面临的算力成本挑战及业界解决方案，并对涌现能力、思维链、LoRA 等关键技术术语进行了定义。内容涵盖 NLU 与 NLG 分…
详细阐述了大模型的定义、本质及核心技术架构，分析了语言、视觉及多模态大模型的分类与应用层级。文章深入探讨了大模型产业链的硬件、软件、模型及应用层生态，介绍了 GPT-4、PaLM 2、Gemini、LLaMA 3 及 Mistral 7B 等国际主流模型的特点。此外，还展望了模型规模增长、多模态深化、安全性提升及垂直行业深化等未来趋势，并补充了 RAG、智能…
总结了 AI 提示词的核心应用与防御策略。内容包括提示词编写的四大原则与九项技巧，介绍了 RTF、CTF、TREF、GRADE、PECRA 等结构化思维框架及逆向工程方法。同时详细分析了 Prompt 注入攻击案例，并提供了基于分类器、输入防御及 OpenAI Moderation API 的防护方案。最后简述了从系统设计到微调开发的大模型学习路径，旨在帮助…
探讨了利用 LangChain 与大语言模型自动化生成测试用例的方案。针对传统工具存在的响应慢、Token 限制等痛点，提出了结合向量数据库与记忆模块的自研方案。通过 PDF 解析、文本切割、Memory 管理及向量检索等技术手段，实现了测试用例的快速生成。实测显示在小型需求中提效约 50%，用例覆盖更全面。方案支持全文生成与局部聚焦两种模式，但也存在对复杂…
LightRAG 是一种基于图结构索引和双层检索机制的检索增强生成系统，旨在提升大型语言模型在信息检索中的准确性和效率。它通过捕捉实体间的复杂依赖关系，全面理解信息，处理具体和抽象查询。系统具备快速适应新数据的能力，基于增量更新算法及时整合新数据，无需重建整个知识库。支持多种搜索模式，包括朴素、本地、全局及混合搜索，适用于动态环境下的知识管理。
aisuite 是由吴恩达推出的基于 Python 的大模型统一接口工具包。它整合了 OpenAI、Anthropic、Google 等多个主流服务商，提供标准化调用方式。详细介绍其安装配置、核心功能、代码示例及架构原理，帮助开发者快速集成不同大模型，降低开发门槛并提升效率。内容涵盖基础调用、流式输出、异步处理、安全配置及扩展开发指南，适用于快速原型开发与生…
开源 LLM 应用开发平台 Dify 的核心功能、架构设计及部署方法。内容涵盖可视化工作流构建、多模型支持、RAG 管道实现、Agent 代理功能及 LLMOps 可观察性。提供了基于 Docker 的快速安装步骤、生产环境部署建议以及 Python API 集成示例。文章旨在帮助开发者理解 Dify 的技术原理，掌握从原型到生产的完整落地流程，解决数据隐私…
详细对比了 GraphRAG 与传统 RAG 在适用场景、知识表示、检索机制、综合查询、隐藏关系理解、可扩展性及性能成本七个维度的差异。GraphRAG 擅长处理复杂关系推理和多跳查询，但成本较高；传统 RAG 适合简单事实性问答。文章提出了基于智能路由系统的融合方案，建议根据查询意图动态分配向量检索或图谱检索路径，以平衡精度与效率。
大模型微调是通过特定领域数据对预训练模型进行优化以提升特定任务性能的技术。文章详细阐述了微调的定义、核心原因及与超参数优化的关系，介绍了 Hugging Face 平台及其优势。内容涵盖微调的四个核心步骤、RLHF 强化学习流程、全量微调与参数高效微调（PEFT）的区别，重点解析了 LoRA、Adapter 等 PEFT 技术原理。此外，提供了典型数据集格式…
大模型技术已成为人工智能领域的核心驱动力，掌握其开发技能需遵循系统的学习路径。推荐了五本关键书籍，涵盖 Python 编程基础、深度学习数学原理、机器学习实战、深度学习理论及大模型应用开发。同时提供了环境搭建指南与代码示例，帮助开发者从零开始构建知识体系，避开常见误区，实现从理论到工程落地的跨越。
基于 Ollama-OCR 工具与 Llama 3.2-Vision 模型实现高质量文字识别的技术方案。文章涵盖了环境搭建、模型拉取、Node.js 代码集成、Markdown 格式输出及高级配置优化等内容。通过本地部署多模态大模型，用户可以在保护数据隐私的前提下，实现对图像中文字的高精度提取与结构还原，适用于手写识别、单据处理及图片问答等场景。
提供零基础学习 Python 的系统建议。首先需建立正确认知，明确学习周期至少半年。推荐利用官方文档、Stack Overflow 和 GitHub 获取资源。强调动手实践与项目驱动学习，避免只看不练。职业方向涵盖 Web 开发、运维、数据分析、自动化测试及人工智能。初学者应警惕盲目购书、孤军奋战及资源囤积误区，注重代码规范与效率，通过实际项目巩固知识体系。
Android 应用启动时常出现白屏影响体验。通过设置 SplashActivity 主题背景、配置 windowBackground 属性、调整状态栏及导航栏来实现无缝启动的方案。涵盖传统 Theme 方式及 Android 12+ 官方 SplashScreen API 两种实现路径，包含完整的 Java 代码、XML 配置及常见优化建议，帮助开发者解决…
Python 是一门开源免费、通用型的脚本编程语言，具备强大的生态系统和丰富的类库。本教程涵盖从快速入门到面向对象编程的核心内容，包括变量与表达式、控制流、函数定义、类与对象、模块与包管理等关键知识点。文章详细解释了 Python 的语法约定、数据类型、运算符优先级以及异常处理机制，并通过代码示例演示了文件操作、虚拟环境配置等实用技能。适合希望系统掌握 Py…
在 Windows 和 macOS 系统上安装 Python 开发环境需要配置解释器、编辑器及包管理器。详细说明了从官网下载 Python 安装包、配置环境变量、安装 VS Code 编辑器及验证环境完整性的具体操作流程。重点强调了 Windows 下勾选 PATH 选项的重要性，以及通过终端命令验证安装是否成功的标准方法，帮助用户快速搭建可用的 Pytho…
详细阐述了 AI 产品经理在智能文档审阅及工业互联网场景下的产品开发全流程。涵盖需求定义、模型预研、数据准备、模型构建、模型宣讲及模型验收六个核心阶段。重点介绍了各阶段的工作内容、流程规范及注意事项，结合合同审核与风电机组故障预测等案例，解析了模型能力边界、数据质量评估及指标选择等关键问题，旨在为 AI 产品经理提供系统化的实践指导。
华南理工大学开源中文主动健康大模型扁鹊（BianQue），包含 BianQue-1.0 与 BianQue-2.0 两个版本。该模型基于千万级健康对话大数据构建，核心创新在于引入'询问链'机制，模拟医生多轮问诊过程，解决用户描述不清的问题。BianQue-1.0 基于 ChatYuan 微调，强化问询能力；BianQue-2.0 基于 ChatGLM-6B，…
