博客作者
虚拟世界
376
已发布文章
14K
博客获赞
916K
博客浏览
第 17 页
Ollama 本地大语言模型的下载安装、环境配置及模型管理方法。内容涵盖 Windows/Linux/MacOS 系统的安装步骤、环境变量设置、常用模型推荐（如 Qwen2、Llama3.1、DeepSeek-Coder 等）、CLI 交互方式以及通过 HTTP 和 Python SDK 调用 API 的高级用法。此外，还补充了 Docker 部署方案，帮助…
详细盘点并对比了 2024 年国内外主流 AI 大模型，涵盖百度文心一言、阿里云通义千问、OpenAI GPT 系列及 Claude 系列等产品的技术特点与应用场景。文章分析了算力提升、算法优化及多模态支持等技术趋势，探讨了工业制造、人机陪伴等拓展方向。此外，重点介绍了企业知识库构建中的 RAG 架构原理，并提供 Python 代码示例演示如何调用 API…
探讨了大模型返回 JSON 结构数据的多种技术方案。首先分析了 JSON 格式在轻量级、易解析等方面的优势。接着对比了四种主要实现路径：纯提示词方案稳定性较差；JSON Mode 方案利用模型原生能力，可靠性高但性能略有损耗；JSON Schema 方案通过定义严格结构增强准确性，适合复杂校验；TypeScript DSL 方案则凭借更紧凑的语法提升效率。针…
在本地 CPU 环境下部署清华 ChatGLM-6B 大模型的完整流程。通过采用 INT4 量化技术降低显存占用，实现无需高性能显卡即可运行对话模型。内容涵盖环境配置、依赖安装、内核编译、代码适配及常见问题排查，帮助用户低成本体验大语言模型能力。
大模型技术自 2022 年爆发以来，已从感知判别迈向生成创造。文章分析了当前大模型的发展现状，包括互联网大厂、创业公司及传统 IT 厂商的竞争格局，探讨了生成创造力、幻觉及安全等核心能力与问题。在行业落地方面，互联网行业侧重低成本快速迭代，政企行业则依赖行业数据微调构建专用模型。未来趋势指向多模态融合、端侧部署、智能体化及伦理法规完善，大模型将成为推动社会生…
详细阐述了大模型产品经理的转型路径，涵盖必备技能、自我评估、学习资源、场景挖掘及团队协作五大核心板块。文章强调了对 Transformer 架构、Prompt 工程、RAG 技术及数据治理的理解，提供了具体的行业应用场景案例，并补充了风险控制与合规管理内容。旨在帮助从业者系统掌握大模型产品方法论，实现从传统 AI 向大模型领域的顺利过渡。
详细阐述了大语言模型（LLMs）的核心概念、架构类型及工作原理。内容涵盖从自编码器到 Transformer 架构的演变，解释了预训练、微调和注意力机制等关键技术组件。文章分析了 LLMs 在聊天机器人、翻译、代码生成等多领域的应用场景，并探讨了未来在上下文理解、伦理偏见缓解及多模态融合方面的发展趋势。此外，还提供了关于提示词工程、幻觉规避及数据安全的最佳实…
OpenCV 中图像操作的核心技术，包括从文件加载和保存图像的方法、不同通道类型下的像素访问方式（C++ 与 Python）、Mat 类的内存管理与引用计数机制。内容涵盖了基本的矩阵运算、感兴趣区域（ROI）提取、颜色空间转换以及图像可视化的具体实现。此外，还补充了位运算、阈值处理等常用图像处理技巧，并提供了常见的错误排查建议，帮助开发者建立扎实的 Open…
大模型技术涵盖生成式预训练变换模型核心概念，包括提示词工程、检索增强生成（RAG）、微调及智能体架构。详细解析了知识问答的三种实现方式及其优劣对比，阐述了从面向过程到面向目标的软件架构范式迁移。同时探讨了程序员在 AI 时代的角色转变，从代码编写转向系统设计与流程编排，并提供了从基础理解到私有化部署的系统化学习路径与技术栈建议。
Open-Sora 1.0 由 Colossal-AI 团队全面开源，作为全球首个类 Sora 架构视频生成模型，涵盖数据处理、训练细节及模型权重。其采用 Diffusion Transformer (DiT) 架构，引入时间注意力层扩展至视频数据，包含预训练 VAE、文本编码器及 STDiT 模型。训练分为大规模图像预训练、大规模视频预训练及高质量视频微调…
涵盖 30 道大语言模型面试问题，包括基础概念、架构原理、伦理道德、应用场景及编程实践。内容涉及 Transformer、提示工程、偏差处理、微调策略等核心技术点，并提供了 Python 回文检测示例。旨在帮助求职者全面理解 LLM 技术细节与行业应用，提升面试准备效率。
介绍如何利用 Meilisearch 搜索引擎结合 Ollama 本地大模型实现文本向量搜索。通过 Docker 部署 Meilisearch，配置 Ollama 作为嵌入模型源，设置混合搜索策略，并演示了文档索引与查询的具体步骤。该方案支持语义理解，适用于需要实时、高性能搜索的应用场景，如电商或知识库检索。
LangChain Callbacks 模块允许开发者在 LLM 应用程序的各个阶段挂接逻辑，适用于日志记录、监控和流式传输。核心接口包括 BaseCallbackHandler 及其子类，如用于终端输出的 StdOutCallbackHandler、用于文件记录的 FileCallbackHandler 以及异步处理的 AsyncCallbackHandl…
30 余道大语言模型（LLM）面试问题及参考答案，涵盖基础概念、训练方法、架构原理、伦理道德、应用场景及代码实现。内容涉及 Transformer、提示工程、偏差处理、微调策略及行业部署挑战，旨在帮助求职者系统掌握 LLM 核心知识，提升面试表现。
详细阐述了 AI 产品经理的定义、职责及其与传统互联网产品经理的区别，分析了 AI 软件与硬件产品经理的分类及特点。文章重点介绍了 AI 产品经理所需的核心技能，包括算法理解、系统架构认知、数据驱动分析及业务转化能力，并补充了软技能与合规意识的重要性。最后提供了在校生及传统 PM 转型的具体路径建议，强调持续学习与垂直领域深耕是职业发展的关键。
AI 大模型微调产品经理面试涉及对模型理解、关键因素把控、项目经验复盘及数据质量管理等核心能力。高频面试题，涵盖微调原理、数据集构建、超参数调整、评估指标选择及落地迭代流程。同时补充了成本控制、伦理安全及利益相关者管理等进阶问题，旨在帮助候选人系统梳理技术边界与产品思维，提升在垂直领域模型应用中的综合竞争力。
汇总了大模型算法岗位的高频面试题，涵盖基础理论、进阶微调、应用框架及分布式训练推理。内容包括主流开源模型体系、Transformer 架构细节、Prefix/Causal LM 区别、幻觉解决方案、Tokenizer 原理、Layer Normalization 差异等。进阶篇涉及 LLaMA 输入长度限制、复读机问题缓解、SFT 指令数据构建、领域模型微调…
DeepSeek-R1 通过纯强化学习激发大模型推理能力，提出 R1-Zero 冷启动策略及多阶段训练方案。实验显示其在数学、编程及知识任务上超越前代模型，并通过蒸馏技术实现小模型性能跃升。该研究验证了自主进化的可能性，为 AGI 发展提供新范式，同时开源生态推动技术普惠。
文档解析技术是大模型训练与应用的关键环节。随着数据爆炸，高质量语料成为瓶颈，面临 Token 耗尽、语料质量要求高及文档解析不精准等挑战。基于 TextIn 的文档解析技术方案，涵盖文档预处理（去噪、矫正）、版面分析（物理与逻辑）及文档构建流程。该技术通过多模态识别与结构化输出，提升大模型问答精度。未来趋势包括更准确的文本识别、端到端理解及多模态解析，推动人…
如何使用 Python 的 Gradio 库为 RAG（检索增强生成）系统搭建 Web 用户界面。通过集成文件上传功能，用户可以本地加载文档，系统自动构建向量数据库并进行内容索引。随后，用户可通过聊天窗口输入问题，系统基于检索到的上下文调用大模型生成回答。教程涵盖了环境配置、Gradio 基础组件使用、RAG 后端逻辑对接以及完整的代码示例，旨在帮助开发者快…
