博客作者
全栈开发工程师
320
已发布文章
9.3K
博客获赞
683K
博客浏览
第 15 页
深入解析了 AI 大模型的技术原理与架构设计，涵盖自注意力机制、Transformer 结构及预训练微调范式。内容包含 GPT、BERT 等主流模型对比，多模态技术应用，以及在自然语言处理、编程辅助、医疗等领域的实际案例。同时探讨了计算资源、能耗、伦理偏见等挑战，并展望了模型压缩与公平性未来的发展方向。
LangChain 是连接大语言模型的框架，如何集成 OpenAI 和 Hugging Face 模型，并详细讲解了 Prompt 模板与小样本学习的使用方法。通过定义变量和示例，用户可以高效构建提示语，提升交互效率。文章包含代码示例，展示了从基础调用到复杂模板的应用流程，并提供了安全与最佳实践建议。
检索增强生成（RAG）中关键的 7 种文本 Embedding 模型，包括 BGE、GTE、E5、Jina、Instructor、XLM-Roberta 及 text-embedding-ada-002。内容涵盖各模型的特性、适用场景、性能对比及 Python 代码集成示例，并探讨了本地化部署方案，旨在帮助开发者选择合适的向量表示模型以优化语义搜索与文档检索…
如何在本地免费部署 Llama 3.1 大模型。内容包括环境准备、Ollama 安装步骤、命令行与可视化界面使用方法、Python API 调用示例以及 Docker 部署方案。文章涵盖了不同硬件配置下的模型选择建议、常见故障排查方法，旨在帮助用户快速搭建本地 AI 环境并进行实际开发应用。
基于 PyTorch 从零搭建 Vision Transformer (ViT) 模型的完整流程。内容涵盖图像 Patch 序列化与线性映射、分类 Token 的引入、正弦余弦位置编码的实现、以及 Transformer Encoder 中多头自注意力机制、层归一化和残差连接的构建。文章提供了关键代码片段并解释了各模块的数学原理与维度变化，最终通过分类头完成…
DeepSeek 近期因高并发导致服务波动，本地部署受限于硬件成本。多种替代方案，包括使用第三方聚合搜索平台（如 360 纳米搜索、秘塔搜索）体验满血模型，以及通过硅基流动、阿里云百炼等 API 服务商获取免费额度并配合本地客户端（如 ChatBox）实现低成本或免费的满血版 DeepSeek 调用。同时列举了支持该模型的常用客户端与开发工具，帮助用户在低配…
RAG 通过检索外部数据增强大模型生成效果。核心流程包括数据处理、特征提取、检索召回及结果利用。了数据结构化策略、Embedding 模型选择、混合检索机制及 Prompt 拼接技巧，并补充了评估指标与安全考量，为构建高效 RAG 系统提供完整技术方案。
GPT-4o 正式发布并免费开放，支持文本、音频和图像的多模态输入输出。其响应速度平均 320 毫秒，接近人类对话水平，具备实时语音交互能力。通过视觉识别案例展示了其在挑选水果等生活场景中的应用潜力。API 服务方面，价格减半，速度翻倍，吞吐量提升五倍，降低了开发门槛。该技术标志着 AI 从单一文本向全能感知迈进，未来将在电商、物流、医疗等行业深化应用，辅助…
Stable Diffusion 是一种开源的 AI 绘画工具，通过文本描述生成图像。Kaggle 平台提供免费 GPU 算力，适合初学者低成本体验。介绍如何在 Kaggle 上注册账号、配置 Stable Diffusion 运行环境，并进行基础的图像生成操作与参数调整，帮助用户快速掌握 AI 绘画入门流程。内容包括环境搭建、提示词编写、关键参数解释及资源…
Llama3.1 开源标志着大模型格局变化，其性能媲美闭源模型。文章深入解析了 Llama3.1 的 Dense 模型结构、三阶段预训练流程及数据配比策略。重点阐述了 SFT+DPO 的后训练模式，对比了 MOE 与 Dense 的优劣，并探讨了小模型崛起的关键要素如蒸馏、Annealing Data 及合成数据的应用。最后分析了开源对行业的影响及未来大模型…
探讨了知识图谱在检索增强生成（RAG）系统中的应用，涵盖查询增强、数据块提取、递归查询、响应增强及访问控制等关键阶段。通过医学领域的实际案例，展示了如何利用结构化数据提升大模型回答的准确性与一致性，并讨论了个性化与权限管理的实现方式。文章还分析了图谱构建成本、延迟优化及技术挑战，为构建高可靠性的混合检索系统提供了理论依据与实践指南。
ssprompt 工具的使用方法，该工具支持 Prompt 分发管理。通过配置和安装 ssprompt，用户可以拉取预设的小红书文章生成 Prompt。文中展示了基于 LangChain 的 Python 调用方式以及直接使用 Text 格式 Prompt 的流程，演示了如何生成符合小红书规范的爆款文案内容。此外，还补充了 Prompt 优化策略及常见问题排…
移动互联网行业进入存量竞争阶段的现状，指出初级岗位竞争激烈而高阶人才稀缺的矛盾。文章从软实力与硬实力两个维度提出解决方案：软实力方面强调经验积累重于年限、责任心与工程素养、以及跳出舒适圈；硬实力方面详细阐述了 Kotlin/Java 语言深化、MVVM 架构、Framework 系统层理解、性能优化专项（启动、内存、渲染）、新兴技术栈（Compose、Flu…
AI 产品经理主要分为 AI 平台、AI Native 和 AI+ 三种类型。AI 平台产品经理侧重工具建设，AI Native 专注于核心产品体验，AI+ 则利用现有模型提升效率。成为优秀 AI 产品经理需培养好奇心，掌握机器学习基础，构建作品集。关键策略包括避免同质化，专注解决客户问题，通过黑客马拉松挖掘创意，并在不确定中保持积极能量。文章详细阐述了各类…
Python 代码性能优化涉及多种策略，包括使用高效库如 NumPy 和 Pandas 进行向量化计算，采用 PyPy 等即时编译解释器提升执行速度，利用 GPU 加速处理大规模数据。此外，通过 Cython 将 Python 转换为 C 扩展，或使用 Numba 进行 JIT 编译，可显著减少运行时间。在内存与时间之间需权衡选择，对于嵌入式场景可考虑 Mi…
演示了基于 Java Swing 框架开发图形界面文本编辑器的全过程。项目采用 JFrame 作为主窗口，利用 NullLayout 进行绝对定位布局，集成了 JLabel、JSlider、JTextArea 等组件。核心功能包括动态调整字体大小、切换字体颜色（支持单选按钮及 RGB/Hex 输入）、滑块实时预览。代码展示了事件监听机制（ItemListen…
Python 是一种易于学习且功能强大的编程语言，广泛应用于网站开发、数据分析及人工智能领域。 Python 3.x 版本在 Windows 系统下的安装步骤，包括从官网下载、配置环境变量以及验证安装是否成功。同时概述了 Python 的核心特性及其在运维、测试、游戏脚本等场景的应用价值，帮助初学者快速搭建开发环境并了解后续学习方向。
零一万物成立一周年发布 Yi-Large 闭源模型及 Yi-1.5 开源系列，评测部分超越 GPT-4。同时推出一站式 AI 工作平台万知，支持 PPT 生成及文档分析。李开复表示将训练更大参数 MoE 模型，承诺十年不套现，目标两年内上市。公司注重技术成本与产品市场匹配，采用 FP8 训练降低成本，产品面向全球市场。
大模型行业普遍存在通过购买竞品 API 生成数据或抓取公开数据进行训练的「数据捷径」现象，导致模型同质化严重。OpenAI、Google、Meta 等巨头虽面临数据短缺，仍通过 YouTube 视频转写等方式获取数据，引发版权争议。Adobe Firefly 案例显示即便宣称授权数据也可能混入 AI 生成内容。随着高质量数据枯竭，合成数据、法律监管及数据供应…
AI 产品经理需超越传统角色，深入理解生成式 AI 底层原理如 Transformer 与预训练机制，掌握提示词工程、参数调优及 RAG、Agent 等扩展技术。核心能力在于界定模型能力边界，通过 System Prompt 与工具调用确保输出可控，同时建立包含幻觉检测、数据安全在内的风险评估体系。转型关键在于构建可验证的实战作品集，聚焦垂直场景痛点，平衡技…
