博客作者
远程工作开发者
377
已发布文章
12K
博客获赞
869K
博客浏览
第 18 页
大模型训练主要采用自监督学习模式，无需人工标注标签。详细解析了掩码语言模型与因果语言模型的区别，重点阐述了 GPT 系列模型通过预测下一个词进行训练的原理。内容涵盖数据分词、嵌入表示、位置编码及损失函数计算等核心步骤，帮助读者理解大模型如何从海量文本中习得语言规律与结构知识。
详细解析了大模型领域的技术类与管理类岗位需求。技术岗包括算法工程师和研发工程师，要求掌握深度学习框架、编程能力及数据处理技能。管理类涵盖项目经理、产品经理、销售及解决方案专家，侧重项目管理、跨部门协作及市场洞察。文章还提供了从系统设计到垂直应用开发的七阶段学习路线，旨在帮助从业者明确职业方向并提升核心技能。
Math-LLaVA 基于 LLaVA-1.5 架构，通过构建包含 40 万高质量图像问答对的 MathV360K 数据集进行微调，显著提升了多模态大语言模型的数学推理能力。该研究从 24 个现有数据集中筛选高质量图像，并利用 GPT-4V 合成多样化问题以增强视觉信息利用。实验表明，Math-LLaVA 在 MathVista 基准测试中达到 46.6%…
如何在扣子平台上搭建一款多功能 AI 女友机器人。文章涵盖了从角色定义、变量设置到技能开发的完整流程。核心功能包括情感陪伴聊天、好感度机制以及随等级解锁的故事和换装小游戏。通过具体的 Prompt 示例和工作流逻辑说明，指导开发者如何配置数据展示、属性修改限制及小游戏触发条件。此外，还补充了快捷指令、背景语音配置及测试迭代建议，帮助构建更完善的 AI 交互体…
大模型指拥有数十亿至数千亿参数的机器学习模型，具备强大学习与泛化能力。广泛应用于自然语言处理、计算机视觉及语音识别领域。然而，其训练成本高、资源需求大、数据偏见及隐私安全风险等挑战显著。伦理方面涉及艺术独创性、社会公平及人性尊严问题。未来需探索高效训练与环保策略，在享受技术红利同时警惕风险，确保造福人类。关键技术优化包括模型压缩、提示词工程及检索增强生成。
AIGC 技术重构了软件开发流程，降低了个体开发门槛。探讨大模型时代程序员的认知转变，指出除数学基础外，宏观感性认知与工程实践能力更为关键。文章分析了大语言模型的工作原理、Tokenization 缺陷、Prompt 工程方法（CoT, ToT）及评估挑战，并提供了从 API 接入到本地部署的决策建议，以及系统化的学习路径，帮助开发者在 AI 浪潮中建立竞争…
梳理了人工智能与大模型领域的核心知识体系，涵盖机器学习、深度学习、计算机视觉、自然语言处理及大模型应用开发。内容包含从系统设计、提示词工程到微调部署的完整学习路径，涉及 LangChain、YOLO、Stable Diffusion 等关键技术栈，并整理了行业面试经验与文档资源，旨在帮助开发者构建 AI 全栈能力。
使用 LLaMA-Factory 框架微调 Qwen7B 模型的完整流程。内容包括环境安装、自定义数据集构建与注册、YAML 配置文件详解、训练命令执行、LoRA 权重合并及模型推理测试。文章还深入分析了超参数调节策略、数据质量对效果的影响、灾难性遗忘的规避方法以及多任务学习的注意事项，为大模型垂直领域应用提供技术参考。
大型语言模型（LLM）领域的核心学习资料，涵盖基础数学与 Python、架构原理、微调技术、量化方法及工程化部署。内容分为 LLM 基础、科学家视角及工程师视角三部分，包含预训练、指令微调、RLHF、RAG 管道构建等关键知识点，并推荐了相关工具库与评估基准，适合希望系统掌握大模型技术的开发者参考。
详细讲解了 Python 项目从目录结构搭建、元数据配置、构建分发文件到上传至 PyPI 的全过程。涵盖了 pyproject.toml 配置、API Token 认证、Twine 工具使用以及安装验证方法，并补充了版本管理和常见错误排查的最佳实践，帮助开发者规范地发布和管理 Python 包。
SWE-agent 是由普林斯顿大学 NLP 组推出的开源 AI 程序员系统，旨在自主解决 GitHub 存储库中的问题。该系统在 SWE-bench 基准测试中取得了 12.29% 的解决率，性能接近闭源工具 Devin。核心创新在于智能体 - 计算机接口（ACI）设计，通过专用终端交互实现文件编辑、搜索及测试执行。其工作原理、安装配置步骤及命令行使用方法…
如何使用 PyInstaller 将 Python 脚本打包为独立的可执行文件，并利用 Inno Setup Compiler 创建具备安装向导和卸载功能的安装包。内容涵盖虚拟环境配置、GUI 程序编写规范、打包参数详解、Inno Setup 脚本定制以及常见依赖问题的解决方案，旨在帮助开发者实现软件的便捷分发与环境隔离部署。
详细阐述了普通产品经理向 AI 产品经理转型的核心路径。文章首先定义了 AI 产品经理的角色定位，强调其在通用 PM 基础上需增加对 AI 技术原理及应用场景的理解。接着梳理了视觉、机器学习、应用及语义四大 AI 领域分类，并深入分析了转型所需的基础知识体系，包括机器学习原理、特征工程及常用算法逻辑。文中还对比了 AI 产品经理与传统 PM 在工作流上的差异…
自然语言处理中 Token 的概念，详细解析了 BERT 模型如何通过 WordPiece 算法对文本进行分词。通过 Python 代码示例展示了使用 Hugging Face transformers 库加载 BertTokenizer 的过程，解释了特殊标记如 [CLS] 和 [SEP] 的作用，以及子词分割机制（如 debug 拆分为 de, ##bu…
系统梳理了大语言模型微调技术，涵盖全参微调与参数高效微调（PEFT）的分类对比。详细介绍了 Adapter、LoRA、QLoRA、Prefix Tuning 等核心方法的原理与适用场景，并阐述了预训练、有监督微调（SFT）及强化学习（RLHF）的训练流程。文章提供了基于 Python 和 Hugging Face 生态的 LoRA 微调实战代码，包含环境配置…
2024 大模型应用案例集收录了 99 个优秀应用案例，覆盖工业、金融、医疗等行业。文章梳理了从系统设计到行业应用的大模型学习路径，包含提示词工程、知识库开发、微调及多模态技术等关键阶段，旨在帮助从业者掌握大模型全栈技能与商业化落地方案。
大型机器学习模型是指具有大规模参数和复杂计算结构的深度学习模型，通常由数十亿至数千亿参数构成。文章详细阐述了大模型与小模型的区别，重点分析了涌现能力这一核心特征。内容涵盖大模型发展历程，从 CNN 到 Transformer 架构的演变，以及 GPT、BERT 等里程碑模型。同时介绍了大模型按数据类型分为语言、视觉和多模态三类，按应用层级分为通用、行业和垂直…
本书《基于 GPT-3、ChatGPT、GPT-4 等 Transformer 架构的自然语言处理》详细介绍了 Transformer 模型及其在自然语言处理领域的应用。内容涵盖从基础架构到微调预训练模型（如 BERT、RoBERTa、GPT-3），以及机器翻译、文本摘要、问答、情绪分析和假新闻检测等下游任务。此外，书中还涉及计算机视觉领域的 ViT、CLI…
分享了一位 30+ 程序员从传统开发转行至大模型领域的亲身经历。分析了行业现状、岗位选择（算法与应用工程师的区别）及核心技能要求。提供了从零开始的学习路径，涵盖数学基础、编程语言、深度学习框架、项目实战及部署优化等阶段。旨在帮助技术从业者应对职业危机，掌握 AI 时代的核心竞争力，实现平稳转型。
软件测试作为质量保证的核心环节，正从手工操作向自动化转型。Python 因其语法简洁、生态丰富，成为自动化测试的首选语言之一。探讨 Python 在接口测试、UI 自动化、数据分析及安全测试中的应用优势，分析其如何提升测试效率与质量，并展望测试人员结合开发技能的职业发展路径。文章包含具体的代码示例及持续集成方案，适合希望进阶的测试人员阅读。
