博客作者
加密算法研究者
369
已发布文章
12K
博客获赞
701K
博客浏览
第 18 页
Mac 平台推出 Chat with MLX 框架，基于苹果 MLX 技术实现本地大模型部署。该工具支持两行命令安装，具备本地文档总结、视频分析及多语言对话功能。通过 RAG 技术可实现私有数据问答，保障数据隐私安全。实测显示在 M1 芯片设备上运行流畅，虽算力受限但适合个人开发者及隐私敏感场景使用。
汇总了医疗、法律、金融、教育等 12 个垂直领域的 AI 大模型资源。内容涵盖 DoctorGLM、HuatuoGPT、ChatLaw、FinGPT 等知名开源项目，介绍了各模型的技术特点、应用场景及开源地址。同时列出了 PromptCBLUE、LEXTREME、FinEval 等权威评测基准。文章旨在为开发者提供全面的行业大模型选型参考，强调根据业务需求、…
大模型微调的技术含量并非由任务本身决定，而是取决于执行者的具体做法。在数据层面，需关注质量清洗、多样性构造及真实交互驱动；在训练代码层面，应深入理解参数含义、优化器策略及分布式并行机制；在实验分析层面，需结合 Loss 曲线、Bad Case 归因及通用能力评估来迭代模型。通过精细化控制各环节，可显著提升微调效果与个人技术成长。
QAnything 是一款支持任意格式文件的本地知识库问答系统，基于检索增强生成（RAG）技术。它采用两阶段检索机制（Embedding + Rerank），利用 BCEmbedding 模型实现强大的双语和跨语种语义表征能力，解决大规模数据检索退化问题。系统支持 PDF、Word、PPT 等多种文件格式，可断网部署，保障数据安全。文章介绍了其架构优势、核心…
Python 是一种解释型、面向对象的高级编程语言，以其简洁的语法和强大的生态系统著称。 Python 的安装配置、开发环境搭建、基本数据类型、控制结构、函数定义及模块使用等核心知识。通过代码示例讲解了变量赋值、列表操作、条件判断、循环遍历以及简单的面向对象编程概念，帮助初学者快速掌握 Python 编程基础，为后续学习数据分析、Web 开发或人工智能打下坚…
对比了 Django、Flask、Tornado、Sanic 等主流 Python Web 框架。Django 功能全面，适合快速构建大型应用；Flask 轻量灵活，适用于微服务；Pyramid 兼顾规范与灵活性；Bottle 极简无依赖；Tornado 和 Sanic 擅长高并发异步 IO。选型时需根据项目规模、对异步的支持需求及团队技术栈进行权衡。
介绍两款 Stable Diffusion WebUI 提示词辅助插件，包括 sd-webui-prompt-all-in-one 和 SD WebUI Tag Autocomplete。详细说明了安装方法、配置步骤及核心功能，如中文翻译、自动补全、历史管理等。同时补充了提示词工程的基础知识，涵盖权重语法、结构优化及常见误区，帮助用户提升生图质量。
大型语言模型（LLM）领域的 20 个核心面试问题，涵盖基础概念、训练方法、架构原理、伦理风险、部署挑战及未来应用。内容从初级到中级难度，解析了 Transformer、自注意力机制、提示工程、少样本学习等关键技术点，并探讨了偏见处理、可解释性及 AGI 发展方向，适合算法工程师及技术面试官参考。
Meta 在 Meta Connect 2024 大会上发布了 Llama 3.2 系列模型，包含 1B、3B 轻量级文本模型以及 11B、90B 多模态视觉模型。新模型支持图像推理、文档理解及本地边缘设备运行，强调隐私保护与开源标准。架构上引入图像适配器权重，结合剪枝与知识蒸馏技术优化性能。同时发布 Llama Stack Distribution 统一接…
本指南系统梳理了大型语言模型（LLM）的学习路径，涵盖基础理论、科学家进阶及工程师实战三大板块。内容涉及 Transformer 架构原理、指令数据集构建、预训练与微调技术（SFT/LoRA/QLoRA）、偏好对齐（RLHF/DPO）、模型评估与量化部署等关键环节。通过整合权威参考资料与实践工具，帮助开发者从数学基础到应用部署全面掌握 LLM 开发流程，适用…
探讨了大模型时代企业如何利用 RAG 技术实现垂直领域知识融合。文章对比了 Fine-Tuning 与 RAG 两种路径，重点分析了 RAG 框架在 Query 准确率上的痛点，并从知识预处理、用户提问优化、查询召回策略三个维度提出了具体的改进实践。包括文档规范化、智能摘要、问题澄清与衍生、混合检索及重排模型等技术手段。最后总结了 RAG 落地的关键原则与未…
系统介绍了大模型的基础概念、工作原理及使用方法。首先区分了大模型与大语言模型的定义，指出规模体现在参数数量和训练数据量上。通过人脑类比，解释了算法、参数和训练数据的对应关系。详细阐述了大模型的工作流程，包括接收、理解、检索、组织、优化和提供回答六个步骤。分析了训练过程，涵盖数据收集、预处理、无监督/监督/强化学习、迭代训练及微调。讨论了大模型的幻觉现象及五大…
总结了渗透测试的核心思路，包括操作系统漏洞检索法（服务版本号匹配 CVE）和 Web 系统功能触发式检测法。内容涵盖信息收集、业务逻辑漏洞与技术型漏洞的检测流程，以及客户端攻击、社会工程学、无线安全和后渗透等扩展领域。旨在提供一套系统的渗透测试方法论，帮助安全人员明确检测点与利用途径。
OpenAI 发布新一代旗舰大模型 GPT-4o，该模型采用端到端架构，支持文本、语音和视觉的多模态实时交互。相比 GPT-4-turbo，GPT-4o 价格减半，速度翻倍，且速率限制提高 5 倍。语音交互平均响应时间降至 320 毫秒，具备情感感知和多语言支持能力。在 MMLU、GPQA 等基准测试中表现超越竞品。模型支持 3D 重建、漫画分镜及实时图表分…
AIGC 产品经理职责涵盖产品规划、市场洞察、跨部门合作、算法应用及数据驱动决策。核心能力要求包括数据分析、沟通协调及对 AI 技术的理解。转行路径建议从建立 AI 全局认知入手，系统学习 Python 基础与机器学习概念，通过竞品分析与实操项目积累 0-1 经验，最终完善作品集应对面试。文章详细拆解了各阶段学习重点与实战方法，帮助无项目经验者快速入门。
深度评测了搭载大模型的华为小艺智慧助手。通过文档摘要、多任务指令、智慧视觉等功能，展示了 AI 在移动办公和日常生活中的实际应用效果。评测发现，小艺能理解复杂自然语言指令，显著提升信息处理效率，如快速总结长文、生成文案、扫描文件等。文章探讨了 AI 大模型如何简化流程，使手机成为更智能的载体，并展望了鸿蒙系统下小艺的进化方向。同时分析了端云协同架构及隐私保护…
开源大模型在 Linux 环境下的快速部署与微调指南。内容涵盖环境配置、模型推理、API 服务搭建及微调方法。详细说明了 Conda 环境设置、CUDA 依赖、HuggingFace 与 ModelScope 镜像配置，以及使用 Transformers、vLLM、FastAPI、Gradio 等工具的具体步骤。支持 Llama、Qwen、ChatGLM 等…
本系统采用 Spring Boot 与 Vue 构建前后端分离架构，利用 MySQL 存储数据。核心功能涵盖用户管理、事件追踪、目标设定及日记记录，支持管理员对全局数据进行维护。后端通过 RESTful API 提供接口服务，结合 Spring Data JPA 简化数据库操作，确保系统稳定性与扩展性。测试阶段覆盖功能与性能验证，旨在为个人时间规划提供高效工…
通过 Docker 拉取 MySQL 5.7 基础镜像，在容器内调整 my.cnf 参数并提交为自定义镜像。流程涵盖镜像获取、容器运行、配置修改及新镜像验证，帮助开发者快速构建符合特定需求的数据库环境。重点涉及 GTID 开启、InnoDB 参数优化及持久化存储配置，适合需要定制化数据库环境的开发场景。
Megatron-LM 是 NVIDIA 开源的大语言模型训练框架，核心在于提供多种分布式并行策略以支持多卡部署。文章深入分析了张量并行、流水并行和数据并行的源码实现。张量并行通过行切分和列切分 Linear 层，结合异步 AllReduce 优化通信与计算重叠；流水并行利用 P2P 通信机制在微批次间传递 Tensor 形状与数据，实现流水线执行；数据并行…
