博客作者
雾中听风
360
已发布文章
14K
博客获赞
869K
博客浏览
第 17 页
文章通过职场案例对比，揭示了传统手工处理与 Python 自动化办公的效率差异。重点介绍了利用 Pandas 进行数据处理、OpenPyXL 操作 Excel 以及 Requests 批量下载资源的实战方法。旨在帮助技术人员掌握自动化工具，摆脱重复劳动，提升核心竞争力。
大模型学习不应始于深奥理论，而应基于实践。指出沉迷数学与架构细节会导致挫败感，建议采用先会用后懂原理的策略。通过类比驾驶汽车，说明掌握工具使用比理解底层构造更利于入门。文章提供了从 API 调用、提示词工程到应用开发的实践路径，强调在实际项目中逐步深化对 Transformer 等理论的理解，从而高效掌握大模型技术。
OkHttp 网络请求库的核心原理涵盖了请求构建、分发机制、拦截器链、缓存策略、连接管理以及 HTTPS 和 HTTP/2 的握手与传输流程。文章详细解析了 Request 对象结构、Dispatcher 线程池调度、RetryAndFollowUpInterceptor 重试逻辑、CacheInterceptor 缓存控制、ConnectIntercept…
TensorRT-LLM 支持 Qwen 模型的实现过程与性能优化分析。文章介绍了从 HuggingFace 权重对齐、Attention 插件调试到 Smooth Quant 量化的完整开发流程，并通过 A10 GPU 测试对比了 FP16、INT8 及 INT4 量化下的精度与吞吐量表现，展示了 TensorRT-LLM 在推理加速方面的显著优势。
LightRAG 是香港大学研发的新型检索增强生成系统，通过结合图结构索引和双层检索机制，显著提升了 LLM 在信息检索中的准确性和效率。该系统能捕捉实体间的复杂依赖关系，支持多跳推理，并具备增量更新能力以适应动态数据环境。文章详细介绍了 LightRAG 的核心架构、安装部署、四种查询模式（朴素、本地、全局、混合）的区别及应用场景，并提供了批量插入、增量更…
介绍基于 Langchain-Chatchat 开源项目部署私有化检索增强生成（RAG）知识库的方法。涵盖 Docker 一键部署流程、环境依赖配置、聊天与知识库管理功能说明，以及模型选择与参数调优建议。项目支持主流本地大模型与向量数据库，适用于离线场景下的企业级知识问答系统构建。重点阐述了 GPU 环境准备、镜像拉取、接口访问及知识库切片策略优化，帮助开发…
对比了 AI 产品经理与传统产品经理在定义、工作重心、技术要求、工作内容及新能力要求上的核心差异。AI 产品经理更侧重于利用机器学习与深度学习技术解决效率问题，需掌握数据清洗、模型评估指标及算法边界知识。传统产品聚焦连接与用户体验，而 AI 产品强调数据质量与模型迭代。两者均需跨部门协作，但 AI 产品经理需具备更强的技术理解力以应对模型不确定性与伦理风险。…
梳理了 2024 年主流 SOTA 多模态大模型架构设计，涵盖 LLaVA-NeXT 系列的高分辨率与视频理解能力，InternVL 系列的视觉编码器扩展与动态分辨率策略，MiniCPM-V 系列的端侧高效部署方案，以及 Cambrian-1 以视觉为中心的创新探索。重点分析了 AnyRes 动态划分、Pixel Shuffle 特征重排、Spatial V…
探讨了大语言模型（LLMs）与图结构在推荐系统中的融合应用。针对传统推荐系统忽略文本信息及隐性反馈噪声的问题，介绍了 RLMRec 和 GaCLLM 两种新兴范式。RLMRec 通过推理画像生成、对比对齐和生成对齐模块，利用互信息最大化方法对齐语义空间与协同关系表示，有效去噪并提升表征质量。GaCLLM 则结合图卷积网络（GCN）与大语言模型，通过逐层推理机…
阐述了在检索增强生成（RAG）应用中如何选择最佳向量 Embedding 模型。首先根据具体用例确定需求，利用 MTEB 排行榜筛选通用模型，关注检索任务得分、语言支持及资源消耗。随后强调需在自有数据集上进行评估，通过构建标记数据集、生成向量并计算准确率与召回率来验证模型效果。最后结合部署成本与延迟平衡，提供从选型到测试的完整决策流程，帮助开发者优化 RAG…
对 Mac Intel 芯片环境下的本地大语言模型部署进行了三种方案的对比实验，包括 Ollama、原生 Transformers 以及基于 OpenVINO 的优化方案。通过实际测试 Qwen 系列模型在纯 CPU 模式下的推理速度，发现 OpenVINO 方案在编译后能显著降低响应时间，相比原生 PyTorch 提升约 50%，而 Ollama 虽便捷但…
Gomoon 是一款开源的桌面工具，支持接入多种大模型 API 及本地模型调用。主要功能包括多模式对话（问答/连续）、内置助手（翻译/计算/编程）、快捷键交互（全局唤醒/双击复制）、本地化数据存储与记忆胶囊（RAG 功能）。工具强调隐私安全，配置与数据均存储于本地，并提供丰富的导出、搜索及主题定制能力，适用于开发者及 AI 产品经理的日常辅助工作。
如何利用 GOT-OCR2.0 光学字符识别模型与 Qwen2.5-Math 数学大模型构建个人 AI 数学辅导系统。文章详细阐述了 Qwen2.5-Math 相比前代的 CoT 与 TIR 推理优势，提供了基于 Python 的环境配置、模型加载及推理接口封装代码。通过七个涵盖方程、排列组合、数论及不等式的实际案例，验证了系统在识别与解题方面的有效性，并分…
大模型商业化进入提速期，B 端应用因明确降本增效需求成为变现主力，涵盖 ITSM、CRM 及数据存储搜索场景。通用模型厂商通过 API 调用、MaaS 及订阅制盈利，B 端厂商采用价格普涨或 AI 模块额外定价策略。C 端聚焦多模态与个人助理，依赖用户基数与留存形成飞轮效应。未来模型厂商变现将以 B 端为主，企业需结合数据资产选择合适接入方式，注重合规与安全…
Stable Diffusion 从零开始的入门教程。内容包括软件简介及与 Midjourney 的对比，硬件配置要求（重点强调 N 卡显存），一键安装包的下载与启动流程。核心章节涵盖 WebUI 界面操作，包括模型与 VAE 的管理、提示词编写技巧（含权重语法）、关键参数设置（采样步数、方法、种子、高清修复）。此外还补充了 ControlNet 和 LoR…
Stable Diffusion 中保持人物面部一致性的多种方法包括固定种子值、Roop 换脸、训练 LoRA、使用预训练 LoRA 以及 ControlNet Reference Only。固定种子值虽能保证一致但导致画面单调；Roop 插件存在隐私与质量风险；LoRA 训练门槛高且预训练模型难以保证完全一致。ControlNet Reference On…
介绍如何利用 Llama3 大模型和 LangChain 框架，结合 Weaviate 向量数据库构建本地私有知识库。通过 RAG 技术解决大模型时效性与幻觉问题。涵盖环境配置、语料加载分块、向量化存储、检索增强及问答链实现。修正了原代码参数错误，提供完整 Python 示例及常见问题排查指南，助力开发者快速上手本地化 AI 应用。
检索增强生成（RAG）技术结合信息检索与大模型以缓解幻觉问题。传统 RAG 存在知识库缺失、TopK 截断等问题，Graph RAG 引入知识图谱提升确定性。文章介绍了通用 RAG 架构设计，兼容向量与图索引，基于 DB-GPT、OpenSPG 和 TuGraph 构建开源方案。涵盖索引、存储、检索、生成等关键实现细节，并探讨了图谱元数据、混合存储及 Age…
Android 性能优化项目实战资料，涵盖腾讯、字节、阿里、百度等一线互联网大厂的开发经验。内容包括启动速度、内存管理、布局优化、编译构建、网络传输等核心领域的优化方案。同时提供了 360°全方面性能调优体系，涉及设计思想、代码质量、程序性能及开发效率优化，旨在帮助开发者快速掌握性能优化技术，提升应用流畅度与稳定性，应对 OOM、ANR 等常见问题。
Android 音视频开发涵盖 PCM 编码、H.264/H.265 视频标准、容器格式及音视频同步原理。核心技术栈包括 MediaCodec、MediaPlayer、ExoPlayer、AudioTrack 及 Camera2 API。实时通信依赖 WebRTC 框架，涉及 ICE、STUN/TURN 及 SRTP 安全机制。面试重点在于软硬解区别、延迟优…
