AMD 显卡 llama.cpp 高性能配置实战指南
AMD 显卡在本地部署大语言模型时面临驱动兼容与性能瓶颈问题。本文基于 llama.cpp 项目,通过 Vulkan 后端配置、内存策略调整及针对不同 RDNA 架构的指令优化,实现推理速度显著提升。内容涵盖环境检查、编译脚本、参数调校及故障排查,帮助开发者在消费级硬件上获得稳定高效的推理体验。
博客作者
花哨夺目
343
已发布文章
10K
博客获赞
526K
博客浏览
第 2 页
AMD 显卡在本地部署大语言模型时面临驱动兼容与性能瓶颈问题。本文基于 llama.cpp 项目,通过 Vulkan 后端配置、内存策略调整及针对不同 RDNA 架构的指令优化,实现推理速度显著提升。内容涵盖环境检查、编译脚本、参数调校及故障排查,帮助开发者在消费级硬件上获得稳定高效的推理体验。
Whisper Diarization 基于 OpenAI Whisper 模型实现语音转文字及说话人分离。项目整合 MarbleNet 进行语音活动检测,TitaNet 提取说话人特征,支持多语言及标点恢复。通过 Python 脚本部署,可处理会议录音、客服监控等场景。支持多种模型规模选择,提供并行处理与内存优化方案。输出包含带时间戳的文本及 SRT 字幕…
Token 分析平台系统架构设计涵盖前端交互、应用层路由及核心逻辑处理三层结构。采用 FastAPI 构建后端 API,集成 Tiktoken 进行 Token 计数与成本计算,利用 Plotly 实现数据可视化。系统通过分层设计确保职责分离与扩展性,支持日志上报、聚合查询及优化建议生成,适用于企业 AI 成本监控场景。

Floweb 是一款支持 Windows 和 macOS 的超轻量浮动浏览器,可将常用网页转化为桌面应用窗口。它支持多账号独立存储、自动刷新、窗口置顶与透明调节等功能,并提供 User-Agent 模拟及 JS 脚本扩展能力。适合需要多任务并行处理或监控实时数据的场景。

NWPU VHR-10 是包含 10 类地理空间目标的遥感数据集,共 650 张高分辨率图像。文章详细解析了数据集结构、类别分布及标注格式(YOLO/COCO),并基于 YOLOv8 框架提供了完整的训练、推理与模型导出流程。针对遥感小目标检测难点,重点介绍了数据增强策略(如 Mosaic)、超参数调整及部署优化建议,适合用于军事侦察、城市规划等场景的模型开…

具身机器人软件系统通过分层架构实现感知决策执行闭环。感知层整合多传感器数据与环境建模,认知决策层负责任务规划与动态决策,运动控制层确保高精度执行。支撑架构涵盖通信驱动与管理层以保障稳定。设计遵循模块化实时性原则,未来趋势包括端云协同与 AI 原生架构演进。

无人机路径规划是保障飞行安全与效率的核心技术。文章深入剖析了 A*、Dijkstra、RRT 及蚁群算法的原理与适用场景,对比了不同算法在路径长度、搜索时间及内存占用上的性能差异。针对现有局限,探讨了启发函数改进、混合算法策略以及结合人工智能与传感器融合等优化方向。最后分析了计算资源、环境感知及多机协同等技术挑战,展望了其在物流、农业及应急救援领域的广阔前景…

小米发布 MiMo-V2 系列大模型,涵盖 Pro、Omni 和 TTS 三款产品。MiMo-V2-Pro 拥有超 1 万亿参数,上下文窗口达 100 万 tokens,在 Artificial Analysis 排名中位列全球第 8。API 定价极具竞争力,约为竞品五分之一。模型支持复杂 Agent 工作流、代码生成及多模态任务。文章提供了官方平台访问入口…

微信小程序原生开发涉及 WXML 结构、WXSS 样式与 JS 逻辑的配合。核心在于使用 rpx 单位适配屏幕,通过数据绑定 {{变量}} 实现视图更新,利用 setData 方法修改状态。开发时需依赖微信开发者工具,注意事件绑定函数名大小写敏感,且不可直接使用 DOM API。常见坑点包括页面未注册、样式通配符失效及数据未触发重绘,排查时对照配置与代码规范…

2026 年 AI 编程进入 Agent 时代,Cursor 凭借 Supermaven 补全领先,Claude Code 以 SWE-bench 高分展现最强自主能力,Windsurf 提供高性价比方案,Copilot 保持入门优势。本文通过功能矩阵、定价、性能基准及安全管控七个维度实测对比,分析各工具在并行开发、多文件编辑及权限控制上的差异,为团队选型提…
微前端架构通过拆分大型应用提升可维护性与部署效率,支持多技术栈并存。但实施中面临调试复杂、样式冲突、状态共享困难及版本兼容等挑战。基于 Single-SPA 可实现子应用注册与生命周期管理,配合样式隔离与自定义事件通信。该方案适合超大型项目,盲目引入会增加维护成本,需根据团队规模与业务复杂度谨慎评估。
8B10B 编码用于解决串行通信中的直流平衡问题。核心在于 3B4B 和 5B6B 子模块的级联及极性偏差(RD)的正确传递。常见误区在于 RD 状态的继承关系,正确逻辑应为:上一周期整体 RD 决定当前 5B6B 输入,5B6B 输出 RD 决定 3B4B 输入,最终 3B4B 输出 RD 构成当前周期整体 RD。本文提供了基于查找表的 Verilog 实…

基于 PyTorch 从零实现 LLaMA 4 风格的 MoE 架构,涵盖分词、RoPE 位置编码、RMSNorm 归一化及混合专家层设计。通过小数据集训练验证了模型对文本模式的捕捉能力,并实现了自回归生成。重点解析了路由器选择机制与专家权重组合逻辑,为理解大语言模型底层结构提供实战参考。

基于 Leaflet-Trackplayer 插件与天地图 API,演示了湖南长永高速轨迹的 WebGIS 可视化全流程。内容涵盖起止点地理编码、途径 AOI/POI 数据获取、路径规划接口调用,以及前端轨迹回放组件的配置与车牌模拟跟随功能实现。通过实际代码示例,展示了如何构建动态地图交互效果,为交通数据展示提供技术参考。
OpenClaw Secure DM Pairing 机制通过生成临时配对码实现未授权用户的身份绑定。用户发送消息触发拦截,系统返回配对码,管理员在服务器端执行 CLI 指令批准该码,将用户 ID 加入白名单。此方案平衡了安全性与便捷性,防止 Token 滥用且无需手动查找长 ID。核心逻辑基于 bot-message-context.js 中的 dmPol…
Webnovel Writer 是基于 Claude Code 和 Python 构建的开源长篇网文创作系统,旨在解决 AI 写作中的遗忘与幻觉问题。系统采用 RAG 检索增强生成架构和多智能体工作流,涵盖规划、写作、审查全流程。核心功能包括动态上下文管理、实体关系图谱维护、追读力量化分析及可视化 Dashboard。支持一键安装、多项目并行管理及自定义题材…

Edict 是一个基于中国古代三省六部官制设计的 AI 多智能体协作架构,通过分权制衡与专职审核机制解决传统多 Agent 框架不可控、不可审计的问题。系统包含十二个职责明确的 Agent,配合严格的权限矩阵与任务状态机,实现全流程可观测与干预。提供 Web 看板支持实时监控、任务调度及模型热切换,适合企业级需要高质量输出与流程追踪的场景。

Cookie 是存储在客户端的 Web 数据,用于保持登录状态和记录偏好,存在安全风险。Session 是服务器端维护的用户会话对象,通过 Session ID 关联。Cookie 存在被篡改风险,Session 相对安全但 ID 也可能被盗。两者常结合使用,需配合 HTTPS 及 HttpOnly/Secure 等属性保障安全。

OpenCode 是一款支持 AI Skills 的本地开发工具。介绍如何下载安装 OpenCode 桌面端及命令行版本,配置 Skills 环境并加载官方技能包。内容涵盖环境变量设置方法(全局与项目级)、常用指令操作(模式切换、模型选择、API 连接)以及常见问题解决。通过 init 命令初始化项目,利用 @ 符号调用特定 Skills,支持自定义 Ski…
本文档详细记录了宇树 G1 机器人的导航仿真流程。主要涵盖项目源码克隆、ROS 环境依赖安装及编译问题修复。重点讲解了如何将 PCD 点云地图转换为 PGM 栅格地图,并通过修改全局与局部代价地图参数、调整 TF 坐标系来适配不同底盘类型。最后提供了分终端启动 ROS 核心、RViz 仿真及静态坐标变换的具体步骤,支持通过 rosbag 回放验证导航效果。