
ChatGLM3 本地化部署与常见问题排查指南
ChatGLM3 是智谱 AI 推出的开源对话模型。介绍如何在本地环境部署 ChatGLM3-6B,涵盖 Python 环境配置、依赖安装及 Streamlit 演示启动。重点解决 CPU 运算警告、CUDA 版本不匹配及 PyTorch 无法调用显卡等常见问题,提供详细的版本检查命令与代码修改方案,帮助用户顺利完成本地化部署并优化推理性能。
博客作者
虚拟世界
376
已发布文章
14K
博客获赞
916K
博客浏览
第 18 页

ChatGLM3 是智谱 AI 推出的开源对话模型。介绍如何在本地环境部署 ChatGLM3-6B,涵盖 Python 环境配置、依赖安装及 Streamlit 演示启动。重点解决 CPU 运算警告、CUDA 版本不匹配及 PyTorch 无法调用显卡等常见问题,提供详细的版本检查命令与代码修改方案,帮助用户顺利完成本地化部署并优化推理性能。

LangChain 中的 Model I/O 包含输入提示、调用模型、输出解析三部分。详细讲解了 PromptTemplate、ChatPromptTemplate、FewShotPromptTemplate、PipelinePromptTemplate 及 Partial 提示模板的使用方法。通过代码示例展示了如何创建、调用及复用这些模板,并介绍了基于向量…

多模态对比预训练模型如 CLIP 易受数据中毒后门攻击影响,少量中毒样本即可导致模型行为被操纵。CleanCLIP 提出一种微调框架,通过独立对齐各模态表示并结合自监督学习目标,在干净数据上微调以消除虚假关联。实验显示该方法能显著降低攻击成功率,同时保持模型在 ImageNet-1K 上的零样本性能,为多模态模型安全部署提供了解决方案。

介绍在 macOS 环境下部署 Stable Diffusion WebUI 的完整流程。涵盖环境依赖安装、WebUI 克隆与启动、模型下载与管理、基础参数配置及常见报错处理。通过本教程,用户可快速掌握本地生成 AI 图像的核心操作,解决内存不足、代理冲突等常见问题,实现从文本到图像的自动化创作。重点包含 Apple Silicon 芯片的 MPS 加速配置…

GraphRAG 结合知识图谱与向量检索提升大模型问答准确性。基于 PolarDB、通义千问和 LangChain 搭建系统,利用 PolarDB 同时支持 AGE 图引擎和 pgvector 插件的特性,实现图数据与向量数据的统一存储。通过对比单独使用向量检索、图检索及联合搜索的效果,验证了图 + 向量联合搜索在复杂查询中的优势,能有效减少幻觉并增强上下文…

总结了 2023 年国内大模型公司的面试经验,涵盖智元机器人、面壁科技、Minimax、阿里、百度等 24 家企业的面试流程与结果。文章详细分析了基座算法岗的技术考点,包括多头注意力机制、Transformer 架构、分布式训练、数据预处理及评估方法。同时提供了从基础夯实到行业落地的七阶段学习路径,强调了工程与研究的结合以及 RLHF 方向的前景,旨在为求职…

系统介绍了 Transformer 模型的核心架构与技术细节。内容涵盖编码器与解码器结构、自注意力机制、位置编码、残差连接等基础组件;深入解析了 BERT 模型的双向上下文与预训练策略;探讨了多语言处理、ViT 等变体架构以及预训练微调的工程实践。此外,文章还涉及模型可解释性技术与未来演进方向,为开发者提供从理论到应用的完整技术视角。

全面综述了知识图谱增强大模型 GraphRAG 技术。GraphRAG 通过整合外部结构化知识图谱,解决了传统检索增强生成(RAG)在处理实体间复杂关系时的局限性。文章详细阐述了 GraphRAG 的三大核心阶段:基于图的索引、图引导检索和图增强生成,分析了图数据选择、索引方法、检索模型及生成策略。同时探讨了其在问答、推荐、医疗等领域的下游任务应用,对比了无…

Android Jetpack 中的 ViewBinding 组件。从历史演进角度对比了 findViewById、KAE 与 ViewBinding 的差异,阐述了 ViewBinding 在 Activity、Fragment、Dialog 及 RecyclerView 中的具体用法。文章深入探讨了如何通过泛型基类和 Kotlin 委托机制封装优化代码,…

Python 网络爬虫的基本原理与工作流程,对比了常用工具与语言选择,重点阐述了 Selenium 库的安装与元素定位方法。通过豆瓣电影 Top250 抓取实战案例,展示了 URL 分析、DOM 解析及数据库存储的完整代码实现,并补充了关于频率控制、反爬策略及法律合规性的注意事项,旨在帮助读者建立规范的爬虫开发意识。

探讨了生成式 AI 在商业化初期的多种应用路径。通过浅度、中度及深度用户的案例,分析了从信息差变现到创意落地再到企业级应用的差异。核心观点指出,AI 并非万能致富工具,而是提升效率与创造力的助手。普通人应聚焦于提问能力与审美培养,避免陷入焦虑,将 AI 作为辅助而非替代,以应对未来职场变化。文章建议警惕信息差陷阱,重视人机协作,并认识到行业应用的分层趋势。

网络安全行业受国家政策与新基建推动,市场规模持续增长,人才缺口巨大。文章分析了行业前景、主要岗位类型、薪资水平及所需技能,为有意入行者提供详细的学习路径和职业建议。内容涵盖市场数据、岗位细分、技能栈构建、证书认证及未来发展趋势,强调持续学习与实战的重要性。

2023 开发者生态系统现状报告显示,全球超 2.6 万开发者参与调研。JavaScript 使用率连续下降,Rust 增长显著。Scala、Go、Kotlin 薪酬最高。77% 开发者使用 ChatGPT,但安全顾虑仍是障碍。近四分之三开发者经历过职业倦怠,转行 IT 主力为 30 岁以上人群。开源贡献方面,国内开发者占比 52%。云领域 AWS 领先,阿…

Python 办公自动化涉及基础语法、Excel/Word/PPT 文档操作、文件批量处理及数据分析等核心技能。掌握 Python 基础数据类型、控制流与函数后,可借助 openpyxl、pandas 处理表格,利用 python-docx 编辑文档,通过 python-pptx 生成演示文稿。结合 os 模块实现文件管理,使用 pandas 和 numpy…

大模型在自然语言处理及计算机视觉领域展现出显著应用价值,通过预训练加微调模式解决行业碎片化需求。文章深入剖析了大模型的定义特征,包括海量参数与稀疏稠密分布。重点讨论了分布式训练中遇到的内存墙、通信墙及性能瓶颈,并详细阐述了数据并行、张量并行、流水线并行等解决方案。此外,还涵盖了梯度累积、混合精度训练等优化策略,为大模型工程化落地提供技术参考。

网络安全渗透测试中常用的四款浏览器扩展工具。PwnFox 用于 Burp 集成与多账号越权测试;红队扩展集成了反向 Shell 生成、Payload 库及数据编码等功能;Hunter 专注于 OSINT 信息收集,可获取联系人及社交资料;Temp Mail 提供临时匿名邮箱以保护隐私。这些工具能显著提升漏洞挖掘效率,但使用时需严格遵守法律法规,仅在授权范围内…

网络安全工程师的职业现状、岗位需求及技能要求。随着云计算和大数据发展,安全边界弱化,国家政策支持力度加大。行业人才缺口达 140 万,平均年薪约 25 万。主要岗位包括安全运维、渗透测试、安全专家等。核心技能涵盖网络协议、漏洞分析、脚本编程及应急响应。从业者需持续学习新技术,考取专业认证以提升竞争力。

AIGC 产品经理负责将 AI 生成内容能力结合现有业务,需具备行业洞察力、技术理解力及控制 AI 输出不确定性的能力。与 AI 产品经理不同,后者侧重模型从立项到落地的全流程及数据工作,前者更侧重应用层优化与业务赋能。岗位需求高,薪资可观,需掌握提示词工程、RAG、模型微调等技能。核心职责包括技术敏锐度培养、不确定性管理、跨领域业务沉淀及商业化落地探索。

网络安全入门需避开盲目编程和深度学习误区,做好软硬件及语言准备。学习路线分为基础操作、基础知识、实战操作三阶段。推荐 Web 安全课程、经典书籍及靶场资源,强调通过挖 SRC 和技术复现提升技能,最终达到安全工程师水平。持续学习、关注官方渠道、参与社区讨论及考取相关证书也是进阶的关键。务必遵守法律法规,确保所有测试行为获得授权。

黑客一词源于英语动词 hack,原意为劈砍,后引申为巧妙解决问题。早期麻省理工学院校园俚语中代表技术高超者。随着互联网发展,黑客文化分化为白帽、黑帽等群体。渗透测试作为模拟攻击评估安全的方法,已成为网络安全核心环节。梳理黑客概念演变,解析渗透测试流程,列举必备技能如系统命令、脚本语言及漏洞原理,并提供合规的学习路径建议,帮助读者建立正确的网络安全认知。