
大模型基础概念与本地部署实战指南
大语言模型(LLM)的核心概念、发展历程及本地部署方案。内容涵盖 Token 机制、Transformer 架构、量化技术(如 GGML、GPTQ),并提供了基于 llama.cpp 和 whisper.cpp 的实操指南,同时梳理了主流开源模型与免费服务资源,旨在帮助开发者理解并上手运行大模型。文章还补充了提示词工程、RAG 检索增强及微调等进阶方向,确保…
博客作者
云原生实践者
337
已发布文章
14K
博客获赞
770K
博客浏览
第 17 页

大语言模型(LLM)的核心概念、发展历程及本地部署方案。内容涵盖 Token 机制、Transformer 架构、量化技术(如 GGML、GPTQ),并提供了基于 llama.cpp 和 whisper.cpp 的实操指南,同时梳理了主流开源模型与免费服务资源,旨在帮助开发者理解并上手运行大模型。文章还补充了提示词工程、RAG 检索增强及微调等进阶方向,确保…

对比了本地大模型与在线大模型在可用性、运行成本、隐私性、控制权和透明度五个维度的差异。线上模型部署简单但存在数据隐私风险和长期成本问题;本地模型虽需硬件投入和技术门槛,但能提供数据闭环、低成本复用及高度自定义能力。文章详细列出了不同参数量模型所需的显存与内存配置建议,并介绍了 Ollama 等本地部署工具的基本使用方法,为读者根据自身需求选择合适的 AI 方…

系统介绍了人工智能的基础概念与发展历程,重点阐述了大模型在文生文、文生图、文生音频及视频领域的核心能力与技术原理。内容涵盖 Python 开发环境搭建、主流框架使用及 API 调用示例,分析了 AI 行业的岗位需求与技能要求,并探讨了隐私、安全及版权等伦理挑战。旨在帮助零基础读者理解 AI 技术本质,掌握入门方法,为后续深入学习与实践奠定基础。

程序员常用的在线资源平台,涵盖学习教程、兼职接单、技术社区及行业资讯四大类。内容包含菜鸟教程、Coursera、程序员客栈、掘金、GitHub 等知名站点,详细说明了各平台的特点与适用场景,帮助开发者高效获取知识、拓展职业机会并了解行业动态。

Python 大模型开发环境搭建指南。涵盖 Python 安装配置、虚拟环境隔离、VS Code 开发工具设置、环境变量安全存储及 OpenAI API 调用示例。详解虚拟环境隔离、密钥管理最佳实践、请求参数含义及异常处理机制,帮助开发者快速构建本地大模型应用基础框架。

bashtop 是一款近期在 GitHub 上备受关注的 Linux 资源监视器,采用纯 Bash 编写。它提供图形化的终端界面,支持实时监控处理器、内存、磁盘及网络使用情况,并具备进程筛选、信号发送及自动更新提示等功能。配置文件位于用户目录下的 .config 文件夹,支持自定义主题与刷新频率。相比传统工具,bashtop 在保持低资源占用的同时,提供了更…

通过 Safari 的 Web Inspector 功能,可将 iPhone 浏览器的 Console 日志实时同步到 Mac 电脑上进行调试。主要步骤包括在 iOS 设置中开启 Web Inspector 权限,在 Mac Safari 偏好设置中启用'开发'菜单,最后通过 USB 连接设备并在开发菜单中选择对应设备进行调试。该方法适用于前端开发人员排查移…

Gitee 推出的轻量级 PR 功能解决了传统 Pull Request 流程繁琐的问题。用户无需 Fork 仓库,可直接在网页端编辑文件并提交流程,极大降低了文档修正或小改动的参与门槛。这一机制鼓励更多人参与开源维护,简化了协作步骤,让技术分享变得更加触手可及。

八爪鱼采集器基础使用流程涵盖登录、简易采集任务创建及豆瓣图书数据抓取示例,适合初学者快速上手可视化工具进行网页数据采集。

帆软填报报表中常需实现控件级联联动,即根据前一控件值动态更新后一控件选项。主要通过三种方式达成:一是定义独立数据集并添加 WHERE 过滤条件;二是使用 SQL() 函数直接构建查询;三是调用 ds1.select() 方法。配置时需注意移动端对参数引用的限制,通常推荐优先使用单元格引用以确保兼容性。
视图作为虚拟表,由预定义的 SELECT 语句组成,数据实际存储于基本表中。它具有命名唯一性、支持嵌套等特点,但通常不支持索引或触发器。使用视图能简化复杂查询逻辑,增强数据安全并提供逻辑独立性。内容涵盖视图定义、特性分析、功能优势及基础语法示例。
Python 模块导入支持 import 语句和 from...import 语句。包是包含__init__.py 的文件夹,用于组织代码。路径解析涉及标准库、第三方库及当前工程目录。为避免导入时触发业务逻辑,应将执行代码置于 if __name__ == '__main__': 块中。掌握这些机制有助于规范项目结构并避免副作用。
Linux 环境下启动 Java JAR 包时,常用 nohup 命令实现后台驻留。默认输出会写入 nohup.out,通过重定向标准输出和错误流至指定日志文件可避免生成该冗余文件。同时结合 netstat 命令可快速定位占用端口的进程 ID,便于服务监控与排查。演示了具体命令写法及注意事项。
Docker 启动时自动创建的 docker0 网桥负责连接容器与宿主机网络。若需自定义网桥 IP 以避免冲突,可编辑 daemon.json 添加 bip 参数。修改后需重启 Docker 服务,且新 IP 不得与宿主机物理网段冲突,远程操作时需防范网络中断风险。
在 Java 开发中处理后端返回的 JSON 数据是常见需求。本示例展示了如何配置 org.codehaus.jackson 依赖,并通过 JSONObject 类提取状态码与消息内容。代码片段涵盖了从字符串到对象的转换及字段读取过程,适合参考用于旧版 Jackson 库的数据解析场景。
生成唯一序列号的常见方法包括时间前缀加随机数组合,以及时间戳字符置换。前者通过日期、毫秒与随机字符混合确保唯一性;后者利用时间戳数字索引映射自定义字符集。文中提供了 Java 代码示例展示具体实现逻辑。
企业人才管理中常出现两种现象:一是老员工感觉被冷落导致热情下降的'蜜月期综合症',二是新员工因缺乏认可而人际关系紧张的'新人新猪肉综合症'。前者源于老板对新人的过度关注及人力资源管理不规范,后者源于企业文化缺失及管理不到位。这些现象会导致人才定位偏差、工作氛围恶化及人才流失。解决措施包括实行规范的人力资源管理、培育积极向上的企业文化、提升老板管理理念以及引导…