windows安装并编译llama.cpp步骤,亲测可用

windows安装并编译llama.cpp步骤,亲测可用

一、下载visual studio

下载 Visual Studio Tools - 免费安装 Windows、Mac、Linux

选择c++桌面开发

二、下载cmake

Download CMake

三、下载CUDA toolkits(需要GPU加速可选)

CUDA Toolkit - Free Tools and Training | NVIDIA Developer

四、安装 curl(需要联网下载模型可选)

git clone https://github.com/microsoft/vcpkg.git cd vcpkg .\bootstrap-vcpkg.bat .\vcpkg install curl:x64-windows

        需手动新建模型下载目录C:\Users\Administrator\AppData\Local\llama.cpp

五、下载llama.cpp源代码并编译:

git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build -DGGML_CUDA=ON -DLLAMA_CURL=ON cmake --build build --config Release

        -B build:指定构建目录为 ./build。
        -DGGML_CUDA=ON:启用 CUDA 支持(需已安装 CUDA 工具包)。
        -DLLAMA_CURL=ON:启用 CURL 支持(需已安装 curl)

六、进入build\bin\Release目录开始使用llama

Read more

为什么 Agent 会成为下一个 AI 应用爆发点?如何为企业带来盈利

为什么 Agent 会成为下一个 AI 应用爆发点?如何为企业带来盈利

🐇明明跟你说过:个人主页 🏅个人专栏:《深度探秘:AI界的007》 🏅 🔖行路有良友,便是天堂🔖 目录 一、前言 1、好聊天≠能执行 2、静态问答 → 动态执行 二、什么是 Agent 1、具备感知、规划、决策、执行能力的智能体 2、核心能力 三、为什么说 Agent 会成为爆发点 1、应用能力从“问答”跃迁到“任务执行” 2、开发成本降低、生态系统成熟 3、开放模型(如 Qwen、Yi) + RAG + Tool Use 更易落地 四、典型应用场景盘点 1、

By Ne0inhk

让“小爱音箱PRO”智能起来:接入豆包AI

下面提供从 0 到 1 的完整流程,包含豆包 API 申请、MiGPT 部署、配置与使用,确保你能顺利让小爱音箱 Pro 用上豆包的强大能力。 一、准备工作(必做) 二、申请豆包 API 密钥(关键步骤) 豆包 API 需通过火山引擎方舟平台申请,以下是详细步骤: 1. 注册与实名认证 1. 访问火山引擎官网:https://www.volcengine.com/ 2. 注册账号并完成实名认证(个人 / 企业均可) 3. 登录后进入方舟大模型平台 2. 创建 API 密钥与推理接入点 1. 进入控制台 → API 密钥管理 → 点击 "

By Ne0inhk
让 AI 帮你编译部署鸿蒙应用:harmonyos-build-deploy Skill

让 AI 帮你编译部署鸿蒙应用:harmonyos-build-deploy Skill

让 AI 帮你编译部署鸿蒙应用:harmonyos-build-deploy Skill 这不是一篇教你敲命令的文章。这是一篇关于如何让 AI 成为你的鸿蒙开发助手,帮你完成从编译到部署全流程的实践分享。 为什么要做这个 Skill? 不是给开发者用的,是给 AI 用的 传统的 CLI 工具设计理念是:开发者学习命令 → 开发者执行命令。 但在 AI Coding 时代,我们有了新的可能:开发者描述需求 → AI 理解并执行。 harmonyos-build-deploy 的设计初心就是: 让 Claude 能够理解鸿蒙项目,自动完成编译、签名、部署、调试的全流程。开发者只需要用自然语言描述需求。 什么是 Claude Code Skill? Claude Code 是 Anthropic 推出的 AI 编程助手。

By Ne0inhk
一句话生成PCB?和AI聊聊天,就把板子画了!

一句话生成PCB?和AI聊聊天,就把板子画了!

在键盘上敲下一句“我要一个STM32的电机驱动板,带CAN总线”,几秒后,一张完整的原理图和PCB布局在你眼前展开——这不是科幻电影,而是AI给硬件工程师带来的真实震撼。 清晨的阳光洒进办公室,资深硬件工程师李工没有像往常一样直接打开Altium Designer。他对着电脑屏幕上的对话框,敲入了一行简单的需求描述:“设计一个基于ESP32的智能插座PCB,要求支持Wi-Fi控制、过载保护,尺寸尽量小巧。” 15分钟后,一份完整的原理图草案、经过初步优化的双层板布局,甚至是一份物料清单(BOM)初稿已经呈现在他面前。这不可思议的效率背后,正是AI驱动的PCB设计工具在重新定义电子设计的边界。 01 效率革命,从对话到电路板 如今的PCB设计领域正经历着一场静悄悄的革命。传统上,一块电路板从概念到图纸,需要工程师经历需求分析、器件选型、原理图绘制、布局布线等一系列复杂工序,耗时数天甚至数周。 AI工具的出现彻底改变了这一流程。这类工具的核心是经过海量电路数据和设计规则训练的大型语言模型,它们能理解自然语言描述的需求,自动完成从逻辑设计到物理实现的全流程或关键环节。 比如,当

By Ne0inhk