开源模型应用落地-qwen模型小试-Qwen2.5-7B-Instruct-tool usage入门-串行调用多个tools(三)

开源模型应用落地-qwen模型小试-Qwen2.5-7B-Instruct-tool usage入门-串行调用多个tools(三)

一、前言

    Qwen-Agent 是一个利用开源语言模型Qwen的工具使用、规划和记忆功能的框架。其模块化设计允许开发人员创建具有特定功能的定制代理,为各种应用程序提供了坚实的基础。同时,开发者可以利用 Qwen-Agent 的原子组件构建智能代理,以理解和响应用户查询。

    本篇将介绍如何在Qwen-Agent中实现多个tools联动。

    相关文章

    使用vLLM(不使用Qwen-Agent的方式)进行工具调用:开源模型应用落地-Qwen2.5-7B-Instruct与vllm实现推理加速的正确姿势-Docker-Tools助力(四)

     Qwen-Agent使用入门:

Read more

文心一言开源版部署及多维度测评实例

文心一言开源版部署及多维度测评实例

文章目录 * 第一章 文心一言开源模型简介 * 第二章 模型性能深度实测 * 2.1 通用能力基准测试 * 2.1.1 文本生成质量 * 2.1.2 数学推理能力 * 2.2 极端场景压力测试 * 2.2.1 高并发性能 * 2.2.2 长上下文记忆 * 第三章 中文特色能力解析 * 3.1.2 文化特定理解 * 3.2 行业术语处理 * 3.2.1 法律文书解析 * 3.2.2 医疗报告生成 * 第四章 开源生态建设评估 * 4.1 模型可扩展性验证 * 4.

By Ne0inhk
Llama-2-7B在昇腾Atlas 800T上的全流程部署:从环境搭建到生产级推理

Llama-2-7B在昇腾Atlas 800T上的全流程部署:从环境搭建到生产级推理

一、为什么选昇腾+Llama-2? 对个人开发者而言,英伟达A100单卡月租超5000元,而昇腾Atlas 800T不仅算力达320 TFLOPS(FP16)(接近A100的80%),还能通过GitCode免费NPU资源跑通全流程;对企业来说,昇腾的自主可控性可规避海外芯片的供应链风险。 Llama-2-7B作为Meta开源的通用大模型,既能提供接近GPT-3.5的中文对话、代码生成能力,又支持FP16/INT8量化——这恰好匹配昇腾Atlas 800T的显存(64GB HBM)与算力特性。我曾测试过“昇腾Atlas 800T+Llama-2-7B”vs“英伟达A10+Llama-2-7B”:前者推理速度仅慢15%,但成本降低80%,这是我放弃“英伟达执念”的核心原因。 二、环境搭建:GitCode免费昇腾资源的“白嫖攻略” 2.1 实例创建:3个关键配置不能错 昇腾硬件资源稀缺,GitCode的免费NPU实例需“抢资源”(每日10点释放新配额),步骤如下: 1.

By Ne0inhk
【新手高效出稿工作流】 我私藏的4款小说软件,搞定从小说大纲到AI写作!

【新手高效出稿工作流】 我私藏的4款小说软件,搞定从小说大纲到AI写作!

哈喽大家好,今天看了看后台私信,问得最多的问题,除了“卡文怎么办”,就是: “你到底用什么工具写小说?” 说实话,我最开始写小说的时候,跟大家一样,就是系统自带的TXT记事本。 结果写了三万字,电脑蓝屏,稿子全丢。😭 那是我第一次“踩坑”。 后来换成Word,写到十万字,人物小传、伏笔、时间线……我开了十几个文档,桌面密密麻麻,找个设定得翻半天,效率低到发指。 折腾了这么多年,也算(被迫)成了一个“工具党”。市面上主流的、小众的写作工具,我基本都花钱试过了。 今天这篇,不恰饭(摸着良心说),纯粹是我现在工作流里“离不开”的4款宝贝。 它们不是“最好”的,但一定是我用下来“最顺手”的。 这篇文章的目标很纯粹:帮大家少走弯路,把时间花在“创作”本身,

By Ne0inhk
AI 编程工具选型:Copilot、Cursor、Codex 核心差异

AI 编程工具选型:Copilot、Cursor、Codex 核心差异

【如文章引起大家共鸣,请“点赞”以及“转发”,以支持继续创作,谢谢大家!】 朋友们大家好!今天咱们不聊那些虚头巴脑的,直接来点实在的——AI编程工具选型,Copilot、Cursor、Codex这仨到底咋选?别急,我这就用最接地气的方式,给你唠唠它们的“脾气秉性”,保证你听完就能上手挑! 先说Copilot,这哥们儿可是“代码补全界的扛把子”!它就像你身边的“代码小秘书”,你敲代码时,它就在旁边默默观察,你刚敲个“for”,它立马给你补上“(int i=0;i<n;i++)”,那叫一个快!而且,它还支持多IDE,VS Code、JetBrains啥的,都能无缝对接。不过呢,Copilot也有个“小毛病”,就是它更擅长“补全”,对于复杂的代码重构或者项目级理解,就有点力不从心了。

By Ne0inhk