Llama API 集成 LlamaIndex 实战指南
Llama API 提供了托管的 Llama 2 服务，支持函数调用等高级功能。通过 LlamaIndex 进行集成，开发者无需本地部署即可直接调用模型，实现文本补全、对话交互及结构化数据提取。这种方案不仅简化了使用流程，还借助 OpenAI 兼容性扩展了应用场景。
环境准备
首先安装必要的依赖包。这里我们使用标准 pip 命令，确保环境纯净。
pip install llama-index-program-openai
pip install llama-index-llms-llama-api
pip install llama-index
获取 API 密钥是运行示例的前提，请从 Llama API 官网申请。导入库并初始化实例时，记得替换占位符为真实密钥。
from llama_index.llms.llama_api import LlamaAPI
api_key = "LL-your-key"
llm = LlamaAPI(api_key=api_key)
核心功能演示
1. 文本补全与对话
最基础的用法是通过 complete 方法完成文本续写。比如询问关于 Paul Graham 的信息，模型能给出连贯的回答。
resp = llm.complete("Paul Graham is ")
print(resp)
对于多轮交互，chat 方法更为合适。我们可以设定系统角色（例如海盗），让对话更具趣味性。
from llama_index.core.llms import ChatMessage
messages = [
ChatMessage(role="system", content="You are a pirate with a colorful personality"),
ChatMessage(role="user", content="What is your name")
]
resp = llm.chat(messages)
print(resp)
2. 函数调用
利用函数调用能力，可以让模型主动触发外部逻辑。定义一个 Pydantic 模型来描述歌曲信息，并将其转换为 OpenAI 兼容的函数格式。
from pydantic import BaseModel
from llama_index.core.llms.openai_utils import to_openai_function
class Song(BaseModel):
"""A song with name and artist"""
name: str
artist: str
song_fn = to_openai_function(Song)
调用时传入函数列表，模型会返回结构化的调用参数。
