基于 Streamlit 快速搭建腾讯混元 LLM 聊天应用

4. 完整的 Streamlit 应用代码

以下是整合后的完整代码示例，包含会话历史管理和消息展示逻辑。

import json
import os
import streamlit as st

from tencentcloud.common import credential
from tencentcloud.common.exception.tencent_cloud_sdk_exception import TencentCloudSDKException
from tencentcloud.common.profile.client_profile import ClientProfile
from tencentcloud.hunyuan.v20230901 import hunyuan_client, models

st.title("混元小助手")

# 初始化认证对象
if not st.session_state.get('initialized'):
    secret_id = os.environ.get("TENCENT_SECRET_ID")
    secret_key = os.environ.get("TENCENT_SECRET_KEY")
    if not secret_id or not secret_key:
        st.error("请在环境变量中配置 TENCENT_SECRET_ID 和 TENCENT_SECRET_KEY")
        st.stop()
    cred = credential.Credential(secret_id, secret_key)
    cpf = ClientProfile()
    cpf.httpProfile.pre_conn_pool_size = 3
    client = hunyuan_client.HunyuanClient(cred, "ap-beijing", cpf)
    st.session_state['initialized'] = True
    st.session_state['client'] = client

client = st.session_state.get('client')

# 初始化聊天历史
if "messages" not in st.session_state:
    st.session_state.messages = []

# 显示历史消息
for message in st.session_state.messages:
    with st.chat_message(message["role"]):
        st.markdown(message["content"])

# 用户输入处理
if prompt := st.chat_input("有什么需要帮助的？"):
    # 添加用户消息
    st.session_state.messages.append({"role": "user", "content": prompt})
    with st.chat_message("user"):
        st.markdown(prompt)

    # 构建请求
    req = models.ChatStdRequest()
    req.Messages = []
    for m in st.session_state.messages:
        msg = models.Message()
        msg.Role = m["role"]
        msg.Content = m["content"]
        req.Messages.append(msg)

    # 显示助手回复（流式）
    with st.chat_message("assistant"):
        try:
            def response_generator():
                resp = client.ChatStd(req)
                for event in resp:
                    data = json.loads(event['data'])
                    for choice in data['Choices']:
                        yield choice['Delta']['Content'] + ""
            
            response = st.write_stream(response_generator())
            st.session_state.messages.append({"role": "assistant", "content": response})
        except TencentCloudSDKException as err:
            st.error(f"API 调用失败：{err}")

运行与调试

不要直接使用 python 命令运行脚本，必须使用 Streamlit 专用命令：

streamlit run app.py

这将自动在浏览器中打开应用界面。如果遇到端口占用错误，可以指定端口号：

streamlit run app.py --server.port 8501

常见问题排查

1. 密钥无效：检查环境变量名称是否完全匹配，区分大小写。
2. 流式输出乱码：确保终端或浏览器编码设置为 UTF-8。
3. 内存溢出：如果对话轮数过多，建议在 session_state 中限制历史消息数量，仅保留最近 N 条。
4. 网络超时：增加 ClientProfile 中的超时设置，或检查网络连接稳定性。

总结与扩展

本文介绍了如何使用 Streamlit 和腾讯云混元 API 快速构建一个具备流式交互能力的 LLM 聊天应用。通过合理的会话状态管理和流式响应处理，开发者可以在无需编写复杂前端代码的情况下，获得流畅的用户体验。

在此基础上，你可以进一步拓展功能：

• 知识库增强：结合 LangChain 等框架接入外部知识库，实现 RAG（检索增强生成）。
• UI 定制：使用 Streamlit 的高级组件美化界面，添加侧边栏、文件上传等功能。
• 多模态支持：探索混元 API 的多模态能力，集成图像识别或生成。

掌握大模型应用开发技能，不仅能提高编程效率，还能更好地应对实际项目需求。希望本指南能为你开启 AI 应用开发的大门。