C# 通过 HTTP API 集成 GLM-4.6V-Flash-WEB 模型实战

启动命令：

uvicorn app:app --host 0.0.0.0 --port 8000

访问 http://localhost:8000/docs 即可查看 Swagger 文档并测试接口。

⚠️ 注意：真实部署需确保 CUDA 环境就绪，模型加载后应常驻内存，避免每次请求重新加载导致性能暴跌。

Docker 打包

FROM python:3.10-slim
WORKDIR /app
COPY requirements.txt .
RUN pip install -r requirements.txt
COPY . .
CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "8000"]

这保证了从本地到 K8s 集群的环境一致性。

C# 侧：稳定调用 AI 能力

目标是将 AI 推理像调用普通 REST API 一样自然。核心工具是 HttpClient，配合 Newtonsoft.Json 序列化。

1. 管理 HttpClient 生命周期

频繁创建 HttpClient 会导致 Socket 耗尽。务必全局复用单例实例。

public class VisionApiClient : IDisposable
{
    private readonly HttpClient _client;
    private readonly string _apiUrl = "http://localhost:8000/v1/vision/inference";

    public VisionApiClient()
    {
        _client = new HttpClient();
        _client.Timeout = TimeSpan.FromSeconds(30);
    }

    public async Task<InferenceResponse> QueryAsync(string imagePath, string prompt)
    {
        // ... 实现逻辑
    }

    public void Dispose() => _client.Dispose();
}

ASP.NET Core 项目中建议注册为 DI 服务：

services.AddHttpClient<VisionApiClient>(client => {
    client.BaseAddress = new Uri("http://localhost:8000/");
    client.Timeout = TimeSpan.FromSeconds(30);
});

2. 图像传输策略

Base64 虽简单但体积膨胀约 33%。针对大图（如 4K），建议采取以下策略：

• 小图（<2MB）直接 Base64 内联传输；
• 大图先压缩至 1080p 分辨率再编码；
• 或使用临时文件 URL 机制（上传至 OSS 后传链接）。

完整客户端实现：

public class InferenceRequest
{
    public string Image { get; set; }
    public string Prompt { get; set; }
}

public class InferenceResponse
{
    public string Response { get; set; }
    public double LatencyMs { get; set; }
}

public class VisionApiClient : IDisposable
{
    private readonly HttpClient _client;
    private readonly string _apiUrl = "http://localhost:8000/v1/vision/inference";

    public VisionApiClient()
    {
        _client = new HttpClient();
        _client.Timeout = TimeSpan.FromSeconds(30);
    }

    public async Task<InferenceResponse> QueryAsync(string imagePath, string prompt)
    {
        try
        {
            byte[] imageBytes = await File.ReadAllBytesAsync(imagePath);
            string base64Image = Convert.ToBase64String(imageBytes);
            var request = new InferenceRequest
            {
                Image = base64Image,
                Prompt = prompt
            };

            string jsonContent = JsonConvert.SerializeObject(request);
            var httpContent = new StringContent(jsonContent, Encoding.UTF8, "application/json");

            HttpResponseMessage response = await _client.PostAsync(_apiUrl, httpContent);

            if (response.IsSuccessStatusCode)
            {
                string resultJson = await response.Content.ReadAsStringAsync();
                return JsonConvert.DeserializeObject<InferenceResponse>(resultJson);
            }
            else
            {
                throw new Exception($"API 调用失败：{response.StatusCode}, {await response.Content.ReadAsStringAsync()}");
            }
        }
        catch (TaskCanceledException)
        {
            throw new Exception("请求超时，请检查 Python 服务是否正常运行。");
        }
        catch (Exception ex)
        {
            throw new Exception($"调用 AI 服务出错：{ex.Message}");
        }
    }

    public void Dispose() => _client.Dispose();
}

调用方式非常直观：

using var client = new VisionApiClient();
var result = await client.QueryAsync("test.jpg", "这张图里有什么内容？");
Console.WriteLine(result.Response);

系统架构与场景

部署结构如下：

+------------------+ HTTP Request +----------------------------+
|                  | -----------------------> |                 |
| C# 客户端应用     |                            | Python AI 服务层 |
| (WinForm/WPF/ASP)| <----------------------- | (FastAPI + GLM) |
|                  | JSON Response              |                 |
+------------------+ +----------------------------+
                           v
                    GPU 加速推理（CUDA）
                    模型加载：GLM-4.6V-Flash-WEB

典型流程：用户上传图片 -> 客户端转 Base64 -> 发送请求 -> 服务解码推理 -> 返回结果 -> 展示结论。

适用场景包括电商内容审核、保险理赔辅助、智能展厅导览及工厂质检平台。这些场景需要语义理解能力，同时不能接受过高的部署成本。

工程实践关键点

技术方案再好，落地细节决定成败。

• 连接池管理：使用 IHttpClientFactory 或静态实例，避免 SocketException。
• 图像压缩：超过 2MB 建议预压缩，可用 ImageSharp 在 C# 端处理。
• 降级机制：Python 服务宕机时，切换备用规则引擎或人工审核通道。
• 安全防护：对外暴露 API 时添加认证，如 API Key 验证。
• 链路日志：两端记录请求 ID、时间戳、输入输出，便于追踪。
• 性能监控：统计平均延迟、成功率，设置告警阈值。

结语

这不是炫技 Demo，而是一套可复制、可维护的工业级集成方案。没有强行让 C# 兼容 Python 运行时，而是用 HTTP API 打通了两个世界：稳定的企业级语言与活跃的 AI 模型生态。未来可在此基础上扩展模型流水线、缓存机制或可视化监控。技术本身不是目的，能更快解决问题、创造业务收益才是价值所在。