Eino 框架 Embedding 组件详解与使用

2. 调用 EmbedStrings

texts := []string{"hello", "how are you"}
vectors, err := embedder.EmbedStrings(ctx, texts)
if err != nil {
	panic(err)
}

输入几段文本，输出几组向量。

3. 使用 Option

公共 option 如 WithModel 可在调用时临时覆盖模型参数。

vectors, err := embedder.EmbedStrings(ctx, texts, embedding.WithModel("text-embedding-3-small"))

适合平时默认用大模型，特定场景为省钱或提速改用小模型的情况。需注意向量在不同模型间兼容性有限，尽量避免随意切换。

4. 在编排中使用

若使用 Eino 的 Chain 或 Graph，可将 embedding 作为节点。

在 Chain 中使用：

chain := compose.NewChain[[]string, [][]float64]()
chain.AppendEmbedding(embedder)

在 Graph 中使用：

graph := compose.NewGraph[[]string, [][]float64]()
graph.AddEmbeddingNode("embedding_node", embedder)

5. 带 Callback 使用

用于记录日志、统计 token、监控调用过程。

handler := &callbacksHelper.EmbeddingCallbackHandler{
	OnStart: func(ctx context.Context, runInfo *callbacks.RunInfo, input *embedding.CallbackInput) context.Context {
		log.Printf("开始 embedding，文本数：%d, 内容：%v\n", len(input.Texts), input.Texts)
		return ctx
	},
	OnEnd: func(ctx context.Context, runInfo *callbacks.RunInfo, output *embedding.CallbackOutput) context.Context {
		log.Printf("embedding 完成，生成向量数：%d\n", len(output.Embeddings))
		return ctx
	},
}

callbackHandler := callbacksHelper.NewHandlerHelper().Embedding(handler).Handler()
runnable, _ := chain.Compile(ctx)
vectors, err := runnable.Invoke(ctx, []string{"hello", "how are you"}, compose.WithCallbacks(callbackHandler))

6. 真实场景：知识库问答

1. 切块：将文档切成多段。
2. 向量化：为每个 chunk 生成向量。
3. 存储：存到向量数据库，保存原文及元数据。
4. 查询向量化：用户提问时生成 query 向量。
5. 检索：拿 query 向量检索最相近的 chunk。
6. 回答：将召回结果交给大模型回答。

语法总结

• 最小步骤：初始化 embedder -> 调 EmbedStrings -> 拿到 [][]float64
• 常见增强：用 Option 覆盖参数、用 Callback 监控、放进 Chain/Graph 编排

完整模板

package main

import (
	"context"
	"fmt"
	"log"

	"github.com/cloudwego/eino/components/embedding"
	embeddingOpenAI "github.com/cloudwego/eino-ext/components/embedding/openai"
)

func main() {
	ctx := context.Background()
	defaultDim := 3072
	accessKey := "your-api-key"

	embedder, err := embeddingOpenAI.NewEmbedder(ctx, &embeddingOpenAI.EmbeddingConfig{
		APIKey:     accessKey,
		Model:      "text-embedding-3-large",
		Dimensions: &defaultDim,
		Timeout:    0,
	})
	if err != nil {
		log.Fatal(err)
	}

	texts := []string{"退款怎么申请", "如何退钱", "修改收货地址的方法"}
	vectors, err := embedder.EmbedStrings(
		ctx, texts,
		embedding.WithModel("text-embedding-3-small"),
	)
	if err != nil {
		log.Fatal(err)
	}

	fmt.Printf("生成了 %d 个向量\n", len(vectors))
	fmt.Printf("每个向量维度：%d\n", len(vectors[0]))
}

总结

Embedding 的核心用法是：先把文本喂进去生成向量，再把这个向量用于检索、匹配、聚类等后续处理。

'会调用 embedding'和'会用 embedding 做业务'是两回事。前者只需 NewEmbedder 和 EmbedStrings；后者涉及完整链路，包括文本切块、向量生成、存储、检索及大模型回答。

参考资料

1. OpenAI 开发者 向量嵌入
2. CloudWeGo 官方文档 Embedding 使用说明