LangChain 配置
通过 OpenAI-compatible endpoint 接入。
RAG 不只是一次聊天请求,可能包含 embedding、检索、重排和生成。每一步都应该能通过项目 Key 和日志看清楚。
| # | 动作 | 为什么重要 |
|---|---|---|
| 1 | 拆分 embedding 和 chat Key | 方便分别看检索和生成的成本。 |
| 2 | 先测真实上下文长度 | 不要只用短 prompt 估算 RAG 成本。 |
| 3 | 按任务选模型 | 低价模型如果需要更多重试,未必更便宜。 |
| 4 | 先看错误日志 | 模型名、base URL、限流和余额问题都应先排除。 |
通过 OpenAI-compatible endpoint 接入。
核对模型输入、输出和能力计费。
按 401、429、模型不存在和 base URL 排查。
创建账号,生成项目 API Key,把客户端 base URL 换成 TackleKey 入口。Key 请放在服务端,扩大用量前先核对实时价格和日志。