​

如何选择模型

InfinityBlue 聚合了 GPT-5、Gemini、DeepSeek 等主流模型系列。选择模型时，先回答三个问题：

1. 需要什么能力？（通用对话、代码、视觉理解、图片生成、视频生成？）
2. 质量要求？（旗舰级推理，还是”够用”的高性价比？）
3. 延迟要求？（实时对话，还是批处理？）

​

能力对照表

​

延迟、成本与能力的权衡

在旗舰模型（如 gpt-5.5、gemini-3.1-pro-preview、deepseek-v4-pro）与轻量模型（如 gpt-5.4-mini、gemini-2.5-flash、deepseek-v4-flash）之间，核心取舍如下：

• 首选轻量模型进行原型验证，确认效果后再考虑是否升级。
• 旗舰模型适合结果直接面向用户、错误代价高，或任务本身需要多步推理的场景。
• 延迟敏感型应用（如聊天 UI、实时补全）优先选 flash 或 mini 系列。
• 批量离线任务（数据抽取、文档处理）则可以用旗舰模型换取更高准确率。

​

评测方法建议

在不同模型上运行相同的金标测试集，而非凭直觉选择：

1. 收集 20–50 条有代表性的真实输入（覆盖边界情况）。
2. 定义评估维度（准确率、格式合规性、延迟、每请求成本）。
3. 对候选模型并行跑测，用相同 system prompt。
4. 用量化指标比较，而非主观判断。

​

成本优化技巧

1. 用最小满足质量的模型——gpt-5.4-mini 与 gpt-5.4 质量差距比想象的小，而成本差距显著。
2. 设置 max_tokens 防止意外生成过长输出。
3. 精简 system prompt——更短的提示词意味着更少的输入 token，在高频场景下积少成多。
4. 复用上下文——对话历史只传必要的 turns，不要每次都从头发送全量历史。