智能体与 LLM 咨询服务,涵盖您调用的模型和运行的模型。
我们将 Claude 和 GPT 进行集成,在您控制的硬件上运行开放权重模型,利用您的数据对其进行微调,并根据您自身的流量对每种方案进行测试。
首先要问一个问题:这项任务需要什么?
许多项目需要完善的指令和正确的文档支持,而完全不需要专门训练的模型。如果结论是这样,我们会明确告知。
选择方法
指令与工具
从这里开始。清晰的指令、实例演示和工具定义所能解决的问题,往往超出大多数团队的预期,而且修改起来无需任何成本。
文档检索
当答案存在于您的文档或数据库中且经常变化时,模型会在回答的瞬间读取相关记录。
微调
当模型必须每次都遵循特定的格式、语气或决策模式,且您拥有足够多的正确处理示例时。
模型训练
这很少是正确答案。它适用于基础模型几乎不了解的语言、领域或词汇,并以您拥有的海量文本作为支撑。
AI 智能体
当任务需要在您的系统中执行多个步骤时,模型会在您设定的权限范围内进行规划、调用工具并检查结果。
项目合作流程
决策备忘录
一份独立定价的书面建议
采用哪种方法、哪种模型、在何处运行以及运营成本是多少,并附上每项选择背后的依据。
基准测试冲刺
根据您的流量对候选方案进行评估
两到三个模型或引擎将根据您提供的提示词进行运行,同时并行展示其质量、延迟及每次请求的成本。
构建系统
该系统将分阶段实施,需经您批准
集成、服务、微调或智能体本身,每个阶段均可单独报价并接受。
系统运行
上线后的支持
在月度协议框架下,模型更新、评估重跑及成本审查均包含在内,响应时间已写入合同。
买家常问的问题
我们需要对模型进行微调吗?
通常并非如此。我们会先测试指令和检索功能,只有当基于您数据的评估表明微调能弥补这些功能无法弥补的差距时,才会建议进行微调。
我们的数据能否保留在内部网络中?
是的,您可以在自有服务器或私有云上部署开放权重模型。对于 Claude 或 GPT,我们会配置供应商的数据选项,并向您说明每种选项的覆盖范围。
微调后的模型归谁所有?
在基础模型许可条款范围内,调优后的权重、训练数据和评估集均归您所有。
我们应该使用哪种模型?
即在运行成本最低的情况下通过您评估的那个方案。在比较任何模型之前,我们会基于您自身的案例构建评估集。