Integración de Claude y GPT, diseñada para funcionar en entorno de producción.
Conectamos los modelos de Anthropic y OpenAI a sus sistemas mediante el uso de herramientas, la salida estructurada y un conjunto de herramientas de evaluación, y mantenemos la factura mensual predecible.
Lo que omite una demostración
Tiempos de espera, límites de frecuencia, respuestas mal formadas, costes y versiones de los modelos que cambian. Cada uno de estos aspectos se gestiona en el código y se comprueba mediante una prueba.
Lo que incorporamos a la integración
Uso de herramientas y MCP
El modelo realiza llamadas a sus API y bases de datos a través de herramientas definidas o de servidores del Protocolo de Contexto del Modelo, con permisos establecidos para cada herramienta.
Salida estructurada
Respuestas que se ajustan a un esquema que su código comprueba, de modo que una respuesta mal formada se detecta antes de que llegue a nadie.
Control de costes
Almacenamiento en caché de los prompts, procesamiento por lotes para las tareas que pueden esperar y redireccionamiento de las solicitudes sencillas a modelos más pequeños.
Cómo lo desarrollamos
La evaluación es lo primero
Un conjunto de pruebas basado en sus casos reales, que se ejecuta cada vez que se produce un cambio en un prompt o en un modelo.
Recurso alternativo del proveedor
Cuando un proveedor está inactivo o presenta lentitud, las solicitudes se redirigen a otro modelo que usted haya aprobado.
Versiones de modelo fijadas
Las versiones de los modelos se fijan y se actualizan de forma deliberada, una vez que la nueva versión ha superado la evaluación.
Gestión de datos
Configuramos la retención y las opciones de datos del proveedor de acuerdo con su política y las documentamos, ya sea en la propia API del proveedor o en Amazon Bedrock, Google Cloud o Microsoft Foundry.
Preguntas que plantean los compradores
¿Claude o GPT?
Comprobamos ambas opciones en función de su evaluación, y la decisión se toma en función de los resultados y el coste de funcionamiento. Muchos sistemas utilizan ambas opciones para tareas diferentes.
¿Se puede realizar un ajuste fino en Claude o GPT?
Sus modelos actuales no pueden ajustarse: la API de Claude no ofrece ajuste fino, y OpenAI está cerrando gradualmente su plataforma de ajuste fino. Cuando una tarea requiere un modelo ajustado, ajustamos un modelo de peso abierto, que usted conserva.
¿Se utilizan nuestros datos para entrenar sus modelos?
Por defecto, no. Anthropic no realiza entrenamiento con datos de la API sin el permiso del cliente, y OpenAI no ha realizado entrenamiento con datos de la API desde marzo de 2023, a menos que el cliente lo autorice expresamente. El periodo de retención varía según el proveedor y la función, y lo configuramos de acuerdo con su política.
Indíquenos el flujo de trabajo al que desea añadir un modelo.
Indíquenos qué sistemas se ven afectados y cuál sería el coste de una respuesta errónea. Comenzaremos con la evaluación.
Hablemos