Ir al contenido
Parte de Consultoría de agentes y LLM →

Integración de Claude y GPT, diseñada para funcionar en entorno de producción.

Conectamos los modelos de Anthropic y OpenAI a sus sistemas mediante el uso de herramientas, la salida estructurada y un conjunto de herramientas de evaluación, y mantenemos la factura mensual predecible.

Lo que omite una demostración

Tiempos de espera, límites de frecuencia, respuestas mal formadas, costes y versiones de los modelos que cambian. Cada uno de estos aspectos se gestiona en el código y se comprueba mediante una prueba.

Lo que incorporamos a la integración

Uso de herramientas y MCP

El modelo realiza llamadas a sus API y bases de datos a través de herramientas definidas o de servidores del Protocolo de Contexto del Modelo, con permisos establecidos para cada herramienta.

Salida estructurada

Respuestas que se ajustan a un esquema que su código comprueba, de modo que una respuesta mal formada se detecta antes de que llegue a nadie.

Control de costes

Almacenamiento en caché de los prompts, procesamiento por lotes para las tareas que pueden esperar y redireccionamiento de las solicitudes sencillas a modelos más pequeños.

Cómo lo desarrollamos

La evaluación es lo primero

Un conjunto de pruebas basado en sus casos reales, que se ejecuta cada vez que se produce un cambio en un prompt o en un modelo.

Recurso alternativo del proveedor

Cuando un proveedor está inactivo o presenta lentitud, las solicitudes se redirigen a otro modelo que usted haya aprobado.

Versiones de modelo fijadas

Las versiones de los modelos se fijan y se actualizan de forma deliberada, una vez que la nueva versión ha superado la evaluación.

Gestión de datos

Configuramos la retención y las opciones de datos del proveedor de acuerdo con su política y las documentamos, ya sea en la propia API del proveedor o en Amazon Bedrock, Google Cloud o Microsoft Foundry.

Preguntas que plantean los compradores

¿Claude o GPT?

Comprobamos ambas opciones en función de su evaluación, y la decisión se toma en función de los resultados y el coste de funcionamiento. Muchos sistemas utilizan ambas opciones para tareas diferentes.

¿Se puede realizar un ajuste fino en Claude o GPT?

Sus modelos actuales no pueden ajustarse: la API de Claude no ofrece ajuste fino, y OpenAI está cerrando gradualmente su plataforma de ajuste fino. Cuando una tarea requiere un modelo ajustado, ajustamos un modelo de peso abierto, que usted conserva.

¿Se utilizan nuestros datos para entrenar sus modelos?

Por defecto, no. Anthropic no realiza entrenamiento con datos de la API sin el permiso del cliente, y OpenAI no ha realizado entrenamiento con datos de la API desde marzo de 2023, a menos que el cliente lo autorice expresamente. El periodo de retención varía según el proveedor y la función, y lo configuramos de acuerdo con su política.

Última revisión:

Indíquenos el flujo de trabajo al que desea añadir un modelo.

Indíquenos qué sistemas se ven afectados y cuál sería el coste de una respuesta errónea. Comenzaremos con la evaluación.

Hablemos