Ir al contenido

Consultoría de agentes y LLM, tanto para los modelos a los que se recurre como para los que se ejecutan.

Integramos Claude y GPT, ejecutamos modelos de peso abierto en el hardware que usted controla, los ajustamos con sus datos y medimos cada opción con su propio tráfico.

Elección del enfoque

Instrucciones y herramientas

Empiece por aquí. Las instrucciones claras, los ejemplos prácticos y las definiciones de las herramientas resuelven más problemas de lo que la mayoría de los equipos esperan, y modificarlas no supone ningún coste.

Recuperación de sus documentos

Cuando la respuesta se encuentra en sus documentos o en su base de datos y cambia con frecuencia. El modelo lee los registros pertinentes en el momento de dar la respuesta.

Ajuste fino

Cuando el modelo debe seguir un formato, un tono o un patrón de decisión en todo momento, y se dispone de suficientes ejemplos del trabajo realizado correctamente.

Entrenamiento de un modelo

Esta rara vez es la respuesta correcta. Resulta útil para un idioma, un campo o un vocabulario que los modelos base apenas conocen, respaldado por un amplio corpus de texto del que usted dispone.

Agentes de IA

Cuando la tarea requiere varios pasos a lo largo de sus sistemas. El modelo planifica, invoca herramientas y comprueba los resultados dentro de los permisos que usted haya establecido.

Cómo se desarrolla un proyecto

Memorándum de decisión

Una recomendación por escrito, con un precio propio

Qué enfoque, qué modelo, dónde se ejecuta y cuánto costará su funcionamiento, con la justificación que respalda cada elección.

Sprint de pruebas comparativas

Los candidatos evaluados en función de su tráfico

Se ejecutan dos o tres modelos o motores con sus propios prompts, comparando en paralelo la calidad, la latencia y el coste por solicitud.

Creación del sistema

El sistema, en fases que usted apruebe

La integración, la puesta en servicio, el ajuste fino o el propio agente: cada fase se cotiza y se acepta de forma independiente.

Operación del sistema

Asistencia tras la puesta en marcha

Las actualizaciones de modelos, las repeticiones de evaluaciones y las revisiones de costes se realizan en el marco de un contrato mensual, con el tiempo de respuesta estipulado en el contrato.

Preguntas que plantean los compradores

¿Es necesario realizar un ajuste fino en un modelo?

A menudo no. Primero probamos las instrucciones y la recuperación, y recomendamos el ajuste fino solo cuando una evaluación con sus datos demuestra que este subsana una deficiencia que las pruebas anteriores no logran resolver.

¿Pueden nuestros datos permanecer dentro de nuestra red?

Sí, con un modelo de peso abierto en sus propios servidores o en una nube privada. Con Claude o GPT, configuramos las opciones de datos del proveedor y le indicamos qué abarca cada una de ellas.

¿A quién pertenece un modelo con ajuste fino?

Los pesos ajustados, los datos de entrenamiento y el conjunto de evaluación le pertenecen a usted, dentro de los términos de la licencia del modelo base.

¿Qué modelo deberíamos utilizar?

Aquel que supere su evaluación con el menor coste de funcionamiento. Elaboramos la evaluación a partir de sus propios casos antes de comparar ningún modelo.

Última revisión:

Traiga una tarea que desee que realice un modelo.

Indíquenos en qué consiste la tarea y cómo sería una buena respuesta. El trabajo comienza con una evaluación elaborada a partir de sus casos.

Hablemos