Índice híbrido
Embeddings densos + BM25, fusionados con un reranker aprendido. El recall se mantiene cuando el corpus crece.
SERVICIO · 02
Pipelines RAG
Recuperación híbrida con citas y detección de drift — respuestas que sus auditores pueden leer.
Respuestas con fuente enlazada
Cada afirmación cita su pasaje origen. Evals de faithfulness + grounding corren cada noche.
Detección de drift
La distribución de embeddings + el ratio de hits de recuperación son monitorizados. Las alertas saltan antes de que las respuestas degraden.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · redact PII
ORQUESTACIÓN
Orchestrator
planner · router · memory
AGENTES Y TOOLS
Retrieval
híbrido · rerank · cite
Tool calls
sandboxed · timeboxed
Evaluator
gates · rúbricas · LLM-judge
DATOS Y CONFIANZA
Vector + BM25
aislado por tenant
Traces / logs
OTel · replayable
Salida firmada
auditable · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/runConsulta ambient de 7 minutos → nota lista para el clínico con citas a fuentes.
trace · clinicalspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
Pipeline scribe: ASR médico, contexto del paciente + plantilla, borrador SOAP, gates de seguridad.
Subtasks
tool.asrretrieval.contextreasonerevaluator
0ms/3.07s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
LISTA · revisión clínica
Borrador SOAP. 14 citas resueltas. 2 afirmaciones de baja confianza marcadas para el clínico.
latency3.12scost$0.022tokens3,104evals9/9
09 · STACK
Modern tools, composed cleanly.
Modelos
Claude, GPT-4, Llama 3
Recuperación
pgvector, Qdrant, BM25
Eval
Promptfoo, Braintrust
Observability
OpenTelemetry, Langfuse
Índice vectorial
Embeddings · híbrido
Almacenamiento
Postgres, S3, R2
09 · FAQ
FAQ · Pipelines RAG
Precio fijo, scoped a dos semanas. Compartimos una hoja de tarifas a petición — el objetivo es que se vaya con algo concreto (arquitectura + spike) independientemente de si continúa con nosotros.
Faithfulness (¿la respuesta se deriva de los documentos citados?), grounding (¿las citas son reales?), y recall (¿encontramos los documentos correctos?). Cada release corre la suite.
EMPEZAR
Lance el primer sistema.
Discovery a precio fijo en 2 semanas. Se va con una arquitectura, un spike funcional y un plan de construcción.