Indice ibrido
Embedding densi + BM25, fusi con un reranker appreso. Il recall regge quando il corpus cresce.
SERVIZIO · 02
Pipeline RAG
Retrieval ibrido con citazioni e rilevamento drift — risposte che i vostri auditor possono leggere.
Risposte con fonte collegata
Ogni affermazione cita il passaggio sorgente. Evals di faithfulness e grounding girano ogni notte.
Rilevamento drift
Distribuzione embedding e hit rate monitorati. Gli alert partono prima che le risposte degradino.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · redact PII
ORCHESTRAZIONE
Orchestrator
planner · router · memory
AGENTI & TOOL
Retrieval
ibrido · rerank · cite
Tool call
sandboxed · timeboxed
Evaluator
gate · rubriche · LLM-judge
DATI & FIDUCIA
Vector + BM25
isolato per tenant
Traces / log
OTel · replayabili
Output firmato
auditabile · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/runConsulto ambient di 7 minuti → nota pronta per il clinico con citazioni.
trace · clinicalspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
Pipeline scribe: ASR medico, contesto paziente + template, bozza SOAP, safety gates.
Subtasks
tool.asrretrieval.contextreasonerevaluator
0ms/3.07s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
PRONTA · review clinico
Bozza SOAP. 14 citazioni. 2 claim a bassa confidenza evidenziati.
latency3.12scost$0.022tokens3,104evals9/9
09 · STACK
Modern tools, composed cleanly.
Modelli
Claude, GPT-4, Llama 3
Retrieval
pgvector, Qdrant, BM25
Eval
Promptfoo, Braintrust
Observability
OpenTelemetry, Langfuse
Indice vettoriale
Embeddings · ibrido
Storage
Postgres, S3, R2
09 · FAQ
FAQ · Pipeline RAG
Prezzo fisso, scoped a due settimane. Condividiamo un rate sheet su richiesta — l'obiettivo è che ve ne andiate con qualcosa di concreto (architettura + spike) indipendentemente da se proseguite con noi.
Faithfulness (la risposta segue dai documenti citati?), grounding (le citazioni sono reali?), e recall (abbiamo trovato i documenti giusti?). Ogni release gira la suite.
INIZIA
Manda live il primo sistema.
Discovery a prezzo fisso in 2 settimane. Te ne vai con architettura, spike funzionante e piano di build.