Hybrid-Index
Dense Embeddings + BM25, gemerged mit einem gelernten Reranker. Recall bleibt sinnvoll, wenn der Korpus wächst.
SERVICE · 02
RAG-Pipelines
Hybrid Retrieval mit Citations und Drift-Erkennung — Antworten, die Ihre Prüfer lesen können.
Quellen-verknüpfte Antworten
Jede Aussage zitiert ihren Quellabschnitt. Faithfulness- und Grounding-Evals laufen nächtlich.
Drift-Erkennung
Embedding-Verteilung und Retrieval-Hit-Rate werden überwacht. Alerts feuern, bevor Antworten degradieren.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
Web · Mobile · API
Gateway
Auth · Rate-Limit · PII-Redact
ORCHESTRIERUNG
Orchestrator
Planner · Router · Memory
AGENTEN & TOOLS
Retrieval
Hybrid · Rerank · Cite
Tool-Calls
Sandboxed · Timeboxed
Evaluator
Gates · Rubriken · LLM-Judge
DATEN & TRUST
Vector + BM25
tenant-isoliert
Traces / Logs
OTel · replaybar
Signed Output
auditierbar · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/run7-minütige Ambient-Konsultation → cliniciertaugliche Notiz mit Quellen-Zitaten.
trace · clinicalspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
Scribe-Pipeline: ASR mit Medizin-Lexikon, Patient-Kontext + Template, SOAP-Draft, Safety-Gates.
Subtasks
tool.asrretrieval.contextreasonerevaluator
0ms/3.07s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
BEREIT · Clinician-Review
SOAP-Notiz entworfen. 14 Zitate aufgelöst. 2 Claims mit niedriger Konfidenz für den Clinician markiert.
latency3.12scost$0.022tokens3,104evals9/9
09 · STACK
Modern tools, composed cleanly.
Modelle
Claude, GPT-4, Llama 3
Retrieval
pgvector, Qdrant, BM25
Eval
Promptfoo, Braintrust
Observability
OpenTelemetry, Langfuse
Vektor-Index
Embeddings · hybrid
Speicher
Postgres, S3, R2
09 · FAQ
FAQ · RAG-Pipelines
Festpreis, auf zwei Wochen scoped. Wir teilen ein Rate-Sheet auf Anfrage — Ziel ist, dass Sie mit etwas Konkretem (Architektur + Spike) gehen, unabhängig davon, ob Sie weitermachen.
Faithfulness (folgt die Antwort aus den zitierten Dokumenten?), Grounding (sind die Zitate echt?) und Recall (haben wir die richtigen Dokumente gefunden?). Jedes Release durchläuft die Suite.
LOS GEHT'S
Bringen Sie das erste System live.
Festpreis-Discovery in 2 Wochen. Sie gehen mit Architektur, Working Spike und Bauplan nach Hause.