Υβριδικός δείκτης
Dense embeddings + BM25, συγχωνευμένα με εκπαιδευμένο reranker. Το recall μένει λογικό όσο αυξάνεται το corpus.
ΥΠΗΡΕΣΙΑ · 02
RAG pipelines
Υβριδική ανάκτηση με αναφορές και ανίχνευση drift — απαντήσεις που οι ελεγκτές σας μπορούν να διαβάσουν.
Απαντήσεις με σύνδεση σε πηγή
Κάθε ισχυρισμός αναφέρει το πηγαίο απόσπασμα. Evals faithfulness και grounding τρέχουν νυχτερινά.
Ανίχνευση drift
Κατανομή embedding και retrieval hit-rate παρακολουθούνται. Alerts ενεργοποιούνται πριν οι απαντήσεις χειροτερέψουν.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · PII redact
ΕΝΟΡΧΗΣΤΡΩΣΗ
Orchestrator
planner · router · memory
AGENTS & TOOLS
Retrieval
υβριδικό · rerank · cite
Tool calls
sandboxed · timeboxed
Evaluator
gates · rubrics · LLM-judge
ΔΕΔΟΜΕΝΑ & ΕΜΠΙΣΤΟΣΥΝΗ
Vector + BM25
tenant-isolated
Traces / logs
OTel · replayable
Υπογεγραμμένο output
auditable · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/runAmbient consult 7 λεπτών → σημείωμα έτοιμο για clinician με citations.
trace · clinicalspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
Scribe pipeline: ASR ιατρικό, patient context + template, SOAP draft, safety gates.
Subtasks
tool.asrretrieval.contextreasonerevaluator
0ms/3.07s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
ΕΤΟΙΜΟ · clinician review
Πρόχειρο SOAP. 14 citations. 2 claims χαμηλής εμπιστοσύνης για τον clinician.
latency3.12scost$0.022tokens3,104evals9/9
09 · STACK
Modern tools, composed cleanly.
Μοντέλα
Claude, GPT-4, Llama 3
Ανάκτηση
pgvector, Qdrant, BM25
Eval
Promptfoo, Braintrust
Observability
OpenTelemetry, Langfuse
Διανυσματικός δείκτης
Embeddings · υβριδικός
Αποθήκευση
Postgres, S3, R2
09 · FAQ
FAQ · RAG pipelines
Σταθερή τιμή, scoped σε δύο εβδομάδες. Μοιραζόμαστε rate sheet κατόπιν αιτήματος — ο στόχος είναι να φύγετε με κάτι συγκεκριμένο (αρχιτεκτονική + spike), ανεξάρτητα από το αν συνεχίσετε μαζί μας.
Faithfulness (η απάντηση πηγάζει από τα έγγραφα που αναφέρονται;), grounding (οι αναφορές είναι πραγματικές;) και recall (βρήκαμε τα σωστά έγγραφα;). Κάθε release τρέχει το suite.
ΕΚΚΙΝΗΣΗ
Βγάλτε ζωντανό το πρώτο σύστημα.
Discovery σταθερής τιμής σε 2 εβδομάδες. Φεύγετε με αρχιτεκτονική, λειτουργικό spike και σχέδιο υλοποίησης.