שירותים / AI

בינה מלאכותית שמגיעה לייצור.

אנחנו בונים אפליקציות LLM, מערכות retrieval וצנרת ML שעומדות בתעבורה אמיתית — עם מדידה, הערכה ותפעול. הדגמות קל לעשות; אנחנו מספקים את הגרסה שמחזיקה מעמד.

איך אנחנו ניגשים לזה

קודם evals, אחר כך פיצ'רים.

רוב פרויקטי ה-AI נתקעים כי אף אחד לא יודע לומר אם המערכת השתפרה. אנחנו מתחילים מתוצאה מדידה, בונים קודם את מסגרת ההערכה, ורק אז מפתחים פיצ'רים מולה. Retrieval, סוכנים ו-fine-tuning הם אמצעים — ה-eval הוא החוזה.

  1. 01תוצאה ו-eval מוגדרים לפני שורת קוד אחת של מודל
  2. 02עדיפות ל-retrieval ולעיגון על פני יצירה חופשית
  3. 03אדם בלולאה היכן שהסיכון גבוה
  4. 04תקציבי עלות וזמן תגובה כדרישה מרכזית

יכולות

מה אנחנו בונים.

  • אפליקציות LLM וסוכנים

    עוזרים וסוכנים עם תקציבים, רשימות היתר ואדם בלולאה היכן שחשוב.

  • Retrieval-augmented generation

    תשובות מעוגנות במסמכים שלכם, וכל טענה מפנה למקור מצוטט.

  • חיפוש סמנטי והיברידי

    שליפה היברידית עם reranker, שמציגה קטעים מדורגים עוד לפני שנוצרה מילה אחת.

  • הבנת מסמכים

    ציון ביטחון לכל שדה בכל חילוץ; ציונים נמוכים נעצרים לבדיקה, השאר עובר ישר.

  • ראייה ממוחשבת

    מודלים שקוראים תמונות ווידאו, מסיווג וזיהוי אובייקטים ועד OCR על מסמכים סרוקים.

  • צנרת ML ואימון

    ריצות אימון מהטעינה ועד פריסת canary, עם eval שחייב לעבור לפני קידום.

  • MLOps ומסגרות הערכה

    סטי golden, שערי רגרסיה ב-CI ו-evals אונליין שנדגמים מדי יום.

  • הגשת מודלים ו-inference

    Inference בייצור שנמדד מהיום הראשון: עלות, זמן תגובה ואיכות.

בשטח

עוד ארבעה מסכים מהעבודה.

ממשק מוצר אמיתי, עם נתוני דמו.

שליפה לפני יצירה — חיפוש היברידי על 12,408 קטעי חוזים, ארבעה קטעים מצוטטים ותשובה שבה כל חמש הטענות מפנות למקורות.
ריצת אימון לילית #412 — שבעה שלבים, שער eval שחייב לעבור 8/8 לפני canary, ותקציבי עלות, זמן תגובה ועלות לקריאה, כל אחד על 70%.
שלב התפעול — drift מתחת לסף ההתראה של 0.40, €0.0042 לקריאה מול תקציב של €0.0060, ו-240 evals אונליין שנדגמים ביום.
אדם בלולאה איפה שזה קריטי — כל מה שמתחת ל-0.85 ביטחון נעצר כאן; ה-92% האחרים עוברים ישר.

איך אנחנו עובדים

מפרומפט למודל מתופעל.

  1. 01

    מסגור

    אנחנו מגדירים את התוצאה, את ה-eval שמודד אותה ואת הפרוסה הקטנה ביותר שכדאי לספק.

  2. 02

    ביסוס

    Retrieval, צנרת נתונים ו-guardrails — כדי שהמודל יענה מתוך המציאות שלכם.

  3. 03

    שחרור

    Inference בייצור, עם מדידת עלות, זמן תגובה ואיכות מהיום הראשון.

  4. 04

    תפעול

    אנחנו עוקבים אחרי ה-evals בייצור ומתחסנים מפני drift, ואז מוסרים או מתפעלים יחד איתכם.

הוכחות

מה העבודה מחזירה.

מספרים ממערכות AI שאנחנו מפעילים בייצור היום.

1M+

מסמכים עובדו

92%

עיבוד ללא התערבות

8

סוויטות eval ב-CI

24/7

Inference בתפעול

יש לכם מערכת AI לבנות?

ספרו לנו איזו תוצאה אתם רוצים להזיז. נחזור עם eval, ארכיטקטורה ותוכנית.