AI בסביבת ייצור: מפיילוט שעובד בהדגמה למערכת שעובדת כל יום
תכנון, בנייה והפעלה של מערכת AI בייצור יחד עם הצוות שלכם, עד שהיא יציבה, מנוטרת ונמצאת בבעלותכם המלאה.
בקצרה
פיילוט של AI מוכיח שהרעיון אפשרי. ייצור דורש יותר: נתונים שמגיעים בזמן ועומדים בדרישות איכות מוגדרות, בדיקה של איכות התשובות לפני כל שינוי במודל, בהנחיות או במקורות המידע, ניטור של עלות ושל שגיאות, אבטחה והרשאות, ותוכנית למקרה שהמודל או הספק משתנים. זה ליווי של כמה חודשים: אנחנו מתכננים ובונים יחד עם הצוות שלכם ומעבירים לו את הידע, כך שהמערכת לא תלויה בנו. מערכת הדגל שלנו פועלת בייצור מאז 2008 ומשרתת יותר מ-100,000 משתמשים בזמינות של 99.97%.
למי זה מתאים
- ארגון שמעלה לייצור מערכת AI ראשונה או שנייה, ורוצה לעשות את זה נכון מההתחלה.
- צוות פיתוח חזק שעדיין אין לו ניסיון בהפעלת מודלים בייצור: בדיקות איכות, ניטור ועלויות.
- מערכת שכבר רצה אבל לא יציבה: תשובות משתנות, עלות שקופצת, משתמשים מתלוננים ואין דרך למדוד.
מה בונים יחד
- ארכיטקטורה: איפה רץ המודל, איך הוא מתחבר למערכות הקיימות, מה קורה כשהספק לא זמין, ואיך מחליפים מודל בלי לשכתב את המערכת.
- צינורות נתונים: איסוף, ניקוי ועדכון של המידע שהמערכת נשענת עליו, כולל מאגרי מסמכים למערכות RAG.
- בדיקות איכות (evaluation): סט בדיקות שרץ לפני כל שינוי במודל, בהנחיות או בנתונים, כדי לדעת אם התוצאות השתפרו או השתבשו.
- MLOps: ניהול גרסאות למודלים, להנחיות ולנתונים, פריסה מבוקרת וחזרה מהירה לגרסה קודמת.
- ניטור: איכות, זמני תגובה, שגיאות ועלות לכל בקשה, עם התראות לצוות.
- אבטחה ופרטיות: הרשאות, הגנה מפני הזרקת הוראות, טיפול במידע אישי ותיעוד של כל פעולה שהמערכת ביצעה.
- בקרת עלויות: מגבלות שימוש, שמירת תשובות חוזרות (cache) ובחירת מודל לפי המשימה.
איך העבודה מתנהלת
- סקירה: מה קיים, מה הפיילוט הוכיח ומה עדיין לא נבדק. מגדירים יעדים לאיכות, לזמינות ולעלות.
- תכנון: ארכיטקטורה כתובה, החלטות מנומקות ותוכנית עבודה בשלבים.
- בנייה: עבודה משותפת עם הצוות שלכם, בקוד ובחשבונות שלכם.
- העלאה מדורגת: קודם קבוצת משתמשים מצומצמת, עם מדידה של איכות וביצועים, ורק אחר כך כולם.
- העברה: תיעוד, הדרכה ותקופת ליווי שבה הצוות שלכם מפעיל את המערכת ואנחנו זמינים.
אחרי העלייה לייצור אפשר להמשיך איתנו בתמיכה 24/7 עם SLA.
מה נשאר אצלכם
- הקוד שייך לכם ונמצא במאגר שלכם.
- שרתים, דומיינים, מפתחות API וחשבונות ענן רשומים על שמכם מהיום הראשון.
- מהנדס מחליף שמכיר את המערכת, כדי שהעבודה לא תיעצר אם מישהו לא זמין.
- מומחים נוספים לנתונים, לאבטחה או לתשתיות מצטרפים לפי מה שהפרויקט דורש.
איפה אנחנו עובדים
אנחנו עובדים עם ארגונים בכל הארץ, מרחוק ובביקורים אצל הלקוח. מה שמעסיק את הצוותים משתנה לפי סוג הארגון:
תל אביב
ריכוז גדול של חברות מוצר, פינטק וסטארטאפים. כשה-AI הוא חלק מהמוצר, ייצור פירושו עמידה בעומס של לקוחות אמיתיים ועלות לכל משתמש שאפשר לחיות איתה.
ירושלים
משרדי הממשלה והמגזר הציבורי, לצד מוסדות אקדמיה ומרכזים רפואיים גדולים. לעתים קרובות יש דרישה להריץ את המערכת בתשתית מוגדרת, לפעמים בלי לשלוח מידע לשירות חיצוני, וזה משפיע על בחירת המודל.
חיפה
הטכניון, פארק ההייטק מת"ם והתעשייה הכבדה במפרץ. במערכות שמחוברות לתפעול פיזי, נתוני חיישנים חסרים או ניתוק מהרשת הם מצבים שצריך לתכנן עבורם מראש.
רמת גן
מתחם הבורסה ליהלומים, עם משרדים רבים של חברות פיננסים וביטוח. מודל שמשתתף בהחלטה על לקוח צריך תיעוד מלא, אפשרות להסביר את התוצאה ובקרה של אדם במקומות הנכונים.
הרצליה
הרצליה פיתוח היא מרכז עסקים עם חברות תוכנה, סייבר וענן רבות. בחברות כאלה הצוות לרוב חזק, והעבודה מתמקדת בבדיקות איכות, בניטור ובעלויות, הנושאים שבהם AI שונה מתוכנה רגילה.
פתח תקווה
אזורי תעסוקה גדולים כמו קריית אריה וקריית מטלון, עם חברות תוכנה, תקשורת ותעשייה, ומרכז רפואי רבין. כאן AI צריך לעבוד לצד מערכות ותיקות, והחיבור אליהן הוא לעתים קרובות החלק הארוך בפרויקט.
פורמטי עבודה
מרחוק
עבודה שוטפת במאגר הקוד ובסביבות שלכם דרך גישה מאובטחת, שיחות וידאו ופגישות עבודה קבועות עם הצוות. רוב הפיתוח מתאים לפורמט הזה.
אצל הלקוח
ימי עבודה במשרדים שלכם: סדנאות ארכיטקטורה, עבודה משותפת עם המפתחים, ופגישות עם מי שמפעיל את המערכות הקיימות. מתאים כשיש הרבה חיבורים למערכות פנימיות, או כשהגישה אליהן אפשרית רק מבפנים.
היברידי
כמה ימי פתיחה אצלכם, המשך מרחוק, וביקורים סביב העלאה לייצור והעברת המערכת לצוות. לעתים קרובות זה האיזון הנכון בין עומק לבין זמן.
שאלות נפוצות
כמה זמן נמשך ליווי כזה?
בדרך כלל כמה חודשים, לפי היקף המערכת ומצב הנתונים. אחרי הסקירה אנחנו נותנים לוח זמנים מבוסס.
אנחנו כבר עובדים עם ספק מודלים מסוים. צריך להחליף?
לא בהכרח. בונים את המערכת כך שאפשר להחליף מודל או ספק בלי לשכתב את כל המערכת, ומחליטים לפי מדידה.
אפשר להשאיר את הנתונים בישראל?
לעתים קרובות כן. ל-AWS, ל-Google Cloud ול-Microsoft Azure יש אזורי ענן בישראל, ואפשר גם להריץ מודלים פתוחים בתשתית שלכם. הזמינות של מודלים מסוימים באזור הישראלי שונה מספק לספק, ולכן בודקים אותה מראש.
יש לנו רק פיילוט. מתחילים מכאן?
כן. הצעד הראשון הוא לבדוק מה הפיילוט הוכיח ומה לא. לפעמים המסקנה היא שצריך קודם אסטרטגיית AI או סקירת ארכיטקטורה.
הצוות שלנו יוכל להמשיך לבד?
זו המטרה. הקוד, התיעוד והחשבונות אצלכם, והצוות עובד איתנו לאורך כל הפרויקט. אם תרצו, אנחנו נשארים לתמיכה 24/7 עם SLA.
SLAtech LTD