סוכן AI שמחובר למערכות שלכם הוא משתמש עם הרשאות. בודקים אותו כמו משתמש

למה עכשיו

ב-9 בדצמבר 2025 פרסם OWASP רשימה נפרדת של עשרת הסיכונים באפליקציות של סוכני AI. Gartner מעריכה שיותר מ-40% מפרויקטי הסוכנים יבוטלו בגלל עלויות, ערך עסקי לא ברור ובקרת סיכונים חלשה.

מה אנחנו בודקים

• הרשאות: לאילו מערכות הסוכן מחובר, מה הוא יכול לעשות בהן, והאם יש לו יותר הרשאות ממה שהוא צריך.
• הזרקת הוראות: ניסיונות לגרום לסוכן לבצע פעולות לא רצויות באמצעות הוראות זדוניות במסמכים, במיילים ובדפי אינטרנט.
• דליפת מידע: מה הסוכן יכול לחשוף, למי, ומה נשמר בלוגים ובזיכרון שלו.
• חיבורי MCP וכלים: מי מאמת את מי, איפה נשמרים המפתחות, ומה קורה כששרת חיצוני משתנה.
• פעולות שאי אפשר לבטל: איפה נדרש אישור של אדם (תשלום, מחיקה, שליחה ללקוח).
• ניטור ועצירה: האם רואים מה הסוכן עשה, והאם אפשר לעצור אותו מיד.
• עלות: כמה עולה כל פעולה, ומה יקרה בעומס אמיתי.

מה מקבלים

דוח ממצאים לפי חומרה, דרך תיקון לכל ממצא, והמלצה ברורה: להעלות לייצור, לתקן לפני העלייה או להמשיך בהפעלה, או לעצור עד לתיקון. אם תרצו, אנחנו גם מבצעים את התיקונים.

את היקף הבדיקה ואת המחיר קובעים אחרי שיחה קצרה על הסוכן ועל המערכות שהוא מחובר אליהן.

שני מסלולים

• לפני העלייה לייצור: פיילוט שעובד בדמו ולא ברור אם הוא מוכן למשתמשים אמיתיים.
• סוכן שכבר רץ: בדיקה של מה שקורה בפועל, לפי הלוגים וההרשאות.

למה אנחנו

אנחנו בונים בעצמנו מערכות RAG, צ'אטבוטים וחיבורי MCP, ומכירים את הנקודות שבהן הם נשברים. אנחנו גם מעבירים הדרכות פיתוח מאובטח למפתחים. את וקטורי התקיפה העיקריים פירטנו במאמר על אבטחת AI ארגוני.

שאלות נפוצות

זה מבדק חדירה?

לא בדיוק. מבדק חדירה מסורתי לא בהכרח כולל בדיקה של תגובת המודל להוראות זדוניות ושל ההרשאות לכלים. אנחנו מתמקדים גם בהתנהגות הסוכן וגם באבטחת החיבורים וההרשאות שלו.

צריך לתת לכם גישה לקוד?

עדיף, כי כך מוצאים יותר. אפשר להתחיל גם מבדיקה מבחוץ.

הסוכן בנוי על פלטפורמה מוכנה ולא על קוד שפיתחנו בעצמנו. הבדיקה רלוונטית?

כן. גם בפלטפורמה מוכנה, ההרשאות, החיבורים והמידע שהסוכן יכול לגשת אליהם הם מוקדי סיכון חשובים.