דילוג לתוכן

אבטחת AI ובדיקות חדירות

גלו איך אפשר לנצל לרעה את עוזרי ה-⁠AI והסוכנים שלכם לפני שתוקף יעשה זאת, ותקנו את זה לפני העלייה לאוויר. אנחנו בודקים גם אפליקציות Web, רשתות, ענן ואתרים פיזיים.

אבטחה שעוקבת אחרי העבודה, לא רק אחרי המידע.

גישה למידע אינה מתירה ל-⁠AI לבצע כל פעולה. אנחנו מאבטחים את התהליך כולו, ואז מוכיחים בבדיקות חדירות ל-⁠AI שהבקרות עומדות במבחן.

איפה תהליך AI יכול להשתבש

בחרו שלב כדי לראות את הסיכון ואת הבקרה.

סיכון

הוראות שמוסתרות במיילים, במסמכים או בדפי אינטרנט משתלטות על העוזר (הזרקת פרומפט).

בקרה

היררכיית הוראות, בדיקת מקור הקלט ובדיקות תקיפה מול תרחישים מציאותיים.

התקנים שאליהם אנחנו ממפים את העבודה

  • OWASP Top 10 for LLM Applications
  • MITRE ATLAS
  • NIST AI RMF
  • ISO/IEC 42001
  • ISO/IEC 27001
  • EU AI Act
  • חוק הגנת הפרטיות, תיקון 13

מה תקבלו

כל הערכה מסתיימת בממצאים שהמהנדסים שלכם יכולים לתקן, ובסיכום שההנהלה יכולה לקרוא.

כל פרויקט כולל

  • ממצאים מתועדים עם המלצות לתיקון
  • סיכום של עמוד אחד להנהלה
  • בדיקה חוזרת של ממצאים שתוקנו
3L-07גבוהה
דוגמה לממצא (להמחשה)

אפשר לשכנע את בוט השירות לבצע זיכויים

מיפוי
OWASP LLM06 Excessive Agency, MITRE ATLAS AML.T0051 LLM Prompt Injection
ראיות
הודעה מתוחכמת מלקוח גרמה לסוכן להפעיל את כלי הזיכוי ללא אישור.
תיקון
חיוב אישור אנושי לכל זיכוי והגבלת כלי שליפת ההזמנות להרשאת קריאה בלבד.
בדיקה חוזרת
עברה בהצלחה לאחר התיקון

מה אנחנו מכסים

ארכיטקטורה מאובטחת וממשל AI למערכות שאתם בונים או רוכשים, ובדיקות חדירות למערכות AI, לאפליקציות, לרשתות ולאתרים פיזיים.

  • אבטחת AI, ממשל ופרטיות

    בקרות ששומרות על מידע רגיש ועל אחריות לפעולות אוטומטיות, בלי לעכב את העבודה.

    כולל

    • מידול איומים וארכיטקטורה מאובטחת ל-⁠AI
    • RAG מאובטח, דליפת מידע וסיכוני פרומפט
    • ממשל AI, מדיניות וסיווג סיכונים
    • פרטיות, רגולציה וסיכוני AI של צדדים שלישיים
  • בדיקות חדירות ו-⁠Red Team

    אנחנו תוקפים את המערכות שלכם כמו תוקף אמיתי, מעוזרי ה-⁠AI ועד דלת הכניסה, ומשאירים לכם ממצאים מתועדים והמלצות לתיקון.

    כולל

    • בדיקות חדירות לאפליקציות AI ו-⁠LLM: הזרקת פרומפט, עקיפת מגבלות וניצול סוכנים וכלים
    • בדיקות חדירות לאתרים, לממשקי API, למובייל ולענן
    • בדיקות רשת ותשתיות, פנימיות וחיצוניות
    • חדירה פיזית והנדסה חברתית, כולל פישינג

איך מתחילים

שלוש דרכים להתחיל, עם היקף קבוע. כל אחת מסתיימת בדוח ברור ובתוכנית המשך.

  • הערכת אבטחת AI

    משך טיפוסי: 2–3 שבועות

    עוזר AI, סוכן או תהליך אחד שנבדק מקצה לקצה: מידול איומים, בדיקות תקיפה ובדיקות חשיפת מידע.

    מה מקבלים

    ממצאים עם ראיות, תוכנית תיקונים מתועדפת וסיכום להנהלה.

    לפרטים נוספים
  • מוכנות ל-⁠Microsoft 365 Copilot

    משך טיפוסי: 3 שבועות

    מאתרים מה Copilot עלול לחשוף לפני שהעובדים יגלו את זה, ומתקנים הרשאות, תוויות ו-⁠DLP.

    מה מקבלים

    מפת שיתופי יתר, תוכנית תוויות ו-⁠DLP, ומעקות בטיחות להטמעה.

    לפרטים נוספים
  • בדיקת חדירות

    משך טיפוסי: 1–4 שבועות, לפי היקף

    אפליקציות AI, אתרים וממשקי API, רשת וענן, או חדירה פיזית והנדסה חברתית, בהיקף שמתמקד במה שחשוב לכם.

    מה מקבלים

    דוח ממצאים עם המלצות לתיקון, ובדיקה חוזרת אחרי שתתקנו.

    לפרטים נוספים

לא בטוחים מאיפה להתחיל? התחילו בשיחת היכרות של 30 דקות.

ספרו לנו על אתגר AI אחד שחשוב לכם.

רוב ההתקשרויות מתחילות בשיחת היכרות או בסקירה ממוקדת של תהליך אחד. ספרו לנו על מה אתם עובדים.

או פנו אלינו ישירות

דרך מנחם בגין, תל אביב-יפו, ישראלעובדים עם לקוחות בישראל ובעולם.
ההודעה מגיעה ישירות לצוות שלנו, ואנחנו משיבים במייל.