ענף

ביטחון ותשתיות קריטיות

מערכות AI שרצות היכן שהמידע לא יוצא: רשת סגורה, מודלי שפה self-hosted, אחזור מסמכים וניתוח תמונה, הכול בתוך הגבולות שלכם.

אם ההנחיה אצלכם היא שהמידע לא יוצא מהרשת, רוב שוק ה-AI נעלם: כל כלי מבוסס API, כל עוזר ענן, כל ספק שהארכיטקטורה שלו מניחה חיבור לאינטרנט. מה שנשאר הוא דיסציפלינה הנדסית: מודלים self-hosted, אחזור מעל מאגרים פנימיים וניתוח תמונה, הכול בתוך הגבולות שלכם. זו הדיסציפלינה שלנו. עבור ארגון רגיש-ביטחונית אפיינו ותכננו תשתית AI ברשת סגורה (סביבה מבודדת ללא חיבור לאינטרנט) מקצה לקצה, ופיתחנו והדגמנו עוזר AI מבודד לחלוטין בתוך הרשת. שום דבר לא יצא החוצה, ושום דבר לא צריך לצאת.

AI רציני בתוך רשת סגורה, זו בעיה פתורה?

כן, ברמות הסיווג הגבוהות בעולם, והראיות הן ממקור ראשון:

  • Microsoft מפעילה סביבת GPT-4 מנותקת לחלוטין עבור קהילת המודיעין האמריקאית, פעילה לניתוח מידע מסווג ברמות הגבוהות ביותר, על פי דיווח Bloomberg. לא שער מסונן. ניתוק מלא.
  • זרועות הצבא של צרפת אימצו GenAI ריבוני self-hosted במסגרת ההסכם עם Mistral, בפריסה על תשתית לאומית שהמדינה שולטת בה, על פי הדיווחים.
  • CamoGPT של צבא ארה״ב משרת כ-75 אלף משתמשים (על פי דיווח של צבא ארה״ב) על תשתית ממשלתית, בטיפול במידע לא מסווג מבוקר ובחלק מהמידע המסווג, ואלפי משתמשים עובדים איתו מדי יום על פי סיקור של DefenseScoop.

הדפוס בשלושתם זהה: ריבונות על מערכות ה-AI הפכה לדרישת סף ברכש, לא להעדפה. השאלה אצלכם כבר איננה אם AI יכול לרוץ מנותק, אלא מי מסוגל להנדס את זה בקנה המידה ובאילוצים שלכם.

מה בנינו בפועל תחת האילוצים האלה?

שתי שכבות, מתוארות כאן בכוונה במונחים מופשטים, כי כך התחום הזה עובד.

  • הארכיטקטורה. עבור ארגון רגיש-ביטחונית אפיינו ותכננו תשתית AI ללא כל יציאה החוצה: תקשורת פרטית מקצה לקצה, תשתית MLOps לפריסה ועדכון מודלים ללא קישוריות חיצונית, מודלי שפה self-hosted וזיהוי עצמים בתמונה ובווידאו.
  • ההוכחה העובדת. פיתחנו והדגמנו עוזר AI עצמאי ומבודד לחלוטין בתוך הרשת הסגורה: שיחה חופשית עם הידע הארגוני, אחזור מתוך מסמכים פנימיים, תהליכי מחקר מעמיק, והפקת מסמכים ותרשימים. הכול רץ בפנים, דבר לא יצא. בתחום הזה ארכיטקטורה על נייר היא דבר זול; עוזר עובד שאפשר לתחקר הוא מה שמכריע את ההחלטה.
  • יכולת משיקה, אותה משמעת. פיתחנו והדגמנו מערכת מבוססת Segment Anything שמבצעת סגמנטציה אוטומטית של מנחתים ושדות תעופה בתצלומי אוויר ולוויין ומודדת אותם בכלי דיוק, עטופה בממשק ייעודי עם תיקון ידני והפקת דוחות. ניתוח תצלומי אוויר עם אדם בשליטה, בנוי לרוץ היכן שהתצלומים חייבים להישאר.

אנחנו לא נוקבים בשמות ארגונים, לא מפרסמים פרטי סביבה, ומציגים כל פריט בדיוק ברמת הפועל הנכונה: אפיינו ותכננו זה אפיינו ותכננו; פיתחנו והדגמנו זה פיתחנו והדגמנו.

מערך אבטחת המידע שלנו פוסל כל דבר ש’מתקשר הביתה’. איך אתם עובדים?

מתוך הנחה שהפסילה הזאת קיימת מהיום הראשון. הארכיטקטורה מתחילה מאפס יציאות: בלי קריאות API חיצוניות, בלי טלמטריה, בלי מודלים שמתעדכנים לבד דרך האינטרנט. קבצי מודל נכנסים דרך תהליך ההעברה המאושר שלכם; ניהול גרסאות וניטור חיים בתוך הרשת. ואנחנו לא זקוקים לגישה למידע המסווג שלכם: האפיון והפיתוח נעשים מול מגבלות התשתית שלכם ועל נתונים מייצגים לא מסווגים, ואנשי הצוות המוסמכים שלכם מפעילים את המערכת על התוכן האמיתי.

אנחנו תשתית קריטית, לא ארגון ביטחוני. זה רלוונטי?

ישירות. מפעילי מים, אנרגיה, תחבורה ובריאות נושאים אילוצי רגולציה וחוזים שמציבים אותם באותה קטגוריה של דרישות, ו-AI כבר מייצר שם תוצאות מבוקרות: העיירה נורת’ קינגסטאון ברוד איילנד תיעדה בדוח העירוני שלה 50 נזילות שאותרו בזיהוי לווייני מבוסס AI, חיסכון של 204,807 דולר בשנה והחזר השקעה בתוך 10.4 חודשים. אותו כלל חל גם עליכם: המערכת חייבת לרוץ היכן שהנתונים והאחריות שלכם חיים.

שאלות ותשובות

מודלים self-hosted טובים מספיק לעומת מודלי הענן המובילים?

לא בכל דבר, ולא נעמיד פנים אחרת. מודלים פתוחים חזקים לעוזרים מבוססי-אחזור, למחקר פנימי ולמשימות ניתוח תמונה. בשלב האפיון נבחן יחד את מקרי השימוש שלכם מול מודלים מועמדים, על נתוני אמת ובתוך האילוצים שלכם, לפני כל התחייבות.

איך מעדכנים מודלים ותוכנה בלי קישוריות?

דרך תשתית ה-MLOps שתוכננה לתוך הרשת: ייבוא מבוקר בתהליך ההעברה המאושר שלכם, פריסה מנוהלת-גרסאות וניטור בתוך הגבולות. משמעת עדכונים היא חלק מהארכיטקטורה, לא מחשבה שנייה.

אתם יכולים לעבוד בתוך דרישות הסיווג הביטחוני והבדיקות שלנו?

כן. מודל העבודה שתואר למעלה נבנה בדיוק מהסיבה הזאת: העבודה שלנו מובנית כך ששום חומר מסווג לא צריך להגיע אלינו.

מי הבעלים של המערכת ומי מפעיל אותה אחר כך?

אתם. המודלים, הגדרות התשתית והתהליכים בבעלותכם, מופעלים על ידי האנשים שלכם בתוך הגבולות שלכם. בלי מונה של פלטפורמה, בלי תלות ב'התקשרות הביתה', ובלי תלות בנו כדי שהמערכת תמשיך לרוץ.