תחום עיסוק
AI מאובטח וברשת סגורה
DataWise מתכננת תשתיות AI לרשת סגורה: מודלי שפה self-hosted, חיפוש במסמכים פנימיים וניתוח תמונה, הכול בתוך הרשת ושום דבר לא יוצא ממנה.
עודכן:
רשת סגורה · אפס יציאת מידע
הכול פועל בתוך הרשת הסגורה. שום נתון אינו יוצא ממנה.
DataWise מתכננת ובונה מערכות AI לארגונים שהנתונים שלהם לא יוצאים מהבניין: ביטחון, תשתיות קריטיות וארגונים רגישי מידע. עבור ארגון כזה אפיינו ותכננו תשתית AI מבודדת לחלוטין ברשת סגורה (סביבה מבודדת ללא חיבור לאינטרנט): תקשורת פרטית מקצה לקצה, תשתית MLOps, מודלי שפה self-hosted וזיהוי עצמים בווידאו ובתמונה. ובנוסף פיתחנו והדגמנו עוזר AI עצמאי ומבודד לחלוטין שרץ בתוך הרשת, ושום דבר לא יוצא ממנה.
אפשר באמת להריץ AI מודרני בתוך רשת סגורה?
אפשר, וארגוני הביטחון הגדולים בעולם כבר עובדים כך. Microsoft הקימה עבור קהילת המודיעין האמריקאית סביבת GPT-4 מנותקת לחלוטין מהאינטרנט, פעילה לניתוח מידע מסווג ברמות הגבוהות ביותר, על פי דיווח של Bloomberg. ריבונות על מערכות ה-AI הפכה מדרישה ‘רצויה’ לדרישת סף ברכש. אנחנו בונים באותו סטנדרט עבור ארגונים ישראליים: מודלי שפה פתוחים self-hosted, חיפוש ואחזור מעל מסמכים פנימיים, וניתוח תמונה ווידאו (AI), הכול על תשתית בתוך הגבולות שלכם. בלי קריאות API החוצה, בלי טלמטריה, בלי מודלים ש’מתקשרים הביתה’. המחיר הוא עבודת הנדסה אמיתית בתוך הרשת, וזו בדיוק העבודה שאנחנו מתכננים ומספקים.
מה בפועל נבנה עבור ארגון רגיש-ביטחונית?
שתי שכבות. הראשונה, הארכיטקטורה: אפיון מלא של תשתית AI ללא כל יציאה החוצה, תקשורת פרטית מקצה לקצה, תשתית MLOps לפריסה ועדכון של מודלים ללא קישוריות חיצונית, מודלי שפה self-hosted וזיהוי עצמים. השנייה, ההוכחה: פיתחנו והדגמנו עוזר AI עצמאי ומבודד בתוך הרשת הסגורה: שיחה חופשית עם הידע הארגוני, אחזור מתוך מסמכים פנימיים, תהליכי מחקר מעמיק, והפקת מסמכים ותרשימים. הכול רץ בפנים, דבר לא יוצא. להדגמה יש משמעות: בתחום הזה ארכיטקטורות על נייר הן דבר זול; עוזר עובד שאפשר לתחקר הוא מה שמכריע את ההחלטה.
מה יכול לרוץ בתוך הרשת?
- גישה בשפה חופשית לידע הארגוני: עוזר שעונה מתוך המסמכים הפנימיים שלכם, באמצעות אחזור, לא מהאינטרנט הפתוח.
- תהליכי מחקר מעמיק: מחקר רב-שלבי על מאגרי מידע פנימיים, כולל הפקת מסמכים ותרשימים.
- ניתוח תמונה ווידאו: זיהוי עצמים על מודלים self-hosted.
- שכבת ה-MLOps: פריסה, ניהול גרסאות וניטור של מודלים ללא קישוריות חיצונית.
- מה לא רץ: כל יכולת שמחייבת API חיצוני. אם יכולת לא ניתנת להרצה self-hosted באיכות סבירה, נאמר זאת בשלב האפיון, לא נגניב חריגה.
הוכחות
מהעבודות שלנו
תשתית AI מאובטחת ומבודדת לחלוטין (אפיון ותכנון, לצד עוזר שפותח והודגם), ומערכת שיחה גנרטיבית על קורפוס כתבים היסטורי (אפיון ותכנון לצד בנייה מקומית ניסיונית), עדות לכך שעבודת האחזור שלנו רצה היכן שהנתונים חייבים להישאר.
לכל העבודות הנבחרותעוגן לפרויקט דגל
העוגן של התחום הוא פרויקט התשתית המאובטחת עצמו, הפרויקט הביטחוני העמוק ביותר שלנו. אף אחד משני פרויקטי הדגל הפומביים אינו פרויקט ביטחוני, ואנחנו מעדיפים לומר זאת ישירות.
מהתעשייה
Microsoft מפעילה סביבת GPT-4 מנותקת לחלוטין עבור סוכנויות המודיעין האמריקאיות, לניתוח מידע מסווג, על פי דיווח Bloomberg. צרפת אימצה מאז GenAI ריבוני ו-self-hosted בכל זרועות הצבא, במסגרת ההסכם עם Mistral, בפריסה על תשתית לאומית משלה. ריבונות היא היום דרישת רכש, לא העדפה.
שאלות ותשובות
מודל self-hosted טוב כמו המודלים המובילים בענן?
לא בכל דבר, ולא נעמיד פנים אחרת. מודלים פתוחים חזקים מספיק לעוזרים מבוססי-אחזור, למחקר פנימי ולמשימות ניתוח תמונה. בשלב האפיון בוחנים את מקרי השימוש שלכם מול מודלים מועמדים, על נתוני אמת, לפני כל התחייבות.
איך מעדכנים מודלים בלי קישוריות?
דרך תשתית ה-MLOps שתוכננה לתוך הרשת: ייבוא מבוקר של קבצי מודל בתהליך ההעברה המאושר שלכם, פריסה מנוהלת-גרסאות וניטור בתוך הגבולות. משמעת עדכונים היא חלק מהארכיטקטורה, לא מחשבה שנייה.
אתם צריכים גישה למידע המסווג שלנו?
לא. האפיון והפיתוח נעשים מול מגבלות התשתית שלכם ועל נתונים מייצגים לא מסווגים; אנשי הצוות המוסמכים שלכם מפעילים את המערכת על התוכן האמיתי.