

Moran Baruch
127 posts

@moran_baruch
PhD | AI & Security Research Team Lead



איך אפשר לגרום למודל AI לפעול על מידע מוצפן ולא לחשוף בפניו את הדאטה הרגיש? דמיינו למשל מצלמת אבטחה שיודעת לזהות מבוקשים אבל הפנים של המבוקשים עצמם, או הפנים שהיא סרקה, לא נחשפים גם אם המערכת נפרצת. בדיוק על זה הולכת לדבר מורן ברוך, AI and Security Research Team Lead ב-IBM Research. מורן תראה איך המחקר שהם עושים ב-IBM מאפשר ביצוע חישובים מתמטיים (וספציפית מודלי AI) על מידע מוצפן, מבלי שהמודל יכיר את האינפוט או האאוטפוט. הטכניקה הזו יכולה לאפשר לגורמים ביטחוניים לבצע חישובים בענן מבלי לחשוש לחשיפת המידע. היכולת לשמור את המידע מוצפן ומסווג למודלים עצמם היא יכולת אסטרטגית ומאוד חשובה בתחום הדיפנס. אם המודל לא נחשף אף פעם לדאטה עצמו הסכנה שהוא ידלוף או שייחשף לגורם צד שלישי לא מאושר נמוכה באופן משמעותי. אני מאמין שגם הסוגיה הזו רלוונטית להרבה ארגונים לא רק בתחום הזה. יש הרבה תעשיות רבות שהאנונימיות והחיסיון של הנתונים מאוד חשובה להם. מוזמנים לבוא לשמוע את מורן בכנס DefenseML שלנו: machinelearning.co.il/lp-events/defe…

Two needles in a haystack: Our latest study explores how LLMs perform on the same task with different lengths of context. Accuracy dips when models must not only find, but reason over two text parts. Even on just 3000 tokens! Results and analysis 👇(1/7) arxiv.org/abs/2402.14848















