Yaniv Nikankin

@WashingtonExp בשולי הדברים, זה היה טיווין לניסטר שאמר את זה

בממשל ממהרים להריץ דף מסרים שיצדיק את מזכר ההבנות (MoU) במקום לפרסם את המזכר עצמו וזה לבדו אומר דרשני, אבל כמות הסילופים והעיוותים שיש פה היא בליגה אחרת: 1. "לאיראן לעולם לא יהיה נשק גרעיני". איך ה-MOU מעגן את זה? איזה מנגנונים - בעולמות הטכנולוגיה או הפיקוח - מבטיחים את זה? כרגע זה נראה כאילו האיראנים אמרו "וואלה נשבעים באמא שלא נחתור לגרעין, נודרים לך" וטראמפ קנה את זה. 2. הקשקוש על "אובמה לא הביא הסכם חתום" הוא פשוט, וסליחה על השיפוטיות, מביך. כאילו שש המעצמות, איראן והאיחוד האירופי התדיינו במשך שנתיים ואז בסוף סיכמו את המגעים שלהם בלחיצת יד ג'נטלמנית. בכללי, הניסיון להסביר "למה זה הסכם יותר טוב מההסכם של אובמה" (יש section שלם על זה בדף המסרים) מעיד כאלף עדים על איכות ההסכם ועל עיסוק היתר של טראמפ באובמה, בעיקר לאור העובדה שיש לטראמפ לפחות יתרון אחד מובהק - הוא באמת השמיד, פיזית, הרבה מהיכולות של איראן. 3. לא חושב שיש נתונים אבל "סיום המלחמה בלבנון" מעניין, לדעתי, בערך 5% מהציבור האמריקאי, ולדעתי יותר מעניין דמוקרטים מאשר רפובליקנים. ההחלטה להדגיש את ההישג הזה היא להבנתי בעיקר איתות שהכלב האמריקאי לא נותן לזנב הישראלי לכשכש בו. 4. הסיפור על הפרשת הכספים מדהים בעיניי: במשך שנים טראמפ והרפובליקנים סיפרו כמה "אובמה נתן כסף לאיראנים" ותיארו את זה כשוחד מכספי המיסים של סם וברברה, כשבפועל אלו היו כספים מוקפאים בדיוק כמו עכשיו - רק בערך שליש מהסכום, תלוי איך סופרים. טיריון לאניסטר אמר פעם שמלך אמיתי לא צריך לצעוק "אני המלך", ובהמשלה - מי שמביא הסכם (או מזכר הבנות) טוב לאמריקה ולעולם לא צריך לפרסם דף מסרים על כמה ההסכם טוב כשאפשר פשוט לפרסם אותו.

@nsaphra As a side note, this is a cool visualization! Which tool did you use for it?

The intuition: Real-world superposition is noisy, so LLMs are more reliable in situations where the relevant features are orthogonal. A model makes more mistakes when there is a narrow angle between them, creating compositional interference.

We don’t always know what problems are hard for LLMs. So devs evaluate on tasks HUMANS find hard or on broad benchmarks. What if we could instead anticipate which scenarios a model will fail on—all without evaluating specific input examples? 🧵NEW PAPER by @jenniferlumeng &al

Paper: arxiv.org/abs/2604.18307 Code (+ generations & result files): github.com/technion-cs-nl… Project page: technion-cs-nlp.github.io/reasoning-impo…

I think this raises interesting questions like "which other abstract concepts are encoded in activations" and (on a more philosophical note) "how can we identify NOVEL abstract concepts, which we can't generate labels for".

Do reasoning models internally represent abstract properties of their own chain of thought (such as "which steps are important"), while not surfacing these properties in their tokens?

🧠🤖 The 2026 New England Mechanistic Interpretability (NEMI) Workshop will be Aug. 14 at Boston University! Help spread the word and join the New England mech interp community! Registration and submission info in thread:👇

Scaling laws describe how loss changes with scale. Do neurons inside models change predictably too? We study vision and language models up to 30B params and find systematic scaling in neuron universality, specialization, and selectivity. Paper+code: avdravid.github.io/rosetta-neuron… 1/n

Excited that our paper on Actionable Interpretability got accepted to ICML! And just in time -- we also heard that our Actionable Interpretability workshop will be happening again, in COLM! See you in Korea 🇰🇷 and SF🌉 [Arxiv paper link in the comment]

@yevgets אבל זה ש*אפשר* להריץ כל ניסוי לכל הרחבה אפשרית לא אומר שצריך (לא הכל רלוונטי ועשוי להסתיר את העיקר עם הרבה תפל). מה שכן, אני מסכים איתך שזה כבר משנה מאוד את עבודת המחקר, הרבה פחות דגש על הרצת ניסוים והרבה יותר על מחשבה על השאלות הנכונות וכו'.

במקום מאמר תאוריה עם כמה הרחבות, לא נסתפק בפחות ממאמר עם כל ההרחבות האפשריות, כל הדוגמאות הנגדיות להרחבות הלא אפשריות, והמון המון משפטים ותוצאות. הנפח של "המידע" שיש בכל מאמר יגדל והמחקר יתמקד בדברים אחרים. או שלא. נגמר היין, חוזרים לקפה.5/5

שתיתי היום יין וחשבתי קצת על החיים, האקדמיה ובינ"מ והיות ואין פילטרים בין המוח לטוויטר, עכשיו תורכם להנות. אבל קודם, סיפור 1/

Funding opportunity for PhD students for 4 month visits in Israeli universities. Contact if you're interested in an internship with me. Focus areas: Interpretability and controllability of LLMs, AI safety, multi-agent communication, AI for Science. azrielifoundation.org/fellows/visiti…

@ArbleMatan @evangelionim @ArielaGoesFake רובם אמריקאים או מהגרים בעצמם? אתה רואה הבדל בין הקבוצות?

@evangelionim @ArielaGoesFake אני לא באמת מדבר איתם. מדברים על המזג אוויר בסופ״ש או אם יש לי תוכניות כיפיות לסופ״ש. שיחות נפש או סתם לצחוק על החיים? לא.

מבחינתי הקושי העיקרי בהגירה הוא שיש רק שפה אחת בעולם, שבערך 15 מיליון אנשים בלבד דוברים אותה, שהיא השפה שלי. אני יכולה להתנסח בה בצורה מדויקת לגמרי, להצחיק, להכעיס, לרגש, לשמח. בכל שפה אחרת בעולם אני אהיה נכה. לאדם כמוני זה הפסד נוראי.

@Idaneretz מה מיוחד במערכת אוטובוסים שלהם?

אני בכנות מת על הקטע שהגולן הוא קצת המערב הפרוע של ישראל. יש להם גם מערכת אוטובוסים שעובדת אחרת לגמרי מאשר בכל מקום אחר. הם לא מחכים לאף אחד, הם פשוט עושים. אבל האמת שהסיפור הזה דווקא נולד מכשלון גדול לחזור ללימודים אחרי "עם כלביא". הכתבה המלאה כאן: globes.co.il/news/article.a…

בכל הארץ אין לימודים פרונטליים, חוץ במקום אחד: רמת הגולן. במועצה האזורית גולן הביאו את רוב המורים ורוב הגננות בהתנדבות (הם ממילא מקבלים שכר) ללמד ולתת פעילות פרונטלית לילדי גן עד כיתה ג' בבוקר, והזום צומצם לשעות הצהריים בלבד. סגן ראש המועצה אמר לי: תנו לרשויות אוטונומיה חינוכית

@alono88 @PnL63962200 מעניין שזה קורה בצורה כל כך רחבה - בערך שליש מהפרומפטים שלי לג'מיני מגיעים ללופ

@PnL63962200 אני אומר לכם להתרחק מזה ואתם לא מקשיבים x.com/alono88/status…

נראה לי שברתי את ג'מיני (זה מה שמוצג כשלוחצים show thinking והוא לא מסיים אף פעם לכתוב את זה)