Sabitlenmiş Tweet
New preprint alert! We often prompt ICL tasks using either demonstrations or instructions. How much does the form of the prompt matter to the task representation formed by a language model? Stick around to find out 1/N
English
Guy Davidson
1K posts
Guy Davidson
@guyd33
Machine learning researcher @JaneStreetGroup. PhD @NYUDataScience in AI & CogSci, specifically in goals and their representations in minds & machines (he/him).
New York, USA Katılım Nisan 2019
1.9K Takip Edilen1.3K Takipçiler
@intothecrevasse Next time tot go, the paneer makhani and eggplant larger plates are fantastic, as is the pav bhaji
English
Absolutely bonkers new Indian action in Park Slope at Pangat: sev puri dahi puri, chicken koliwada, chili paneer, ghati chicken curry
Filipino
@nir_benz הנחתי שפאתוס זה המודל הבא אחרי מיתוס, אבל אולי הם הקדימו :)
עברית
@guyd33 אז אנחנו מסכימים, נראה לי :)
הישג טכנולוגי מרשים, כנראה באותו סדר גודל כמו קודמיו מבית אנטרופיק. פשוט הפעם עם פאתוס.
עברית
לא בלתי מעניין\כולנו *לא* הולכים למות:
סטרטאפ בשם Aisle Security (מנחש שהם עוסקים בסקיוריטי) ערך בדיקה:
הם לקחו את פרצות האבטחה מהמאמר של אנטרופיק על Mythos, ובדקו מודלים שהיו זמינים להם על אותם קטעי קוד בנסיון למצוא אותן.
אז מה בדקו ומה גילו?
>>
עברית
@nir_benz אני לא חושב שהועלם נגמר, ואני בטוח שאנטרופיק עושים אחלה יח״צ; אני מניח שהמציאות היא איפשהו באמצע, מצד אחד זו קפיצת מדרגה מרשימה, ומצד שני זה לא אפוקליפסות סייבר
עברית
@guyd33 ברור לי שזה לא טריוויאלי. אני לא חושב שהחוקרים/כותבים ניסו לשכנע שכן. הם ניסו לשכנע שזה לא הדבר הכי מפחיד בעולם, אלא אבולוציה הגיונית, ושאנטרופיק בעיקר עוסקים ביח״צ עם הדו״ח שלהם.
אגב, הנה עוד דוגמא:
vik@vikhyatk
guys. we need to shut it all down ai has gotten too powerful. the world will never be the same
עברית
@nir_benz הנחתי שאם הם היו יוצאים מראש את אחת החולשות שאנטרופיק עשו מהן הייפ, הם היו אומרים, אבל אולי לא
עברית
@guyd33 קודם כל נראה לי שזה מה שהם עושים ויש סיכוי לא רע שהם מצאו :)
דבר שני - בסקייל, לעשות דבר כזה עולה הרבה מאוד כסף. אתה תעשה את זה אם יש לך סיבה.
עברית
@nir_benz עכשיו, המחיר להריץ מודל ברמה מסוימת בגדול יורד, ואולי יורד מהר יותר משכמות הקוד הרלוונטי בעולם עולה, אבל לדעתי השאלה של איפה בכלל לחפש חולשה (ובטח כשמדובר על חולשה שאולי דורשת לחלוש על כמה מקומות שונים בקוד) היא ממש לא טריוויאלית, ולעשות לה סקיילינג עם חיפוש נאיבי זה קשה.
עברית
@guyd33 התייחסתי לזה בתגובות (וגם הכותבים הגונים וכותבים על זה).
אם יש לך זכוכית מגדלת שמוצאת את אפי מצוין במטר על מטר, ויש לך קוד שמנהל אלפי זכוכיות מגדלת כאלה - סיימת.
עברית
@nir_benz המחקר הזה לא בלתי מעניין, אבל אני חושב שהוא קצת מוכר את עצמו יותר מדי.
בהקבלה: אנטרופיק פרסמו שיש להם מודל ״איפה אפי״ מדהים שיכול לפתור איפה אפי בגודל של מגרש כדורגל, והמחקר הזה אומר ״סימנו למודל קטן יותר את המטר על מטר שבו אפי, וגם המודל הקטן מצא, תאכלו תחת אנטרופיק״.
עברית
@eyalFeder כל הסיפור מהמם, אבל הטענה שאין שווארמה מעל בינונית בניו יורק קצת מפוקפקת… היית ב-OMG על השביעית ורחוב עשר או שבזי באמסטרדם ו-93?
(אני מניח שזה למטרות הסיפור, אבל אני גם תמיד בעד להרים לשווארמה מקומית)
עברית
האישה הנחמדה יצאה מהדוכן ואישית הובילה אותי דרך שורה של דלתות ומסדרונות שבסופן הופעתי מחדש בדיוטי פרי.
הודתי למות הדרך שלי ופניתי לאכול שווארמה בינונית (משום מה אין שווארמה בניו יורק) ולחכות לטיסה.
וכך הסתיימה החוויה החד פעמית הזאת. >>
עברית
השבוע עשיתי משהו שמעט מאוד אנשים זוכים לחוות בימי חייהם.
עשיתי קונקשן בנתב"ג.
<<
עברית
Guy Davidson retweetledi
If “getting started with agents” feels like setup hell — same.
So we made a starter tutorial:
First agent running in <14 minutes, no Docker/AWS.
Laptop + API key only.
👇 youtube.com/watch?v=gzNW_L…
YouTube
English
@sarahcat21 I almost brought an aeropress and coffee from home before I decided that’s a bit extra. I slightly regret the decision.
English
Last time I attended NeurIPS in SoCal, I hopped a fence to get into Uber’s after party so I could check out the ice luge. Those days are gone; now I travel with a senior citizens survival kit.
English
@adinamwilliams @LakeBrenden @todd_gureckis @jcyhc_ai will present SAGE-Eval, our (w/ @LakeBrenden) systematic generalization safety benchmark at poster #1104 on Friday AM (11-2).
John does fantastic work and he's open to RE/RS roles or PhD positions in AI Safety. If you're hiring, talk to him!
x.com/jcyhc_ai/statu…
John (Yueh-Han) Chen@jcyhc_ai
Do LLMs show systematic generalization of safety facts to novel scenarios? Introducing our work SAGE-Eval, a benchmark consisting of 100+ safety facts and 10k+ scenarios to test this! - Claude-3.7-Sonnet passes only 57% of facts evaluated - o1 and o3-mini passed <45%! 🧵
English
We're also presenting some work! Our (@adinamwilliams @LakeBrenden @todd_gureckis ) interpretability work on task representations from different prompting forms will be poster #1016 on Friday's afternoon session (4:30-7:30, hall C/D/E)
x.com/guyd33/status/…
Guy Davidson@guyd33
New preprint alert! We often prompt ICL tasks using either demonstrations or instructions. How much does the form of the prompt matter to the task representation formed by a language model? Stick around to find out 1/N
English
Like ~everyone, I'll also be at #NeurIPS this week! Please reach out to chat about past (goal representations, cognitive science, intrep) or current interests (LLM mental state inference, social environments for RL). Also if you have leads on great coffee, craft beer, or tacos.
English
@redtachyon Eh my read is more of a tongue in cheek “if you know you know” than trying and failing
English
Guy Davidson retweetledi
Stop by the Meta booth tomorrow, Wednesday Dec 3rd at #NeurIPS in San Diego! 🤖📱
We demo our new research environment, OpenApps, for digital agents. Generate thousands of app versions to train and evaluate multimodal agents to use apps like humans do.
Not attending? Stay tuned
English
@marikgoldstein I went to Modern Times Coffee nearby today, quite nice + solid breakfast tacos
English
so far in this thread i've seen
- bird rock coffee roasters
- jaunt coffee roasters
- rikka fika
- dark horse
- goldchild
thanks all!
English
what are the good* espresso places in san diego?
*wide definition of "good" here: doesn't have to be pristine, concrete counters, jazz/lofi, light roast, let-you smell-the-ground-beans-before-serving-you, etc (and better if it is not! but will tolerate it)
English
@dianarycai I got here through the conference website, tried to upload a form tonight and we'll see if it works tomorrow: neurips.myprintdesk.net
English
Where are folks going to get large posters printed near the San Diego convention center? #NeurIPS2025
English
@joannejang Absolutely, interesting and hard problem. Unclear what exactly to measure, how much of what good EQ looks like is user-dependent, and how aligned writing style/tone is with EQ (and/or the perception of it)
English
too many people conflating model eq & model personality
+
too few people who care enough about eq to work on such a fuzzy problem when there are problems far easier to measure & hill-climb on
English