
Roei Herzig
2.1K posts

Roei Herzig
@roeiherzig
Researcher @IBMResearch. Postdoc @berkeley_ai. PhD @TelAvivUni. Working on Multimodal Robot Foundation Models and Structured Physical AI.





If you are a mathematician, then you may want to make sure you are sitting down before reading further.

ANTHROPIC CEO DARIO AMODEI: “50% OF ALL TECH JOBS, ENTRY-LEVEL LAWYERS, CONSULTANTS, AND FINANCE PROFESSIONALS WILL BE COMPLETELY WIPED OUT WITHIN 1–5 YEARS.”






רוצים להיות מיליונרים: תהמרו בבורסה נגד תעשיית ה AI לדעתי האנושות נמצאת כרגע בנקודה של כמעט אי-שפיות. בתחומים שבהם יש תחרות עזה סביב AI - בעיקר בלימוד, אופטימיזציה וגנרציה - מתנהל מרוץ מטורף בין החברות לרכישת חומרה. הן קונות כמויות אדירות של GPU ומקימות תשתיות עצמאיות, כי שימוש בשירותי ענן יקר משמעותית בטווח הארוך. התוצאה היא ביקוש אינסופי כמעט, מחסור מתמשך, ומחירים שנמצאים בשמיים.אבל התחושה שלי היא שזה לא יכול להימשך כך לנצח. בשלב מסוים יופיע פתרון אחר - מודלים, ארכיטקטורות או שיטות עבודה שיהיו יעילים בסדרי גודל מבחינת צריכת חומרה ואנרגיה, ועדיין יספקו יכולות לימוד, אופטימיזציה וגנרציה דומות. ברגע שזה יקרה, הבועה תתפוצץ וחלק גדול מההשקעות והתעשייה שנבנתה סביב המרוץ הנוכחי עלולות לקרוס במהירות. רוצים להיות מילארדרים: תיזמו חברות שמייצרות את המודלים, ארכיטקטורות, שיטות עבודה האלה.




כל מי שמתלונן על הרפואה הציבורית בישראל צריך להעביר יממה במיון בברלין וללמוד אדישות לחיי אדם מה היא

So pleased that our paper on empowerment and causal models is out and freely available as part of this impressive special issue on world models and AI, with Melanie Mitchell, Josh Tenenbaum, Tom Griffiths and many other stars. royalsocietypublishing.org/rsta/article/3…



Attention @arxiv authors: Our Code of Conduct states that by signing your name as an author of a paper, each author takes full responsibility for all its contents, irrespective of how the contents were generated. 1/


Unitree Unveils: GD01, A Manned Transformable Mecha, from $650,000 👏 The world's first production-ready manned mecha. It can transform. It's a civilian vehicle. It weighs ~500kg with you inside. Please everyone be sure to use the robot in a Friendly and Safe manner.



Ten years in academia and the best part has not been what many value most ie freedom to pursue your ideas. It’s experiencing your students grow and go on to incredible trajectories. What I’ve come to know about myself is that I value permanence, presence, and people. And for all the illusions that institutions, titles, awards etc offer, none at all come close to this: watching a human absorb, even in tiny amounts, the care and effort you’ve put into trying your best to just be there for them.


@Hesamation Better version without arbitrary institution cutoff, some data cleaning and splitting contribution of each paper among institutions. China + USA dominant ofc, but looks a bit different, doesn't it?



Such a great evening to start a brand new research for NeurIPS in 3.5 days.🧘♂️ Day 1: planning. Night 1: running experiments and sending the abstract. Day 2: reading results fighting with Claude, and sending again. Night 2: sleep (optional). Day 3: opening Codex, and finally, write the pape in parallel. Night 3: resolving the “beef” with Claude (temporary peace) and going to sleep. Day 4: final reading, last-minute fixes, submission then some relaxation, maybe a beach walk. I’ll keep you posted on the results. This will be my only single-author paper, so I can’t hide behind other submissions if it gets rejected 😅


