🎗️מהנדס תודעה
12.4K posts

Sabitlenmiş Tweet

@NBhgdrh שאם זה היה אמיתי "טיוטאת הצעת החוק" הזאת לא היתה כותרת בגלובס דקה וחצי לפני פיזור הכנסת.
סתם מכינים את הקרקע לעוד קמפיין פילוג, פה מניח נגד "הפריבילגים ההייטקיסטים"
עברית

@Nifla_Po @GoodbeerOssi היחידי בינתיים שנותן עבודה מוצלחת בסושיאל
עברית

@nir_benz החפיר של cuda הוא לא רק ביכולת אלא גם בעלות של הלקוחות להעביר את כל התשתית שלהם לפלטפורמה אחרת
עברית

מי שרוצה דוגמא חיה ונושמת - תסתכלו על AMD. על הנייר יש להם (כבר 20+ שנה!) gaming GPU שנותן פייט לנבידיה.
הם אפילו הספק חומרה (GPU+CPU) של ה-Playstation וה-Xbox ב-10-15 שנים האחרונות. הם סיפקו את ה-GPU לכלל המחשבים של אפל לפני שאלו עברו לסיליקון של עצמם.
ועדיין - הנסיון שלהם להיכנס ל-general purpose GPU (GPGPU) כושל פעם אחר פעם. למרות שהחומרה אחלה. אבל התוכנה שאמורה לתמוך בו - ולאפשר לרתום את הסיליקון היפהפה שלהם לחישובים ״כלליים״ כמו כפלי מטריצות וחישובים מדעיים - איומה. גרועה. אף אחד לא רוצה לגעת בזה. והיו המון נסיונות.
אמלק: היא לא CUDA.
כי CUDA הייתה כל כך טובה* ש״זה פשוט קרה״. יש סיבה שהספרייה שהריצה את הרשת הראשונה ששברה בנצ׳מארקים אי-אז ב-2012 נקראה cuda-convnet.
וזה נכון באותה מידה ל-inference hardware אחרים מהעשור האחרון (כמו של Habana, למשל) וגם לפתרונות תוכנתיים (אופטימיזציות, קוונטיזציה וכו׳). כדי לנצח צריך משהו שמאפשר מחקר מהיר והורדה של מודל ל-GPU שמתחיל להעלות עשן.
הסיבה שלגוגל זה *קצת* מצליח היא שיש להם פיתרון חומרה שעבר כבר 5 איטרציות + הם מכריחים את החוקרים אצלם להשתמש בו (דרך TensorFlow ו-Jax בעבר והיום כבר מאחורי pytorch).
*אפשר לטעון שבשנים האחרונות CUDA פחות נוצצת. אני נוטה להסכים. יש שם המון bloat שנגרר בשנים האחרונות והפך לאירוע רציני, כי בגדול אף אחד לא תכנן אותה במקור סביב מודלים של טריליוני פרמטרים.
Uri Eliabayev@urieli17
אני רואה שזה מקבל הרבה יחס אז כמה הערות: 1. לייצר חומרה זה לא הבעיה, לייצר תוכנה בעובדת באותה הרמה כמו CUDA זה הקטע. 2. גם אינטל ואחרים הציעו GPU עם ביצועים טובים ומחיר תחרותי. זה עדיין לא מספיק. 3. הסיניים, כמו כולם מגיבים לתמריצים. האמברגו שבבים דוחף אותם להגיב בהתאם.
עברית

@ZuckermanRoy 18 מתוך 50, כאשר דוחפים פה הנחה סמויה שהכל זה "השקעה מעגלית".
עברית

בת'כלס חלק גדול מהתזרים פה הולך ל"השקעה" בחברות שקונות את השבבים. זה ממש בעייתי.
x.com/DarioCpx/statu…
JustDario@DarioCpx
When does circular financing stop? Similar to a Ponzi Scheme, when cash outflows become greater than inflows. In this last quarter, $NVDA cash grew by only ~$600, and now ~95% of its operating cash flow is absorbed by circular financing vs ~57% one year ago
עברית

@nav09284172 בייבק במקרה הזה הוא פשוט דרך להלבין SBC, בעיקר בגלל מבנה הקומפ של אנבידיה, ומונע דילול כללי.
מה הקשר לקווי הייצור? אנבידיה היא פאבלס, ועדיף שתשאר ככה. אין סיבה שיצרן אוטובוסים ישקיע בסלילת כבישים.
עברית

באו נדבר רגע על הדוחות של אינבדיה $NVDA
הדוחות של אינבדיה היו טובים מאוד צמיחה מטורפת וכו׳
אבל זה שהם עושים קניה חוזרת של המניות של עצמם, זה תמרור אזהרה רציני .
זה אומר שהיא כנראה בשנים הבאות לא תראה צמיחה אורגנית משמעותית ולכן הם מבצעים רכישה חוזרת כדי להקטין את כמות המניות, בשביל שהיא תראה רווחיות יותר
בכיף היא הייתה יכולה להשקיע בקווי ייצור וככה להקטין את צוואר הבקבוק שהיא טוענת שיש,
אבל ככל הנראה זה זמני, כי הביקוש לכוח מחשוב שלה הולך לרדת מאוד משנת 28 והלאה
ולכן היא לא רואה טעם להגדיל קווי יצור ובכך להגדיל את היצע, שזה יקטין ביקוש ויוריד מחירים.
לכן אני חושב שאנחנו מאוד קרובים לקצה הסייקל, במיוחד עם גל ההנפקות שהולך להגיע ושם יש בועות מטורפות.
אלא אם יקרה כמו שאמרתי ויתחילו לייצור מוצרי קצה לצרכן הפרטי שהמכשירים עצמם יצליחו להריץ מודלים
עברית
🎗️מהנדס תודעה retweetledi


@daardos איי כי הוא לא בדיוק המדד הנכון כי בסוף מדובר פה בהגדלה של פרודקטיביות ואולי גם העלאה של האיכות של התוצר הסופי. אם אתה עצלן או אחד שמחפף, לא משנה מה מנת המשקל שלך בסוף התוצר הסופי עדיין יהיה גרוע
עברית


















