Amit Raz
13.7K posts

Amit Raz
@razamit
AI Consultant & Software Architect | Architecting Advanced ML Systems & Corporate Trainer. Co-founder & CTO @ X-Trader. FPL, Gaming.
Israel Beigetreten Aralık 2007
594 Folgt191 Follower
Amit Raz retweetet

@josh55925028 @urieli17 בכל אופן 1TB SSD ו 32GB RAM זה המינימום. אם אתה הולך לעבוד על הלפטופ אז מסך 16".
אני קניתי את זה:
ksp.co.il/web/item/372974
והוא סוחב יפה מאוד 5-6 סשנים נפרדים של קלוד טרמינל בתוך קרסר + כרום זום וכל השטויות שמסביב.
וגם מחזיק על סוללה 7-8 שעות.
הוספתי לו עוד 1TB SSD בעצמי.
עברית

@Roy_Wainer לכן אני תמיד אומר שאסור להשתמש בכלים האלה בתחום שאתה לא מומחה בהם. הם אמורים להיות כלי מדהים בשילוב מומחה בתחום ואסון בשילוב חובבנים.
עברית

לאחרונה עשיתי כמה ניסויים עם קלוד (בתשלום) כדי לבצע אנליזה של מספרים של חברות. לא כי אני צריך, אלא בעיקר כדי להבין כמה אנחנו קרובים למצב שבו הוא יכול להחליף אנליסט.
המסקנה שלי - זה ממש כלי מסוכן, אם אתה לא מבין מה אתה עושה. בעיקר כי המלל לרוב כן הגיוני, וזה נותן תחושה של קוהרנטיות, מעין תחושה שאפשר לסמוך על האנליזה, שיש סיכוי שיכולה להטעות אדם חסר ניסיון (בעצם כמו שימוש במכפיל רווח...).
מהניסיון שלי, קלוד יותר טוב מג'יפיטי או ג'מיני אבל החוויה שלי דומה - אני צריך לעזור לו להגיע לפיתרון, ולא ההפך. וככל שהחברה יותר קשה להבנה, ככל שנדרשות יותר התאמות - כך הטעות יותר דרמטית.
זה גרם לי לתהות - האם הבעיה של Hallucinations באמת משתפרת, או ש-AI רק הפך ליותר משכנע, ואז פוטנציאלית זה אפילו מסוכן יותר?
עברית

@BVinograd @urieli17 אוקיי. עכשיו הרצתי את זה על מכונה של AMD עם 64/128 ה26b קצת איטי אבל לא רע. בטח אם נגיד אני שם אותו על משהו שירוץ כל הלילה מבחינתי. >>
total duration: 3m22.4748929s
prompt eval rate: 45.33 tokens/s
eval duration: 3m20.3126926s
eval rate: 8.80 tokens/s

@BVinograd @urieli17 total duration: 4m44.4629499s
load duration: 220.4388ms
prompt eval count: 11445 token(s)
prompt eval duration: 18.6568325s
prompt eval rate: 613.45 tokens/s
eval count: 1844 token(s)
eval duration: 4m25.3557995s
eval rate: 6.95 tokens/s
English

כמובטח, גוגל משחררת את הדור הבא של משפחת המודלים שלה: Gemma 4.
יש שני מודלים יחסית גודלם ועוד שניים קטנים להרצה במכשירי קצה.
התוצאות נראות מרשימות אסל צריך עוד לתת לזנ צ'אנס. אני ממש שמתי עין על ה4B החדש.
Demis Hassabis@demishassabis
Excited to launch Gemma 4: the best open models in the world for their respective sizes. Available in 4 sizes that can be fine-tuned for your specific task: 31B dense for great raw performance, 26B MoE for low latency, and effective 2B & 4B for edge device use - happy building!
עברית

@razamit וואי מזל שכתבת, לא היה לי מושג.
לא אבין בחיים שלי אנשים קטנוניים. זרקתי סתם מספר ואתה מחפש פה הגיון ספורטיבי, תהיה לי בריא
עברית

@BVinograd @urieli17 ביקשתי ממנו עכשיו הצעות לשיפור מהירות וerror handling נתתי לו לנתח את הגרסא הלא אחרונה. הוא הציע בערך את מה שקלוד הציע. this is getting interesting. הבעיה שזו המכונה שאנחנו מאמנים עליה מודלים אז זה משבית לי אותה...
עברית







