SGode

11.2K posts

SGode

SGode

@Seb_Gode

参加日 Temmuz 2023
65 フォロー中247 フォロワー
SGode
SGode@Seb_Gode·
@stevibe The 122B on Benchmarks is equal to the 27B but faster due to only 10B active params. On 16GB VRAM the 122B model is the one you should pick as you can fit the MoE part fully on GPU while keeping the other stuff on normal RAM. It's faster with that on at least 16GB than 27b.
English
0
0
1
99
stevibe
stevibe@stevibe·
@Seb_Gode I'm curious too, but some research finds that dense models have better results on coding tasks compared to MoE models. I'll test again with larger local models next time and that will include the 122B!
English
1
0
2
1.1K
stevibe
stevibe@stevibe·
Got a 24GB Graphics Card? These 6 coding models all fit on it (Q4): - qwen3.5:27b (17GB) - qwen3.5:35b (24GB) - glm-4.7-flash (19GB) - nemotron-3-nano:30b (24GB) - nemotron-cascade-2:30b (24GB) - gpt-oss:20b (14GB) I gave them the same challenge: draw a campfire with HTML Canvas. Why Canvas? HTML/CSS forgives bad syntax — things still render. JavaScript + Canvas doesn't — one mistake and the screen goes black.
English
60
64
888
52.2K
SGode
SGode@Seb_Gode·
@isimsiz32078526 @kimmonismus So basically everything up to 35B A3B :D But even with the 122B A10B you should get like 18tps with just 16GB VRAM
English
0
0
0
28
isimsiz
isimsiz@isimsiz32078526·
@kimmonismus I have all qwen models that can run on a 16gb of vram 😅
English
1
0
1
540
Chubby♨️
Chubby♨️@kimmonismus·
Qwen is not shy of letting you know
Chubby♨️ tweet media
English
24
48
1.1K
50.8K
SGode
SGode@Seb_Gode·
@AchimEhinger @BGM90812366 @ChristophBeisl1 Inexogy ist halt viel viel teurer. Und Inexogy ist auch abhängig vom lokalen Netzbetreiber, da kann auch vieles schiefgehen. Installation bis Inbetriebnahme mit Octopus Energy Metering war bei mir September - März, also quasi 6 Monate.
Deutsch
1
0
0
10
Achim Ehinger
Achim Ehinger@AchimEhinger·
@BGM90812366 @Seb_Gode @ChristophBeisl1 Versuch doch mal den Smartmeter über Inexogy zu bekommen. Hat bei mir innerhalb von 3 Monaten geklappt.😂 Allerdings hat mir der Monteur die falsche Pin zum Freischalten der Datenausgabe genannt. Bis ich die korrekte Pin bekommen habe hat das nochmal 4 Wochen gedauert.
Deutsch
1
0
0
6
Christoph Beisler
Christoph Beisler@ChristophBeisl1·
Die Gaspreise explodieren und das wird nicht ohne Auswirkung auf den Strompreis bleiben: Ich rate jedem jetzt nochmal einen neuen Stromvertrag für 12 Monate zu machen, bevor es teurer wird. Aktuell sind noch 24 Cent/kWh möglich, je nach Region.
Christoph Beisler tweet media
Deutsch
18
29
125
6.7K
SGode
SGode@Seb_Gode·
@PeterSt16265067 @Faktencheck2030 Man müsste bei den EEs Korrekterweise Akkugroßspeicher dazu berechnen. Das verschiebt die Gesamtbilanz aber nicht wirklich.
Deutsch
0
0
0
23
Impfscherge
Impfscherge@PeterSt16265067·
@Faktencheck2030 Leider kann man Kernenergie mit Erneuerbaren nicht vergleichen. Die eine EForm ist grundlastfähig, die andere eben nicht. Man kann keine grundlastfähige mit einer grundlastunfähigen ersetzen. Das machen nur Schildbürger wie Grüne und andere Esoteriker.
Deutsch
4
0
13
232
SGode
SGode@Seb_Gode·
@u_mastery @FFmpeg And you only used an ancient codec. Use AV1 to half that size :)
English
1
0
1
1.2K
man
man@u_mastery·
what kind of black magic does @FFmpeg even does? the compression was so good damn and fast. goated
man tweet media
English
17
10
656
51.4K
Henry
Henry@henry_bayes·
@LottoLabs Where is Qwen 3.5 122b a10b? I can fit that on a 16GB card at 18 token/second …. I can’t fit 27b.
English
1
0
6
809
Lotto
Lotto@LottoLabs·
When people ask me why Hermes + 27b is the best, if you need benchmarks this is why.
Lotto tweet media
English
9
9
111
8.7K
SGode
SGode@Seb_Gode·
@OLBJAN Wie viel hast du denn geworben für Octopus?
Deutsch
1
0
2
479
Jan Olbrecht
Jan Olbrecht@OLBJAN·
Auswertung Winterreifensaison: 13.043km in 170 Tagen. 76,72km am Tag. 2830kWh inkl Verlusten, 63% am Arbeitsplatz, 31% zu Hause geladen, 34,4kWh bzw. 1,2% öffentlich geladen. Kosten für mich? Ähhh… Fehlanzeige. Ich habe zwar für meine Verhältnisse viel zu Hause geladen aber ich bin da erst 1/3 durch mein Guthaben aus Neukundenwerbung bei Octopus Energy durch. Öffentlich geladen waren tatsächlich mit eigenem Geld für 15,46€ (wobei mir das Laden 10€ Parkgebühr erspart hat), mit &Charge Guthaben für 13,18€. Im Zeitraum über das Elektroauto erhalten: 230€ aus &Charge (Danke an die CPOs) und noch 2500 Freikilometer bei Tesla. Auf der Minus Seite: Zwei Blech- und Lackschäden am Auto mit in Summe für mich 800€ Selbstbeteiligung und in Zukunft teurerer Versicherung. Und ein Nagel im Reifen.
Jan Olbrecht tweet mediaJan Olbrecht tweet mediaJan Olbrecht tweet mediaJan Olbrecht tweet media
Deutsch
6
3
37
7.2K
SGode
SGode@Seb_Gode·
@OLBJAN @iamtobi Das ist viel wichtiger! Was passiert nun mit dem Reis? Wer räumt es auf? Bleibt er da so ewig liegen?
Deutsch
0
0
1
19
Tobi Mülhauser 🍕
Tobi Mülhauser 🍕@iamtobi·
Tesla hat gerade ein iOS App Update mit Version 4.55.0 veröffentlicht 🔥⬇️
Tobi Mülhauser 🍕 tweet media
Deutsch
1
0
16
956
SGode
SGode@Seb_Gode·
@davidgpeterson @ProtonVPN I still don't get why I need to let my 1 year subscription expire and then book it again instantly to get a cheaper price. :D Why do you make it so complicated, why can I not extend it before during a sale?
English
0
0
0
17
David Peterson
David Peterson@davidgpeterson·
Por muito tempo, a versão gratuita do Proton VPN foi muito popular no Brasil. Mas, se você quiser usar a versão premium (e ajudar a apoiar a liberdade na internet), agora é um ótimo momento para fazer isso.
David Peterson tweet media
Português
25
44
548
23.2K
SGode
SGode@Seb_Gode·
@slidecurry @KnuelleTuennes1 Ja gut, dass sollen die machen. Wenn die Rezension deine Erfahrung widerspiegelt machen die eh nichts bzw. dein Anwalt klärt das im Zweifel.
Deutsch
1
0
5
250
SGode
SGode@Seb_Gode·
@slidecurry @KnuelleTuennes1 Wenn das von Google selbst kommt einfach Einspruch einlegen, Kommentar ist sofort wieder da und passieren tut nichts mehr.
Deutsch
1
0
3
325
Slidecurry 📯
Slidecurry 📯@slidecurry·
@KnuelleTuennes1 Bekannte Praxis bei Google generell. Hatten wir schon mal bei uns in einem Restaurant, dass man ein komplett verbranntes Steak bekommt und deshalb nur zwei Sterne gegeben hat. Kurze Zeit später kam Post vom Anwalt wegen übler Nachrede und Drohung, es zu löschen.
Deutsch
4
0
17
4.1K
SGode
SGode@Seb_Gode·
@robkde @Cipher_twt 35B is a MoE with 3B active params. It's worse in intelligence but **a lot** faster because it only has 3B active instead of the full 27B. If you want most skills use 27B. You can go down to UD_IQ3-XSS if you only got 16GB VRAM. It only is slightly worse than the Q4 quants.
English
1
0
0
19
Cipher
Cipher@Cipher_twt·
Cipher tweet media
ZXX
63
178
1.9K
86K
SGode
SGode@Seb_Gode·
@robkde @Cipher_twt Qwen3.5 especially. The dense 27B model is roughly on par with Qwen3.5-122B, you can even run it at home. It's just slow as it has no MoE. Qwen Coder is based on Qwen3 which is a lot worse. I'd say in terms of models up to 120B Params Qwen3.5-27B Dense is the way to go right now
English
1
0
0
46
SGode
SGode@Seb_Gode·
@robkde @Cipher_twt Qwen Coder is by now ancient in terms of AI models and their progress. :D I'd GPT-OSS is better than Qwen-Coder. The world is progressing fast here
English
1
0
0
21
Robin Knapp
Robin Knapp@robkde·
@Seb_Gode @Cipher_twt Finding out differences in model behavior. I mainly used Qwen Coder, but it also seems to not really understand our code base.
English
1
0
0
20
SGode
SGode@Seb_Gode·
@robkde @Cipher_twt Any reason on why you used GPT-OSS and not smart models? :D I mean even small ones like Qwen3.5-27B are **a lot** better than GPT-OSS 120B
English
2
0
0
25
Robin Knapp
Robin Knapp@robkde·
@Cipher_twt It literally tried for 5 minutes to find a backup of the file 😂
English
1
0
0
16
SGode
SGode@Seb_Gode·
Ich frage mich ja ob solche Poster einfach nur Views wollen für Geld oder das ernst meinen. Jede Spedition die Elektro-LKWs einsetzt unterbietet alle anderen im Preis. Das wird sich nicht ändern und alle Speditionen nachziehen. Langfristig teurer wird da nichts.
Selfmade · MAN@DE_Compounder

870 €. So viel kostet aktuell eine Tankfüllung für meinen Lkw. Über 400 Liter Diesel bei ~2,18 €. Und jetzt die Realität: Kein Unternehmen bleibt auf solchen Kosten sitzen. Das wird weitergegeben. Immer. Transport → Produktion → Handel → Endkunde. Deshalb betrifft Diesel nicht nur Autofahrer. Er hängt an jeder Lieferkette. Und Erdöl steckt zusätzlich in vielen Produkten: Kunststoffe, Verpackungen, Chemie usw. Heißt: Wenn Energie teurer wird, wird am Ende alles teurer. Viele sagen, Inflation kommt in Wellen. In welcher wir gerade sind? Kann keiner seriös sagen. Aber eins ist klar: Wenn mehrere ungünstige Faktoren zusammenkommen, sind auch ganz andere Preise möglich. 3 € pro Liter Diesel? Nicht heute. Nicht morgen. Aber komplett unrealistisch ist das auch nicht. Und ganz nebenbei: Über meine Beteiligung an Berkshire Hathaway habe ich zumindest auch Öl im Depot.

Deutsch
0
0
3
73

ディスカバー

@stevibe @isimsiz32078526 @kimmonismus @AchimEhinger @BGM90812366 @ChristophBeisl1 @PeterSt16265067 @Faktencheck2030