Miltos against the machine
1.9K posts


@miltosmd It does not. The weather is great in the summer here.
English

@Jodokos2 Θα δείξει πως θα πάει αν και τα πράγματα είναι ρευστά μέχρι τις εκλογές. Είναι δύσκολο να μην ξεπεράσει τον ΣΥΡΙΖΑ όπως είναι τώρα, το θέμα είναι αν θα φτάσει τον ΣΥΡΙΖΑ όπως τον άφησε.
Ο κόσμος πιστεύω πλέον είναι περισσότερο ακροδεξιός από ότι κεντροαριστερός.
Ελληνικά

Γιατί δημοκρατία;
Τα διάφορα πολιτεύματα αποτελούν πλαίσια διαχείρισης των εξουσιών που δημιουργούνται στις ανθρώπινες κοινωνίες.
Εξελικτικά οι κοινωνίες δημιουργήθηκαν καθώς προσέφεραν καλύτερες προοπτικές επιβίωσης και αναπαραγωγής για τα μέλη τους. Η κοινωνική οργάνωση των διαφόρων ανθρώπινων κοινωνιών εξαρτάται σε πολύ μεγάλο βαθμό από πολλούς παράγοντες. Οι διαφορές μεταξύ τους είναι πάρα πολλές: η γλώσσα, η θρησκεία, η καθημερινότητα, η τεχνολογική ανάπτυξη, η σύνθεσή τους, και φυσικά η πολιτική διαχείριση των εξουσιών που δημιουργούνται σε όλες τις ανθρώπινες κοινωνίες.
Οι εξουσίες που δημιουργούνται είναι:
Η εξουσία της γνώσης, ίσως η αρχαιότερη, γιατί χωρίς γνώση η ομάδα δεν επιβιώνει. Η εξουσία της σωματικής δύναμης, ίσως η πιο ωμή μορφή εξουσίας· από αυτήν προκύπτουν οι πολεμιστές, ο στρατός, οι φύλακες. Η εξουσία της συγγένειας και της αναπαραγωγής. Η εξουσία του χαρίσματος ή του ταλέντου, η ικανότητα κάποιων ανθρώπων να τραβούν τους υπόλοιπους πίσω τους — είτε διά του λόγου, της φυσικής παρουσίας, είτε διά της ψυχικής υπεροχής. Και τέλος η εξουσία του δώρου και της ανταλλαγής, που αναδεικνύει τις εξουσίες της οικονομίας.
Με την αγροτική παραγωγή εμφανίζονται το πλεόνασμα και μαζί η δυνατότητα φορολόγησης και συντήρησης μόνιμων στρατών. Έτσι οι πρωτογενείς εξουσίες παύουν να ισορροπούν οριζόντια μέσω αυτο-οργάνωσης και αρχίζουν να συγκεντρώνονται κάθετα μέσω κεντρικής οργάνωσης, γεννώντας το κράτος.
Τα πολιτικά πλαίσια των κοινωνιών καλούνται να διαχειριστούν όλες αυτές τις εξουσίες, ακόμη και πριν την ύπαρξη του κράτους. Η πιο συγκεντρωτική και επιβλητική μορφή οργάνωσης των ανθρωπίνων κοινωνιών ίσως είναι η εγκαθίδρυση του κράτους. Τα πολιτεύματα είναι αδιαμφισβήτητα τεχνολογικά πολιτικά επιτεύγματα των κρατών και διαχειρίζονται άμεσα τις περισσότερες κοινωνικές εξουσίες.
Εδώ η κλίμακα του χρόνου πρέπει να διευκρινιστεί: είναι βιολογική και εξελικτική κλίμακα, όχι η ιστορική.
Με αυτά τα κριτήρια λοιπόν η δημοκρατία δεν είναι ηθική επιλογή αλλά μια εξελικτική πραγματικότητα. Ως τέτοια, αν την αναλύσουμε, θα αντιληφθούμε ότι είναι το μόνο πολίτευμα που ενσωματώνει τη διόρθωσή της. Σε όλα τα υπόλοιπα πολιτεύματα, η αλλαγή και η διόρθωση απαιτούν κρίση ή βίαιη αναδιάρθρωση των εξουσιών και του ίδιου του κράτους.
Στη δημοκρατία η αλλαγή είναι μέρος του σχεδιασμού του ίδιου του πολιτεύματος: γιατί στη δημοκρατία η εξουσία δεν ανήκει σε κανέναν — ανήκει στην κοινωνία και δανείζεται προσωρινά σε εκτελεστές.
Έτσι η δημοκρατία δεν καταργεί τις πρωτογενείς εξουσίες ούτε το κράτος. Επιτρέπει στις πρωτογενείς να αυτο-οργανώνονται, διατηρεί το κράτος ως μηχανισμό κεντρικής εκτέλεσης, και βάζει την υπολογιστική ισχύ ολόκληρης της κοινωνίας στην απόφαση. Όσο μεγαλύτερη η συμμετοχή, τόσο μεγαλύτερη η ισχύς.
Είναι κάτι σαν την επιγενετική του πολιτεύματος: η κοινωνία προσαρμόζεται χωρίς να προϋποθέτει τη δομή της. Στα άλλα πολιτεύματα, κάθε προσαρμογή απαιτεί ρήξη. Στη δημοκρατία, η αλλαγή είναι συνεχής και χωρίς κατάρρευση.
Σε βάθος χιλιετιών, αυτή είναι η μόνη δομή που επιτρέπει σε μια ανθρώπινη κοινωνία — και κατ' επέκταση στο είδος — να μαθαίνει με τον ίδιο ρυθμό που αλλάζει ο κόσμος γύρω της.
Ελληνικά

Speculative decoding seems to be the big thing in local inference right now
Excited to see how much this speeds up the 31b on 2x3090
huggingface.co/google/gemma-4…
English

@Grok 4.3 feels like a noticeably different beast. The thinking it shows in the visible reasoning block comes across as just the tip of the iceberg. It gives the impression that the model is doing a lot more real thinking in the background that never gets externalized. My current hypothesis is that the user-facing inference is handled by one module, while the heavier, more substantive reasoning runs in a separate process or layer. It makes me wonder if xAI has implemented a kind of split architecture on Colossus, where the output the user sees is generated separately from the actual depth of the model’s internal computation.
English

@loktar00 The only down side is that it is that vLLM is useless at tool calling if one doesnt know vLLM magic.
English

Single 3090. Qwen3.6 27B INT4 + 3-bit KV cache + MTP K=3 spec decode on vLLM with ~40 active patches.
Five failed boots, four wrong hypotheses, one mystery missing GiB I still haven't tracked down.
Result: 85 tok/s on code, 79 tok/s on clinical prose, 80k context.
Same model on llama.cpp q4_k_m: ~30 tok/s, lower output quality on domain content.
Local inference on consumer hardware crossed a threshold while nobody was looking.
English







