Dr.Sun
892 posts
@moishe_ee на q8 несильно. на q4 уже очень заметно. q6 терпимо. просто жизнь не обмануть. нельзя активировать итогово 0.7б и ждать что там будет чтото осязаемое, увы. шакалить будет на 10 шакалов из 10
Русский
Считается, что для selfhost LLM вам нужны дорогущие видеокарты, память и тысячи баксов.
Не совсем, я проверил.
Имеем: hetzner i7 + 96gb RAM DDR4 за 50 еврорублей
Ставим: ik_llama + qwen3.6-35B-A3B
Получаем: где-то 20-30tps на 48К контекста.
В целом оно работает на уровне gpt4
Русский
Reading this made me realize LLM generated code is already way better than the worst human-written code I have seen
LLM code is often bad and there's too much of it. but man human written code was TERRIBLE
leon@profleonn
you really can't hate the way some people write code enough. sometimes it just really pisses me off, like you think this is ok ? terrible formatting, bullshit useless things?
English
@moishe_ee мое ниже q8 смысла нет. будет тупорылить сильно. важен же активируемый обьем. а там его почти нет
Русский
Rust - охеренное говно. Ладно старая версия (старее предыдущей) не может скомпилить текущую, так и новая (новее следующей) не может скомпилить текущую. То есть эта мерзость не совместима ни вниз ни вверх. Язык без ТЗ, без цели и без смысла.
Русский
@erofei2014 очень удобно я про артемис хотел почитать. один твит и почитал все твиты на тему)
Русский
Лента "для вас" работает крайне херово. Любой случайный твит по какой-то теме, и тебя просто на 99% заваливают однотипными постами по этой теме. Ты бы и рад их почитать, но не когда вся лента из этого состоит. Приходится максимально игнорировать тему, чтобы лента очистилась
Русский
Придумал аналогию: люди думающие что если скорость кодинга с AI выросла в 10 раз, то и скорость поставки фич станет x10, похожи на людей считающих что если на рынке картошка подешевеет вдвое, то и тарелка борща в ресторане должна стоить 1/2 от прежней цены
Русский
@corneliously че ж идеального в тоннах насекомых. они ведь поназойливее соседей будут
Русский
А потому что любой многоквартирный дом, даже, если это суперстарый фонд с пекарней и кофейней на первом этаже, – античеловечная срань.
Нормально жить можно только в своём доме.
Идеально жить в своём доме, окружённым лесом.
Валькирия, отставить!@oldValkyrie
Сосед снизу жаловался на шум. Ну ок, ребенок реально поздно ложится, может, мешает… извинились, убрали любые игры на полу вечером. Ребенок пошел в сад, ложится до 22. Сосед жалуется. Я, говорит, в 23 ложусь, в 6 встаю. Будьте тише, проявите уважение. Мы уже в недоумении, ↘️
Русский
Жаль человека, что настоящий плов не пробовал
Denisko@Deniskochka
Зачем нужен длиннозёрный рис, если круглозерный вкуснее?
Русский
@flipkerson предпочитаю играть в 4к120, качество даже не близко в облачных.
Русский
Сейчас чтобы играть на пк достаточно иметь ноут за 15-20к и быстрый интернет.
Появляются все новые сервисы клауд гейминга, где все тайтлы вам доступны в 30-60 кадров.
В мтс фог даже играми владеть не надо, при этом работают облачные сохранения.
Час стоит от 24 рублей.
Русский
@moishe_ee дядь так ты поэтому и не можешь запустить ллмку локально, потому что у тебя компа нет
Русский
Проверил за вас что с зимы поменялось в селфхостед LLM.
Дано: м5 pro 32gb
1. Gemma/Qwen dense так и остались на 5-7tps
2. MoE все так же бодро шустро генерирует дичь
3. MTP пока с багами
4. На турбокванты забили и не вмерджили.
Гонять локально модели до сих пор смысла нет
Русский
Если бы Android и правда был таким классным и удобным как о нем говорят его фанаты, его не стоило бы использовать как минимум по одной причине: любое приложение может узнать, что включен VPN
Evgeny Makarov@evgeny_makarov7
Apple: это когда просто берешь и оно работает Работает оплачивать по NFC Работает передавать файлы на комп Работает приложения в фоне Работает загрузка в фоне Работает отсутствие комплекта Работает один день часы Работает удобная установка заблокированных приложений Работает поход в банки для установки новых версий Работает зум от 1 метра Работают удобное скачивание файлов из Сети Работает удобный перевод фото и приложений через скриншоты и анализ в галерее Работает буфер обмена Просто работает 🌚🌚🌚 Продолжите список, когда Айфон просто работает 👇
Русский
Я привезла эту бабку из Владивостока и до сих пор ее не доела потому что бабка содержит в себе экстракт сатаны и пердёж дьявола но однажды попробовши уже не перестанешь
каркозный панк@dopingpodvig
я попробовал этот соус и лишился рассудка
Русский
как
же
вы меня все заебали
кароч: ВОТ ТАК ВЫГЛЯДИТ РАЗНИЦА В 10-15 кг при росте 164
так что завалите ёбла
Русский
Вопрос без всяких задних мыслей: вы можете вспомнить какой-либо эпизод за последние пару лет, когда оппозиция нанесла пусть небольшой, но всё же видимый урон режиму Путина?
Любая оппозиция, включайте в это понятие все персоны и структуры, заявляющие себя, как российскую политическую оппозицию.
Любой эпизод, любое выигранное сражение, даже небольшое. За последние пару лет.
Можете такое вспомнить, лично у вас возникало чувство успеха?
Если да, то буду благодарен за указание в реплаях (без подробностей и обоснований), что именно это за эпизод.
Русский
