khrust

Introducing LFM2.5-230M: our smallest model yet, built to run fast anywhere (CPUs, NPUs, and GPUs) to enable agentic tasks on phones, robots, home and network automation devices. > 230M parameters, built on the LFM2 architecture > Pre-trained on 19T tokens, with a 32K context extension > Post-trained with distillation from LFM2.5-350M > 213 tok/s decode speed on Galaxy S25 Ultra (CPU) > 42 tok/s on a Raspberry Pi 5 (CPU) > Competes with and often beats models more than twice its size on instruction following, data extraction, and tool use. > use it for large-scale data extraction pipelines or lightweight on-device agentic workloads. 🧵

удивительно, как всего за 3 месяца прямо на моих глазах сообщество ИТ само демонтировало все эти свои священные коровы типа SOLID и т.п. на которые адски флюродросило лет 15 а оказалось вдруг, что похуй+поебать причем, демонтируют их наперегонки: каждый спешит отчитаться, что он самый первый перестроился на ИИ и пытаются заново поймать эту струю "я в лучших практиках, излучаю уверенность и компетентность" хотя на самом деле какие это практики — никому сейчас неясно

Today, we're releasing LFM2.5-8B-A1B, a device-optimized model designed to power real-life applications on phones, laptops, PCs, robots, and fast & lightweight server-side use-cases. > 8B MoE, 1.5B active > Expanded 128K context > LFM2.5 flagship hybrid MoE architecture > Trained on 38T tokens + large-scale RL > fast, reliable tool calling, punching above its weight, comparable to models with up to 4x its size > customizable on a single GPU for any specialized task > LFM2 open-weight license 🧵