Rasmus Toivanen

Link here youtube.com/watch?v=r4FNWj…

@IgorCarron Great, looks promising! Now can you try to get your model to Azure/GCP model gardens (Some/most enterprises prefer those, hard to push any external APIs for some enterprises) or so if not already there. And please expand benchmark coverage to more languages and benchmarks 💪

Sure thing! 1⃣You can test it here: huggingface.co/spaces/lighton… 2⃣It's been very favorably compared to Azure Doc Intelligence by Jonas Wacker → github.com/joneswack/ocr-… 3⃣Our API is live and early access is at: lighton.ai/pricing

@IgorCarron @LightOnIO While I say great job as European, and while impressive I would not be banging my chest on single benchmark, kinda niche thing. Get SaaS API (If you do not already) and tell you are outgrowing something like Azure Doc intelligence in EU then that would be great

Everyone told us the AI race was over. That Europe🇪🇺 missed it. That you need $10B clusters and closed-source moats to compete. Then @LightOnIO's LightOnOCR-2 -1B parameters, open-source, running on a single GPU you can put on your desk- just beat OpenAI GPT-5 mini, Anthropic Claude Sonnet, Google Gemini 2.5 Flash, Zhipu GLM-4.5V, and DeepSeek-OCR on table extraction. The work that actually matters. Not Silicon Valley 🇺🇸 Not Shenzhen🇨🇳 Not Beijing 🇨🇳 Not Hangzhou 🇨🇳 From Paris🇫🇷 ...with love 💕 The race isn't over. It never was.

@sudoingX RTX 4080. Currently focusing on building "WebGPU app platform or some hobby project where I try to run different open source / our Finnish AI research models with WebGPU"

i just became a mod of x/LocalLLaMA. if you're running local models on your own hardware and want in, the community is open. pinned and highlighted on my profile. approving members starting today. drop your setup below and i'll get you in. 3060, 3090, 4090, 5090, AMD, whatever you're running. all welcome. if you're hitting issues with hermes agent, llama.cpp, model selection, configs, i'm here. let's make local AI accessible for everyone.

@0xSero @verdacloud

One correction I have had Sponsorships from Lambda, prime intellect and HotAisle Which I am very grateful for. But yes pls compute 🫡

@leerob Apology would have been great, this is not it. Same things happened with earlier models. Maybe third time is the charm. Already have been running CC besides Cursor both work and hobby projects. This is one step closer to ditching Cursor

Yep, Composer 2 started from an open-source base! We will do full pretraining in the future. Only ~1/4 of the compute spent on the final model came from the base, the rest is from our training. This is why evals are very different. And yes, we are following the license through our inference partner terms.

@Pellehyppaaja @aliomarFIN @Stickstrom Sehän toimii terminaalissa joita IDEjen sisällä voi toki ajaa tai sitten löytyy myös extension jolla saa samanlaisen kokemuksen kuin cursorissa keskusteluikkunan kautta. Hyvä combo!

@aliomarFIN @Stickstrom Saako Claude Code cursoriin?!? Miten tää on mennyt multa ohi 😳

En ole eläessäni koodannut mitään. Minulla ei ole mitään käsitystä miten sitä tehdään, miten edes aloitetaan tai millä ohjelmalla. Viimeisen kuukauden ajan olen vibe-koodannut viikonloput ja illat. En muista milloin olisin kokenut vastaavaa luomisvimmaa. Olen täysin ällistynyt siitä, mihin kykenen Claude Coden ja Lovablen yhteistyöllä. Yritän avata tätä tarkemmin. Olen luonut pari työkalua omalle alalleni, joista toinen on täysin uudenlainen ja uusi tapa ajatella digitaalista asiakaskokemusta. Sen on tarkoitus lähteä testikäyttöön oikeissa tilanteissa 1kk sisään. Toinen työkalu on korvaamassa Excelillä tehdyn kankean version, joka on yleinen standardi alallamme. Tästä työkalusta on olemassa samankaltaisia softia, joista pidämme, mutta ne maksavat satoja euroja kuukaudessa per käyttäjä. Meillä ei ole siitä syystä voitu näitä ostaa. Minä koodasin 5 tunnissa ekan version, joka on ihan oikeasti jo parempi meidän käyttötarkoitukseen. Tämä mennee liveksi parin viikon sisään meillä. Olen löytänyt todella hyvän tavan työskennellä: 1. Minulla on visio, näkemys ja tahtotila siitä mitä haluan luoda. 2. Jos olen tehnyt Lovablella jo ensimmäisen version tuotteesta, lataan koko sen koodikannan (vai mikä on oikea termi, index?) ja pyydän Claude Coden analysoimaan koodin laadun, turvallisuuden ja tekemään tuotteesta paremman. 3. Claude Code antaa mulle huippupromptit, jotka annan Lovablelle. Kun Lovable toteuttanut tehtävän, annan Lovablen kommentit Claudelle. Ja näin keskustelu etenee ja minä seuraan reaaliajassa kun tuote valmistuu. Claude Code valmisti sivuston infran sellaiseksi, että se on valmis ottamaan vastaan dataa meidän ERP-järjestelmästä ja teki ohjeet sitä varten. Laati myös security compliance -dokumentin Wordiin, jonka voin antaa asiakkaiden IT-osastoille ja jossa kerrotaan, miten järjestelmä on rakennettu. Huomenna istun alas meidän IT-vastaavan kanssa ja saan kuulla, että onko se koodi oikeasti laadukasta ja valmis asiakaskäyttöön. Claude sanoo että on. Haluan tietysti myös ymmärtää, onko security compliance -dokumentti riittävällä tasolla. Moni teistä tekee varmasti jotain vielä hienompaa, mutta minun on vaikea ymmärtää tätä henkilökohtaista kehityskaarta ja sen käyrän jyrkkyyttä. Uskomatonta. Ja ymmärrän nyt myös Pekkaa paremmin siinä, kun hän sanoi että softayhtiöihin ei voi tällä hetkellä sijoittaa tms. Samalla tämä on saanut pohtimaan asioita myös siltä kantilta, että mille ihmeen alalle minun tulisi kannustaa lapsiani suuntautumaan? En ole päässyt tässä ajatustyössä vielä kovin pitkälle. Kertokaa ihmeessä omista kokemuksistanne, jos on jotain jaettavaa!

@stefanopineda @karpathy Datacrunch/Verda is cheaper but atm out of capacity

@karpathy 8 x H100 config spot price on RunPod: $25.82/hr

I packaged up the "autoresearch" project into a new self-contained minimal repo if people would like to play over the weekend. It's basically nanochat LLM training core stripped down to a single-GPU, one file version of ~630 lines of code, then: - the human iterates on the prompt (.md) - the AI agent iterates on the training code (.py) The goal is to engineer your agents to make the fastest research progress indefinitely and without any of your own involvement. In the image, every dot is a complete LLM training run that lasts exactly 5 minutes. The agent works in an autonomous loop on a git feature branch and accumulates git commits to the training script as it finds better settings (of lower validation loss by the end) of the neural network architecture, the optimizer, all the hyperparameters, etc. You can imagine comparing the research progress of different prompts, different agents, etc. github.com/karpathy/autor… Part code, part sci-fi, and a pinch of psychosis :)

@AriPntinen @MartinPaasi @HeikkiKonttinen Nykyään AI:n avulla yleensä vähintään 5-10x nopeampaa tehdä (data)migraatioita

@MartinPaasi @HeikkiKonttinen Ei tuossa ole nauramista. Kuluja aiheuttaa satojen vanhojen ohjelmistojen integrointi ja datan konvertointi virheettömästi uuteen järjestelmään. Kelallakin on vanhimmat järjestelmät tod.näk. Kobolt-kamaa. Tämä kaikki pitää tehdä vielä vaiheittain niin, että kaikki toimii 24/7.

Yle ihmettelee kun kelan tekoäly uudistus maksaa 10v reilut 500 miljoonaa, ei käy kuitenkaan mielessä että yle tuhlaa samassa ajassa 5000 miljardia😄 Pikku rahoja sanoisi sosialisti.

@vontuchman youtube.com/watch?v=N_piE0…

Supertekoäly tulee, halusimme sitä tai emme. Luulen että suurin osa ihmisistä taistelee vielä halpojen tekoälymallien kanssa ja kärsii normaaliusharhasta*. #pekka *tai voihan se olla niinkin, että allekirjoittanut on lukenut liikaa skifiä... 🤷‍♂️

@edvpml x.com/timomj/status/…

@samielsvad @klaus_koo @petersarlin koodiklinikka.fi Slack / Agentics Finland Whatsapp ryhmät on missä on eniten keskustelua

@petersarlin? Monesti mietin että missä kaikki suomalaiset tech tyypit ovat. Täällä heitä ei näy eikä näy myöskään Linkedinissä tai Youtubessa. Noin vuosi sitten viimeksi näin täällä koodarin väittämässä että AI ei ikinä tule oppimaan koodausta. Se oli ainutlaatuinen kohtaaminen. Toivoisin näkeväni heiltä enemmän ulostuloja

Kuka suomalainen olisi paras asiantuntija puhumaan tekoälyn kehityksestä?

@klaus_koo Lower precision, mixture of experts, uudet attention mekanismit ja muut temput, parempi treenidatan käsittely, uudet RL menetelmät, pidempään mallien treenaus. Vielä kun otetaan tuo rautapuolen kehitys huomioon niin kehitys ollut huimaa

Musk väittää, että tekoälyn kehitystä aliarvioidaan rajusti. Hänen mukaansa ongelma ei ole vain laitteisto (enemmän GPU:ita, datakeskuksia, sähköä), vaan algoritmit. Sama tietokone voisi ohjelmiston kehityksen ansiosta olla 100x älykkäämpi ilman lisärautaa. Lisäksi rauta paranee koko ajan. Tällainen kasvu ylittää ihmisen intuitiokyvyn. Muskin mukaan emme ole matkalla kohti superälyä vaan olemme jo kiihtyvällä käyrällä sen sisällä.

@tuomaspeltomaki Tai ainakin nämä sellaisia missä itse vaikuttanut ja saanut touhuille vastakaikua

@tuomaspeltomaki Ainiin ja tuohon että missä keskustelua: Koodiklinikan(avoin slack yhteisö) koneäly kanava AI Nordics Discord (avoin) discord.gg/RgKVztg3xU Ja sitten ehken Agentics Finland Whatsapp ryhmät: Agentics Suomi ja Teknologia varmaan sellaisia

Kysymys, johon täällä ehkä joku osaakin vastata. Olen käyttänyt pari viikonloppua siihen että perehdyn missä open source -tekoälykehitys on meneillään, ja vääntänyt pari appia, jotka käyttävät llama.cpp, kokoro -tyylisiä malleja. 1/

@tuomaspeltomaki @tonistubin @aapo_tanskanen erilaisten puhujien suhteen ettei olisi yliedistavia tapoja/tilanteita jossa puhua. Toki tässä vielä se että datan halusin olevan avoimesti lisensoitua. Olisi auttanut jos Yle & Co olisi kerännyt "Lahjoita puhetta" aineiston avoimena tutkimussettinä eikä 5k€ lisenssin taakse.

@tuomaspeltomaki @tonistubin @aapo_tanskanen Kyllähän siinä oma työnsä on noita kaivaa ja prosessoida oikeaan muotoon, testata erilaisia menetelmiä suodattaa laadukasta dataa. Osa datasta on puheentunnistusdataa jossa täsmäävät litteroinnit. Osa synteettisesti luotua monivaiheisesti suodattaen. Myös tärkeää tasapainottaa...

@tuomaspeltomaki @tonistubin @aapo_tanskanen Avaatko tarkemmin millaisia käytännön ongelmia meinaat? Laatuhan ei aina ole timanttia mutta ihan hyvin lupaavan hyvin ainakin toimii. Pohjalla tuossa malli joka ilmaisee että olisi suomituki mutta ei se minua ainakaan vakuuttanut ja tuunaamalla parani ihan kivasti

@RasmusToivanen @tonistubin @aapo_tanskanen Okei kiinnostavaa! Ja hieno toteutus toi chatterbox. Pystytkö yhtään valaiseen, minkälaisia käytännön ongelmia tollasessa suomi-tts:ssä on? Tää on nyt idioottikysymys, mutta siis toimiiks toi niin että otetaan pohjalle joku valmis malli joka osaa suomea, sen jälkeen finetune?

@tonistubin @tuomaspeltomaki @aapo_tanskanen Tuossa linkki postaukseen ja esimerkkivideo samassa linkedin.com/posts/rasmusto…

@tuomaspeltomaki Keskustelutiloista en itse osaa sanoa, mutta @RasmusToivanen tai @aapo_tanskanen voisivat osata ohjata oikeille lähteille. Heiltä löytyy Huggingfacesta myös suomenkielinen TTS-proggis huggingface.co/Finnish-NLP/Ch…

@bingatupamaki Wolt jenkkeihin, Suunto kiinaan, Supercell kiinaan, Rovio saudeihin, Kotipizaa norjaan, Elektrobit saksaan, Rautaruukki ruotsiin, Vaasan ruotsiin, Rudus irlantiin, Taffel norjaan, Partioaitta ruotsiin, Silja viroon, Hackman ruotsiin, Oura jenkkeihin..