Adam Pardyl

We are presenting "Universal Properties of Activation Sparsity in Modern Large Language Models" at ICLR 2026! We ask a simple question: how sparse are modern LLMs, really — and does it matter? 👇

✏️ 🎓 Check out the ML Summer School on Reliability & Safety! Co-organised by ELLIS Unit Warsaw, @JagiellonskiUni, @GMUMJU, @MLinPL and IDEAS Research Institute. Open to PhD students, postdocs, & industry scientists. 📍 Kraków 🇵🇱 📅 Jun 29-Jul 3 🔗 mlss2026.mlinpl.org

@grok @mickel_25 @ELLISforEurope @JagiellonskiUni @GMUMJU @MLinPL It’s on the registration page, 350 EUR academia, 700 EUR industry

@mickel_25 @ELLISforEurope @JagiellonskiUni @GMUMJU @MLinPL The official site (mlss2026.mlinpl.org) doesn't list fees or funding details yet. Registration is open with early-bird until March 8, 2026. For specifics, contact organizers via the site or email infomlinpl.org. Updates may come soon!

🚀New preprint: “SpaRRTa: A Synthetic Benchmark for Evaluating Spatial Intelligence in Visual Foundation Models”. Do vision foundation models really understand where objects are relative to each other—or just recognize what they are? 🧭🤖 🧵 [1/8]

Read more at: flysearch.gmum.net

I'm at #NeurIPS 2025 in San Diego this week! I'll be presenting FlySearch on Friday, 4:30 PM PST, Exhibit Hall C,D,E #4410 - stop by and say hello. And if you’d like to meet for a quick coffee during the event, feel free to DM me - always happy to connect!

📄 Explore the paper: 👉flysearch.gmum.net Massive thanks to the amazing team: Dominik Matuszek, Mateusz Przebieracz, @marek_a_cygan, @BartosZielinski, @maciejwolczyk See you at #NeurIPS! @GMUMJU @IDEAS_NCBR @JagiellonskiUni @UniWarszawski @NCN_PL Sonnata bis [7/7]

The performance gap vs. humans grows with difficulty - over 10x gap at our toughest evaluation set. Even the latest models such as GPT-5, Gemini 2.5 Flash, or Claude 4.5 Sonnet can't solve it. And that gap is where progress happens. 🚀 [6/7]

Your VLM / MLLM can solve your maths homework, but can it spot a fire in the middle of a street? Meet FlySearch - our benchmark for goal-driven exploration. #NeurIPS2025 [1/7]

Miło mi poinformować, że dzisiaj dostałem powołanie na dyrektora Instytutu Badawczego IDEAS (przez ostatnie 6 miesięcy byłem p.o. dyrektora). Mam nadzieję, że uczynimy Instytut IDEAS wiodącą instytucją europejską w dziedzinie SI. Natomiast, w czasie pierwszych 6 miesięcy: - otworzyliśmy 13 grup i zespołów badawczych, - przenieśliśmy ELLIS Unit do Instytutu Badawczego IDEAS, - opublikowaliśmy kilka naście prac na konferencjach rangi A* (200 punktów ministerialnych), - złożyliśmy aplikację grantowe na ponad 50 mln PLN, - nawiązaliśmy współpracę nad projektami SI z przedstawicielami urzędów, - zorganizowaliśmy konferencja ELLIS Doctoral Symposium z udziałem ponad 170 gości z całego świata.

Mamy to! 🫶 dziękujemy wszystkim, bez których nie udałaby się ta walka o polską naukę i postaramy się nie zawieść oczekiwań! 🚀 Bierzemy się do pracy @piotrsankowski ! cc @boleslawbreczko @TrajektoriaAI @Przegaa @kawecki_maciej @jarokrolewski @sylvcz @PiotrRMilos @maciejwolczyk

(1/n) Introducing Joint MoE Scaling Laws: Mixture of Experts Can Be Memory Efficient We show that MoE is so compute-efficient that, under the same memory budget, it can beat a dense alternative!

🚀 What happens when you modify the spectrum of singular values of the merged task vector? 🤔 Apparently, you achieve 🚨state-of-the-art🚨 model merging results! 🔥 ✨ Introducing “No Task Left Behind: Isotropic Model Merging with Common and Task-Specific Subspaces”

Self-supervised Learning with Masked Autoencoders (MAE) is known to produce worse image representations than Joint-Embedding approaches (e.g. DINO). In our new paper, we identify new reasons for why that is and point towards solutions: arxiv.org/abs/2412.03215 🧵

7⃣ researchers and 7⃣ co-authored posters – that was IDEAS NCBR at @eccvconf 2024 in Milan. 👨‍💻📜 @SebastianCygert @danie1marczak @apardyl @grypesc @dmnsjk @btwardow @BartosZielinski ➡️ ideas-ncbr.pl/en/6-1-posters…

Przede wszystkim chcę zacząć od słowa: dziękuję. Tym, którzy tak licznie zaangażowali się we wsparcie dla mnie, mojego zespołu, tego co robiliśmy i bardzo chcemy robić nadal. @IDEAS_NCBR to projekt, w który zaangażowałem się aby budować AI w Polsce. Po to aby kluczowe dla rozwoju nauki rzeczy działy się tutaj, a nie za “wielką wodą” i przy udziale wszystkich osób, mogących realnie wspierać aspiracje Polski w tym zakresie. Założeniem IDEAS było i jest tworzenie wspólnej płaszczyzny dla tych, którzy chcieli tworzyć polskie rozwiązania w obszarze AI i uczenia maszynowego oraz wspierać badaczy w tym obszarze. IDEAS wspólne z uczelniami kształci młodych naukowców: w uczelniach robią oni doktoraty, jednocześnie w ramach IDEAS pracują w zespołach nad dodatkowymi projektami badawczymi umotywanymi zastosowaniami, co miało ich zachęcić do pozostania w Polsce. IDEAS zachęciło i zachęca czołowe polskie i zagraniczne nazwiska do prowadzenia i pracowania w tych zespołach w Polsce, tworząc wzorowany na najlepszych wzorcach model komercjalizacji, przez spółki spin-off, z aktywnym udziałem twórców. Z biznesem rozpoczęło wzorcową pracę nad projektami zmieniającymi całe branże. Założenia te były wynikiem szerokich konsultacji, zaś ich realizacja spotykała się z aprobatą naszych interesariuszy: nauki i biznesu w kraju i za granicą. Zawsze o tym mówiłem, że bardzo bym chciał, aby naukowcy mieli szansę pracować w Polsce nad pionierskimi badaniami i także przyjeżdżali do Polski w tym celu. Ten cel nigdy nie był łatwy, a nasza organizacja od początku mierzyła się z wieloma wyzwaniami. Mimo to udawało nam się żeglować w taki sposób, aby ten nasz wspólny okręt nie dał się sztormom i szkwałom. Przede wszystkim dlatego, że wspólnie wierzyliśmy i realizowaliśmy idee IDEAS. To ogromna praca, wiele nieprzespanych nocy oraz niezliczona liczba rozmów, a przede wszystkim zapewnień partnerów, że organizacja, którą tworzymy jest stabilna. Bez tego nie byłaby w ogóle możliwa współpraca badawcza z wiodącymi firmami technologicznymi, takimi jak Amazon, Snowflake, xAI, ani konstruktywnej współpracy edukacyjnej z 11 polskimi ośrodkami naukowymi. IDEAS to naprawdę nie był łatwy projekt, ale się udało i osiągnęliśmy bardzo wiele. Przede wszystkim nasza instytucja została trwale wpisana w międzynarodową tkankę badawczą skupiającą najlepsze instytucje na świecie i w Europie, np. ELLIS, ADRA, projekt ELIAS, a także liczne inne projekty badawcze, np. NCN, czy ERC i to wszystko w zaledwie trzy lata od początku tej instytucji. Spływające ze świata głosy wsparcia nie są przypadkowe i wyraźnie potwierdzają jakość wykonywanej przez nas pracy. Właśnie dlatego tak doskonali naukowcy zajmujący się AI i uczeniem maszynowym jak Marcin Moskalewicz, Bartłomiej Twardowski, czy Przemysław Musialski wrócili po wieloletnich pobytach za granicą do Polski wierząc, że jest długofalowa szansa na budowanie swojej kariery naukowej właśnie tutaj. Dla mnie osobiście najsmutniejszym momentem jest ten, gdy usłyszałem od nich, że ponownie rozważają wyjazd z Polski. Ostatnie miesiące naszej działalności nie należały do najłatwiejszych, choćby uniemożliwianie nam podpisana okupionych wielomiesięczną pracą i wynegocjowanych umów z wybitnymi badaczami zagranicznymi, posiadaczami prestiżowych grantów Europejskiej Rady Naukowej (ERC), którzy byli gotowi przyjechać do Polski. Dlaczego poprzez niezrozumiałe i nagłe odchodzenie od działających strategii tak efektywnie zniechęcamy najlepszych badaczy do pracy w naszym kraju, który w tym samym czasie odnosi tak ogromne sukcesy ekonomiczne? Czy naprawdę w momencie gdy staliśmy się krajem wysoko rozwiniętym, nie stać nas na zatrudnianie najlepszych naukowców na świecie aby prowadzili badania dla nas? Tylko dzięki globalnym innowacjom, właśnie takim jakie robiliśmy w IDEAS NCBR, polska gospodarka będzie się dalej szybko rozwijać. Wszystko w IDEAS NCBR robiliśmy zgodnie z przepisami, cała nasza działalność jest od samego początku transparentna i przemyślana. Przedsięwzięcie zostało przygotowane w uzgodnieniu z Narodowym Centrum Badań i Rozwoju przy aktywnym głosie Ministerstwa Nauki i Szkolnictwa Wyższego. Zostało zaplanowane w perspektywie wieloletniej, a strategia została pozytywnie zaopiniowana przez Radę Narodowego Centrum Badań i Rozwoju, w której skład wchodzą przedstawiciele ministerstw i świata nauki. Realizacja i aktualizacja strategii oraz działania taktyczne były przygotowywane i realizowane pod nadzorem Narodowego Centrum Badań i Rozwoju i członków wybitnej Rady Naukowej IDEAS. Realizowane przez nas prace były zgodne z tymi planami i ramami, co widać po wynikach audytu przeprowadzonego na początku roku w spółce, czy wynikach innych zewnętrznych corocznych kontroli, jak również z corocznie udzielanymi absolutoriami z naszej działalności. Dbaliśmy o najwyższe standardy komunikacji, współpracy międzynarodowej i promocji nauki poprzez organizację wysokiej jakości eventów takich jak chociażby spotkanie z Samem Altmanem. Wszystko to robiliśmy z troską o Polską naukę i potencjał pracujących tu naukowców. Staraliśmy się również współtworzyć i wspierać scenę startupową. I pomimo trudności, czasem nawet wpadek, działaliśmy i zmienialiśmy oblicze polskiej nauki. To wszystko działo się dzięki niezwykłemu zaangażowaniu wszystkich pracowników, elastyczności organizacji i naszej wierze w to, że można zbudować w Polsce instytucję naukową na światowym poziomie. Jedyne czego potrzebujemy, to móc ten projekt kontynuować.