Мирослав

Кожен має право з чимось не погоджуватися. Якшо ти з цим не погоджуєшся, то ти мудак

@kolisnikm @marybezuhla Я саме про локальну модель питав, яка крутиться на Mac Mini

Знайомтесь, це Афіна) Назвала так. Наважилася на купівлю ШІ-комп’ютера для офісу. Перш за все, щоб обробляти дані за допомогою ШІ локально, без хмарних підписок. Цей комп’ютер недешевий, але безпека наших із вами даних має ціну, і всі, хто зі мною працюють, можуть бути впевнені, що в моєму офісі цінується конфіденційність, а особисті звернення громадян чи делікатні військові розробки та оновлення не зливають тихо в ChatGPT. Так, маю підписку, але вона мінімальна та обмежена. Останнім часом більше користуюся ШІ-сервісом від Proton. Він простіший за передових провайдерів, проте має зрозумілу політику і шифрування, схоже на те, як шифруються чати у WhatsApp чи Signal. Базується на LLM, великих мовних моделях ШІ, розміщених на серверах компанії. Тобто не має власної фундаментальної моделі, а використовує комбінацію доступних для широкої аудиторії рішень. Але для автоматизації та агентських функцій (це коли формуєш собі цифрового помічника з можливістю використання ним програм, даних та проактивної поведінки) він не підходить. Водночас вивчати та вникати в розвиток штучного інтелекту зараз треба всім. Це про вимоги часу та про те, що в недалекому майбутньому люди поділяться на тих, хто став модератором і керівником ШІ; тих, хто став залежним користувачем ШІ та підміняє ним функції свого мозку; тих, хто відстає, не маючи доступу до ШІ з різних причин; і тих, хто буде протистояти прогресу та опиниться в маргінальних популяціях, які вже зараз існують і свідомо не використовують автомобілі чи засоби мобільного зв’язку. Комп’ютер має процесор NVIDIA® GB10 Grace Blackwell Superchip із 128 гігабайтами об’єднаної пам’яті. Встановлена NVIDIA DGX OS на базі Ubuntu (Linux ❤️). Це проєкт Ubuntu on ARM — системи для ARM-архітектури, яку використовує і новий процесор NVIDIA. Він випущений як рішення для локального запуску ШІ, близьке за концепцією до процесорів Apple Silicon у MacBook та iPhone. І хоча провідні MacBook швидші (і дорожчі, до речі), але вони досі слабші для запуску великих локальних моделей ШІ та роботи з довгим контекстом. Простими словами: коли ви робите запит, далі йде обробка та «мислення» моделі, а вже потім ШІ вам відповідає. Відповідь може бути дуже швидкою, але, якщо ви бажаєте використовувати ШІ в дослідженнях та покращенні складних рішень, найважливішим є саме етап якості аналізу, «мислення». Даний мінікомп’ютер дає можливість використовувати доволі великий контекст (наприклад, опрацювати сотні сторінок), не втрачаючи його, і тримати планку якості. І все це локально. Також технології NVIDIA та інші дають змогу розгорнути автономного ШІ-помічника, натренувавши його на власних базах даних. Без зливання інформації в хмару. Шлях непростий. Ціна — як у потриманого автомобіля: офіційно обійшовся приблизно у 4 тисячі доларів. ❗Буду його декларувати. Та за цими технологіями майбутнє, і з помічниками їх освоюватимемо. Саме в напрямку усвідомленої роботи та модерації ШІ, а не сліпого споживання з порушенням принципів конфіденційності. Можливо, можна було знайти краще рішення. Так, хмарні Claude і ChatGPT сильніші, і їх треба досліджувати та використовувати. Та все ж у буремні часи науково-технічного стрибка і воєн спокійніше мати локальну платформу. Звісно, із системою резервного копіювання та дублювання даних, як без цього. Коротше, знайомтесь: це Афіна та маленький початковий звіт про неї, адже куплена на ваші податки й буде покращувати роботу вашого нардепа 🫡 Далі триматиму в курсі та ділитимусь враженнями.

@ternox фу яка фігня получаєцця

гарно показано чому багато сучасних аніме і фільмів втратили контрастність і чіткість картинки, а натомість все обмазано постобробкою, яка змішує усі кольори.

@CaptainGPU Хочу таке саме тільки для Autodesk Fusion

Цікаво. Інструмент просто крутий, особливо для створення пайплайнів та валідації контенту. Виглядає як цікаве рішення, подивимось наскільки це буде працювати в продакшені, але якщо це правильно використовувати, то результат можна отримати грандіозний.

@karpathy From a distance, this kinda looks like basic NotebookLM functionality, doesn’t it? 📔

LLM Knowledge Bases Something I'm finding very useful recently: using LLMs to build personal knowledge bases for various topics of research interest. In this way, a large fraction of my recent token throughput is going less into manipulating code, and more into manipulating knowledge (stored as markdown and images). The latest LLMs are quite good at it. So: Data ingest: I index source documents (articles, papers, repos, datasets, images, etc.) into a raw/ directory, then I use an LLM to incrementally "compile" a wiki, which is just a collection of .md files in a directory structure. The wiki includes summaries of all the data in raw/, backlinks, and then it categorizes data into concepts, writes articles for them, and links them all. To convert web articles into .md files I like to use the Obsidian Web Clipper extension, and then I also use a hotkey to download all the related images to local so that my LLM can easily reference them. IDE: I use Obsidian as the IDE "frontend" where I can view the raw data, the the compiled wiki, and the derived visualizations. Important to note that the LLM writes and maintains all of the data of the wiki, I rarely touch it directly. I've played with a few Obsidian plugins to render and view data in other ways (e.g. Marp for slides). Q&A: Where things get interesting is that once your wiki is big enough (e.g. mine on some recent research is ~100 articles and ~400K words), you can ask your LLM agent all kinds of complex questions against the wiki, and it will go off, research the answers, etc. I thought I had to reach for fancy RAG, but the LLM has been pretty good about auto-maintaining index files and brief summaries of all the documents and it reads all the important related data fairly easily at this ~small scale. Output: Instead of getting answers in text/terminal, I like to have it render markdown files for me, or slide shows (Marp format), or matplotlib images, all of which I then view again in Obsidian. You can imagine many other visual output formats depending on the query. Often, I end up "filing" the outputs back into the wiki to enhance it for further queries. So my own explorations and queries always "add up" in the knowledge base. Linting: I've run some LLM "health checks" over the wiki to e.g. find inconsistent data, impute missing data (with web searchers), find interesting connections for new article candidates, etc., to incrementally clean up the wiki and enhance its overall data integrity. The LLMs are quite good at suggesting further questions to ask and look into. Extra tools: I find myself developing additional tools to process the data, e.g. I vibe coded a small and naive search engine over the wiki, which I both use directly (in a web ui), but more often I want to hand it off to an LLM via CLI as a tool for larger queries. Further explorations: As the repo grows, the natural desire is to also think about synthetic data generation + finetuning to have your LLM "know" the data in its weights instead of just context windows. TLDR: raw data from a given number of sources is collected, then compiled by an LLM into a .md wiki, then operated on by various CLIs by the LLM to do Q&A and to incrementally enhance the wiki, and all of it viewable in Obsidian. You rarely ever write or edit the wiki manually, it's the domain of the LLM. I think there is room here for an incredible new product instead of a hacky collection of scripts.

@really_orinn Але слово "собака" і так жіночого роду. Для чого придумувати собачих?

Їбануті вже котів веганським кормом блядь кормити зібрались 🫠 Падруга, тебе не смущаєт в одному речені "пухнасті хижаки" і " веганський корм"?

@OleksandrKyiv @lia_iloveyou300 А про шо можна з малолєтками трахатись?

@lia_iloveyou300 Спільний секс, у вас буває спільний секс?

сорі, але я цього не розумію😭типу що може бути спільного у 50 річного чувака з 20 річною дівчинкою?

@EdwardTeachUA @Zn_Portnova Може ви Чак Норріс і у вас свої приколи, але проти ножа рипатись дуже ризиковано

@Nahasaki @Zn_Portnova Якщо Ви питаєте суто мою думку - то так, бо шансів вийти з ситуації неушкодженим і одразу викликати копів було багато 🤷🏻‍♂️

Тим часом у Польщі в неділю ввечері 32-річна пані напала з ножем на водія таксі – біженця з України. Хлопець віддав їй усі гроші, телефон, а згодом зміг втекти. Жінку заарештували за кілька годин.

@EdwardTeachUA @Zn_Portnova Так її зловили по факту. Хіба ризикувати бути підрізаним було б краще?

@Zn_Portnova Бляха, сюр, пише камера, в тебе вже буде доказ шо не ти напав, та йобнув би їй з локтя(стільки нагод було), забрав того «рєжика» і всьо..

@pan_nimec @Zn_Portnova Встрявати в пиздячку статистично дає менше шансів на виживання. Схопити нападника за сраку стратегічно вигідно пізніше, коли він цього не чекає. Чесний бій – хуйня

@Zn_Portnova В кожної людини свій вибір реакції на подразник: «бий або біжи» Якщо ти обираєш втікати- ти будеш втікати в усьому

@karaylo А є пруфи? Бо шось виглядає занадто дорого

🤖 Найпопулярніший тіктокер Хабі Лейм здав обличчя в оренду на 3 роки за $1 млрд Замість нього «пахатиме» ШІ-аватар: стріми та реклама 24/7 різними мовами.

@FOP_JSS Я колись користувався такою схемою, але правилом було вішати цей кабель на щиток і тільки тоді вмикати живлення від міста. Потім переробив на трипозиційний вимикач

С у к а

@thetrapperest @fiendenkommer Саме так

@Nahasaki @fiendenkommer Як саме це по-вашому працює? Гарантоване взаємне ШІ-наєбалово?

А яка ціль цього винаходу окрім як скамити пенсіонерів і різних відчайдушних тіпів і жінок? Ну типу, який бізнес може подібні речі використати законно для профіту? Генерованих картинок і відео це теж стосується.

@manbiitesdog Ніяких незворотних змін не буде

пацани від підігріву — яєць вашій репродуктивці настане пізда.

@Anna_Devinora @antonohaio а чого?

@antonohaio Єбануті… 🤡

В Неаполь на Новий рік не їздити ✍️

@katalina_ada @cl_crosshair @hulyneuley Коли відсікач вимикає світло в квартирі через значне відхилення від норми, то йдуть дивитись

@cl_crosshair @hulyneuley Я туди ніколи не дивлюся… Он де люде це бачать 😅

У Києві зафіксували зниження напруги в електромережі: замість нормативних 230 вольт – близько 205

@Gru_Sha_2 Цей собака закінчить життя, я сподіваюся. А хазяїн отримає великий штраф. Було б краще в тюрму

друзі, сподіваюся вам це ніколи не знадобиться, але просто відкладіть це десь в памʼяті як я колись щоб собака розімкнула щелепи, запхайте їй шось в жопу — ключ, гілку, та хоч палець дякую за увагу

Ця гра запускалась на Athlon 800 з 128Mb памʼяті

@monkDZO @GolLelouch Так не обовʼязково генерувати повну юзерсторі, очевидно шо ви з цим не працювали. Код генерується шматками, різні методи чи сутності. Або невеликі таски, яку зазвичай можна джуніору дати з детальним описом. Приклади промптів пошукай в інтернеті

@Nahasaki @GolLelouch задачу конкретну, будь ласка. хоч приблизно для чого конкретно тобі необхідно нагенерити "не тисячі" рядків котрі ти не можеш сам швидко накидати, але готовий витрачати цей же час на пояснення задачі ші + перевірку за ним.

Я зараз спитаю ДУЖЕ СЕРЙОЗНО, бо я не до кінця розумію тему: А хіба ВСІ великі розробники, при створенні відносно великих ігор а-ля Expedition 33 та інших, не використовують ШІ так чи інакше? Але умовно Sandfall не кенселять, а Larian за їх чесну відповідь винесли ногами🤷‍♂️