Space cowboy

@marybezuhla якщо користуватись агентами з OpenClaw AI, то можна з локальними моделями і не паритись -- це найгірше рішення, якщо в пріоритеті безпека даних... справді найпростіше рішення було б взяти мак міні з купою памʼяті, вийшло б дешевше за цю афіну і ті ж gpt-oss 120b запускались би

Третя і заключна частина про Афіну, комп’ютер на базі NVIDIA для ЛОКАЛЬНОГО ШІ. Афіну повернула. Причини: * сира прошивка; * повільна робота; * стаціонарний форм-фактор обмежує використання; * потребує щоденної опіки та налаштування, а отже, обізнаного персоналу або ж мого особистого часу, що не є профільним напрямком роботи; * як зазначала раніше, дрібниці, але російська мова та Telegram-бот, рекомендований для взаємодії з цифровим помічником, не радують; * водночас Linux on ARM-конфігурація обмежує у виборі альтернативного програмного забезпечення; * так, це Linux, але основна архітектура та особливості є закритою і належать компанії NVIDIA, а не open source; * співвідношення ціни та якості, враховуючи вищеописане та враження в попередніх публікаціях, не виправдане. Але не відмовляюся від ідеї сформувати локальну ШІ-інфраструктуру. Досвід дав можливість остаточно зрозуміти, що потрібно для мого офісу і які пріоритети. Дійсно, роботу з нечутливими даними, такими як законодавча та публічна діяльність, можна значно покращити з використанням хмарної архітектури, а для локального опрацювання залишаються деякі чутливі документи та звернення громадян, які можуть закрити простіші технічні рішення. Вивчаю, що можна організувати на базі AMD Ryzen AI (Strix Halo) або ж придбати Apple Mac Mini тощо як стабільний споживчий варіант. Триматиму в курсі. Дякую всім, хто відгукнувся, допоміг і проконсультував. Було дуже цікаво і багато чого прояснилося. Отже, нічого декларувати. Rozetka, дяка за терпіння.

@MacMalllow @marybezuhla в якийсь момент навіть Gemma 3 27B (яка навіть не reasoning модель) давала точніші класифікації. тому тут треба тестувати ці моделі під конкретні завдання і порівнювати між собою. Але звісно ці всі моделі дуже далеко від топових закритих моделей (навіть від gpt-5-mini)

@MacMalllow @marybezuhla Погана в порівнянні з чим? Тут же мова про локальний сетап не за всі гроші світу. Як відкрита модель OSS 120b показувала одні з найкращих результатів на внутрішніх тестах (англ, укр, рос - класифікація текстів з соц мереж; instruction following; застосування таксономій)

Отже, друга частина про Афіну, ШІ-комп’ютер на базі NVIDIA® GB10 Grace Blackwell Superchip. Зізнаюсь, півдоби присвятила вивченню та тестуванню. Поділюся спостереженнями і що далі. Зразу скажу: пишу власні враження, не є розробником, лише споживачем, проте і не зовсім новачок у роботі з Linux. Linux використовую як користувач ще з часів навчання в медуніверситеті, коли Windows не подобався, піратські програми й систему використовувати не хотіла, а макбуки не були поширені та доступні. Тоді сама через інтернет знайшла альтернативу та встановила Ubuntu на свій Dell. І хоча налаштовувати було незвично й складно, зрештою з того часу звикла і безперервно використовую Linux-дистрибутиви ВСІ ці роки. Далі з’явився перший MacBook, модель 2013 року. Але постійно і досі є один комп’ютер на Linux (зараз на прекрасній Fedora Kinoite), а один — Mac. Тож середовище було знайоме, і консоль (ввід команд без графічного інтерфейсу) не страшна, але все це лише на перший погляд. Адже в Афіни архітектура ARM, і кількість програм поки що дуже обмежена, а нюансів багато. Та спочатку про безпеку та позиціонування. Система не має української локалізації, окрім англійської тим не менше є повна підтримка російської мови… Дивно. Звісно, вибрала англійську. На робочому столі вас зустрічає посилання на сайт з інструкціями для встановлення цифрових помічників, навчання моделей тощо. Так от, для налаштування взаємодії з цифровим помічником пропонують… Telegram. Так, в офіційній інструкції NVIDIA пропонують підключити NemoClaw до Telegram-бота. Як розумію, система не дає можливості встановити користувацьке шифрування, як це можна зробити у звичайних дистрибутивах, зокрема якщо взяти не настільки прив’язану до екосистеми NVIDIA платформу, а AMD Ryzen AI Max+ 395 з 128 гігабайтами пам’яті, але на звичній архітектурі x86-64 (це класичний варіант чіпа, на який можна встановити будь-який Linux і Windows). Розробники покладаються радше на вбудоване апаратне шифрування накопичувача, але воно майже не піддається контролю з боку користувача. Можна окремо після первинного налаштування зашифрувати диски вручну, але ще не пробувала цього робити, і, за відгуками, то доволі проблемно. Отже, попри орієнтацію на локальну автономну AI-інфраструктуру, вже є кілька моментів щодо безпеки. Прошивка в Asus Ascent GX10 модифікована порівняно з нативною і ще має ряд проблем. У мене комп’ютер один раз не запустився просто так. На форумах радять перепрошити компʼютер на оригінальний варіант від NVIDIA, але доступ до UEFI/BIOS (це базове середовище керування комп’ютером до запуску ОС, де можна, наприклад, вибрати диск для завантаження) з помилками і моя спроба поки була невдалою. Із хорошого. Це мініатюрний комп’ютер розміром із маленький Wi-Fi-роутер чи пів книжки. Він тихий, шум ненав’язливий, стабільно тримає навантаження і дає змогу працювати з великими локальними моделями довго, без перегріву й без різкого падіння якості опрацювання контексту. Так, для початку я завантажила GPT-OSS-120B. Це локальна велика мовна модель (LLM) від розробників ChatGPT на 120 млрд параметрів. Як вже писала, що значать ці характеристики? Сотні сторінок аналітичної обробки в рамках одного чату без різкого падіння якості тощо. Я тестово завантажила 16 документів по кілька десятків сторінок кожен, які містили публікації на тему військової реформи, складні за змістом. GPT-OSS-120B все «переварив», зробив узагальнення, відповідав на специфічні питання тощо. Далі попросила створити сайт і отримала сотні рядків коду без зависань. Швидкість обробки була посередня: умовно, поставила завдання і пішла заварювати чай. Але, як писала вище, якість опрацювання контексту рівномірна. Модель не збивалася, не повторювалася, надавала рівні відповіді однакової якості — що на початку, що в кінці чату. У людини такий обсяг роботи зайняв би не 30 хвилин, а пару днів. Загалом, компʼютер розрахований, що можна створити ланцюжок послідовних автоматизованих завдань і отримати результат за кілька годин опрацювання, наприклад. Весь цей час він буде працювати на одному рівні продуктивності за умови стабільного електропостачання, звісно. Бачу також, що він гарно може бути в тандемі з обізнаним фахівцем у варіанті повного дня зайнятості обох. Людина як модератор, ШІ-компʼютер як виконавець-помічник. Адже. Щоб налаштувати навіть елементарні операції, вам все треба писати через консоль на кожному етапі базового запуску: просто завантажити сервіс Ollama для локального ШІ, завантажити модель, встановити графічний інтерфейс, який виглядає як чат у браузері Firefox (так, хто не звик до нього, ще один момент: багато інструментів тут працюють через браузер Firefox, а вибір альтернативи обмежений; мені було добре, бо Firefox маю як основний браузер з моменту його появи, і я ніколи його не змінювала, були й є додаткові, але основний завжди він). Компʼютер видає якісь помилки, неточності, потребує уточнення на форумах NVIDIA, Reddit тощо і… звісно, допомоги хмарних ШІ як ІТ-консультантів для розгортання інфраструктури:) Ще кілька днів протестую і остаточно визначуся, чи залишати Афіну. Треба не забувати про баланс часу, зусиль, коштів і результату. ❗Буду рада коментарям від фахівців і порадам, адже є ще варіанти взяти рішення від Apple чи AMD, а це повернути тощо. Чи уживатися з Афіною і поступово виліпити з неї, що треба (тоді повністю її перепрошиватиму). P.S. Зразу виникли думки, що така несподівана підтримка російського може бути про деяку співпрацю в корпоративному середовищі і про використання технологій задля побутови локальних рішень та обхід санкційного, безпековго обмеження хмарних підписок… Бентежно. Чіп та операційна системи американські. P.P.S. Це все не реклама, а осбистий досвід, і як бачите, не хвалю) Ділюсь. Сподіваюсь, комусь буде корисно.

@marybezuhla Потім можна буде відфільтрувати чанки на основі анотацій і працювати лише з ними. Це по суті вирішує проблему з контекстом загалом. Бо в цих великих документах швидше лише частина є потрібною для завдання, а не увесь документ

@marybezuhla Ollama також має API окрім веб-чату. Для великих документів можна спробувати розбити їх на менші шматки (chunking), далі проанотувати ці шматки через API, таким чином кожен чанк буде містити ту попередню інформацію, яка треба, плюс це буде швидше (бо контекст менший)

@PabloBablo123 @SoundOfCore знайома історія: збільшую навантаження, техніка починає погіршуватись, опиняюсь в нетренованій слабкій позиції -- затискає поперек. для мене рішення -- це робити безліч вправ для покращення постави, укріплювати слабкі мʼязи, працювати над технікою. і тоді збільшувати навантаження

@SoundOfCore В моєму випадку навпаки, як тільки хочу трохи більше прогресу і збільшую навантаження, стара травма спини вилазить і мінус тиждень два нормального життя, не тільки тренувань…

Писав пост про те, що спина менше стала боліти, але тренуюсь жорстко, але кому воно треба, блять. Видалив 😁

@iskrovska @DenysovSer23936 і звісно це має робити нормальний фахівець, який на те вчився, а не дурачок якийсь. але це стосується будь-чого, не лише мануальної терапії

@iskrovska @DenysovSer23936 в цьому є сенс - треба закачати слабкі мʼязи і тоді нічого заклинювати не буде. але в момент коли заклинило звісно що мануальна терапія допоможе знову вільно рухатись (але це не озн, що проблема не повториться знову)

Приходив костоправ з медроти, хрускав хлопців. Зараз кажуть "ой, таке тепло і запаморочення" Я ледве стримуюсь, щоб не сказати, що тепло то посттравматичне запалення а про запаморочення краще взагалі не припускати...

@6hendOleksandr @iskrovska можна не йти, пити міорелаксанти і знеболювальні, тижні за два умовна затиснута шия відпустить. А можна піти до мануальщика, який все пофіксить за один прийом і далі просто робиш лфк. Може й фізіотерапія теж буде маячня? дивні тейки

@iskrovska Походу ця маячня ніколи не закінчиться. Мене до сих пір дивує, що люди кажуть я краще до мануальщика піду.

@breakingUAnews Стидоба за могилянку

❗️Всі повинні бути в країні: українці не мають вступати на навчання за кордон, це поганий варіант, наші університети дають якісну освіту, — директор Могилянки Квіт

@Ollie_Rollie01 затінок менш вживаний ніж тіньок (Полтавщина) - не знаю, чи це той варіант, який треба, але зразу спав на думку

А українською є пестливий варіант слова тінь? Бо в мене в голові є старе росмовне "тєньочек", але не знаю чи українською можливий варіант "тіньочок". Ото думаю, а чи є в українській таке слово🤔

@u_look_younger Так ну все ж просто. Вони ж найрозумніші, а ще в ідеалі треба дати дозвіл тільки їм, вони б точно знешкодили терориста. А іншим не треба давати: вони дебіли в атб в черзі б мазахи зброєю. Все крутиться навколо них. Звідти і такі тейки

на щастя це не працює так шо чого хоче степаненко того хоче бог одна людина може мать безкінечні заслуги але вирішувати все ще буде громадянське суспільство

в мене є вкрай неприємний тейк шо обдирання сакури і небажання відмовлятися від володіння стволом попри всі аргументи і цифри мають один корніь а саме ставлення до всього в житті як до ресурсу який має тобі щось дати зараз і тебе не дуже цікавить які це матиме наслідки для інших

@chovnovyi Коли відбувається масова поплава і все клеймують рускім, такі статті як ніколи потрібні

Цієї статті взагалі не мало бути. Вона виглядає як виправдання більшості українців...за свої традиції. Виправдання перед тими, хто далі свого хутора і містечка не цікавився Україною і тими, хто звернув увагу українську культура тільки нещодавно Лінк: kunsht.com.ua/articles/yiza-…

@rio_in_de 100/100 ist krass

ゲーテC2受かった😭🈴！ まだまだ知らない単語もたくさんあるけど、ひと段落！

Приниження людської гідності. Гидота яку неможливо виправдати

@DeanTTraining Gym maturing is realising people have different goals, and for some, deadlifts is the right exercise

Gym maturity is realizing you don’t have to do Deadlifts AT ALL You can just do 45° Extensions and get all the pros of a Deadlift with NONE of cons How is it 2026 and so many people STILL haven’t figured this out yet???

@uriuriuriknopka @totya_likar Типовий користувач відкриє чатджпт і запитає максимально загально. Краще орієнтуватись на такі випадки ніж на кращий сценарій

@totya_likar А давайте із перплесіті порівняєм, або краще також із діпсіком. Якщо детально виписане завдання — відповіді різняться.

Покажу вам звичайний приклад чату GPT, як він лікує і чому мені, як лікарю, це не подобається. Так, він може дати мінімальні базові знання, проте довіряти йому на 100% не раджу. Ось приклад - у дитини перфоруючий отит. Для мене - це часте звернення. Що радить батькам GPT?

@ictopyk Так може проблема в піратстві? Не було б проблем, ніхто б проект не закривав би

Якби велика бібліотека згоріла, то про це б усі газети написали і телеканали дискутували. Але коли зникає електронна бібліотека, то таке враження, що начебто нічого і не сталося, якби її, начебто, ніколи і не було. Майбутні археологи точно нічого не знайдуть. Сумно.

@frau_cheliak Це і є журналістика, коли доводиться ставити незручні справедливі запитання. Які більшість чути не хоче. Дякую за матеріал

Я з дитинства мріяла бути крутою журналісткою. Лізти на пролом, доносити правду. Я десь зараз наближаюся до цієї точки. Але є інша сторона, коли дуже близькі люди пишуть дуже несправедливі слова, що я зневажаю армію. А я просто виконувала редакційне завдання.

@oliviscusAI Is it any accurate?

someone just open-sourced a tool that converts pdfs to markdown at 100 pages per second. 100% free. runs entirely on cpu. no expensive gpus needed.